同一批任务，登录服务器时看到GPU利用率接近满载，实际推理速度却只有预期的一半；短时测试成绩正常，连续运行十几分钟后频率下降、延迟明显增加，也是常见的运维场景。要判断这究竟是算力不足、虚拟化切分、显存争用，还是散热与PCIe链路造成的瓶颈，不能只看一张跑分截图，而要把压力、显存、温度、功耗和总线状态放在同一条证据链上核验。
如果你正在选机器，或者想先把线路和配置跑通再谈长期方案，可以先看看这几家的线路说明和技术参数：aaitr（AI云基础设施），先看清带宽线路、流量策略和退款条款，再决定要不要迁。
GPU算力基准应使用固定模型、固定批量和固定输入长度，先记录空载参数，再进行持续计算压测。短时峰值只能证明设备能完成一次工作，不能证明能长期维持性能。观察压测期间的核心利用率、SM占用、显存分配量和进程列表：单任务运行时利用率长期稳定，且没有其他计算进程，通常接近独占；若利用率忽高忽低、显存频繁换页，则可能存在资源争抢。
显存校验要另做一组工作。逐步增加输入长度和批大小，同时记录显存占用、读写带宽与错误计数。若显存容量随批大小线性增加且结果可复现，说明分配路径正常；若报显存不足、出现校验错误或突然回落到系统内存，需排查虚拟GPU的内存映射与调度策略。启用MIG实例隔离的服务器，还应进入实例视图确认每个分区可见的显存数量、计算实例和活动进程，避免把“实例空闲”误判成整卡空闲。
压测开始后应持续采样温度、功耗、核心频率、显存频率及利用率。重点不是单点温度，而是观察温度上升后是否同时出现功耗触顶、频率下降和性能曲线回落。若温度长期贴近上限，或风扇转速无法跟随负载提升，属于散热限制；若功耗稳定在设定上限、频率随负载降低而下降，则可能是平台设置了较严格的持续负载降频策略。
PCIe检查可从链路速率、最大宽度、当前带宽和重试错误入手。主机与GPU之间若协商到较低代际或缩减后的通道宽度，批量数据传输会被限制；检查结果还应与计算压测分开验证，因为纯计算任务可能掩盖传输瓶颈。实际排障时，可用ServLlama记录同一模型在短时与持续负载下的吞吐、延迟和资源曲线，再将结果与监控数据对齐，但不要用它替代底层链路检查。常见误区是只比较平均帧数，忽略预热时间、缓存命中、CPU预处理以及并发任务差异，这些因素都会制造与GPU无关的“性能差距”。
虚拟化环境不能只看驱动是否加载。先用 lspci -nn 核对物理 GPU 的 PCI BDF、设备 ID 和修订号，再与 nvidia-smi -L 输出中的索引、UUID、显存逐项对应。BDF 缺失、UUID 重复或规格被改写，通常说明容器只透传了部分设备信息。vGPU 还应核对 SR-IOV、PCI passthrough 或 vGPU profile，确认虚拟机 UUID 与宿主机分配记录一致，避免将宿主机整卡误判为实例独占资源。
启用 MIG实例隔离 时，先用 nvidia-smi mig -lgip 查看实例，再以 nvidia-smi mig -L 核对 MIG UUID、计算实例和显存实例的 profile。让两个隔离实例同时执行同一计算任务，确认结果一致、显存不越界、错误不串实例。MIG 的隔离边界由 profile 决定，并不等于获得独立 PCIe 链路，也不能保证所有片上资源完全无争用，因此必须进行并发测试，不能按可见设备数量直接估算性能。
检查 PCIe链路瓶颈 时，应分别验证主机侧与卡间侧。用 nvidia-smi topo -m 判断连接属于 PHB、NODE 还是 SYS，并通过 nvidia-smi --query-gpu=pcie.link.gen.current,pcie.link.width.current 记录链路速率和宽度；再用带宽工具分别测试 Host-to-Device 与 Device-to-Device。若算力成绩正常而数据搬运明显偏慢，问题往往位于 PCIe、NUMA 拓扑或主机内存复制。测试前应绑定 CPU、内存和 GPU，并启用锁页，避免跨节点访问及 pageable memory 造成假性低分。
持续负载降频 必须通过长时压测暴露。预热后固定 batch、精度与输入尺寸，连续采集温度、功耗、SM 和显存时钟，同时记录 Throttle Reasons。若吞吐随着 SW Power Cap、HW Slowdown 或 Sync Boost 出现而下降，说明功耗上限、散热条件或时钟策略已经介入。测试还应覆盖默认功耗与限功率配置，因为短时 GPU算力基准 只代表峰值，不能证明持续运行能力。
最终按此清单验收：核对 PCI 设备与 UUID；确认 vGPU 或 MIG profile 及隔离效果；记录 PCIe 宽度、速率和拓扑；分别测试算力、显存带宽、PCIe 带宽与双卡互传；执行不少于 30 分钟的并发持续负载；对照空载、满载时的时钟、温度、功耗、错误计数和业务吞吐。保存命令输出、运行配置、驱动版本及监控曲线，只有各项指标在目标并发量下保持稳定，才能认定 GPU 算力真实可用，而非仅仅设备可见。
