大模型服务器能否稳定运行，不只取决于计算卡和模型配置。上线前若没有核实机房制冷能力、供电余量和数据访问边界，可能出现温度告警、意外断电或资料泄露。建议把验收拆成三条线：先确认设备负载，再验证保护措施，最后通过模拟运行检查告警是否有效。
先把散热路径查清楚
高密度服务器持续运行时，电能最终大多转化为热量。估算时可先按设备铭牌功率合计：每 1 千瓦热负荷约为 3412 BTU/h；这只是换算值，实际制冷需求还要考虑空调效率、机房其他设备和进风条件。不要只看空调标称制冷量，还要确认冷风是否能到达服务器进风口。
检查机柜与气流
- 记录每台设备的进风、出风方向和额定功耗，核对机柜是否存在冷热风短路。
- 观察前门进风、后门排风是否被线缆、封板或相邻设备阻挡；空闲机位可使用盲板减少回流。
- 在设备进风侧和排风侧分别测温，并查看管理界面中的风扇、处理器及加速卡温度告警。
- 确认空调故障、温度升高时由谁接警、谁有权限降载或关机，并做一次告警演练。
热通道、冷通道隔离有助于减少冷热空气混合，但并不能替代实测。若只有少量设备，可先优化机柜内气流；若多台高功耗设备集中部署，则应让机房运维人员评估制冷余量和气流组织，避免仅凭房间平均温度判断安全。
供电按持续负载核算
大模型服务器的功耗会随推理并发、训练任务和硬件利用率变化。核对时应以设备铭牌、厂商配置资料及实际运行数据为依据，不能用待机功耗代替持续负载。机柜总功耗还应计入交换设备、存储和其他配套设备，并为扩容留出余量。
从电路到 UPS 逐项确认
- 电路容量：由电气人员核对电压、相数、断路器额定值、线缆规格和接地情况。三相供电还要检查各相负载是否均衡；不要自行更换更大规格断路器来解决跳闸。
- PDU：确认插座类型、额定电流和支路负载，避免多台设备集中接在同一支路。带电流监测的 PDU 可帮助识别负载变化，但需核对监测读数与电路容量。
- UPS：按负载功率和要求的续航时间选型，检查电池状态、旁路路径和告警通信。UPS 只能争取安全切换或关机时间，不能代替长期供电保障。
上线前可按计划负载运行一段观察期，记录服务器与 PDU 的功率、温度和告警。运行时长应结合业务负载、机房条件及运维安排确定；出现电流持续接近支路限制、插头发热或 UPS 频繁告警，应先停下扩容并排查。
把数据安全落实到上线流程
先画出数据路径：模型文件、用户输入、检索资料、日志和备份分别存在哪里，哪些组件可以读取。大模型服务器处理的内容可能包含业务资料或个人信息，不能因为设备位于内网就默认安全。
- 清点管理账户和服务账户，取消默认口令与不必要的远程入口；按岗位授予最小权限，并启用多因素认证（系统支持时）。
- 为管理流量和业务流量划分访问范围，限制可连接的来源地址；检查远程维护通道、密钥及防火墙规则。
- 对传输中的敏感数据启用加密，对磁盘或备份介质中的敏感数据采用适合环境的加密措施，并妥善保管密钥。
- 设置日志留存范围和访问权限，避免把口令、密钥或完整敏感内容写入日志；定期抽查访问记录。
- 执行备份恢复测试，确认模型文件、配置和业务数据的恢复步骤可用；设备退役或更换介质时，按组织的数据销毁流程处理。
上线前验收清单
将核对结果留档：设备功耗与机柜余量、进出风温度和告警阈值、供电回路与 UPS 状态、账户权限、加密范围、备份恢复结果及故障联系人。由设备负责人、机房运维和数据负责人共同确认后，再逐步开放服务。这样，大模型服务器出现温升、断电或异常访问时，团队才有明确的处置依据。
常见问题
机房温度正常，为什么还要测服务器进风口？
房间温度不能反映机柜内部的冷热风回流。进风口测温更接近设备实际吸入空气的状态。
有 UPS 是否可以不做断电演练？
不可以。应验证 UPS 告警、旁路和安全关机流程；具体测试方式需由运维人员结合业务连续性要求安排。
模型数据放在内网，还需要加密吗？
仍应评估设备丢失、介质更换、账号误用和内部访问等风险，再确定传输与存储加密范围。
归根结底，大模型服务器上线前要把散热、供电和数据安全逐项验证，并留下可复查的记录；只要任何一项仍依赖猜测，就应先补齐测试再开放服务。
