Питание и охлаждение AI-станции
TDP карт нельзя просто сложить и выбрать блок питания ровно на получившееся число.
К суммарному лимиту GPU добавляются CPU, память, накопители, вентиляторы и переходные пики. Практический запас зависит от качества блока питания и характера нагрузки.
Длительный инференс и обучение создают постоянную нагрузку, в отличие от кратких игровых сцен. Проверяйте температуру памяти, hotspot и отсутствие thermal throttling.
В multi-GPU-системе верхняя карта часто получает горячий воздух от нижней. Нужны направленный поток, расстояние между картами и контроль кабелей питания.
Power limit может заметно улучшить энергоэффективность с небольшой потерей скорости. В benchmark обязательно фиксируйте установленный лимит.