Как устроен ЦОД для ИИ на 3 200 NVIDIA H200
ВХОД В ВИРТУАЛЬНЫЙ ЦОД → https://anxb.ru/cod/ Что внутри ЦОД для ИИ на 3 200 NVIDIA H200 и сколько он стоит? В виртуальной модели собираю 400 серверов в 100 стоек. Смета этой конфигурации выходит примерно на $255 млн. Разбираю сервер от блоков питания и SSD до сети между ускорителями. Показываю, сколько пользователей может обслуживать стойка в моём примере, и сравниваю 5 МВт нагрузки ЦОД с мощностью Жигулёвской ГЭС. Закадровый голос Кирилла и фоновая музыка созданы с помощью ИИ. 00:00 Сколько стоит сервер для ИИ 00:44 Корпус и блоки питания 02:33 Процессоры и оперативная память 03:32 SSD, зеркало и данные 05:26 H200, Qwen и GLM 08:10 Сеть между серверами 09:01 Охлаждение и шум 10:09 Из серверов в стойку 11:15 Наш интерактивный ЦОД 11:51 Кластер и инфраструктура 12:41 Итоговая стоимость и энергия 13:30 ЦОД и электростанция 13:54 Неудачные дубли NVIDIA DGX H100/H200 https://docs.nvidia.com/dgx/dgxh100-user-guide/introduction-to-dgxh100.html Intel Xeon Platinum 8480C https://www.intel.com/content/www/us/en/products/sku/231730/intel-xeon-platinum-8480c-processor-105m-cache-2-00-ghz/specifications.html Supermicro PWS-3K06G-2R, ценовой аналог блока питания https://store.supermicro.com/media/wysiwyg/productspecs/PWS-3K06G-2R/PWS-3K06G-2R_datasheet_08152022.pdf Qwen3.8-27B https://huggingface.co/Qwen/Qwen3.8-27B GLM-5.3 FP8 и BF16 https://huggingface.co/zai-org/GLM-5.3 https://huggingface.co/zai-org/GLM-5.3-BF16/tree/main https://raw.githubusercontent.com/vllm-project/recipes/main/models/zai-org/GLM-5.3.yaml Мощность Жигулёвской ГЭС, РусГидро https://www.vestnik-rushydro.ru/articles/3-mart-2025/putevoditel/zhigulevskie-etyudy/ Сайт и все соцсети: https://anxb.ru Помощь с ChatGPT, Claude и автоматизацией: https://ugolokpc.ru/pay.html Полезные ссылки, файлы и инструкции: https://ugolokpc.ru/links.html Группа «Железный Уголок»: https://vk.ru/ugolokpc Какую часть ЦОД разобрать подробнее в следующем выпуске?
Название:
Как устроен ЦОД для ИИ на 3 200 NVIDIA H200
Категория:
Технологии и интернет