С быстрым ростом приложений ИИ, во главе с такими моделями, как ChatGPT, резко возрос спрос на вычислительную мощность.Чтобы удовлетворить растущие вычислительные потребности эпохи ИИ, H3C Group под эгидой Tsinghua Unigroup недавно представила 11 новых продуктов в сериях H3C UniServer G6 и HPE Gen11 на саммите NAVIGATE Leader Summit 2023.Эти новые серверные продукты создают всеобъемлющую матрицу для ИИ в различных сценариях, предоставляя мощную базовую платформу для обработки массивных данных и алгоритмов моделей, а также обеспечивая достаточное количество вычислительных ресурсов ИИ.
Разнообразная матрица продуктов для удовлетворения разнообразных вычислительных потребностей ИИ
Являясь лидером в области интеллектуальных вычислений, H3C Group много лет активно занимается ИИ.В 2022 году H3C добилась самых высоких темпов роста на китайском рынке ускоренных вычислений и заняла в общей сложности 132 первых места в мире в всемирно известном тесте искусственного интеллекта MLPerf, продемонстрировав свои сильные технические знания и возможности.
Используя передовую вычислительную архитектуру и возможности интеллектуального управления вычислительной мощностью, основанные на интеллектуальных вычислениях, H3C разработала флагманский интеллектуальный вычислительный сервер H3C UniServer R5500 G6, специально разработанный для обучения крупномасштабных моделей.Они также представили H3C UniServer R5300 G6, гибридный вычислительный движок, подходящий для крупномасштабных сценариев логического вывода/обучения.Эти продукты также отвечают разнообразным вычислительным требованиям в различных сценариях ИИ, обеспечивая всесторонний охват вычислений ИИ.
Флагман интеллектуальных вычислений, разработанный для крупномасштабного обучения моделей
H3C UniServer R5500 G6 сочетает в себе мощность, низкое энергопотребление и интеллектуальность.По сравнению с предыдущим поколением он предлагает в три раза большую вычислительную мощность, сокращая время обучения на 70% для сценариев обучения крупномасштабных моделей GPT-4.Он применим к различным бизнес-сценариям ИИ, таким как крупномасштабное обучение, распознавание речи, классификация изображений и машинный перевод.
Достоинства: R5500 G6 поддерживает до 96 ядер ЦП, обеспечивая увеличение производительности ядер на 150 %.Он оснащен новым модулем NVIDIA HGX H800 с 8 графическими процессорами, обеспечивающим вычислительную мощность 32 PFLOPS, что приводит к 9-кратному повышению скорости обучения ИИ крупномасштабных моделей и 30-кратному повышению производительности вывода ИИ крупномасштабных моделей.Кроме того, благодаря поддержке сетей PCIe 5.0 и 400G пользователи могут развертывать высокопроизводительные вычислительные кластеры ИИ, ускоряя внедрение и применение ИИ на предприятиях.
Интеллект: R5500 G6 поддерживает две конфигурации топологии, интеллектуально адаптируясь к различным сценариям приложений ИИ и ускоряя приложения глубокого обучения и научных вычислений, значительно улучшая использование ресурсов графического процессора.Благодаря функции многоэкземплярного графического процессора модуля H800 один H800 можно разделить на 7 экземпляров графического процессора с возможностью до 56 экземпляров графического процессора, каждый из которых имеет независимые вычислительные ресурсы и ресурсы памяти.Это значительно повышает гибкость ресурсов ИИ.
Низкий углеродный след: R5500 G6 полностью поддерживает жидкостное охлаждение, в том числе жидкостное охлаждение как для ЦП, так и для графического процессора.С PUE (Эффективность использования энергии) ниже 1,1 он обеспечивает «крутые вычисления» в разгар вычислительного всплеска.
Стоит отметить, что R5500 G6 был признан одним из «10 лучших высокопроизводительных серверов 2023 года» в «Рейтинге вычислительной мощности 2023 года» после его выпуска.
Гибридный вычислительный движок для гибкого согласования требований обучения и логических выводов
H3C UniServer R5300 G6, как сервер искусственного интеллекта следующего поколения, предлагает значительные улучшения характеристик процессора и графического процессора по сравнению с его предшественником.Он может похвастаться выдающейся производительностью, интеллектуальной топологией и интегрированными вычислительными возможностями и возможностями хранения, что делает его подходящим для обучения моделей глубокого обучения, глубокого обучения и других сценариев приложений ИИ, гибко согласовывая потребности обучения и логических вычислений.
Выдающаяся производительность: R5300 G6 совместим с последним поколением графических процессоров NVIDIA корпоративного уровня, обеспечивая повышение производительности в 4,85 раза по сравнению с предыдущим поколением.Он поддерживает различные типы карт ускорения ИИ, такие как графические процессоры, DPU и NPU, для удовлетворения разнородных требований к вычислительной мощности ИИ в различных сценариях, расширяя возможности эры интеллекта.
Интеллектуальная топология: R5300 G6 предлагает пять настроек топологии графического процессора, включая HPC, параллельный AI, последовательный AI, прямой доступ с 4 картами и прямой доступ с 8 картами.Эта беспрецедентная гибкость значительно повышает адаптируемость к различным сценариям пользовательских приложений, разумно распределяет ресурсы и обеспечивает эффективную работу вычислительной мощности.
Интегрированные вычислительные ресурсы и хранилище: R5300 G6 гибко совместим с картами ускорения искусственного интеллекта и интеллектуальными сетевыми адаптерами, сочетая возможности обучения и логических выводов.Он поддерживает до 10 графических процессоров двойной ширины и 24 слота для жестких дисков LFF (большой форм-фактор), обеспечивая одновременное обучение и вывод на одном сервере и предоставляя экономичный вычислительный механизм для сред разработки и тестирования.Обладая емкостью хранилища до 400 ТБ, он полностью соответствует требованиям к пространству для хранения данных ИИ.
С бумом искусственного интеллекта вычислительная мощность постоянно видоизменяется и подвергается сомнению.Выпуск серверов искусственного интеллекта следующего поколения знаменует собой еще одну веху в приверженности H3C Group технологии «внутреннего интеллекта» и ее постоянном стремлении к развитию интеллектуальных вычислений.
Глядя в будущее, руководствуясь стратегией «Cloud-Native Intelligence», H3C Group придерживается концепции «дотошного прагматизма, наделяющего эпоху интеллектом».Они будут продолжать возделывать плодородную почву интеллектуальных вычислений, исследовать сценарии применения ИИ на глубоком уровне и ускорять появление интеллектуального мира с готовыми к будущему адаптируемыми вычислительными мощностями.
Время публикации: 04 июля 2023 г.
