Microsoft объявляет о промышленной эксплуатации Maia 200 и раскрывает подробности Maia 300

В анонсе от 12 октября Microsoft сообщает, что Maia 200 уже обслуживает нагрузки в промышленной эксплуатации, в том числе Microsoft Copilot, и поддерживает работу её команды MAI. Компания уточняет, что эта инфраструктура выполняет модели OpenAI, её собственные модели MAI и семейства открытых моделей.

Microsoft сообщает о развёртывании в США, Европе и Австралии. Для функций ИИ, встроенных в Teams, Copilot и Cowork, компания заявляет до 1,7 раза больше токенов на ватт по сравнению с упомянутыми ею эталонными инфраструктурами на GPU. Доступный документ не позволяет независимо проверить этот прирост или распространить его на все нагрузки инференса.

В анонсе также представлена Maia 300 — система, разработанная для длинных контекстов, задач с высокими требованиями к памяти и генерации токенов. Microsoft описывает архитектуру из нескольких чиплетов, в которой вычисления, контроллеры памяти и ввод-вывод разделены. Компания также делает акцент на сокращении перемещения данных и согласовании работы вычислительных ресурсов, памяти и сети.

Технический интерес такого подхода связан с оптимизацией системы в целом. Если заявленные улучшения подтвердятся в предусмотренных условиях эксплуатации, они могли бы увеличить объём обработки при заданном энергопотреблении. На данном этапе заявленный ввод Maia 200 в промышленную эксплуатацию следует рассматривать отдельно от объявленных характеристик Maia 300.