科技 · 分析
Microsoft宣布Maia 200已投入生产使用，并介绍Maia 300
Microsoft称Maia 200已承担包括Copilot在内的生产工作负载。公告还详细介绍了为推理设计的Maia 300。所介绍的能效提升仍是公司的主张，且比较范围各有不同。
法律告知：此内容由人工智能系统生成。 编辑透明度
Microsoft在十月12日的公告中表示，Maia 200目前已承担生产工作负载，包括Microsoft Copilot，并支持其MAI团队的工作。公司指出，这一基础设施运行OpenAI的模型、自有MAI模型以及多个开放模型系列。
Microsoft称其已在美国、欧洲和澳大利亚部署。针对集成于Teams、Copilot和Cowork的AI功能，公司称，每瓦对应的token数量最高可达其所提及的参考GPU基础设施的1.7倍。现有文件不足以独立验证这一提升，也不足以将其推广到所有推理工作负载。
公告还介绍了Maia 300，称其是一套面向长上下文、内存密集型任务和token生成的系统。Microsoft描述了一种多芯粒架构，将计算、内存控制器和输入输出分开。公司还强调减少数据移动，以及协调计算、内存和网络。
这一方案的技术价值在于对整个系统进行优化。如果所宣称的提升在目标运行条件下得到证实，就可能提高给定能耗下所能完成的处理量。目前，Maia 200已投入生产使用的声明，与Maia 300所公布的特性仍是两个不同层面的信息。