苹果使用亚马逊网络服务的定制人工智能芯片来为其搜索服务提供支持。该公司还在评估是否可以使用亚马逊最新的人工智能芯片来预训练苹果智能模型。
苹果机器学习和人工智能高级总监 Benoit Dupin 在亚马逊年度 AWS re:Reinvent 大会上出人意料地透露了这些信息。
定制 AWS AI 芯片可将效率提升高达 50%
苹果很少公开谈论和赞扬其供应商或供应商之一。 Dupin 在露面时透露,十多年来,苹果一直在使用 Amazon Web Services 来支持其云服务,例如 iCloud、Apple Maps 和 Siri。
这位高管强调,使用亚马逊的定制芯片使效率提高了 40%。由于这些优势,苹果正在考虑使用 AWS 的定制 AI 芯片来预训练其专有的 AI 模型。
有趣的是,AWS 首席执行官马特·加曼 (Matt Garman) 甚至向 CNBC 透露,苹果来到亚马逊,询问如何帮助他们构建生成式 AI 功能以及为此所需的基础设施。
Dupin 指出,“在评估 Trainium2 的早期阶段,我们预计通过预保留,早期数据的效率可提高 50%。”
Apple Intelligence 将继续使用 Apple 芯片驱动的私有云计算
在 AWS 峰会上,亚马逊宣布全面推出用于训练和部署 LLM(大语言模型)的 Trainium2 芯片。单个由 Trainium2 驱动的 EC2 实例配备 16 个 T2 芯片。这使得一个实例能够提供高达 20.8 petaflops 的计算性能。
请注意,苹果仅计划使用亚马逊的定制人工智能芯片来预训练其人工智能模型。它不会使用它们来支持 Apple Intelligence 功能。对于后者,该公司使用私有云计算基础设施,该基础设施使用 M2 Ultra-powered 服务器。它计划明年改用更快、更高效的 M4 动力型号。
大多数公司使用 Nvidia 的 GPU 进行人工智能训练。苹果是一个值得注意的例外,它使用自己的苹果芯片或其他非 x86 SoC 来训练其人工智能模型。
免责声明
部分内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 macmao.com@gmail.com,我们会第一时间配合删除。(转载请注明来源自:www.macmao.com)