在不久前结束的WWDC2024上,苹果宣布了自己的AI方案Apple Intelligence,并计划将其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通过生成式模型来改善用户的使用体验。事实上,苹果一共有两个自主开发的AI模型,一个用于设备端AI的30亿参数模型,以及一个更大的LLM,其服务器资源满足更多的查询。
苹果AI服务器的软硬件组成
苹果将其AI服务器称为私有云计算节点(PCC),这是苹果基于定制化服务器硬件打造的基础设施,也是苹果芯片在数据中心的首度应用。不过PCC并没有搭载苹果的任一消费级系统,而是基于iOS和macOS打造了一个强化子集系统,专为支持LLM推理量身定制。
正因其硬件架构的统一性,苹果在设备端AI和AI服务器做到了高度一致。不过PCC用于推理,并不代表苹果为其选择了一样的训练设备。根据苹果的说法,他们在预训练阶段,依然采用的是云端的TPU和GPU资源。由此也可以看出,在大模型的训练资源上,苹果选择了与谷歌合作。
这也完全可以理解,谷歌作为TensorFlow的开发者,不少基于TensorFlow开发的ML模型,都能在谷歌的TPU上获得极高的训练效率。不过对于苹果而言,他们的软件栈并不会锁死在一个云服务供应商上,而是可以扩展并运行在其他平台上。
AI服务器的安全性
相比起AI服务器的性能,用户可能更在意的是隐私安全问题。毕竟在数据中心的强大AI硬件和大模型,如果没有对用户请求的未加密访问和相关的个人数据,也就很难给到精准的答案。对于终端设备厂商,同时也是这些AI服务器的拥有者而言,如何做好端到端加密,也就成为最大的挑战。
苹果也指出了AI服务器面临的几大挑战:1、云端AI安全和隐私保障难以得到验证和执行;2、很难在云端为AI提供运行时透明;3、云端AI环境很难对特权访问做出强有力的限制。为了解决这些挑战,苹果在AI服务器的设计上下了不少功夫,首先就是无状态计算。用户的设备将数据发送到PCC唯一目的就是满足推理需求,PCC仅使用这些数据来执行用户请求的操作,且数据只停留在处理请求的PCC节点上,无论是苹果、管理员都无法获得用户数据。
在可验证的透明度上,苹果甚至做到了超过一些主流云服务商,他们将会公开PCC的生产版本软件镜像用于安全研究。苹果自己也会发布和维护一套官方软件工具,供研究人员分析PCC节点上的软件。除此之外,苹果的安全赏金计划也适用于PCC,重要的研究成果同样可以获得该计划的奖励。
当然了,硬件提供的安全性也不可忽视,由于PCC基于苹果芯片打造,所以也包含了iPhone中的安全隔区和安全启动两大安全子系统。这为其提供了非定位的安全性,攻击者无法针对特定用户的数据来发动攻击,只能靠大规模攻击来实现,这样被发现的概率也会一并变高。
写在最后
苹果在大规模AI模型上的软件开发倒是很早就开始了,不过在硬件上,苹果还是落后于头部的云服务厂商。不过苹果只是基于自研芯片打造属于自己的AI服务器,相较直接采用第三方方案,对于终端的用户而言,或许这才是保证性能和安全性的最佳路径。
-
苹果
+关注
关注
61文章
24348浏览量
196697 -
AI服务器
+关注
关注
2文章
100浏览量
4875
发布评论请先 登录
相关推荐
评论