0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

性能与安全同样重要,苹果的AI服务器

E4Life 来源:电子发烧友 作者:周凯扬 2024-06-25 00:10 次阅读

在不久前结束的WWDC2024上,苹果宣布了自己的AI方案Apple Intelligence,并计划将其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通过生成式模型来改善用户的使用体验。事实上,苹果一共有两个自主开发的AI模型,一个用于设备端AI的30亿参数模型,以及一个更大的LLM,其服务器资源满足更多的查询。

苹果AI服务器的软硬件组成

苹果将其AI服务器称为私有云计算节点(PCC),这是苹果基于定制化服务器硬件打造的基础设施,也是苹果芯片在数据中心的首度应用。不过PCC并没有搭载苹果的任一消费级系统,而是基于iOS和macOS打造了一个强化子集系统,专为支持LLM推理量身定制。

正因其硬件架构的统一性,苹果在设备端AI和AI服务器做到了高度一致。不过PCC用于推理,并不代表苹果为其选择了一样的训练设备。根据苹果的说法,他们在预训练阶段,依然采用的是云端的TPU和GPU资源。由此也可以看出,在大模型的训练资源上,苹果选择了与谷歌合作。

这也完全可以理解,谷歌作为TensorFlow开发者,不少基于TensorFlow开发的ML模型,都能在谷歌的TPU上获得极高的训练效率。不过对于苹果而言,他们的软件栈并不会锁死在一个云服务供应商上,而是可以扩展并运行在其他平台上。

AI服务器的安全性

相比起AI服务器的性能,用户可能更在意的是隐私安全问题。毕竟在数据中心的强大AI硬件和大模型,如果没有对用户请求的未加密访问和相关的个人数据,也就很难给到精准的答案。对于终端设备厂商,同时也是这些AI服务器的拥有者而言,如何做好端到端加密,也就成为最大的挑战。

苹果也指出了AI服务器面临的几大挑战:1、云端AI安全和隐私保障难以得到验证和执行;2、很难在云端为AI提供运行时透明;3、云端AI环境很难对特权访问做出强有力的限制。为了解决这些挑战,苹果在AI服务器的设计上下了不少功夫,首先就是无状态计算。用户的设备将数据发送到PCC唯一目的就是满足推理需求,PCC仅使用这些数据来执行用户请求的操作,且数据只停留在处理请求的PCC节点上,无论是苹果、管理员都无法获得用户数据。

在可验证的透明度上,苹果甚至做到了超过一些主流云服务商,他们将会公开PCC的生产版本软件镜像用于安全研究。苹果自己也会发布和维护一套官方软件工具,供研究人员分析PCC节点上的软件。除此之外,苹果的安全赏金计划也适用于PCC,重要的研究成果同样可以获得该计划的奖励。

当然了,硬件提供的安全性也不可忽视,由于PCC基于苹果芯片打造,所以也包含了iPhone中的安全隔区和安全启动两大安全子系统。这为其提供了非定位的安全性,攻击者无法针对特定用户的数据来发动攻击,只能靠大规模攻击来实现,这样被发现的概率也会一并变高。

写在最后

苹果在大规模AI模型上的软件开发倒是很早就开始了,不过在硬件上,苹果还是落后于头部的云服务厂商。不过苹果只是基于自研芯片打造属于自己的AI服务器,相较直接采用第三方方案,对于终端的用户而言,或许这才是保证性能和安全性的最佳路径。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 苹果
    +关注

    关注

    61

    文章

    23918

    浏览量

    192395
  • AI服务器
    +关注

    关注

    1

    文章

    85

    浏览量

    4723
收藏 人收藏

    评论

    相关推荐

    差分晶振在AI服务器中的应用案例

    随着ChatGPT技术不断发展和应用,我国AI服务器市场保持较快增速(预计 2023年我国服务器市场规模将增至308亿美元),而AI服务器
    发表于 06-17 15:15 0次下载

    耐能推出最新的边缘AI服务器及内置耐能AI芯片的PC设备

    - 耐能的边缘 AI 服务器 KNEO 330 为中小企业带来 30-40% 的成本节省,同兼顾隐私和安全性。- 耐能的边缘 GPT AI 芯片 KL830 可完全应用于
    的头像 发表于 06-05 10:21 231次阅读

    苹果投身服务器芯片开发,加速AI技术竞赛

    据内部消息,苹果正在开发一种新型服务器芯片,代号为Project ACDC,这标志着苹果公司将在消费电子产品中获得的芯片设计专长扩展到更广泛的服务器领域。
    的头像 发表于 05-08 10:34 224次阅读

    海单路高性能服务器主板

    服务器
    jf_10805031
    发布于 :2024年04月26日 14:23:58

    苹果自研AI服务器芯片,预计2025年台积电3nm工艺

    4 月 24 日,知名数码博主@手机晶片达人发布动态,爆料苹果正研发自家 AI 服务器芯片,预计 2025 年下半年量产,采用台积电 3nm 制程。
    的头像 发表于 04-24 11:00 542次阅读

    鸿海看好苹果AI计划,服务器出货量或将增长

    针对苹果是否新增下达AI服务器订单的问题,鸿海表示不会对外公开评论单个客户和产品情况。商城披露的信息显示,苹果之前对大量AI功能做过深入的测
    的头像 发表于 03-04 10:31 453次阅读

    苹果携手超微,加速AI服务器布局

    苹果分析师郭明錤去年末曾经透露,苹果预期在2024年投入47.5亿美元采购超过两万台服务器来支持AI技术,较2023年的6.2亿美元增长明显。
    的头像 发表于 03-01 15:49 338次阅读

    服务器远程不上服务器怎么办?服务器无法远程的原因是什么?

    安全软件问题 被安全软件屏蔽了 解决办法:检查云锁和安全狗类安全软件有没有把电脑本地IP加入服务器白名单中,如果没有的话就把电脑本地IP加
    发表于 02-27 16:21

    linux服务器和windows服务器

    应用和企业环境中使用,那么Win dows服务器可能更适合你的需求。 综上所述,Linux服务器和Windows服务器各有优劣,选择适合自己需求的服务器操作系统是确保
    发表于 02-22 15:46

    AI服务器简介及晶振应用

    AI服务器,是一种专门用于处理人工智能相关任务的高性能计算机。它具备强大的计算能力和存储能力,能够快速处理大量的数据和复杂的算法。与传统的计算设备相比,AI
    的头像 发表于 12-25 10:45 688次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>简介及晶振应用

    物理服务器ai发展的应用

    物理服务器AI发展中扮演着重要的角色。传统的以CPU为计算部件的服务器架构已难以满足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的异构计算架构成为人工智能
    的头像 发表于 12-22 09:19 279次阅读

    YXC晶振解决方案AI服务器中的应用

    AI服务器常用频点:50MHZ、125MHZ、156.25MHZ,适用于AI服务器的YXC差分晶振
    的头像 发表于 12-18 18:06 262次阅读
    YXC晶振解决方案<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>中的应用

    AI发展下服务器的选择非常重要

    AI发展下,服务器的选择非常重要。以下是一些选择服务器时需要考虑的因素。
    的头像 发表于 12-07 10:06 292次阅读

    性能与成本如何兼顾,企业选择轻量应用云服务器为何推荐华为云?

    服务器是一种基于云计算技术的虚拟化服务,它可以为企业建站提供灵活、可扩展、高效的计算资源。云服务器性能与成本是企业建站时需要考虑的重要
    的头像 发表于 11-21 09:31 181次阅读
    <b class='flag-5'>性能与</b>成本如何兼顾,企业选择轻量应用云<b class='flag-5'>服务器</b>为何推荐华为云?