0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

性能与安全同样重要,苹果的AI服务器

E4Life 来源:电子发烧友 作者:周凯扬 2024-06-25 00:10 次阅读

在不久前结束的WWDC2024上,苹果宣布了自己的AI方案Apple Intelligence,并计划将其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通过生成式模型来改善用户的使用体验。事实上,苹果一共有两个自主开发的AI模型,一个用于设备端AI的30亿参数模型,以及一个更大的LLM,其服务器资源满足更多的查询。

苹果AI服务器的软硬件组成

苹果将其AI服务器称为私有云计算节点(PCC),这是苹果基于定制化服务器硬件打造的基础设施,也是苹果芯片在数据中心的首度应用。不过PCC并没有搭载苹果的任一消费级系统,而是基于iOS和macOS打造了一个强化子集系统,专为支持LLM推理量身定制。

正因其硬件架构的统一性,苹果在设备端AI和AI服务器做到了高度一致。不过PCC用于推理,并不代表苹果为其选择了一样的训练设备。根据苹果的说法,他们在预训练阶段,依然采用的是云端的TPU和GPU资源。由此也可以看出,在大模型的训练资源上,苹果选择了与谷歌合作。

这也完全可以理解,谷歌作为TensorFlow开发者,不少基于TensorFlow开发的ML模型,都能在谷歌的TPU上获得极高的训练效率。不过对于苹果而言,他们的软件栈并不会锁死在一个云服务供应商上,而是可以扩展并运行在其他平台上。

AI服务器的安全性

相比起AI服务器的性能,用户可能更在意的是隐私安全问题。毕竟在数据中心的强大AI硬件和大模型,如果没有对用户请求的未加密访问和相关的个人数据,也就很难给到精准的答案。对于终端设备厂商,同时也是这些AI服务器的拥有者而言,如何做好端到端加密,也就成为最大的挑战。

苹果也指出了AI服务器面临的几大挑战:1、云端AI安全和隐私保障难以得到验证和执行;2、很难在云端为AI提供运行时透明;3、云端AI环境很难对特权访问做出强有力的限制。为了解决这些挑战,苹果在AI服务器的设计上下了不少功夫,首先就是无状态计算。用户的设备将数据发送到PCC唯一目的就是满足推理需求,PCC仅使用这些数据来执行用户请求的操作,且数据只停留在处理请求的PCC节点上,无论是苹果、管理员都无法获得用户数据。

在可验证的透明度上,苹果甚至做到了超过一些主流云服务商,他们将会公开PCC的生产版本软件镜像用于安全研究。苹果自己也会发布和维护一套官方软件工具,供研究人员分析PCC节点上的软件。除此之外,苹果的安全赏金计划也适用于PCC,重要的研究成果同样可以获得该计划的奖励。

当然了,硬件提供的安全性也不可忽视,由于PCC基于苹果芯片打造,所以也包含了iPhone中的安全隔区和安全启动两大安全子系统。这为其提供了非定位的安全性,攻击者无法针对特定用户的数据来发动攻击,只能靠大规模攻击来实现,这样被发现的概率也会一并变高。

写在最后

苹果在大规模AI模型上的软件开发倒是很早就开始了,不过在硬件上,苹果还是落后于头部的云服务厂商。不过苹果只是基于自研芯片打造属于自己的AI服务器,相较直接采用第三方方案,对于终端的用户而言,或许这才是保证性能和安全性的最佳路径。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 苹果
    +关注

    关注

    61

    文章

    24348

    浏览量

    196697
  • AI服务器
    +关注

    关注

    2

    文章

    100

    浏览量

    4875
收藏 人收藏

    评论

    相关推荐

    万协通高性能服务器安全芯片首发!驱动数智化安全新未来

    近日,国内前沿的芯片解决方案提供商万协通,携其自主研发的高性能服务器安全芯片系列产品闪耀亮相2024中国国际社会公共安全产品博览会(简称“安博会”),其凭借出色的
    的头像 发表于 10-24 18:01 198次阅读

    GPU高性能服务器配置

    GPU高性能服务器作为提升计算速度和效率的关键设备,在各大应用场景中发挥着越来越重要的作用。在此,petacloud.ai小编为你介绍GPU高性能
    的头像 发表于 10-21 10:42 146次阅读

    最强服务器CPU来了!AI性能直接翻倍

    以及AI服务器AI数据中心场景的CPU产品。它不仅能支持广泛的第三方GPU及AI加速,与它们组合形成强大的异构计算平台,还能在其中补足G
    的头像 发表于 09-29 11:00 689次阅读
    最强<b class='flag-5'>服务器</b>CPU来了!<b class='flag-5'>AI</b><b class='flag-5'>性能</b>直接翻倍

    什么是AI服务器AI服务器的优势是什么?

    AI服务器是一种专门为人工智能应用设计的服务器,它采用异构形式的硬件架构,通常搭载GPU、FPGA、ASIC等加速芯片,利用CPU与加速芯片的组合来满足高吞吐量互联的需求,为自然语言处理、计算机视觉、机器学习等人工智能应用场景提
    的头像 发表于 09-21 11:43 589次阅读

    洛杉物理服务器怎么样?

    洛杉矶作为美国科技和互联网的重要中心,物理服务器的质量通常非常高,可以提供卓越的性能、强大的安全性、多样的配置选项和专业的服务支持。以下是对
    的头像 发表于 08-16 09:58 177次阅读

    新加坡服务器vsping主机性能与配置测评

    新加坡服务器vsping主机在性能与配置上均表现出色。其配置通常包括高性能的CPU(如IntelXeon系列)、充足的内存(如32GB至256GBDDR4类型)以及高速的SSD固态硬盘,确保数据处理
    的头像 发表于 08-12 13:26 174次阅读

    AI服务器:开启智能计算新时代

    一、AI服务器的定义与特点 AI服务器的定义 AI服务器是一种基于云计算技术,专为处理人工
    的头像 发表于 08-09 16:08 716次阅读

    如何评估美国洛杉矶高防服务器性能

    评估美国洛杉矶高防服务器性能对于确保网站或应用程序的稳定性和安全性至关重要。高防服务器通常被用来抵御分布式拒绝
    的头像 发表于 07-31 09:52 226次阅读

    ai服务器是什么架构类型

    AI服务器,即人工智能服务器,是专门为人工智能应用设计的高性能计算服务器AI
    的头像 发表于 07-02 09:51 919次阅读

    ai服务器和通用服务器的区别在哪

    AI服务器和通用服务器的区别主要体现在以下几个方面: 硬件配置 AI服务器和通用服务器在硬件配置
    的头像 发表于 07-02 09:46 875次阅读

    苹果携手超微,加速AI服务器布局

    苹果分析师郭明錤去年末曾经透露,苹果预期在2024年投入47.5亿美元采购超过两万台服务器来支持AI技术,较2023年的6.2亿美元增长明显。
    的头像 发表于 03-01 15:49 541次阅读

    linux服务器和windows服务器

    应用和企业环境中使用,那么Win dows服务器可能更适合你的需求。 综上所述,Linux服务器和Windows服务器各有优劣,选择适合自己需求的服务器操作系统是确保
    发表于 02-22 15:46

    AI服务器简介及晶振应用

    AI服务器,是一种专门用于处理人工智能相关任务的高性能计算机。它具备强大的计算能力和存储能力,能够快速处理大量的数据和复杂的算法。与传统的计算设备相比,AI
    的头像 发表于 12-25 10:45 1088次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>简介及晶振应用

    物理服务器ai发展的应用

    物理服务器AI发展中扮演着重要的角色。传统的以CPU为计算部件的服务器架构已难以满足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的异构计算架构成为人工智能
    的头像 发表于 12-22 09:19 423次阅读

    AI发展下服务器的选择非常重要

    AI发展下,服务器的选择非常重要。以下是一些选择服务器时需要考虑的因素。
    的头像 发表于 12-07 10:06 476次阅读