0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

有家人工智芯片初创公司对标Nvidia?

我快闭嘴 来源:半导体行业观察 作者:半导体行业观察 2020-11-26 16:14 次阅读

据enterpriseai报道,目前市场上有80多家AI芯片供应商和初创公司,每家公司都表示,在为广泛的行业和用途构建AI芯片时,他们都有一个更好的主意。

这样的情况同样出现在拥有3年历史的无晶圆厂AI芯片公司SimpleMachines身上。据报道,他们正在凭借自己独特的设计去挑战Nvidia和Marvell这样的芯片巨头。当然,像他们这样的初创公司也是其挑战对象。其说凭借的就是他们所说的不同方法去解决AI计算的难题。

SimpleMachines的创始人兼首席执行官Karu Sankaralingam说,这始于公司所谓的算法自适应AI芯片,程序员可以对其进行定制,以快速,无缝地满足其工作流程的需求。

这个想法催生了Mozart:该公司的首个AI芯片,该芯片针对推理进行了优化,在设计中使用了16纳米工艺,HBM2高带宽内存和PCIe Gen3x16尺寸。Sankaralingam告诉EnterpriseAI,公司的Mozart芯片现在正在送样,正在接受客户评估。他说,Mozart芯片是由芯片制造商台积电生产的,具有完整的软件和硬件堆栈,可让数据科学家运行程序而无需担心背后的问题。

Sankaralingam说,Mozart之所以能够在AI芯片领域脱颖而出,是因为它可以在一个芯片上同时运行多个AI模型。

他说:“之所以发生这种情况,是因为我们的芯片在内部分为64个不同的模块,如果有必要,程序员可以对其进行寻址并同时运行64个不同的应用程序或模型。” “然后,开发人员可以编写64个不同的模型,并且可以在一芯片硅片上同时运行64个模块(如果需要)。

Mozart的软件堆栈包括直接的TensorFlow支持以及C / C ++和Python的API,使程序员和数据科学家可以使用它。

Mozart可以以称为Accelerando的PCIe卡形式购买,也可以通过SimpleMachines的Symphony Cloud Service进行使用,该服务可以访问Azure,Google Cloud Platform和AWS等公有云,本质上是一种AI-as-a -服务交付模式。初始测试显示了可以同时运行的推荐引擎,语音和语言处理以及图像检测的用例。将来,带有Mozart芯片的Accelerando卡将在标准OEM厂商的系统中出售,例如Dell和Supermicro。

不同的方法

Moor Insights&Strategy的HPC和机器学习高级研究分析师Karl Freund表示,近年来他在AI芯片和软件的“寒武纪大爆发”中看到了十几种独特的AI芯片设计,但是SimpleMachines的Mozart设计不同于大多数设计。

“像所有的AI初创公司一样,他们声称性能出色,但是现在还不能断言他们的说法” Freund说。“他们的内存架构给人留下了深刻的印象,这种架构看上去优雅而简单,这将使繁重的软件工作变得更容易解决。在软件方面,他们还有很多工作要做,例如对PyTorch的支持。但是随着平台的成熟,他们似乎正在朝着正确的方向前进,这值得进一步跟踪。”

AI芯片要求不断变化

他说,新型Mozart AI芯片的灵感之一是Sankaralingam正在进行的研究,该研究指出需要一种新型的架构,以适应当今的大数据时代。Sankaralingam还是威斯康星大学麦迪逊分校的计算机科学教授,他在那里任教14年。

Sankaralingam说,当前的芯片平台,甚至包括为特定要求而构建的定制芯片,都无法满足这些需求。“应用呈爆炸式增长,因此,它不再只是处理图像了。它是文本到语音乘以重要数据的时间,并且变化迅速且不断增长,然后每六个月突破一次。公司的机会是市场需要大量的计算效率,而GPU却无法满足他们的需求。这些趋势使我们意识到,针对一个AI问题的专用定制芯片已经面世。”

他说,借助Mozart,这些挑战得以解决,因为可以通过使用芯片的深度软件堆栈即时重新编程来更改芯片上的项目需求。

他说:“我们正在与客户的讨论中,他们都说过不同的公司如何使用不同的模型,许多公司正在使用许多模型。” “这使我们再次审视了关于AI计算必要条件的假设。能力和效率并不是唯一的指标,另一个重要的指标是算法适应性。GPU之所以会出现,是因为它们具有很高的适应性。”

Sankaralingam说,使用另一种方法,SimpleMachines的策略是忽略应用正在尝试执行的操作,而转向算法。“我们观察到,许多或所有这些算法从根本上分解为四种行为:数据收集,计算,控制和同步。我们可以使用这些行为对算法进行分类。然后,我们构建一个个可以将应用分解为这些行为的编译器,并将该信息提供给我们的硬件。”

他说,然后硬件不再执行指令,获取,分支中断器和缓存,而是实现了这四种行为。

Sankaralingam说:“这就是我们需要对它们进行编程的全部,作为一名程序员,您可以在TensorFlow中编写这些代码,然后提取出这些行为并将其映射到我们的芯片上。” “这是一个很大的平行转变。”

Mozart的体系结构将任何软件应用程序抽象为少量已定义的行为,然后使用SimpleMachines自己的编译器集成到TensorFlow等标准AI框架的后端。据该公司称,这使得架构可以实时转换这些程序并重新配置硬件,从而产生一种芯片,其性能就像最初为该应用程序设计的一样。

SimpleMachines认为其Mozart AI芯片将在公共数据中心网络安全,金融和保险市场中看到机遇,并在未来的边缘和移动设备市场中为其路线图上即将推出的产品提供更多机遇。
责任编辑:tzh

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    453

    文章

    50387

    浏览量

    421783
  • 晶圆
    +关注

    关注

    52

    文章

    4838

    浏览量

    127793
  • AI
    AI
    +关注

    关注

    87

    文章

    30106

    浏览量

    268399
收藏 人收藏

    评论

    相关推荐

    初创公司借助NVIDIA Metropolis和Jetson提高生产线效率

    初创公司使用 NVIDIA Metropolis 视觉 AI 和 Jetson 边缘 AI 平台提高生产线效率。
    的头像 发表于 11-19 14:39 113次阅读

    NVIDIA助力初创公司Wayve开发创新自动驾驶技术

    初创公司 Wayve 开发出能够在动态真实环境中做出决策的自动驾驶技术。
    的头像 发表于 10-10 09:39 323次阅读

    AI初创公司寻求科技巨头“接盘”

    人工智能领域的激烈竞争中,众多初创公司曾风光无限,去年筹集了巨额资金,梦想成为科技浪潮中的璀璨明星。然而,随着市场冷却与竞争加剧,不少公司面临生存困境,纷纷将目光投向硅谷的科技巨头,
    的头像 发表于 09-26 14:35 291次阅读

    初创公司SEA.AI利用NVIDIA边缘AI和计算机视觉技术变革航海安全系统

    总部位于奥地利林茨的初创公司正在利用 NVIDIA 边缘 AI 和计算机视觉技术变革航海安全系统,让每一次出海变得更安全。
    的头像 发表于 09-09 09:32 464次阅读

    AI初创公司Etched获1.2亿美元A轮融资,加速专用AI芯片研发

    旧金山的一家人工智能(AI)初创公司Etched宣布,在最近完成的A轮融资中成功筹集了1.2亿美元的资金。这笔资金将主要用于进一步开发其专用的AI芯片,以支持日益增长的
    的头像 发表于 06-26 14:13 697次阅读

    英伟达收购软件初创公司Shoreline

    近日,全球知名的图形处理器制造商英伟达(NVIDIA)宣布了一项重要的收购计划,将以约1亿美元的价格收购软件初创公司Shoreline。这次收购不仅体现了英伟达在持续扩展其业务范围和技术领域的决心,也预示着未来软件开发和运维领域
    的头像 发表于 06-21 11:08 557次阅读

    韩国两大芯片公司寻求合并,以开发新一代AI芯片

    人工智能芯片设计领域,韩国两大初创公司Rebellions Inc.和Sapeon Korea Inc.近日宣布计划合并,共同开发新一代AI芯片
    的头像 发表于 06-18 16:10 570次阅读

    气候技术初创公司NVIDIA AI集成到可持续发展应用中

    “可持续未来”倡议(Sustainable Futures initiative)支持初创公司为气候、清洁能源、可持续基础设施等领域构建加速计算应用。
    的头像 发表于 05-08 09:29 313次阅读
    气候技术<b class='flag-5'>初创</b><b class='flag-5'>公司</b>将<b class='flag-5'>NVIDIA</b> AI集成到可持续发展应用中

    英伟达支持的AI初创公司CoreWeave融资11亿美元,估值达190亿美元

    CoreWeave,一家由 Nvidia NVDA 支持的云计算初创公司在新一轮融资中,其估值几乎增加了两倍,达到 190 亿美元,突显了对驱动人工智能的尖端系统的蓬勃发展的需求。
    的头像 发表于 05-07 10:16 455次阅读

    英特尔发布人工智能芯片新版,对Nvidia

    为应对AI行业对高性能芯片的巨大需求,英特尔推出了全新Gaudi 3芯片,据称这一款芯片在训练大语言模型方面的速度较之NVIDIA最新H100处理器要快50%。而且,其推理运算速度也超
    的头像 发表于 04-10 09:26 336次阅读

    NVIDIA携手初创公司引领气候AI创新

    在应对气候变化这一全球性挑战时,AI与可持续计算正成为关键工具。NVIDIA初创加速计划的成员公司Tomorrow.io、ClimaSens和north.io,均专注于极端天气预测领域,致力于推动全球气候行动。
    的头像 发表于 03-27 10:29 369次阅读

    苹果收购加拿大AI初创公司DarwinAI

    在持续寻求创新技术并布局未来的战略指导下,苹果公司近日完成了对加拿大人工智能初创公司DarwinAI的收购。这一收购行动不仅为苹果在2024年大举进军生成式
    的头像 发表于 03-19 11:34 730次阅读

    英伟达拟收购以色列人工智能初创公司Run:AI

    据最新消息,英伟达正在与以色列的人工智能初创公司Run:AI进行深入谈判,计划收购这一专注于AI基础设施编排和管理平台的公司。据悉,此笔交易的价值预计将达到数亿美元,甚至
    的头像 发表于 03-19 11:25 653次阅读

    无人机初创公司 Zipline 利用 NVIDIA Jetson 助力派送披萨、药品和惊喜

    NVIDIA 机器人技术的支持下,Zipline 的无人机送货服务已完成 80 多万份披萨订单的派送。 Zipline 并不是一家异想天开的无人机初创公司。 这家总部位于旧金山的公司
    的头像 发表于 12-20 09:45 499次阅读

    NVIDIA 初创加速计划 Omniverse 加速营

    的重要力量。基于 NVIDIA 全栈式 AI 计算平台和 Omniverse TM 平台上的生成式 AI 创作实践,让企业、开发者能够了解可落地的生成式 AI 内容创作技术及其技术趋势与当前边界。 NVIDIA 初创加速计划 是
    的头像 发表于 12-04 20:35 621次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>加速计划 Omniverse 加速营