0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GPT-5快来了?训练或需5万张H100显卡

微云疏影 来源:综合整理 作者:综合整理 2023-08-11 10:48 次阅读

最近,openai宣布推出了一种名为gptbot的网络跟踪工具,可以自动截取网站数据。而且,openai向美国专利厅(uspto)申请了“gpt-5”的商标。因此有人推测,openai正在训练更先进的ai系统。

openai从gpt-4开始对技术细节进行了彻底的保密,最初只对一份技术报告进行了基准测试,而没有提及训练数据和模型参数。但是,gpt-4的培训需要大量的数据,并不是付费就能解决的问题。openai使用网络爬行动物。

此次openai直接公开了——gptbot。openai表示:“使用gptbot搜索网络数据是为了提高ai模型的准确性、功能和安全性。”但是,网站所有者可以根据需要允许或限制gptbot对网站数据的访问。

openai于7月18日提交了“gpt-5”的商标申请,并将由美国专利厅(patent office)作为满足申请条件的申请条件接受,之后将得到审查人员的批准。这些迹象表明gpt-5即将上市。

在业界的讨论下,gpt-5将有新的功能,包括多模态。目前,gpt-4只能处理文本和图像两种数据,但人们期待gpt-5在声音、视频等其他形式上也能取得突破性的发展。随着gpt-4的发展,预计gpt-5将发展成为saas (software-service)平台。也就是说,gpt-5不是一个简单的软件,它可以整合到多个网站、移动应用程序和计算机系统,并且可以在多个垂直领域拥有插件。

但是gpt-5训练需要更大的计算能力。据一篇论文预测,gpt-5需要30000到50000张集成到h100的显卡。人们推测gpt-4可能被训练成10,000到25,000张a100。meta拥有约21000张,特斯拉拥有约7000张,stability ai拥有约5000张,palcon -40b拥有约384张a100。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    29665

    浏览量

    267994
  • GPT
    GPT
    +关注

    关注

    0

    文章

    351

    浏览量

    15272
  • OpenAI
    +关注

    关注

    9

    文章

    1030

    浏览量

    6376
收藏 人收藏

    评论

    相关推荐

    英伟达H100芯片市场降温

    随着英伟达新一代AI芯片GB200需求的不断攀升,其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露,搭载H100的服务器通常以8卡的形式进行出售出租,而在去年,这类服务器的售价普遍
    的头像 发表于 10-28 15:42 218次阅读

    OpenAI GPT-5:未来已来,但何时降临

    在人工智能领域的浩瀚星空中,OpenAI无疑是那颗最为耀眼的星辰。自其诞生以来,每一次的技术革新都牵动着全球科技爱好者的心弦。特别是当GPT-4在今年5月14日凌晨悄然降临,以其强大的语言理解和生成能力,再次刷新了人们对于人工智能的认知边界后,关于下一代大语言模型
    的头像 发表于 07-03 15:51 311次阅读

    马斯克自曝训练Grok 3用了10块NVIDIA H100

    在科技界的前沿阵地上,埃隆·马斯克再次以其前瞻性的视野和大胆的尝试引领着新的风潮。近日,马斯克在社交媒体X上的一则回应,不经意间透露了其即将推出的AI聊天机器人Grok 3背后的惊人秘密——这款被马斯克誉为“非常特别”的AI产品,竟然是通过10块英伟达H100芯片的
    的头像 发表于 07-03 14:16 420次阅读

    视觉语音交互毫无延迟,都成精了居然还不是GPT-5?

    GPT-4o的新模型,它的确不是GPT-5,但看了它能做的事情,再想到它甚至不是OpenAI正在砸更多的钱和智慧在做的GPT-5,你只会感觉更“可怕”。发布会一开始
    的头像 发表于 05-19 08:05 336次阅读
    视觉语音交互毫无延迟,都成精了居然还不是<b class='flag-5'>GPT-5</b>?

    OpenAI CEO: GPT-4o and GPT-5引领未来12个月编程领域,GPT-5更具潜力

    据报道,OpenAI首席执行官阿莱夫·阿尔特曼在接受Redpoint风投公司LoganBartlett的专访中,透露了最近发布的GPT-40以及即将面世的GPT-5
    的头像 发表于 05-17 16:25 492次阅读

    OpenAI有望在年中推出全新GPT-5模型

    近日,人工智能领域的领军企业OpenAI传来了令人振奋的消息。据悉,他们有望在今年的年中,大约是夏季时分,推出全新的GPT-5模型。这一消息引发了业界的广泛关注与期待。
    的头像 发表于 03-22 11:29 721次阅读

    OpenAI预计最快今年夏天发布GPT-5

    OpenAI正计划在未来数月内,可能是今年夏季,发布备受瞩目的GPT-5模型。据悉,部分企业客户已提前体验了OpenAI最新模型及其ChatGPT工具的改进版Demo。一位CEO在体验后赞不绝口:“它真的令人惊艳,相较于之前的版本,GPT-5
    的头像 发表于 03-22 10:40 695次阅读

    英伟达H200显卡价格

    英伟达H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新芯片通常定价较高,
    的头像 发表于 03-07 16:09 3670次阅读

    新火种AI|从GPT-5到AI芯片厂,山姆·奥特曼在下一盘多大的棋?

    标题:从GPT-5到AI芯片厂,山姆·奥特曼在下一盘多大的棋? 转发语:山姆·奥特曼暴露野心,同时挑战英伟达和台积电?
    的头像 发表于 01-26 09:54 351次阅读
    新火种AI|从<b class='flag-5'>GPT-5</b>到AI芯片厂,山姆·奥特曼在下一盘多大的棋?

    Meta计划至2024年末购买35H100加速卡

    扎克伯格并未披露BIN为应对日益增加的人工智能需求添购的具体数量。市场研究机构雷蒙德詹姆斯的分析师根据推测,每颗H100系列芯片单价可能在2.5至3美金之间,若按照最低标准计算,购置成本将超过10亿美金。
    的头像 发表于 01-19 10:25 686次阅读

    新火种AI|GPT-5前瞻!GPT-5将具备哪些新能力?

    《时代》杂志评为“2023年度CEO”。 也正因此, Sam Altman的一条推文,瞬间就可以成为轰动整个AI行业的信号,特别是当这条推文还与众期待的“GPT-5”有关的时候。 2023年平安夜
    的头像 发表于 01-16 21:02 488次阅读
    新火种AI|<b class='flag-5'>GPT-5</b>前瞻!<b class='flag-5'>GPT-5</b>将具备哪些新能力?

    英伟达H100 GPU Q3售出50块,科技巨头争抢

    这款产品最大购买客户是Meta与微软,各自购买了15块;谷歌、亚马逊、甲骨文、腾讯各自购买了5块,榜单中还出现了百度、阿里巴巴、字节跳动这几家中国公司。集微网了解到,目前H100
    的头像 发表于 12-07 15:18 1075次阅读
    英伟达<b class='flag-5'>H100</b> GPU Q3售出50<b class='flag-5'>万</b>块,科技巨头争抢

    英伟达H100,没那么缺货了 !RTX 4090 ,大涨

    这样,在云端使用 H100 GPU 的排队时间可能会缩短。数据中心提供商和前比特币挖矿公司正在开设具有 H100 集群的数据中心。这些公司承诺以大型云提供商成本的一小部分提供 H100 GPU 计算,而大型云提供商对
    的头像 发表于 11-23 15:59 1628次阅读

    英伟达特供版芯片将上市:性能最高不到H100的20%

    本周四,一些媒体首次报道了英伟达特供芯片的消息。报道称,这三款新产品是在 H100 GPU 的基础版本基础上进行修改的,采用的是最新架构,但性能大幅度缩减。H100 GPU 是一种用于人工智能训练的高端 GPU,已于 2022
    的头像 发表于 11-13 16:44 899次阅读
    英伟达特供版芯片将上市:性能最高不到<b class='flag-5'>H100</b>的20%

    英伟达H100的最强替代者

    首先,我们首先要说的是,如果您现在想要训练基础模型(例如 ChatGPT),那么 NVIDIA H100 80GB SXM5 仍然是首选 GPU。一旦基础模型经过训练,通常可以在成本和
    的头像 发表于 11-08 15:35 963次阅读
    英伟达<b class='flag-5'>H100</b>的最强替代者