0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大模型太贵?找找自己的原因好吧?

脑极体 来源:脑极体 作者:脑极体 2023-10-07 09:25 次阅读

什么?

炼个大模型还嫌贵?

到底哪里贵了!?

大模型算力贵?哪里贵了!?

争先恐后训练大模型,

搞得现在“算力慌”“一卡难求”,

算力当然水涨船高了!

“特供版”GPU又贵又缩水,

大家自己愿意当“冤大头”囤卡,

还好意思埋怨贵了?

这么多年有没有认真工作?

为什么这么多算力还依赖进口!

自己为什么不能制造芯片?

有没有在自主化上想想办法?

解决算力难题,

厂商们可以选择AI云服务。

在社会层面进行算力集约,

让算力普惠。

同时支持国产AI算力,

让国内市场活跃起来。

大模型基础设施贵?哪里贵了!?

数据需要存,接入AI模型需要网,

部署AI模型需要终端。

哪个不需要投入了!

任何一个地方出现短板,

就会出现木桶效应!

加一加算一算,当然不便宜了!

有时候找找自己的原因!

综合成本那么高,

是不是盲目追求高配置了?

IT设施能不能跟上大模型发展?

是不是IT采购做得东一榔头,西一棒槌?

有没有做过全盘的数字化设计?

想要把基础设施的综合成本打下来,

就需要选择和大模型

适配的存储、网络产品

统筹规划自己的ICT基础设施,

让大模型获得良好的数字化土壤。

大模型数据贵?哪里贵了!?

专用数据从采集、清洗到标注、验证,

每一个环节都需要成本。

有的企业整理3TB数据成本就高达数十万。

通用数据便宜!

不担心大模型差异化问题你去买啊!

平时有没有重视自有数据?

全员通宵埋头标注数据的时候,

高价买数据的时候,

就没想想怎么能剩下一笔数据成本?

想降低数据成本,

首先就要重视自身的数据资产,

加强数据资产的收集保存,

同时强化流通,

数据流通起来才有价值!

大模型运维贵?哪里贵了!?

大模型数据规模大、迭代版本多、算力节点多。

多就代表复杂,复杂就代表故障率高。

一出故障要推倒重训,

一次训练恢复就要一星期以上,

项目进度停滞,人工和算力开销照旧,

整体成本咔咔上涨!

运维成本上涨,

有时候找找自己的原因!

为什么一边抱怨人工贵,

一边还要让员工加班?

为什么不找找运维“平替”?

想要找人工运维的“平替”,

当然就是AI运维了 !

用AI来运维AI,

提升运维智能化水平,

实现故障精准定位,快速恢复。

让运维能力秒变省钱超能力!

大模型人才贵?哪里贵了!?

也就是应届生比其他T人才溢价个50%左右,

算法工程师年薪50万起步,

多一点的100万也够了!

有时候挖一个专家,

还要把他学生、助手、

亲戚七大姑八大姨都给挖过来,

1000万起步差不多吧。

有些时候找找自身原因!

这么多年有没有认真工作?

自己能不能变成AI人才?

有没有让员工都去研究学大模型?

有没有送自己小孩去学AI?

破解AI人才难题,

需要产学研协同努力,

加大人才培养力度,

丰富相关岗位分工,

推进AI资质考核标准化

校园培养、在职培养、

社会培养共同发展。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    28729

    浏览量

    265995
  • 大模型
    +关注

    关注

    2

    文章

    2098

    浏览量

    1905
收藏 人收藏

    评论

    相关推荐

    DAC8568 IBIS模型转换成spice模型无法显示所有引脚是什么原因导致的?怎么解决?

    你好,下载的DAC8568 IBIS模型,在cadence中生成spice模型时无法显示所有引脚,只有一个INPUT引脚,没有其他引脚,导致无法进行电路绘制和仿真,请问是什么原因,应该怎么解决?
    发表于 09-09 06:14

    人脸识别模型训练失败原因有哪些

    人脸识别模型训练失败的原因有很多,以下是一些常见的原因及其解决方案: 数据集质量问题 数据集是训练人脸识别模型的基础。如果数据集存在质量问题,将直接影响
    的头像 发表于 07-04 09:17 322次阅读

    PyTorch如何训练自己的数据集

    PyTorch是一个广泛使用的深度学习框架,它以其灵活性、易用性和强大的动态图特性而闻名。在训练深度学习模型时,数据集是不可或缺的组成部分。然而,很多时候,我们可能需要使用自己的数据集而不是现成
    的头像 发表于 07-02 14:09 404次阅读

    【大语言模型:原理与工程实践】大语言模型的应用

    能力,它缺乏真正的“思考”过程。对于任何输入,大语言模型都会产生输出,但这仅仅是基于计算和预测下一个Token出现的概率。模型并不清楚自己的优势或劣势,也无法主动进行反思和纠正错误。提示工程
    发表于 05-07 17:21

    maixcam如何无脑运行运行别人的模型(以安全帽模型为例)

    =333.999.0.0 该模型整个的压缩包在该文件附件中 如何修改为自己模型应用 从主函数代码可以看到我导入了sipeed退出图片,使用了ts.read()去读取触摸坐标,再次感谢Neucrack大佬,具体细节可以
    发表于 04-25 14:51

    ad19中3d模型不显示?

    封装库导入3d模型不显示,但导入3d模型后的封装库生成pcb文件时显示3d模型,这是什么原因导致的。
    发表于 04-24 13:41

    如何优化深度学习模型?

    因为大部分人使用的模型都是预训练模型,使用的权重都是在大型数据集上训练好的模型,当然不需要自己去初始化权重了。只有没有预训练模型的领域会
    发表于 01-29 14:25 517次阅读
    如何优化深度学习<b class='flag-5'>模型</b>?

    教您如何精调出自己的领域大模型

    BERT和 GPT-3 等语言模型针对语言任务进行了预训练。微调使它们适应特定领域,如营销、医疗保健、金融。在本指南中,您将了解 LLM 架构、微调过程以及如何为 NLP 任务微调自己的预训练模型
    的头像 发表于 01-19 10:25 894次阅读
    教您如何精调出<b class='flag-5'>自己</b>的领域大<b class='flag-5'>模型</b>

    求助,请帮忙找找直流调速器损坏的原因

    的,没有什么问题。更换直流调速器后使用又是正常的,可使用了三个月后又再次造成直流调速器损毁,检查还是差查不出什么原因来,再次更换直流调速器还是能正常使用,另外的几台同型号都能正常使用, 电机厂家的人认为
    发表于 12-19 07:28

    什么是AI模型漂移 AI模型表现下降的原因

    IEEE会员Eleanor “Nell” Watson解释说,人工智能模型的准确性经常会因为现实世界中不断变化的环境而发生变化。
    的头像 发表于 12-08 11:30 1078次阅读

    AD8422的spice模型使用报错是什么原因

    在ADI官网下载AD8422的spice模型,在multisim中使用一直报错,信息如下: SPICE 网列列表在示意图 RefDes *** *** 中出错, 元素 ***: 无效
    发表于 11-23 07:39

    ADCMP580为什么没有SPICE模型

    我想问一下,ADCMP580为什么没有SPICE模型?还是忘了给链接了(虽然这种可能性很小),而且很多快速比较器都没有给出SPICE模型是什么原因
    发表于 11-23 06:51

    同样是BGA扇出,为什么别人设计出来的性能就是比你好!

    俗话说得好,同样的一个BGA扇出设计,别人设计出来的性能就是比你好,你到底有没有从自己身上找找原因呢? -------这是一篇让PCB设计工程师相互内卷的文章!
    的头像 发表于 11-07 10:18 354次阅读
    同样是BGA扇出,为什么别人设计出来的性能就是比你好!

    SambaNova即将建立并运行自己的大型语言模型

    随着各大公司争相加入人工智能的潮流,芯片和人才供不应求。初创公司SambaNova(https://sambanova.ai/)声称,其新处理器可以帮助公司在几天内建立并运行自己的大型语言模型
    的头像 发表于 09-27 16:10 434次阅读

    bmneto转换模型时报错误split_conv_float: Assertion \"valid\" failed是什么原因

    错误:split_conv_float: Assertion "valid" failed。请问这个报错是什么原因,怎么解决? SDK版本:22.12.01 模型转换命令
    发表于 09-18 09:15