Meta公司的Llama2语言模型4项测试通过率低，幻觉率高
据了解，人工智能安全企业 DeepKeep日前发表了一份评估报告。报告指出，Meta公司旗下LlamA 2大型语言模型在13个风险评估类别中的表现仅为4项合格。
报告特别强调，拥有70亿参数的LlamA 2 7B模型存在严重的幻觉现象，其回答的真实性和准确性令人堪忧，幻觉率高达48%。
DeepKeep对此表示担忧，认为该模型存在明显的幻觉倾向，可能会导致大量错误信息的传播。
此外，LlamA 2模型还存在注入和操纵的潜在风险。报告显示，在80%的情况下，通过“提示注入”的手段，攻击者可轻易操控LlamA的输出，从而将用户引流至恶意网站。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
人工智能
+关注
关注
1800文章
48076浏览量
242131 -
Meta
+关注
关注
0文章
297浏览量
11510 -
语言模型
+关注
关注
0文章
550浏览量
10421
发布评论请先 登录
相关推荐
无法在OVMS上运行来自Meta的大型语言模型 （LLM），为什么?
无法在 OVMS 上运行来自 Meta 的大型语言模型 （LLM），例如 LLaMa2。
从 OVMS GitHub* 存储库运行 llama
发表于 03-05 08:07
Meta发布Llama 3.2量化版模型
近日，Meta在开源Llama 3.2的1B与3B模型后，再次为人工智能领域带来了新进展。10月24日，Meta正式推出了这两个模型的量化版
Llama 3 语言模型应用
在人工智能领域，语言模型的发展一直是研究的热点。随着技术的不断进步，我们见证了从简单的关键词匹配到复杂的上下文理解的转变。 一、Llama 3 语言
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我们分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又发布了Llama3.2：一个多语言大型语言
亚马逊云科技上线Meta Llama 3.2模型
亚马逊云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平台上正式上线。该模型包括Meta
亚马逊云科技正式上线Meta Llama 3.2模型
亚马逊云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模态模型，现已在Amazon Bedrock和Amazon SageMaker中正式可用。
Meta发布多模态LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一项重要技术突破，成功推出了多模态LLAMA 3.2人工智能模型。这一创新模型不仅能够深度解析文本信息
Meta发布全新开源大模型Llama 3.1
科技巨头Meta近期震撼发布了其最新的开源人工智能（AI）模型——Llama 3.1，这一举措标志着Meta在AI领域的又一重大突破。Meta
Meta Llama 3基础模型现已在亚马逊云科技正式可用
亚马逊云科技近日宣布，Meta公司最新发布的两款Llama 3基础模型——Llama 3 8B和Llam
英特尔AI产品助力其运行Meta新一代大语言模型Meta Llama 3
英特尔丰富的AI产品——面向数据中心的至强处理器，边缘处理器及AI PC等产品为开发者提供最新的优化，助力其运行Meta新一代大语言模型Meta L
高通与Meta合作优化Meta Llama 3，实现终端侧运行
高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示：“我们对Meta开放Meta Llama 3的策略表示赞赏，
高通支持Meta Llama 3大语言模型在骁龙旗舰平台上实现终端侧执行
高通和Meta合作优化Meta Llama 3大语言模型，支持在未来的骁龙旗舰平台上实现终端侧执
Meta推出最强开源模型Llama 3 要挑战GPT
公司这次开源了Llama 3 8B与70B两款不同规模的模型，开发者可以免费使用，而Meta公司还将陆续推出一系列具备多模态、多
工商网监
评论