Meta公司的Llama2语言模型4项测试通过率低，幻觉率高
据了解，人工智能安全企业 DeepKeep日前发表了一份评估报告。报告指出，Meta公司旗下LlamA 2大型语言模型在13个风险评估类别中的表现仅为4项合格。
报告特别强调，拥有70亿参数的LlamA 2 7B模型存在严重的幻觉现象，其回答的真实性和准确性令人堪忧，幻觉率高达48%。
DeepKeep对此表示担忧，认为该模型存在明显的幻觉倾向，可能会导致大量错误信息的传播。
此外，LlamA 2模型还存在注入和操纵的潜在风险。报告显示，在80%的情况下，通过“提示注入”的手段，攻击者可轻易操控LlamA的输出，从而将用户引流至恶意网站。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
人工智能
+关注
关注
1788文章
46142浏览量
235782 -
Meta
+关注
关注
0文章
238浏览量
11283 -
语言模型
+关注
关注
0文章
487浏览量
10213
发布评论请先 登录
相关推荐
Meta发布多模态LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一项重要技术突破，成功推出了多模态LLAMA 3.2人工智能模型。这一创新模型不仅能够深度解析文本信息
Meta Llama 3.1系列模型可在Google Cloud上使用
我们很高兴宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，这包括全新的 405B，即 Meta 迄今为止功能最强大、用途最广泛的模型。这些
Meta发布全新开源大模型Llama 3.1
科技巨头Meta近期震撼发布了其最新的开源人工智能（AI）模型——Llama 3.1，这一举措标志着Meta在AI领域的又一重大突破。Meta
摩尔线程和滴普科技完成大模型训练与推理适配
近日，摩尔线程与滴普科技宣布了一项重要合作成果。摩尔线程的夸娥（KUAE）千卡智算集群与滴普科技的企业大模型Deepexi已完成训练及推理适配，共同实现了700亿参数LLaMA2大语言
Meta Llama 3基础模型现已在亚马逊云科技正式可用
亚马逊云科技近日宣布，Meta公司最新发布的两款Llama 3基础模型——Llama 3 8B和Llam
英特尔AI产品助力其运行Meta新一代大语言模型Meta Llama 3
英特尔丰富的AI产品——面向数据中心的至强处理器，边缘处理器及AI PC等产品为开发者提供最新的优化，助力其运行Meta新一代大语言模型Meta L
高通与Meta合作优化Meta Llama 3，实现终端侧运行
高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示：“我们对Meta开放Meta Llama 3的策略表示赞赏，
高通支持Meta Llama 3大语言模型在骁龙旗舰平台上实现终端侧执行
高通和Meta合作优化Meta Llama 3大语言模型，支持在未来的骁龙旗舰平台上实现终端侧执
Meta推出最强开源模型Llama 3 要挑战GPT
公司这次开源了Llama 3 8B与70B两款不同规模的模型，开发者可以免费使用，而Meta公司还将陆续推出一系列具备多模态、多
Meta发布开源大模型Code Llama 70B
近日，Meta宣布推出了一款新的开源大模型Code Llama 70B，这是其“Code Llama家族中体量最大、性能最好的模型版本”。这
Meta推出“性能最优”代码生成AI模型Code Llama 70B
据悉，Code Llama工具于去年8月份上线，面向公众开放且完全免费。此次更新的Code Llama 70B不仅能处理更多复杂查询，其在HumanEval基准测试中的准确率高达53%
【飞腾派4G版免费试用】仙女姐姐的嵌入式实验室之五~LLaMA.cpp及3B“小模型”OpenBuddy-StableLM-3B
预训练语言模型。该模型最大的特点就是基于以较小的参数规模取得了优秀的性能，根据官网提供的信息，LLaMA的模型包含
发表于 12-22 10:18
在线研讨会 | 基于 LLM 构建中文场景检索式对话机器人：Llama2 + NeMo
4,096，并对算法细节进行了优化，加速了推理速度，让 Llama2 的性能有了很大的提升，能够和 ChatGPT 相媲美。 Llama2 大模型旨在处理广泛的
工商网监
评论