0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

为生成式人工智能制定“行为规则”

AI智胜未来 来源:中国教育报 2023-11-21 16:58 次阅读

近日,联合国教科文组织发布《在教育和研究中使用生成式人工智能的指南》(Guidance for generative AI in education and research)(以下简称《指南》)。《指南》是ChatGPT生成以来、用户突破100万时颁布的首份规范生成式人工智能相关内容和行为的指导性文件。《指南》在强调对生成内容进行人工审核、标识以及考虑伦理原则的基础上,从生成内容、政策法规、知识产权和数字鸿沟等六个层面分析了生成式人工智能可能带来的显性与隐性风险,并从政府、服务提供者、用户等层面提出具体举措防范其可能带来的风险。

生成式人工智能的显性风险

生成式人工智能并非新鲜事物,但是在其大规模应用于日常工作和学习之前,首先要明确这一技术本身可能带来的风险。

输出内容脱离现实,信任赤字发生。生成式人工智能模型并不是通过对现实世界的观察和科学取证的方法来输出结果,因此其生成的文本准确性和真实性有待商榷。而且,智能模型本身不是建立在真正理解语言和现实社会的基础之上,其内容往往偏离人类社会的价值取向,容易产生误导性的术语和话语体系。如果阅读和使用相关内容的教师和学生对此不加思考和批判,而选择依赖和信任,就必然给知识、技能和价值的传承带来风险,进而导致信任赤字的发生。

缺乏具体法规引导,监督监管乏力。技术立法往往落后于技术发展的步伐,缺少法规和条例的引导和规制,越来越多使用生成式人工智能的公司发现其系统运行的安全性受到了很大挑战。虽然人工智能的运用能够显著提高人们完成任务的能力,但是政府对许多提供生成式人工智能服务的公司监督监管政策法规与手段有限,随意获取和使用数据的行为泛滥,需要适当的立法来保护个人和机构的权利。《指南》指出,目前中国、欧盟国家和美国已出台政策法规,修订具体法律来规范生成式人工智能可能带来的风险。

数据来源未获授权,侵犯知识产权。众所周知,生成式人工智能模型是由大量数据构建的,但这些数据是从互联网抓取的,其使用和传播往往没有获得数据和信息所有者的授权许可。如果运用未被授权的数据内容生成文本、图片等,就有可能被指控侵犯知识产权。学生和教师如果不加辨别地使用相关内容,也会被追溯相应的法律责任。因此,研究人员、教师和学习者不仅需要了解数据所有者的权利,而且也应该在使用生成式人工智能时提高知识产权保护意识。

模糊真实与仿真界限,传播虚假信息。由于缺少严格的法规和有效的监督机制,生成式人工智能应用所输出的文本、图像和视频往往真伪难辨。在一定意义上,生成式人工智能模型使深度造假变得更加简捷容易,假新闻的制造成本也会更低。对于世界观和价值观仍处于形成时期的年轻人来说,如果急功近利又缺乏扎实、系统的知识体系和辨别信息真伪的能力,生成式人工智能工具和应用会给其发展带来巨大隐患与风险。因此,处于教育领域的研究人员、教师和学习者需要提高对生成式人工智能输出材料的真伪辨别能力。

生成式人工智能的隐性风险

生成式人工智能在带来显性风险的同时,由于技术本身的局限性,也会加深信息茧房、数字鸿沟等风险,加剧社会不公平现象。

边缘化弱势群体,造成不均衡发展。生成式人工智能模型数据来源于互联网,如果互联网中某一话题或内容经常出现,就会传递给模型,这是主流或主导信息的信号,使其在输出结果时更倾向于重复这些话题和信息。这有可能限制和破坏不同意见与多元思想表达的有效发声。在缺乏数据的地区,网上关于该地区人群的内容相对有限,他们的声音往往不被听到或淹没在海量数据中,使其存在进一步被边缘化的隐性风险。为此,《指南》明确建议,各国政策制定者应意识到并采取行动,解决因使用、训练和控制通用模型的差距扩大而导致的不同人群和地区不平等加剧的问题。

扩大贫困差距,加深数字鸿沟。生成式人工智能是一种新兴的人工智能技术,是传统人工智能架构的迭代创新,需要基于大量的数据与巨大的计算能力,这就意味着生成式人工智能只能在技术先进的国家和地区普及开来,并被少数经济体所掌控。数字贫困差距进一步扩大,科技弱势地区的话语权被忽视,其潜在的风险就是发达经济体的价值观广泛传播,数字鸿沟也会不可逆地加深。

防范生成式人工智能风险的举措

生成式人工智能的发生与发展,为人类生产生活尤其是教育的发展带来无限可能。有效防范生成式人工智能带来的风险,有助于我们充分发挥生成式人工智能的优势,更好地应用于生活和学习场景。

提升外部监督监管的力度。离开外部持续有效监督的人工智能,不仅会给人类发展带来风险,而且会给教育造成无限裂痕。因此,《指南》指出,政府监管机构要通过政策立法对生成式人工智能的设计、演进进行有效引导、统筹管理。制定的政策框架需要与各国的立法和监管背景保持一致,并且要随人工智能技术更迭而更新,不断提高现有法规的适用度。在监管的同时给予人工智能创新的自由度,协同创造出更高质量的内容。

强化生成式人工智能提供者的责任意识。提供生成式人工智能的公司要以负责任和合乎道德的态度,提供通用系统和应用程序以满足教学、学习和研究的需要。首先,要确保生成式人工智能提供商证明其模型和数据来源可信并遵守相关的知识产权法。其次,需要强力监管生成式人工智能输出带有歧视和偏见性的内容。最后,对于不可知生成式人工智能模型的内部运作过程,相关提供商需要给出合法解释,将其过程透明化。

规范机构用户的内部评估。教育机构是人工智能的使用者,它们不仅需要对生成式人工智能工具进行监管和定期审计,保护用户数据和自动过滤不恰当的内容,需要关注生成式人工智能运用到教育领域对于学生创造力和批判性思维造成的长期影响,并予以评估和处理,还要对独立使用者设定最低年龄限制,如基于ChatGPT使用建议,将使用门槛的最低年龄设为13岁。

引导个人用户自我约束。生成式人工智能工具目前被包括研究人员、教师和学生等在内的人群使用,但其从发生到广泛使用的过程是基于技术驱动而非需求驱动,这就使其缺少了伦理道德原则的考量,缺少用户在使用时要避免损害他人的声誉和合法权利的约束性建议。因此,个人用户要加强自我约束意识和行动,当发现某项非法的生成式人工智能程序时要及时向监管机构报告,保证人工智能合法合规地运用于社会。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 互联网
    +关注

    关注

    54

    文章

    11153

    浏览量

    103271
  • 人工智能
    +关注

    关注

    1791

    文章

    47244

    浏览量

    238363
  • 模型
    +关注

    关注

    1

    文章

    3238

    浏览量

    48824

原文标题:为生成式人工智能制定“行为规则”

文章出处:【微信号:AI智胜未来,微信公众号:AI智胜未来】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    嵌入人工智能究竟是什么关系?

    嵌入人工智能究竟是什么关系? 嵌入系统是一种特殊的系统,它通常被嵌入到其他设备或机器中,以实现特定功能。嵌入系统具有非常强的适应性和灵活性,能够根据用户需求进行定制化设计。它
    发表于 11-14 16:39

    Vicor技术如何改进生成人工智能的供电

    生成人工智能(genAI)带来的文化革命可能像互联网普及一样对人类产生深远影响。从您的角度来看,目前情况如何?
    的头像 发表于 10-16 09:54 311次阅读
    Vicor技术如何改进<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>的供电

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    的发展机遇。同时,这也要求科研人员、政策制定者和社会各界共同努力,构建一个健康、包容的AI科研生态系统。 总之,《AI for Science:人工智能驱动科学创新》的第一章为我打开了一个全新的视角,让我
    发表于 10-14 09:12

    生成人工智能在教育中的应用

    生成人工智能在教育中的应用日益广泛,为教育领域带来了诸多变革和创新。以下是对生成人工智能在教
    的头像 发表于 09-16 16:07 994次阅读

    生成人工智能的概念_生成人工智能主要应用场景

    生成人工智能(Generative Artificial Intelligence,简称GAI)是一种先进的人工智能技术,其核心在于利用计算机算法和大量数据来
    的头像 发表于 09-16 16:05 1675次阅读

    生成人工智能产品大规模应用的七个启示

    尽管微软在构建人工智能应用方面早已制定了一系列原则和流程,以尽最大可能减少意外伤害并为用户提供他们所期望的体验。但是,生成人工智能产品的大
    的头像 发表于 08-20 10:09 437次阅读

    如何利用生成人工智能进行精确编码

    随着技术的飞速发展,生成人工智能(Generative AI)在软件开发领域的应用日益广泛。生成AI以其强大的学习和创造能力,为精确编码
    的头像 发表于 07-05 17:51 647次阅读

    中国生成人工智能专利数量傲视群雄

    在全球科技创新的浪潮中,生成人工智能(Generative AI)作为一股不可忽视的力量,正以前所未有的速度重塑着多个行业的面貌。近日,世界知识产权组织(WIPO)发布的《世界知识产权组织
    的头像 发表于 07-04 15:39 353次阅读

    Adobe发布Lightroom人工智能新功能:生成消除和镜头模糊预览

    Adobe此次公布的新功能包括生成消除(Generative Remove)与镜头模糊预设(Lens Blur presets)两项人工智能技术。前者名为“Firefly”的人工智能
    的头像 发表于 05-22 12:09 928次阅读

    HiDream.ai(智象未来)在生成人工智能领域展现出了巨大潜力

    领域的杰出代表,凭借其丰富的学术研究和商业实践经验,为生成人工智能的发展做出了重要贡献,其在 2023 年 3 月创立的 HiDream.ai(智象未来)在生成
    的头像 发表于 05-21 10:26 509次阅读

    嵌入人工智能的就业方向有哪些?

    嵌入人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入
    发表于 02-26 10:17

    小白学大模型:什么是生成人工智能

    来源:Coggle数据科学什么是生成人工智能?在过去几年中,机器学习领域取得了迅猛进步,创造了人工智能的一个新的子领域:生成
    的头像 发表于 02-22 08:27 1685次阅读
    小白学大模型:什么是<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>?

    生成人工智能和感知人工智能的区别

    生成人工智能和感知人工智能人工智能领域中两种重要的研究方向。本文将探讨这两种
    的头像 发表于 02-19 16:43 1741次阅读

    关于生成人工智能你应该知道的7件事

    不同类型的学习提供机会。1、生成人工智能是什么?长期以来,人工智能一直在我们日常使用的许多技术的幕后运作,但随着2022年11月ChatGPT的推出,
    的头像 发表于 02-19 13:27 860次阅读
    关于<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>你应该知道的7件事

    生成人工智能的应用

    ChatGPT 虽然很酷,但这只是一个开始; 生成人工智能的企业用途要复杂得多。
    的头像 发表于 01-09 11:19 1305次阅读