跟ChatGPT聊聊天：AI带来的风险与挑战

跟 ChatGPT聊聊天：“AI系统”让全球有关领域谁喜谁忧谁患？

当前，“人工智能（AI）＋”的浪潮势不可挡，逐步渗透到全球各个行业领域，采访智能机器人走进直播间、电视频道、会议现场，写稿机器人融入编辑行业、小说家族，军用机器人列装部队、走入战争殿堂，无人驾驶汽车、无人工厂、无人商店揭竿而起……正在深刻改变人们的生产生活方式，日益突破人们的想象力边界，于是有人预言未来社会就是人工智能社会，未来战争就是人工智能条件下战争，同时也引发全球新一轮AI数字科技竞赛，将迎来和谐共生的人机结合的智能化数字化社会。

2022年11月底，美国一家名为OpenAI的人工智能研究公司推出ChatGPT人工智能聊天机器人，可以实现与用户之间的智能聊天对话。两个月后，这款机器人在全球社交平台火爆，媒体报道说它能“上知天文下知地理、与人交流对答如流，既能写也能编还能改错——由此，引发AI将来是否取代人类的大讨论。

人工智能（AI）是计算机学科的一个分支，是研究使计算机来模拟人的某些思维过程和智能行为的学科。

AI一词，自从1956年正式提出以来，经过60多年的演进，AI似乎已经变得十分聪明了，于是有关就AI发展运用对未来有关领域（军事、教学、传媒、医疗、制作业、摄影等）的影响出现了不同的声音。

一、有的AI大脑相当于人类平均水平，AI在擂台上击败人类并不是传说，人类也要有忧患意识、有关行业工作者要有危机感

AI是由人类发明的，早期离不开人类控制。AI在擂台上战胜人类听起来天方夜谭。但是，从近年来全球上演的有关AI题材科幻电影来看，有的那些似乎很遥远的人工智能武器和人物逐步变为现实，有的AI战胜人类并不是传说、变为现实。

1997年5月，IBM公司研制的深蓝（DEEP BLUE）计算机战胜了国际象棋大师卡斯帕洛夫（KASPAROV）。2015年，最近一系列旨在测试一些世界上最好的AI 系统和人类智商 之间的胜负关系的试验表明，AI的智力目前已经达到了 4 岁儿童的水平。2022年9月，一位年轻人用Al绘画工具Midjourney生成的作品《太空歌剧院》，在美国科罗拉多州博览会的美术比赛中获得大奖，获奖类别是“数字艺术/数字修饰照片”组第一名。

阿尔法围棋计算思维能力虽然比不上人类大脑，但是研究者们把最新算法植入阿尔法体内，并对其“深度学习”进行训练，竟然能与人类棋手博弈。2016年1月，阿尔法围棋就在实战中击败了欧洲冠军，震惊了世界。此后，又在首尔第一场巅峰对决中击败围棋高手韩国人李世乭。

近年来，AI不断被运用于军事领域，如自杀机器人、无人机、无人艇、无人潜航器等无人机系统平台已经走入作战训练场。有媒体报道称，俄军在叙利亚战场上首次以建制形式投入机器人部队，并在世界首次作战中一战成名，20分钟阵地攻坚战中就一举攻下如今俄军士兵难以攻下的高地，取得零伤亡毙敌77人战绩。英国《每日邮报》2020年8月21日报道，美国空军的模拟空战中AI击败了顶尖的F-16战斗机飞行员，人类飞行员说“我们作为战斗机飞行员所做的事情都不起作用”。据报道，美国国防部高级研究计划局的“阿尔法狗斗”实验的最后一战于2020年8月20日进行。这名人类飞行员是一名教员，呼号是“邦格”，但AI飞行员在5轮模拟空战中将其击落。报道认为，AI飞行员还能创造性地快速“思考”。2020年4月进行的试验显示，至少有一架AI战斗机在向对手开火之前会翻转过来，而这是许多人类飞行员做不到的。

目前，美国、俄罗斯、英国、德国、加拿大、日本、韩国等已相继推出各自的机器人战士，预计在不久的将来，还会有更多的国家投入到这项新战争机器的研制与开发中去。随着美国、俄罗斯和以色列等国家加强相关AI领域研究，机器人战争将在10年内变成现实。如果一个国家研制出了这种机器人，其他国家必将竞相效仿，人类必将迎来机器人代替人工作或者战争，有可能展开一场自主的武器军备竞赛。难怪有军事家预言：AI比核战争对人类构成了更大的危险，机器已经能够在没有人类干预的情况下自动选择和打击目标，将有可能把人类置于灾难边缘。

二、AI走进直播间会议现场、代笔写讲话稿新闻稿，正逐步颠覆传媒业报道格局，开启数字报道人机结合新时代　

2023年2月7日凌晨，谷歌发布了基于谷歌LaMDA大模型的下一代对话AI系统Bard。同一天，百度官宣正在研发的大模型类项目“文心一言”，计划在3月完成内测，随后对公众开放。阿里巴巴、京东等中国企业也表示正在或计划研发类似产品。2023年2月8日凌晨，微软推出由大语言模型ChatGPT支持的最新版本必应搜索引擎和Edge浏览器，宣布要“重塑搜索”。微软旗下Office、Azure云服务等所有产品都将全线整合ChatGPT。

目前，除谷歌之外，IBM、微软、脸书、雅虎、亚马逊等国外巨头，以及国内的百度、腾讯、阿里巴巴平台，纷纷投资AI领域，写稿机器人在不少媒体和资讯网站上加速布局，采写智能机器人已融入数字新闻报道行业领域。

随着自然语言处理、大数据分析、新算法等技术的发展，国内外许多媒体已经开始机器人与人结合报道的探索与实践。

美国人工智能公司OpenAI的大语言模型ChatGPT能用多语言撰写诗歌、编写程序、生成论文、添加摘要，自作表格、纠正语法、修改病句……不仅能理解很多人类问题和指令，流畅展开多轮对话，也在越来越多领域显示出解决多种通用问题的能力。据美联社2023年1月25日报道，美国众议员杰克·奥金克洛斯决定发表演讲讨论创建美国-以色列人工智能（AI）中心的法案时，他选择让AI来替他撰稿。报道称，这位民主党议员25日在众议院宣读的两段讲稿是由在线聊天机器人ChatGPT生成的。他的工作人员认为，这是首次由AI捉刀代笔的讲稿在美国国会被宣读。

2009年，美国西北大学智能信息实验室研发的StatsMonkey系统就撰写了一篇关于美国职业棒球大联盟季后赛的新闻稿件。此后，《纽约时报》利用Blossomblot系统筛选文章向社交网站等平台推送；《华盛顿邮报》使用Heliograf程序核实新闻的准确性；《洛杉矶时报》智能系统致力于处理地震等突发新闻；路透社的Open Calais智能解决方案可协助编辑审稿等相关业务工作；《卫报》利用机器人Open001筛选网络热文；美国的Narrative Science公司，运用大数据和人工智能，套用软件开发的模板、框架和云算法，瞬间撰写出上百万篇报道，成为《福布斯》杂志的主客户。北京时间2014年7月7日上午，美联社宣布从该月开始，他们将使用一种新闻书写软件代替人力。美联社在2016年夏天开始与自动观点公司合作，使用该公司的“史密斯消息”软件撰写财经报道文章。2017年1月31日，苹果公司发布了创纪录的一季度财报，美联社数分钟之后即发表了题为《苹果打破华尔街第一季度预期》的新闻报道，但这篇报道不是记者写的，而是智能机器人记者或者说计算机写作软件写的……机器人写稿已在国外新闻实践中发挥了一定作用。

2015年9月10日，腾讯财经频道用自动化新闻写作机器人Dreamwriter，发布了一篇名为《8月CPI涨2% 创12个月新高》的报道，拉开了国内机器人写稿的序幕。此后，新华社写稿智能机器人—快笔小新，可以完成以前需要安排几个记者撰写的体育赛事中英文稿件和财经信息稿件等任务，人民日报首次尝试语音机器人“小融”通过人民网及“两微一端”等平台与网友交流互动，阿里巴巴联合第一财经推出“DT稿王”，今日头条推出“xiaomingbot”，南方报业推出“小南”，昆明报业传媒集团推出写稿机器人“小明”。

智能机器人不仅能足不出户写稿，也能与记者一起走出去采访，参加全国两会报道。人民日报社在2020年全国两会前夕，成功发布上线“人民日报社AI智能编辑部”。2021年全国两会，人民日报社两会记者使用“智能创作机器”现场拍摄和对录制完成的视频进行人工智能自动剪辑。新华社自从2018年全国两会推出智能神器—“媒体大脑MAGIC”、升级“现场云”、发布全球首个合成新闻主播后，又在2019年全国两会召开之际发布由电脑生成的全新升级的站立式全球首个AI合成女主播，与新华社现有的AI合成男主播一起报道两会，再次引发全球媒体圈的高度关注。2020年全国两会，媒体大脑继续持续发力，支持微信、微博、抖音、头条号四大平台的数据，推出“两会机器人”，提供数十款智能报道模板样式，快速制作移动端产品。2021年全国两会期间，新华社AI合成主播雅妮通过5G+3D技术，实现跨地域进行线上沉浸式多地跨屏访谈。2021年全国两会，央视网推出的轻交互产品《AI助手带你走进部长通道》，运用AI将数字人技术和云连线技术有机结合，确保精准捕捉每位记者的面部细微动作。

日本开发了一个能够写小说的人工智能机器人，能通过学习已逝科幻小说家小松左京的文风和用词，续写了后者未写完的小说。

2016年3月，韩国《金融新闻》写稿机器人仅需0.3秒就快速完成一篇关于股市行情的新闻报道。

尽管采写机器人思维简单、理解能力低，在深度、人物等报道方面还无法胜任编辑记者工作，但因其属于批量生产类型、每天可完成百篇稿件、智能抓取自动生成，在稿件数量、工作效率上远远超过单兵作战的记者。所以，人类将不断优化人工智能机器人技术和培训，希望它能像人一样交流互动、思考学习、分析判断、提问采访，开启AI+媒体的人机结合一体化报道方式。

三、AI带来的风险与挑战的确存在，或许成为人类麻烦的制造者，当务之急研究人机和谐共生相关行业规范

任何事物都具有两面性，既有利也有弊，AI也如此。不可否认，“AI+”，既提高生产效率、降低生产成本，也会给人类社会带来负面影响甚至麻烦。

相关专家预测，美国人工智能公司的大语言模型ChatGPT，不仅是新一代聊天机器人的突破，也将为信息产业带来巨大变革，同时也会带来学术造假、技术滥用、舆论安全等风险。

也许有人会问，机器人写出来的文章会不会跟网上的文章重复、会不会是“伪原创”“洗稿”？2022年12月27日，美国西北大学的一个团队首先让AI学习发表在《柳叶刀》《美国医学会》等著名杂志上的文章，并撰写50篇医学研究摘要，然后让抄袭检测器、人工智能输出检测器和期刊审稿人将这些摘要与原始摘要对比，找出AI编造的摘要重复率，结果发现全部顺利通过了抄袭检测器。

毋容置疑，由计算机软件、机器人创作的作品的版权归属不是人而是物，不能定义为法律意义上的“作品”，因此不应受著作权法保护。目前，写稿机器人并不是一个实体机器人，而是整合了大数据分析、自然语言处理等技术，通过融合领域知识写作系统，对搜集、聚合的全网信息、数据进行抓取后归纳总结，发掘重要的消息和事件，并用自然语言进行表达，可以称之为是专门写稿的“大脑”，还未达到对抓取、搜集的资料进行深度分析思考后得出其自己的认同。

至于智能机器人采写的稿件是不是原创？这个问题尚无定论。因为现代汉语词典对原创作品的解释为最初的或最早的创作作品或独立完成的作品。也就是说，原创作品首先必须是首创，也就说该文章在互联网上是独一无二的。当然不可否认，原创作品也可以在一定程度上借鉴别人的作品、参考他人的案例，得出自己的独到见解。但是，一定要注明出处、作者和参考文献。从目前理论上说，采写智能机器人生成的作品并不一定是原创，倒不如说是“二手原创”。二手并不是一手，就存在机器人侵权行为和版权纠纷。加之，自动生成的稿件也无法在浩如烟海的信息流中征求作者同意后引用并支付稿酬。

知识产权的竞争，就必须加强知识产权保护，依照现行法律法规，对侵犯知识产权的行为必须进行制止和打击。人工智能机器人既是侵权者，也是被侵权者，这方面的案例已经屡见报端。微软机器人“小冰”出版的原创诗集《阳光失了玻璃窗》发表后一个月，网络上就出现了这本诗集的电子盗版。前几年轰动业界的小i机器人与苹果Siri智能语音系统之间的纠纷就是由设计专利引发的。北京日报2018年12月6日报道，大数据软件生成的报告有没有著作权？5日，一家律师事务所就为此和百度在互联网法院打起官司。其涉案文章是9月10日北京百度网讯科技有限公司未经《影视娱乐行业司法大数据分析报告》的著作权人许可，在其经营的百家号平台上发布用法律统计数据分析软件生成的文章。

腾讯开发了一款名叫Dreamwriter的计算机软件，可以自动写稿，生成文章，每年大约写稿30万篇。有一家名为网贷之家的网站，转载了腾讯证券网站上人工智能自动生成的文章，被腾讯公司以侵权为由，告上了法庭。深圳市南山区人民法院审结全国首例认定人工智能生成的文章构成作品案件。

无独有偶，拥有国际性体育资源的盖蒂图片社对同为人工智能企业的Stability AI提起诉讼，指责其未经许可从其数据库中复制了1200多万张图片，用于建立竞争性业务，并侵犯了该公司的版权和商标保护权。

随着人工智能技术的发展，数字新闻（网络）著作权案件呈现了由单一类型向复杂类型的转变，这既反映了如今权利人的法律意识、维权意识的不断增强，也给法院的审判工作增加了难度。比如，机器人就是机器，他是物不是人，所以机器人不是自然人，侵权案件中不可能直接接受法律裁决，那么到底谁来承担责任、谁是第一责任人呢？控制机器人的人、设计者、开发商、使用者单位、数据输入者、所有者等都难逃其责。所以，采写智能机器人创作物的著作权面临着巨大的挑战。

随着AI在越来越多的领域得到广泛应用，人们有理由担心可能会出现意想不到的后果：AI可以监控人们在网上做的每一件事、记录浏览痕迹；根据网民浏览爱好，AI天天加倍推送其所需。所有这些行为，会不会侵犯个人隐私，还有可能存在“算法偏差”，都亟待出台相关法律法规予以明确。

公开报道显示：当年苏联国际象棋冠军古德科夫同机器人下棋连胜三局，结果机器人棋手“恼羞成怒”，突然向金属棋盘释放出强大的电流，在众目睽睽之下将这位国际大师当场击倒。

自动驾驶汽车也并不十分完美，世界上发生多起交通事故。近年来，国内外自动驾驶领域迎来了资本与技术的风口，以Uber为代表的企业在自动驾驶上可谓一路狂奔，发展速度令人咋舌。然而，欲速则不达。自动驾驶技术难免会存在缺陷或纰漏，发生交通事故在所难免。交通监管采用的“智能行人闯红灯取证系统”，就是运用AI人脸识别技术参与管理交通的体现。然而，如果闯红灯采用的人脸识别系统出现问题，把无辜者的人脸生物信息暴露于大庭广众之下更是一种难以纠正的误伤。

当机器人智能大脑向人类智慧大脑逐渐演进，必将日益突破人们的军事想象力边界，有朝一日智能大脑必将替代人类脑力具有超过人类智慧的能力并不是天方夜谭。如果现在不采取任何限制性措施任其自由发展，届时人工智能将有可能摆脱人的思维控制而主宰战场并不是耸人听闻。所以，马斯克的“人工智能威胁论”也不是没有道理。

有军事专家甚至预测，在不久的将来，全世界都会拥有自主型杀手机器人。此外，即将在全球展开的新一轮智能技术竞赛，必将促进机器人深度学习、深度思维、深度思考、深度判断，加速推进作战机器人摆脱人类完全不参与作战决策就能识别敌我并能判断是否发动攻击，使“终结者”时代到来。

没有规矩，不成方圆。要想达到人机和谐共处，国际社会应尽快出台有关智能技术研发、运用的法律法规，确保人工智能安全、可靠、可控，使人工智能运用有法可依、有章可循，限制智能机器人将来发展带来的各种风险，防患于未然。英国剑桥大学已收到资助以建立AI伦理研究所，由哲学家、法学家、历史学家、心理学家和技术人员一起研究相关行业规范。

习近平总书记强调，要建立健全保障AI健康发展的法律法规、制度体系、伦理道德。2021年12月13日，中国出席日内瓦召开的联合国《特定常规武器公约》第六次审议大会，并向大会提交了《中国关于规范人工智能军事应用的立场文件》，呼吁各国通过对话与合作，就如何规范人工智能军事应用寻求共识，构建普遍参与的有效国际治理机制，避免人工智能军事应用给人类带来重大损害。该文件聚焦人工智能军事应用涉及的研发、部署、使用等重要环节，就如何在军事领域负责任地开发和利用人工智能技术提出人工智能军事应用符合国际人道主义法，避免相关武器系统造成滥杀滥伤和误用恶用，不断提升人工智能技术的安全性、可靠性、可控性等解决思路。

总而言之，“AI+”在很大程度上都是模拟人的思维过程，代替人去完成任务。也就是说，人类与智能机器人的关系，既不是纯粹的利用关系，也不是使用的机器或软件，既不是对人的取代，也不是人类的主人，而是一种和谐共生、合而为一的伙伴关系。

编辑：黄飞