生成式人工智能如何治理 生成式人工智能的机遇和挑战

作者：袁国栋

自从2022年11月ChatGPT发布以来，掀起了生成式人工智能研究与应用的热潮。作为新型人工智能技术，生成式人工智能今年持续升温，引发了社会各界的广泛关注。2023年7月13日国家网信办联合国家发展改革委、教育部、科技部等7部门发布了《生成式人工智能服务管理暂行办法》（以下简称《办法》），该《办法》已于8月15日开始正式施行，这是我国首次对生成式人工智能研发与服务作出明确规定，也是全球首部针对生成式人工智能进行监管的法律文件。和以往的人工智能技术相比，生成式人工智能体现出强人机交互、强语料依赖等典型特征，在技术发展与风险控制两方面均存在很多问题与挑战，亟须人们对其进行深入的研究。

何为生成式人工智能

人工智能按其模型可以划分为决策式人工智能和生成式人工智能。决策式人工智能是一种用于决策的技术，它利用机器学习、深度学习和计算机视觉技术来处理专业领域的问题，并帮助企业和组织优化决策。生成式人工智能则是一种用于生成新内容的人工智能技术，由于在大模型、大算力、训练方法等多方面都实现了技术突破，它可以使用语言模型、图像模型和深度学习等技术，自动生成新的文本、图片、音频和视频内容。生成式人工智能实现了高质量、高效率、多样化的内容生产，成为推动数字生产力变革的重要力量。目前，在应用方面，生成式人工智能的产业链逐步形成：其上游包括数据供给方、算法模型机构、创作者生态以及底层配合工具等；中游包括文字、图像、音频、视频等数字内容的处理加工方；下游则主要是各类数字内容分发平台、消费方及相关服务机构等。在教育、金融、医疗、工业等领域，生成式人工智能可以加快数实融合，促进产业升级提速，实现金融资讯、产品介绍视频内容的自动化生产，并且能够支持生成衍生设计，实现降本增效。生成式人工智能作为生产工具和新兴生产力的角色愈加重要。

生成式人工智能带来巨大机遇和挑战

综观2023年上半年国内外重大科技发展趋势和投资热点，生成式人工智能成为最引人注目的技术之一。生成式人工智能不仅对全球经济产生重要影响，也为各行各业的发展带来了新机遇。其中，零售和消费品行业、银行业、制药和医疗产品三个行业的发展潜力最大。目前，我国开发的大规模语言模型已经有80余个，参与模型开发的主要有大型科技公司、高等院校以及电信设备制造商等。截至今年5月，据不完全统计，国内已有超过40家公司、机构发布了生成式模型产品或公布了生成式模型研发计划。大模型项目数量的爆发式增长，显示出生成式人工智能服务在我国迅猛发展的态势。生成式人工智能在商业领域的应用跨越了企业组织边界，深度集成到现有组织工作流程和系统中，对客户服务、供应链和网络安全等领域的关键业务流程进行重构，形成了有影响力的新模式、新业务。在生成式人工智能赋能下，生物制药、制造、材料科学等领域开始改变业务流程。生成式人工智能推动了利用与开发海量数据价值的进程，在信息生成、编辑和迭代方面，能够高效收集、整合各类数据，自动生成文本内容、图像。据预测，到2025年，大型企业机构对外营销信息中的合成信息比例将上升到30%；到2030年，主要影视作品中人工智能生成内容的比例将上升到90%。

生成式人工智能虽然发展迅速，也一直面临着各种挑战，在生成方面经常被人诟病的包括内容不准确、可行性不高、文本直接拼凑，缺乏逻辑性等问题。此外，生成式人工智能的发展在提高人们工作效率的同时，也会衍生严重的失业问题。今年3月发布的一份研究报告显示，全球预计将有3亿个工作岗位被生成式人工智能取代，其中律师和行政人员将是最有可能被裁员的岗位。对体力要求较高的职业或户外职业受到影响较小，例如建筑和维修行业。生成式人工智能对原有的法律规定也提出了挑战，就生成式人工智能而言，在法律领域产生的最大挑战就是潜在的各种侵权纠纷。生成式人工智能的生成能力来自数据和模型，而数据来源本身可能就会产生侵犯他人著作权、肖像权、名誉权、个人信息等多项权利的风险。

总体而言，生成式人工智能目前还处于起步阶段，应用前景尚不明朗，应当客观看待其发展规律，为新业态、新技术发展营造包容审慎的监管环境，以此进一步激发市场活力和社会创造力。

人工智能治理的中国方案

2023世界人工智能大会提供的数据显示：我国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家，创新成果不断涌现。生成式人工智能的发展，标志着人工智能正在从专用智能发展到通用智能，进入了崭新的发展阶段。中央政治局4月28日召开会议明确指出，要重视通用人工智能发展，营造创新生态，重视防范风险。相信随着《办法》的实施，生成式人工智能在各领域的发展和应用将会更加健康规范。面对技术发展带来的机遇与挑战，《办法》在制度创新的基础上，既重视信息内容安全，也从多方面推进技术产业发展，不仅为国际人工智能的治理实践提供了中国方案，也为我国人工智能立法作出了积极有益探索。《办法》对生成式人工智能坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。对于生成式人工智能的数据来源，《办法》规定，要推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源，鼓励采用安全可信的芯片、软件、工具、算力和数据资源。《办法》旨在维护国家安全、社会公共利益、公民合法权益的同时，用科学合理的措施进行监管，推动人工智能产业朝着积极健康的方向发展。

尽管目前国内外生成式人工智能在大模型开发、应用布局、商业模式等多个领域都存在较大差异，但相信未来我国相关技术和应用将逐渐成熟，并会进一步探索出适合自身发展的商业模式。生成式人工智能的健康发展有赖政府、企业、社会、网民等多方参与，共同促进，唯有如此才能使这项颠覆性技术更好地造福人民。

编辑：黄飞