人工智能被用来统计分析学生课堂行为，并对异常行为实时反馈

人工智能会成为推动人类未来发展的水和电，当它在迅速改变人类生活环境的同时，也在模糊着物理世界和个人的界限，延伸出复杂的道德伦理问题。

5 月 18 日，一则杭州某中学引入“智慧课堂行为管理系统”的新闻在微博上引发大量转发，就技术的不正当应用引起了网友讨伐。背后具体的技术应用正是人脸识别，一方面是通过实现“刷脸”完成实时考勤...这一场景的技术应用已经比较完备了，但在最多三四十的教室里，这样做是不是大材小用了？

但让网友们群起攻击的一点是，人工智能被用来统计分析学生课堂行为，并对异常行为实时反馈。据校方负责人介绍，系统每隔 30 秒会进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等 6 种行为，再结合面部表情是高兴、伤心，还是愤怒、反感，分析出学生们在课堂上的状态。

为了让技术用来促进教学管理，他们欲借助科技帮助老师分析学生的行为数据来得到课堂质量的反馈，以及在后续的教学上做出调整。

校方所要达成的目标也许是好的，但问题是，在教室走廊、学校公开场所以安全之名安装摄像头的监控行为还算有其合理之处的话，那在较为封闭的教室里监控个人行为，是否存在技术被滥用的嫌疑？当然校方声称他们考虑到了个人隐私问题，说系统只是对整个班级的行为管理进行大数据分析，但这至少是否要经过学生的同意？（当然，最后一个问句在中国学校管理中基本就是奢望。）

其次，收集面部信息作为教学质量反馈看上去鸡肋程度大于实用性。校方称，现在获取的数据仅为片段性，也没有形成大数据来支撑对学生行为的判断。所以可以得出通过上述 6 种行为分析本来就没有多大意义，因为学生个体的动作表情很难用正负面二分法做出判定，比如有很多人的喜怒哀乐很少通过面部表情表现，这种大数据判断的误差以及参考价值有多大可想而知。

校方也回应称，现在也不会将具体的某一个行为作为决定性因素，而人们担心的恰恰就是你用 AI 技术给出整齐划一的“标准答案”。

那在促进教学质量又不伤害学生个人隐私的情况下，能不能更好的将人工智能技术应用其中？

当然有，有网友说， 如果换成系统能语音识别老师所讲的内容，然后自动搜索相关图片、知识点展现在课堂上作为教师的助教。如果不考虑语音技术目前的挑战，类似的技术应用思路自然可行。教育领域作为人工智能技术大有大为的落地场景，近年来，无论是像新东方或者沪江这样传统的线上教育公司或者 AI 教育的初创公司都在不断做出探索，但所有的前提是 AI 技术发挥的作用必须是正向的。

人工智能的伦理道德问题不仅仅体现在教育领域，还有人工智能歧视问题，这体现在数据选择和算法上。有科学家研究，通过使用机器学习算法帮助银行提供接受还是拒绝房贷的建议，但在审查神经网络决策制定流程的结果时，发现黑人申请的批准率大大低于白人申请的批准率。这被视为人工智能“黑箱”处理导致的不透明性。

再比如人工智能技术用于军事用途。韩国科学技术高级研究院 KAIST 由于涉及开发“杀人机器人”项目遭到 Hinton、周志华等 50 余名全球 AI 专家的联合抵制，最后项目叫停；Google 利用AI 技术帮助美国国防部分析无人机拍摄的视频遭到 3000 名员工联名反对，近期事件发酵后有多位员工愤然离职；Uber 等采用自动驾驶技术的汽车公司由于车祸事件，受到媒体和公众的重点盯防......

还有 AI 技术应用在道德伦理这一步的审查是模糊的。

上周，Google 在其语音助手中加入了 Duplex 人工智能语音技术，它能模仿真人的语气进行对话，帮助用户完成电话预订美发沙龙和餐馆等操作。随后谷歌母公司 Alphabet 董事长 John Hennessy 声称它已经部分通过了图灵测试，但由于它与人类沟通时并未告知自己机器人的身份，因此人们担忧它是否会被用来欺诈他人。

我们要防止人工智能“触电”人类道德伦理，但在相应伦理道德框架和机制建立上还处于黎明前的暗夜里。

国外有诸多大公司相继已建立了相关组织来讨论 AI 的道德伦理问题。2016 年 9 月，Facebook、Google 以及亚马逊除了内部制定防止技术滥用的机制之外，它们也成立了联合组织，目标是寻找应对 AI 带来的安全与隐私威胁的解决方案，OpenAI 也是类似的组织。

我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划，但将伦理与法律要求嵌入到 AI 系统仍是世界性难题。即便如此，逐步制定行业标准和道德标准，了解 AI 存在的风险刻不容缓。否则，将 AI 用来“监控”学生个人喜怒哀乐这样的技术应用会不断涌现。