人工智能赋能课堂反馈的伦理困境及风险化解

摘要：

人工智能(AI)技术为课堂教学反馈带来质效提升的同时,其引发的一系列伦理问题也日益受到关注.对应用个案的系统分析有助于揭示此类伦理困境产生的深层次原因.基于对X中学课堂反馈AI系统的开发者以及教师、学生等应用者的访谈,通过三级编码分析构建的"内因—外缘"解释模型表明:课堂反馈AI系统应用的伦理困境主要由算法陷阱引起,表现为算法黑箱与算法歧视;由于算法规则的不透明和偏向性,课堂智能反馈过程呈现出数据失信、数据滥用和隐私侵犯等现象,诱发了权力失范、关系失衡、情感异化等外发风险;这些风险表现为"师端"的教育自主权让渡,"生端"的学习自主性丧失、过度情感劳动以及情感遮蔽等.化解AI赋能课堂反馈的伦理风险,应该规避算法黑箱和算法歧视,主张师生对算法规则有知情权,以学生的主动性和发展性为落脚点完善法律法规对抗算法歧视;制定数据伦理规约,确保教育数据与师生隐私的安全;建立师生与AI之间的双向平等关系,强化人机协作效用;揭示学生情感变化规律,发展师生的积极情感关系.

关键词：人工智能、课堂反馈、算法陷阱、伦理风险

所属期刊栏目：34

分类号：G434(电化教育)

资助基金：国家社会科学基金ACA210010

在线出版日期：2022-03-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：29-36