2024年6月11日，社会学研究所开展第89期新智库沙龙活动，由包蕾萍研究员以《儿童青少年AI伦理：国际共识与分歧》为题展开演讲，青少年发展研究室副主任魏莉莉副研究员主持活动。

包蕾萍研究员首先分享了当下与儿童青少年使用AI技术相关的热点研究议题，包括基于AI技术的全科教师在青少年教育领域的使用、中国AI企业“出海”过程中因“儿童AI”伦理而受到的挑战、儿童视角下的AI用途等方面。

包蕾萍研究员继而介绍了本报告的核心概念，即“儿童AI”的定义和范畴。她指出，“儿童AI”的核心就是强调儿童与计算机技术的互动（Children-Computer Interaction，缩写为“CCI”），这一议题业已成为人工智能研究的新兴领域，并逐渐发展成一个关于促进儿童计算机系统设计、评估和完善的学科。联合国儿童基金会（UNICEF）根据该学科的框架，为“儿童AI”的范畴做出明确界定，包括明确为儿童设计的系统、与儿童互动的系统和可能影响儿童的系统。从应用场景来说，“儿童AI”可以应用于儿童的个性化辅导/干预、医疗诊断、危害与安全的识别、用于社交的机器人、个性化娱乐、公共服务的提供、儿童的语音、情感和年龄识别等领域。

包蕾萍研究员指出，关于“儿童AI伦理”目前在以下方面已经形成了共识：（1）安全和隐私方面，AI技术会产生海量的数据信息，因此儿童信息会存在泄露和不当使用的风险，脆弱家庭的儿童隐私泄露风险更高；（2）算法偏见方面，基于AI技术的决策系统可能会针对不同类型的儿童产生差异化的公共服务供给，而这种差异也许是基于偏见的；（3）算法偏好方面，基于AI技术的信息系统会进行同质化的信息推送，让儿童更容易陷入信息茧房；（4）公平连接方面，AI技术的接入和使用对于电力、网络等基础设施有前置性需求，而在那些不具备此类条件的区域，儿童就可能无法获取相关技术和应用；（5）童年的内容与形式方面，AI技术加持下的童年会带来诸多新问题，而目前尚缺乏研判。同时，各国在如何更好地使用AI技术方面仍然存在大量分歧，这些分歧更多基于国际局势、国家利益和政企关系的考量，而非某些西方国家所宣称的“以儿童为中心”。要实现儿童保护的国际合作和全球治理，必须要打破这些壁垒。

最后，包蕾萍研究员详细介绍了全球推进“儿童AI伦理”的政策实践。联合国儿童基金会在2020年推出的《儿童人工智能政策》中的九项原则是当前最重要的政策文本，在确保信息的隐私性、安全性、公平性等原则下，还倡导了面向儿童未来的可持续发展。不少国家都出台了“儿童AI”的监管政策，强调权利保护、以人为本、永续发展、安全运用和监管责任。

讲座引发现场热烈的讨论，与会研究人员就网络暴力、网络信息安全、数字素养的具体维度等问题展开分析。主讲人最后指出，对“儿童AI”的研究有助于我们加深对数字时代生活方式的理解，关注数字技术的伦理与健康风险，以及数字技术发展的社会性因素，还应当密切关注国家的政策变化，帮助儿童与青少年更好地适应和应用数字技术。