联合国儿童基金会近期发布的一份报告显示,全球至少有2000万名儿童已经体验过人工智能技术,而青少年使用AI的增长速度是成年人的三倍以上。这一现象既带来了机遇,也伴随着挑战。AI能够为儿童提供个性化的学习支持,成为情感交流的渠道,并利用智能语音和实时翻译帮助有特殊需求的儿童融入学习和社交。然而,在儿童快速接触AI的同时,相应的安全保护措施却未能同步跟上,因此,从儿童抓起,确保人工智能的安全性已刻不容缓。

AI为儿童开启了广阔的可能性,能够打破地域和师资限制,充当个性化学习伙伴,并为内向或有社交障碍的儿童提供情感疏导。智能语音和实时翻译等功能还能帮助残障儿童或非母语儿童克服沟通障碍,促进他们平等参与学习和社交。合理利用AI,能够丰富儿童成长的多样性。

然而,AI技术在为儿童带来机遇的同时,也潜藏着不容忽视的风险,对心智尚不成熟的儿童构成了多方面的安全威胁。

首先是内容和认知风险。儿童辨别能力有限,长期沉浸于迎合式、无条件的AI陪伴,容易产生过度情感依赖,削弱现实社交能力。部分儿童过度依赖AI代写作业,可能导致独立思考能力的下降。

其次是隐私安全危机。许多平台的数据加密机制尚不完善,大量的未成年人信息面临泄露风险,进而可能引发精准电信诈骗,以及个人信息被滥用,危及人身和财产安全。

此外,AI还催生了新型侵害。国际上已出现不法分子利用深度伪造技术,将儿童照片制作成低俗色情影像,AI技术显著降低了实施儿童性剥削的门槛。同时,网络暴力、极端价值观和不良生活导向等有害信息,可能借助AI被精准推送给儿童,破坏其成长环境。

要构建一个有利于儿童健康成长的人工智能环境,需要政府、企业、学校和家庭的共同努力。

完善法治是首要的保障。中国已在这一领域迈出重要步伐,即将于7月15日起施行的《人工智能拟人化互动服务管理暂行办法》,明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,并要求设置未成年人模式和时长限制。这是全球范围内对AI情感交互服务进行监管的创举。未来,应将儿童权利更全面地纳入人工智能治理体系。

加大研究投入是认知的基础。目前,关于AI对儿童认知发展、情绪健康及潜在危害的研究证据才刚刚显现。需要增加对该领域的研究投入,系统评估不同类型AI应用对不同年龄段儿童的具体影响,为制定精准的监管和干预措施提供科学依据。

源头治理依赖于安全设计。AI产品在设计之初就应纳入儿童安全影响评估,而非等到上市后再修补漏洞。数据收集和处理应遵循最小化原则,并获得父母或监护人的知情同意。在功能设计上应保持克制,设置家长授权机制,减少屏幕占用时间,并避免过度社交刺激。

提升AI素养是长远之计。学校和家庭应将AI素养教育融入日常教学和生活中。家长需要为孩子设定AI使用的界限:不替代独立思考,不脱离现实社交。更重要的是,要满足孩子现实生活中的情感需求,从而从根本上降低他们对AI的心理依赖。

从儿童抓起的人工智能安全,将赋予创新更多人文关怀。在为AI的无限潜力喝彩的同时,我们应从儿童的视角审视这个世界。儿童是数字时代的原住民,他们应当在真实的人际互动、自由的探索试错以及充满关怀的教育环境中健康成长。