当前AI技术的普及程度日益加剧,由此生成的色情材料已对青少年群体形成切实冲击。美国知名媒体机构常识媒体(Common Sense Media)近期发布的一项调查揭示,高达75%的青少年曾接触过网络色情信息,其中半数以上孩子早在12岁便遭遇此类内容。

此项调查邀请了1300余名年龄在13至17岁的青少年参与,研究结果表明接近半数受访者确认曾看过疑似由AI制造的不雅材料。文章配图-1

这类AI生成工具能够制作虚假裸体照片及不雅视频,也就是业界通常所说的"深度伪造"技术,同时存在专门设计用于此类操作的"AI脱衣工具"和移动应用程序。用户仅需上传个人照片,便能轻易生成对方的不实裸体影像。

常识媒体在2023年同样发布过相关研究报告,当时青少年接触色情内容的比例与现在数据相近。但该机构指出,近三年间青少年涉足此类内容的渠道与性质已发生根本性变异。

"这正是目前情况最显著的不同之处",该研究主导者、常识媒体研究总监苏普丽特・曼博士分析道,"过去我们讨论的是商业制作且通过特定渠道传播的色情制品,而今AI内容直接剥夺了当事人对自己形象处置的权利,让普通人完全无法掌控个人形象可能被怎样恶意利用。"

AI技术将色情内容的生产门槛大幅降低

以往青少年接触的多是AI生成的名人不雅图片,如今"脱衣工具"的攻击目标已转向他们身边的同窗好友。调查人员透露,约20%的受访者表示自己参与制作过AI色情内容,或认识如此行为的人;超过半数案例中,内容主角都是现实生活中相识者。

"我们正面对一个全新形成的几乎无障碍的灰色地带",曼博士指出,"年轻人能够毫无阻碍地接触和使用这类产品,贯穿始终几乎完全缺乏过滤机制与监管环节。"

这类脱衣应用程序下载起来极为便捷,只需简单点击几次即可安装。在所有看过疑似AI色情内容的44%青少年中,有15%是通过专门用于图像视频编辑的AI应用程序接触到这些内容的。

斯坦福大学以人为本人工智能研究院的政策研究员里安娜・费弗科恩坦言,尽管应用商店对上架产品有内容规定,但这类工具往往不会完整披露自身功能,常能蒙混过关获得批准。

未参与本次研究的费弗科恩补充说明:"大量研究证实,当前应用商店与社交平台采取的'打地鼠'式下架措施,根本无法跟上这类内容扩散和演变的步伐。"

对青少年造成的危害,远超普遍预期

曼博士观察到,许多青少年因此开始重新评估自己在社交媒体上的言行举止及个人形象。高达70%的青少年表示担忧:可能在完全未知晓且未同意的情况下,成为AI色情内容的受害者。为自保,他们会谨慎发布动态、将账号设为私密,甚至直接注销账号。

曼博士强调,青少年具备保护个人隐私的意识值得肯定,但这种现状实质上在强化"受害者有罪论"的逻辑。

"凭什么要让年轻人因为恐惧他人恶行,反过来压抑自己的正常行为?"她反问。

此类内容泛滥且唾手可得,更会扭曲青少年对性、性同意和身材标准的认知。近70%的青少年认为AI生成的色情内容会影响他们对"理想身材"的判断。曼博士特别警示,青少年正处于身体快速发育阶段,极易受这类非真实内容误导认知。

"这将动摇青少年在成长过程中多项核心观念的建立,包括如何理解性同意,如何处理亲密关系与恋爱情感",她进一步解释。

这不是孩子个人的问题

超过三分之一的青少年表示,希望能与成年人探讨AI色情问题,却不知从何处启齿。

对许多家长而言,这也是个完全陌生的领域。面对自己都不太理解的新技术,该如何与孩子沟通?

常识媒体建议,家长和监护人不必一开始就深究技术细节,可先从性同意、身心健康、性别认同等基础议题切入,与孩子开展平等包容的对话。待这些基础观念建立扎实,再延伸至AI技术相关内容,孩子会更容易接受。

调查还发现,年龄较小的青少年比年长者更愿意向父母谈论此类话题。尽早开启这类日常交流,也能帮助孩子今后有效应对AI生成的不良内容。

曼博士特别提醒:家长不要指望"一次性解决问题",而应保持开放且持续性的日常沟通。遇到孩子手机里的AI类应用程序,不妨主动询问使用情况,若有疑问可直接提出,无需顾虑。

很多时候,AI生成不雅影像的负面影响会直接波及校园环境。

已有不少学校披露相关事件:学生利用AI制作同窗虚假不雅照片,最终面临法律制裁。更令人忧虑的是,调查显示青少年向AI聊天机器人吐露心事的比率,与寻求学校辅导员或教师帮助的比例相近。

教育部门在处理此类事件时常感两难:严格意义上说这些行为多发生在校外,难以直接干预。

但费弗科恩指出,只要涉事双方都是在校学生,学校就理应承担管理和教育责任。

"解决这个问题需要多方协同努力:学校要履行管理职责,家长要提供引导,同龄人要相互提醒,平台应尽到责任,政策制定者也要及时跟进",费弗科恩总结道,"这本质上是一个全社会共同面对的问题,绝不能将压力全部转嫁给孩子们独自承担。"