据央视网报道，近日，一名10岁女孩和生成式人工智能（AI）之间较为露骨的聊天记录，令其家人苦恼。这名女孩偷偷用AI聊天软件，与AI生成的“男性角色”进行“谈恋爱”，甚至多次出现“擦边”对话。有关AI的伦理问题再次进入公众视角。
科技的发展与应用，总是机遇与风险并存，但新型科技的产生并不可怕，更无需恐慌。新事物的出现，必然产生新的矛盾。如同一个事物的正反两面，如何引导科技向善，规则与监管至关重要。
如同AI聊天软件。通过大数据反复演练，AI聊天软件的功能给人类带来了全新的情感体验，甚至打造出了“梦中情人”：互送礼物、互道早晚安，24小时随叫随到，还能给你饱满的情绪价值。试问，一般成年人都难以抵抗，又何况是未经世事的未成年人？2024年11月共青团中央发布的《第6次中国未成年人互联网使用情况调查报告》显示，当前有近九成的未成年网民听说过人工智能技术，42.4%的未成年网民对此感兴趣。由此可以看出，引导技术向善，加强对未成年用户的保护刻不容缓。
有关AI聊天引发的争议案例不仅在国内，在国外也已出现。有媒体报道显示，美国一AI公司所制造的AI产品，竟暗示一名未成年人杀死父母。如果在商业利益的驱使下，AI产品一味追求用户的低级趣味，忽视道德与法律的底线，只会加剧年轻人的错误认知，不断挑战人类共有的价值观。
不可否认，AI发展已不可逆，是向阳而生？还是放任自流？说到底，还是取决于人类如何使用这项新技术。筑牢AI技术发展洪流的堤坝，是当务之急。平台、家长、社会都需要秉承负责任的态度，发挥各自优势，通过内容审核、行为引导、市场监督等方式，让未成年人和AI都能健康成长。
更为重要的是，监管必须伴随着科技发展而前行，筑起AI运行的规则，不仅是在保护我们，也是对科技发展的一种助力。只有建立起AI核心价值观和明确的运行规则，才能让科技发展回归正途，最终为人服务。
上游新闻 贾晨
编辑：康磊责编：李洋,郎清湘 审核：陈旭
免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
如有疑问请发送邮件至：goldenhorseconnect@gmail.com
