【多彩新论】AI剧情聊天亦须恪守“边界”

发布时间：2025-01-16 00:08:51

近日，有网友反映自己妹妹和AI男友“谈恋爱”，文字记录显示聊天内容露骨疑似“擦边”。在这类AI剧情聊天软件中，用户可以自定义虚拟人物风格，由系统生成AI人物形象。

AI剧情聊天软件以其虚拟的丰富情感体验吸引受众，然而部分AI剧情聊天软件中存在涉嫌违法违规内容，色情擦边、语言暴力等内容输出隐藏其中，尤其是对青少年的身心健康危害极大。这样的设计已经越界，触及法律和道德的底线。

随着AI剧情聊天软件兴起而伴生的乱象，还需要更精细化的技术手段以及配套的管理措施、细化标准来加强清理整治，尤其是强化对未成人的保护。要加强源头治理，对AI生成内容实时监管，不给违法行为留下生存空间，必须要依法追究责任，让违法违规者付出应有代价。

用法律的手段保护用户权益，在内容审核、商业行为规范等方面为AI剧情聊天软件设计划出清晰界线，技术开发者必须承担起相应的社会责任，促进AI模型良性发展，共同营造一个健康向上的网络环境。

贵州日报天眼新闻记者程星

一审方勇

二审田洋

三审欧阳海南

（责编： admin）

免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。

如有疑问请发送邮件至：goldenhorseconnect@gmail.com