民盟江西省委会文化委员、民盟直属中介组织支部副主委赵子建反映，近日，广州一女子在地铁上的照片被AI一键脱衣，“隔空猥亵”，一丝不挂的裸体照片被广泛疯传，引发全民关注热议。相继发生的“裸体脱衣”、“明星换脸”、《热巴之恋》、“特朗普被捕”等赚取流量事件，已突破道德操守，践踏了法律 “红线”。
“一键去衣”APP，可以使用AI算法自动“脱掉”人物身上的衣服，并快速填补出裸体。虽然该软件已被屏蔽，但网络上仍有许多替代应用程序提供下载。正在衍生出一系列“AI犯罪”的风险和隐患，令人恐慌，任何人都可能成为受害者，且难以维权。
ChatGPT等新技术的出现，是为了更好的服务社会，但随着AI日渐发达，部分技术以创新和娱乐的形式走向了罪恶，犹如打开了潘多拉魔盒。利用AI技术生成虚拟真人的账号已混入微信、抖音等社交媒体，甚至可能定制色情图片视频、骚扰、勒索等，已让人真假难辨。目前，我国在人工智能方面尚缺乏更加严厉的监管机制和伦理审查规则。
对此，本人建议如下：
一、建议相关部门及时完善相关法律，对利用AI技术侵犯他人肖像权、侮辱、诽谤、造谣等严重侵害公民合法权益的行为，要依法处罚。对在网络上提供技术，传播和售卖涉黄“换脸”或“脱衣”图片视频及或敲诈等违法犯罪行为，要依法亮剑，严厉惩罚。
二、建议国家职能部门、互联网企业尽快制定开发规则，强化源头治理，应用商店等平台上线要严格审核测试，坚决取缔非法APP对审查不力、姑息纵容的网站平台要连带从重处罚。
三、建议职能部门对于违背公序良俗的黑灰色AI软件，要持续强化监管，激活《互联网信息服务深度合成管理规定》等现有法规。将该工作补充纳入到 “清朗·从严整治”专项行动，强化对侵权图片、视频及账号、平台的审核，坚决打击，从严处置，防范于未然，维护网上信息内容传播良好秩序，营造风清气正的社会环境。