近期，一系列由AI生成影像、换声及换脸的音频视频引发公众广泛关注和热议。
微信公告：打击利用AI仿冒知名人士
进行营销宣传
12月15日，“微信珊瑚安全”微信公众号发布《关于打击利用AI仿冒知名人士进行营销宣传的公告》。
《公告》指出，近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益，避免消费者上当受骗，结合用户举报、日常巡查等线索，微信平台从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个。
典型案例↓
微信平台表示，将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时，微信平台也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。
AI改编短视频风靡网络
不能没边界
近期，AI改编短视频风靡网络，引发公众广泛关注和热议。不少视频为博流量，毫无边界亵渎经典IP，冲击传统文化认知。对此，广电总局近日发布了《管理提示（AI魔改）》，旨在加强对此类视频内容的规范管理，保障网络文化的健康有序发展。
AI改编短视频的兴起，展现了技术的创新和网络文化的多样性，但也暴露出内容监管的空白和版权保护的挑战。AI技术可以对原有视频内容进行重新剪辑、配音甚至改变剧情走向，如《甄嬛传》变身“枪战片”，《红楼梦》改成“武打戏”。虽然为网友带来了新鲜感，但也扭曲了原作品的意图，侵犯作品版权。因此，加强AI改编短视频的规范显得尤为重要。
完善法律法规是加强AI改编短视频规范的首要任务。许多作品在未经原作者许可的情况下被AI改编，侵犯了原作者的权益。应完善相关法律法规，明确版权归属、侵权范围和责任划分等。依法严惩恶意篡改、侵权行为。
人工智能技术应用亟待规范
AI技术的发展降低了深度伪造和低价量产的门槛，AI生成影像、换声及换脸视频大量出现。这些视频虽吸引眼球，但背后隐藏的风险却不容忽视。
当前，虚假信息的制造和传播已成为全球性问题，以假乱真的AI合成技术让普通人在信息甄别上陷入困境。《2024年人工智能安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对网络安全和社会安全构成严重威胁。虚假信息的泛滥，不仅扰乱了网络空间的正常秩序，更可能将负面情绪从虚拟世界传导至现实，加剧社会焦虑。
应对深度伪造等乱象，需要多方协作、共同治理。目前，我国已出台《互联网信息服务深度合成管理规定》等法律法规，从源头加强内容管理。同时，《人工智能生成合成内容标识办法（征求意见稿）》的发布，也标志着国家层面正加大对AI技术的监管力度。只有让AI在合法合规的框架内健康发展，才能让人们真正享受到技术变革带来的红利，推动人工智能产业良性发展。
作为信息传播的重要一环，平台运营商和服务提供者也应承担起相应的责任，对AI生成内容划定红线，严禁违法违规、侵权欺诈内容的传播，并添加显著提示标识，防范虚假信息扩散。此外，利用数字水印、时间戳、哈希函数等技术手段，既能提高信息真实性的可验证性，也是防范虚假信息传播的有效手段。作为内容消费者，受众也应保持警惕，提高辨别AI生成内容的能力，避免偏听偏信。