艾媒网（imedia.cn）获悉，12月15日，“微信珊瑚安全”发布公告称，近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。结合用户举报、日常巡查等线索，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个。下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度。
图片来源：微信珊瑚安全公众号截图
微信打击AI仿冒的行为来源于近期“AI张文宏卖货”事件。有网友发现社交媒体平台上出现一则带货视频，视频中知名传染病学家张文宏正推荐一款保健产品，视频下方的商品橱窗中显示该商品已销售1200多件。后经核实，该视频中的人并非张文宏本人，而是利用AI技术合成的，且这类账号在社交媒体平台上不止一个。张文宏医生在回应媒体时表示，他曾多次向平台投诉，但由于相似账号过多而屡禁不绝，想求助警方又因对方使用虚拟账号而无法确定举报对象。
随着人工智能技术突飞猛进，与之相关的风险和问题也随之而来。iiMedia Research（艾媒咨询）数据显示，2020年中国人工智能核心产业规模就已达1500亿元，预计在2025年将达4000亿元，未来有望发展为全球最大的人工智能市场。然而，近年来，智能算法、模型训练、AI合成所带来的隐私泄露、数据滥用、算法黑箱、深度伪造、恶意合成等问题也层出不穷，不仅侵犯了用户的隐私权、肖像权等权利，也损害了部分消费者的经济权益。其中，AI换脸近年来在网络上十分火热，其背后的深度伪造问题也需要人们提高警惕。
深度伪造技术（Deepfake）利用人工智能的深度学习算法进行自动化的数据处理，实现图片、音频及视频的智能模拟和伪造，包括视频伪造技术、音频伪造技术、虚假网络身份伪造技术等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者很难辨明真伪。
如今在网络上，给电视剧男主换上其他演员的脸，为喜爱的男女明星制作“性转”视频成为网友们乐此不疲的娱乐行为。AI换脸虽给予了人们极大的创作空间，但也存在侵害个人权益与引发社会信任危机的问题。首先，深度伪造可能侵犯个人隐私权、肖像权等个人权益，部分不法分子甚至可能利用深度伪造技术进行诈骗，对财产安全造成现实危害。与此同时，深度伪造技术可能引发社会忧虑和信任危机，难辨真伪的深度伪造视频如若被不法分子利用，将会促进虚假信息的传播，影响社会舆论走向，迷惑社会公众的判断，引起恐慌。