随着人工智能 （AI） 技术快速发展，其潜在的风险也随之出现，真假新闻的界限似乎变得模糊，便是代表性的潜在风险之一。一些不法分子为赚取平台流量补贴，实现流量变现，利用AI合成技术编造谣言或假新闻，严重扰乱社会秩序。
利用AI生成假新闻的两则案例
案例1：违法人员利用 AI 技术编造谣言。
警方对王某某进行约谈，得知网上发布的这条谣言，从文本到图片都是通过AI生成的。违法人员王某某通过国内一个网站，该网站是专门提供近期可能生成热点的一些新闻报道，或者说正在发生或即将发生的一类的事情，分级分类提供给写作者一些关键性的关键词，通过该网站生成关键词就形成了文章的标题。
王某某通过具有语音交互功能的AI软件，只需说出关键词，软件便会自动在网络上抓取相关信息，生成几百到上千字的文本，并配上貌似和事件具有相关性的虚假图片，从而形成一段看起来信息量很大，实际上子虚乌有的内容。违法人员王某某将AI生成的这些内容，使用另一款软件自动上传到该MCN机构控制的多网络平台不同的账号上，并对外发布。
通过AI软件生成内容的方式，这家MCN机构短时间内生成了大量文章，最高峰一天能生成4000～7000篇，最高的一篇文章收入700元，初步估算每天的收入在1万元以上。
经警方调查，王某某共经营 5家 MCN 机构，运营账号842个。自2024年1月以来，其中一家MCN机构利用其账号，陆续在某平台发布了“西安 1 月 10 日发生爆炸导致建筑、车辆炸毁、人员伤亡”等多条谣言信息。经查，王某某的行为构成传播谣言，虚构事实，扰乱公共秩序。南昌警方依据相关规定，依法对王某某处以行政拘留5日，责令涉案MCN机构停业整改。
案例2：新闻风格+惊险“灾情”细节，此类AI生成谣言更具迷惑性。
在重庆，公安机关查处一起个人利用AI软件，编造民房爆炸谣言的案件。这起案件
被公安部列为打击整治网络谣言违法犯罪典型案例。该案例利用AI技术，模仿新闻风格，一键生成涉及灾情的信息，以获取高流量。
2023年12月25日，一则“重庆巫溪一民房发生爆炸事故，4人不幸遇难，官方紧急介入调查”的消息在某网络平台发布，全文500余字，以新闻报道的口吻，提供了“发现了4名遇难者，其中包括一名儿童”“疑似与居民私拉乱接电线有关”等细节，短时间内获得数万次的点击量。
这篇谣言阅读量暴涨，让之前在网上发文没有任何流量的康某某一开始还有些兴奋。
康某某说，当时我发了20多条，没有啥收益，后来看了一个爆炸的新闻点赞好几十万，我就输了一个“重庆爆炸”，它就自动生成了，我就复制它的标题和文章进行发表。
康某某之所以制造谣言，是因为得知在某知名网络平台创作发布文章，可以根据阅读、评论、转发数量等获取相关流量收益，每千人有效阅读量有1～2元的奖励。但他编造虚假消息博取流量的行为已触犯法律。
经查证，康某某对其虚构事实扰乱公共秩序的违法行为供认不讳。公安机关依法对其行政拘留3日，收缴其违法所得，并封禁其网络账号。
什么是AI假新闻？
当前，各种AI工具的出现，为虚假信息传播提供了便利，使得炮制假新闻变得更加容易和高效。假新闻的生成手段从过去的图片和文字素材拼接，发展到了利用大模型生成文字信息和图片视频的新阶段。不法分子通过AI伪造假新闻、假人物、假现场，冠以突发新闻、科普内容等名号在互联网广泛传播、吸睛牟利，制造谣言、混淆视听，扰乱网络传播秩序。
AI假新闻如何产生？
AI 能够生成逼真的假新闻、社交媒体账户和内容，用于社交工程攻击，误导人们进行不安全的操作，所用到的技术手段主要有以下4种。
01 文本生成。利用自然语言处理 （NLP）和生成模型，人工智能可以生成逼真的文章。这些文章可能包含虚假信息，被设计成模仿真实新闻报道的语言风格。
02 语音合成。语音生成模型可以模拟真人的语音，这使得制作虚假的音频新闻变得更加容易。
03 图像和视频生成。人工智能技术可以用于生成虚假的图像和视频。深度学习模型能够合成逼真的照片和视频，包括将人脸嵌入到不同的场景中，让虚假信息更加难以分辨。
04 社交媒体机器人。人工智能程序可以自动创建和管理大量的社交媒体账户，通过这些账户发布和传播虚假新闻。这些虚假账户被称为“机器人”或“僵尸粉丝”。
一方面，AI可以把很多抽象的概念具象化地展示在观众面前，且形式非常夸张、内容耸人听闻，利用人们的情绪弱点进行传播，会对观众产生一些视觉、听觉或情感上的冲击，使其看起来变得更加可信。
另一方面，AI不仅能捕捉用户的心理预期，还能针对性释放出一些部分真实的信息，进一步混淆视听。
一旦这些AI假新闻被大量传播，就会扰乱正常的网络传播秩序，破坏互联网生态。利用AI生成假新闻的造谣者，还有可能触犯我国刑法，涉嫌犯罪，可谓是“害人害己”。
如何鉴别AI假新闻？
针对使用AI“洗稿”，杜撰新闻事实的网络谣言，广大网友可通过以下方式进行鉴别。
1.关注信息来源
选择权威媒体。在浏览新闻时，尽量选择权威、可信赖的媒体或机构作为信息来源。这些媒体通常有更严格的新闻审核机制，能够减少AI假新闻的传播。
警惕非官方渠道。对于来自社交媒体、个人博客等非官方渠道的信息，要保持高度警惕，尤其是那些内容耸人听闻、缺乏可靠来源的信息。
2.分析新闻内容
检查逻辑性和一致性。注意新闻信息的逻辑性，如果发现一条新闻在逻辑上存在明显的漏洞或矛盾，它很可能是经过篡改或杜撰的。同时，检查新闻中的事实是否一致，避免被误导。
核实关键信息。对于新闻中的关键信息，如时间、地点、人物等，要进行核实。可以通过搜索引擎查找相关报道，对比不同来源的信息是否一致。
3.利用技术工具
使用事实核查工具。一些网站和应用程序提供了事实核查功能，可以帮助用户快速验证新闻的真实性。这些工具通常利用先进的算法和数据库来检测新闻中的虚假信息。
关注专业机构的声明。一些专业机构如科研机构、政府部门等，会针对网络上流传的谣言进行辟谣。关注这些机构的声明，可以及时了解真相。
4.保持理性态度
不盲目相信和传播。在社交媒体或网络上看到可疑信息时，不要轻易相信和传播。可以先进行核实或者等待官方消息发布后再做判断。
提高媒介素养。提高自己的媒介素养，学会批判性思考，对于新闻信息保持怀疑态度，不轻易被情绪化的内容所左右。
5.及时举报
如果发现虚假新闻，可以通过举报电话、互联网举报中心等多种途径进行举报。这有助于维护网络生态的健康发展。
总之，个人在上网“冲浪”时需提高警惕，增强对假新闻的防范意识和辨别能力，不人云亦云，不偏听偏信；同时，自觉远离假新闻，不当假新闻的跟随者、助推者。如发现虚假新闻，可及时通过举报电话、互联网举报中心等多种途径对其进行举报，共同维护风清气正的网络生态。
来源：综合央视新闻、保密科学技术微信公众号等媒体报道