分享好友 行情首页 行情分类 切换频道
紫荆观察丨科技理当向善,AI不能用于造谣和欺诈
2024-12-27 10:28  浏览:56

近日,公安部公布依法打击“网络水军”违法犯罪典型案例,其中,广州公安机关网安部门查明,叶某某等人为赚取网络平台流量收益,招募兼职人员注册自媒体账号,利用人工智能工具改写热门文章,批量发布虚假信息,累计发布引流图文信息50万篇。公安机关已抓获犯罪嫌疑人6名。

AI的应用范围和使用群体日益广泛,有人用于增进工作和学习效率,也有人用于非法牟利,典型行为包括合成和散布不实信息;合成公众人物形象进行带货、代言等。最近,张文宏、黄百鸣等公众人物的形象、声音被AI合成,在未经允许的情况下被用于带货、代言,也有人用AI合成演员“靳东”的形象用作网络诈骗,甚至于东来、雷军等企业家也成为受害者。

网络上的信息真假混杂,这类信息能产生恶劣影响的原因之一在于其显著的负面性。重庆警方日前公布5起运用AI工具造谣的典型案例,其中包括“某服务点遭暴力袭击”“某地一银行遭劫匪袭击”“北方一城市某工厂被大风夷为平地,多人死伤”等。好事不出门,坏事传千里,不论是真新闻还是AI谣言都逃不出这个规律。而不法分子也正是利用这一心理,制造这类有关公共利益、焦点议题、暴力色情的谣言,准确击中网民的恐惧和共鸣,进一步转化为流量利益为己所用。

另一个突出特点是借助“权威”,这也是AI时代谣言的新特征。在AI广泛运用以前,也曾发生不法分子假借名人身份行骗的案例,但其手段不过是通过图片编辑软件伪造一两张照片以证身份,这样的低劣手段轻易就能被识破。但通过AI能够快速提取他人的外貌和声音,个性化定制视频,别说对新技术应用较为陌生的中老年人难以判断,即便是生长于互联网环境中的Z时代青年,面对技术纯熟的AI合成视频也不一定能准确分辨。

上述特点已足够对公共情绪和舆论、名人和名企形象造成不良影响,叠加AI近乎无限的量产能力,其危害程度更是呈指数级上升。一些内容生产者尝试提醒网民如何辨别AIGC避免受骗,但是AI技术的迭代速度实在太快,仅仅在受众端做工作显然解决不了根本问题。

2023年8月15日起施行的《生成式服务管理暂行办法》规定,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得生成暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。因此,对AI造谣等的治理要从AI工具开始,应强化服务提供方对素材以及其生成的审核职责。网络平台也该担起主体责任,建立有效的溯源机制,同时完善平台的AIGC甄别技术,对疑似内容做出提示。而类似事件发生后,也需以儆效尤,严格追究不法分子的刑事或行政责任。

不可否认的是,AI几乎已经渗进目之所及的方方面面,并且必将持续地存在下去。人用双手创造什么,就该用头脑控制什么,既然人工智能是大势所趋,那么只有建立起完善的治理体系,才能避免技术凌驾于人的理性之上,实现真正的科技向善。

赶紧关注我们的官方账号吧~

清朗网络空间,我们共同守护!

扫码进入举报不良信息页面

来源丨南方都市报

编辑|李洋

    以上就是本篇文章【紫荆观察丨科技理当向善,AI不能用于造谣和欺诈】的全部内容了,欢迎阅览 ! 文章地址:http://w.yusign.com/quote/7425.html 
     行业      资讯      企业新闻      行情      企业黄页      同类资讯      网站地图      返回首页 述古往 http://w.yusign.com/mobile/ , 查看更多   
最新新闻
高效打造与推广来宾网站的全方位攻略
全方位解析高效建设与推广来宾网站的关键步骤:从市场调研、网站规划、用户体验设计,到内容优化、搜索引擎优化、社交媒体营销,
漫蛙漫画2024
漫蛙漫画2024是一款非常高质量的漫画阅读软件,不同的漫画都可以自由的进行选择和阅读,了解更多新的漫画信息,直接就可以保存到
惠州电流表99T1 50/1用途+2025排名一览
惠州电流表99T1 50/1用途+2025排名一览 1. 产品概述 - WSK - S-(TH)智能温湿度控制器是一种能够对环境温湿度进行精确监测和控制
生成式AI产品究竟怎么做?硅谷、百度、腾讯、WPS等40+大咖齐支招!
提到程序员与产品经理,你会想到什么?程序员常为产品经理的天马行空感到头疼,而产品经理则期待技术团队迅速实现创意。这种既依
天翼云电脑(公众版)是不是和正常电脑用起来一样的?
天翼云电脑(公众版)是否支持多终端登录?什么是异常登录?有哪些异常登录?异地登录是否一定是异常登录?天翼云电脑(公众版)
巨量本地推提升学历私信推广广告怎么开户
在当前信息化快速发展的时代,教育需求与日俱增,尤其是提升学历的需求呈现出明显增长趋势。针对这一市场需求,越来越多的企业选
MP3提取转换器(Super MP3 Converter)
MP3提取转换器(Super MP3 Converter)是一种功能强大,支持多种格式并支持批处理的MP3格式转换器。,该软件支持多种格式的内容输
如何使用短链接生成器下载并分享您的长网址?
如果您曾经想要在推特、脸书、微博等社交媒体上分享一个链接,但链接太长以至于占用了大部分可用字符,那么使用短链接生成器就是
防爆轮胎大比拼!2021中国TOP轮胎测试18寸缺气保用组
    在上一期的视频中,《车与轮》中国TOP轮胎测试排行榜给大家带来了高性价比舒适均衡型轿车轮胎产品的榜单,相信很多车主
【2024-12-12】12-12复盘及明日市场预期
来源:雪球App,作者: 美丽的超短裙,(https://xueqiu.com/8421281213/316587085)1、市场今天大盘放量走修复,看看明天是否能
本企业新闻
推荐企业新闻
发表评论
0评