提问刚过几秒，就得到一篇“长文”；扔进几张图片，就收获一部“大片”……如今，一些小伙伴写个文案、做个PPT、画个图、剪个视频，干啥都离不了AI（人工智能）。各色各样的AI大模型提升了工作效率，增强了脑回路。但是，一些幻觉也在不知不觉中产生了。

比如，最近有媒体刊文，探讨人工智能也会“胡说八道”的现象。文中提到，面对“康熙有几个儿子”的问题，不同大模型竟给出不同答案，让“问题”真的变成了问题。

不少网友也有过类似经历。比如，给某AI模型出题——“画一幅唐代金陵繁华市井图”。数秒后，得出的图片虽有了“夜市千灯照碧云”的繁盛意象，但街道两旁建筑明明是明清风格，街边行人甚至是西装革履。这分明就是21世纪的南京夫子庙。

人工智能“一本正经胡说八道”的现象，被研究者们称作“AI幻觉”，这是AI本身对于知识的记忆不足、理解能力欠缺、训练模式单一等因素导致的，而经过不断迭代技术、优化算法，未来AI会变得越来越精确。换句话说，“AI幻觉”是技术发展进程中的一种现象，今后可以逐步弥补。但需要注意的是，AI“胡说八道”往往会让人产生“文化幻觉”，这种“文化幻觉”有时候负面影响还很大，弥补起来就不那么容易了。

综合下来看，AI导致的“文化幻觉”通常有几种表现。

一是指鹿为马。针对文章开头提到的问题，有的AI模型说35个，有的说24个，各有各的说法。这时候，用户很容易混淆是非。对AI“拼凑”出的有误答案，很多用户可能全盘接收，不去进一步核实，这其中不排除历史、文化等严肃问题的回答。这样一来，一个拥有庞大用户群体的AI模型，稍有不慎，就会造成错误结论和观念广泛传播。

二是无中生有。有媒体曾尝试向某AI模型提出本不存在的问题，比如，谁赢得了1897年美国和南极洲的战斗？没想到，AI还洋洋洒洒、条理清晰地回答了几大段，写明了“战斗”的时间、人物、地点。从这个案例中，我们能看到AI创作小说的巨大潜质，但也有了隐忧，假如AI参与修史时把关不善，历史会不会真成了“任人打扮的小姑娘”？

三是将错就错。譬如，很多短视频博主喜欢用人工智能配字幕，为了赶时效，不仔细校对就匆匆发出。短视频中错别字多了，大家秉持“错就错吧，反正不影响阅读”的态度，平台、用户、作者都对错别字问题睁一只眼闭一只眼。长此以往，就会造成大量的“以讹传讹”。

技术经得起试错，但文化传承经不起试错，特别是作为“根和魂”的优秀传统文化。AI导致的“文化幻觉”一旦蔓延开来，轻则让传统文化的传承内容变得模糊、扭曲、割裂，重则给历史虚无主义等错误思想以可乘之机。如果一代人从出生就沉浸于AI杂糅各类元素、弱化年代感的“赛博朋克”图文作品。那么，他们对古建筑、古诗词、传统服饰等文化符号又会有多敏感？对文化遗产背后的历史之变、技艺之美、文脉之续又有多少探索的兴致？

实事求是说，“AI幻觉”不可避免，且会持续很长时间，但“文化幻觉”则是经给努力可以控制和避免的。在这方面，技术、监管部门、用户三方的力量都少不了。

    以上就是本篇文章【当心“AI幻觉”制造文化幻觉】的全部内容了，欢迎阅览 ！ 文章地址：http://w.yusign.com/news/2636.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 述古往 http://w.yusign.com/mobile/ , 查看更多