下载app

扫码下载

扫码关注

新华报业网  > 首页 > 正文
瞭望评 | 当心“AI幻觉”制造文化幻觉

提问刚过几秒,就得到一篇“长文”;扔进几张图片,就收获一部“大片”……如今,一些小伙伴写个文案、做个PPT、画个图、剪个视频,干啥都离不了AI(人工智能)。各色各样的AI大模型提升了工作效率,增强了脑回路。但是,一些幻觉也在不知不觉中产生了。

比如,最近有媒体刊文,探讨人工智能也会“胡说八道”的现象。文中提到,面对“康熙有几个儿子”的问题,不同大模型竟给出不同答案,让“问题”真的变成了问题。

不少网友也有过类似经历。比如,给某AI模型出题——“画一幅唐代金陵繁华市井图”。数秒后,得出的图片虽有了“夜市千灯照碧云”的繁盛意象,但街道两旁建筑明明是明清风格,街边行人甚至是西装革履。这分明就是21世纪的南京夫子庙。

人工智能“一本正经胡说八道”的现象,被研究者们称作“AI幻觉”,这是AI本身对于知识的记忆不足、理解能力欠缺、训练模式单一等因素导致的,而经过不断迭代技术、优化算法,未来AI会变得越来越精确。换句话说,“AI幻觉”是技术发展进程中的一种现象,今后可以逐步弥补。但需要注意的是,AI“胡说八道”往往会让人产生“文化幻觉”,这种“文化幻觉”有时候负面影响还很大,弥补起来就不那么容易了。

综合来看,AI导致的“文化幻觉”通常有几种表现。

一是指鹿为马。针对文章开头提到的问题,有的AI模型说“35个”,有的说“24个”,各有各的说法。这时候,用户很容易混淆是非。对AI“拼凑”出的有误答案,很多用户可能全盘接收,不去进一步核实,其中不排除历史、文化等严肃问题的回答。这样一来,一个拥有庞大用户群体的AI模型,稍有不慎,就会造成错误结论和观念广泛传播。

二是无中生有。有媒体曾尝试向某AI模型提出本不存在的问题,比如,谁赢得了1897年美国和南极洲的战斗?没想到,AI还洋洋洒洒、条理清晰地回答了几大段,写明了“战斗”的时间、人物、地点。从这个案例中,我们能看到AI创作小说的巨大潜质,但也有了隐忧,假如AI参与修史时把关不善,历史会不会真成了“任人打扮的小姑娘”?

三是将错就错。譬如,很多短视频博主喜欢用人工智能配字幕,为了赶时效,不仔细校对就匆匆发出。短视频中错别字多了,大家秉持“错就错吧,反正不影响阅读”的态度,平台、用户、作者都对错别字问题睁一只眼闭一只眼。长此以往,就会造成大量的“以讹传讹”。

技术经得起试错,但文化传承经不起试错,特别是作为“根和魂”的优秀传统文化。AI导致的“文化幻觉”一旦蔓延开来,轻则让传统文化的传承内容变得模糊、扭曲、割裂,重则给历史虚无主义等错误思想以可乘之机。如果一代人从出生就沉浸于AI杂糅各类元素、弱化年代感的“赛博朋克”图文作品。那么,他们对古建筑、古诗词、传统服饰等文化符号又会有多敏感?对文化遗产背后的历史之变、技艺之美、文脉之续又有多少探索的兴致?

实事求是说,“AI幻觉”不可避免,且会持续很长时间,但“文化幻觉”则是经过努力可以控制和避免的。在这方面,技术、监管部门、用户三方的力量都少不了。

羊毛出在羊身上,技术的问题首先还要靠技术解决。前阵子传来好消息,“AI幻觉”已被研发者们重视。据称,通过“搜索引擎校正”等专业方法,“AI幻觉”的漏洞正在修复,其引发的“文化幻觉”也会逐步减少。在监管方面,相关部门和平台则应该建立符合AI发展实际的内容监管体系,在史实证据、经典阐释等方面加大把关力度。当然,用户提升自己的信息素养也很重要。就我们目前的认知而言,AI还只是工具,如果把文化发展比作一片蓝海,AI则是可利用的“桨”。引航向的“灯塔”,永远是文化中的魂脉和根脉。(金亦炜)

责编:徐睿翔
版权和免责声明

版权声明: 凡来源为"交汇点、新华日报及其子报"或电头为"新华报业网"的稿件,均为新华报业网独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"新华报业网",并保留"新华报业网"的电头。

免责声明: 本站转载稿件仅代表作者个人观点,与新华报业网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或者承诺,请读者仅作参考,并请自行核实相关内容。

专题
视频

扫码下载

交汇点新闻APP

Android版

iPhone版

分享到微信朋友圈
打开微信,点击底部的“发现”,使用 “扫一扫” 即可将网页分享到我的朋友圈。
分享到QQ
手机QQ扫描二维码,点击右上角 ··· 按钮分享到QQ好友或QQ空间