防范“AI公然说谎”亟待平台尽更多责

自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题，可能会获得这样的回答。然而，这个看上去有鼻子有眼的回答，却是一条彻头彻尾的假消息。

近年来，生成式AI迅速进入我们的生活 通过简单提问，就 ——能快速生成文本、图片、音频、视频和虚拟场景，已广泛应用于多个方面。与此同时，涉及AI造假、造谣的现象也日益增多，例如AI假冒名人带货事件已发生多起，AI生成的假消息同样不少，对公众造成误导，扰乱了社会秩序。

询问同样一个问题，为何不同AI软件给出不同答案，有的为何公然说谎？有AI软件客服表示，目前这类软件存在较多局限性，生成内容可能不准确，正在持续优化相关模型体验。笔者以为，这应该与某些AI软件大模型在采集数据时“胡子眉毛一把抓”、没有侧重权威渠道有关。

而且某些AI软件生成的内容除不实外，还存在语句不通、错别字较多等常识性弊病，反映出这些AI软件目前尚不成熟。对此，我们既要以包容心态来看待，鼓励其不断发展、走向成熟，同时也有必要提醒相关平台以负责任态度完善技术手段，尽可能减少或避免“AI公然说谎”等问题。

从现实情况看，防范“AI公然说谎”等问题，需要平台在对AI软件生成的内容进行显著标识外，同时提醒用户通过权威渠道去核实信息。应根据不同情况完善AI大模型，并明确其数据采集源头，比如涉及公共服务的数据就应依托权威渠道采集、使用。

作者：冯海宁 来源：《湖南日报》

编辑：林夕