关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者2236人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

离婚四年后再看赵丽颖冯绍峰,答案早已一目了然

手工制作阿歼 浏览 3031

媒体:丢大人了 特朗普在航母上演讲巨幅海报后有问题

枢密院十号 浏览 6071

王家卫霸凌唐嫣!?

八卦疯叔 浏览 3192

“疲惫脸”太丑了!有这些特征的女生怎么救?

Yuki女人故事 浏览 3992

刚刚,全球首个GB300巨兽救场!一年烧光70亿,OpenAI内斗GPU惨烈

新智元 浏览 3436

看了今年春晚阵容,难怪球球评论区沦陷,大家太思念本山大叔了

萌神木木 浏览 2321

极氪2025年12月交付30267台 单月首破3万大关

网易汽车 浏览 2188

再现巨额压单!A股跳水,官媒给“题材炒作”降温,商业航天跌停潮

看财经show 浏览 2148

美印友谊的中流砥柱被FBI大张旗鼓拘捕 被控"串通中国"

澎湃新闻 浏览 8866

美伊陷入互相封锁僵局

环球网资讯 浏览 30

特朗普称与北约达成格陵兰合作框架 吕特:没提丹麦

澎湃新闻 浏览 19650

深耕大健康战略,招商信诺获评2025金柿奖·中国保险健康管理服务样本

Daily每日财报 浏览 2650

民调显示:相较美国,加、德、法、英四国民众更信赖中国

环球网资讯 浏览 1293

明年新能源汽车销量将超2000万辆

大象新闻 浏览 2698

Adobe Research突破:AI实现材质与物理特性视觉感知

科技行者 浏览 2286

周末利好刷屏!中美元首通话、国常会重磅,下周一重磅发布会

看财经show 浏览 4095

综合续航1730km 吉利银河M7远航家权益价10.98万起

网易汽车 浏览 42

苹果CEO库克上海两日行:看LABUBU,首次“直播带货”,直言“太爱中国人和中国文化”

澎湃新闻 浏览 3507

蔚来法务部回应遭网络侵权:已报案并获法院判决支持

智车情报局 浏览 3386

芯片初创公司,如何融资?

半导体行业观察 浏览 3380

贵州本地人都不知道的动物园意外走红 仅一位老人看守

封面新闻 浏览 11501
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1