关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4091人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

大厂们掀起春节大战:狂撒10亿红包,只为争夺AI时代「新船票」?

雷科技 浏览 2169

俄知名富商前CEO失踪4天 手机信号消失在沿海悬崖

红星新闻 浏览 13159

中东局势冲击能源市场,影响多大?外资资管最新研判!

券商中国 浏览 1413

乐道推7年超低息金融方案 年化费率低至0.49%

网易汽车 浏览 2205

老派,但是好看

电影最TOP 浏览 2127

量产型Atlas进步巨大,但波士顿动力前途依旧黯淡

汽车公社 浏览 2245

申花亚冠赛季首胜!连战蔚山首尔不败,阿苏埃建功,延续5大纪录

奥拜尔 浏览 3340

朱孝天回应阿信感谢,自曝没再收到邀约

萌神木木 浏览 2222

伊朗军方发言人称击落敌方一架先进战斗机

财联社 浏览 682

李昀锐孟子义被曝恋情,双方火速回应

萌神木木 浏览 3469

自杀还是他杀 爱泼斯坦案两位尸检法医"致命争论"披露

红星新闻 浏览 29861

美联储理事沃勒:CEO们称AI将致大量裁员,3月利率决议取决于2月劳动力数据

华尔街见闻官方 浏览 1653

唉!又一地产巨头,宣布退市

说财猫 浏览 3306

OrangePi 6 Plus 开发板公布:12 核 CPU,双 M.2 SSD 双 5GbE

IT之家 浏览 3412

曲协表态仅6天,郭德纲担心的事还是发生

科学发掘 浏览 2663

外国女教师性侵16岁男学生数月上百次 详情炸裂

胡侃社会百态 浏览 38767

又来?富保罗节目搭档:湖人应交易东契奇,他能换3倍里夫斯的筹码

懂球帝 浏览 2270

科技巨头疯狂投资AI基建,芯片厂商吞了云服务企业的利润?

澎湃新闻 浏览 3408

三件外套拍出17万美元天价!为什么时装精都想买她的同款?

黎贝卡的异想世界 浏览 1686

“超级周”来袭!美联储,降息稳了?

券商中国 浏览 3304

普京:俄方已无兴趣等待乌从其占领区撤出

每日经济新闻 浏览 2503
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1