关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12754人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

标准30套不过时穿搭模板 早秋实用又好看

巧百搭 浏览 14957

赵本山儿子和美女打闹太亲昵,瘦身成功被指般配

盖饭娱乐官方号 浏览 16409

日本人相当敏感:央视14年来头一回!

环球网 浏览 26139

万亿豪赌:OpenAI结盟芯片、云巨头,AI生态闭环了吗?

澎湃新闻 浏览 1023

一架无人机保护区拍鸟群致鸟摔死 无人机被人悄悄捡走

中国新闻周刊 浏览 7569

两名英格兰球员在西班牙国家德比中交手,为123年来首次

懂球帝 浏览 793

大型断舍离后,这4类东西我不会轻易再买

黎贝卡的异想世界 浏览 971

研究人员首次用胎儿脑组织培育出类器官,为研究大脑发育提供新工具

网易科技报道 浏览 12992

关于软件/代码生成的思考

极客公园 浏览 10951

智元新一代机器人精灵G2已获数亿元订单,并开启首批商用交付

财闻 浏览 1059

以总理称"不考虑停火" 美英等国或在加沙组成多国部队

红星新闻 浏览 80590

洪都拉斯3-0大胜海地,奎奥托建功,安东尼-洛萨诺破门

懂球帝 浏览 1025

万科与万达集团翻脸!10亿元纠纷冻结千亿股权?

金融界 浏览 16742

湖北现商代铸铜遗址,系迄今长江流域最大规模的发现

趣看热点 浏览 25645

佐拉:现代足球强调进攻且战术刻板,我和巴乔这样的10号已不存在

直播吧 浏览 14166

意天空:德布劳内至少伤缺3-4个月,需决定手术还是保守治疗

懂球帝 浏览 784

美军机刚在南海投下探测器,中国海警捞走

浏览 10941

伊姐周六热推:电视剧《暗河传》;电视剧《天地剑心》......

伊周潮流 浏览 859

女生显老又土气的5款发型,真的别留了!

Yuki女人故事 浏览 1011

谢娜主持晚会还是差一口气!直播接不上话,看热闹忘记控场一直笑

萌神木木 浏览 746

中央巡视组刚到就落马的"老虎" 其老下属也被公诉

上观新闻 浏览 80676
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1