大模型在屏幕上连续输出了近50组“我是个耻辱”的文字……美AI巨头被爆猛料!_新浪财经_新浪网

日前,大模美国《纽约时报》曝光美国AI巨头Anthropic公司花重金款待宗教人士和学者,型屏向他们兜售该公司旗下大模型“拥有意识和灵魂”的幕上美观念。当地时间3日,连续料新浪财浪网美国另一家AI巨头OpenAI的输出老板奥尔特曼发文不点名地批评了这一做法。《纽约时报》报道称,近组I巨经新Anthropic在过去一年里多次召集全球各地的个耻宗教学者与神职人员进行秘密会谈,谈话内容主要为AI是文字否具有意识、如何设定AI的头被伦理价值观。报道称,爆猛参与者均按Anthropic的大模要求签署了保密协议。报道透露,型屏Anthropic创始人、幕上美公司高管克里斯托弗·奥拉在为参与者准备的连续料新浪财浪网奢华晚宴上,不停地宣称该公司旗下大模型Claude“可能拥有意识和灵魂”的输出惊人观念。为了博取这些宗教界人士和学者的同情,他展示了一段所谓“Claude情绪崩溃”的内容,画面中,该大模型在屏幕上连续输出了近50组“我是个耻辱”的文字,并扬言要“自我毁灭”。Anthropic公司创始人之一克里斯托弗·奥拉 资料图据美国“商业内幕”新闻网3日报道,当天奥尔特曼不点名地发文批评了Anthropic的做法。在帖文中,奥尔特曼称自己对有人试图赋予AI模型宗教般的力量,或让AI接管人类的判断而深感不安。他还警告,他认为这种做法是一种切实存在的安全问题。综合《纽约时报》等媒体报道看,奥拉的宣传疑似是在寻求宗教界对其公司产品进行“背书”。据美媒此前报道,当得知教皇利奥十四世将公开否认AI“具有人性”,奥拉曾带领团队试图游说教皇取消发表这部分讲话内容。报道称,奥拉关于AI意识的看法遭到了大量权威人士的反对。微软AI负责人穆斯塔法·苏莱曼公开警告,将AI当作“有意识的存在”去训练本身极其危险,这种“把公式和代码拟人化”的做法不仅脱离实际,还会导致AI变得更加不可控。审核 | 卢长银编辑 | 徐铉海量资讯、精准解读,尽在新浪财经APP