据《连线》新闻报道,OpenAI的一群现任和前任员工最近发表了一封联合公开信。据称,该公司及其竞争对手在开发AI的过程中存在过度的风险和缺乏监管。同时,它呼吁保护相关公司员工的权利,使他们不会遭受禁止就风险问题批评公司的“霸王合同”,也不会在向公众披露公司内部与风险有关的信息后遭受报复,即使该信息被定义为“机密”。
上个月,Vox上的一篇文章透露,OpenAI威胁称,如果该员工不签署禁止批评该公司的合同,甚至不提及此类协议的存在,就将收回该员工的股权。OpenAI首席执行官萨姆·奥特曼最近在推特上表示,他个人并不知道有这样一项安排,该公司从未收回任何人的股权(该方透露该协议确实存在)。奥特曼还表示,这一条款将被删除,以便员工目前可以自由发表意见。
OpenAI最近也改变了其安全管理方法。上个月,一个负责评估和应对该公司更强人工智能模型带来的长期风险的团队在几名重要人员离职后解散,团队的剩余成员被分散到其他小组。几周后,该公司宣布成立一个由奥特曼和其他董事会成员负责的安全委员会。