OpenAI强化安全治理结构,设立安全与安保委员会

AI快讯 2024-05-29

近日,OpenAI在其董事会层面进行了重要的组织架构调整,成立了由数位资深董事领导的安全与安保委员会。委员会主席由Bret Taylor担任,同时包括Adam D'Angelo、Nicole Seligman和现任CEO Sam Altman。这一新设立的委员会旨在为公司项目和运营中的关键安全和安保决策提供重要建议。

OpenAI在迈向下一代前沿模型之际,充分意识到技术发展的同时,安全性问题不容忽视。随着新技术系统的推出,我们预期这将在通用人工智能的道路上为OpenAI带来全新的能力水平。尽管我们对模型在能力和安全性方面均处于行业领先地位感到自豪,但我们仍然欢迎在这一关键时刻进行深入的讨论和审视。

image.png

新成立的安全与安保委员会的首要任务是,在接下来的90天内对OpenAI的现有流程和保障措施进行全面的评估和完善。期满后,委员会将向全体董事会提交其详尽的建议。经过董事会的审议后,OpenAI将以符合安全和安保标准的方式,公开分享这些被采纳的建议。

值得一提的是,OpenAI的技术和政策专家团队也将深度参与这一工作。其中,Aleksander Madry将担任应急准备主管,Lilian Weng将负责安全系统,John Schulman负责对齐科学,Matt Knight担任安保主管,而Jakub Pachocki则将作为首席科学家为委员会提供科学支持。

为了加强委员会的专业性和权威性,OpenAI还将聘请并咨询其他在安全、安保和技术领域具有丰富经验的专家。其中,前网络安全官员Rob Joyce和John Carlin等知名人士将为OpenAI提供宝贵的安保咨询。

此外,OpenAI的全球事务副总裁Anna Makanju在近期接受采访时表示,公司的使命是构建能够“执行人类今天可以完成的认知任务”的通用人工智能(AGI),而不是追求所谓的“超级智能”。她强调,“超级智能”是指一种远远超过人类智慧的技术,而OpenAI的目标是构建能够在现实世界中为人类服务的智能系统。


这一表态似乎是对近期外界关于OpenAI在超级智能研究方面的质疑和担忧的回应。此前,OpenAI在人事调整中失去了一些在安全对齐领域的关键人物,但Makanju的发言显示,公司仍然坚定地致力于在确保安全的前提下推进人工智能技术的发展。

@版权声明:部分内容从网络收集整理,如有侵权,请联系删除!

相关文章