单飞之后，OpenAI前联合创始人Ilya Sutskever有了最新动态。

近日，Ilya 在社媒 X 上表示自己创立了一家新公司——安全超级智能（Safe SuperIntelligence，SSI）。

据悉，SSI 公司的主要方向是开发安全、强大的通用人工智能（AGI）系统，“这家公司的特别之处在于，它的第一款产品将是安全的超级智能，在此之前，它不会做任何其他事情，”Sutskever在一次独家采访中谈到了他的计划。它将完全不受外部压力的影响，比如必须处理一个庞大而复杂的产品，以及不得不陷入激烈的竞争。

这也意味着，他将继续自己的研究工作，避免像OpenAI、Google和Anthropic等竞争对手所面临的诸多干扰。

要知道此前Sutskever长期致力于AI安全领域，曾与OpenAI的Jan Leike等人合作，推进该公司在提高AI安全性方面的努力。但他与OpenAI领导层在如何处理这一问题上存在分歧，于5月离职，此前Leike也已加盟Anthropic。

在一篇博客文章中，Sutskever和Leike曾预测，AI将在10年内超越人类智能，但并非必然是仁慈的，因此需研究控制和限制的方法。现在，他正继续专注于这一目标。

而Ilya新公司的另外两位联合创始人分别是Daniel Gross和Daniel Levy。

Gross是一位投资者，也是前苹果公司AI部门的负责人，因支持包括Keen Technologies在内的一些知名AI初创公司而备受关注。Keen由著名程序员、3D游戏之父约翰·卡马克创立，旨在开发AGI。

公开资料显示，Gross因创办的Greplin公司受到赏识而加入YC。后来，更名为Cue的Greplin公司在2013年以约4000万美元的价格被苹果收购。

借此，年仅23岁的Gross也就成为了苹果的技术总监，主要负责机器学习与搜索业务。

在苹果公司任职期间，Gross主要负责将机器学习技术融入iOS和macOS操作系统中，比如从通信记录中智能识别并提取联系人数据，然后将这些数据整合进通讯录等应用之中。

新公司将在加州帕洛阿尔托和以色列特拉维夫设立办公室。而Ilya和Gross都在以色列长大。

Levy则因在OpenAI与Ilya共同训练AI模型而广受赞誉。

“现在是开展这样一个项目的最佳时机。”Levy说，“我的愿景与Ilya相同：打造一个精干、专注的小团队，致力于实现安全超级智能这一目标。”

彭博社指出，SSI更像是OpenAI初心的回归，但从经济角度来看，它对投资者而言更像是一场赌博。不过鉴于创始团队的背景，SSI并不缺乏资金支持。

以下是SSI公司的公告全文：

超级智能已经触手可及。

构建安全超级智能（SSI）是我们这个时代最重要的技术难题。

我们已经启动了世界上第一个专注于SSI的实验室，目标和产品都只有一个：安全超级智能。

这个实验室名为“Safe Superintelligence Inc”。

SSI是我们的使命、我们的名称和我们的整个产品路线图，也是我们唯一的关注点。我们的团队、投资人和商业模式都将致力于实现SSI。

我们将安全性和能力视为通过革命性工程和科学突破来解决的技术难题。我们计划尽快提高能力，同时确保安全性始终保持领先地位。

这样，我们就可以安心地扩展规模。

我们专注于一个目标（SSI），这意味着不会受到管理开销或产品周期的干扰。我们的商业模式可以确保安全、进步等都不受短期商业压力的影响。

作为一家美国公司，我们在帕洛阿尔托和特拉维夫均设有办事处。在那里，我们有着深厚的根基，并有能力招募顶尖的技术人才。

我们正在组建一支精干、顶尖的团队，由世界上最优秀的工程师和研究人员组成。他们将专注于SSI，不做其他任何事情。

如果你是这样的人，我们将提供一个机会，让你从事一生的事业，帮助解决我们这个时代最重要的技术挑战。

现在是时候加入我们了。

Ilya Sutskever，Daniel Gross，Daniel Levy

June 19，2024