9月5日，据路透社报道，由OpenAI前首席科学家Ilya Sutskever创办的Safe Superintelligence（SSI）已筹集10亿美元现金。知情人士透露，融资后该公司估值达到50亿美元。公司计划利用这笔资金购买计算能力并聘请顶尖人才，帮助开发远超人类能力的安全人工智能系统。SSI官方也已证实这一消息准确。
SSI成立于2024年6月，初创团队有Ilya Sutskever、Daniel Levy、Daniel Gross三人。目前，Ilya Sutskever担任首席科学家（Chief scientist），Daniel Levy担任研发总监（Principal scientist），而Daniel Gross担任CEO，负责计算能力和筹款。SSI现有拥有10名员工，以常规的营利性结构运营。
SSI在没有发布任何产品，成立不到4月的情况下能够拿到高额融资和高额估值，也正是基于这三人强大行业背景。投资者愿意对专注于基础人工智能研究的杰出人才进行超额押注。
Ilya Sutskever是人工智能领域最具影响力的技术专家之一，师从被称为“人工智能教父”的Geoffrey Hinton，也是扩展假设的早期倡导者。该假设认为，AI性能随着大量计算能力的提高而提高，这也为生成式AI爆发奠定了基础。
Daniel Gross曾担任苹果公司AI技术负责人，也曾是前Y Combinator合伙人，而 Daniel Levy则是OpenAI的前员工。
现阶段，SSI将专注于组建一支由研究人员和工程师组成的小型团队，团队分布在加利福尼亚州的帕洛阿托以及以色列特拉维夫。
本次投资者包括顶级风险投资公司Andreessen Horowitz、Sequoia Capital、DST Global和SV Angel。由Nat Friedman和SSI首席执行官Daniel Gross运营的投资合伙企业NFDG也参与其中。
Gross在接受采访时表示：“对我们来说，重要的是要有投资者理解、尊重和支持我们的使命，我们的使命是直接进入安全的超级智能，特别是在将产品推向市场之前，我们需要花费几年时间进行研发。”
在SSI融资信息释出之后，路透社第一时间与Ilya Sutskever进行深度交流，Ilya也回应了有关SSI是否开源、未来发展等一系列问题。从采访中可以看到，他对于超级AGI的安全工作高度重视。
以下为硅兔君在不影响原文的情况下进行编译，enjoy！
一
Q：成立SSI的理由。
Ilya：“我们发现了一座与我之前研究的有点不同的山……一旦你爬上这座山的顶峰，范式就会改变……我们对人工智能的了解将再次改变。到那时，最重要的超级智能安全工作将会变得重要。”
“我们的第一个产品将是有关超级智能的安全。”
二
Q：你会在超级智能之前发明出与人类一样聪明的人工智能吗？
Ilya：“我认为问题在于：它安全吗？它是世界上一股向善的力量吗？我认为当我们做到这一点时，世界将会发生巨大的变化，因此很难向你提供我们明确计划。
我可以告诉你，世界将会变得非常不同。世界对AI领域正发生的事看法将非常不同，而且很难理解。这将是一场更加激烈的对话。这可能不仅仅取决于我们自己做出的决定。”
三
Q：SSI如何判断什么是安全的人工智能？
Ilya：“想要能够完全回答你的问题，我们需要做一些重要的研究。特别是如果你和我们一样认为事情会发生很大变化……许多伟大的想法正在觉醒。
很多人都在思考，随着AI越来越强大，（我们）需要采取哪些步骤、以及进行哪些测试？这有点棘手。还有很多研究要做。我不想说现在已经有了明确的答案。但这是我们要弄清楚的事情之一。”
四
Q：关于扩展假设和人工智能安全。
Ilya：“每个人都只说‘扩展假设’。每个人都忽略了问我们到底在扩展什么？过去十年里，深度学习领域的重大突破是基于扩展假设的一个特殊公式。但它会改变……随着它的变化，系统的能力将会增加。安全问题将更为严峻，而这正是我们需要解决的问题。”
五
Q：关于开源SSI的研究。
Ilya：“目前，并非所有人工智能公司都会开源其工作，我们也是如此。但我认为，由于某些因素，（我们）将有很多机会开源相关的超级智能的安全工作。也许不是全部，但肯定会有一些。”
六
Q：关于其他人工智能公司的安全研究工作。
Ilya：“我其实对这个行业评价很高。我认为，随着人们不断进步，所有不同的公司都会意识到——也许时间略有不同——依据他们所面临挑战的性质。因此，我们不会说我们认为没有人能做到，而是说我们认为我们可以做出贡献。”
七
Q：关于招聘什么样的员工。
Ilya：“有些人可以长时间工作，但他们很快就会回到原来的轨道。这不太符合我们的风格。但如果你擅长做一些与众不同的事情，那么你就有可能（在我们这里）做出一些特别的事情。”
“让我们感到兴奋的是，当你发现这位员工是对我们的工作感兴趣，而不是对风口或者一些炒作内容感兴趣。”
“我们将花费数小时审查候选人是否‘品行良好’，并且寻找具有非凡能力的人，而不是过分强调该领域的资历和经验。”
八
Q：关于SSI的未来发展。
Ilya：“我们将以不同于OpenAI的方式进行扩展。”
该公司计划与云提供商和芯片公司合作，为其计算能力需求提供资金，但尚未决定与哪些公司合作。
参考链接：
Ilya Sutskever on how AI will change and his new startup Safe Superintelligence（Reuters）
