除此之外,他们两个还透露了不少细节,比如为什么要解散超级对齐团队,平时又是如何协作等细节。在这样一个特别的时间节点,小扎疯狂挖人、GPT-5发布前夕,不排除有奥特曼一些特殊的考量,也许是给大家一颗定心丸。 相信持续关注小扎挖人的朋友应该对他很熟悉。他应该是小扎的第一个名单对象,也是他给到小扎「加大人才投资」的灵感。 Mark Chen是OpenAI的首席研究官。他曾经牵头创建了DALL-E、参与GPT-3、GPT-4的开发——构建了GPT-3模型并行策略的早期版本;为GPT-4添加图像识别功能,此外还领导了编码模型Codex的开发。 Mark Chen当时也没多想,所以就认真建议他加大对人才的投资。结果这一下仿佛就打通了小扎的任督二脉,堪称硅谷史上最疯狂的抢人大战就此启动。 在OpenAI刚成立的第三年,他就加入了,Ilya是他的工作导师。现在已经在OpenAI呆了8年,今年34岁。他曾负责Dota的AI应用项目,先后担任推理团队负责人、深度学习科学团队负责人。 他的工作经历更为简单。在哈佛大学搞完博士后研究就来了OpenAI,在此之前,他在CMU读博,只读了三年就获得了博士学位,在华沙大学读的本科。 高中期间,他曾六次入围IOI竞赛决赛,2009年他获得银牌。 2012 年,他代表大学参加了国际大学生程序设计竞赛,他的团队赢得了金牌并获得了总成绩第二名。同年,他还是Google Code Jam的冠军。 也许这种默契来源于他们都曾参与过国际编码比赛,Chen还是美国计算机奥林匹克队的教练,这也影响了OpenAI积极参与国际赛事的战略部署。 最近OpenAI就在全球编程竞赛AtCoder中斩获第二名,仅次于人类选手Psyho,成绩突破人类表现层级,极具开创性意义,另外OpenAI又刚刚取得IMO金牌成绩,实现在复杂推理问题上的进步。 有意思的是,Psyho既是OpenAI的头号竞争对手,也曾是OpenAI旗下的员工,Pachocki和他亦是朋友关系,曾经一起参加比赛,现在OpenAI的LLM正在试图跨越这座编程界的大山,就像当年AlphaGo和李世石。 这也是Chen和Pachocki的共同观点,只有去积极挑战数学和编码上的顶级人类,模型才能飞速进步,因为数学和编码才是通向更强大的通用模型的关键。 例如Psyho在本次比赛中也给出了一个非常新颖的解决方案,这是模型之前从未见过的解法,而这也恰恰让模型获得知识提升的机会。 至于OpenAI是如何同时兼顾开放式研究和产物开发,Pachocki表示,他们始终在尝试构建通用人工智能,但在走向AGI的过程中,延伸出的新技术就可能成为一个支线产物。 目前最前沿的推理模型,虽然可以将问题分解,也知道很多知识,但无法真正像人类一样串联起知识,仍旧处于推理范式初期,而OpenAI正在试图回答这个问题。 他们相信,缩放定律在该推理范式的构建上并没有完全崩溃,只需要找到合适的模型构建方式,或者挑选可用的数据训练,就能逼近AGI的瓶颈。 Chen和Pachocki更重视AGI作为工具的实用性,认为发展应当循序渐进,而llya和他们的观点则截然不同,llya曾在采访中表示,AGI将会是里程碑式的改变世界的存在。 因此llya希望从设计更优秀的模型转向控制模型,于是他曾在OpenAI内部成立超级对齐团队,旨在投入OpenAI五分之一的资源以控制超级智能。 谈及解散原因,Chen和Pachocki认为所谓对齐研究已经融入OpenAI的核心业务,模型必须按照预期工作才能发挥作用,且当前应当更关注现有模型的对齐,而非假设性的超级智能。


