OpenAI泄密者投奔马斯克
时间:2024-05-08 13:30来源:未知 作者:未知 点击:

  半个月前,小 P 被指疑似泄露 Q * 相关机密而被开除。虽然不清楚他泄密了个啥,但当时闹得沸沸扬扬。

  而且最近 xai 的表现 —— 包括发布 Grok 1.5V 在内,狠狠刷了波存在感,不由得引人感慨:

  而且其中还有数人研究方向与 OpenAI 最神秘的 Q * 算法有点关系,看来马斯克才是 Q * 的真正信徒。

  最为瞩目的就是咱们开头提到过的小 P。他还是纽约大学 CILVR 小组成员,本人透露 2025 年秋将加入纽约大学 Tandon CSE、Courant CS 担任助理教授。

  超级对齐团队组团于去年 7 月份,是 OpenAI 为应对不同时间尺度上大模型可能会产生的安全问题,成立的三大安全团队之一。

  超级对齐团队负责遥远的未来,给超越人类的超级智能安全性奠定基础,由Ilya Sutskever和Jan Leike领导。

  说起来,虽然 OpenAI 看起来似乎在安全方面很重视,但其内部对 AI 的安全开发存在很大分歧已不是什么秘密。

  网传 Ilya Sutskever 成为“政变”带头人,就是因为看到了一些东西让他内心不安。

  而 Ilya 带领的这个超级对齐团队,很多成员也是站在 Ilya 这边,在后来支持奥特曼的比心接龙活动中,这个超级对齐团队成员也基本保持了沉默。

  然而宫斗事件平息后,Ilya 仿佛在 OpenAI 蒸发了一般,惹得外界流言四起,但他再也没有公开露面过,甚至都没在网上进行澄清或辟谣。

  小 P 作为超级对齐团队成员、Ilya 部下,半个月前从 OpenAI 被毕业,被网友猜测是奥特曼的“秋后算账”。

  虽然外界还不知道 Q * 的全貌,但种种迹象表明,它致力于把大模型与强化学习、搜索算法等结合起来,增强 AI 推理能力。

  但从 GitHub 个人主页可以看到,她的研究方向是将机器推理与人类推理结合起来,特别是新知识的合理性、可解释性和可扩展性。

  他在个人主页上说:“我对算法如何(以及是否)能够学习有意义的表示和推理很着迷,我正在 xAI 研究这回事儿。”

  今年 3 月他所在团队推出 Quiet-Star 算法,确实也是 Q*,让大模型学会自己独立思考。

  他的研究领域包括大型语言模型、反馈驱动的生成以及代码生成和自然语言推理的交叉领域,研究的首要主题是使用推理时间计算(Inference-Time Compute)来增强推理能力(Reasoning)。

  攻读博士学位期间,Aman 曾担任 Google 大脑和艾伦人工智能研究所的学生研究员和合作者;更早以前,他还是 Oracle 的主要技术人员。

  加上 Pavel Izmailov 在内的几位新员工,自此马斯克的技术人才版图已扩增至 34 人(不包括马斯克本人),相比于最开始 12 人的创始团队增长了约 2 倍。

  而从机构分布上看,主要还是集中于谷歌、斯坦福、Meta、OpenAI、微软等机构,他们都有丰富的大模型训练经验,比如 GPT 系列、大小羊驼系列,以及谷歌 Meta 相关大模型。

  从加入时间来看,更多还是集中在今年 2-3 月,平均每 5 天就有一名新成员加入共计 13 人。去年 8-10 月间只有 5 人加盟。

  比如今年 3 月 29 日,马斯克突然发布 Grok-1.5,上下文长度飙升,从原本的 8192 增长到 128k,和 GPT-4 齐平。

  还有像今年 4 月 15 日,Grok-1.5V 多模态模型发布,它能处理除文本信息外,包括图表、屏幕截图、照片在内的各种视觉信息。

  广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

(责任编辑:)

关键词:

随机推荐

联系我们 -