訂閱
糾錯(cuò)
加入自媒體

馬斯克聘用OpenAI泄密者,他們的梁子著實(shí)越結(jié)越深...

2024-05-09 09:39
新火種
關(guān)注

作者:小巖

編輯:彩云

就在最近,昔日就職于OpenAI的工程師Pavel Izmailov正式加入了馬斯克的AI團(tuán)隊(duì),他還在自己的推特上大張旗鼓的做著宣傳:研究院@xai。

AI工程師的跳槽本不值得驚訝,但Pavel的跳槽卻在行業(yè)內(nèi)引起了不小的熱議。就在半年前,Pavel因被指疑似泄露Q*的相關(guān)機(jī)密而被OpenAI開(kāi)除。至此,馬斯克和OpenAI 的梁子算是越結(jié)越深了。

馬斯克公開(kāi)聘請(qǐng)“泄密者”,業(yè)內(nèi)對(duì)此褒貶不一。

最近馬斯克旗下的xAI發(fā)展迅速,聘用了不少新員工,其中最為神秘,也最惹人矚目的,當(dāng)屬Pavel Izmailov。畢竟,就在半個(gè)月以前,他主頁(yè)還寫(xiě)著“在OpenAI搞搞大模型推理”的介紹。

圖片

圖片

翻看Pavel的簡(jiǎn)歷,會(huì)發(fā)現(xiàn)他的成長(zhǎng)經(jīng)歷很不一般。他是紐約大學(xué)CILVR小組成員(本人還透露即將在2025年秋加入紐約大學(xué) Tandon CSE和Courant CS 擔(dān)任助理教授) 。此前,他一直服務(wù)于超級(jí)對(duì)齊團(tuán)隊(duì)。超級(jí)對(duì)齊發(fā)布的第一篇論文的作者,也是Pavel。

超級(jí)對(duì)齊團(tuán)隊(duì)成立于去年 7 月份,是OpenAI為應(yīng)對(duì)不同時(shí)間尺度上大模型可能會(huì)產(chǎn)生的安全問(wèn)題,所成立的三大安全團(tuán)隊(duì)之一。概括說(shuō)來(lái),超級(jí)對(duì)齊團(tuán)隊(duì)負(fù)責(zé)的是遙遠(yuǎn)的未來(lái),給超越人類的超級(jí)智能安全性奠定基礎(chǔ)。超級(jí)對(duì)齊團(tuán)隊(duì)由Ilya Sutskever和Jan Leike領(lǐng)導(dǎo)。

圖片

對(duì)于外部,OpenAI十分重視安全問(wèn)題和保密問(wèn)題,但其內(nèi)部對(duì) AI 的安全開(kāi)發(fā)卻存在著很大的爭(zhēng)議和分歧,這儼然成為了公開(kāi)的秘密。甚至有人猜測(cè),這種分歧是去年 11 月OpenAI 董事會(huì)宮斗大戲發(fā)生的最主要原因。

網(wǎng)傳技術(shù)主導(dǎo)者 Ilya Sutskever 成為 “政變 ”帶頭人,究其原因,是因?yàn)榭吹搅艘恍〇|西讓他內(nèi)心不安。在Ilya 帶領(lǐng)的超級(jí)對(duì)齊團(tuán)隊(duì)里,很多成員站在 Ilya 這邊。宮斗事件最終以Sam Altman重回董事會(huì)為結(jié)束的標(biāo)志,從某種程度上說(shuō),Ilya是此次宮斗的失敗者。在此之后,他仿佛從OpenAI 蒸發(fā)了一般,惹得外界流言四起,但他再也沒(méi)有公開(kāi)露面過(guò),甚至都沒(méi)在網(wǎng)上進(jìn)行澄清或辟謠。

Pavel作為超級(jí)對(duì)齊團(tuán)隊(duì)成員,Ilya的部下,被認(rèn)為是Ilya的支持者。他的“被開(kāi)除”,也被很多網(wǎng)友猜測(cè)是在被Sam Altman秋后算賬。

有著復(fù)雜背景的Pavel前腳剛被開(kāi)除,后腳就被馬斯克聘用。對(duì)于馬斯克這樣的行為,有人認(rèn)為他是把握住了人才,搶占了先機(jī);但也有人對(duì)此嗤之以鼻,認(rèn)為“雇傭泄密的人的行為就像是在撿垃圾”,無(wú)疑是自掘墳?zāi)埂?/p>

有新仇更有舊恨:馬斯克與OpenAI之間的“相愛(ài)相殺”...

事實(shí)上,“聘用泄密員工”并不是馬斯克第一次“得罪”OpenAI。

今年2月29日,馬斯克對(duì)于ChatGPT 主體 OpenAI發(fā)起起訴,稱其違反了他在2015年幫助創(chuàng)建OpenAI時(shí)同意的原則,同時(shí)被起訴的還有OpenAI的CEO Sam Altman。

圖片

馬斯克的訴訟文件長(zhǎng)達(dá)46頁(yè),共計(jì)1.4萬(wàn)字,包括一些曾不為人知的內(nèi)幕細(xì)節(jié)。馬斯克在起訴中表示,OpenAI已經(jīng)背離了其最初非營(yíng)利及開(kāi)源的使命,即開(kāi)發(fā)技術(shù)以造福人類而不是利潤(rùn)。如今的它并沒(méi)有像它成立時(shí)那樣試圖“造福人類”,反而專注于為主要投資者微軟“實(shí)現(xiàn)利潤(rùn)最大化”。由于微軟大量資金投入OpenAI,使得OpenAI似乎成了微軟的私有開(kāi)源產(chǎn)品。

當(dāng)然,不排除馬斯克這樣做是有私心的,當(dāng)年早早的離開(kāi)OpenAI董事會(huì),以至于現(xiàn)在沒(méi)有了話語(yǔ)權(quán),而且馬斯克當(dāng)年給OpenAI的捐助,在其后來(lái)成立盈利子公司時(shí)沒(méi)有轉(zhuǎn)化成相應(yīng)的股份回報(bào)。加上去年3月,馬斯克創(chuàng)辦了自己的人工智能公司 xAI,與OpenAI形成了競(jìng)爭(zhēng)關(guān)系。如今,馬斯克又選擇雇用明顯有錯(cuò)的OpenAI離巢員工,顯然會(huì)讓彼此之間的競(jìng)爭(zhēng)變得更加激烈。

人才濟(jì)濟(jì)的xAI,馬斯克是準(zhǔn)備在AI賽道放大招了嗎?

當(dāng)然,最近馬斯克的xAI所網(wǎng)羅到的人才,遠(yuǎn)不止Pavel自己。

圖片

盡管外界還不知道Q*的真實(shí)面貌是怎樣的,但就目前釋放出的信息,以下的優(yōu)勢(shì)Q*是一定具備的:可以將大模型與強(qiáng)化學(xué)習(xí)和搜索算法等有機(jī)結(jié)合結(jié)合起來(lái);增強(qiáng) AI 推理能力等。

所以,馬斯克麾下新招攬的幾名員工的研究方向,多多少少是與之有關(guān)的。

圖片

Qian Huang,目前還是斯坦福大學(xué)的一名博士生。去年夏天開(kāi)始,Qian Huang 在 Google DeepMind 工作,但目前,她在推特上已經(jīng)明確注明了@xai。盡管我們還不知道她在xAI具體擔(dān)任的職務(wù)是什么,但從 GitHub 個(gè)人主頁(yè)可以看到,她的研究方向是將機(jī)器推理與人類推理結(jié)合起來(lái),特別是新知識(shí)的合理性,可解釋性和可擴(kuò)展性方面的研究。

Eric Zelikman,斯坦福博士在讀生,推特上寫(xiě)明 “study why @xai”。之前,他先后在 Google 研究院和微軟研究院待過(guò)一段時(shí)間。他在個(gè)人主頁(yè)上說(shuō):“我對(duì)算法如何(以及是否)能夠?qū)W習(xí)有意義的表示和推理很著迷,我正在 xAI 研究這回事兒。”

Aman Madaan,卡內(nèi)基梅隆大學(xué)語(yǔ)言技術(shù)研究所博士在讀生。他的研究領(lǐng)域包括大型語(yǔ)言模型,反饋驅(qū)動(dòng)的生成以及代碼生成和自然語(yǔ)言推理的交叉領(lǐng)域,研究的首要主題是使用推理時(shí)間計(jì)算(Inference-Time Compute)來(lái)增強(qiáng)推理能力(Reasoning) 。攻讀博士學(xué)位期間,Aman 曾擔(dān)任 Google 大腦和艾倫人工智能研究所的學(xué)生研究員和合作者;更早以前,他還是 Oracle 的主要技術(shù)人員。

通過(guò)分析馬斯克新招人員的履歷,我們可以發(fā)現(xiàn),新員工主要還是集中于谷歌,斯坦福,Meta,OpenAI,微軟等機(jī)構(gòu)。他們都有名校背景,擁有豐富的大模型訓(xùn)練經(jīng)驗(yàn),諸如GPT 系列,谷歌Meta 相關(guān)大模型等。

如果加上 Pavel Izmailov 在內(nèi)的幾位新員工,自此馬斯克的技術(shù)人才版圖已擴(kuò)增至 34 人(不包括馬斯克本人),相比于最開(kāi)始 12 人的創(chuàng)始團(tuán)隊(duì)增長(zhǎng)了約 2 倍。

可以看出,在人才爭(zhēng)奪戰(zhàn)上,馬斯克做好了十足的準(zhǔn)備。

       原文標(biāo)題 : 新火種AI|馬斯克聘用OpenAI泄密者,他們的梁子著實(shí)越結(jié)越深...

聲明: 本文由入駐維科號(hào)的作者撰寫(xiě),觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)