作者：小巖

編輯：彩云

2024年，OpenAI的CEO Sam Altman就沒有清閑過，他似乎一直走在解決麻煩的路上。最近，他的麻煩又來了。

當?shù)貢r間6月4日，13位來自OpenAI和Google Deep Mind的現(xiàn)任及前任員工聯(lián)合發(fā)布了一封公開信，引發(fā)了外界的廣泛關(guān)注。這些員工在信中表達了對人工智能技術(shù)潛在風險的嚴重擔憂，并呼吁相關(guān)公司采取更加透明，更加負責任的措施來應對這些風險。

不夸張的說，這一次，OpenAI和谷歌是被討伐了。

多位知名人士聯(lián)合背書，就連AI教父也為其站臺。

這封由13名OpenAI和谷歌Deep Mind現(xiàn)任及前任員工聯(lián)合發(fā)出的公開信，一方面揭發(fā)了OpenAI的魯莽和保密文化；另一方面還強調(diào)了前沿AI技術(shù)的嚴峻風險，表達了對AI公司在開發(fā)和推廣AI技術(shù)時利益優(yōu)先，打壓異見者以及規(guī)避監(jiān)管等種種行徑的擔憂。

信中指出，盡管AI技術(shù)可能會給人類帶來巨大益處，但其帶來的風險同樣不容忽視，包括加劇社會不平等，操縱和虛假信息傳播，以及自主AI系統(tǒng)失控可能導致的人類滅絕等。這些風險絕非空穴來風，不僅得到了人工智能公司本身的確認，也得到了世界各國政府和其他AI專家的認可。

公開信簽署者們表示，他們希望在科學界，政策制定者和公眾的指導下，能夠充分緩解這些風險。他們出現(xiàn)了很強的憂患意思，他們擔心，人工智能公司出于強烈的經(jīng)濟動機，可能會避免接受有效的監(jiān)督，可僅靠現(xiàn)有的公司治理結(jié)構(gòu)，完全不足以解決這一問題。

信中還提到，由于嚴格的保密協(xié)議，員工們在表達對AI風險的擔憂時，還要面臨著種種限制，目前對于舉報人的保護措施也存在著嚴重不足，很多員工擔心因為提出批評而遭遇報復。

值得一提的是，這封信獲得了多位知名人士的聯(lián)名背書，這其中就有被譽為“人工智能教父”的Geoffrey Hinton，還有因開創(chuàng)性AI研究獲得圖靈獎的Yoshua Bengio，AI安全領域的學者Stuart Russell。

公開信署名人員的訴求和初心：要實驗室對透明度做出更廣泛的承諾。

那么，在公開信上署名的這些人，他的心聲是什么呢？

OpenAI 的前員工Daniel Kokotajlo正是聯(lián)名信公開署名人員中的一位，他曾在社交平臺發(fā)文提到，“我們之中，一些最近從 OpenAI 辭職的人聚集在一起，要求實驗室對透明度作出更廣泛的承諾。”

資料顯示，Daniel剛剛從OpenAI 辭職，其中很重要的一個原因在他對OpenAI在構(gòu)建通用人工智能方面未采取負責任的行為表示失望，并且失去了信心。在Daniel看來，AI系統(tǒng)不是普通的軟件，它們是從大量數(shù)據(jù)中學習的人工神經(jīng)網(wǎng)絡。盡管目前關(guān)于可解釋性，對齊和控制的科學文獻正在迅速增多，但這些領域仍處于起步階段。如果不小心，可能會在一段時間內(nèi)造成災難性后果。Daniel曾對公司提出，他希望其在AI功能越做越強大的同時，也能夠在安全研究方面投入更多資金，但OpenAI并未做出相應的調(diào)整，這導致多名員工相繼辭職。

在Daniel看來，OpenAI等實驗室構(gòu)建的系統(tǒng)的確可以給人類社會帶來巨大的好處，但如果不謹慎處理，很可能帶來災難性的后果。更可怕的是，當前的AI技術(shù)幾乎沒有被有效監(jiān)管，主要是依靠公司在進行自我監(jiān)管，而這種方式存在巨大的風險。

Daniel還透露，離職時他被要求簽署一份“封口協(xié)議”，其中包含一項不貶損條款，禁止他發(fā)表任何批評公司的話，否則將失去已歸屬的股權(quán)。然而，他在深思熟慮后，依舊決定放棄簽署協(xié)議。

無獨有偶，今年4月，Leopold Aschenbrenner也離開了OpenAI，與Daniel不同的事，他不是主動辭職，而是被OpenAI以泄露公司機密為由開除的。

Aschenbrenner曾是OpenAI前超級對齊部門成員。據(jù)知情人士透露，他被開除的真實原因是他給幾位董事會成員分享了一份OpenAI安全備忘錄，結(jié)果招致OpenAI高層的不滿。據(jù)說，OpenAI當時很清楚地告訴他，開除他的主要原因就是因為這份備忘錄。

在此之后，Aschenbrenner上線了一個網(wǎng)站，用165頁PDF文件匯總了他在OpenAI工作期間所了解的信息，這份文件被看作是“硅谷最激進的AI研究人員提出的一份未來10年AI發(fā)展的綱領性文件”。Aschenbrenner認為，目前深度學習還沒有遇到瓶頸，到2030年左右，AGI很有可能會發(fā)展出全面超越人類的超級人工智能。對此，人類似乎還沒有做好準備。AI所帶來的，也絕不僅僅是多數(shù)專家所認為的“另一場互聯(lián)網(wǎng)規(guī)模的技術(shù)變革”。

安全主管辭職，超級對齊團隊解散，多名骨干成員正在“背叛”OpenAI...

事實上，從OpenAI離職的遠不止以上兩位，很多掌握著核心部門的大佬都相繼離開了OpenAI。

其中，最具代表性的當屬OpenAI原首席科學家Ilya Sutskever，以及前安全主管，超級對齊團隊負責人Jan Leike。

與Aschenbrenner和Deniel一樣，Leike在離職后公開批評了OpenAI的管理層，指責其追求華而不實的產(chǎn)品，卻忽視了AGI本身存的安全問題。他表示，在過去的幾個月里，超級對齊團隊一直都是逆風航行，在提升模型安全性的道路上受到公司內(nèi)部的重重阻礙。

Ilya則在OpenAI的宮斗事件之后一直保持沉默，即便到了最后官宣離職的時候，也沒過多的闡述自己的立場和觀點。不過，Ilya曾在先前的一段視頻中提到，一旦AGI徹底實現(xiàn)，AI未必會仇恨人類，但他們對待人類的方式可能會像人類對待動物一樣：人可能無意傷害動物，但如果你想修一條城際高速，你不會征詢動物的意見，而是直接去做。當面臨這種情況時，AI 可能也會自然而然地做出類似的選擇。

去年11月OpenAI爆發(fā)宮斗事件，借著宮斗事件的最終走向，我們可以大致看出OpenAl內(nèi)部存在的大模型安全性問題，以及分化日趨明顯的兩大陣營。一方陣營是以Sam Altman為代表的“發(fā)展派”；另一方，則是以Ilya為代表的“安全派”。兩方斗法，如今來看，結(jié)局很明顯：以Ilya為代表的的安全派基本喪失了話語權(quán)，就連昔日備受矚目的超級對齊團隊也被連根拔起。

在這種情況下，未來的一切都成了未知數(shù)。我們無法預判Sam Altman所代表的激進發(fā)展派是否會一路長虹的前進。如果事實真是這樣，未來人類該如何平衡與生成式AI之間的關(guān)系，也會成為巨大的未知數(shù)。

       原文標題 : 新火種AI|攤上事兒了！13名OpenAI與谷歌員工聯(lián)合發(fā)聲：AI失控可能導致人類滅絕...