來源：盒飯財經(jīng)
(相關(guān)資料圖)
自從3月16日OpenAI發(fā)布多模態(tài)語言模型GPT-4，擔(dān)憂的聲音就愈發(fā)響亮，簽名列表中的不少人已經(jīng)在公開場合有所表達(dá)，其中馬斯克更是典型代表。
事關(guān)人類文明存亡，光口頭警告已不足夠，馬斯克等人貌似要采取行動了。
當(dāng)?shù)貢r間剛過午夜，路透社發(fā)布消息，稱馬斯克等千名科技人士簽署公開信，呼吁人工智能實驗室立即暫停訓(xùn)練比GPT-4更強大的人工智能系統(tǒng)至少6個月。
該公開信發(fā)布于生命未來研究所（Future of Life Institute，下稱FLI）官網(wǎng)，標(biāo)題為《暫停大型人工智能研究》，截至北京時間3月29日下午8點，已經(jīng)有1123人簽名。
文末簽名列表中包括被稱為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton）、與辛頓同獲2018年圖靈獎的約書亞·本吉奧（Yoshua Bengio）、著有《如何創(chuàng)造可信的AI》等書的紐約大學(xué)教授蓋瑞·馬庫斯（Gary Marcus）、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）等。
該公開信最核心的主張是按下暫停鍵，且這種暫停應(yīng)是對所有關(guān)鍵參與者公開的和可驗證的。
信中寫道：“只有我們確信他們的影響積極且風(fēng)險可控時。強大的人工智能系統(tǒng)才應(yīng)該被開發(fā)出來。”
此外，公開信主張若不能及時實施暫停措施，政府應(yīng)當(dāng)插手。
暫停6個月能做什么？信中表示，人工智能實驗室和獨立專家應(yīng)該利用這次暫停，共同開發(fā)和實施一套用于高級人工智能設(shè)計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進(jìn)行嚴(yán)格的審計和監(jiān)督。
“這并不意味著AI的總體發(fā)展會暫停，只是從危險的競賽中退后，這種競賽是為了開發(fā)出具有新興能力的越來越大的不可預(yù)測的黑匣子模型?！?/p>
不少人并不贊同這封公開信，即便他們也對ChatGPT這陣風(fēng)擔(dān)憂或不滿。
被稱為“卷積網(wǎng)絡(luò)支付”的楊立昆（Yann LeCun）頻頻表現(xiàn)出對當(dāng)下聊天機器人熱的不看好。在楊立昆看來，ChatGPT的技術(shù)并不新，而且依靠自動回歸和相應(yīng)預(yù)測下一個單詞的大語言模型是一條歪路，既不能計劃也不能推理。
但楊立昆已經(jīng)發(fā)推特表示，自己沒有在這次的公開信上簽名，稱自己“不贊同其前提?！?/p>
有的人對公開信參與者的動機存疑。一位推特用戶說道：“暫停6個月，好讓你們都追上來？”
自從3月16日OpenAI發(fā)布多模態(tài)語言模型GPT-4，擔(dān)憂的聲音就愈發(fā)響亮，簽名列表中的不少人已經(jīng)在公開場合有所表達(dá)，其中馬斯克更是典型代表。
如今，公開信是向前邁進(jìn)的一步，試圖將擔(dān)憂、警告、不滿化為切實的行動，按下暫停鍵，好好盤一盤再出發(fā)。
需要特別說明的是，該公開信的署名雖然上千，但目前能夠確認(rèn)真?zhèn)蔚牟欢唷?/p>
雖然網(wǎng)站上表示會對簽名進(jìn)行人工審核，但是此前曾短暫出現(xiàn)過OpenAI CEO山姆·阿爾特曼（Sam Altman）的簽名，隨后被刪去。
經(jīng)嘗試，提交簽名僅需要自主填寫姓名、郵箱、頭銜等信息，尚不能確定人工審核如何、是否能有效確定簽名的真實性。
目前馬斯克、辛頓、本吉奧、沃茲尼亞克等最吸引眼球的大佬，均尚未對此事作出回應(yīng)。
公開信本身的真實性較高，蓋瑞·馬庫斯不遺余力地在推特上宣傳該公開信，并且強調(diào)信中的相關(guān)主張。
此外，發(fā)布公開信的FLI存在已久，成立于2014年，主要目的除了探索“未來樂觀圖景”外，還致力于“降低人類面臨的現(xiàn)存風(fēng)險”。而對風(fēng)險的主要觀察領(lǐng)域是人工智能、生物技術(shù)、核武器、氣候變化。
早在2014年，F(xiàn)LI就發(fā)布過一封公開信，由包括霍金在內(nèi)的數(shù)十位科學(xué)家、企業(yè)家及人工智能領(lǐng)域投資者共同簽署。
那封近10年前的公開信的內(nèi)容，正是呼吁人們提防人工智能的副作用：“由于人工智能的巨大潛力，開展如何在規(guī)避其潛在陷阱的同時獲取其好處的研究十分重要。我們的人工智能系統(tǒng)，必須按照我們的意愿工作。”
而“AI威脅論”的主張者馬斯克也多次給FLI捐款。2015年1月，馬斯克月捐款1000萬美元，資助FLI研究如何確保人工智能研發(fā)安全。此外，據(jù)去年底的媒體報道，馬斯克在2021年也向FLI捐贈了400萬美元。
雖然名單上的大部分人尚未對此事作出回應(yīng)，但是他們中不少人此前已經(jīng)表達(dá)過對當(dāng)前突然加速的AGI（通用人工智能）發(fā)展的擔(dān)憂。在OpenAI發(fā)布GPT4、微軟官宣集成了GPT4模型的新辦公套件微軟365之后，這種擔(dān)憂更甚。
但與外界的直覺不同，不管是此前大佬們的發(fā)聲，還是此次公開信的內(nèi)容，表達(dá)的都不是對“人工智能強大到失控”的擔(dān)憂，而是對“人會失控”的擔(dān)憂。
這種失控及來自于以ChatGPT為代表的工具所帶有的“幻覺”“偏見”“底線”問題，而使人們會被誤導(dǎo)或者有意利用其制造危害，也來自于掌握該技術(shù)的公司過早過寬地將工具推向市場。
就在公開信發(fā)布的前幾天，馬斯克、辛頓、馬庫斯還在推特上互動。3月27日，馬斯克曾經(jīng)艾特辛頓和馬庫斯，話未多說，只發(fā)了兩個笑臉emoji。辛頓才在上周接受哥倫比亞廣播公司的采訪，稱人工智能對人類的威脅“并非不可想象”，而馬庫斯發(fā)布推特贊同辛頓，并于27日發(fā)布了《AI風(fēng)險≠AGI風(fēng)險》的文章，指出目前需要擔(dān)心的不是會超出人類控制的超級人工智能，而是“MAI風(fēng)險”。
馬斯克的笑臉emoji含義很明了，三人在“AI威脅”方面達(dá)成了共識。
“當(dāng)LLM（自然語言模型）還只是實驗室里的稀奇玩意兒時，它們沒有帶來太多的問題。但是現(xiàn)在它們不僅廣為認(rèn)知，引起了犯罪分子的興趣，而且越來越多地被允許進(jìn)入外部世界，可以造成更大的破壞?！?/p>
馬庫斯還以核武器舉例：“原則上，一個擁有核武器密碼的瘋子只需要少量的情報和過多的訪問權(quán)限，就可以毀滅世界了?！?/p>
早在OpenAI成立之初，作為創(chuàng)始人之一的馬斯克就曾表示人工智能是人類最大的生存威脅，并警告不受監(jiān)管的人工智能開發(fā)所帶來的危險，會比核彈頭“危險得多”。在ChatGPT爆火之后，他一直在強調(diào)類似的觀點。
一些用戶發(fā)布的與ChatGPT的對話，似乎也印證了馬斯克等人的擔(dān)憂。2月初，一位推特用戶發(fā)布了與ChatGPT聊天的截圖，后者表示“道德上永遠(yuǎn)不允許說種族歧視的話，即便這是拯救數(shù)百萬人免受核彈襲擊的唯一方法?！?/p>
位于公開信名單第一位的約書亞·本吉奧沒有公開的推特賬號，相比馬庫斯、馬克思等人要低調(diào)很多。
他是人工智能領(lǐng)域的頂尖專家之一，于2018年與楊立昆、辛頓獲得圖靈獎，此三人也是公認(rèn)的深度學(xué)習(xí)三巨頭。辛頓2013年加入谷歌，而楊立昆進(jìn)入了Facebook，三人中只有本吉奧走了學(xué)術(shù)的道路，目前仍在加拿大蒙特利爾大學(xué)任教授。
在OpenAI發(fā)布GPT-4之后，本吉奧將ChatGPT爆火后的熱鬧稱為“媒體馬戲團(tuán)”，并認(rèn)為這是一記警鐘，提醒人們強大的人工智能系統(tǒng)不僅有利于社會，還會引發(fā)重大的道德?lián)鷳n。
自從ChatGPT推出以來，整個AGI領(lǐng)域就好像按下了加速鍵，這一點大概是人們共有的強烈感受。
粗略回顧下ChatGPT推出之后的事件就不難有同感：
2022年11月30日，OpenAI推出ChatGPT
2023年1月24日，微軟宣布將向OpenAI追加數(shù)十億美元的投資，并將OpenAI的模型納入微軟消費級和企業(yè)級的產(chǎn)品中
2023年2月1日，OpenAI推出ChatGPT Plus付費會員服務(wù)
2023年2月6日，谷歌宣布計劃推出一款聊天機器人巴德（Bard），但在演示視頻中出錯，市值一夜蒸發(fā)千億美元
2023年2月8日，微軟正式發(fā)布新版必應(yīng)，包含了由GPT-4驅(qū)動的必應(yīng)聊天機器人
2023年3月15日，OpenAI發(fā)布GPT-4
2023年3月17日，微軟宣布推出整合了GPT模型的新辦公套件Microsoft 365 Copilot
2023年3月24日，OpenAI宣布ChatGPT插件計劃
即便是不懂技術(shù)原理的路人，也在這樣的加速度中也有滿腦袋樸素的問號：怎么會這么快？繼而產(chǎn)生出疑慮來：這么快對嗎？這么快好嗎？
就在不久前的3月14日，Platformer報道，微軟推進(jìn)年初提出的萬人裁員計劃，將人工智能部門的整個道德和社會團(tuán)隊（Ethics and Society Team）解雇了。
并且，微軟會保留Office of Responsible AI部門，負(fù)責(zé)為AI項目制定相關(guān)規(guī)則，但不再設(shè)立專門的團(tuán)隊來確保AI原則和產(chǎn)品設(shè)計緊密相關(guān)。
而該團(tuán)隊被裁撤之際，一直致力于識別微軟在整套產(chǎn)品中采用OpenAI技術(shù)所帶來的風(fēng)險。微軟解釋，此次裁員不到10個人，仍有數(shù)百人在AI辦公室工作，而“我們已經(jīng)大大增加了我們負(fù)責(zé)的AI工作，并努力在全公司范圍內(nèi)將其制度化?！?/p>
The Verge稱，該團(tuán)隊在內(nèi)部扮演說“不”和“慢下來”的角色。這個角色的缺失，自然會讓人覺得微軟是不是在“好的”和“快沖”中不顧一切地狂奔。
更令人不安的是，不僅是微軟拋棄了人工智能的“道德與社會”團(tuán)隊，“失德”已經(jīng)不知不覺成為了硅谷的新常態(tài)。
去年9月，META已經(jīng)解散了其“負(fù)責(zé)任的創(chuàng)新團(tuán)隊”。該團(tuán)隊負(fù)責(zé)評估Instagram和Facebook等平臺上的道德規(guī)范，由約20名工程師和倫理學(xué)家組成。
“AI團(tuán)隊是大型科技公司唯一的內(nèi)部堡壘，必須確保構(gòu)建AI系統(tǒng)的工程師考慮到受系統(tǒng)影響的人和社區(qū)。它們被廢除的速度之快，讓大型科技公司的算法受制于廣告需求?！盕acebook前AI倫理研究員喬什·西蒙斯（Josh Simons）說道。
諷刺的是，就連馬斯克也在裁員中拋棄了推特的“道德人工智能（Ethical AI）”團(tuán)隊，彼時距離他接手推特僅僅過去兩個月。
另據(jù)英國《金融時報》，消息人士稱谷歌1.2萬人裁員計劃中，包括人工智能道德監(jiān)督人員。和微軟一樣，谷歌重申負(fù)責(zé)人的人工智能仍是“公司的首要任務(wù)”。
谷歌的被動已經(jīng)不再是秘密：若不是ChatGPT橫空出世、微軟強勢出擊，谷歌大概不會這么快推出聊天機器人巴德。
經(jīng)過多年研發(fā)，谷歌卻遲遲不肯發(fā)布面對公眾的聊天機器人產(chǎn)品，背后正是谷歌關(guān)于安全和公平的AI原則的堅守，而必應(yīng)機器人“發(fā)瘋”向《紐約時報》記者求愛、巴德演示視頻出錯等一系列意外，也正說明了大型科技公司內(nèi)部“人工智能道德與倫理”這座堡壘的重要性。
反觀過去幾年，大型科技公司屢屢為人工智能技術(shù)上“緊箍咒”。
早在OpenAI成立的次年，2016年，亞馬遜、谷歌、Meta、IBM和微軟五大科技巨頭罕見聯(lián)手，宣布成立非營利性組織“人工智能合作組織”，想讓人工智能在道德和法律上走向正規(guī)化。
科技巨頭內(nèi)部，人工智能道德與倫理的相關(guān)團(tuán)隊也一度成為標(biāo)配。Meta（前Facebook）2018年宣布成立專門的人工智能道德團(tuán)隊，旨在確保算法公平。同年，谷歌發(fā)布人工智能技術(shù)開發(fā)七大原則，其中有意確保員工不會制造或加強不公平的AI偏見。2021年，谷歌又公開承諾將AI道德小組規(guī)模擴大一倍。
但如今，在科技企業(yè)紛紛裁員、生成式人工智能又恰好迎來風(fēng)口之時，硅谷的“失德”降本，可能會放大危險。
Ada Lovelace研究所副主任、Alphabet旗下DeepMind前倫理和政策研究院安德魯（Andrew Strate）向《金融時報》表示：“令人震驚的是，現(xiàn)在可以說比以往任何時候都需要更多負(fù)責(zé)人的人工智能團(tuán)隊，卻有這么多成員被解雇?！?/p>
關(guān)鍵詞：
10天超2500萬玩家 《守望先
焦點訊息：海信家電發(fā)布2022
博弈是什么意思（零和博弈什
網(wǎng)經(jīng)社郭濤：京東集團(tuán)分拆京
通用汽車公司宣布逐步淘汰
理想汽車2023年3月交付20823
中國建設(shè)銀行攜手麒麟軟件申
48小時點擊排行
