如何看待馬斯克，Bengio等千位AI科技人士簽署暫停巨型AI實驗公開信？ _人工

展開公開信鏈接：Pause Giant AI : An Open–of Life。內(nèi)容如下：大量研究[1]表明并得到頂級AI實驗室的認可，具有人類競爭智能的AI系統(tǒng)可能對社會和人類構(gòu)成深遠的風(fēng)險。[2]正如廣泛認可的 AI原則中所述，高級AI可能代表地球生命史上的深刻變化，應(yīng)以相應(yīng)的關(guān)懷和資源進行規(guī)劃和管理。不幸的是，這種級別的規(guī)劃和管理并沒有發(fā)生，盡管最近幾個月人工智能實驗室陷入了一場失控的競賽，以開發(fā)和部署更強大的數(shù)字思維，沒有人——甚至他們的創(chuàng)造者——都無法理解，預(yù)測，或可靠地控制。當代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競爭力，[3]我們必須捫心自問：我們是否應(yīng)該讓機器用宣傳和謊言充斥我們的??信息渠道。我們應(yīng)該自動化所有的工作，包括令人滿意的工作嗎？我們是否應(yīng)該人工智能簽字識別，發(fā)展最終可能超過我們、超越我們、過時并取代我們的非人類思維？我們應(yīng)該冒險失去對我們文明的控制嗎？不得將此類決定委托給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。只有當我們確信它們的影響是積極的并且它們的風(fēng)險是可控的時候，才應(yīng)該開發(fā)強大的人工智能系統(tǒng) 。

文章插圖

文章插圖
【如何看待馬斯克，Bengio等千位AI科技人士簽署暫停巨型AI實驗公開信？】這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的大小而增加。最近關(guān)于通用人工智能的聲明指出，“在某些時候，在開始訓(xùn)練未來系統(tǒng)之前進行獨立審查可能很重要，并且對于最先進的努力來說，同意限制用于創(chuàng)建新系統(tǒng)的計算增長率楷模。”，我們同意。那一點就是現(xiàn)在。因此，我們呼吁所有人工智能實驗室立即暫停訓(xùn)練比GPT-4更強大的人工智能系統(tǒng)（包括目前正在訓(xùn)練的GPT-5）至少6個月。這種暫停應(yīng)該是公開的和可驗證的，并且包括所有關(guān)鍵參與者。如果不能迅速實施這種暫停，政府應(yīng)介入并暫停。人工智能實驗室和獨立專家應(yīng)該利用這次暫停，共同開發(fā)和實施一套用于高級人工智能設(shè)計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進行嚴格審計和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)是安全的，無可置疑。[4]這并不意味著總體上暫停AI開發(fā)，只是從危險的競賽中倒退到具有緊急功能的更大的不可預(yù)測的黑盒模型。人工智能研究和開發(fā)應(yīng)該重新聚焦于使當今強大的、最先進的系統(tǒng)更加準確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠。與此同時，AI開發(fā)人員必須與政策制定者合作人工智能簽字識別，以顯著加快開發(fā)強大的AI治理系統(tǒng) 。這些至少應(yīng)包括：專門負責(zé)AI的新的和有能力的監(jiān)管機構(gòu)；監(jiān)督和跟蹤高性能人工智能系統(tǒng)和大量計算能力；出處和水印系統(tǒng)，以幫助區(qū)分真實與合成并跟蹤模型泄漏；強大的審計和認證生態(tài)系統(tǒng)；人工智能造成的傷害的責(zé)任；為技術(shù)人工智能安全研究提供強大的公共資金；以及資源充足的機構(gòu)來應(yīng)對人工智能將造成的巨大的經(jīng)濟和政治破壞（尤其是對民主的破壞）。
人類可以享受人工智能帶來的繁榮未來。成功創(chuàng)建強大的AI系統(tǒng)后，我們現(xiàn)在可以享受“AI之夏”，收獲回報，設(shè)計這些系統(tǒng)以造福所有人，并為社會提供適應(yīng)的機會。社會已經(jīng)暫停其他可能對社會造成災(zāi)難性影響的技術(shù) 。[5]我們可以在這里這樣做。讓我們享受一個漫長的AI夏天，而不是毫無準備地陷入秋天。簽名人士包括：，圖靈獎獲得者，伯克利計算機科學(xué)教授，教科書“人工智能：現(xiàn)代方法”的合著者Elon Musk，、Tesla和的首席執(zhí)行官Steve ，蘋果聯(lián)合創(chuàng)始人后略
本文到此結(jié)束，希望對大家有所幫助。