美國生命未來研究所向全社會發布了一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能(AI)實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少為6個月。
Telsa行政總裁馬斯克、圖靈獎得主約書亞·本希奧、蘋果公司聯合創始人沃茲尼亞克、Stability AI 創始人莫斯塔克等上千名科技界領袖人物與一群人工智能(AI)專家簽署公開信,呼籲暫停訓練比GPT-4更強大的AI系統,理由是有可能危及社會與人類。
公開信寫道:廣泛的研究表明,具有與人類競爭智能的人工智能(AI)系統可能對社會和人類構成深遠的風險,高級AI可能代表地球生命史上的深刻變化,應該以相應的關照和資源進行規劃和管理。不幸的是,這種規劃和管理並沒有發生,最近幾個月人工智能實驗室陷入了一場失控的競賽,以開發和部署更強大的思維,沒有人能理解、預測或可靠地控制的AI。
公開信呼籲道:人類可以通過人工智能享受繁榮的未來。現在,我們成功地創建了強大的AI系統,可以設計AI系統來造福所有人,只有當我們確信強大的AI系統的效果是積極的,其風險是可控的,才應該開發。不幸的是,目前為止,沒有任何人能理解、預測或可靠地控制AI系統,也沒有相應水平的規劃和管理。