經濟觀察網 記者 任曉寧 美東時間5月30日，美國非營利組織人工智能安全中心（CAIS）在其官網發布一封聯名公開信，稱AI堪比“大流行病和核戰爭”，有可能給人類帶來滅絕風險。

公開信只有一句話：“減輕人工智能帶來的滅絕風險，應該與大流行病和核戰爭等其他社會規模的風險級別一樣，成為一個全球性的優先事項。”

目前已有超過370位AI大佬簽署了上述聯名公開信，包括OpenAI首席執行官Sam Altman、谷歌DeepMind首席執行官Demis Hassabis和Anthropic首席執行官Dario Amode三大AI公司掌門人等。

(資料圖片)

圖靈獎獲得者、被譽為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也簽署了這封公開信。

簽署名單里也有中國學者的身影，包括中國工程院院士、清華大學智能產業研究院院長張亞勤，中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅，清華大學副教授詹仙園。

名單主要以全球知名大學教授為主，其次是人工智能科學家，此外還有政界人士，比如愛沙尼亞共和國前總統Kersti Kaljulaid。

這個名單人數還在持續增加中。經濟觀察網記者在CAIS官網看到，人工智能科學家或名人（高管、教授、領導）都可提交簽署聲明，并收到確認郵件。

人工智能安全中心（CAIS）是一家位于美國舊金山的非營利組織。其官網稱，他們相信，只要能夠安全地開發和使用人工智能 (AI)，就有可能使世界受益匪淺。然而，與人工智能取得的巨大進步相比，人工智能安全方面的許多基礎問題尚待解決。他們的使命是通過開展安全研究、建立人工智能安全研究領域和倡導安全標準來降低與人工智能相關的社會規模風險。

今年3月，國外上千位知名人士也簽署過公開信，警示AI風險。3月29日，特斯拉創始人埃隆·馬斯克、圖靈獎獲得者Yoshua Bengio等人在非營利組織“生命未來研究所(Future of Life Institute)”網站上發布聯名公告，呼吁暫停開發比GPT-4更強大的AI系統至少6個月，稱其“對社會和人類構成潛在風險”。

目前，OpenAI已經暫停開發GPT-5。

Yoshua Bengio提到簽署原因時說，這封公開信可以提醒學界和工業界：我們必須花時間更好地了解這些系統，并在國家和國際層面制定必要的框架，來增加對公眾的保護。即使簽署這封公開信造成的影響可能沒有那么大，但是起碼會掀起一場全社會的討論。

在國外，由于ChatGPT應用更廣泛，暴露的風險也逐漸增加。3月28日，據比利時媒體LaLibre報道，比利時30歲男子在與聊天機器人ELIZA密集交流數周后自殺身亡，ELIZA是由EleutherAI開發的開源人工智能語言模型。

5月22日，美國一張五角大樓附近地區發生爆炸的圖片在社交媒體上瘋傳。這張虛假照片的廣泛流傳，甚至導致標普500指數短線下跌約0.3%至盤中低點，由漲轉跌。隨后美國國防部發言人證實，這是一張由AI生成的虛假圖片，這張圖具有明顯的AI生成特征，比如路燈有些歪，圍欄長在了人行道上等。

AI翻唱歌曲成為一種潮流后，控制全球音樂市場近三分之一份額的環球音樂，已經發函要求蘋果、Spotify等流媒體平臺封禁侵犯公司旋律、歌詞版權的AI作品。