馬斯克等千名科技界專家，聯合簽署「暫停巨型AI實驗」的公開信

（示意圖/取自pixabay）

Tesla執行長Elon Musk、蘋果聯合創辦人Steve Wozniak、蒙特婁學習算法研究所所長Yoshua Bengio等千名科技界專家，於近日聯合簽署了一份「暫停巨型人工智慧實驗」的公開信。

公開信指出，人工智慧系統具有與人類競爭的智慧，這可能對社會和人類造成深遠的風險。

根據阿西洛馬人工智慧原則（(Asilomar AI Principles）指出，先進的AI可能代表著地球生命歷史上的深刻變革，應該以相應的關注和資源來計劃和管理。

但隨著最近幾個月AI實驗室陷入一場無法控制的競賽，試圖開發和部署越來越強大的人工智慧，這種規劃和管理並未實現，甚至連它們的創造者也無法理解、預測或可靠地控制這些智慧。

公開信還表示，現代AI系統正逐漸在通用任務上實現與人類競爭的水準，只有當人類確信AI系統的影響是積極的，風險是可控的時候，才應該開發強大的AI系統。

因此，他們呼籲所有AI實驗室立即暫停至少6個月的時間，停止訓練比GPT-4更強大的AI系統。

這個暫停應該是公開和可驗證的，並包括所有關鍵參與者，如果這樣的暫停無法迅速實施，政府應該介入並實行一個暫停令。

此外，AI實驗室和獨立專家應該利用這個暫停期共同制定和實施一套共享的AI設計和開發安全協議，這些協議應由獨立的外部專家嚴格審核和監督，應確保遵守它們的系統在合理懷疑範圍之外是安全的。

這並不意味著暫停整個AI領域的發展，而僅僅是從危險的競賽中退一步，避免研究更大、更難以預測、具有突現性能力的黑箱模型。