Google AI使用七原則出爐,員工上書抗議與軍方合作
合作媒體-愛范兒
黃立寬/編譯 2018-06-09 08:00

北京時間 6 月 8 凌晨,Google CEO 桑德爾·皮蔡(Sundar Pichai)宣佈了他們使用人工智慧的七項原則,以及四條底線。

 

這是 3 月 Google 被披露與軍方合作,引起大量員工抗議,受到各路抨擊後,皮查伊首次正式回應。這些原則依然符合 Google 一路以來的價值觀,也提到了不會將人工智慧技術用於開發和製造武器,但並沒有說將會停止與軍方的合作。

 

這七項基本的原則是:

1.對社會有益。

2.避免製造或者加深不公平的偏見。

3.在開發中進行測試以確保安全。

4.對人類負責。

5.隱私原則。

6.堅守對卓越科學的追求。

7.在使用中考慮首要用途、技術的獨特性及適用性、使用的規模這三個因素。

 

四條底線是:

1.對於那些將產生或者導致傷害的整體性技術,我們會確保其利大於弊,並將做好確保安全的相關限制。

2.不會將 AI 用於製造武器及其它將會對人類產生傷害的產品。

3.不會將 AI 用於收集或使用用戶信息,以進行違反國際公認規範的監視。

4.不會將 AI 用於違反國際法和人權的技術開發。

 

▲ Google CEO 桑德爾·皮蔡

 

皮蔡還說道:

 

我們想要澄清的是,我們沒有將人工智慧技術用於開發武器,我們將繼續與政府和軍方早其他領域保持合作,比如在網路安全、軍事訓練、軍隊招聘、退役軍人康復、搜尋救援等方面。

 

Google 這次的回應,算是給這項三個多月來備受爭議的話題來了一個終結。

 

今年 3 月,Google 被披露與美國國防部在一個被稱為 「Project Maven」 的軍事項目上合作,Google 為其提供利用人工智慧技術分析由無人機拍攝的影像,以提高軍事無人機的精準打擊度。

 

隨後有超過 3000 名 Google 員工聯名給 Google CEO 桑德爾·皮蔡寫了一封公開信,要求 Google 退出這個項目。公開信裡寫道:

 

我們相信 Google 不會參與戰爭有關的生意。

 

我們要求取消 Project Maven 項目。並且要求 Google 起草、公開以及執行一個清晰的道德政策,那就是無論 Google 本身還是 Google 的合作商,都不會發展戰爭技術。

 

4 月份,超過 400 名科學家再次聯名上書。到了 5 月份,已經有十多名 Google 員工由於「Project Maven」與他們的價值觀相悖,提出了離職。

 

 

雖然 Google 與五角大廈都出來澄清,這次合作只會被限制用於 「非進攻性目的」(non-offensive uses only),但這並不能說服他們。畢竟戰爭充滿謊言,他們擔心這種技術一旦被軍方獲取,除了會用來搜救、偵查,也有可能用來發射武器。

 

6 月 1 日,Google 雲端的負責人戴安 · 格林(Diane Greene)在一次例會中向員工表示,Google 與美國官方簽訂的 Project Maven 合同將在明年到期,屆時 Google 將不再續約。

 

Google 與軍方的合作,可以說是雙向需求。

 

一方面,美國五角大廈對矽谷在人工智慧方面的創新人才一直虎視眈眈。Google 的 TensorFlow,從 2016 年開始,就在 GitHub 上成為了廣受歡迎的機器學習開源項目。DeepMind 近些年在 AlphaGo 等項目上的研究,也一直在人工智慧領域中保持領先。

 

Alphabet 董事會成員埃里克 · 施密特曾經說過,美國軍方對頂尖人工智慧技術有著強烈的需求,而研究這些技術最厲害的人,很大一部分在 Google。

 

埃里克 · 施密特還曾經擔任美國國防創新委員會主管,幫助五角大廈與矽谷的高科技公司合作,他在科技界跟美國政壇都混得很開。

 

 

另一方面,一直依靠廣告作為收入的 Google,持續高漲的流量獲取成本讓公司的財報越來越尷尬,而雲端計算、硬體這些業務雖然進展快速,但依然不能在短期內成為支撐營收的大頭。

 

因此,這份來自五角大廈的大訂單,有媒體披露金額為數十億美金,同時還有微軟、亞馬遜等巨頭參與競爭,這麼大一塊肥肉,怎麼可以輕易放手。不過去年 9 月, Google 的高層在面對這筆跟軍方的大交易時,也有討論過是否應該披露。

 

業界對於人工智慧被用於製造武器的擔憂一直存在。去年 8 月,特斯拉 CEO 伊隆 · 馬斯克與 Google 旗下 DeepMind 聯合創始人穆斯塔法·蘇萊曼(Mustafa Suleyman),以及 26 個國家的一百多名人工智慧領域專家共同向聯合國發表了一封聯名信,希望能禁止有關殺人機器人的研究和使用。

 

而這次 Google 公佈人工智慧的使用原則後, DeepMind 的穆斯塔法依然是在社交網路 Twitter 上呼籲各國政府關注科技的發展,關注全自動武器的製造和使用,著手制定相關的國家法規。

 

傑夫 · 迪恩(Jeff Dean)作為 Google AI 的負責人,在 Twitter 上轉發了這幾項原則表示歡迎,還向公眾分享了他們踐行這些原則的技術實踐指導。