ClearView AI能利用照片辨識身份...公眾隱私將不復存在
騰訊科技 承曦/黃詠琳 編譯
2020-01-20 16:00

人臉辨識技術的快速應用,雖然使人類的生活和工作更便利,但也同時帶來了史無前例的個人隱私侵犯之威脅。歐盟正在考慮禁止在公共場所使用人臉辨識,微軟公司也呼籲各國政府注意人臉辨識應用的管制。

據外媒最新消息,一家不為人知的科技新創公司,從Facebook等各種社群上蒐集了30億張照片,辨識照片中的詳細身份。他們甚至和警方展開合作,對全世界的隱私權構成巨大威脅。

據國外媒體報導,霍唐(Hoan Ton-That)最成功的一些軟體,包括一款與眾不同的蘋果手機遊戲,以及一款讓人們把川普獨特的金髮,融合照片人物的特效軟體。

後來,身為澳洲科技開發者的霍唐做了一件大事:他發明了一種工具,將會終止你隱藏身份在街上行走的能力,他把這一工具提供給數百個執法機構,包括從佛羅里達州的當地警察到聯邦調查局和國土安全部。

他的小公司ClearView AI,設計了一款開創性的人臉辨識應用程式。首先你先幫一個人拍一張照片,上傳後就可以看到這個人所有的網路公開照片,以及所有照片出現的連結。

該系統的主幹,是一個包含30多億張圖片的資料庫,ClearView AI聲稱這些圖片是從Facebook、YouTube、Venmo和數百萬其他網站上蒐集來的,遠遠超出了美國政府或加州矽谷巨頭曾經建構的任何照片資料庫。

美國聯邦和州執法官員表示,雖然他們對ClearView AI的工作方式和幕後主使所知甚少,但他們利用其應用軟體,幫忙解決了商店盜竊、身份盜竊、信用卡詐欺、謀殺和兒童性虐待案件。

到目前為止,利用每個人的臉部圖像辨識其身份一直是禁忌,因為它嚴重侵害了個人隱私權。一些有能力設計這種工具的科技公司,也都沒有這樣做。

2011年,Google董事長當時表示,這是該公司一直持保留態度的一項技術,因為它可能「以非常糟糕的方式」被濫用。過去,包括加州舊金山在內的一些大城市,禁止警方使用人臉辨識技術。

但據該公司稱,在沒有公眾監督的情況下,600多家執法機構在過去一年開始使用ClearView AI的系統,該公司拒絕提供這些執法機構的詳細名單。

據美國媒體分析,明視公司應用軟體背後的電腦程式,包括將系統與擴增實境眼鏡進行搭配的內容,用戶能夠辨識他們在街上看到的每個人。該工具可以協助辨識抗議活動中的活動分子,或地鐵上遇見的陌生人,不僅可以顯示他們的名字,還可以知道他們住在哪裡、做了什麼以及認識了誰。

另外,除了執法部門之外,ClearView AI還出於安全目的,向某幾家公司授權了該應用軟體。

「這種武器化的可能性是無窮無盡的!」加州聖塔克拉拉大學高科技法律研究所的聯合主任埃里克·戈德曼說。「想像一下,一個流氓執法官員成為狗仔,跟蹤潛在的浪漫伴侶,或者一個國家利用這一點挖掘人們的秘密,來敲詐他們或把他們扔進監獄。」

ClearView AI一直隱藏在秘密之中,避免其超過界線的技術引發爭議。當外媒在去年11月份開始調查這家公司時,它的網站還只是一個空白頁面,顯示了一個不存在的曼哈頓地址作為它的營業地。

該公司在白領社群網站LinkedIn只列出了一名員工,一名名叫「約翰·古德」的銷售經理,此人原來就是上述的開發者霍唐,只不過用了一個假名。一個月過去,這家公司的員工都沒有回覆媒體的電子郵件或電話。

事實上,當公司在躲避媒體記者的時候,它也在監視記者。在媒體的要求下,一些警察已經通過ClearView AI的應用軟體,掃描了調查記者的照片。他們很快就接到了ClearView AI代表的電話,詢問他們是否在與媒體交談,這表示ClearView AI有能力也有興趣監控執法部門在尋找誰。

人臉辨識技術一直備受爭議。這讓人們對個人隱私權感到緊張。過去,針對某些群體(比如有色人種),人臉辨識系統提供不太精準的辨識結果,引發了一些爭議。

警方使用的一些人臉辨識產品,包括ClearView AI的產品,都還沒有經過專家的審查。

ClearView AI的應用軟體帶來額外的風險,因為執法機構正在將敏感照片上傳到一家公司的服務器上,而該公司保護個人資料的能力未經檢驗。

該公司最終開始回答媒體記者的問題,稱其早期的沉默是秘密模式下,早期新創企業的典型特徵。

霍唐承認設計了一款用於擴增實境眼鏡的原型,但強調公司沒有發佈計劃。他說,記者的照片敲響了警鐘,因為該應用「標記了可能的異常搜索行為」,以防止用戶進行它認為「不恰當的搜索」

除了霍唐之外,明視公司的創始人還包括理查德·施瓦茨,此人在Rudolph Giuliani擔任紐約市長時是他的助手。明視公司由Peter  Thiel提供資金支持,後者是Facebook和Palantir等公司背後的知名風險投資家。

Thiel的另一個早期投資者是,一家名為基倫納加的小公司。它的創始人大衛·斯卡索,對ClearView AI使整個網際網路可以通過臉部搜索的擔憂不予理會,他說這是一個有價值的犯罪解決工具。

斯卡索說:「因為資料不斷增加,永遠不會有隱私。所以法律不能禁止技術,反而必須確定的是什麼是合法的。」

沉迷於人工智慧

31歲的霍唐在遠離美國矽谷的地方長大。他在祖國澳洲長大,從小聽著越南祖先的故事。2007年,他大學輟學,搬到美國舊金山。當時蘋果手機剛剛上市,他的目標是儘早進入他預期的充滿活力的社群媒體應用市場。但他早期的創業從未獲得真正的成功。

2009年,霍唐創建了一個網站,讓人們通過行動聊天軟體與所有聯繫人分享影片連結,這個網站後來被打上「網路釣魚騙局」的標籤,隨後霍唐關閉了網站。

2015年,他推出了「川普頭髮」軟體,這個特效工具可以在普通人的頭部加上川普特徵的金髮。霍唐還開發了另外一個照片分享工具,但是這些軟體產品基本上都失敗了。

霍唐十分沮喪,他於2016年搬到了美國紐約。霍唐又高又瘦,留著黑色長髮,他曾考慮過職業模特的生涯,但在一次嘗試模特兒的經驗後,他又開始試圖搞清楚科技領域的下一件大事。他開始閱讀關於人工智慧、圖像辨識和機器學習的學術論文。

施瓦茨和霍唐於2016年,在曼哈頓研究所的一次圖書活動中相遇,曼哈頓研究所是一個保守的智囊團。現年61歲的施瓦茨,在1990年代為朱利安尼工作,並在21世紀初擔任《紐約每日新聞》的編輯,累積了令人印象深刻的人脈網路。

兩人很快決定一起進入人臉辨識產業:霍唐負責開發這個應用軟體,施瓦茨則利用他的人脈來激發外界的商業興趣。

實際上,各國的警察部門已經使用人臉辨識工具將近20年了,但是他們在歷史上僅限於搜索政府提供的人臉圖像,比如臉部照片和駕照照片。近年來,人臉辨識算法的準確性有所提高,像亞馬遜這樣的公司提供的產品,可以為任何圖像資料庫創建人臉辨識程序。

霍唐要超越現有人臉辨識公司的水平。他從2016年開始招募了數名工程師。其中一位工程師設計了一個程式,可以通過網際網路自動收集人們的臉部圖像,比如就業網站、新聞網站、教育網站和社群網路,包括Facebook、YouTube、推特、Instagram甚至Venmo。

這些公司的代表對新聞界表示,他們禁止這種人臉照片採集行為,推特網站表示,它明確禁止使用其資料進行人臉辨識。

另一名工程師的工作是從學術論文中提取的人臉辨識算法。最終,ClearView AI取得了一個成功,一個霍唐描述的「最先進的神經網路」,可以將所有圖像轉換成基於臉部幾何的數學公式或向量,比如一個人的兩眼距離有多遠。

ClearView AI創建了一個巨大的目錄,將所有向量相似的照片聚集到「鄰域」中。當用戶上傳一張人臉照片到ClearView AI的系統中時,它會將人臉轉換成一個向量,然後顯示儲存在該向量鄰域中的所有類似的照片,以及這些圖像來源的網站連結。

施瓦茨支付了伺服器費用和基本費用,但公司運作十分簡單,每個人都在家工作。

「我靠信用卡債務生活。」霍唐說,「另外,我是比特幣的信徒,所以我有一些比特幣。」

隨著警方應用迅速傳播

到2017年底,該公司已經開發出了一個強大的人臉辨識工具,叫做「智慧審查器」。但是施瓦茨和霍唐還不知道要賣給誰。

也許這個工具可以用來審查家裡的保姆,或者作為監視器的附加功能。飯店大廳的保全,如果能夠利用這個工具直接辨識出客人身份,稱呼客人的名字會怎樣?「我們想到了每一個創意。」霍唐說。

根據一份文件顯示,2017年底,ClearView AI人臉辨識一個更奇怪的應用,是讓保羅·尼倫(一個自稱「親白人」的共和黨人,在威州競選國會議員),使用「非常規數據庫」進行「極端反對者研究」,這份文件後來公佈在網路上。

不過霍唐表示,公司從未真正提供過這樣的人臉辨識服務。

ClearView AI開始向執法部門銷售軟體。當時,該公司從外部投資者,泰爾和基倫納加那裡獲得了第一輪融資。除此之外,泰爾還因秘密資助胡克·霍根的訴訟而聞名,該訴訟導致廣受歡迎的網站Gawker破產。泰爾和霍唐一直是該網站負面新聞的主角。

泰爾的發言人Jeremiah Hall表示:「2017年,彼得給了一位才華橫溢的年輕創始人20萬美元,兩年後這筆錢被轉換成了ClearView AI的股權。那是彼得唯一的貢獻,他沒有參與公司業務。」

據追蹤新創企業投資的網站Pitchbook稱,即使在2019年第二輪融資後,明視公司仍然很小,累計從投資者那裡籌集了700萬美元。該公司拒絕對媒體確認投資金額。

今年2月,印第安納州警方開始試驗ClearView AI的人臉辨識軟體。他們在使用該應用軟體後,20分鐘內解決了一個案件。

在案件中,兩個人在公園裡打了一架,當一個人朝另一個人的肚子開槍時,鬥毆結束了。一名目擊者通過電話報告了這一罪行。隨後警方通過明視公司的應用軟體搜索持槍者的臉部表情照片。

他們立刻找到了一個匹配對象:這個人出現在一段社群媒體上的影片中,他的名字被標註在影片的標題中。「他沒有駕駛執照,成年後也沒有被捕,所以他不在政府數據庫中。」時任印第安納州警察隊長Chuck Cohen說。

這個人被逮捕並受到指控。科恩說,如果在社群媒體上沒有人臉辨識能力,他可能不會被認出來。

據該公司稱,印第安納州警方成為ClearView AI的第一個付費客戶,警方拒絕發表言論,只是說他們測試了ClearView AI的人臉辨識軟體。

明視公司找了現任和前任共和黨官員來接近警方,銷售軟體。

該公司提供免費試用,和最低2000美元的年度使用費。

據霍唐說,施瓦茨利用他的政治關係來幫助政府官員發現這個人臉辨識系統。「我很高興有機會幫助霍唐將ClearView AI,建設成一個以使命驅動的組織,幫助執法部門保護兒童,增強全國各地社區的安全。」施瓦茨通過一名發言人說。

該公司與客戶的主要聯繫人是Jessica Medeiros Garrison,她曾經參加阿拉巴馬州司法部長管理Luther Strange的共和黨競選活動。相關人士稱,Garrison是該公司的「成長顧問」。明視公司表示,這是一個短暫的、無報酬的角色,該公司還邀請了民主黨人來幫助推銷其產品。

該公司最有效的銷售技巧是向警方提供30天免費試用,然後警官鼓勵他們的採購部門註冊軟體,並在會議和在網路向其他警察部門的警官稱讚該工具。這樣一步一步,霍唐的人臉辨識在警方圈子內引起了轟動。

去年7月,美國紐澤西州克利夫頓的一名警官,在一封電子郵件中說服他的上司購買該軟體,因為它「能夠在幾秒鐘內辨識出一名嫌疑犯」。

在該部門的免費試用過程中,明視公司指認了商店扒手、蘋果商店小偷和一個見義勇為的撒瑪利亞人,這個人痛擊了一個用刀子威脅他人的歹徒。

這位警官的電子郵件中寫道:「可以用長焦鏡頭秘密拍攝照片並輸入軟體,而不使用警方的跟蹤監控操作。」

根據ClearView AI的展示,該應用軟體有助於辨識各類人群,比如一個被指控性虐待兒童的人,他的臉出現在別人健身房照片的鏡子裡;亞特蘭大一系列郵箱盜竊案的幕後黑手;一個被發現死在阿拉巴馬州人行道上的無名氏,以及銀行多重身份詐欺案件的嫌疑人。

在佛羅里達州的警官尼克·費拉拉,在去年夏天面對金融犯罪調查人員的廣告中,聽說了ClearView AI。他說,他以前只依賴於佛羅里達州州政府提供的人臉辨識工具FACES,該工具從佛羅里達3000多萬張臉部照片和機動車輛部門的照片中,提取了人臉資料。

費拉拉發現ClearView AI的應用軟體更先進,他說。它的全國人臉圖像資料庫要大得多,另外和FACES不同的是,ClearView AI的算法不需要人臉正對相機鏡頭的照片。

費拉拉警官說:「有了ClearView AI,你可以使用拍攝不完美的照片。一個人可以戴著帽子或眼鏡,也可以是側面照片或他們臉部的局部照片。」

他把自己的照片上傳到系統,系統調出了他在社群支付網站Venmo的個人資料頁面。他輸入了舊的、未結案案件的照片,並確認了30多名嫌疑人。去年9月,蓋恩斯維爾警察局支付了10000美元,購買了一年的ClearView AI人臉辨識系統許可證。

據該公司和政府官員稱,聯邦執法部門,包括聯邦調查局和國土安全部,以及加拿大執法當局,正在嘗試明視的軟體。

儘管越來越受歡迎,ClearView AI一直避免被公開提及,直到2019年底,佛羅里達州檢察官指控一名婦女犯有竊盜罪,她在克萊蒙特的五金店偷了兩個烤架、一個真空吸塵器。

當警察通過ClearView AI,從監視器影像中提取一個靜止圖像,並把它們帶到她的Facebook頁面時,她就被認出來了。根據該案的文件,監控影片和Facebook照片中可見的紋身,證實了她的身份。

「我們都完蛋了」

不過,霍唐也指出,人臉辨識系統並非任何時候都有效。ClearView AI資料庫中的大多數照片,都是眼睛水平高度拍攝的。警方上傳的大部分照片或者影片,來自安裝在天花板或牆上的監視器。

「他們把監視器放得太高了,」霍唐感嘆道。「這個角度可能讓人臉辨識無法正常工作。」

該公司表示,儘管如此,其工具仍能在75%的時間裡找到相應的人。不過,目前還不清楚該工具多久會發生一次錯誤辨識,因為它還沒有被一個獨立機構測試過,比如美國國家標準技術研究所(這是一個評估人臉辨識算法性能的聯邦機構) 。

「我們沒有數據表明ClearView AI的辨識系統是準確的。」喬治城大學隱私與技術中心的研究員克萊爾·加維說,他曾經研究政府部門對人臉辨識的使用。「資料庫越大,由於所謂的『二重身』效應,錯誤辨識的風險就越大。他們使用的是在網際網路上,找到的大量隨機人群的人臉資料庫。」

但現任和前任執法官員表示,該辨識軟體是有效的。「對我們來說,試用過程主要是看它是否有效。」前印第安納州警察隊長科恩說。

ClearView AI辨識系統流行的原因之一,是它的服務是獨一無二的。這是因為Facebook和其他社群媒體網站,禁止人們抓取用戶的圖像,而ClearView AI違反了網站的服務條款。

「很多人都在這麼做,Facebook也知道。」霍唐聳聳肩。

Facebook發言人Jay Nancarrow表示,該公司正在與ClearView AI一起審查這一情況,「如果我們發現他們違反了我們的規定,將採取適當的行動。」

ClearView AI的投資者泰爾,是Facebook的董事會成員。南查羅拒絕對泰爾的個人投資發表評論。

一些警方官員說,他們沒有意識到他們上傳的照片,被發送並儲存到ClearView AI的伺服器上。ClearView AI試圖用一份發給潛在客戶的聯邦調查局文件來消除人們的擔憂,該文件稱其客戶支持部門的員工,不會查看警方上傳的照片。

ClearView AI還聘請了美國副檢察長保羅·克萊門特,來緩解人們對人臉辨識應用軟體合法性的擔憂。

克萊門特在8月份給潛在客戶(包括亞特蘭大警察局和佛羅里達州皮內利亞斯郡治安官辦公室)的備忘錄中表示,執法機構「在將ClearView AI用於預期目的時,不會違反聯邦憲法或相關的現有州生物特徵和隱私法。」

克萊門特現在是柯克蘭埃利斯公司的合夥人,他寫道,執法部門沒有必要告訴被告他們是通過明視公司系統被指認的,只要這不是獲得逮捕令的唯一依據。克萊門特沒有回應更多提問。

備忘錄似乎是有效的;亞特蘭大警方和皮內拉斯縣治安官辦公室很快開始使用ClearView AI的軟體。

因為警方上傳了他們試圖指認的嫌犯照片,ClearView AI擁有一個不斷成長的嫌犯臉部訊息資料庫(這些個人已經引起了執法部門的注意)。該公司也有能力操縱警方看到的結果。當公司意識到媒體記者要求官員通過應用軟體輸入記者照片後,記者的臉被ClearView AI的系統標記出來,有一段時間沒有顯示匹配。

當被問及此事時,霍唐大笑起來,稱之為「軟體缺陷」。

「他們的所作所為令人毛骨悚然。」史丹佛法學院隱私教授阿爾·吉達利說:「數學沒有壟斷這一說,如果沒有一項非常強有力的聯邦隱私法,我們都完蛋了。」

霍唐說他的公司只使用公開的圖片。他說,如果你在Facebook上更改隱私設置,使搜索引擎無法連接到你的個人資料,你的Facebook照片將不會被包括在數據庫中。

但是如果你的檔案已經被搜索,那就太晚了。儘管後來可以被刪除或撤下,該公司仍保留所有被採集的圖像。

不過,ClearView AI也表示,該公司正在開發一種工具,如果圖像已經從原始網站撤下,人們可以要求ClearView AI將其刪除。

美國波士頓東北大學法律和電腦科學教授伍德羅·哈特佐格認為,ClearView AI是美國有必要禁止人臉辨識的最新證據。

哈特佐格說:「我們一直依靠產業努力來自我約束,不接受如此高風險的技術,但現在水壩正在崩潰,因為桌子上有這麼多錢。我看不出未來我們可以在防止監控濫用的背景下,使用人臉辨識技術的優勢,阻止它的唯一方法就是禁止它。」

每個人都知道你的名字

在曼哈頓切爾西區的一個ClearView AI辦公室接受採訪時,霍唐示範此應用軟體的功能。他拍了一張自拍並上傳到系統上,該應用軟體調出了他的23張照片。其中一個是,他赤裸上身,抽著一支香煙,渾身是血。

霍唐然後給記者拍照,隨後辨識系統返回了很多照片結果,可以追溯到十年前,包括記者自己以前從未見過的照片。當調查記者用手摀住鼻子和臉的底部時,這個應用軟體仍然返回了七個正確的匹配。

警官和ClearView AI的投資者預測,該公司的應用軟體最終將對公眾開放。

霍唐表示他不願意,「總會有一群壞人濫用它。」他說。

即使ClearView AI不公開它的應用軟體,其他公司也可以進行模仿,現在禁忌被打破了。

今天,搜索一個人的照片就像搜索一個名字一樣容易。陌生人可以偷聽敏感的談話、給談話者拍照、掌握個人秘密。另外,走在街上的人很快就被認出來,只需要幾次點擊,就能夠獲得他的住處地址,這代表著公眾隱私的終結。

當被問及將這樣一種力量帶入這個世界意味著什麼時,霍唐似乎吃了一驚。「我必須考慮一下,」他說。「我們認為這是對這項技術的最佳利用。」

本文為界面新聞授權刊登,原文標題為「這家公司識別了30億張網絡照片身份,專家稱人類隱私將不復存在」