中國成功「騙」了美國 這方面已大幅領先

來源: 觀察者網/日期: 2020-07-17



衛星地圖(網際網路)

美國"防務一號"（Defenseone.com）網站前日刊登文章，由該網站組織的第二屆"天才機械"（Genius Machines）論壇上，有美國國家地理情報局專家稱，中國正將運用"生成對抗網路"（Generative Adversarial Networks，GAN）技術對?星照片進行處理，以擾亂人工智慧（AI）技術對軍事和民用目標進行大數據識別。相關專家認為，中國在這方面已經大幅度領先美國。

據稱，美國家地理情報局局長辦公室的自動化項目主管兼首席資訊總監托德·邁爾斯（Todd Myers）說："中國是第一個運用對抗生成網路技術來欺騙大數據識別的國家，他們已經成功欺騙了計算機（電腦），讓它們識別出實際上並不存在的地形和目標。"

邁爾斯又說："中國在這方面是有計劃的：他們已經在這樣做了。使用GAN來操縱圖像和像素，來造出實際上不存在的東西，來實現『邪惡』的目的。"

邁爾斯舉例，對手可以通過欺騙通過電腦的輔助識別分析軟體，讓它認為在某重要河流的特定地點出現一座橋?牛?這樣一來，你就可能會被引誘針對這座橋?胖貧ㄕ絞跫蘋??盜凡慷櫻?貧ń?ヂ廢擼?怨セ髡庾?⒉淮嬖詰那擰?

邁爾斯稱，2017年開始，中國學者已經開始使用生成對抗網路技術，來識別?星照片中的道路、橋?藕推淥?勘輟Ｈツ昕?跡??I技術專家指出，同樣的技術開始被用於欺騙生成對抗網路。

邁爾斯表示，為了訓練自動識別系統，需要使用大量商業?星照片，而只需在其中混入小量經過處理的數據，即可干擾整個自動識別系統的工作。他表示："我們暫時不說國防和情報方面會遇到的問題，就想像一下，谷歌（Google）地圖可能會混入這些圖片，故意的？那麼我們就可以想像，5年後，特斯拉（Tesla）自動駕駛系統廣泛使用以後會如何？"

2014年，GAN（生成對抗網路）技術首次被提出，是一種訓練神經網路系統自動識別目標和識別真偽的新方法。簡單來說，通常的識別演演算法是通過圖像中的一些特定特徵的出現規律來進行，例如：當一張圖片符合條件X、Y和Z，那麼就可以識別這張圖片中有一隻貓。而生成對抗網路則會學習在甚麼情況下，識別神經網路會將目標識別為貓，然後生成含有X、Y、Z條件的圖片以使識別網路認可這是一隻貓。

這技術目前最廣為人知的運用就是"AI換臉術"（deep fake），利用這一技術可以製作以假亂真的動態人臉畫面。利用生物識別等技術，電腦仍然可以區分GAN製作的動態人臉畫面，但如果將這一技術轉移到地圖上，識別就變得不可能了。