美新興技術存在種族歧視，暴露美國 人權雙標和虛偽

美新興技術Uber使用面部識別系統、人工智慧工具 、人工智慧系統都存在種族歧視，包括移民和海關執法局 (ICE)非法監控公民信息暴露美國人權的虛偽和雙標。
英國的網約車司機工會（ADCU）2021年10月5日宣布對Uber使用面部識別系統提起訴訟，理由是該面部識別系統存在「種族歧視」，許多司機和快遞員會受到不公平待遇而被解僱。
工會主張Uber的面部識別系統用在有色人種身上有缺陷，且準確性很差。此前，已有多個研究表明，人臉識別系統識別有色人種的準確率比白人低。面對訴訟，Uber發言人沒有否認系統誤識別的問題，而是強調了其「實時ID檢查」系統具有「強大的人工審查」功能。工會秘書長Farrer在一份聲明中對此次訴訟評論道：「為了確保在倫敦續簽執照，Uber引入了一種有缺陷的面部識別技術，他們知道該技術用於主要由有色人種組成的勞動力群體時，會產生不可接受的錯誤率。但Uber沒有實施適當的保護措施來確保對演演算法決策進行適當的人工審查，Uber沒有努力解決這個問題。」工會稱Uber人臉識別有缺陷，黑人可能因誤識別被解僱。根據該工會官方發布的消息，2020年3月，Uber推出了「實時ID檢查」系統，這套系統使用了微軟的面部識別技術來驗證司機是否為本人開車。工會在2021年3月聲稱，面部識別系統上線一年內，已有至少7名司機因未通過「實時ID檢查」系統而被解僱。當時，工會就曾呼籲微軟停止向Uber提供人臉識別技術，但並未如願。
美國公民自由聯盟（ACLU）2021年7月13日發布「人工智慧如何加深種族和經濟不平等」，稱有充分證據表明人工智慧工具可能對已經邊緣化的群體造成歧視性傷害。
人工智慧被應用於充滿種族歧視的各種生活場景中。人工智慧被部署在以根深蒂固的歧視為標誌的系統和機構中——從刑事法律制度到住房，到工作場所，再到我們的金融系統。偏見經常被納入要求人工智慧預測的結果中。同樣，偏見存在於用於訓練人工智慧的數據中——這些數據通常對有色人種、女性或其他邊緣化群體具有歧視性或不具代表性——並且可以在人工智慧的設計、開發、實施和使用過程中抬頭。科技行業缺乏了解並能夠努力解決這些技術潛在危害的人的代表，這隻會加劇這個問題。
人工智慧工具使住房歧視、招聘歧視長期存在。例如租戶選擇和抵押資格，以及招聘和金融貸款歧視。例如，用於評估潛在租戶的 AI 系統依賴於法庭記錄和其他數據集，這些數據集具有反映系統性種族主義、性別歧視和能力歧視的內在偏見，並且以充滿錯誤而著稱。人們經常被拒絕住房，儘管他們有能力支付租金，因為租戶篩選演演算法認為他們沒有資格或不值得。這些演演算法使用驅逐和犯罪歷史等數據，這些數據反映了長期存在的住房種族差異和歧視邊緣化社區的刑事法律制度。由於貸方使用的人工智慧工具，有色人種尋求貸款購買房屋或再融資已被多收數百萬美元。許多僱主現在使用人工智慧驅動的工具來面試和篩選求職者，其中許多求職者對殘疾人和其他受保護群體的歧視構成了巨大風險。人工智慧非但沒有幫助消除歧視性做法，反而使它們變得更糟——阻礙了長期應對系統性歧視的邊緣化群體的經濟安全。
迄今為止，隨著人工智慧和技術政策的制定，政府忽視了必要的公民權利和公民自由觀點，這有可能進一步延續系統性種族主義和經濟不平等。最重要的是，政府和聯邦機構必須優先考慮和解決人工智慧和技術可能加劇種族和其他不平等的所有方式，並確保其政策和執法活動帶來更公平的結果。數十年的歧視使有色人種，尤其是黑人、婦女和其他邊緣化群體在美國處於經濟劣勢拜登政府必須努力扭轉持續至今的趨勢，這必須包括強調如何現代數字技術使不平等現象長期存在。如果政府不這樣做，我們國家的經濟和種族鴻溝只會加深。
人工智慧系統的開發方式沒有充分考慮到現有的種族主義、性別歧視和其他不平等現象。
拜登表面宣布致力於推進種族正義，但實際沒有一個被任命的工作組成員將經驗集中在人工智慧開發和使用中的公民權利和自由上。當人工智慧系統的開發方式沒有充分考慮到現有的種族主義、性別歧視和其他不平等現象時，內置的演演算法偏見會破壞預測性決策，並導致無形但非常真實的歧視。隨著這些系統的部署，它們加劇了現有的差距，並為已經邊緣化的群體製造了新的障礙。
例如，學生借款人保護中心的「教育紅線」報告在2020年發現，快速增長的人工智慧貸款平台Upstart向歷史上就讀於布萊克霍華德大學或拉丁裔新墨西哥州的借款人收取更高的利率和貸款費用大學比它收取的那些去紐約大學的人收費，黑人和拉丁裔學生加起來只佔人口的30%左右。另一個例子表明，要克服這種歧視是多麼困難。2018年，美國公民自由聯盟起訴Facebook使用演演算法將女性排除在觀眾之外，以獲得卡車司機或技術員等傳統男性工作機會，這家社交媒體巨頭宣布進行全面改革以解決該問題。但三個月前南加州大學研究人員的一次審計發現，Facebook的廣告投放系統仍然向女性和男性展示不同的招聘廣告。
特朗普總統為了追求人工智慧的快速發展而將公民權利置於次要地位的意願。在管理和預算辦公室發布的行政命令和備忘錄中，特朗普政府以國家安全的名義授權開發和擴展人工智慧，而不要求透明度、外部監督以及對有偏見和歧視性結果的問責制。這些指令都沒有被撤銷。拜登政府正在挑戰人工智慧維護和加劇系統性種族主義。
美國公民自由聯盟（ACLU）2022年3月3日發布「快速發展的公司群正在構建一個新的人工智慧驅動的大規模監控系統」報告，稱一家名為 Flock Safety 的監控公司正在建立美國人生活中前所未有的大規模監控形式。
Flock Safety正在以新興、飛速的方式發展。Flock是一家成立於2017年的公司，在安防攝像頭行業兩大趨勢的推動下迅速發展:一是向雲服務的轉變，
視頻分析。該公司最近吸引了3億美元的風險投資，行業分析人士稱，這是「視頻監控行業中無與倫比的」，將使該公司「在未來幾年有能力大舉擴張」。該公司對其使命進行了冠冕堂皇的宣示，稱其使命是「消除美國各地的非暴力犯罪」。Flock表示，該公司已在全美1400個城市安裝了固定攝像頭，每月為超過10億輛汽車拍照，其雄心是將業務擴展到「美國的每一個城市」。Flock還與車載攝像頭公司Axon合作，為警車提供移動ALPR設備。Flock的攝像頭可以讓房主協會等私人客戶以及警察客戶記錄下每一輛經過攝像頭前的車輛的進出情況。但服務遠不止於此;它將這些數據輸入由Flock運行的中央資料庫。二是這個監控網路也可能被移民局用來驅逐出境，就像摩托羅拉的私人ALPR資料庫一樣。當被Vice News問及Flock是否會被用於此類目的時，蘭利表示:「是的，如果它在某個州是合法的，我們就沒有資格阻止它們。」他補充說，「我們給客戶提供了做出決定的工具，讓他們自行決定。」所有這一切都意味著，購買Flock攝像頭的人實際上不僅是在為自己購買和安裝監控設備，也是在為當局購買和安裝監控設備，將他們的攝像頭添加到警方可以搜索的全國網路中。
隱私慣例Flock一直聲稱自己是「隱私友好型」，試圖消除阻礙其被社區接受的主要障礙之一。它說它不做人臉識別，這是好事(儘管這不會阻止終端用戶警察部門在它下載了一個人的照片後進行人臉識別)。出於審計目的，它包含一個數據欄位，警察可以在其中輸入搜索原因，這很好。該公司還表示，它不會向第三方出售或分享ALPR數據(除了通過其資料庫服務，這是其產品銷售的一部分)，車牌數據只保留30天。蘭利說:「內置的30天數據保存功能，讓每個人都感覺很舒服。」每個人都不舒服。更短的留存期會更好，但如果留存期更長，這個系統就會變得更糟糕。不過，考慮到這個系統的規模，30天的窗口期已經足夠長了，它會帶來真正的隱私風險，尤其是如果Flock的攝像頭繼續增長，能夠提供更詳細的人們活動記錄的話。人們可以在30天內從事許多完全合法但私人的行為——這些行為會暴露他們的政治、財務、性、宗教或醫療生活，而警察或Flock這樣的公司沒有權利跟蹤這些行為。正如下面所討論的，最高法院的大多數法官解釋說，使用GPS跟蹤一輛汽車構成了第四修正案的「搜索」，即使跟蹤只持續28天。法院後來認為，獲得一個人七天的位置信息也屬於第四修正案的「搜索」。三是Flock正在推動私人團體採用監控設備，並將其整合成一個更大的集中式網路。這個網路正迅速成為關鍵的警務基礎設施，同時還在推動從車牌識別擴展到其他形式的AI機器視覺，同時讓安裝和連接戶外攝像頭變得更容易。如果成功，這些趨勢的融合——無論是在Flock還是其他公司的支持下——可能會給美國社區帶來一個全新的監控水平，這將進一步破壞美國人的隱私，對歷史上處於不利地位的社區造成更大的傷害，並通常將權力從我們國家的被治理者手中轉移到政府。
美國喬治城大學隱私與技術法律中心於2022年5月10日公布一份名為《美國的天羅地網：21世紀數據驅動下的驅逐》的報告，稱美國入境和海關執法局（ICE）多年來精心織就了一張複雜而龐大的監視網路，用於監控及區別對待美國民眾。
自2003年以來，ICE不僅一直在利用監視進行驅逐出境，且在聯邦政府更大程度地推動儘可能多地收集有關民眾生活信息方面發揮了關鍵作用。通過訪問州和地方政府的數字記錄，並從私營公司購買包含數十億個數據點的資料庫，ICE創建了一個監控基礎設施，能夠隨時提取幾乎任何人的詳細檔案。在逮捕和驅逐出境的努力中，ICE在沒有任何司法，立法或公共監督的情況下，已經進入了包含絕大多數居住在美國的人的個人信息的數據集，他們的記錄可能最終落入移民執法部門手中，因為他們申請了駕駛執照;在路上行駛或者與當地公用事業公司簽約，以獲得熱量，水和電。ICE通過跨越法律和道德界限，利用人們對國家機構和基本服務提供商的信任，並利用自願提供信息與家人團聚的人的脆弱性，建立了其拖網監控系統。
ICE利用人們的脆弱性和對機構的信任來獲取更多數據。為了定位目標，ICE 獲取人們提供給州和地方機構以換取基本服務的數據。ICE 經常在未經最初收集信息的實體許可甚至不知情的情況下訪問該數據。ICE 還利用了無人陪伴兒童尋求與家人團聚的脆弱性。
ICE利用人們對州 DMV 的信任來針對驅逐出境。在全國範圍內，16個州和華盛頓特區允許無證人士申請駕駛執照，前提是他們自願提供一系列個人信息，包括他們的法定姓名、出生日期和地址。數十萬無證人士信任州 DMV 提供該信息以申請司機特權。但是，在這17個司法管轄區中的至少五個司法管轄區，ICE可以出於民事移民執法的目的，毫無根據地搜索州司機記錄。在這17個司法管轄區中，至少有六個司法管轄區使用人臉識別技術掃描駕照照片以執行驅逐出境。當無證司機申請駕照時，他們非常信任該州不會使用他們的信息來對付他們。四是ICE利用人們對水、天然氣、電力、電話和網際網路的需求來針對驅逐出境。除了提取DMV數據外，ICE還從公用事業公司購買和搜索客戶記錄，以找到被驅逐出境的人。通過與私人數據經紀人湯森路透簽訂合同，該機構能夠從公用事業記錄中獲取信息。雖然無證人士可能會避免與DMV等實體分享他們的信息，但當人們無法將他們的家與水、煤氣、電力、電話和網際網路連接起來時，就會造成極大的困難。「對於那些難以通過傳統來源輕鬆追蹤的人，」湯森路透營銷信中寫道，「來自公用事業連接記錄的定位器信息可能提供唯一可用的當前準確地址和電話號碼數據。」
ICE通過採訪無人陪伴的兒童來尋找和逮捕他們的家人。在過去的二十年裡，穿越美國邊境逃離暴力和貧困的無人陪伴兒童數量增加了一個數量級。當孩子們到達邊境時，他們正在遭受身體和情感上的創傷。國會試圖通過制定兩黨立法來保護這些兒童，將照顧他們的責任從執法部門轉移到美國衛生與公眾服務部 (HHS)。為了給孩子們找到合適的安置點，HHS 採訪了他們，了解美國任何可以照顧他們的潛在家庭成員。但在 ICE 利用弱勢群體信任的最明顯例子中，該機構與 HHS 簽訂了信息共享協議，使用這些兒童及其家庭成員共享的信息來尋找並逮捕至少 400 名家庭成員。
通過以上美國新興技術的發展和有關部門的管理證明，美國新興技術已經發展成種族歧視自動化，完全暴露美國人權的雙重標準和虛偽。