AI的黑暗面 以色列在加薩用人工智能生成轟炸目標

2024/04/11
苦勞網特約編輯

以色列媒體揭露以色列軍方運用人工智能(AI)技術來生成攻擊名單並決定轟炸目標。人權與科技專家譴責以色列的這項做法,認為這可能構成戰爭罪,呼籲停止在戰爭中運用AI技術。

以色列雜誌《+972》與希伯來語新聞網站「Local Call」 4月3日發佈報導,以色列軍方使用名為「薰衣草」(Lavender)的AI技術生成攻擊對象名單,報導訪問了6名以色列情報人員,根據他們的說法,「薰衣草」在加薩戰爭初期扮演重要角色,該系統能快速處理大批資料並辨認出潛在的初級情報人員。「薰衣草」生成的攻擊目標名單包含了37,000名巴勒斯坦人,這些人被AI系統認定為是哈瑪斯或者巴勒斯坦伊斯蘭聖戰運動(PIJ)的低階戰士。

這篇報導並未說明訓練「薰衣草」系統的資料來源以及該系統如何生成名單。負責研發「薰衣草」的以色列軍隊情報部門「8200」部隊,在戰爭初期調整了系統的演算法與搜尋參數,確認其「準確率」達90%後,經以色列軍方批准在實戰上運用。

換句話說,以色列軍隊在明知「薰衣草」系統錯誤率高達10%的情況下,就允許士兵根據AI所生成的名單進行轟炸。受訪者表示,軍方高層在攻擊行動前,預先批准了可容許的「附加傷害值」,而隨著戰爭持續,以色列為了攻擊一名哈瑪斯低階戰士,可以接受15至20名平民被殺害,如果攻擊目標是哈瑪斯高級官員,甚至允許殺害100名平民。以色列情報人員的說法,不僅與以色列領導人與軍方吹噓的「精準打擊」大相徑庭,也被人權與國際法專家指出將構成戰爭罪行。

2024年3月18日,一名巴勒斯坦男子經過位於加薩拉法、被以色列轟炸的建築物。(圖片來源:+972 Magazine)

國際人道法要求軍隊攻擊必須遵守「區分原則」與「比例原則」,即每次攻擊只能針對戰鬥人員,並且評估攻擊行動可能造成的平民傷亡。聯合國人權與反恐問題特別報告員本・索爾(Ben Saul)表示,如果這篇報導內容屬實,以色列在加薩發動「不成比例」的攻擊將構成戰爭罪。

以色列軍隊不單只使用「薰衣草」這套AI系統,根據報導,以色列也使用另一套名為「爸爸在哪裡?」(Where's Daddy)的人工智能程式,追蹤暗殺名單中的巴勒斯坦男子,確認攻擊對象晚上與家人在家的時間才發動攻擊,並以空襲行動對哈瑪斯低階戰士投擲非導引炸彈,儘管這樣的做法將摧毀整棟房屋,殺害裡頭所有的居民。受訪者表示,以色列不想將昂貴的炸彈浪費在不重要的人身上,因此願意接受導致屋內其他平民的「附加傷害」。

自去年(2023)10月7日起,以色列對加薩發動的戰爭已殺害33,000名巴勒斯坦人,根據聯合國統計,在戰爭首月,就有1,340個家庭損失一名以上家庭成員、312個家庭失去超過10名以上家庭成員。以色列在過去6個月轟炸住宅區、襲擊醫院,並蓄意殺害救援人員,不僅引發輿論譴責,更在國際法院上被指控種族滅絕罪,這次被揭露在戰爭中使用AI技術再度引發各界譁然。

在過往案例中,以色列軍方制定出類似的殺戮名單後,還需要真人確認目標並經法律顧問批准。在10月7日之後,人工智能資料庫迅速生成目標,參與批准的人員只花費短短20秒時間查核後就決定是否允許轟炸,真人複查淪為橡皮圖章。澳洲新南威爾斯大學人工智能專家托比・威爾士(Toby Walsh)認為,AI令戰爭規模擴大到可怕的地步,但是真人卻很難對人工智能系統執行有意義的監督。

土耳其的安納多盧通訊社曾報導,以色列利用加薩作為「武器試驗場」,測試其人工智能的殺人技術。以色列作為領先全球的監控與數位辨識技術出口國,在過去50年來,已向全球至少130個國家輸出高科技監控產品,其間諜軟體與數位辨識工具,許多是為了維持對約旦河西岸與東耶路撒冷的非法佔領以及封鎖加薩走廊而開發,包括著名的手機間諜軟體「飛馬」(Pegasus),美國與歐盟邊境管理局(Frontex)也分別使用以色列開發的監視技術與無人機技術監控邊境難民。《巴勒斯坦實驗室:以色列如何將佔領技術出口至世界》(The Palestine Laboratory: How Israel Exports the Technology of Occupation Around the World)一書的澳洲籍作者安東尼・洛文斯坦(Antony Loewenstein)表示,以色列正在向各國政府兜售「經歷過實戰檢驗」的技術,賺取沾有巴勒斯坦人民血跡的錢。以色列憑藉非法佔領過程中所研發與實驗的技術,在2021年的軍火銷售額突破新高達113億美元,是世界前十大軍火輸出國之一。

特約撰述: 
責任主編: