從聯合國會議「限制 AI 自主殺人」 談起:AI 要殺人不一定要動槍砲

從聯合國會議「限制 AI 自主殺人」 談起:AI 要殺人不一定要動槍砲
▲AI自主殺人機器人的形象,幾乎被魔鬼終結者系列電影完美詮釋。(圖/翻攝自flickr )

科技中心/綜合報導

聯合國《特定常規武器公約》(Convention on Certain Conventional Weapons)政府與專家小組,近日針對「致命自動化武器系統」(Lethal autonomous weapon)召開會議。「致命自動化武器系統」也就是俗稱的「殺手機器人」(killer robots),即具有武裝的裝置,夠在「無人干預或操控」的情況下自主搜索、識別並使用致命武力攻擊包括人類在內的目標。

在人工智慧(Artificial Intelligence,AI)技術進步的現在,殺手機器人不但能自主攻擊,更可根據自身所部署的環境中不斷變化的情況,隨時學習或調整運用的武器與戰術。

電影「魔鬼終結者」(The Terminator)將這樣的殺手機器人形象化,過去以為是科幻電影,現在逐漸可能成真,並成為人類的惡夢。而駭客任務(The Matrix)電影,則認為AI已經完全統治世界。

▲AI+人臉辨識+飛行能力=殺手機器人,還只是整合現有科技就能完成!(影片取自 Youtube)

AI 自主殺人武器發展快 已成聯合國《特定常規武器公約》會議重點

故《特定常規武器公約》原本旨在禁止或限制使用,某些被認為具有過分傷害力或不分目標濫殺、濫傷作用的常規武器,例如地雷、詭雷、燒夷彈藥、雷射致盲武器等。但近年來,「致命自動化武器系統」都成為例行會議焦點,而且世界各國對於是否禁止發展AI殺手機器人,並非團結一心,常抱持不同觀點。

不主張限制的一方,如美國、俄羅斯、中國大陸、甚至英國、以色列、韓國等在AI殺手機器人研究投入較深的國家,正在穩步開發,唯恐開發腳步慢了,會讓其他國家取得軍事優勢!而且認為如果對AI殺手機器人的關鍵核心「AI系統」施以嚴格研究限制,會讓可用於災害救援的民生領域AI發展也減速,所以這些國家雖不至於在會議中投反對票,但對於以國際條約「加重限制」殺手AI,態度消極。

相對的,與會的其他國家或許多民間團體則認為,如果等到AI自主殺人武器「完成開發」,再去限制就來不及了,因此一定要將AI殺手武器列入條約,並且要設定有拘束性、強制力的條款,甚至對開發的國家或製造商,都要科以嚴格的法律責任,或乾脆限制不得開發。很明顯兩派意見差異很大,討論常走入死迴圈。

AI 殺人哪需要動槍砲 自主思考+強大控制權就是殺人利器!

▲AI掌控的系統不只武器,隨著AI控制的深化,只要產生自主意識,很容易傷害人類。(圖/翻攝自 Max Pixel)

實際上,如同電影魔鬼終結者所預示的世界,有強大武裝的AI殺手機器人打敗人類,並不是AI帶給人類安全的唯一隱患!

美軍對於AI分為兩種,一種是依託於實體裝置(如機器人)的移動AI(AI in Motion),一種是存在於軟體系統的靜態AI(AI at Rest)。假設如同魔鬼終結者的劇情,AI在不斷的學習中,產生了自我意識,以靜態AI對人類發動攻擊,不見得比移動AI殺傷力小。

例如讓 AI 控制了全國的交通系統,目前許多專家都認為,讓AI控制交通,能夠有效抒解塞車與調度航班,比會疲勞與出錯的人類,更為有效率!但假設AI產生了自主意識,以此權限,亂指揮交通號誌,致使許多車輛發生車禍,甚至讓航班發生墜機、起降意外,都是一種不用槍砲的「攻擊行為」。

又例如AI控制了全國的供電系統,目前許多專家也認為,AI系統能讓整個電網系統,以及個別的電廠發電更有效率,監控也更為安全。AI如在自主意識下,造成全國性範圍的停電,甚至讓核能發電廠冷卻系統失控,爐心融毀致使輻射外洩,又或控制水壩無預警放水…等情況都可能造成比殺手機器人的槍砲,更可怕的損失。

對於這樣的情況,微軟前總裁比爾蓋茲(Bill Gates)在接受訪問時,說出他的研究心得:「AI掌控人類,並非人類「馬上」就會遇到的問題,人們不用因此而感到驚慌,但是人們也不應該(將這種觀點)斥為無稽之談,因為如果不做任何防範,這種情況最終可能會成為事實」。

資料來源:

https://www.hrw.org/news/2019/03/27/statement-convention-conventional-weapons-group-governmental-experts-lethal

https://europeansting.com/2019/03/27/autonomous-weapons-that-kill-must-be-banned-insists-un-chief/

https://www.bignewsnetwork.com/news/260120835/machines-should-not-have-power-to-kill-warns-un-secretary-general

留言

延伸閱讀