影/ AI 勿濫用!歐盟也呼籲各國簽署禁開發「全自動化殺人武器」

影/ AI 勿濫用!歐盟也呼籲各國簽署禁開發「全自動化殺人武器」

▲ AI 應用於全自動武器,結合人臉辨識威力將十分強大。(圖/翻攝自 YouTube)

記者郭岱軒/綜合報導

繼聯合國與全球為數不少的 AI 人工智慧專家呼籲,承諾不開發「致命性自主武器」後,歐盟也登高一呼,希望世界各國也應該訂定協議,禁止開發全自動化殺人武器。歐盟外交及安全政策主管 Federica Mogherini 表示,他知道這種爭論有點像與遙遠的未來或科幻電影有關,但其實不是如此。

所謂「自動化武器」指由電腦系統全自動操作的武器,開火時不需要真人下決定,所以若是系統遭到駭客入侵,或是設計上有缺陷,將導致誤殺的可能,也會衍生出嚴重的道德問題,歐盟呼籲全球都應該禁止開發、生產和使用這類武器。

▲ AI 殺人蜂可以瞬間殲滅一整間教室的學生。(圖/翻攝自 YouTube)

▲模擬示意影片中的 CEO 展示了一款 AI 殺人蜂。(圖/翻攝自 YouTube)

科技發展的兩面刃,能夠便利生活,另一方面也對人類造成威脅,目前有類似「自動化武器」開發計畫的國家包括中國大陸、美國、以色列、南韓、俄羅斯和英國,人工智慧應用在軍事其實早就存在,包括了遠端遙控無人機等,全自動武器的問世,只是時間早晚而已。但也有人認為立法將阻礙科技發展,也讓不遵守的國家有機可乘。

目前相關建議若獲得歐盟內部共識,將於今年 11 月聯合國大會提出。目前已有 26 國政府表態贊成禁止開發人工智慧武器,不過既然大國如美國、中國、俄羅斯和英國都已有在開發這樣的武器,到底會否得到各國承認,仍然充滿變數。

去年,有超過 70 個國家代表出席日內瓦的聯合國特定常規武器公約會議,會議上柏克萊大學教授、資深 AI 研究學者 Stuart Russell 公布了駭人影片:一群形似「殺人蜂」的小型殺人機器( Slaughterbots ),衝進課堂,通過人臉定位,瞬間殺死了一群正在上課的學生。Russell 在片尾現身,警告人類不要發展自主武器。他說:「這部短片不只是揣測,而是顯示我們已擁有的整合和軍事化技術成果。」

▲恐怖的 AI 殺人蜂模擬示意影片。(影片/取自 YouTube,若遭移除請見諒)

熱門標籤

留言

延伸閱讀