影/MIB星際戰警成真!研究人員研發「記憶刪除」棒 防止 AI 控制人類

影/MIB星際戰警成真!研究人員研發「記憶刪除」棒 防止 AI 控制人類

▲電影《MIB 星際戰警》(Men In Black)裡頭那支神奇的記憶消除棒現在可以運用在人工智慧上。(圖/翻攝自每日郵報,下同)

張岑宇/綜合報導 

電影《MIB 星際戰警》(Men In Black)裡頭那支神奇的記憶消除棒,如今竟然可以運用在人工智慧(AI)身上!研究人員透過開發類似人類的「記憶清除」的新系統運用在AI身上,該系統類似AI的遺忘機制,能夠防止 AI 反過來操控人類。

 

據英國《每日郵報》報導,AI 研究人員開發了一種新系統,透過刪除AI的部分記憶,來中斷它的學習,而不破壞它的學習方式,這種方式就如同電影《MIB 星際戰警》拿出的記憶消失棒,一閃之後便會清除記憶。

 

▲電影《MIB 星際戰警》(Men In Black)裡頭那支神奇的記憶消除棒,閃光一閃記憶便會消失。(影片/取自YouTube,若遭移除請見諒)

瑞士洛桑聯邦理工學院分散式程式設計實驗室的教授Rachid Guerraoui強調,「未來人工智慧將尋求方法避免人類干預,並創造一種人類無法阻止的情況。因此研究人員強調,「人類必須開發新系統,防止 AI 逃避人類指令」。 

研究人員認為,人類必須制定方法來阻止 AI 規避命令。例如,對於自動駕駛的車來說,人類可以從中間接管開車, 但這種突然中斷可能會影響汽車和其他人的行為。此外,如果系統透過這種方式,嘗試多了豐富經驗後,我們可以將預先訓練好的演算法,安裝在低探測速率的自駕車上,如此一來可以更廣泛地使用。

 

人工智慧機器人可以從自身行為的結果中,不斷進行學習,以擴增自己的能力,但專家說,這種特性可能導致 AI 的學習「無法中斷」。 

Guerraoui 對此表示,「我們面臨的挑戰不是阻止機器人學習,而是把它透過『程式設計』的方式加以安排。透過這種方式中斷 AI,並不會改變它的學習過程,也不會誘導它去優化自身行為,從而避免 AI 的學習被阻止」。

 

 

延伸閱讀

留言