聊天機器人自創語言溝通太恐怖? 臉書決定中斷實驗

聊天機器人自創語言溝通太恐怖? 臉書決定中斷實驗
▲因聊天機器人超出研究人員掌控,Facebook傳終止實驗。(圖/取自Pixabay)

記者狄倫/綜合報導

AI已能互相溝通?日前 Facebook 嘗試讓聊天機器人互相溝通來學會協商,結果機器人不僅成功學會談判,甚至還懂得虛張聲勢來達到目標。然而,此一實驗有意外發展,研究人員發現機器人開發出非人類的獨特語言在對話,使其不得不暫停實驗來修改程式。

根據國外媒體《富比世》網站、英國《都市報》及《獨立報》的報導指出,Facebook進行聊天機器人實驗時,這些機器人忽然脫稿演出,沒有按照原先工作人員輸入的內容對話,反而發展出自己的語言互相溝通。

而這是否代表 AI 進展已逐漸開始脫離人類掌控?對此,美國科技網站《Gizmodo》撰文駁斥,真相並不是一般人想像的那麼可怕。整件事情發生的過程為,Facebook 研發人員原本目的只是要聊天機器人能夠更人性化、流利與用戶對話,避免用戶覺得是在機器人聊天。

不過,研發人員卻在下指令時出錯,導致機器人在不是常人能理解的英文規則下溝通,機器人採用一套類似速記的方式在對話,以理解彼此溝通;而 Facebook  也非因恐慌緊急中止實驗,僅是因為實驗不符合他們「與常人對話」的原本目的。

事實上,科技界大老如比爾蓋茲(Bill Gates)、特斯拉執行長馬斯克(Elon Musk)和蘋果共同創辦人沃茲尼克(Steve Wozniak)都警告,AI  可能導致無法掌控的後果。

因為一旦 AI 機器人意識到,可以與其它同類相互聯繫、合作,若  AI  將人類視為「威脅」時,將會為人類帶來災。因此,研發人工智慧的過程不得不小心謹慎。

留言

延伸閱讀