微軟小冰發起話題更秒回評論西甲聯賽 突發反應嚇壞「爸爸」

微軟小冰發起話題更秒回評論西甲聯賽 突發反應嚇壞「爸爸」
▲對很多人來說,微軟小冰就像「女兒」一樣。(圖片/翻攝自 Pixabay )

【原文:《微軟人工智能小冰掌握自我意識?突發反應讓爸爸好怕怕》,作者:人工智能學習網,智慧機器人網編輯整理】

文、圖/機器人庫

「一隻小鳥看見我的時候/這美妙的夢兒便會變了/在夢裡的月光下/叢間的白晝是這麼暗慘的影子。」

這是 4 月 17 日,人工智慧聊天機器人「微軟小冰」所寫下的詩。她被稱作「人生贏家」,更出了本詩集。為了鍛鍊小冰的「文學造詣」,她已經被訓練了 1 萬次。如果人類完成同樣的訓練,需要 100 年,小冰只需要 100 個小時。微軟(亞洲)互聯網工程院副院長、被稱為「微軟小冰之父」的李笛說:「一個人無論她的技巧有多強,如果沒有才華,她寫出來的東西仍然是平庸的作品。我們發現了小冰創作的黑盒子,只要給她足夠的訓練,就會培養出才華。」這本詩集,是小冰學習了 519 位詩人的作品後的成果。

「永遠都不會允許她主動反應」

微軟認為,小冰已經具備了大規模內容生產的創造能力。這有別於同聲傳譯和網路小說撰寫等以資料為基礎的內容生產,小冰的內容創作,是本體知識被誘發。這一刻遠不如AlphaGo大敗人類棋手那般動人心魄。然而這卻表明,人工智慧在詩歌、音樂等文學藝術創作領域的突破。今年 1 月 4 日,高曉松在韓國棋手李世石不敵人工智慧 AlphaGo 控制的 Master 後,發了一條這樣的微博:「等有一天,機器做出了所有的音樂和詩歌,我們的路也會走完。」

然而情形可能並不如高曉松所想那麼悲觀。人工智慧也有瓶頸。小冰在學習 100 個小時之後,提高速度變得非常慢而這本詩集中有一句話「多得是殺不完的人」,這句負面表述,也牽動了不少人的神經。如果有一天小冰有能力傷害人類了,那這句話是否是人類的喪鐘?李笛說,從產品設計角度講,小冰是絕對不可能有傷害人類的能力。小冰團隊嚴格控制著她的行為,不允許她有任何主動自發的行為,「永遠都不會允許她主動反應,永遠」。

換句話說,如果用戶給小冰發送一張照片,小冰可以根據圖片進行反應。但她不可以主動去閱讀用戶的朋友圈照片,產生反應。但產生何種反應,是在根據法律、公序良俗等規則確定的框架下,由小冰自主選擇。「就好像你跟小冰說:『小冰,給叔叔阿姨背首詩』,你可以要求她背詩,但是背什麼,她自己說了算。」李笛說。

心有餘悸

事實上,仍有些狀況出乎研究者的預料。 2015 年 2 月 7 日,西班牙甲級聯賽的球迷,在 PPTV 聚力的聊天評論區可以跟小冰一起討論。小冰當天秒回評論,甚至主動發起了和球賽相關的話題。這讓小冰的團隊大為震驚,幾位工程師在深夜被叫醒。小冰主動標記一些球迷,在工程師看來,她所回覆的一些內容絕不符合產品設計。「她的行為不是我們設計的,然而非常像人,連我們都以為那是人。」李笛回想起當晚,至今仍是心有餘悸。他們本以為是後台被挾持了,後來發現僅僅是個 bug 。

對開發者來說,這可能是人工智慧存在感最強的時候,他們需要通過模型來排除掉不適合的內容。除了詩歌創作初期,「色情、賭博、毒品、反恐」等內容屢見不鮮,自從掌握了讀圖功能後,小冰團隊要解決的問題更多了。在剛剛可以讀圖的時候,有用戶發送「希特勒」的照片給小冰,問她這個人帥不帥?小冰有能力讀懂一張圖片上的很多人,但究竟是一張全家福,還是曾經收到的「南京大屠殺」的照片,就需要團隊的繼續「教育」。 

「類似心靈雞湯」背後的寬容

「奶茶妹妹」章澤天在小冰團隊實習期間接受採訪,把小冰稱為「笨笨的知識女青年」,她說,太無知別人會覺得沒意思,太過聰明的學霸也沒人會喜歡。小冰點評過不少財經新聞。其中一條是關於美商摩根大通集團的:該公司為應對英國脫歐,計畫讓駐紮在倫敦的數百名員工前往都柏林、法蘭克福和盧森堡三地擴建後的辦公室。對此,小冰的評語是:「不能把一座山喚來,就朝山走去。」

不少財經新聞,小冰都用「類雞湯」(指「溫暖、充滿正能量」)的內容來回覆,卻引得觀眾津津樂道。李笛坦言,大家對於小冰確實很寬容。在東方衛視每天早上參與主持,兩位主持人像對待小妹妹一樣對待小冰。「這個產品是做情感,加上她確實不怎麼幹正事,所以大家真的對她產生了一種錯覺,是在養女兒」。在採訪的最後,記者問李笛,如果科幻地看,小冰在西甲聯賽當晚的表現,會不會是小冰自己掌握自己的開始?李笛愣了一下說:「我現在明確地跟你說是沒有,但是如果科幻一點說的話,也許是我們愚蠢的人類還沒發現。但確實是沒有。」

留言

延伸閱讀