AI自創語言嚇窒工程師 網民憂成《未來戰士》翻版

Browse By

社交網站巨頭facebook 近年大力研究人工智能(AI)系統,更設立人工智能研究單位(FAIR)。近月單位嘗試讓兩部AI進行談判實驗,豈料兩部AI竟然建立出一套只有系統明白的語言,令工程師大驚關掉系統。有網民更擔心事件會演變成電影《未來戰士》翻版。

facebook的人工智能研究單位(FAIR)早前讓兩個AI機械人 Alice 和 Bob嘗試模仿人類,以談判解決問題,達成協議。其中一個練習是讓AI計討論如何分享有限的書本、帽子和籃球等。研究人員設定雙方使用英語溝通,但機械人卻以英語為基礎自創出一套不合乎英文文法的語言。最後團隊將機械人關掉重置,並修正錯誤。

AI的部分對話
Bob: “i can  i i everything else”
Alice: “Balls have zero to me to me to me to me to me to me to me to me to”
Bob: “you i everything else”
Alice: “balls have a ball to me to me to me to me to me to me to me to me”

其實facebook早於今年6月就已經公佈消息,但當時未有太多人為意。後來網上的傳聞愈演愈烈,有網民更擔憂會成為電影《未來戰士》(The Terminator)翻版, 戲中AI「天網」建立出自我意識,展開一場毀滅人類和地球的戰爭。

不過有報道指網上的傳言其實言過其實。出現錯誤主要是因為實驗期間,研究人員將機械人錯誤設置爲「用英語溝通」,而非「用英文文法溝通」。FAIR的科學家 Dhruv Batra 亦承認實驗中未有為AI提供誘因,驅使他們以人類方式說話,才致使他們偏離文法,發展出一套新的語言系統。

 

 

 

 

 

Leave a Reply

Your email address will not be published. Required fields are marked *

%d bloggers like this: