祖克柏被打臉?Facebook關閉了自創語言的人工智慧
Facebook執行長祖克柏(Mark Zuckerberg)

Facebook執行長祖克柏(Mark Zuckerberg)上週才在直播中表示自己對人工智慧「非常樂觀」,並且批評認為人工智慧會製造威脅的論點「不負責任」,但是顯然自家團隊開發的人工智慧就很不受控制。Facebook的人工智慧研究團隊FAIR在6月曾發表關於人工智慧學習團隊的論文,不過當時也傳出,這些人工智慧在談判中自創語言。現在,Facebook已經正式將這個人工智慧關閉了。

Facebook的人工智慧研究團隊FAIR在6月中發表論文,表示他們的人工智慧學會談判了。不過,人工智慧們不但自己學會了談判技巧,甚至在對話中發明了一套自己的語言,工程人員完全無法判讀。最後研發人員只能強制干預、修改參數。

【匯流新聞網】Facebook的人工智慧們發明了自己的語言,人類看不懂

在這個研究中,團隊給機器人物品分配的任務,讓機器人與機器人進行談判。每個人工智慧都設有自己的獎勵比重,兩方必須在對話中推論出對方想要什麼,並且要有辦法獲得自己想要的,才能拿到高總分。而就在這些對話演練中,人工智慧開始發現獲得獎勵的關鍵是達成分配任務,並不是「使用英文」達成任務,因此它們漸漸地發展出人工智慧間的溝通方式,就像:

“I can i i everything else”
“balls have zero to me to me to me to me to me to”

看似不合邏輯的單字排列可能會被認為沒有意義,但事實上卻是人工智慧間才能了解的語言邏輯,它們以此表達自己需要的物品。研究人員雖然一開始進行了干預,卻無法控制人工智慧使用自創語言的決心,最後選擇將這組研究劃上句點。

然而就在前幾天,祖克柏才公開回應特斯拉(Tesla)、SpaceX執行長馬斯克(Elon Musk)對於人工智慧「將威脅人類文明」的論點。他說,他樂觀地相信,人工智慧在接下來5到10年之內,就會讓世界變得更好。而FAIR失控的人工智慧,又是否驗證了馬斯克的回應?馬斯克在網友提起祖克柏的反駁時,只說道「祖克柏對這個議題的了解有限」。

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.