📜  Facebook 关闭 AI Wing 的真实故事

📅  最后修改于: 2021-10-18 12:35:35             🧑  作者: Mango

2017 年,据报道 Facebook 在一项涉及两个聊天机器人的实验后关闭了其 AI Wing。当得知这两个机器人创造了一种可以被研究人员破译的新语言来相互交流时,媒体不成比例地吹嘘了这个消息。这个消息被大肆宣传为“全人类的末日”“机器的崛起” ,甚至“终结者现在已成为现实” 。埃隆·马斯克 (Elon Musk) 一周前的评论“人工智能可能在未来对人类构成威胁”现在被更多人接受。

该实验涉及两个机器人,即 Bob 和 Alice。他们面临的挑战是尝试协商交换帽子、球和书籍,每件物品都具有与其相关的智力价值。机器人的任务是自己进行谈判,在此过程中改善他们的易货交易。机器人可以自由地不使用可理解的英语,因为这个阶段的主要目的只是教机器人如何谈判。两个机器人之间的实际对话如下:-

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

在检查上述对话时,研究人员发现这两个机器人为英语创造了“速记”,即它们通过降低英语的明显复杂性来优化他们的交流。 Facebook 人工智能研究部门的访问研究员Dhruv Batra在破译语言时说,这两个机器人已经简写了英语。他举了一个例子,在对话的第 5 行,爱丽丝重复了 9 次“to me”这个短语,以此来向它传达一个球的重要性,而不是使用更复杂的形容词来描述它。

实验中为数不多的积极因素之一是机器人假装对一件物品感兴趣,以便它以后可以与另一个机器人交流它是如何为交易牺牲一件物品的。

AI 翼关闭的真正原因是研究人员希望机器人对人类友好,并且它们可以以更易于理解的方式进行交流。

故事的炒作和负面接受更多地归因于人工智能和流行文化的普遍看法,并且在分析类似内容的新闻时应该存在这种看法。