惊呆！人工智能的这4个诡异操作，远比“ZAO”更引人深思 _人工智能

上周，AI换脸软件ZAO火爆朋友圈，瞬间每个人的朋友圈都多出来了很多紫霞仙子、小燕子，让大家过足了明星瘾。但随着软件的火爆人工智能架构图，质疑声接踵而至，面对这项AI技术，网友们纷纷表示存在安全隐患，ZAO可谓是一波三折。
现在的AI技术，越来越被广泛应用，可总有人害怕这个高端的领域，会对自己产生影响。
美国问答网站Quora上做过一个问题征集：到目前为止，AI做过最可怕的事情是什么?无数的网友罗列出自己认为最细思极恐的例子。
1
“的工程师惊慌失措，赶紧拔掉了AI的电源插头”
“人类真的创造出弗兰肯斯坦？”
上面的引用，都用来描述开发的谈判机器人。这个研究是想开发一种能以自然语言进行多问题谈判的AI系统。对话系统的复杂架构被经过训练的RNN网络取代，对话策略的训练采用了强化学习。
不过在这个AI尝试互相学习的过程中人工智能架构图，产生了上面这段“令人毛骨悚然”的对话（仔细看内容）。
2
诺斯洛普·格鲁门公司（）曾经创造了一个很棒的无人机，代号X-47B（也就是Salty Dog 502），于2011年2月首飞。与其他无人机不同，这架无人机的飞行不怎么需要人类干预，主要是AI系统自己决定。
X-47B成为历史上第一架成功在航母上着陆的无人机，这不是一件易事。
不过就在测试期间，有意思的事情发生了。
两次成功的起降之后，Salty Dog 502加满了油然后继续测试，准备进行第三次着陆。一切看起来都很正常，人们都在美国海军布什号航母上等待着。然而意外发生了。
无人机没有在舰上着陆，而是选择降落在附近的岛空军基地。在AI看来，这个地点降落可能是更安全的选择。
也就是说，这个AI认为自己的决定比人类的指令优先级更高。
这一事件之后，美国海军决定停止资助X-47B的研发。

文章插图

文章插图
3
美国的一所大学举办了一场机器人大赛，参赛团队需要设计一个机器人，任务是把羊（机器）抓到自己的羊圈里。机器人被赋予学习的能力，需要自主思考并执行策略，抓羊最多的才能赢得比赛。
比赛开始，机器人开始疯狂地捉羊。
但是，有个机器人只捉了一只羊，就关上了羊圈的门。
随后，可怕的事情发生了：这个机器人开始摧毁其他的参赛对手。
它的策略是：根本不用捉羊，把对手消灭掉就赢了，何必费力去捉羊？
4
CMU博士Tom 创造了一个AI程序，能通过观察得分来学会玩NES游戏。原理很简单：做得对就得分，做错了就结束，然后不断进行尝试。
没过几天，这个AI学会了所有的游戏的技巧和策略，甚至一些人类都不知道的bug 。
这个AI叫做“NES游戏自动化技术” ，几乎可以搞定所有的游戏。
Tom让这个程序玩俄罗斯方块，简单却又很有挑战。方块的出现是随机的，所以AI也无法很好的进行长远规划。
在一次玩俄罗斯方块时，眼看游戏就要结束，AI做了一个令人毛骨悚然的举动：它没有坐等game over ，而是按下了暂停键。
按照Tom 的解释：AI认为当时的情况下，最好的应对举措就是不玩了。
按下暂停键不再继续游戏，那么这局就永远也不会输。
看过这些案例，大家是不是又对人工智能产生结缔。但就现阶段而言，人工智能多以辅助人工作的形式存在，像饭店里的自主送餐机，帮助人们从电销中解脱的语音电话机器人，都成了我们工作和生活中重要的搭档。也许未来某一天，AI发展成了超级强悍的地步，到那时，相信人类也有更智慧的方式去应对。
【惊呆！人工智能的这4个诡异操作，远比“ZAO”更引人深思】本文到此结束，希望对大家有所帮助。