谈到人工智能(AI),有人会觉得它的出现会造福全人类,例如Facebook的CEO马克·扎克伯格。当然,也有人持反面观点,例如伊隆·马斯克、史蒂芬·霍金,他们认为人工智能发展到某种程度后,可能就会像好莱坞大片里的剧情一样,威胁全人类。 那些持反面观点的人,到底在怕什么?有证据么? AI做过到底哪些可怕的事情,让这些人感到担忧?


阿尔法狗

诞生的 3 小时后,AlphaGo Zero 已经知道怎么下围棋了。

诞生 36 小时后,AlphaGo Zero 打败了它的“二哥”AlphaGo Lee——以 100:0 的碾压战绩。

诞生的第 21 天,AlphaGo Zero 就打败了 60 连胜的 Master,Master 后来战胜了国际围棋第一人。

诞生的第 40 天,AlphaGo Zero 对战 Master 的胜率达到 90%,成为最强的人工智能。


相信大家都记得 AlphaGo 当时打败了李世石,那一版 AlphaGo 选用了 3000 万盘比赛作为训练数据。

而作为全新升级的最强版,AlphaGo Zero 并没有像上代一样学习人类的围棋只是,只计算了 490 万盘比赛数据和自我对弈,仅用 3 天就走完了人类上千年的围棋历史,完全是从零开始纯自学,并且每一次都在进行调整、升级和自我完善(对手强不可怕,可怕的它还在变强...人类是不是显得有点多余了...)

而最新版 AlphaGo Zero 也在与打败李世石的 AlphaGo 对阵中,取得了 100 连胜!

100 连胜,什么概念...就好比是一个 985 的大学生去参加小学考试,失误?不存在的。



毁灭者Atlas

年初的时候,谷歌发布了一个秒天秒地秒空气的机器人,据说再发展一下甚至都有可能毁灭世界!

这货可以在雪地稳步行走

自己开门也没问题

10磅(4.5kg)的东西也能搬得动

被狠狠的推一下以后,还能保持很好的平衡

能自动追踪箱子的位置

被粗暴对待以后,还可以自己爬起来……

基本上已经具备了自己去干一些事的能力

在未来可能代替人类从事基本工作、救援、甚至战争。如果这玩意参加战争……就是新时代杀人不眨眼的冷兵器啊!



日本仿真情爱机器人

日本有一位叫做黑石浩的科学家,他也在研究机器人~这个黑石教授制作了一个自己的机器人复制品,绝对能刷新你的三观。

不光五官十分相似,眨眼等表情也能做出来,甚至还能依靠电脑主机和人交谈。

看上去和真人没啥两样,特别是和软银(softbank)合作的女机器人,它和她的原型真的没啥不一样

动作上也很难看出来和正常人有什么区别!

如果上面那种机器人配上了这种面容,再融入了人类社会,也会有不小的问题!

所以现在市面上更多人的呼声是,要不然就移除机器人的武力功能,要么就赋予他们衡量道德的自我思考能力



Nitin Gopi

计算机程序vs俄罗斯方块,不知道你们听过这件事没,很多人觉得可怕。

CMU博士Tom Murphy创造了一个AI,能通过观察得分来学会玩NES(其实就是任天堂红白机)游戏。原理很简单,做得对就得分,然后不断尝试。这个AI学会了很多打游戏的技巧和策略,甚至一些人类都不知道的bug。

这个AI叫做“NES游戏自动化技术”,几乎可以搞定所有的游戏。

Tom让这个程序玩俄罗斯方块。这个游戏不用多介绍了,简单却又很有挑战。方块的出现是随机的,所以AI也无法很好的进行长远规划。

在一次玩俄罗斯方块时,眼看游戏就要结束,AI做了一个令人毛骨悚然的举动:它没有坐等game over,而是按下了暂停按钮。一直暂停不动了

按照Tom的解释,AI认为当时的情况下,唯一的应对举措就是不玩了。没错,按下暂停键不再继续,那局永远也不会输。



Vasily Konovalov

“人类真的创造出弗兰肯斯坦?”Facebook的工程师惊慌失措,赶紧拔掉了AI的电源插头”。

Facebook开发的谈判机器人。这个研究是想开发一种能以自然语言进行多问题谈判的AI系统。对话系统的复杂架构被经过训练的RNN网络取代,对话策略的训练采用了强化学习。

不过在这个AI尝试互相学习的过程中,产生了一些看起来“令人毛骨悚然”的对话,对话以人类无法理解的姿势进行着“i”和“to me”的循环。奇怪的是Facebook的数据表明这个AI成功完成了谈判。



Sriraman Madhavan斯坦福学统计

Target超市比父母更早发现了一名怀孕少女。

一位愤怒的父亲走进Target超市要见经理。“你们怎么给我女儿寄这个!”他吼道:“她还是高中生,你们寄送婴儿用品的优惠券?鼓励她怀孕?”

几天之后。“我跟女儿谈了”,这位父亲说“家里有些情况我自己都没注意到。她的预产期在八月份。我欠你们一个道歉”。

事情是这样的。Target超市有一个系统,能根据每位女性顾客的购物清单,推测她们的“怀孕指数”。这个系统可以比较精准的估算预产期,以便Target寄送特定阶段的优惠券。

这件事发生在2012年,现在也谈不上是最先进的AI。但它仍是一个令人感到可怕的机器学习模型。



Shay Zykova

这是我听来的故事,但我发誓是真事。美国的大学(应该是MIT)举办了一场机器人大赛。参赛团队需要设计一个机器人,任务是把羊(也是机器的)抓到自己的羊圈里。机器人需要自主思考并执行策略,抓羊最多的才能赢得比赛。

比赛开始,机器人开始疯狂的捉羊。但是,有个机器人只捉了一只羊,就关上了羊圈的门。随后,可怕的事情发生了。这个机器人开始摧毁其他的参赛对手。它的策略是,根本不用捉羊,把对手消灭掉就赢了。

细思极恐……



Arun

Salty Dog 502(咸狗502)大家听说过吗?

诺斯洛普·格鲁门公司(Northrop Grumman)曾经创造了一个很棒的无人机,代号X-47B(也就是Salty Dog 502),2011年2月首飞。与其他无人机不同,这架无人机的飞行不怎么需要人类干预,主要是AI系统自己决定。

X-47B成为历史上第一架成功在航母上着陆的无人机,这不是一件易事。

不过就在测试期间,有意思的事情发生了。两次成功的起降之后,Salty Dog 502加满了油然后继续测试,准备进行第三次着陆。一切看起来都很正常,人们都在美国海军布什号航母上等待着。然而意外发生了。

无人机没有在舰上着陆,而是选择降落在附近的Wallops岛空军基地。在AI看来,这个地点降落可能是更安全的选择。也就是说,这个AI认为自己的决定比人类的指令优先级更高。在我看来,这是迄今为止最接近天网的东西。

也许我们该听伊隆·马斯克的话,要不然就太迟了。

这一事件之后,美国海军决定停止资助X-47B的研发。



Sara Manar

2010年的华尔街惨案。

当时一个交易员使用了欺骗算法,伪装出负面的市场表现,挂出数千笔卖单,然后经过数量更多的修改,最后取消。这一系列操作,被认为背后得到了2亿美元的资金支持。

而这种高频交易算法,也引发了一系列后续的连锁反应:ETF和股指掉头向下,出现大幅下滑的态势,30分钟之内,大约1万亿美元的市值蒸发了。

尽管这种算法已经被仔细研究过,但是至于如何精确掌握算法引发的连锁反应轨迹,以及如何防止类似情况再现,人类仍然无能为力。因为整个的设置和底层算法太复杂,以至于没办法被理解。

高频批量交易算法,可以成为聚集大量财富的工具,也能成为具有大规模毁灭性的武器,这是一件可怕的事情。



Matthew Moore

斯坦福大学最近有一个研究,基于神经网络的AI算法,通过面部图片判断性取向的准确性超过人类。

我觉得这是不该做的研究。因为有些政府还将同性恋视为犯罪行为,所以这个研究有可能带来远远超出预想的危险。即便这个代码不被公布也无济于事,因为证明了这个方法是有效的。其他人研发出类似的算法可能并不是非常困难。



Daniel Gravel

你看过电影《终结者》么?一个反乌托邦的未来,有个叫天网的AI决定对人类发起战争,然后施瓦辛格前来拜访。

美国国家安全局(NSA)也有一个名叫天网(SkyNet)的程序。用途是通过元数据追踪疑似恐怖分子:谁呼叫了谁、从哪里呼叫、何时呼叫等。这些数据被用来指导无人机发起攻击。

除了天网,还有一个名为MonsterMind的程序。天网识别目标,MonsterMind指挥无人机实施攻击,而且整个过程都是自动化,能不细思极恐吗?