建厂房，野兽之城，驾临修真界
【CSDN 编者按】当下，我们处在人工智能时代，每个人的生活开始离不开各种机器，从虚拟的语音助手到智能家居以及逐渐成熟的智能工业机器人，人工智能已然“入侵”到社会生活的很多领域。我不禁想，未来AI入侵世界会怎样。
作者 | Bruce Schneier
译者 | 弯月 责编 | 欧阳姝黎
出品 | CSDN（ID：CSDNnews）
闲来无事，我们来幻想一下被AI入侵的世界会是什么样子。
黑客技术有着悠久的历史。人类富有创造力，善于解决问题。我们利https://www.3tt.net/?mod=artinfo&aid=76用漏洞、操控系统，并以此攫取更大的影响力、权利和财富。迄今为止，黑客行为仅限于人类活动，然而，这种状况不会维持太久。
我认为，终有一天人工智能将发现人类社会、经济和政治系统中的漏洞，并利用这些漏洞迅速、大规模、大范围地入侵人类。在入侵人类之后，AI系统还将入侵其他AI系统，而届时的人类也将间接受害。
下载自视觉中国
可能有些人会觉得我的这番言辞略显夸张，但实际上这些都不是遥不可及的科幻小说。我想说的并不是AI的“奇点”（所谓的“奇点”指的是AI的学习反馈回路变得足够快，并超越人类的理解力）。我想说的也不是智能机器人，或者AI的邪恶意图。实际上，大多数的黑客行为甚至都不需要AI研究上的重大突破。这些入侵行为已经发生了。随着AI变得越来越复杂，我们常常对其的某些行为感到困惑。
人工智能无法像人类一样解决问题。它们关注的解决方案类型比我们更多。它们甚至会触碰一些我们从未考虑过的复杂方案。这就会引发所谓的可解释性问题。现代AI系统本质上形同一个黑匣子。数据从一端输入，而答案从另一端输出。即使是找个程序员来查看代码，可能也无法理解这些系统是如何得出这样结论的。
2015年，一个研究小组通过70万个人收集到了大量的健康与医疗数据，并将这些数据输入到了一个名为Deep Patient的AI系统，他们想测试一下该系统是否可以预测疾病。结果发现，该系统确实可以预测疾病，但是它没有提供诊断依据的解释，研究人员也不明白为何会得出这些结论。医生可以选择相信或无视计算机给出的结果，但这种信任是盲目的。
研究人员也在尝试研发可自我解释的AI，但似乎AI的能力与可解释性之间的关系就像鱼与熊掌，不可兼得。解释是人类拥有的一种认知的快速表达，适合人类做决策的方式。强迫AI做出解释就有可能变成一种附加的约束，影响其决策质量。至少就目前而言，人工智能的透明度越来越低，且越来越难以解释。
另外，AI可以完成有奖励的黑客活动。由于AI不会按照人类的方式解决问题，所以它们总是会在不经意期间发现人类从未想到过的解决方案，有些甚至会颠覆系统的意图。这是因为AI并不会考虑那些对于人类来说理所当然的深层含义、上下文、规范和价值观。AI虽然能够在这种有奖励的黑客活动中达成目标，但这绝不是AI设计者的希望和意图。
以模拟足球比赛为例，人工智能发现，如果将球踢到界外，守门员就不得不将球扔进去，而此刻球门就没有人防守了。还有，在另一项模拟中，AI发现它根本不用带着球全场跑，它只需要将自己身高拔到足够长，然后一跤摔下去，就可以横跨整个场地，跌倒在底线前了。再或者，有一台扫地机器人没有学会不撞到东西，而是学会了向后行驶，因为后方没有传感器告诉它撞到了东西。如果规则中存在问题、不一致性或漏洞，并且这些属性可以得出一个符合规则定义且可接受的解决方案，则AI就会找到这些“黑客行为”。
古希腊神话中有一则著名的点石成金的故事。当酒神狄俄倪索斯许诺弥达斯满足他一个愿望时，弥达斯表示希望拥有点石成金的本领，凡是他触碰到的东西都会立刻变成金子。但很快他就发现，他触碰到的食物、饮料，甚至是他的女儿都变成了金子，而他自己也将被活活饿死。套用到AI系统中，这就是一个规范问题：弥达斯将错误的目标编写到了系统中。
本文地址：http://www.reviewcode.cn/youxikaifa/204617.html 转载请注明出处！
