超级人工智能会毁灭人类吗？

　　他说：“比如，蛋白质折叠问题的解决方案”，即使用氨基酸序列来确定蛋白质的三维形状，“这个解决方案可能被用于创建一支生物纳米机器人军队。当然，还有很多不那么新奇的办法可以利用。人工智能可以完成一些股票交易、或打扑克、或写作，然后用获得的收益雇佣人类听它差遣。鉴于最近加密货币的流行，这桩买卖可以大规模地暗中进行。”
　　扬波尔斯基说，如果有足够的财政资源，你可以轻易地从云端获取计算资源，并通过社会工程来影响现实世界，或者，像扬波尔斯基说的那样，雇佣一支“人类劳动力大军”。超级智能或许可以通过财富的积累、CPU性能、存储能力以及影响范围的提升，逐渐变得更加强大、更有影响力。
　　西班牙马德里自治大学的计算科学家曼努埃里•阿方索卡解释说，令人恐惧的是，超级智能可以就如何在我们的指令之外采取行动，做出一些判断。
　　他说，超级人工智能可能“得出结论，即没有人类，这个世界会更美好，并消灭我们”。他还补充说，有些人引用这一可怕的可能性来解释我们为什么到目前为止仍没有找到外星智慧生命；也许，阿方索卡说，“所有外星智慧都已被超级人工智能所取代，而人类在这些超级人工智能看来，不过是一种低等的生命形式，因此它们无意与我们交流”。
　　对于想要故意毁灭人类的超级智能来说，成功的最简单之道就是利用我们的生物弱点。人类在没有食物的情况下可以生存大约30天，没有水的话只能生存3到4天，但是缺了氧气，我们连几分钟都撑不下去。一台足够智能的机器很有可能会发现一种方法，来彻底清除我们大气中的氧气，也许它可以通过某种自我复制的纳米技术群来实现这个操作。未来主义者对此有一个专门的描述，叫做全球生态吞噬，或可怕的“灰蛊情景”。在这种情景下，大量精心设计的分子机器将寻找特定的资源，然后把它们变成其他东西，包括自身的副本。这种资源不一定是氧气，只要清除对人类生存至关重要的关键资源就行了。
　　
非科幻小说
　　这一切听起来都极具科幻色彩，但阿方索卡说，带有猜测性质的虚构故事有助于强调潜在的风险，特指《黑客帝国》。施奈德也相信虚构故事的力量，她提到了反乌托邦短片《屠戮机器》。在这部短片中，武装无人机袭击了一间教室。施奈德说，人们对于危险的人工智能和自主杀人机器的担忧越来越“接近当下”。例如，无人机技术可以利用现有的面部识别软件来瞄准人类。施奈德说：“这是一个严重的问题。”因此，她认为，《屠戮机器》非常值得一看。
　　麻省理工学院的机器学习研究员马克思•泰格马克在他一本2017年出版的书中写道，诸如《终结者》这类影片虽然呈现了模糊的未来可能情景，但也“让人们的关注点偏离了人工智能带来的真正风险和机遇”。泰格马克设想了一个更微妙、甚至更阴险的情景。在他的设想中，机器通过狡猾的社会工程和诡计以及稳定地收集有价值的资源，来统治全世界。在他的书中，泰格马克提到了“普罗米修斯”。这是一种假设的通用人工智能（AGI），使用其自适应智能和多功能性，从而“以多种方式控制人类”，而那些反抗的人也没办法“简单地用关掉普罗米修斯的方式”来摆脱控制。
　　就其本身而言，通用机器智能的出现注定是意义深远的，且十分可能成为人类历史的一个转折点。一个通用人工智能“将有能力递归地设计出更优的通用人工智能。最终，物理定律将成为这个不断改进的通用人工智能的唯一限制。当然，物理定律范围内允许的智慧，似乎远在人类智慧水平之上，”泰格马克写道。换句话说，人工智能可以用来发明超级智能。这样一个时代，即我们人类或将有见证“智能爆炸”的时代，将出现一些严重的、我们不希望发生的后果。
　　泰格马克写道：“如果有一群人成功控制了智能爆炸，那么这群人可能会在几年内统治全球。如果人类无法控制智能爆炸，那么人工智能自己将会更快地统治世界。”
　　

Related Keywords

Beijing ,China ,Taiwan ,Egypt ,Russia ,Spain ,Soviet ,Tiger Mark ,Marx Tiger Mark ,Earth University Of Oxford ,Ita Mission ,Massachusetts Institute Of Technology ,Center Or The Us ,Sina Science ,Science Cognitive ,Earth University ,Professor Jan ,Spain Madrid ,Massachusetts Institute ,Soviet Union ,New Crown ,பெய்ஜிங் ,சீனா ,டைவாந் ,எகிப்து ,ரஷ்யா ,ஸ்பெயின் ,சோவியத் ,புலி குறி ,மாசசூசெட்ஸ் நிறுவனம் ஆஃப் தொழில்நுட்பம் ,சினா அறிவியல் ,பூமி பல்கலைக்கழகம் ,ப்ரொஃபெஸர் ஜான் ,ஸ்பெயின் மாட்ரிட் ,மாசசூசெட்ஸ் நிறுவனம் ,சோவியத் தொழிற்சங்கம் ,புதியது கிரீடம் ,