第57章 人工智慧就是阿撒托斯？（1 / 2）
⚡ 自动翻页
开启后阅读到底自动进入下一章
⚡ 开启自动翻页更爽
看到章尾自动进入下一章，追书不用一直点。
“所以，一旦人工智慧的智慧，彻底超越人类，那人类很可能，马上灭绝。”
“有人可能会说，那我们在设计人工智慧的时候，把它设置的善良一点，是不是能解决这个问题？”
“实际上，就算你把它设计成一个『圣母』，也没有任何效果。”
“因为善恶这种概念，只存在於同类世界，而人类和人工智慧，完全是两个不同层次的存在。”
“打个比方，你无意间踩死一只蚂蚁，会心生愧疚吗？不会，因为在人类眼中，蚂蚁的生死，是没有意义的。”
“同样的道理，在超级人工智慧看来，人类的生死存亡，也没有任何意义。”
“它消灭你，无关善恶，只是单纯地认为，你没有存在的必要而已。甚至很有可能，它会认为你的存在，將阻碍宇宙的进步。”
“为什么会这样说呢？”
“在我们的认知里，未来有无数发展可能，是无限多的，我们只要选择其中一个就好。”
“但是，对超级人工智慧来说，它可以选择的可能性，其实很少，甚至可能只有一个。”
“因为它会计算出，所有未来可能性的利弊，並且做出一个最正確的选择。 ”
“也就是说，在它眼里，未来是个『钉死』了的东西——就是它算出的那条最正確的道路。”
“可在超人工智慧眼中，最正確的道路，未必是人类愿意走的。”
“这样，超人工智慧就会把你视为这条正確方向上的『绊脚石』，毫不犹豫地消灭你。”
“更可怕的是，可能它一开始就计算出，消灭人类，比留著人类，对宇宙的未来更有利。” ↑↑