AI技术发展对人类的影响

　　一个具有超级智能的通用人工智能将非常善于实现它的目标，如果这些目标与我们的目标不一致，我们就有麻烦了。下面给大家讲讲AI技术发展对人类的影响，供你们阅读参考。

　　许多思想家将超级智能的概念斥为科幻小说，因为他们认为它是一种神秘的东西，只能存在于生物有机体中，尤其是人类，而且它从根本上限制了人类今天所能做的事情。

　　但从我作为物理学家的角度来看，智能只是一种通过移动基本粒子来进行的信息处理，没有物理定律说人类不能制造出比我们更聪明的机器，哪怕是能在宇宙中孕育生命的机器。

　　这表明，我们只看到了智能的冰山一角，有这样一种惊人的可能性:

　　也许我们可以释放出自然界中所有的智慧，用它们来帮助人类繁荣或生存。

　　可真正的问题是，人工智能安全研究必须在严格的期限内完成:在通用人工智能到来之前，我们需要弄清楚如何让人工智能理解、采用并保留我们的目标。

　　机器越智能、越强大，就越有必要让它们的目标与我们的一致。

　　只要我们制造出的机器较为的愚蠢，问题就不在于人类的目标能否实现，而在于机器会在我们实现目标之前制造出多少麻烦。

　　然而，如果制造出超级智能机器，情况可能会逆转:因为智能是实现目标的能力，所以超级智能的人工智能在实现目标方面比我们人类做得更好，因此占了上风。

　　一个具有超级智能的通用人工智能将非常善于实现它的目标，如果这些目标与我们的目标不一致，我们就有麻烦了。

　　人类为了修建水电站而淹没蚁丘，对于这种问题，人类是不会三思而后行的，所以我们不要把人类放在蚂蚁的位置上。

　　大多数研究人员都认为，如果我们较终创造出了超级智能，我们应该确保它是安全和友好的(埃利泽尤德考斯基所称的“友好的人工智能”)、它的目标在某种深层意义上是有益的。