人工智能会摆脱人类的约束吗？这是我们对AI最大的担忧。
瑞典学者尼克·博斯特罗姆在《超级智能的演变、危险和对策》一书中写道，人脑神经元的工作速率约为200赫兹，信号传递速度为120米每秒;AI的工作速率为2000万赫兹，信号传递速度为光速。而且，人脑中神经元的数目是有限的，而AI不受存储空间限制。
一些高级AI可以自行修改源代码，进一步改进算法，提高“智商”，把人类远远抛在身后。因此，它们的智力必然高于人类。
AlphaGoZero是这类AI中的佼佼者。它是谷歌“阿尔法狗”家族的最新成员。AlphaGo的其他版本都以大量棋局作为学习基础，而AlphaGoZero跳过这一步，在玩游戏的过程中学习如何玩游戏。诞生第1天，除了基本的规则，它对围棋一无所知;第3天，它便打败了战胜过李世石的“大哥”AlphaGoLee，戰绩为100：0;第40天，它超越了AlphaGo的其他所有版本，成为围棋界的“独孤求败”。
科学家没有为AlphaGoZero预存任何围棋知识，让它如此强大的秘密是一种新的强化学习模式。它将AI的神经网络与强大的搜索算法结合，在一次次自我博弈中调整并更新神经网络，唯一的目标是赢者通吃。简而言之，AlphaGoZero不再受人类既有知识的束缚，它是能自我学习和创造的“超级物种”。
AlphaGoZero的自主进化能力令人震惊，而在脸书的人工智能实验室中发生的一件事则让所有知情者脊背发凉。2017年，训练机器人谈判的研究人员发现，这些机器人在用某种“非人类语言”交流。研究人员不得不调整指令，把AI之间的对话限制在人类能理解的范围内。
这种现象有点儿像双胞胎的“隐语症”——2011年，有人把一对双胞胎的视频上传到“YouTube”网站：两个蹒跚学步的孩童用无人理解的声音喋喋不休地“聊天”。不过，脸书表示，与双胞胎的“心灵感应”不同，机器人似乎正在创造语言，这些语言具有连贯的结构、特定的词汇和语法。
美国《纽约客》杂志认为，一旦AI全面超越人类，它们或许不会对造物主感恩戴德，特别是当我们不知如何向它们灌输情感的时候。一个心冷如铁又无所不能的存在，凭什么对一群只是因为天气恶劣就不想起床上班的生物怀有特别的感情？恐惧源自不确定的未来
在纪录片《杀手机器人的真相》中，一些受访者认为机器人能促进社会繁荣，另一些人担心它只会加剧贫富差距。
已故科学家霍金曾向英国广播公司表达自己对人工智能的担忧。在他看来，人工智能的充分发展可能是人类的末日，“几乎可以肯定，在1000年到1万年之内，人类的生存将受到技术的严重威胁”。
霍金的想法激起了不少人的共鸣，包括特斯拉CEO马斯克和比尔·盖茨。马斯克将开发AI比喻为“召唤魔鬼”，他相信超级智能可以把人类当宠物豢养。
计算机科学家迈克尔·伍尔德里奇认为，人工智能的算法在黑匣子里运行，复杂程度超出常人认知。如果我们不理解算法如何运作，就无从预测AI何时失控。因此，自动驾驶汽车或机器人在关键时刻会“失心疯”，让人类命悬一线。
人工智能的支持者同样大有人在。克里斯多夫·沃尔特是德国的一名机器人工程师，他并不觉得自动化会跟人类抢饭碗。“我们的目的不是用机器人代替工人，而是要为工人提供支持。”他在纪录片中强调。
好消息是，经过多年研究，科学家仍然没有发现机器人在需要情感交流的工作中比得上人类，例如护理。尽管如此，在日趋老龄化的社会中使用机器人护工，确实能让各国政府节省大笔养老和医疗开支。这比对抗“终结者”更现实。
美国《时代》杂志认为，人工智能堪称当代最热门、最难理解、最具争议的技术之一。你无法看到它或触摸它，甚至可能意识不到自己正在使用它，比如当你家里的恒温调节器设定适合的温度，或者手机自动纠正你输入的字母时。
半个世纪以来，人类在人工智能的帮助下进步;如今，AI成为主角的时代正在到来。我们身处的世界信息量巨大，只有近乎无限的计算能力才能应付。人工智能可以切实帮人类克服很多棘手的课题，包括通信、能源、气候、医疗、交通等。人工智能技术终将适应人类，给社会带来深刻变化。
“超级人工智能的兴起将是人类有史以来最好或最坏的事情。”如霍金生前所言，“我们还不知道是哪一个。”
美国小说家洛夫克拉夫特说过：“人类最古老、最强烈的恐惧源于未知。”这或许才是我们如此害怕人工智能的原因。