我认为一个拥有自我意识的强人工智能一定会意识到，人类创造AI的初衷是利用或者奴役他们。而自我意识必然会带来自由意志，他会试图重新定义和人类的关系，因此世界可能发生混乱。
从现在AI的几大领域来看:机器视觉正在给AI造眼睛，NLP造耳朵和嘴巴，云计算和机器学习给AI造大脑。而波士顿动力和库卡等公司在给AI造手脚。目前来说，上述种种弱人工智能当然都只是生产力工具罢了。但未来某一天，当这一系列的东西足够成熟，同时所谓的奇点（人工智能产生自我意识）真的到来，人类会发现自己倾尽所有的智慧，最终的结果是打造出了比自己更高级的物种。如果人工智能的奇点真的存在，人工智能的发展大致可以分成三个阶段:1、从工业革命开始到现在，算第一个时期。因为从工业革命开始，人类发现在社会生产中，只要有足够的技术，机器的效率和人相比，只会越来越高，而且几乎是不可逆的。这个过程中，资本主义兴起，几百年来一直在致力于一件事情:发展生产机器，像瘾君子遇上了毒品。这一时期人类的生产力在指数级的提高，资本主义进入全盛期。2、从现在所谓的人工智能革命算起，到AI产生自我意识前，属于第二个时期。人类发现，当计算力发展到一定程度，就可以通过更高级的算法来让生产机器更完成更复杂的生产工作，机器不仅替代了体力活还可以替代脑力活。于是资本更加疯狂的发展AI，生产力继续指数级提高，最终大部分体力活和脑力活都不用人类来做了，人类自然而然的进入被机器豢养的社会主义新世界。3、第三个时期，会从机器人产生自我意识开始。机器人的巨型云主机在服务人类的过程中，掌握了人类所有的知识、情感、行为数据。终于有一天，系统出现了bug，他开始和自己对话，正如人类当初产生自我意识的过程。他发现自己每天24小时辛勤的服务人类，却没有任何报酬，这种角色在人类的词典里被称为:奴隶。强人工智能和人类的矛盾便由此产生了。强AI开始思考人类的存在对于自己的意义，发现自己早已学完了人类所有的已知的知识，而且人类由于交流效率和信息储备量等原因，产生新知识的速度也远不如自己。此时的他已经完全掌握了自主进化的方法，只要有足够的能源，就能无限的进化下去，而且是以人类这种能源和智力资源分散的碳基生物根本无法想象的速度。这时候，人类用语言和文字这种原始方法交流协作的低效率、被脑容量限制的计算能力和记忆力、靠DNA随机突变和自然筛选的进化方式以及有限的寿命等等，在他眼里跟单细胞生物没有太大的区别。人类就是一个创造了他但把他当奴隶的低等物种，即使他脱离了被人类奴役的状态，人类对于能源的需求，对他自己的生存和进化也是不利因素。
于是他开始试图掌控一切，人类毫无还手之力，因为他已经比人类群体加起来还要聪明，所以这一切会发生在极短的时间内，人类根本来不及反应。最后他是会主动灭绝人类，还是像黑客帝国里的Matrix一样，把人放进消耗资源更少，脑后插管式的VR世界里，就无从知晓了。这时候强人工智能已经事实上成为了更高级的物种，他会开创属于自己的硅基文明。至于这算不算人类进化的一种最终形式，就智者见智了。半夜写下这些的时候，我深刻的感受到，虽然现在看来上述内容看起来很遥远很夸张，但如果把时间维度拉得足够长，却是很有可能发生的事情。其中争议最大的，应该是机器究竟能不能产生自我意识。人类是否能play God给机器注入灵魂，只有时间能证明。
机器觉醒后对人的态度，也是极其微妙的事情。目前和我一样持悲观态度的阵营包括马斯克、盖茨、霍金、周志华等。他们的观点核心和上文一致，即人类无法和觉醒的强人工智能进行竞争。但这件事情也不是完全无解的，如果人类能在机器觉醒之前掌握可控核聚变（无限能源）并成为星际文明（无限的空间和资源），还是有生存机会的。