1950年的一天，诺贝尔奖获得者、美国物理学家费米在和别人讨论关于飞碟及外星人问题时，突然冒出一句：“他们都在哪儿呢?”这就是著名的“费米悖论”。其隐含之意是，理论上讲，人类用100万年的时间就能飞往银河系的各个星球，那么，外星人只要比人类早进化100万年，现在就应该来到地球了。可是人类用尽了先进的天文观测手段，也没有发现外星高级文明的蛛丝马迹。
解释费米悖论的假说有很多种。其中一种认为，任何先进的文明最终都会走向自我毁灭。也就是说，高级智慧文明发展到一个比较高级的阶段就自我毁灭了，没能坚持下来。
其实，人类文明发展到今天，也有一种自我毁灭的倾向。悲观主义者已经讨论过多种可能的灭绝方式，包括核战争、生物武器和意外的病毒感染、纳米技术灾难、不理智的物理实验等。在互联网和人工智能快速发展的今天，有专家开始担心，互联网与人工智能的组合可能会产生一个超级意识，最终成为人类“自杀”的工具。
意识或灵魂是一个千古谜题：意识是什么?人类为什么会有意识?其他动物是否有意识?这一系列问题至今仍没有确切的答案。
19世纪，有一种主流的哲学思想——“泛心论”，认为世界上的一切事物，无论是有机物还是无机物，皆有意识，只是等级不同。人拥有最高级的意识，动物次之，接下来是植物，无机物则拥有最低等的意识。这一曾经的普遍认知在20世纪的实证科学之风下逐渐衰弱，因为没有证据就不成立。然而，美国艾伦脑科学研究所主席兼首席科学家克里斯托夫·科赫却对这一理论颇为认同。艾伦脑科学研究所是全球最前沿的神经科学阵地之一，科赫在这里督导着数百名科学家、工程师和信息学专家探测脑部，以弄清脑部的神经电路如何处理信息。
有很多科学家认为，脑的大小会影响智力的高低乃至意识的产生。然而，科赫认为脑部大小不是关键，关键看其内部神经元互相传递信息的复杂程度是否已经足够产生意识。人脑有1000亿个神经元，而蜜蜂脑部有100万个神经元，虽然只有人脑的十万分之一，但它的皮质密度比人类高10倍，而且其中包括了人类脑部所具有的所有组件。因此，蜜蜂个体是有意识的。
地球因其生态系统异常复杂，也可能具有一个整体意识，每个生命个体都相当于一个神经网络中的神经元，如果生命体之间能够整合并互传信息，就可能产生整体意识。总之，在科赫的理论中，万物都可能具有意识，因为意识就是宇宙的运行方式。
互联网是否会产生意识呢?科赫认为有这个可能性。
人脑中有1000万亿个神经元突触，神经元突触是神经元之间的连接器，计算机中的晶体管就相当于人脑中的突触。目前互联网连接起了100亿台计算机，每台计算机的CPU中含有几十亿个晶体管。也就是说，互联网的晶体管总数达千亿级，是人脑突触的10万倍，从数量上说有绝对优势，是否能产生意识就看互联网的整合程度了。人脑的神经元永远都连接在一起，直到人体死亡，但目前互联网的连接方式是分组交换，也就是说互联网不是所有连接点同时永久连接，而是快速地从一个连接转换到另一个连接。可以说，目前的互联网如同一个沉睡无梦的人，等待着觉醒。
互联网的觉醒也许从某台人工智能计算机开始。它具有深度学习能力，能够联网，于是它具备了人类所有的知识，并可以和人类交流，就像电影《复仇者联盟2》中的奥创一样。当一个奥创出现之后，又可以复制出千千万万个奥创，如此多的智能实体又通过互联网相互联通，就产生了具有意识的超级智慧。
这个超级智慧将是人类的终结者。它比人类强大，却不像人类一样有感官。它没有疼痛，没有七情六欲，没有同情心，根本不会在乎人类的痛苦和死活，就像人类也不在乎其他动物的死活一样——路上有蚂蚁，一脚踩死，不需要任何理由。如果人们在乎动物，是因为我们想吃它们的肉或利用它们，如骑马、斗牛、科学实验。这个超级智慧意识体的目的为何，我们难以揣测，但人类对它而言要么是无用的垃圾，要么就是被它利用的牺牲品。而它自己的生命可以靠太阳能延续，只要有太阳，它就可以永生。
这一情形看起来很科幻，但在如今互联网高度联通、人工智能大爆发的时期，这种担忧越来越深入人心。核武器因为难以制造而不会泛滥，纳米技术也因为需要大量高精尖的仪器而无法四处传播，然而程序员却满大街都是，而且人才辈出。如果这种趋势加速发展，不久以后说不定在世界某个角落里，某个厉害的程序员释放了一个病毒就把世界给毁了。
不过，人类科技不会因为这个担忧就停止发展，也许人类就是要看看，人类文明究竟是否会因此而毁灭。
知识链接
評测意识的工具
我们怎么知道一个生命体究竟有没有意识?科学家们开发了一套“整合信息论”，尝试解释意识并且将其公式化。
人类的任何感知，如听到一段音乐或看到一张照片，都会调动整个神经网络对其中的信息进行整合，包括明暗、线条或旋律、节奏，同时调动回忆、认知参与这个整合过程，并投射到某个意识区域。而人类无时无刻不在感知周围的世界，也就是说，过去一秒的大脑活动会影响此刻大脑的状态，而此刻大脑的状态又会影响下一秒大脑的活动。这一理论认为任何具有这种前后因果关系的系统都是具有意识的。通过数学计算可以得出某个值，如果这个值为零，则这一系统处于无意识状态，数值越高，意识等级越高。