本文来自英国卫报网站，由网易科技翻译：
当斯蒂芬？霍金（Stephen Hawking）、比尔？盖茨（Bill Gates）和伊隆？马斯克（Elon Musk）都持一致观点的东西，它确实值得关注。
这三人最近均发出警告，要人们警惕人工智能（AI）可能带来的潜在危险。世界上最重要的物理学家之一霍金指出，人工智能的全面发展“可能导致人类的灭绝”。PayPal、特斯拉（Tesla）和SpaceX等多家有影响高科技企业的创始人马斯克，则将人工智能描述为我们人类“最现实的威胁”，认为开发人工智能类似于“在召唤恶魔”。微软联合创始人盖茨对科技略知一二，也非常担心机器有朝一日可能会变得太聪明，以致于我们人类无法控制。
这些人类最聪明的大脑在担心什么？人工智能被广泛地描述为计算机系统模仿或模拟人类智能行为的能力，包括语音识别、视觉感知、做出决策和翻译语言等等。从超级计算机“深蓝”击败当时的国际象棋世界冠军加里·卡斯帕罗夫（Garry Kasparov），到超级计算机沃森（Watson）战胜美国智力竞赛节目《危险边缘》（Jeopardy）的两位冠军选手，都是人工智能突出的例子。科幻电影中，派克·琼斯 （Spike Jonze） 执导的电影《Her》，描述了由杰昆·菲尼克斯 （Joaquin Phoenix）扮演的男主角与他的操作系统坠入爱河的故事；即将推出的电影《Chappie》，其主角是一台被盗的机器人警察，他被重新编程，能做出有意识的选择，并有人类情感。
人工智能的一个重要组成部分，并且引发人们担忧的一个重要因素，是机器具有自主行动而无需人工干预的能力。这可能表现在计算机在面临障碍物或某些限制时，能为自己重新编程。换言之，是计算机能够自主思考并相应地采取行动。
不用说，对人工智能以及它可能带来的变化，科技领域有些人持有更加乐观的观点。《连线》（Wired）杂志的创始主编凯文？凯利（Kevin Kelly）认为，未来的机器人不会像《2001太空漫游》（2001: A Space Odyssey）中的HAL 9000那样，是个类人的天才。凯利看到的是一个更加平淡的世界，人工智能更接近亚马逊的Amazon Web Services（AWS）服务：一种廉价、聪明、实用的工具，同时也非常无聊，因为它只会在我们生活的后台中运行。他表示，人工智能将激活惰性物体，就像100年前电力曾经做到的那样。他还指出：“我们以前曾将一切东西电气化，现在我们将让它认知化。”而且，他认为下一波1万家初创公司的商业计划很容易预测：“选择X，添加AI。”
虽然他承认对人工智能有所担忧，但他认为：“随着人工智能发展，我们可能不得不采取措施防止它们拥有意识——我们最优质的人工智能服务，将在宣传中突出无意识的特点。”
在人工智能领域获得非凡进步的同时，物联网（IOT）获得了更大的发展。物联网可以被概括地描述为无数物体、动物，甚至人与互联网实现无线连接。这些“节点”可以在没有人为干预的情况下发送或接收信息。有人估计，到2020年，接入物联网的设备将多达500亿台。目前，这些智能设备的例子包括Nest恒温器，具有WiFi功能的洗衣机，以及日益互联的汽车。后者凭借内置传感器，可以防止车祸，甚至为您提供泊车服务。
美国联邦贸易委员会（FTC）十分关注物联网的安全和隐私问题，为此召开了一场公开研讨会，并发布了一份报告，敦促公司改进数据“烤入（bake in）”程序，最大限度地减少数据的收集，确保在新的网络环境中赢得消费者的信任。
“Web 2.0”概念的发明者蒂姆？奥赖利（Tim O’Reilly）认为，物联网是互联网目前为止最重要的发展成果。他认为，物联网这一名称有误导作用——真正的物联网是“关于人类机能的增进”。奥赖利指出，我们应该“希望我们的设备能够通过各种方式预见我们的下一步行动”。对此，他利用谷歌的智能个人助理Google Now来证明自己的观点。
因此，当这些数以百万计的嵌入式设备连接到人工智能机器会发生什么？人工智能+物联网=？是否正如我们所担心的，这将意味着文明的末日？具有自我编程功能的计算机，将向我们在日常物品中植入的芯片发送恶意指令？或者这只是另一个颠覆性的时刻，类似于蒸汽机或原子能的利用？是我们人类这个物种自身进化的一个重要阶段，并没有什么值得过于担忧？
答案可能存在于一些关于意识的新思维。作为一个概念，以及一种体验，意识已经被证明非常难以确定。我们知道，我们都拥有意识（或者至少我们这样认为），但科学家无法证明我们拥有它，或者更确切地说，无法说清楚它到底是什么，以及是如何产生的。
在字典上，意识被描述为人们处于清醒并意识到我们自身存在的状态。这是一个以感觉、情绪和思维为特征的“内部认知”。
就在20年前，澳大利亚一位不起眼的哲学家大卫·查默斯（David Chalmers）提出了后来被称为“意识研究难题（Hard Problem of Consciousness）”的概念，引发了哲学界的争论。他问道，我们大脑中的灰质是如何给人们带来神秘的体验。是什么让我们与其它东西不同，比如说，一台非常有效、具有人工智能的机器人？并且，是否只有我们人类才有意识？
一些科学家提出，意识是大脑的一种幻想。还有一些人认为，我们将永远解不开意识之谜。但也有少数神经科学家表示，我们可能最终能够弄清楚意识是什么，只要我们接受这样的观点：有朝一日计算机或网络将拥有意识。
在《卫报》一篇被广泛转载的文章中，作者奥利弗·伯克曼（Oliver Burkeman）描写了查默斯等人提出的这样一个观点，即宇宙中所有东西都可能（或潜在地）拥有意识，“只要它包含的信息实现充分地互联和组织化。”因此，一部iPhone手机或一台恒温器也可能有意识？并且，如果是这样的话，我们可能只是“意识网络（Conscious Web）”的一部分？
早在上世纪90年代中期，作家詹妮弗？科布·克雷斯伯格（Jennifer Cobb Kreisberg）为《连线》撰写了一篇有影响力的小文章：一个以大脑覆盖着自己的地球（A Globe, Clothing Itself with a Brain）。在这篇文章中，她介绍了一位鲜为人知耶稣会教士和古生物学家德日进（Teilhard de Chardin）的研究成果，他在50年前描述了一个全球性的思想圈，所谓“单一组织有活力的统一”，包含着我们集体的思想、经验和意识。
德日进把它称为“智力圈”（nooshphere）。他认为在进化阶段上这超越了我们的岩石圈（物理世界）和生物圈（生物世界）。事物通过信息实现连接，无论该事物是由神经元或电子组成的，就会产生意识。德日进认为，由于神经连接多样性的增加，进化将产生更大的意识。或正如Grateful Dead乐队作词人、网络倡导者和德日进的信徒约翰·P. 巴洛（John Perry Barlow）所说的：“随着网络空间的拓展，我们实际上硬性地连接成集体意识。”
所以，也许对于人工智能我们不应该感到如此惊慌。也许不仅仅人工智能和新兴物联网领域即将迎来突破，我们对意识本身的理解也将迎来突破。如果我们能够解决人工智能和物联网目前面临的隐私、安全和信任问题，我们可能会让进化进程实现历史性地飞跃。也许德日进有关互联“思想层”的非凡愿景，正在互联网上得到实现。
