人工智能研究员正在研究如何通过神经科学来构建更智能、更强大的神经网络。

作者 | Chris Baraniuk

译者 | 弯月，责编 | 屠敏

出品 | CSDN（ID：CSDNnews）

以下为译文：

1998年，日本索尼计算机科学实验室的一名工程师用视频记录了一个寻找失物的机器人在一个封闭空间内疯狂地移动。

机器人的任务有两个目标：

• 第一，避开障碍物；

• 第二，找到围栏内的物体。该机器人能够承担这样的任务，是因为它了解封闭空间的轮廓以及要寻找的物体的位置。

但是，每当这个机器人遇到意料之外的障碍时，就会发生一些有趣的事情：它的认知过程会瞬间变得混乱。该机器人在努力处理与封闭空间轮廓不符、意外的新数据。建立该项实验的研究人员认为，机器人的“自我意识”就是在这种不连贯的时刻出现的。遇到往常无法处理的情况时，机器人就必须将注意力转移到内部，以决定如何处理冲突。

这种关于自我意识的概念很早就出现了，自我意识指的是在特定的环境中做推断，例如当我们面对意料之外的信息时，必须重新评估环境，然后决定下一步该做什么。这种概念可以追溯到是20世纪初德国哲学Martin Heidegger的研究。如今，AI研究人员受到神经科学的影响越来越大，他们正在研究神经网络是否能够（应该能够）达到与人类大脑同等水平的认知高度。

如今的“愚蠢”机器人并不能真正了解自己的所在位置或经历过的事情，人们希望类似于人类意识的意识水平能够让未来的人工智能变得更加智能。例如，它们可以自学如何选择和关注数据，以获取它们吸收并轻松执行的新技能。但是，赋予机器这样思考的能力会带来风险和道德上的不确定性。

“意识不是设计出来的。” 谷淳博士说，他也是1998年那次实验的设计师，现在是冲绳技术大学认知神经机器人学研究组的教授。他表示，我们可以通过一个比喻来描述他的机器人所经历的“意识”。

也就是说，这些机器人实际上并没有按照我们知道的方式进行思考，它们只是表现出结构上相似的行为。然而，他对机器思维和人类思维之间的相似之处持有浓厚的兴趣。他曾试图通过机器人来模拟与自闭症相关的神经反应。

全世界最著名的人工智能之一专家，魁北克人工智能研究所Mila的创始人Yoshua Bengio同样对AI的意识非常着迷。他用驾驶的类比来描述有意识和无意识行为之间的转换。

他表示：“当你学习驾驶的时候，首先要有意识地进行控制，然后在经过一些练习后，大部分工作都是在无意识的情况下进行的，你可以一边驾驶一边与人交谈。”

虽然我们并不需要时刻保持专注的高级意识水平，但是对于人类来说，学习新技能或适应突发性挑战时，这种意识水平至关重要。如果AI系统和机器人可以获得相同的优先级、关注力和解决问题的能力，那么它们也可以避免困扰自己的愚蠢行为。

受到我们认为对人类意识了解的启发，Bengio和他的同事们花了多年时间致力于人工智能系统的“注意力机制”原则。这些系统能够了解哪些数据是相关的，从而了解为完成某个任务而需要关注的数据。

Bengio补充说：“关于人工智能意识的研究仍然被视为禁忌。”由于意识是很难理解的现象，即使对于神经科学家而言，意识形态至今仍是哲学家所讨论的主要内容。

关于人类大脑和人类意识体验的知识与追求更先进的系统之间的关系越来越紧密，而且已经引发了一些备受瞩目的交叉研究。举个例子，牛津大学计算神经科学与神经外科教授Newton Howard与同事们受人脑启发设计了一个操作系统。

该操作系统不会只依靠一种解决方法，它可以针对任务选择最佳的数据处理技术，有点像大脑的不同部分处理不同种类的信息。

他还在尝试一种系统，可以从各种传感器和来源收集数据，从而自动建立有关各种主题的知识。他说：“部署完成之后，这个系统就像一个孩子。渴望学习。”

这些受到了我们对人脑的了解启发的研究成果，都有可能会突破当前人工智能的界限。然而，有些人认为，我们无法实现具有自我意识的机器思维，机器人不可能拥有独立的“灵魂”，栖息在其身体（或芯片组）上，具有自由引导的意志。

哲学家Daniel Dennett毕生都在思考什么是意识，什么不是意识，他认为，短期内机器人不可能发展到意识水平，甚至在50年之内也不会出现这样的情况。他和一些人指出，如今我们能够建立的人工智能并没有表现出对意识至关重要的反思性思维或意识。

但是，在研究拥有这些属性的系统的过程中，神经科学与AI之间可能会出现深入的交叉。目前，意识仍然是最神秘的科学领域之一。确切地说，没人知道它与大脑有什么联系，尽管科学家的研究逐步表明意识与某些神经似乎存在联系。部分研究人员发现，大脑活动的振荡似乎与意识的特定状态有关，也就是所谓的“觉醒的信号”。

牛津大学计算机科学研究助理Camilo Miguel Signorelli建议，也许我们可以在机器中复制此类活动，从而让它体验有意识的思想。

他提到了电影《机械姬》中机器人的液体“湿件”大脑，这是一种基于凝胶的神经活动容器。电影中Oscar Isaac扮演的角色曾说：“我不得不尝试电路之外的东西，我需要一些能够以分子水平进行排列和重新排列的东西。”

Signorelli表示：“对于实验来说，这是一个理想的系统。流动的高可塑性大脑可以通过配置成为经历意识形成的神经振荡，类似于我们在人脑中看到的活动波。”

不得不说，这只是一种猜测。然而，这提出了一个问题，即机器的意识（与我们的意识相同）是否需要完全不同的硬件。Signorelli说，即使我们有一天成功地确认了计算机中存在意识，我们也没有力量掌控这种意识。

他说：“也许我们得到的只是另一种动物，类似于人的意识，但我们无法控制这种意识。”

有些人认为，意识会导致人工智能变得很危险，而且这种危险时不可预测的。但是，即便是一个无害的有意识的机器，也仍然可能引发道德难题。如果机器能够感觉到疼痛、绝望或混乱，那么我们该怎么办？

剑桥大学的博士Andrea Luppi正在研究人类大脑活动和意识，他表示：“我们需要避免在有意识的机器中错误地引发痛苦的风险”。

距离我们真正面临这类的问题可能还需要很长一段时间。但是为了追求更强大的系统，研究人员已逐步开始利用神经科学和关于意识的概念。至于未来什么样的代理能够帮助我们创造世界，这个问题就像意识本身的出现一样，非常难以预测。

原文：https://onezero.medium.com/how-to-give-a-i-a-pinch-of-consciousness-c70707d62b88

本文为 CSDN 翻译，转载请注明来源。

更多精彩推荐
☞阿里动物园再添新丁，小蛮驴搞定物流最后三公里！

☞微软水下数据中心“浮出水面”、GitHub代码保存在北极，数据黑科技贮藏方式大曝光！
☞微软全球 AKS 女掌门人，这样击破云原生“怪圈”！
☞阿里动物园再添新丁，小蛮驴搞定物流最后三公里
☞中国移动云智融合峰会 与您相约揽胜九天
☞我投资比特币的3个原因

点分享点点赞点在看