对话图灵三得主：直面AI治理的光明与隐忧

对话图灵三得主：直面AI治理的光明与隐忧

7月4日，三位图灵奖得主罗杰·瑞迪（Raj Reddy）、曼纽尔·布卢姆（Manuel Blum）和姚期智（Andrew Yao）同台亮相2024世界人工智能大会暨人工智能全球治理高级别会议（简称“WAIC 2024”）开幕式。在原微软执行副总裁、美国国家工程院外籍院士沈向洋（Harry Shum）的主持下，三位得主围绕人工智能治理展开对话。

对话中，沈向洋抛出了关于AI发展的“双刃剑”属性、有意识的AI、AI治理的行动和人才培养等目前全球瞩目的命题。结合三位图灵奖得主的工作，沈向洋用了“the good, the bad（好的，坏的）”、“the certain, the mysterious（确定的，神秘的）”、“the serious, the bold（严谨的，大胆的）”六个词语勾勒了人工智能发展的复杂性。

罗杰·瑞迪强调应关注AI的积极面。他表示，AI是进一步提高人类心智能力的工具。若AI能让每个人的生产效率翻10倍，则意味着全球GDP会从100万亿变成1000万亿。虽然面临着发展过程中的风险和矛盾，但是最终怎样实现万亿经济规模，才是最重要的。为了不因噎废食，要为AI的积极价值做更多的研究和投资。

曼纽尔·布卢姆从事意识的研究工作逾20年，在过去几年重点研究AI意识问题，并与雷诺尔·布朗创立了意识的模型，即“有意识的图灵机（CTM）”。大脑里有100多亿神经元，类似有100亿个处理器，CTM模型可以告诉人们如何让很多“处理器”同时工作。他提到，这种类比，能让意识为理解通用人工智能（AGI）提供思路。

姚期智用“强大的新物种”比喻AI，认为人类目前尚不确定是否可以与AI共存。在关注AI的安全性和对世界的好处之间，需寻找平衡。他提到，AI的能力放大了网络安全风险，并且目前算力解决问题的能力超越了人类的设想，这是让人恐惧的地方。

自1966年设立以来，图灵奖一直是全球计算机领域的最高荣誉。

1994年得主罗杰·瑞迪是人工智能、语音理解、机器人等领域的先驱之一。他出生于印度，于1969年加入卡内基梅隆大学（CMU），创立该大学第一所机器人研究所。

1995年得主曼纽尔·布卢姆以其在计算复杂性理论、密码学和人工智能方面的贡献闻名。他师从被誉为人工智能先驱的马文·明斯基（Marvin Minsky），并于2001年加入卡内基梅隆大学（CMU）。

2000年得主姚期智凭借其在计算理论领域的杰出贡献，获得图灵奖，是目前唯一一位获得此奖项的华裔计算机科学家。2004年，姚期智回到中国，成为清华大学教授，并在2005年创立了清华大学理论计算机科学研究中心。

（从左至右）沈向洋、罗杰·瑞迪（Raj Reddy）、曼纽尔·布卢姆（Manuel Blum）、姚期智 

以下为对话全文，略作删减：

“

一体两面：我们创造了一个尚不确定能与之共存的“新物种”

沈向洋：“人工智能”这个词，是您（罗杰·瑞迪）的导师约翰·麦卡锡于1956年的达特茅斯会议上提出的。您最近一直在思考AI的愿景以及它充满风险的一面。您的看法和担忧是什么？

 

瑞迪：首先，人工智能主要是一个进一步提高人类心智能力的工具。不管你是谁，你都应该能够比你现在快10倍或100倍地完成正在尝试做的事情。现在的问题是如何实现这一点？我们需要做哪些研究？我们需要在各个领域进行哪些投资？

 

第二点是关于联合国发言人提到的“能力建设”。我们现在的教育体系还没有完成对培养“AI通（AI savvy）”的调整和兼容。未来的一代，做好自己的工作需要靠AI。我们不能解决每个领域的问题，但我们实际上可以培养每个人更好地完成他们的工作。如何做到，就是我们要思考的。

沈向洋：布卢姆教授，您一直研究有意识的AI（Conscious AI）。这很神秘，能不能为我们讲解一下？

布卢姆：我的三位导师是马文·明斯基（Marvin Minsky）、沃伦·麦卡洛克 (Warren McCulloch)和沃尔特·皮茨（Walter Pitts），他们定义了“神经元”这个概念。我作为他们的学生，非常幸运。

我二年级就开始试图理解人的大脑。我的老师和我妈妈说，我可能高中勉强能毕业，但上不了大学。我妈妈很担忧。但我并没太苦恼，只是问了我父亲，我做什么能变得更聪明？他说如果你知道你的大脑里在发生什么，你就会更聪明。这个想法当时让我很惊喜。

我从事意识相关的工作已经20多年了，很幸运的是这个领域发展得越来越好，我们越来越了解大脑是怎么运作的。现在大家对研究意识这个方向算是可以接受了，然而当年我和导师麦卡洛克提起我想研究这个方向时，连他都不看好。（尽管）他是很了不起、各方面都很积极地鼓励我的人。这是1958年的事情。

意识能为理解通用人工智能（AGI）提供思路。雷诺尔·布朗和我创立了意识的模型，我们称之为“有意识的图灵机（Conscious Turing Machine, CTM）”。它部分是基于图灵和神经科学家的工作。

认知神经科学家伯纳德·巴尔斯（Bernard Baars）提出了一个关于我们头脑中发生了什么的模型，他称之为“剧院模型（Theater Model）”。这个模型对我非常重要。把大脑里发生的事情想象成一个剧场。这些观众是专家，正在聆听舞台上发生的事情。台上有人在提问题、有人在回答，这就是向所有的观众进行广播。当所有听众都听到了那个有意识的思想时，意识便产生了。我们的大脑里有100多亿神经元，（类似）100亿个的处理器同时在听舞台上在发生什么，然后做出回应。CTM模型可以让很多“处理器”同时工作。

打个比方，一个公司的CEO不一定知道每个员工懂什么、专业能力是什么、有多少时间在做什么事。所以需要的时候，不一定知道要选谁。而CTM这个模型，据我所知与其他的意识模型不一样的地方在于，它没有一个中央决策者的角色，让每个人都能参与，都能把最重要的信息放到最前面来。

沈向洋：姚教授，您最近非常关注AI治理的话题，之前薛澜教授的演讲里也引用了您近期的一份报告。您能不能分享一下，我们为什么现在紧迫地关注这个议题？

姚期智：我认为人工智能的风险来自三个方面。

第一是网络安全风险的延伸和扩大。随着AI能力的出现，传统数据和网络安全方面的每一个风险都将被放大。我们现在觉得管理数据安全已经很困难，那么AI的出现，会困难100倍。

第二，是意想不到的社会风险。比如AI非常强大，且有很多使用方式，所以AI是有可能在短时间内颠覆现有的社会结构的。比如导致大规模的失业，也是可能的。

第三是人类的生存风险。当火车或者蒸汽机发明的时候，就有人有这样的担忧。近期大家担忧过核威胁。现在又出现了一个新的、强大的技术在改变世界，而且这个颠覆性的力量可能比核威胁的杀伤力还强。

AI的风险都需要专家来解决，不仅是科学家，还可能需要政府、律师、经济学家等等，我认为几乎涉及到每一个行业。

我作为一个计算机理论学家，关注这些问题，有两大原因。

面对上面提到的第一类风险，目前AI中有一些我们在数学上无法解释的（理论），对我们来说发展新的密码学就比较困难。尽管已经进入AI时代，但是当今网络风险的（防御）仍处在非常早的阶段，和四五十年前的情况相似，所以需要有人关注这个问题。

我对第三点也很感兴趣，因为它和计算能力有关。从这个角度来看，人工智能之所以有这么大的破坏力，正是因为它太强大了，它把我们这些研究计算复杂性的科学家们在理论上早就知道的东西变成了现实。我们都知道，计算能力越强，就能获取更多的知识和智慧。我们从理论上知道，有些问题可以通过计算解决。但是我觉得我们这一辈子都没想到，算力真的能解决这么多以前我们根本不知道怎么解决的问题。

简单来说，是我们突然创造了一个比我们强大很多倍的新“物种”，而我们不确定能否和它共存。可以肯定的是，如果无动于衷，人类会被灭亡。这是由于计算机本身的特性，或者是破坏者的恶意操控造成的。

因此，这可能是我作为计算机科学家一生中遇到的最深刻问题。我们怎样才能找到两全其美的办法？一方面，我们得设法控制它，毕竟我们设计了它。但另一方面，我们又不想让它毁灭我们。这种平衡非常困难。正如图灵所说，我们无法预测当机器拥有足够的计算能力时，它会做出什么样的决定。

“

不因噎废食

沈向洋：最早研究计算科学的时候，有理论、系统、语言和AI几个领域，现在这四个领域综合到了AI领域。

瑞迪，您总是充满了震撼人心的、大胆的想法。我在卡耐基梅隆大学的时候，作为您的学生，很幸运。您打造了（学校的）第一个机器人研究中心、第一个语言技术研究中心和第一个机器学习研究中心，这些领域都是您提出来的。接下来应该推什么新机构、新方向？

瑞迪：首先记住一点，每一个技术既会产生新的机会，也会带来问题。比如100年前，汽车是作为一个新技术出现的。如果100年前你要告诉大家，这个技术出来以后，交通事故等情况会带来很多伤亡，所以我们就不能用这个车，你肯定不会这么说，对吧？

我认为我们一定不要“把孩子随着洗澡水一起倒出去”，因噎废食。大家都说有这么多问题需要解决，那我们应该积极做什么？事实上，先前新思公司（Synopsis）CEO（注：盖思新，Sassine Ghazi）的发言我赞同。他的意思是，每个工程师都可以做得更好。他们应该做什么？我们应该如何培养他们做得更好？他们如何在一小时内完成一天的工作？这需要大量的投资和研究。我希望我们能做到。

我不想让问题把我们淹没了，而忽略了机遇。机遇就是地球上的每个人都可以提高10倍的生产力。这意味着我们的全球GDP将从100万亿美元增加到1000万亿。我们如何实现这一点？

沈向洋：我想告诉在座的听众一个小秘密，布卢姆教授的学生里，拿到图灵奖的数量是最多的。这里我要向我的老师Raj道歉，作为您的学生，我还在努力。最后我想问问布卢姆，您如何成为了这么成功的老师？怎么能学点您的本事？

布卢姆：我的学生们都比我聪明。我说从他们身上学到很多的时候，并不是在夸大其词。当我不理解或不知道某些事情时，我不会感到太尴尬。当有学生提出的方法中有一部分我不理解的，我会直说，然后有些时候，我就能帮他们找出方法里的问题。

沈向洋：最后我们请姚期智先生谈谈AI的未来。

姚期智：我认为我们正处在一个激动人心的历史时刻。图灵测试的解决方案，我认为，给了我们所有人盼头。并且正如瑞迪所说，我们需要在关注AI的安全性和对世界的好处之间做好一个平衡。

沈向洋：刚刚布卢姆提到怎么教育好学生，我最后想用中文来总结一下：我们都说“名师出高徒”，布卢姆教授说，“高徒出名师”。