沈向洋巅峰对话图灵奖获得者：生存还是灭亡？的双刃这样来看

东方网记者王佳妮7月4日报道：“我们发现了一种创造新物种的方式，它强于我们很多倍，是否能够与之共存？如果无动于衷，必将灭亡，必须有所知觉”“每个新技术都会带来新机会，也会带来新问题。不能光想着负面就不做了，因为机会总会更多”……

今天上午，2024世界人工智能大会暨人工智能全球治理高级别会议在沪召开。在全球治理图灵圆桌环节，原微软执行副总裁、美国国家工程院外籍院士沈向洋对话三位图灵奖得主罗杰·瑞迪（RajReddy）、曼纽尔·布卢姆（ManuelBlum）、姚期智。

在姚期智看来，当前人工智能面临三大风险。首先，是传统数据和网络安全方面的风险会被放大，“目前的数据安全管理已有相当难度，沈向洋巅峰对话图灵奖获得者：生存还是灭亡？的双刃这样来看出现了AI，难度会增大100倍”；其次，是部分还没有意识到的社会风险。由于AI非常强大，且有很多方式去使用，所以短时间内颠覆现有社会结构的可能性是存在的，“比如说有人提到，AI可能带来大规模未来的失业”；最后，是生存风险，姚期智提到，没有人能够预测强大算力是否会带来同样的破坏力，“我们发现了一种创造新物种的方式，它强于我们很多倍，是否能够与之共存？如果无动于衷，必将灭亡，必须有所知觉。”他认为，所有风险需要社会各界共同参与着手应对。

“巅峰对话”环节，罗杰·瑞迪则赋予AI发展更多正向视角。他认为，新技术会产生新机会，也会带来问题，但不应只想着负面影响就不继续了。“试想，未来世界上每个人的生产效率上涨10倍，GDP也将从100万亿生长到1000万亿，AI带来的社会经济价值是巨大的。而如何令每个人的工作效率都能得以提升，是研究者需要关心和解决的问题。”

曼纽尔·布卢姆在过去几年重点研究AI意识问题，他与雷诺尔·布朗创立了意识的模型，即“有意识的图灵机（CTM）”。大脑里有100多亿神经元，100亿的处理器，CTM模型可以告诉人们如何让很多处理器同时工作。而他的创造，则源于童年父亲说过的一句话：“如果我们能理解大脑，就能变得更聪明，这是小时候父亲对我说的话。”