C114讯 7月4日消息 2024年7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议-全体会议在上海世博中心举办。
本次全体会议现场，姚期智（2000年获奖）、罗杰·瑞迪（1994年获奖）、曼纽尔·布卢姆（1995年获奖）等三位享誉全球的图灵奖得主，与原微软执行副总裁、美国国家工程院外籍院士沈向洋，一同联袂进行了一场围绕人工智能治理协同创新的巅峰论道。
姚期智表示，AI风险来自于三个方面：
首先，随着AI能力出现，传统的数据和网络安全风险被放大，AI会将管理数据安全的困难放大100倍。
其次，没有意识到的社会风险，AI非常强大且有很多种使用方式，是存在在短期内颠覆现有社会结构的可能性；比如，AI可能带来大规模的失业。
第三，生存或者存在的风险，强大的AI技术在改变世界，这一次颠覆性的力量可能比核生化威胁更加威胁。“所有这些风险都需要很多专家来解决，不仅是科学家，还可能需要政府、律师、经济学家来参与，几乎涉及到每一个行业。”
姚期智指出，AI相当于网络风险的放大。“AI可以说有些是无法解释，在数学上无法掌握，对我们来说是一个挑战。”
“简单来说，突然发现了一个方式，创造一个新的物种，这个物种比我们强大很多很多倍，我们是不是确定能跟它共存？如果无动于衷，就会被灭亡，这也是毫无疑问。这也是计算机的本质，或者是恶意行为者所带来的情况。”姚期智表示，“一方面我们把AI控制好，毕竟这是我们设计出来的；另外一方面，也不希望它被我们给破坏了，权衡是非常困难的。正如图灵所说，这是无法预测的，预测不了机器有了足够算力之后会做什么。”
