中国工程院院士邬江兴：90%以上主流大模型不可信！实用前景堪忧 - Cloud&AI

量子大观

通信人家园

C114通信网

光通信观察

DVBCN中广5G

2024/5/20 19:28

中国工程院院士邬江兴：90%以上主流大模型不可信！实用前景堪忧

快科技

自从ChatGPT爆火以来，全球诞生了无数的大模型，光国内就有上百种，但实用性却并不如意。

在今天下午的2024搜狐科技年度论坛上，中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出，他们团队对当前最流行的10种大模型进行安全分析发现，90%以上的主流大模型是不可信的。

邬江兴表示，深度学习模型存在“三不可”基因缺陷。

分别是：

第一，不可解释性。

从数据提供AI模型训练到知识规律，到获得应用推理阶段，工作原理到现在不明确，问题发现定位非常困难，AI系统中的安全问题比破解密码还要难。

第二，不可判识性。

因为AI对序列性强依赖，不具备对内容的判识能力，所以数据存在质量差异，来源差异，就可能导致训练出的结果有差异。

第三，不可推论性。

AI的推理是从已知数据中获得规律性，难以胜任对中长期未来事物变迁的预测和推理，只是把现有的东西归纳起来，看起来它聪明无比，但仅仅是比我看得多，并没有产生什么新的认知。

免责声明：本文仅代表作者个人观点，与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。

给作者点赞

0 VS 0

写得不太好