C114通信网  |  通信人家园

 
2025/3/19 10:30

比邻智联AI模组实现DeepSeek-R1本地部署

厂商供稿  

近日,中国移动旗下模组公司比邻智联(重庆)科技有限公司(以下简称“比邻智联”),基于AI模组MS372Q,成功完成DeepSeek-R1蒸馏模型的本地部署。此举不仅有效保障了数据隐私安全,还大幅提升了终端设备的推理与运算效率。

作为支持亿级参数大模型推理的硬件载体,MS372Q模组采用8核64位异构架构设计,具备高达12TOPS的算力,支持Wi-Fi 6蓝牙5.2和GNSS定位,内置安卓系统,支持MIPI/USB/UART/SPI/I2C等多种接口,性能强大、多媒体功能丰富,能充分满足低空经济、边缘服务器、自动驾驶及工业机器人等领域的严苛需求。实测显示,搭载MS372Q模组的设备在运行1.5B参数量级模型时,Token生成速度可达15Tokens/s,展现强大的性能优势。

比邻智联AI模组广泛应用于标准化工业相机、工业机器人等设备。其依托机器视觉领域的感知和判决能力,能精准识别并检测出划痕、污渍、破损等各类瑕疵,并可满足矿山、井下、高海拔等无网络环境下客户终端对算力的需求。此外,比邻智联依托大模型的自然语言以及多模态的处理和理解能力,为客户提供定制化服务,助力企业高效生产与创新发展。

未来,比邻智联将持续深化端侧AI战略布局,推出更高算力的AI模组,为万物智联注入澎湃动力,引领行业迈向全新的智能发展高度。

给作者点赞
0 VS 0
写得不太好

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2025 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141