C114通信网  |  通信人家园

人工智能
2023/9/25 10:49

苏州大学推出开源大模型OpenBA,具备150亿参数

Donews  

据 Arxiv 页面显示,来自苏州大学的一个研发团队近日推出一款名为 OpenBA 的开源 seq2seq 模型。

据悉, OpenBA 是一款具有150亿参数的双语非对称seq2seq模型,也是首个加入中国开源模型社区的大语言模型变体。论文显示,研究者采用高效的技术以及采用三阶段的训练策略,从头开始训练了OpenBA模型。

实验显示,OpenBA 在 BELEBELE 基准测试中的性能优于 LLaMA-70B,在 MMLU 基准测试中的性能优于 BLOOM-176B,在 C-Eval(hard)基准测试中的性能优于 GLM-130B。

给作者点赞
0 VS 0
写得不太好

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2025 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141