EN 提交工具

OpenBMB

OpenBMB是由清华大学NLP实验室与智源研究院共同支持发起的大模型开源社区,提供大规模预训练模型库与训练、微调、推理、压缩工具链,致力于降低百亿级大模型的使用门槛。

人工核验 · · 提交更正

编辑点评

适合需要低成本使用、研究或微调百亿级大模型的开发者、研究者与技术团队;不适合只想使用现成AI应用的普通用户。

核验信息

分类大模型
人工核验

OpenBMB是什么

OpenBMB是由清华大学NLP实验室与智源研究院共同支持发起的大模型开源社区,提供大规模预训练模型库与训练、微调、推理、压缩工具链,致力于降低百亿级大模型的使用门槛。

OpenBMB的主要功能

  • 复用社区预训练模型库避免从零训练大模型
  • 用提示微调等高效方法将大模型适配到具体业务任务
  • 研究与应用模型压缩技术降低推理部署成本
  • 基于开源工具链开展大模型训练加速研究与教学

适合

  • 清华NLP实验室与智源研究院联合发起,研究背景扎实
  • 覆盖模型库、训练加速、微调、压缩的完整工具链
  • 开源社区运作,成果免费获取且可复现、可共建

先注意

  • 提供模型与工具链而非开箱即用的终端产品,使用门槛在工程侧
  • 开源模型需自行遵循对应许可证并承担部署算力成本
  • 社区项目迭代节奏与企业级支持不同于商业产品

如何使用OpenBMB

  1. 访问OpenBMB官网了解模型库与工具链结构
  2. 按任务选择基础模型并阅读模型卡片
  3. 按文档将模型与工具集成到训练或推理环境
  4. 在自有数据上用提示微调适配具体任务
  5. 视部署条件应用模型压缩并反馈社区

OpenBMB的适用场景

上手难度: 高级

  • 复用社区预训练模型库避免从零训练大模型
  • 用提示微调等高效方法将大模型适配到具体业务任务
  • 研究与应用模型压缩技术降低推理部署成本
  • 基于开源工具链开展大模型训练加速研究与教学

常见问题

OpenBMB是商业产品吗?

不是。OpenBMB是开源社区项目,由清华大学NLP实验室与智源研究院联合支持发起,模型与工具以开源方式提供。

使用OpenBMB需要付费吗?

社区成果本身开源免费,官网未公布商业定价,主要成本来自你自己的算力与部署环境。

没有大模型训练经验的团队能用吗?

可以借助其模型库与微调工具做下游适配,但仍需要一定的工程与算法能力,建议从文档和模型卡片入手。

来源与核验

信息来源:www.openbmb.org (在新窗口打开)
核验日期: · 提交更正 →

类似于OpenBMB的工具

该分类全部