Osmosis-Structure-0.6B 是一个专门设计用于结构化输出生成的小型语言模型(SLM)。尽管其参数量仅为 0.6B,但该模型在与支持的框架配合使用时,在提取结构化信息方面表现出色。
我们的方法在训练过程中利用了结构化输出,迫使模型仅关注推理引擎声明的每个键的值,这显著提高了模型在各种领域内生成格式良好、结构化的响应的能力,特别是在数学推理和问题解决任务中。

参考文献:
[1] Osmosis-Structure-0.6B:https://modelscope.cn/models/osmosis-ai/Osmosis-Structure-0.6B
[2] 小模型,大用途,用于结构化输出的小型语言模型:https://mp.weixin.qq.com/s/p7bXW4z2IiQEVfeuZODIuw
知识星球:Dify源码剖析及答疑,Dify扩展系统源码,AI书籍课程|AI报告论文,公众号付费资料。加微信buxingtianxia21
进NLP工程化资料群,以及Dify交流群。
(文:NLP工程化)