ChatGLM2-6B 是由 THUDM 团队开发的开源中英双语对话模型，它是 ChatGLM-6B 的第二代版本。在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2-6B 引入了一些新特性。
首先，ChatGLM2-6B 的性能更强大。基于 ChatGLM 初代模型的开发经验，开发者全面升级了 ChatGLM2-6B 的基座模型。ChatGLM2-6B 使用了 GLM 的混合目标函数，经过了 1.4T 中英标识符的预训练与人类偏好对齐训练，评测结果显示，相比于初代模型，ChatGLM2-6B 在 MMLU（+23%）、CEval（+33%）、GSM8K（+571%） 、BBH（+60%）等数据集上的性能取得了大幅度的提升。
其次，ChatGLM2-6B 支持更长的上下文。基于 FlashAttention 技术，开发者将基座模型的上下文长度（Context Length）由 ChatGLM-6B 的 2K 扩展到了 32K，并在对话阶段使用 8K 的上下文长度训练，允许更多轮次的对话。
此外，ChatGLM2-6B 的推理更高效。基于 Multi-Query Attention 技术，ChatGLM2-6B 有更高效的推理速度和更低的显存占用：在官方的模型实现下，推理速度相比初代提升了 42%，INT4 量化下，6G 显存支持的对话长度由 1K 提升到了 8K。
最后，ChatGLM2-6B 采用了更开放的协议。ChatGLM2-6B 权重对学术研究完全开放，在获得官方的书面许可后，亦允许商业使用。
总的来说，ChatGLM2-6B 是一个强大的双语对话模型，它的开源性质使得研究者和开发者可以自由地使用和改进它，推动大模型技术的发展。
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
