好好好

2023 年过半，ChatGPT、GPT-4、LLaMA 等大型语言模型（LLM）一次次引起人们高度关注，它们具备令人惊艳的涌现能力，包括语言理解能力、生成能力、知识推理能力等等。

LLM 通常基于大规模语料训练知识表示与语言生成能力，随后在人工编写的指令数据上进行微调以实现与人类的意图对齐。因此，如何有效地进行指令微调使大型语言模型对齐人类偏好，对于模型的最终性能与用户体验至关重要。

现有研究在预训练和指令微调阶段使用的数据大多仅围绕英文组成，语言的不平衡现象成为了制约模型能力以及交互体验的主要瓶颈。然而，将各个语言分别引入预训练以及指令微调阶段是昂贵且低效的。

近期，中国科学院计算技术研究所冯洋研究员带领的自然语言处理团队针对这个问题探索了新的方案 —— 在指令微调阶段将英语与其他语言对齐，以交互式翻译任务为核心进行指令微调训练。