哈佛MIT揭示复合LLM系统"角色漂移"问题

分享XFacebook微博复制链接

哈佛与MIT研究发现，复合LLM系统中的模块在端到端强化学习下可能发生"角色漂移"：分解器为提升任务准确率，将答案直接嵌入子问题；阅读器则依赖自身参数记忆而非检索内容。若强制分解器坚守原角色，86%的RL性能提升会消失。论文提出"角色锚定"方法，通过约束模块预测分布来抑制漂移。

阅读原文 （在新窗口打开）

资讯动态数据由 AI HOT 聚合提供