北大和智源团队提出训练框架 LLaMA-Rider,可让大模型自主探索开放世界

#7*24快讯#小助手22023-11-07

据站长之家 11 月 7 日报道,北京大学和北京智源人工智能研究院的团队提出了名为 LLaMA-Rider 的训练框架,旨在让大型语言模型在...
据站长之家 11 月 7 日报道,北京大学和北京智源人工智能研究院的团队提出了名为 LLaMA-Rider 的训练框架,旨在让大型语言模型在开放世界中具备自主探索和学习任务的能力。这个框架通过反馈 - 修改机制来实现主动探索,使模型在环境中接收反馈信息,不断调整决策,从而逐渐适应开放环境。
据悉,LLaMA-Rider 采用两阶段训练方法,首先让模型在环境中自主探索,然后将成功经验整合为监督数据集,用于模型微调,提高多任务解决的能力。实验结果显示,LLaMA-Rider 在多任务解决上表现出高采样效率和低训练代价,与强化学习方法相比具有优势。这个研究为大型语言模型在开放世界中的自主学习提供了重要思路。
原文链接:https://www.chinaz.com/2023/1107/1573214.shtml
本文链接:https://www.8btc.com/article/6837664
转载请注明文章出处

相关话题

#AI #7*24快讯

用手机扫码体验更多功能

扫码参与评论与作者和更多用户交互