首页 资讯 正文

我国科学家提出高效推理策略 可避免大模型“过度思考”

体育正文 288 0

我国科学家提出高效推理策略 可避免大模型“过度思考”

我国科学家提出高效推理策略 可避免大模型“过度思考”

随着人工智能大模型的不断发展(fāzhǎn),如何让其在“难(nán)”的问题(wèntí)上深入思考,而不是对所有问题“想个不停”?记者5月29日从中国科学院自动化研究所获悉,该所联合鹏城(péngchéng)实验室提出了一种高效(gāoxiào)推理策略AutoThink,可让大模型实现自主切换思考模式,避免“过度思考”。 “当前,越来越多的大模型开始具备‘深度思考能力(nénglì)’。”中国科学院自动化研究所研究员张启超说,模型在回答问题之前要先生成一整段包含反复自我(zìwǒ)反思、自我验证的推理过程,然后(ránhòu)再给出答案。 张启超表示,这一思考(sīkǎo)模式显著提升了大模型解决复杂问题的(de)能力,但同时也带来了“过度思考”的问题,即在(zài)处理简单任务时也会生成冗余的思考过程。 “比如使用者对大(dà)模型提问‘2+3等于几’,大模型可能会从自然数定义讲起(qǐ),列出加法交换律,甚至反复确认,最后才输出答案是5。”张启超(zhāngqǐchāo)说,这种不必要的“过度思考”现象在推理模型中(zhōng)广泛存在。 针对这一问题,AutoThink可赋予推理模型根据题目难度自主(zìzhǔ)切换思考模式的能力,即通过所设计的提示(tíshì)词和(hé)多阶段强化学习,引导其自主决定是否进行深度思考。 张启超(zhāngqǐchāo)介绍,AutoThink提供了一种简单而有效的推理新(xīn)范式——通过省略号提示配合三(sān)阶段强化学习,引导大模型不再“逢题必深思熟虑(shēnsīshúlǜ)”,而是根据问题难度自主决定“是否思考”“思考多少”。在多个数学数据集上,AutoThink实现了准确率与效率平衡,既提升性能(xìngnéng)又节省算力,展示出较强的适应性和实用性。 据悉,AutoThink已集成于一站式智能科研平台ScienceOne,并将(jiāng)用于训练ScienceOne的基座大模型(móxíng)S1-Base。研发团队表示(biǎoshì),让大模型“更聪明地思考、更简洁地表达”,是未来科学(kēxué)基础大模型演进的重要方向。(记者宋晨)
我国科学家提出高效推理策略 可避免大模型“过度思考”

欢迎 发表评论:

评论列表

暂时没有评论

暂无评论,快抢沙发吧~