资资讯365
热点关键词

MIT 让大模型直接修改 Qwen 权重且成绩飙升,这意味着什么?怎么回事?

MIT让GPT-6 Astra直接修改Qwen权重,数学成绩飙升机器之心·2026年11月03日 07:50MIT展示「权重空间编程」新路线 如果把一个训练好的神经网络摊开,只给大模型看一串权重数字,它能看出这个模型学会了什么吗?甚至能直接修改其中一小部分参数,让模型变得更聪明? 这听起来有些不可思议。MIT CSAIL 团队最新公布的一组实验,却让这个设想有了初步的现实依据。 团队让 GPT-6 Astra 直接检查 Qwen3.5-0.8B 的内部权重,找到了导致模型反复陷入推理循环的关键问题。随后Astra 只修改了约 0.016% 的参数,就将模型在 MATH-500 上的成绩从 7.9% 提升至 48.1%,指令遵循能力也提升了近两倍。整个过程没有重新训练模型,也没有使用梯度下降。 更有意思的是,Astra 还尝试从零编写神经网络权重。在没有训练数据、梯度和训练过程的情况下,它生成的游戏策略网络,甚至超过了经过 1 亿步 PPO 训练的模型。团队将这种新能力称为 Weight-Space Programming(权重空间编程)。 这意味着,大模型开始尝试直接理解神经网络内部的参数结构,找到问题所在,再动手修改模型本身。 从 AI 帮助人类训练模型,到 AI 开始直接参与模型权重的优化,这条路线可能为模型研发和递归自我改进(RSI)打开新的空间。 以下为博客全文编译(第一人称叙事): 如果让你从头手工设计一个会下围棋的神经网络,你会怎么做?如果直接给你一组神经网络的原始权重,让你判断这个网络会表现出什么行为,你又该从哪里下手? 对绝大多数人来说,这几乎是不可能完成的任务。 目前,神经网络的权重通常通过优化算法生成,也可以由专门训练来生成权重的网络写出,或者通过编译器将形式化程序转换而来。 mit让gpt-6 astra直接修改qwen权重,数学成绩飙升

广告合作位内容与广告清晰分离

为什么受到关注?

该关键词近期出现在知乎热榜,历史最高排名第 25 位。热榜排名只能反映平台内一段时间的关注程度,不等同于事件重要程度或事实结论。

已确认的信息

前往原平台核验详情 ↗

榜单趋势

最近 3 次榜单快照的排名走势(排名越低越靠前),每格为一次采集记录。

11-04 09:34
第28名102 万热度
11-04 09:49
第25名102 万热度
11-04 10:04
第29名102 万热度

相关热点

用这个关键词创作