Sparks of Weight-Space Programming:LLM 直接读写神经网络权

2026-11-13 11:25:06 来源:
        【每日科技网】
Sparks of Weight-Space Programming:LLM 直接读写神经网络权

  事实速览|MIT CSAIL 四位研究者于 11 月 2 日发布《Sparks of Weight-Space Programming》,用 GPT-6 Astra 把神经网络权重当作文本读取并直接编辑、无需优化器:修复一个从未成功的控制策略(编辑 3.5% 权重后 1024/1024 回合成功)、从全零权重写出 Breakout 玩家(517.4 分,PPO 基线 25.3 分)、把 Qwen3.5-0.8B 在 MATH-500 上从 7.9% 提升到 48.1%(编辑 131072 个权重,占 0.016%)。

  技术视角|没有损失函数、没有梯度步,用自然语言作为「规格说明」改写权重,把训练重新表述为推理驱动的搜索;作者也坦承这是博客而非同行评审论文,单次运行、小样本,部分实验允许有限次前向传播来校验结果。

  商业视角|如果权重可被「读出意图并定点修改」,模型定制、缺陷修复与安全对齐的成本结构会变;但当前结果集中在小模型和小游戏策略网络上,距离替代训练流程或影响大厂算力开支还非常远。

  用户/研究者视角|失败案例同样有信息量——模型无法从权重中识别「谄媚式微调」,也无法提升 Gemma 3 270M 的数学能力,作者据此认为编辑能移除障碍、但不能凭空补上缺失技能;这为可解释性研究提供了一条有数字、日志和开放模型的可复现路径。

  监管/争议视角|能读权重意味着能推断训练数据与微调意图,模型权重作为「商业秘密」的边界被重新讨论;能写权重也意味着一种不经过训练管道、难以被现有审计发现的模型篡改方式,对模型来源追溯与供应链安全提出新问题。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

vivo X500 Ultra首发行业最强超广角:安卓唯二超大杯 且买且珍惜

根据博主爆料,vivoX500Ultra工程机正在测试一颗5000万像素超广角镜头,采用1/1.28英寸大底传感器,型号为LYT-L910.按照目前曝光的信息,这将是行业规格顶尖的超广角方案。与此前多

iPhone 18 Pro系列国内销量破689万!碾压华为等所有国产

据博主@RD观测透露,截至2026年第44周(10月26日-11月1日),iPhone18Pro系列的国内累计销量约为689.27万台。该系列9月18日开售,到现在上市约六周,若按9999元的国行起售

10000mAh+2nm芯片!REDMI K100顶配版揭秘:续航性能大满贯

据博主爆料,REDMIK100游戏旗舰正在推进中,新机不仅搭载高通2nm旗舰芯片骁龙8E6系列,还将配备10000mAh超大容量电池,支持100W有线快充和50W无线充电,并保留旁路供电功能。其中骁龙

REDMI K100

3天前

11999元起!华为Mate X7官宣至高优惠1000元 赠价值698元手写笔

今日,华为终端官微宣布,即日起购买华为MateX7.除享至高1000元购机优惠等既有礼遇外,还将额外获赠一支HUAWEIM-Pen3Mini多功能笔。据了解,HUAWEIM-Pen3Mini多功能笔价

华为Mate X7

3天前

第二代豆包手机!努比亚NaviX Ultra星空典藏版预售 6999元

今日,努比亚宣布,努比亚NaviXUltra星空典藏版正式开启预售,将于11月16日10:00正式开售。星空典藏版仅提供16GB+512GB一个版本,售价6999元。努比亚NaviXUltra星空典藏

iPhone用户快升级!苹果发布iOS 27.2.1正式版:修复9大安全漏洞

今日,苹果正式推送iOS27.2.1系统更新,距离上一个iOS27.2版本发布约两周。此次更新没有带来明显的新功能,主要针对系统安全性进行修复,共修复9项安全漏洞,涉及iMessage、AirPlay

iOS 27

3天前