拿注意力层当内存——有人在 Qwen 权重里编译了一颗 RISC-V CPU
要点导读
- RISC-V CPU 被编译进 Qwen 3.5 4B 权重
- 用 Gated DeltaNet 注意力层充当内存
- CPU 运行于模型前向传播,无需外部运行时
- 可执行算术及 C、MicroPython 代码
内容摘要
开发者 Divyansh Agrawal 将一颗 RISC-V CPU 编译进 Qwen 3.5 4B 的权重中,并以模型的 Gated DeltaNet 注意力层作为内存,项目命名为 Qwenputer。该 CPU 完全运行在模型前向传播内,可执行算术及 C、MicroPython 代码,无需外部运行时。
阅读原文
原文来源:开源中国(oschina.net)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。