为什么我还是无法理解transformer？
- 发表时间：2025-06-24 21:40:10
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-25 05:00:10始终怀不上孕是种怎样的体验？
- 2025-06-25 05:25:09如何评价Cursor？
- 2025-06-25 06:15:09杭州一家面馆标价一碗面 558 元，为什么这么贵？这种「明码标价」合理吗？
- 2025-06-25 04:55:09为什么现在知乎有一种j***a运行速度很慢，很吃***的论调？
- 2025-06-25 04:55:09你们是怎么远程用NAS听歌的？
- 2025-06-25 06:10:10女生真正的完美身材是什么样子？
- 2025-06-25 04:40:10为什么幼儿园的超前教育被叫停?
- 2025-06-25 05:00:10谷歌云服务宕机导致 OpenAI、Shopify 等服务中断，此次宕机的具体技术原因是什么？
- 2025-06-25 05:20:11公司老板不想续费3w一年的云服务器，合理吗？
- 2025-06-25 04:50:09如何看待某日本小学校园餐只有一小块鸡肉？
推荐产品
-
大家用的内网穿透工具收费高不高？
99元1年... emm，阿里云优惠主机。 装个FRP就可以 -
能分享一下你写过的rust项目吗？
实际工作中，2020年的时候用 Rust 在 ARM 设备上 -
为什么买的小乌龟总是养不活呀？
死了很多龟了，分享我的经验，现在养龟稳定多了 1，乌龟本身不 -
美国率领北约敢和中国开战吗？
2025年6月3日，大毛：兔子无人机月产量高达50万架，战时
新闻动态
最新资讯