为什么我还是无法理解transformer？
- 发表时间：2025-06-25 14:15:13
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-19 19:30:10有没有适合建筑企业的财务管理软件推荐?
- 2025-06-19 20:05:11为什么媳妇都那么反感公公婆婆？
- 2025-06-19 20:50:11武松杀嫂，为什么要先扯开她的胸衣，多此一举还是另有深意？
- 2025-06-19 20:15:10为什么 IPv6 在国内至今未得以大规模应用?
- 2025-06-19 19:40:11如果全球都停止出口粮食，中国能否自给自足？
- 2025-06-19 20:45:10为什么水泥封不住尸臭?
- 2025-06-19 20:55:11最讨厌和哪种人打羽毛球？
- 2025-06-19 20:05:11有一个乌克兰的朋友问我，中国人凭什么能享受和平，我该怎么说？
- 2025-06-19 20:30:10胸大的女孩子有什么烦恼？
- 2025-06-19 21:05:11哪张照片让你觉得刘亦菲美得不可方物？
推荐产品
-
为什么 macOS 并不差，可市场总敌不过 Windows？
如果你还用OSX系统，哪怕只是9年前的版本，市面上也几乎没有 -
西方人是怎么发现地球是圆的的？
看了高赞回答，很多人心里完全接受不了，2000多年前的古希腊 -
马斯克的「星链」卫星大批坠落，损失已达 583 颗，约每 15 颗卫星坠落 1 颗，发生了什么？
文字游戏 地球上每年有超过5000万人死亡，从人类出现至今总 -
能分享一下你写过的rust项目吗？
工作层面上，全是我一个人干。 1，有几个项目是直接用 ru
最新资讯