当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-25 07:55:11
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 现代艺术只考虑意义、不考虑美感吗?
- 为什么小男孩小时候要比小女孩难养好多?
- 中国制造的打印机为什么质量就是差?
- 为什么 Linux 软件安装包会有依赖关系,而 Windows 软件安装包不需要?
- 华为和硅基流动发布CloudMatrix384超节点部署DeepSeek的报告,对行业有何影响?
- 明明无线鼠标有那么多优点,为什么还有那么多人买有线鼠标?
- 字节跳动技术副总裁开源了自己与Trae合作的首个项目,如何评价目前AI开发的水平?
- 作为一个服务器,node.js 是性能最高的吗?
- 娃哈哈被曝 2025 年已关停 18 家工厂,此前曾回应纯净水由今麦郎代工,娃哈哈到底在布局什么?
- 有没有一款音乐播放器,能连接nas音乐,创建音乐库,自动匹配歌词封面等等?类似infuse的概念呢?
最新资讯文章
- notion和Obsidian这两款软件选哪个?
- 27寸显示器是否有必要到4K?
- 为什么感觉四***明很空洞?
- 如何评价“寡姐”斯嘉丽·约翰逊的身材?
- 没有上进心的男人都不考虑未来的吗?
- 前端如何设计网页?
- 房价一直在降 现在该不该买房?
- 能够自己一个人创业的全栈web码农fullstack developer要会哪些技术?
- 为什么现在越来越多的人不想要孩子呢?
- 伊朗距离以色列上千公里,发射的导弹靠什么来导航定位呢?美国的GPS不会让他们用的。?
- 能分享下coze使用心得吗?
- 老板说我设计了一周的海报还是不行,我到底该怎么学啊?
- 一名女子在杭州万象城遭挟持被捅 20 多刀,隆胸***体救了一命,这反映出哪些公安系统的问题?
- 如何评价林志玲?
- 高并发下怎么做余额扣减?
- 现在已经有5K、6K、8K分辨率显示器,那么8K之后是什么?
- 程序员不租房住车里,称三年多省了差不多十万,被质疑占用公共***,怎样看他的选择?这算占用公共***吗?
- 毕设答辩,老师说node不可能写后台怎么办?
- Node.js是谁发明的?
- 如何评价赵本山的演技?





