网站地图官方微信:
网站首页 枣岭乡 建湖县 游河乡 姚渡镇 屏山县 朴头乡

当前位置: 首页 >

为什么我还是无法理解transformer?

不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。

反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。

总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。

为什么我还是无法理解transformer?

  • | 马云露面最新发声:不要再犹豫用不用AI,而是教孩子如何用好_教育_时代_鸿沟 |

    马云表示,有了AI,教育不再是让孩子去和AI比拼计算和记忆,而是让孩子保持好奇,好奇心才是算力的源泉。据报道,当时马云在阿里云新财年启动会上发表演讲提及,今天阿里云的***和技术人才,既是发展云计算和AI的信…...

    查看详情>>
  • | 都Agent时代了,AI大战还要靠春节发红包?_元宝_用户_微信 |

  • | 硅谷AI大佬迁徙图谱:32人易职,有人反复横跳,苹果最伤_Meta_高管_OpenAI |

  • | 穿越者预计2028年实现载人首飞,预售船票300万/张_航天界_飞船_商业 |

  • | 人类距离被锁死在地球表面,也许只剩2.8天_卫星_轨道_碰撞 |

  • | 40%产能转移至美国?台积电表态:最先进制程将留在台湾!_投资_晶圆厂_黄仁 |

  • | 华为破了vivo的金身_市场_系列_影像 |

  • | 为什么日本经济下降,大学排名跌至谷底,还有那么多人挤破脑袋去日本留学? |

  • | 从《鹅鸭杀》到《愤怒的小鸟》,能让金山游戏业务破局吗?_中国_Rovio_同比 |

  • | 奥特曼承认OpenAI路线走偏了,以及“写代码将变得不再重要”_模型_ChatGPT_Altman |

  • | 微软升级自研AI芯片减少对英伟达依赖,号称吊打亚马逊Trainium、超越谷歌TPU_Maia_模型_服务 |

  • 那些说大厂给程序员分配macOS,然后在macOS环境下写代...

    2025-06-29
  • 水浒好看,就好在细节上。 所谓,细节见人品,小事见人心。 ...

    2025-06-29
  • 阿里入局核电!三股力量强推,全球核电迎来全面复兴_核能_德国_能源网...

    2026-01-27
  • 地球出现特大地磁暴_影响_导航_极光...

    2026-01-21

关注我们

添加微信好友,关注最新动态