QKV 注意力机制三维可视化

通过 Three.js 与 MathJax 展示注意力机制中 Q、K、V 的空间关系与完整数学过程,适合大模型教学、自学和课堂演示。

输入句子: "我 喜欢 AI"

我们将详细展示模型处理第一个词 "我" 的完整注意力计算过程,包含具体的数学运算、注意力分数变化与加权求和结果。

  • 步骤1: 初始化输入词向量
  • 步骤2: 线性投影得到 Q、K、V
  • 步骤3: 计算注意力得分
  • 步骤4: Softmax 归一化
  • 步骤5: 加权求和得到输出