First

在计算 Attention Score 时，词 i 对词 j 的注意力只取决于它们的向量点积：Qi​⋅Kj​ 如果你把输入序列打乱，只要两个词的内容不变，它们之间的点积结果就永远不变。