注意力机制是深度学习模型强大功能的重要支撑，注意力头通过 softmax 分布来分配权重，聚焦于输入信息的不同部分。但在对抗攻击扰动下，注意力头的 softmax 分布裂解成吉布斯采样炼狱。softmax 分布不再能够准确地分配注意力权重，而是变得离散且混乱，如同陷入了一个充满不确定性的“炼狱”。这使得模型难以确定哪些信息是重要的，哪些可以忽略，从而导致注意力机制失效，严重影响模型的性能。
在深度学习的广袤领域中，对抗攻击带来的扰动在 embedding 空间所引发的影响，恰似一场破坏力惊人的连锁反应。
embedding 空间作为模型理解和处理信息的基石，承载着丰富的语义和结构信息。词向量，作为文本语义的数字化表示，是这个空间的重要组成部分。正常情况下，每个词向量都蕴含着特定词汇的语义内涵，它们在空间中以一种有序且有意义的方式分布。然而，对抗攻击所产生的扰动如同一场突如其来的风暴，无情地冲击着这一有序的分布。这些微小却极具破坏力的扰动，使得词向量的语义表示出现偏差，原本清晰的语义界限变得模糊不清，词汇之间的语义关系也被扭曲。
位置编码所携带的顺序信息，在这场风暴中也难以幸免。位置编码的意义在于让模型能够捕捉到文本中各个元素的先后顺序，这对于理解长序列数据至关重要。但对抗攻击的扰动打乱了这种顺序信息，使得模型在处理文本时，无法准确分辨各个元素的位置关系，进而对整体的语义理解产生严重干扰。
而注意力机制，作为模型聚焦关键信息的核心组件，其权重分配也深受其害。注意力机制通过计算不同元素之间的相关性来分配权重，从而决定模型在处理信息时的关注重点。但在 embedding 空间的扰动影响下，注意力机制所依据的信息变得不准确，权重分配也随之出现偏差。模型可能会将过多的注意力分配到无关紧要的信息上，而忽略了真正关键的部分，这无疑会严重影