自然语言处理中的注意力机制研究综述*

石磊,王毅,成颖,魏瑞斌

Review of Attention Mechanism in Natural Language Processing

Shi Lei,Wang Yi,Cheng Ying,Wei Ruibin

图2 注意力机制的通用形式

Fig.2 The General Form of Attention Mechanism