【図解】Attentionとは?わかりやすく、そして深く解説|自然言語処理(NLP)

自然言語処理ライブラリの解説などで度々見かける「Attention」。Attentionは自然言語界のブレイクスルーと言われ、BERTやGPT-3といった最先端技術を理解する上で必須の仕組みです。このページでは「Attention」についてわかりやすく、そして深く解説していきたいと思います。