Механизм внимания: кто такой «он»?

Трансформер смотрит на всё предложение сразу и прокладывает «нити» между словами. Нажмите на любое слово: чем толще нить, тем сильнее смысловая связь.

Предложение

Веса условные, для иллюстрации. В реальной модели десятки слоёв и «голов» внимания, каждая смотрит на связи по-своему.