Исследовать и объяснить
Измените последнюю строку X при causal mask и сравните ранние outputs. Отключите mask и повторите. Затем отдельно поменяйте W_V: найдите неизменные коэффициенты и изменившуюся смесь.
Сначала сформулируйте гипотезу, затем измените один параметр. Сопоставьте числа с формулой; назовите крайний случай и границу применимости. Свободный вывод не оценивается фиктивным автоматическим баллом.