13 Checkpoint: Embeddings и пространства

Восемь проверок механизма

Порог: 7 из 8. Без таймера. Баллы начисляются за ответы, не за посещение. Это локальная самопроверка; решения будут показаны после отправки.

1. One-hot умножение на E…Выбирает строку EСортирует vocabularyАвтоматически обучает параметры

2. В tiny Skip-gram используется…Full softmax по6кандидатамNegative sampling скрытой библиотекиГотовый pretrained Word2Vec

3. Ranking соседей при смене проекции…Пересчитывается по экранным координатамОстаётся основанным на полном3DcosineОбязательно меняется

4. Совпавшие точки на2Dпроекции…Обязательно имеют одинаковый исходный embeddingМогут различаться по скрытой координатеДоказывают одинаковый смысл

5. Параметров в E[6,3]?Ваш численный ответ

6. Число координат one-hot для vocabulary6?Ваш численный ответ

7. Dot [1,0,0] и[0,0,1]?Ваш численный ответ

8. Первая координата смеси .5[1,0,0]+.5[0,0,1]?Ваш численный ответ

Результат появится после отправки всех ответов.

Исследовать и объяснить

Сравните исходный3Dcosine и XY/PCA-картинку. Потом выполните реальный Skip-gram update и объясните, какие таблицы меняются. В context comparison выберите одинаковые prefixes и проверьте совпадение contextual outputs.

Сначала сформулируйте гипотезу, затем измените один параметр. Сопоставьте числа с формулой; назовите крайний случай и границу применимости. Свободный вывод не оценивается фиктивным автоматическим баллом.