07 Checkpoint: Искусственный нейрон

Восемь проверок механизма

Порог: 7 из 8. Без таймера. Баллы начисляются за ответы, не за посещение. Это локальная самопроверка; решения будут показаны после отправки.

1. В z=wᵀx+b смещение b…Зависит от каждого входа как activationПрибавляется к сумме независимо от xЯвляется градиентом

2. При w=0 обычная разделяющая гиперплоскость…Всегда вертикальнаВырождается: score постояненСовпадает с sigmoid

3. При насыщении sigmoid local derivative…Приближается к0Всегда равна1Меняет размерность входа

4. В лаборатории GELU…Вычислена через exact Gaussian CDFИспользует подписанную tanh-аппроксимациюСовпадает с ReLU

5. z при x=[1,2],w=[1,−1],b=.5?Ваш численный ответ

6. σ(0)?Ваш численный ответ

7. σ′(0)?Ваш численный ответ

8. Выход constructive XOR на[1,1]?Ваш численный ответ

Результат появится после отправки всех ответов.

Исследовать и объяснить

Изменяйте отдельно x,weights,b и activation. Покажите, что одинаковый class не означает одинаковую probability. Отключите ReLU конструктивного XOR и вычислите все четыре ответа.

Сначала сформулируйте гипотезу, затем измените один параметр. Сопоставьте числа с формулой; назовите крайний случай и границу применимости. Свободный вывод не оценивается фиктивным автоматическим баллом.