03.2 Меняем одну причину за раз

Один координатный эксперимент за раз

У функции нескольких переменных есть несколько независимых способов малого движения. Для

f(x,y)=x^2+3y^2

частная производная по $x$ определяется при фиксированном $y$ :

\frac{\partial f}{\partial x}(x,y) =\lim_{h\to0}\frac{f(x+h,y)-f(x,y)}h=2x.

Аналогично, при фиксированном $x$ :

\frac{\partial f}{\partial y}(x,y)=6y.

В точке $(2,1)$ имеем $f=7$ , $\partial f/\partial x=4$ , $\partial f/\partial y=6$ . Первое число является наклоном сечения $f(x,1)=x^2+3$ , второе — наклоном другого сечения $f(2,y)=4+3y^2$ . Это не две конкурирующие производные одной линии, а два координатных опыта на одной поверхности.

Полное малое приращение собирает все координаты

При $\delta=[\delta_x,\delta_y]^T$ первый порядок изменения равен

\Delta f_{\mathrm{lin}} =\frac{\partial f}{\partial x}\delta_x +\frac{\partial f}{\partial y}\delta_y.

В точке $(2,1)$ и при $\delta=[0.01,0.02]^T$ :

\Delta f_{\mathrm{lin}}=4\cdot0.01+6\cdot0.02=0.16.

Точное изменение равно

f(2.01,1.02)-f(2,1)=0.1613.

Остаток $0.0013$ можно проверить без округлённой геометрии:

0.01^2+3(0.02)^2=0.0013.

Каждая частная производная учитывает свой линейный вклад, а смешанное движение складывает эти вклады.

«Остальные фиксированы» — условие определения

Фраза не утверждает, что признаки реального dataset статистически независимы. Она задаёт виртуальный локальный эксперимент над функцией. Если доступные точки ограничены кривой $y=x$ , то фактическое движение по этой кривой меняет обе координаты:

\phi(t)=f(t,t)=4t^2, \qquad \phi'(t)=8t.

В точке $t=2$ получаем 16. То же число даёт chain rule:

\frac{d}{dt}f(x(t),y(t)) =\frac{\partial f}{\partial x}\frac{dx}{dt} +\frac{\partial f}{\partial y}\frac{dy}{dt} =4+12=16.

Нельзя оставить только $\partial f/\partial x$ , если $y$ тоже зависит от $t$ . И наоборот, связь в данных не меняет определение частной производной самой функции.

При замене коэффициента 3 на $b$ получаем другую функцию $f_b=x^2+by^2$ . Тогда

\frac{\partial f_b}{\partial y}=2by.

Меняются поверхность, вытянутость линий уровня и чувствительность по $y$ . Это изменение модели, а не перемещение по прежней поверхности.