Лекция: ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ МНОГИХ ПЕРЕМЕННЫХ

Многие алгоритмы минимизации и критерии оптимальности в En используются только для функций, дифференцируемых необходимое число раз.

Напомним некоторые факты, известные из курса математического анализа.

1. Если функция дифференцируема в точке х0ÎEn, то ее прира­щение Df(х0) = f(х0+ Dx) — f(х0) можно записать в виде

Df(х0) = df(х0) + o (),

где — первый дифференциал f(х) в точке х0.

2. Вектор f '(х0)= — называется градиентом функции f(х) в точке х0. В малой окрестности точки х0градиент ука­зывает направление наискорейшего возрастания функции f(х), а его норма характеризует скорость этого возрастания. Градиент в точке х перпендикулярен линии (поверхности) уровня f(х) = с, проходящей че­рез эту точку. Очевидно, df(х0) = < f '(х0), Dx >, поэтому

D f(х0) = < f '(х0), Dx > +o ().

3. Если функция f(x) дважды дифференцируема в точке х0ÎEn, то

D f(х0) = df(х0) + d2f(х0) + o (2), где d2f(х0) =

второй дифференциал f(x) в точке х0.

Используя матрицу вторых производных (мaтрицу Гессе,гессиaн)

, второй дифференциал можно записать так:

d2f(х0) =<f ¢¢(х0) Dx, Dx >, поэтому

D f(х0) = <f ¢(х0), Dx > + <f ¢¢(х0) Dx, Dx > + o (2). (3.9)

4. Из формул (3.8) и (3.9) следует, что длямалых ||Dx ||

f(x) » f(х0) + <f ¢(х0), Dx > (3.10)

или

f(x) » f(х0) + <f ¢(х0), Dx > + <f ¢¢(х0) Dx, Dx > ,(3.11)

т.е. в малой окрестности точки х0поведение дифференцируемой функции f(x) приближенно описывается формулой (3.10), а дважды диф­ференцируемой — формулой (3.11), причем представление (3.11) яв­ляется более точным.