Методы Оптимизации Систем Автоматизированного Проектирования

Метод Гаусса-Зейделя (наискорейшего покоординатного спуска).

Стратегия поиска.Суть метода заключается в эквивалентной замене общей многопараметрической задачи поиска экстремума критерия последовательностью однопараметрических задач поиска частных экстремумов.
Стратегия решения задачи состоит в построении последовательности точек , k=0, 1, 2, ... таких, что, k=0, 1, 2, ....
Точки последовательности вычисляются по правилу:

j – номер цикла вычислений, j =0, 1, 2, ....; k – номер итерации внутри цикла, k=0, 1, 2, ....,n-1; – единичный вектор. Начальная точказадается пользователем. Величина шага выбирается из условия:

В данном методе при фиксированном j за одну итерацию с номером k изменяется только одна координата векторас номером k+1, а за весь цикл с номером j, начиная с k=0 и кончая k=n-1, изменяются все координаты вектора . После этого точкеприсваивается номер и она берется за начальную точку для вычислений в (j+1) –м цикле. Расчет заканчивается в точке, для которой выполняется условие , где заданное малое число.
В случае двух переменных данный метод имеет следующую геометрическую интерпретацию.

Алгоритм метода.
Начальный этап
Задать ,.
Найти градиент функции в произвольной точке

Положить j=0.

Стр.: ..., 2, 3