Решение большого числа разнообразных задач управления, проектирования и планирования в той или иной мере связано с оптимизацией, то есть нахождением наилучших в определенном смысле значений различных параметров.

Обычно задается некоторый критерий оптимизации (целевая функция) Y, зависящий от вектора управляемых параметров (факторов варьирования)

. (8.1)

Тогда задача оптимизации сводится к отысканию таких значений параметров , при которых целевая функция достигает экстремума (максимума или минимума). В дальнейшем для определенности будем считать

.

Зависимость (8.1) образует некоторую поверхность в (n+1)-мерном пространстве Х₁,Х₂,….,Х_n,Y. Эту поверхность принято называть поверхностью отклика, а отдельные её точки или значения Y в точках факторного пространства – просто откликом.

В тех случаях, когда зависимость задана в аналитической форме, координаты точки экстремума функции можно найти, решив систему дифференциальных уравнений вида:

. (8.2)

Решением системы (8.2) является так называемая стационарная точка в которой градиент функции обращается в нуль

, (8.3)

где — направляющий вектор координатной оси X_i.

Однако в большинстве практических случаев аналитическая зависимость неизвестна и единственное, чем располагает исследователь – это возможность наблюдать значения отклика при любой комбинации варьируемых факторов (Х₁,Х₂,….,Х_n). Поскольку такое наблюдение обычно связано с проведением эксперимента и процедурой измерения, то фактически наблюдается сумма истинного значения выходного параметра и случайной ошибки опыта e, то есть

.

Задача оптимизации существенно усложняется, если зависимость , описывающая свойства объекта исследования, меняется таким образом, что координаты экстремальной точки смещаются. В таком случае говорят, что объект обладает дрейфующими характеристиками.

Для решения задач оптимизации используются два принципипльно различных подхода:

1) каким-либо способом определяется полная математическая модель и далее задача решается аналитическим или численным путем.

2) Осуществляется экспериментальный поиск стационарной точки в факторном пространстве переменных (Х₁,Х₂,….,Х_n).

При экспериментальном поиске, в отличие от аналитического исследования, осуществляется локальное изучение поверхностей отклика по результатам ряда экспериментов, специально спланированных вблизи исходной точки. Экспериментальное значение отклика достигается с помощью многократной последовательной процедуры изучения поверхности и продвижения в факторном пространстве. При этом возникают различные трудности, которые образно называют “проклятием размерности”. Можно назвать три основные проблемы, связанные с этим “проклятием”.

Во-первых, наличие свойства унимодальности функции отклика в многомерном случае представляется всё менее вероятным с ростом величины размерности. Даже когда заранее известно из теоретических соображений, что функция отклика унимодальна, на ход поиска могут сильно повлиять некоторые локальные свойства поверхности отклика – “овраги“, “узкие хребты“, “гребни“.

Вторая проблема заключается в трудности сопоставления различных алгоритмов многомерного поиска. Для любого алгоритма возможно подобрать такую функцию отклика, когда он окажется предпочтительнее других. В то же время можно построить и другую функцию отклика, при которой этот алгоритм станет практически нерентабельным. Очевидно, что сопоставление различных алгоритмов в такой ситуации может осуществляться лишь на примерах типовых ситуаций, путём решения модельных задач, рассмотрения некоторых тестовых поверхностей отклика.

И, наконец, третья проблема связана со сложностями введения точностных характеристик локализации точки экстремума. Дело в том, что с ростом размерности факторного пространства резко уменьшается точность определения точки экстремума. Так, например, для 50-мерного гиперкуба попытка локализовать точку экстремума в 10% первоначального объёма приводит к факту, что каждая сторона нового гиперкуба (размах варьирования каждого фактора) составит всего от первоначального размера, что, конечно, не может удовлетворить исследователя.

Существует большое число разнообразных методов многомерного поиска, из которых в дальнейшем мы рассмотрим только некоторые, получившие наибольшее распространение для целей экспериментальной оптимизации (см. рис.8.1). Анализ их особенностей показывает, что это, как правило, достаточно простые, “грубые” алгоритмы. Дело в том, что более сложные разновидности методов поиска, эффективные при решении задач вычислительного характера, при наличии помех (неизбежных при экспериментальной работе) в большинстве случаев оказываются неработоспособными. В то же время представленные ниже методы хорошо показали себя на практике и дают достаточную точность определения точки экстремума.

Рис. 8.1. Наиболее эффективные методы поиска.