Методы поиска экстремума функции одной переменной.
Основные понятия.
Несмотря на то, что задача поиска экстремума функции одной переменной наиболее простой тип оптимизационных задач, она занимает центральное место в теории оптимизации, как с теоретической, так и с практической точек зрения. Это связано с тем, что задачи однопараметрической оптимизации достаточно часто встречаются в инженерной практике и, кроме того, находят свое применение при реализации более сложных итеративных процедур многопараметрической оптимизации.
Постановка задачи. 
Определение 1. Функция f(x) имеет локальный минимум на элементе 
, если существует некоторая конечная 
- окрестность этого элемента, в которой выполняется 
Функция может иметь много локальных минимумов.
Определение 2. Функция f(x) достигает глобальный минимум на множестве Х в точке x*, если 
.
Естественно требовать, чтобы функция f(x) была непрерывной или, по крайней мере, кусочно-непрерывной. В отношении множества Х – это числовая ось.
Если эти требования не соблюдены, то вряд ли можно построить разумный алгоритм нахождения решения. Например, если f(x) не является кусочно-непрерывной функцией, то единственным способом нахождения оптимума является полный перебор всех элементов 
, на которых задана функция, что вряд ли можно считать приемлемым. Чем более жестким требованиям удовлетворяет f(x) (например, существование производных различного порядка), тем легче построить хорошие численные методы.
Необходимое условие локальной оптимальности.
Необходимое условие локальной оптимальности дается следующей теоремой Ферма.
Теорема Ферма. Пусть f(x) дифференцируема на некотором промежутке 
и во внутренней точке x* этого промежутка принимает наибольшее (наименьшее) значение, тогда 
|
|
Точки, удовлетворяющие этому условию, называются стационарными (критическими). Стационарные точки могут быть и точками локального минимума, и точками локального максимума, и точками перегиба. Например, на рисунке точка 
есть точка перегиба. Для определения характера стационарных точек используется достаточное условие локальной оптимальности.
Достаточное условие локальной оптимальности.
Пусть f(x) дифференцируема в точке 
k раз, k>1, причем 
Тогда, если k - четное число, то x* - точка локального минимума при 
и максимума при 
.Если k - нечетное число, то x* - точка перегиба.
Отметим, что при прохождении точки минимума знак первой производной меняется с «-» на «+», при прохождении точки максимума знак первой производной меняется с «+» на «-», а при прохождении точки перегиба знак первой производной не меняется.
Используя необходимое и достаточное условия оптимальности, находятся точки локальных экстремумов. Для определения абсолютного минимума есть только один способ: найти все локальные минимумы, сравнить их и выбрать наименьшее значения.