Определение 13.1. График дифференцируемой функции у = f (x)называется выпуклым (выпуклым вверх) или вогнутым вниз в интервале (а,b), если он расположен не выше любой своей касательной (см. рис. 13.1) на этом интервале.
Рисунок 13.1. График выпуклой или выпуклой вверх функции
Эквивалентное определение 13.1-э. График функции у = f (x)называется выпуклым (выпуклым вверх) или вогнутым вниз в интервале (а,b), если он расположен выше любой своей секущей (см. рис. 13.1-э) на этом интервале. Это означает, что любых двух значений 
выполняется неравенство 
.
Рисунок 13.1-э. График выпуклой или выпуклой вверх функции
Определение 13.2.. График дифференцируемой функции у = f (x)называется вогнутым (вогнутым вниз) или выпуклым вниз в интервале (а,b), если он расположен не ниже любой своей касательной (см. рис. 13.2) на этом интервале.
Рисунок 13.2. График вогнутой или выпуклой вниз функции
Эквивалентное определение 13.2-э. График функции у = f (x)называется вогнутым (вогнутым вниз) или выпуклым вниз в интервале (а,b), если он расположен ниже любой своей секущей на этом интервале. Это означает, что любых двух значений выполняется неравенство
.
Замечание 13.1. Термин, что график функции лежит «не выше» или «не ниже» любой своей касательной имеет смысл, т.к. касательная не параллельно оси 
.
Можно сформулировать необходимые и достаточные условия выпуклости функции в терминах её первой производной
Теорема 13.1. Функция выпукла вниз на интервале (а,b) тогда и только тогда, когда ее первая производная на этом промежутке монотонно возрастает. Функция выпукла вверх на интервале (а,b) тогда и только тогда, когда ее первая производная на этом промежутке монотонно убывает.
Пояснение к теореме 13.3. На оси 
(см. рис.13.3) отметим произвольно ряд точек и проведем через каждую из них прямую так, чтоб угловом коэффициент каждой прямой возрастал с возрастанием абсциссы намеченных точек; затем, приняв эти прямые за касательные к некоторой кривой линии 
, причем 
, построим эту кривую линию. Видно, что построенная кривая может лежать только выше (см. рис.13.3) каждой из проведенных касательных. А это является характеристикой выпуклости вниз графика функции.
Геометрический смысл теоремы 13.1 состоит в том, что если производная 
возрастает (убывает) на интервале (а,b), то возрастает (убывает) угол наклона касательных к графику. Это и означает выпуклость функции вниз (вверх).
Рисунок 13.3. Производная возрастает на интервале (а,b)
Теорема 13.2. (достаточный признак выпуклости и вогнутости).
Пусть функция 
имеет вторую производную 
во всех точках интервала (а, b). Если во всех точках этого интервала 
, то график функция на интервале (а, b) выпуклый; если же 
– вогнутый.
Доказательство. Допустим для определенности, что вторая производная и покажем, что график функции выпуклый. Возьмем на графике функции произвольную точку 
с абсциссой 
и проведем через точку касательную. Уравнение касательной в точке имеет вид: 
.
Здесь через 
обозначена ордината касательной, соответствующая абсциссе x (см. рис. 13.4).
Рисунок 13.4. График функции выпуклой вверх
Разность ординат графика и касательной при одной и той же абсциссе x равна
или 
.
Применяя к разности 
формулу Лагранжа, получаем
или 
,
где c заключено между 
и 
.
К разности 
тоже применим формулу Лагранжа, получим
,
где c 1 заключено между 
и 
, а, следовательно, между и .
По условию теоремы 
в интервале (а; b), значит 
. Разности 
и 
одного знака, так как c заключено между и . Тогда произведение 
. Отсюда следует, что разность 
или 
. Это означает, что для любой точки x интервала (а, b) ордината графика функции меньше ординаты касательной, т.е. график функции находится ниже касательной. Получили, что график функции выпуклый, что и требовалось.
Аналогично доказывается, что если 
, то график функции – вогнутый.