Если оператор модели нелинеен, то используется расширенный фильтр Калмана, в котором оператор 
линеаризуется в окрестности анализируемого вектора состояния 
, а оператор наблюдений линеаризуется около 
. Таким образом, подразумевается, что
Это означает, что при вычислении ошибки прогноза мы должны учитывать Якобиан оператора моделирования:
Соответственно, прогностическое уравнение для ковариационной матрицы прогноза будет выглядеть как
Вычислительная стоимость фильтра Калмана и его расширенного варианта получается достаточно большой, т.к. помимо собственно анализа, который, как было определено при исследовании оптимальной интерполяции, занимает много процессорного времени и памяти, нужно еще оценивать матрицы ковариаций анализа, делать прогноз вектора состояния, вычислять Якобиан для нелинейной модели и прогноз изменения матрицы ковариаций анализа. В результате вычислительная стоимость фильтра Калмана намного больше 4-мерного вариационного для той же задачи, даже для малых моделей.
Схема организации вычислений в фильтре Калмана
Ансамблевый фильтр Калмана
Из-за сложности процедуры использования фильтра Калмана в многомерных, нелинейных системах используются его упрощения.
а) Комбинация 4-мерного вариационного метода и фильтра Калмана. Если в качестве окна ассимиляции брать модельный шаг, то 4-Д Вар метод позволяет эффективно вычислять ковариационную матрицу ошибок анализа, избегая большого числа вычислений при оценке ее обычным способом. Затем можно использовать фильтр Калмана для прогноза ковариационной матрицы ошибок прогноза в следующий момент времени.
б) Ансамблевый фильтр Калмана.
Используется ансамбль анализов вектора состояния среды
,
по которым на каждом временном шаге, с помощью оператора моделирования рассчитывается ансамбль первых приближений:
Используя полученный ансамбль первых приближений можно оценить среднее значение вектора состояния
И ковариационную матрицу ошибок первого приближения
Для построения ансамбля анализов используется ковариационная матрица ошибок анализа
Для упрощения процедуры часто используется локализация, когда рассматриваются ковариации только между компонентами вектора состояния, расположенными на ограниченном расстоянии от узла анализа.
Кроме того, часто помимо ансамбля анализа используются также и возмущенные наблюдения, когда формируются 
наборов наблюдений, сгенерированных согласно матрице ошибок наблюдений 
.
Простой пример фильтра Калмана
Основные мысли предыдущего раздела поможет прояснить следующий простой пример. Рассмотрим задачу вывода реальной температуры воздуха номиналом 20 градусов из повторных измерений термометром и их обработки фильтром Калмэна. В первую очередь необходимо установить модели, связывающие состояния нашей системы с измерениями и между собой, а также их статистические характеристики, служащие для вычисления весов. В данном случае имеет место всего одна величина, характеризующая неизменное состояние системы, — неизвестная температура x. Таким образом, модель, описывающая состояние системы, выглядит как
Т.е. температура не меняется от времени к времени. Предположим, что распределение температуры характеризуется нормальным распределением с дисперсией 4 градуса в квадрате (среднеквадратическое отклонение 2 градуса). Это можно принять как ошибку прогноза неменяющейся температуры, т.е.
Измерения температуры термометром дают истинные значения температуры, отягощенные инструментальными ошибками
Если, в соответствии с документами прибора дисперсия составляет 1 градус в квадрате, то
тогда вес измерения составит
Результат анализа, т.е. исправленное значение будет
Таким образом, чем больше вес измерения 
, тем больше его вклад в результат нулевого анализа.
Ошибка анлиза будет характеризоваться его дисперсией
т.е. дисперсия прогноза за счет хорошего измерения существенно уменьшилась.
Это была аналитическая часть, далее идет прогностическая часть
т.к. модель в данном случае являетя безошибочной.
Теперь опять часть анализа
таким образом ошибка анализа еще больше уменьшилась.
Аналогичная последовательность операций продолжается и далее.
Рисунок показывает, как результат анализа сходится к истинному значению температуры в данной точке.
Если предположить, что модель имеет погрешность 
, то
что означает, что дисперсия прогноза не совпадает с дисперсией анализа, как это было в первой части примера, а увеличивается за счет ошибок моделирования.
Если, например, предположить, что дисперсия моделирования составляет ¼ градуса в квадрате, то дисперсия прогноза будет
В результате на этапе прогноза ошибка оценки увеличивается, а на этапе анализа – уменьшается.
