Точность учитывает погрешности квантования, нелинейности входных цепей и формирователей, погрешности производственной настройки, шум и кратковременный дрейф параметров. Существуют две разновидности определения точности: абсолютная и относительная точность.
Абсолютная точность – это отношение действительного выходного напряжения преобразователя, соответствующего полной шкале, к его расчетному выходному значению.
В АЦП абсолютная точность определяется тремя видами погрешностей: внутренне присущей преобразователям дискретной погрешностью (±Ѕ единицы младшего разряда) или погрешностью квантования, аналоговой погрешностью, обусловленной низким качеством элементов схемы (она обычно определяется в виде отношения полной погрешности в процентах ко всему суммарному входному сигналу), и апертурной погрешностью.
Погрешность линейности или нелинейность можно определить как максимальное отклонение любой из этих дискретных точек от прямой линии, проведенной через крайние точки характеристики преобразования. Эти крайние точки устанавливаются потребителем в процессе калибровочной настройки.
Относительная погрешность в АЦП – это максимальное отклонение выходных цифровых кодов от прямой линии, проведенной через нуль и точку, соответствующую полной шкале.
Нелинейность преобразователя – это отклонение от прямой линии, проведенной через крайние точки характеристики преобразования для заданного диапазона работы.
В нашем случае прямая, соединяющая две крайние точки рабочего диапазона датчика 600 и 1100 єС, является идеальной линейной характеристикой преобразования.
Из графиков (рис.1, рис.2) видно, что максимальное отклонение характеристики датчика от идеальной прямой появляется в значении шкалы 850°С и составляет 0,309.
Такое же значение подтверждают математические вычисления в программе Microsoft Excel (из значений идеальной линейной характеристики вычитаются значения НСХ датчика ТХА(К)).
Относительная погрешность – это разность между номинальным и действительным отношениями аналоговой величины, соответствующей заданному цифровому входному сигналу, к полной шкале, независимо от калибровки последней.
Максимальная относительная погрешность нелинейности (в %) в диапазоне температур от 600 до 1100 єС, определяется по формуле (1):
или 
(1)
где
– значение идеальной линейной характеристики преобразования для температуры 850 єС;
– значение термо-э.д.с. НСХ термопары ТХА(К) для температуры 850 єС;
– диапазон значений термо-э.д.с. НСХ термопары ТХА(К) для крайних точек характеристики преобразования.
Итак, максимальная относительная погрешность нелинейности (в %) составит:
Наш измерительный преобразователь должен обеспечивать класс точности 0,25. Также измерительный преобразователь должен обеспечивать запас по погрешности, который должен быть не менее 20%., т.е. 20% от 0,25 составляют 0,05 и тогда точность преобразования должна быть лучше 0,2 (0,25 - 0,05= 0,2).
В нашем случае максимальная погрешность нелинейности составляет 1,53 %, что больше требуемой (0,2%), поэтому необходимо провести линеаризацию для обеспечения заданного класса точности измерения температуры датчика ТХА(К).