При измерении 
-параметров на точность измерения влияют следующие факторы:
1. дискретизация изображения по координатам и уровню яркость;
2. размер и положение площадки интегрирования при определении вторых моментов интенсивности;
3. фоновый шум ПЗС-камеры;
4. ограниченная точность определения положения ПЗС-камеры;
5. флуктуации интенсивности лазера (нестабильность интенсивности излучения лазера).
Оценим каждый из перечисленных факторов.
Дискретизация изображения по координатам и уровню яркости
Сигнал, получаемый с устройства ввода изображения, является дискретным как по координатам х,у так и по градациям яркости (глубине оттенков серого).
Ошибка, связанная с разрешением камере по глубине оттенков серого, возникает при оцифровке непрерывного сигнала. Другими словами, вместо истинного непрерывного распределения интенсивности I имеем дискретные значения I. Для оценки ошибки определения значений I, моделировалась непрерывное гауссово распределение I:
. (2.58)
Здесь d – диаметр моделируемого пучка в перетяжке. Затем полученное распределение оцифровывалось в пределах от 0 до 
(рис. 2.12).
График зависимости ошибки определения диаметра лазерного пучка от количества уровней квантования сигнала представлен на рис.2.13. Оказалось, что 10-ти и 12-ти битное квантование сигнала по сравнению с 8-ми битным приводит лишь к незначительному увеличению точности определения диаметра пучка (таблица 2.1)
Уровни квантования сигнала у.е
Рис. 2.13 Зависимость ошибки измерений от количества уровней сигнала
Ошибка определения диаметра пучка от пространственного разрешения должен исследоваться в совокупности с зависимостью от дискретности сигнала по градациям яркости. Согласно [130] для матричных детектирующих систем, к которым относятся ПЗС-камеры, пространственное разрешение должно составлять по крайней мере 1/20 диаметра. Зависимость ошибки распределения диаметра пучка от пространственного разрешения камеры при 8-ми битном квантовании сигнала представлена на рис. 2.14. Как видно из графика, если изменяемый пучок занимает на ПЗС-камере площадь не менее 20х20 пикселей, конечное пространственное разрешение ПЗС-камеры не вносит существенных ошибок в результаты измерений. Дальнейшее увеличение пространственного разрешения к улучшению сигналов не приводит (рис. 2.14).
Рис. 2.14. Зависимость ошибки измерений от пространственного разрешения для 256 градаций серого.
Проведенные исследования показали, что в случае, когда измеряемый пучок занимает на ПЗС-камере площадь не менее 20х20 пикселей, измерение 8-ми битной ПЗС-камеры приводит к ошибке в определении диаметра пучка 0,45±0,11%. Это почти на порядок выше, чем при применении 12-ти битной камеры (таблица 2.2). Таким образом, 8-ми битная камера обеспечивает удовлетворительную точность, однако для повышения достоверности результатов могут использоваться камеры с большим пространственным разрешением.