Числовые значения технических величин являются большей частью приближенными.
Очень часто неопытные лица добиваются при вычислениях получения такой точности результатов, которая совершенно не оправдывается точностью использованных данных. Это приводит к бесполезной затрате труда и времени.
Рассмотрим такой пример. Пусть требуется определить сопротивление R некоторого проводника. При измерении вольтметром с точностью до 0,01В определили напряжение на концах этого проводника U=(9,38±0,01)В. Затем, амперметром с точностью до 0,01А измерен протекающий по этому проводнику ток I=(3,46±0,01)А.
Без критического подхода к вычислениям можно получить такой результат
R= U / I = 9,38В / 3,46А = 2,71098 Ом.
Но так как числа 9,38 и 3,46 приближенные, то последние цифры в этих числах сомнительные. Эти числа при измерении могли быть получены такими: U=9,39 или U=9,37; I=3,45 или I=3,47. При измерении с указанной выше точностью могла быть допущена ошибка на 0,01 как в сторону увеличения напряжения так и в сторону его уменьшения. То же самое в отношении тока.
Таким образом, сопротивление проводника, если его вычислять с точностью до пятого десятичного знака, как это сделано выше, могло оказаться
R= 9,37В / 3,47А = 2,70028 Ом
или
R= 9,39В / 3,45А = 2,72174 Ом
Сравнение всех трех результатов показывает, что они отличаются уже вторыми десятичными знаками и что достоверным (надежным) является лишь первый десятичный знак, а второй десятичный знак является сомнительным (не вполне надежным). Цифры, выражающие остальные десятичные знаки, являются совершенно случайными.
Во избежание бесполезных затрат труда и времени принято вычислять, кроме достоверных (надежных) знаков, еще только один-сомнительный (не вполне надежный).
В рассмотренном примере надо было вести вычисление до второго десятичного знака
R= 9,38В / 3,46А = 2,71 Ом.
Приближенные вычисления следует вести с соблюдением следующих правил.
1. При сложении и вычитании приближенных чисел окончательный результат округляют так, чтобы он не имел значащих цифр* в тех разрядах, которые отсутствуют хотя бы в одном из приближенных данных.
Например, при сложении чисел
4,462
2,38
1,17278
1.0262_
9,04098
следует сумму округлить до сотых долей, т. е. принять сумму равной 9,04.
2. При умножении следует округлять сомножители так, чтобы каждый из них содержал столько значащих цифр, сколько их имеет сомножитель с наименьшим числом таких цифр.
Например, вместо вычисления выражения
3,723´2,4´5,1846
следует вычислять выражение
3,7´2,4´5,2.
В окончательном результате необходимо оставлять такое же число значащих, цифр, какое имеется в сомножителях, после их округления.
В промежуточных результатах следует сохранять на одну значащую цифру больше. Такое же правило соблюдается и при делении приближенных чисел.
3. При возведении в степень следует в полученном результате брать столько значащих цифр, сколько их имеется в основании степени. Например,
1,322 » 1,74.
4. При извлечении корня в результате нужно брать столько значащих цифр, сколько их имеется в подкоренном выражении. Например,
» 1,08 ´ 10 –4
5. При вычислении сложных выражений следует применять указанные правила в соответствии с видом производимых действий. Например,
Сомножитель 5,1 имеет наименьшее число значащих цифр - две. Поэтому результаты всех промежуточных вычислений должны округляться до трех значащих цифр:
» 
» 
» 3,79´10-3
После округления результата до двух значащих цифр получаем 3,8´10-3.
* Значащими цифрами называются все цифры, кроме нуля, а также и нуль в двух случаях: 1) когда нуль стоит между значащими цифрами; 2) когда нуль стоит в конце числа и когда известно, что единиц соответствующего разряда в данном числе не имеется.