Численные значения величин, с которыми приходится иметь дело при решении физических задач, как правило, являются приближёнными. Приближённые вычисления следует вести с соблюдением следующих правил.
2.1. При сложении и вычитании приближённых чисел окончательный результат округляют так, чтобы он не имел значащих цифр в тех разрядах, которые отсутствуют хотя бы в одном из слагаемых. Например, при сложении чисел
4,462+2,38+1,17273+1,0263=9,04093
следует сумму округлить до трех значащих цифр, т.е. принять её равной 9,04.
2.2. При умножении необходимо округлять сомножители так, чтобы каждый из них содержал столько значащих цифр, сколько их имеет сомножитель с наименьшим числом таких цифр.
Например, вместо вычисления выражения
3,723×2,4×5,1846
следует вычислять выражение
3,7×2,4×5,2.
В окончательном результате следует оставлять такое же число значащих цифр, какое имеется в сомножителях, после их округления.
В промежуточных результатах допускается сохранение на одну значащую цифру больше.
2.3. При возведении в квадрат или в другую степень следует в степени оставлять столько же значащих цифр, сколько их имеется в основании степени. Например,
1,322 » 1,74.
2.4. При извлечении корня любой степени в результате нужно брать столько значащих цифр, сколько их имеется в подкоренном выражении. Например,
.
2.5. При вычислении сложных выражений следует применять указанные правила в соответствии с видом производимых действий. Например,
.
Сомножитель 5,1 имеет наименьшее число значащих цифр – две. Поэтому после округления результата до двух значащих цифр получаем
3,8×10-3.
При вычислениях рекомендуем пользоваться калькулятором с применением вышеуказанных правил.
Приложение 3. Таблицы физических величин
Таблица П3.1
Основные физические постоянные (округленные значения)
| Физическая постоянная | Обозначение | Значение |
| Ускорение свободного падения | g | 9,81 м/с2 |
| Гравитационная постоянная | G | 6.67×10-11м3/(кг×с2) |
| Постоянная Авогадро | NA | 6.02×1023 моль-1 |
| Молярная газовая постоянная | R | 8.31 Дж/(моль×К) |
| Стандартный объем | Vm | 22.4×10-3 м3/моль |
| Постоянная Больцмана | k | 1.38×10-23 Дж/К |
| Элементарный заряд | е | 1.60×10-19 Кл |
| Скорость света в вакууме | с | 3.00×108 м/с |
| Постоянная Планка | h ħ | 6,63×10-34 Дж×с 1.05×10-34 Дж×с |
| Радиус Бора | а | 0.529×10-10 м |
| Магнетон Бора | mB | 0.927×10-23 А/м2 |
| Энергия ионизации атома водорода | Еi | 2.18×10-18 Дж |
| Атомная единица массы | а. е. м. | 1.660×10-27 кг |
| Электрическая постоянная | eo | 8.85×10-12 Ф/м |
| Магнитная постоянная | mo | 4p×10-7 Гн/м |
Таблица П3.2
Некоторые астрономические величины
| Наименование | Значение |
| Радиус Земли | 6.37×106 м |
| Масса Земли | 5.98×1024 кг |
| Радиус Солнца | 6.95×108 м |
| Масса Солнца | 1.98×1030 кг |
| Радиус Луны | 1.74×106 м |
| Масса Луны | 7.33×1022 кг |
| Расст. от центра Земли до центра Солнца | 1.49×1011 м |
| Расст. от центра Земли до центра Луны | 3.84×108 м |
Таблица П3.3
Относительные атомные массы (округленные значения) Аr
и порядковые номера Z некоторых элементов
| Элемент | Символ | Аr | Z | Элемент | Символ | Аr | Z |
| Азот | N | Марганец | Mn | ||||
| Алюминий | Al | Медь | Cu | ||||
| Аргон | Ar | Молибден | Mo | ||||
| Барий | Ba | Натрий | Na | ||||
| Ванадий | V | Неон | Ne | ||||
| Водород | H | Никель | Ni | ||||
| Вольфрам | W | Олово | Sn | ||||
| Гелий | He | Платина | Pt | ||||
| Железо | Fe | Ртуть | Hg | ||||
| Золото | Au | Сера | S | ||||
| Калий | K | Серебро | Ag | ||||
| Кальций | Ca | Углерод | C | ||||
| Кислород | O | Уран | U | ||||
| Магний | Mg | Хлор | Cl |
Таблица П3.4