Правила округления при обработке результатов измерений. Погреш-ность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами. Число цифр в промежуточных вычислениях при обра-ботке результатов измерений должно быть на две больше, чем в окончатель-ном результате. Погрешность при промежуточных вычислениях должна быть выражена не более чем тремя значащими цифрами. Сохраняемую зна-чащую при округлении увеличивают до единицы, если отбрасываемая цифра больше или равна пяти, и не изменяют, если она меньше пяти.
При симметричных доверительных границах погрешности оценку из-меряемой величины представляют в форме:
Числовое значение оценки измеряемой величины должно оканчиваться цифрой того разряда, что и значение погрешности D.
2 ОБРАБОТКА РЕЗУЛЬТАТОВ НАБЛЮДЕНИЙ ПРИ 15 ≤ n ≤ 50
2.1 Формируем таблицу исходных данных (табл. 3).
Таблица 3 – Результаты измерений (пример)
| № результата, | Результаты измерений xi, | № результата | Результаты измере- | |
| ni | мм | ний xi, мм | ||
| 20,60 | 19,21 | |||
| 19,92 | 18,21 | |||
| 20,14 | 18,05 | |||
| 21,18 | 18,91 | |||
| 21,10 | 19,00 | |||
| 21,63 | 17,78 | |||
| 19,72 | 18,33 | |||
| 19,67 | 18,50 | |||
| 21,00 | 18,03 | |||
| 18,81 | 18,53 | |||
Примечание – В последующих расчетах результаты указаны без размерностей.
2.2 Исключение систематических погрешностей результатов измере-
ний.
Переменную систематическую погрешность выявляем и исключаем графическим методом. По оси ординат графика (рис. 2) откладываем резуль-таты наблюдений в порядке их получения, по оси абцисс – порядковый но-мер результата.
Полученные точки соединяем ломаной линией. По характеру зависи-мости выбираем линейную аппроксимирующую функцию вида:
где а0, a1 – постоянные коэффициенты;
ni –порядковый номер результата измерений.
Значения коэффициентов а0 и а1 вычисляем методом наименьших квадратов по формулам:
Для расчета коэффициентов регрессии составляем вспомогательную таблицу 4.
Таблица 4 – Исходные данные для расчета коэффициентов регрессии
| Исходные данные | |||||||||||||
| № результата (ni) | Результаты измерений | ||||||||||||
| (xi) | |||||||||||||
| 20,60 | 20,6 | ||||||||||||
| 19,92 | 39,84 | ||||||||||||
| 20,14 | 60,42 | ||||||||||||
| 21,18 | 84,72 | ||||||||||||
| 21,10 | 105,5 | ||||||||||||
| 21,63 | 129,78 | ||||||||||||
| 19,72 | 138,04 | ||||||||||||
| 19,67 | 157,36 | ||||||||||||
| 21,00 | |||||||||||||
| 18,81 | 188,1 | ||||||||||||
| 19,21 | 211,31 | ||||||||||||
| 18,21 | 218,52 | ||||||||||||
| 18,05 | 234,65 | ||||||||||||
| 18,91 | 264,74 | ||||||||||||
| 19,00 | |||||||||||||
| 17,78 | 284,48 | ||||||||||||
| 18,33 | 311,61 | ||||||||||||
| 18,50 | |||||||||||||
| 18,03 | 342,57 | ||||||||||||
| 18,53 | 370,6 | ||||||||||||
| Σ = 210 | Σ = 388,32 | Σ = 3969,84 | Σ = 2870 | ||||||||||
Таким образом, зависимость изменения результата измерения от вре-мени может быть выражена функцией:
Для того, чтобы определить тесноту связи между рассматриваемыми величинами, необходимо вычислить коэффициент корреляции по формуле:
| где | и - средние значения рассматриваемых величин. | |||||||
| Для расчета коэффициента корреляции составляем вспомогательную | ||||||||
| таблицу 5. | ||||||||
| Таблица 5 – Исходные данные для расчета коэффициента корреляции | ||||||||
| ni | xi | |||||||
| 20,60 | -9,50 | 1,18 | -11,21 | 90,25 | 1,39 | |||
| 19,92 | -8,50 | 0,50 | -4,25 | 72,25 | 0,25 | |||
| 20,14 | -7,50 | 0,72 | -5,40 | 56,25 | 0,52 | |||
| 21,18 | -6,50 | 1,76 | -11,44 | 42,25 | 3,09 | |||
| 21,10 | -5,50 | 1,68 | -9,24 | 30,25 | 2,82 | |||
| 21,63 | -4,50 | 2,21 | -9,94 | 20,25 | 4,90 | |||
| 19,72 | -3,50 | 0,30 | -1,05 | 12,25 | 0,09 | |||
| 19,67 | -2,50 | 0,25 | -0,63 | 6,25 | 0,06 | |||
| 21,00 | -1,50 | 1,58 | -2,37 | 2,25 | 2,48 | |||
| 18,81 | -0,50 | -0,61 | 0,31 | 0,25 | 0,37 | |||
| 19,21 | 0,50 | -0,21 | -0,11 | 0,25 | 0,04 | |||
| 18,21 | 1,50 | -1,21 | -1,82 | 2,25 | 1,47 | |||
| 18,05 | 2,50 | -1,37 | -3,43 | 6,25 | 1,87 | |||
| 18,91 | 3,50 | -0,51 | -1,79 | 12,25 | 0,26 | |||
| 19,00 | 4,50 | -0,42 | -1,89 | 20,25 | 0,18 | |||
| 17,78 | 5,50 | -1,64 | -9,02 | 30,25 | 2,68 | |||
| 18,33 | 6,50 | -1,09 | -7,09 | 42,25 | 1,18 | |||
| 18,50 | 7,50 | -0,92 | -6,90 | 56,25 | 0,85 | |||
| 18,03 | 8,50 | -1,39 | -11,82 | 72,25 | 1,92 | |||
| 18,53 | 9,50 | -0,89 | -8,46 | 90,25 | 0,78 | |||
| Σ = 210 | Σ = 388,32 | Σ= -107,52 | Σ= 665,0 | Σ= 27,26 | ||||
Средние значения и определяются по формулам:
Коэффициент корреляции:
По величине коэффициента корреляции можно считать, что связь меж-ду результатом измерений и временем измерений существует сильная связь, т.е. в результатах измерений присутствует систематическая ошибка.
Для исключения систематических погрешностей в результаты измере-ний вводим поправку, определяемую по формуле:
где xp – расчетное значение результата измерений, определенное по ап-проксимирующей функции.
Исправленный результат измерений определяется по формуле:
Для вычислений исправленного результата составляем таблицу 6. Рас-четные значения результатов измерений вычисляем по определенной выше аппроксимирующей функции
Таблица 6 – Расчет исправленных результатов измерений
| № п.п | xix | xpi | ||
| 1 | 2 | 3 | 4 | 5 |
| 20,60 | 20,95 | 20,6 | ||
| 19,92 | 20,79 | -0,16 | 20,08 | |
| 20,14 | 20,63 | -0,32 | 20,46 | |
| 21,18 | 20,47 | -0,48 | 21,66 | |
| 21,10 | 20,31 | -0,64 | 21,74 | |
Продолжение таблицы 6
| 1 | 2 | 3 | 4 | 5 |
| 21,63 | 20,15 | -0,8 | 22,43 | |
| 19,72 | 19,99 | -0,96 | 20,68 | |
| 19,67 | 19,83 | -1,12 | 20,79 | |
| 21,00 | 19,67 | -1,28 | 22,28 | |
| 18,81 | 19,51 | -1,44 | 20,25 | |
| 19,21 | 19,35 | -1,6 | 20,81 | |
| 18,21 | 19,19 | -1,76 | 19,97 | |
| 18,05 | 19,03 | -1,92 | 19,97 | |
| 18,91 | 18,87 | -2,08 | 20,99 | |
| 19,00 | 18,71 | -2,24 | 21,24 | |
| 17,78 | 18,55 | -2,4 | 20,18 | |
| 18,33 | 18,39 | -2,56 | 20,89 | |
| 18,50 | 18,23 | -2,72 | 21,22 | |
| 18,03 | 18,07 | -2,88 | 20,91 | |
| 18,53 | 17,91 | -3,04 | 21,57 | |
Полученные значения исправленных результатов наносим на график (рис. 2) и используем в дальнейших расчетах.
Рис. 2. Графический метод исключения систематических погрешностей
2.3 Оценка измеряемой величины.
Для удобства последующих расчетов составляем вариационный ряд
исправленных результатов (табл. 7).
Таблица 7 – Упорядоченная совокупность результатов наблюдений, мм
| № результа- | Результаты | Вариационный | № резуль- | Результаты | Вариационный |
| та | наблюдений | ряд | тата | наблюдений | ряд |
| 20,6 | 19,97 | 20,81 | 20,89 | ||
| 20,08 | 19,97 | 19,97 | 20,91 | ||
| 20,46 | 20,08 | 19,97 | 20,99 | ||
| 21,66 | 20,18 | 20,99 | 21,22 | ||
| 21,74 | 20,25 | 21,24 | 21,24 | ||
| 22,43 | 20,46 | 20,18 | 21,57 | ||
| 20,68 | 20,6 | 20,89 | 21,66 | ||
| 20,79 | 20,68 | 21,22 | 21,74 | ||
| 22,28 | 20,79 | 20,91 | 22,28 | ||
| 20,25 | 20,81 | 21,57 | 22,43 | ||
Среднее арифметическое значение вычисляем по формуле: