Как и в первой части работы экспериментальные данные содержат грубые промахи, которые можно устранить способами, приведенными выше. Для ускорения процедуры очистки используется метод Шарлье. Производится оценка параметров разброса экспериментальных точек относительно теоретической линии Y теор. Этот разброс характеризуется величиной Z i, вычисляемой в последнем столбце табл. 2.3.
Алгоритм поиска грубых промахов и их исключения использует формулу (1.11). Вычисления производятся в таблице 2.4.
Определение характеристик для выявления грубых промахов
Таблица 2.4.
| N o i | I приближение | II приближение | III приближение | IV приближение | ||||
| Zi | (Zi-Zср)2 | Zi | (Zi-Zср)2 | Zi | (Zi-Zср)2 | Zi | (Zi-Zср)2 | |
| … | ||||||||
| N1 | N II= | N II= | N IV | |||||
|
| 
|
| 
|
| 
|
| |
| Z1 ср = | σ1= | Z II ср = | σII= | Z III ср = | σIII= | Z IVср = | σIV= |
Окончательные вычисления с суммами, полученными в табл.2.4 выполняются в таблице 2.5.
Определение грубых промахов при аппроксимации функцией y теор= axb
Таблица 2.5
| № стр | Наименование показателя, формула | I приближение | II приближение | III приближение | IV приближение |
| Количество членов N | |||||
Среднее 
| |||||
Дисперсия 
| |||||
Среднеквадратичное отклонение σ=  =
| |||||
| Коэффициент Шарлье, t ш (данные табл.1.5, формула интерполяции (1.6) | |||||
| Предельное отклонение ± t ш σ | |||||
| Zmax | |||||
| Zmin | |||||
| D Z 1= Z ср – Zmin | |||||
| D Z 2= Zmax - Z ср; | |||||
| Сравнение D Z 1≥ t ш σ | гр. промах Zmin =/нет промаха | ||||
| Сравнение D Z 2≥ t ш σ | гр. промах Zmax =/нет промаха | ||||
| Общее количество грубых промахов nпрома (указывается в столбце последнего приближения) |
Представление конечных результатов
После очистки ряда от грубых промахов производится окончательное вычисление коэффициентов a и b в формате табл.2.6 (см. табл.2.3).
Окончательное определение коэффициентов аппроксимирующей функции y теор= axb
Таблица 2.6
| №эксп. i | хi эксп | уi эксп | y теор= axb | Xi = ln xi | Yi = ln yi | 
| Xi Yi | Yi теор= A + bXi |
| …. | ||||||||
| N | ||||||||
|
|
| 
|
|
| - |
b = ….; А= (см. замечания к табл. 2.3); коэффициент а определяется по формуле а 
(или на калькуляторе а= ехр(А)= _____).
В итоге расчетов получены следующие функции:
Результат определения аппроксимирующих функций Таблица 2.7
| Аппроксимирующая функция y теор= axb | y теор =2.31 ∙105∙ х-2.563 |
| Линеаризованная аппроксимирующая функция Yi теор= A + bXi | Yi теор= 12.35- 2.563∙ Х |
Рис. 2.2. Исходная экспериментальная зависимость и аппроксимирующая функция yi теор= axib
(пример условный)
Рис. 2.3. Линеаризованная экспериментальная зависимость и линейная аппроксимирующая функция Yi теор= A + bXi (пример условный)
.
По результатам расчета в табл. 2.6 строятся графики исходной и линеаризованной зависимостей. Исходная зависимость строится в координатах хi эксп - уi эксп, на этом же графике наносится кривая аппроксимирующей функции yi теор= axib. Пример графика дан на рис. 2.2. Второй график строится в координатах Xi - Yi, на нем наносится линейная функция Yi теор = A + bXi.. Пример графика показан на рис. 2.3.
2.4. Аппроксимация данных зависимостью y теор= 
и очистка
Экспериментальной функции от грубых промахов
Линеаризация данных и вычисление коэффициентов
Линеаризованной функции
Выбирается способ линеаризации путем замены переменных - для второй функции табл.2.2. производится замена Y =ln()=ln a + bx;
А = ln a; Итог линеаризации: Y = A + bх.
В соответствии с формулой линеаризации производится преобразование табл. 2.1 в рабочую таблицу 2.8 (типа табл. 2.3) по формулам Yi =ln(y i); столбец хi остается без изменений (поэтому количество столбцов в табл.2.8 на один меньше, чем в табл. 2.3), и производятся вычисления составляющих формулы (2.3). Производится вычисление табличного теоретического значения линеаризованной функции Yi теор= A + bхi и значения относительного отклонения Z i. экспериментального значения Yi от Yi теор.
Текст оформляется аналогично данному в п. 2.3.1.