По полученному объединённому ряду погрешностей рассчитывались ординаты эмпирической кривой обеспеченности. В приложении () представлены данные об абсолютных значениях относительных погрешностей по марганцу. При этом в первой колонке указан порядковый номер члена объединённого ряда; во второй колонке с первого по 21 номер идут значения относительных погрешностей полученные по 1990 эталонному году, с 22 по 42 номер – значения по 1991 эталонному году, с 43 по 64 – значения по 1992 эталонному году и с 65 по 87 – значения по 1993 эталонному году; в третьей колонке представлены относительные погрешности, ранжированные в убывающем порядке, в четвертой – их эмпирические обеспеченности, в пятой – абсолютные значения относительных погрешностей, в шестой – ранжированные значения относительных погрешностей.
Далее, по рассчитанным значениям ординат производилось построение эмпирических кривых обеспеченностей в поле клетчатки вероятностей с умеренной асимметричностью, и подбирался теоретический закон распределения, наилучшим образом описывающий эмпирическую кривую обеспеченности. В качестве критерия подбора использовался один из наиболее мощных критериев согласия – критерий согласия Смирнова-Колмогорова nω2. Так на рисунках 5.10–5.14 представлены
Рисунок 5.10 – Кривая обеспеченности погрешностей δ (%) по хрому
Рисунок 5.11 – Кривая обеспеченности погрешностей δ (%) по меди
Рисунок 5.12 – Кривая обеспеченности погрешностей δ (%) по железу
Рисунок 5.13 – Кривая обеспеченности погрешностей δ (%) по марганцу
Рисунок 4.14 – Кривая обеспеченности погрешностей δ (%) по свинцу
оптимальные теоретические кривые обеспеченности относительных погрешностей δ (%) по всем металлам, кроме ртути, из-за короткого ряда погрешностей.
Как можно видеть из рисунков 10-14, для большинства металлов ряды погрешностей наилучшим образом описывает закон распределения Пирсона III-го типа. Лишь для ряда по железу оптимальным был признан закон распределения Гамбела.
Погрешности 0,1% обеспеченности для рядов погрешностей, возникающей при сокращении числа проб в году, составляют от 30 до 135% (марганец и железо соответственно) (таблица 4.6). Таким образом, при сокращении числа проб в году от 12 до 4 в одном случае из ста ошибка вычисления среднегодовой концентрации составит от 30 до 135%. В 5% случаев ошибка будет составлять от 20 до 49% (марганец и свинец). В 20% случаев ошибка составит от 9 до 29% (марганец и свинец). С вероятностью 25% будут получены отрицательные погрешности от -8 до -30% (железо и марганец). С вероятностью 10% ошибка составит от -23 до -53% (медь и марганец). И с вероятностью 5% будет получена ошибка от -24 до -70% (железо и марганец).
Числовые характеристики и критерии согласия для рядов погрешностей определения средней годовой концентрации при 4 измерениях в год, δ (%), приведены в таблице 5.7. Более подробно расчёты для построения кривых обеспеченности представлены в приложении.
Таблица 4.6 – Обеспеченность относительных погрешностей δ (%) при переходе от двенадцатисрочной к четырёхсрочной системе наблюдений
| P, % | 0.1% | 5% | 20% | 75% | 90% | 95% | Закон распределения |
| Cr | 48,3 | 24,4 | 10,6 | -17,1 | -28,8 | -36,0 | Пирсона III, Cs= -0,14 |
| Cu | 36,2 | 10,5 | -17,7 | -22,9 | -25,1 | Пирсона III, Cs= 1,60 | |
| Fe | 57,2 | -8,41 | -18,4 | -23,7 | Гамбела | ||
| Mn | 29,5 | 19,9 | 8,52 | -30,0 | -53,2 | -69,6 | Пирсона III, Cs= -1,20 |
| Pb | 84,2 | 48,5 | 28,7 | -8,93 | -24,2 | -33,3 | Пирсона III, Cs=-0,02 |
Таблица 4.7 – Числовые характеристики и оптимальные законы распределения погрешностей δ (%) определения средней годовой концентрации при 4 измерениях в год
| Металл | Объём выборки | Закон распределения | nω2 | Среднее | СКО | Cs | r1 |
| Cr | Пирсона Ш | 0,119 | -5,01 | 18,4 | -0,14 | ||
| Cu | Пирсона Ш | 0,247 | -3,12 | 20,0 | 1,47 | 0,65 | |
| Fe | Гамбела | 0,327 | 9,13 | 23,3 | 0,22 | 0,67 | |
| Mn | Пирсона Ш | 0,092 | -15,3 | 28,3 | -0,56 | 0,51 | |
| Pb | Пирсона Ш | 0,05 | 7,74 | 25,0 | -0,21 | 0,40 |
Так же были построены оптимальные кривые обеспеченности для рядов погрешностей по их абсолютному значению. Для большинства металлов оптимальным оказался закон распределения Пирсона III-го типа при Cs =2 Cv. И только для рядов погрешностей по марганцу – закон Джонсона (рисунки 5.15-5.19). Для кривых обеспеченности по всем металлам видны общие закономерности. Так, значения погрешности |δ| (%) обеспеченностью 0,1% составила значения от 71 до 111% (для хрома и свинца соответственно). Значения погрешности 5% обеспеченности составляют от 37 до 70% (хром и марганец). Значения 20% обеспеченности – от 23 до 40% (хром и марганец). 75% обеспеченности – от 3 до 8% (железо и свинец). 90% обеспеченности – от 1 до 4% (железо и хром) и для 95% обеспеченности – от 0 до 3% (железо и хром). Это значит, что при переходе от двенадцати проб воды для химического анализа к четырём в год, рассчитанное значение среднегодовой концентрации изменится. Значение этого изменения по модулю в одном случае из ста составит от 71 до 111%. В пяти процентах случаев эта ошибка будет находиться в пределах от 37 до 70%. А в 20% случаев она составит от 23 до 40% (таблица 8). Числовые характеристики радов исследуемых погрешностей и значения критерия согласия Смирнова-Колмогорова nω2 при подборе оптимального закона распределения приведены в таблице 9.
Рисунок 4.15 – Кривая обеспеченности Пирсона III-го типа, Cs=2Cv, погрешностей |δ| (%) по хрому
Рисунок 4.16 – Кривая обеспеченности Пирсона III-го типа, Cs=2Cv, погрешностей |δ| (%) по меди
Рисунок 4.17 – Кривая обеспеченности Пирсона III-го типа, Cs=2Cv, погрешностей |δ| (%) по железу
Рисунок 4.18 – Кривая обеспеченности Джонсона погрешностей |δ| (%) по марганцу
Рисунок 4.19 – Кривая обеспеченности Пирсона III-го типа, Cs=2Cv, погрешностей |δ| (%) по свинцу
Таблица 4.8 – Обеспеченность абсолютных значений относительных погрешностей |δ| (%), при переходе от двенадцатисрочной к четырёхсрочной системе наблюдения.
| P, % | 0.1% | 5% | 20% | 75% | 90% | 95% | Закон распределения |
| Cr | 70,9 | 36,7 | 23,4 | 7,65 | 4,27 | 2,85 | Пирсона III, Cs=2Cv |
| Cu | 88,5 | 41,2 | 23,8 | 5,69 | 2,62 | 1,44 | Пирсона III, Cs=2Cv |
| Fe | 77,5 | 52,4 | 33,5 | 3,26 | 0,56 | 0,15 | Пирсона III, Cs=2Cv |
| Mn | 97,5 | 70,3 | 40,4 | 6,40 | 2,65 | 1,56 | Джонсона |
| Pb | 52,7 | 7,91 | 3,81 | 2,16 | Пирсона III, Cs=2Cv |
Таблица 5.9 – Числовые характеристики и оптимальные законы распределения погрешностей определения средней годовой концентрации ТМ при 4 измерениях в год, | δ | (%)
| Металл | Объём выборки | Закон распределения | nω2 | Среднее | СКО | Cs/Cv | Cv |
| Cr | Пирсона Ш | 0,100 | 15,6 | 10,9 | 0,70 | ||
| Cu | Пирсона Ш | 0,121 | 15,2 | 13,2 | 0,87 | ||
| Fe | Пирсона Ш | 0,256 | 18,1 | 17,2 | 0,95 | ||
| Mn | Джонсона | 0,094 | 20,0 | 21,5 | 0,91 | ||
| Pb | Пирсона Ш | 0,04 | 20,0 | 16,6 | 0,83 |
Для всех подобранных законов распределения наибольшее значение критерия согласия Смирнова-Колмогорова nω2 наблюдается для рядов по железу (таблицы 5.7 и 5.9). Так, для рядов погрешностей с учётом знака δ (%), nω2 = 0,327, а для рядов погрешностей взятых по модулю |δ| (%), nω2 = 0,256. Однако для всех металлов этот критерий не превышает критическое значение nω2 a = 0,4614 для уровня значимости 2a=10%. Это значит, что во всех случаях выбранный нами закон распределения действительно соответствует исследуемым рядам.
Анализ числовых характеристик рядов погрешностей по их абсолютным значениям показал, что коэффициент вариации Cv меняется от 0,70 до 0,95 (хром и железо соответственно) (таблица 5.8). Максимальное СКО наблюдается для рядов по марганцу – 21,5%. Возможно, это связано с тем, что для этого металла мы имеем самый короткий ряд погрешностей – 49 членов. Важно отметить, что среднее ряда для всех исследуемых металлов изменяется незначительно – от 15,2 (медь) до 20,0% (марганец и свинец).
Заключение и выводы
Для оценки влияния неоднородности временных рядов наблюдений за концентрациями ТМ в реке Охта по числу измерений в год на оценку числовых характеристик среднегодовых и среднемноголетних концентраций разработана методика оценки влияния частоты определения концентрации в год на расчётную величину средних годовых концентраций. На основе этой методики и анализа внутригодового распределения измерений концентрации за многолетний период получены следующие выводы:
1. Количество измерений концентраций ЗВ по рекам Санкт-Петербурга в многолетней перспективе менялось от 1 до 12 в год, что делает временные ряды средних годовых значений концентраций ЗВ неоднородными как по числу измерений, так и по их внутригодовому распределению.
2. Внутригодовое распределение отбора проб воды влияет на результаты расчёта среднегодовой концентрации, так как уровень загрязнения рек, находящихся в условиях высокой антропогенной нагрузки, зависит от их гидрологического режима. Максимальные концентрации ТМ на реках города наблюдаются в период весеннего половодья и зимней межени. Минимальные концентрации ТМ наблюдаются в период осенних паводков. К сожалению именно эти периоды слабо освещены наблюдениями.
3. Погрешности расчётов среднегодовой концентрации ТМ при сокращении числа проб в году от двенадцати до четырёх (δ), в отдельные годы достигают значительных величин. Так, экстремальные абсолютные погрешности δ, как отрицательные, так и положительные, для каждого металла практически всегда были выше 25%, а для всех металлов диапазон экстремальных погрешностей δ составил от -68,1% до 65,0%.
4. Для каждого металла значение погрешности δ, вычисленное для разных опорных лет и осреднённое по одному эталонному году, может существенно меняться. Для всех металлов среднее значение погрешностей δ, в зависимости от выбора эталонного года, менялось от -60,5 до 42,0%, что в абсолютном значении составляет от -55,42 мкг/л до 7,01 мкг/л. В связи с тем, что значения погрешностей δ зависят от того, по какому эталонному году они были рассчитаны, для более точной их оценки они были объединены в один ряд по каждому рассматриваемому металлу.
5. Среднемноголетние значения погрешностей δ относительно не высоки и составляют от 13,6% (для железа) до -26,6% (для марганца).
6. Для большинства металлов ряды погрешности за счет уменьшения числа измерений концентраций в год наилучшим образом описываются законом распределения Пирсона III-го типа. Лишь для ряда по железу оптимальным был признан закон распределения Гамбела.
5. Таким образом количество измерений концентраций ТМ в год существенно влияет на оценку среднегодовых значений. Сопоставление среднегодовых концентраций по разным водным объектам, или даже по одному объекту, при разном количестве внутригодовых измерений без учёта смены методики, в общем, не правомерно. Только за счёт изменения количества проб в году, погрешности в вычислениях могут достигать от -68,1 % до 65,0 %. Ряды среднегодовых концентраций ТМ, рассчитанные по разному числу измерений, являются неоднородными и не дают возможность исследования стационарности процессов загрязнения рек во времени и в пространстве, основанных на анализе средних годовых концентраций.
6. Увеличение числа измерений в год без учёта фаз водного режима не ведёт к повышению точности вычисления среднегодовых концентраций ТМ. Поэтому для рек, на которых проводится 4 измерения в год, целесообразно проводить наблюдения в основные фазы водного режима, с обязательным измерением в паводок.
7. Целесообразно проводить более частые наблюдения за химическим составом воды рек. На большинстве рек Санкт-Петербурга пробы отбираются 4 раза в год. Учитывая гидрологичекий режим рек СЗ и неоднородность концентраций ТМ в водах рек, такое количество измерений не освещает годовой ход концентраций ТМ. Необходимо, по крайней мере раз в несколько лет, проводить более детальные наблюдения на реках, для вычисления погрешностей, возникающих при уменьшении числа проб в год.
На основе полученных в данном разделе выводов были разработаны следующие рекомендации по снижению методической погрешности расчёта среднегодовых концентрации при меняющемся от года к году числе измерений:
1. При отборе проб воды для химического анализа менее 12 раз в год, целесообразно их назначение на характерные фазы водного режима, то есть необходимо строгое выполнение существующих рекомендации.
2. При анализе многолетней динамики загрязнения рек, необходимо учитывать возможную неоднородность рядов концентраций ЗВ по количеству наблюдений в год. Учитывая большие погрешности расчета средних годовых концентраций целесообразно помимо обычных расчётов среднегодовых концентраций, по всем измеренным значениям, проводить анализ по среднегодовым концентрациям, рассчитанным по равному количеству измерений в год. В связи с тем, что изменение количества отбора проб для химического анализа можно считать сменой методики наблюдения за загрязнением рек, анализ тренда годовых концентраций ЗВ неправомерен без учёта методической погрешности.
10.4. Оценка экстремальных уровней загрязнения по законам распределения
Шелутко В.А., Урусова Е.С. Теоретические основы и методика оценки экстремального уровня загрязнения речных вод
Для определения экстремальных значений характеристик геоэкологических процессов и оценки экологического риска необходимо использовать расчетные значения этих процессов при заданной обеспеченности. В соответствии с существующими рекомендациями [1] в качестве расчетных значений концентраций загрязняющих веществ в реках в настоящее время часто принимаются максимальные наблюденные значения или значения обеспеченностью в 1-5 % по нормальному закону распределения. Как показала оценка имеющихся данных эти рекомендации в настоящее время устарели [2], так как, во-первых, наблюденные значения часто превышают расчетные; во-вторых, максимальные значения являются неубывающей функции объема выборок и, как правило, с течением времени наблюденные ранее максимальные значения заменяются новыми, часто весьма существенно превышающими прежние.
Поэтому, прежде чем перейти к оценке экологического риска и другим исследованиям, связанными с использованием экстремальных значений загрязнения, представляется необходимым уточнить существующие рекомендации по их расчету. Исходя из этого, на первом этапе данной работы нами были проведены теоретические исследования по выбору оптимальных законов распределения для оценки экстремальных уровней загрязнения.
В качестве объектов исследования использовались временные ряды первичных данных наблюдений на р. Великой за концентрацией общего железа (Fe общ), растворённого в воде кислорода (O2), нитритного, нитратного и аммонийного азота (NO2, NO3 и NH4 соответственно), ряды химического и биохимического потребления кислорода за пять суток (ХПК и БПК5). а также значения расхода воды в период отбора пробы воды на гидрохимический анализ. При этом отдельно проводились исследования по определению законов распределения измеренных значений концентраций и их средних годовых значений. Всего в каждом случае по 48 исходным рядам.
В качестве возможных для описания исходных рядов были выбраны наиболее распространенные в гидрометеорологии и вообще в науках о земле законы распределения: нормальный закон распределения, закон распределения Пирсона III-его типа, трехпараметрическое гамма-распределение, логарифмически нормальный закон распределения, закон распределения Гамбела и Sw закон распределения Джонсона.
Коэффициент асимметрии нормального закона равен нулю и, следовательно, он является симметричным. В соответствии с этим законом возможные изменения величины Х должны лежать лежат в пределах от -∞ до +∞. Следует отметить, что указанные свойства нормального закона распределения не соответствуют свойствам анализируемых нами рядов значений концентраций, нижний предел которых всегда больше или равен нулю. Вместе с тем следует отметить, что методы оценки параметров нормального закона распределения хорошо разработаны и доступны. При его применении для описания рядов наблюдений достаточно знать два параметра: математическое ожидание ряда и его среднеквадратическое отклонение. Поэтому в практических исследованиях иногда допускается, что при описании некоторых рядов, имеющих асимметричное распределение, без особого ущерба может использоваться нормальное распределение. Однако погрешность вследствие ошибочно принятого допущения о нормальности распределения будет различной в каждом конкретном случае.
Закон распределения Пирсона III типа предназначен для описания рядов существенно положительных величин (0 ≤ x < ∞). В связи с тем, большинство рядов мониторинговых наблюдений всегда положительны, данный закон распределения получил достаточно широкое распространение в гидрологии и геоэкологии [3].
Для закона распределения Пирсона III-его типа справедливо следующее неравенство
| Cs ≥ 2 Cv /(1 – kmin), | (1) |
где kmin – минимально возможное значение модульного коэффициента. Соблюдение этого неравенства Именно это требование является основным ограничением применения кривой обеспеченности распределения Пирсона III-его типа. При несоблюдении этого ограничения требования возможно получение отрицательных значений рассматриваемой величины, что для рядов концентраций загрязняющих веществ и расходов воды в данном случае противоречит физическому смыслу.
Закон распределения Крицкого-Менкеля или иначе трехпараметрическое гамма распределение, был предназначен при его разработке для расчета экстремальных значений стока при Cs < 2 Cv. В настоящее время он получил широкое распространение в нашей стране во всех областях инженерной гидрологии. Закон основан на модификации закона кривой распределения Пирсона III-его типа при Cs = 2 Cv путем трансформации исходного признака распределения z.
Основное преимущество кривых обеспеченности Крицкого-Менкеля заключается в том, что при любых соотношениях между Сs и Сv (Сs > 0) нижний предел варьирующего признака равен нулю. Важным обстоятельством является также то, что, в отличие от кривых Пирсона III-его типа, в данном случае значение Сs не связано с началом кривых [3,4].
Вместе с тем следует обратить внимание на противоречие, возникающее при использовании соотношений Cs < 2CV при 0≤ X < ∞. Действительно, при Сs = 0 значения X меняются в пределах от —∞ до ∞, при CS=2CV от0 до ∞. Следовательно, при 0 < С8 < 2CV нижний предел значений X в соответствии с рассмотренными выше законами распределения должен изменяться от 0 до —∞ и с уменьшением Cs до нуля стремится к —∞. Таким образом, очевидно, что с уменьшением CS(CS→0) за пределы 2С v нижний предел значений X должен становиться отрицательным. В законе распределения Крицкого—Менкелятакая переходная зона отсутствует, получается ничем не оправданный разрыв. Возможно, это противоречие носит формальный характер, однако изучение его, по-видимому, необходимо [3].
Для вероятностного описания и расчета метеорологических, гидрологических и гидрохимических величин, которым свойственна повышенная асимметрия (максимальный сток, осадки, максимальные концентрации растворенных веществ), нередко применяется логарифмически нормальное распределение.
Суть данного закона распределения заключается в логарифмическом преобразовании всех членов ряда наблюдений X. При этом, если значения исходного ряда х1, х2, х3,..., хn имели область изменения от 0 до ∞ (0 ≤ х < ∞), (такой ряд заведомо асимметричен, так как изменения ниже нормы ограничены нулём, а выше нормы неограниченны), то преобразованные значения u = lnX; будут уже находиться в пределах от -∞ до ∞, то есть область существования будет приближаться к нормальному закону распределения.
Такой подход весьма прост в техническом отношении и обладает важным принципиальным достоинством: он позволяет использовать весь арсенал достаточно хорошо разработанных методических средств нормального закона. В то же время подобный подход неудобен тем, что при проведении анализа приходится пользоваться логарифмическим языком. Кроме того, многие процессы заведомо не могут принимать нулевые значения, и в этом случае предположение о симметричности распределения не оправдано. Для учета этого обстоятельства было рекомендовано определять минимальное возможное значение путем оптимизации на определенный критерий качества.
За рубежом (главным образом во Франции и франкоязычных странах) в практике расчетов гидрологических характеристик различной вероятности превышения широкое распространение получили кривые обеспеченности Гамбела, основанные на законах распределения крайних членов выборки.
При использовании кривых обеспеченности Гамбела для расчетов экстремальных значений параметров состояния водных объектов необходимо иметь в виду, что при выводе формулы функции распределения были приняты следующие допущения.
– Отдельные значения каждой случайной величины Xi (i = 1,2,..,n) взаимно независимы.
– Функции распределения суточных значений изучаемого параметра в каждом году одинаковы и имеют экспоненциальный характер.
Указанные допущения, принимаемые при применении функции распределения Гамбела для рядов значений гидрометеорологических процессов, вряд ли можно считать достаточно обоснованными с физической точки зрения.
Преобразование Джонсона заключается в нахождении эмпирического распределения путем преобразования нормированной нормально распределенной случайной величины. Преимущество такого преобразования состоит в том, что оценки обеспеченности в этом случае можно получить на основе нормального закона распределения.
Из семейства кривых распределения Джонсона в практике гидрологических исследований более часто используется распределение, основанное на Sw преобразовании (распределение Sw Джонсона)
| τ = ln[(X – a)/(b – X)], | (2) |
где а и b – соответственно нижняя и верхняя граница случайной величины X.
Такой вид распределения Sw Джонсона наилучшим образом подходит для описания рядов мониторинговых наблюдений за параметрами состояния водных объектов, так как в данном случае вводится ограничение для максимального и минимального значения ряда, что соответствует реальному положению [3, 4].
Каждый из рассмотренных выше законов распределения имеет свои граничные условия применения, и не учет их может существенно сказаться на результатах оценки экстремальных значений концентраций загрязняющих веществ. Однако анализ возможных погрешностей в применении к рядам гидрохимических данных еще не проводился. Между тем эта информация имеет существенные отличия от регулярной гидрологической информации [5] и использование разработанных в гидрологических расчетах рекомендаций в данном случае может привести к существенным погрешностям. Учитывая это обстоятельство, нами были проведены численные эксперименты по подбору законов распределения и дан анализ этих результатов с учетом граничных условий применения каждого из них.
Выбор законов распределения в данной работе производился на основе численных экспериментов путем подбора теоретического закона распределения, наилучшим образом согласующегося с эмпирическими данными. Для оценки согласия выбранных законов распределения с данными наблюдений использовался критерий согласия Смирнова, Колмогорова nω2 [5, 6].
 ,
| (3) |
где 
– эмпирическая обеспеченность i члена ряда,
– значение обеспеченности i члена ряда по предполагаемой теоретической кривой обеспеченности.
Если рассчитанное значение 
превосходит критическое значение nω2 (для уровня значимости α = 5 % критическое значение критерия nω2 равняется 0.4614), то выбранный закон распределения не согласуется с имеющимися эмпирическими данными.
Как следует из результатов численных экспериментов практически все теоретические законы достаточно хорошо согласуются с эмпирическими данными. Лишь в нескольких случаях эмпирический критерий согласия nω2 превышает критический для заданного уровня значимости α = 5 %. Такая ситуация наблюдается главным образом для нормального закона распределения по рядам измеренных концентраций NO2 в пунктах наблюдений Псков, Остров и Опочка (верхний и нижний створ), а так же для рядов измеренных концентраций NH4 в пунктах Псков и Остров (нижний створ) и в пункте Опочка (верхний створ).
Таким образом, в данном случае гипотеза о согласии эмпирических и теоретических законов распределения почти во всех случаях не опровергается. Поэтому для выбора оптимального из перечисленных законов распределения потребовались дополнительные исследования. Они основывались на численных экспериментах с использованием прикладного программного пакета GIDSTAT 2.0 разработанного на кафедре Прикладной экологии и заключались в расчете и сопоставлении критериев nω2 рассматриваемых законов распределения по каждому ряду наблюдений.
По данным, полученным на основе численных экспериментов, составлялись таблицы, в которых по каждому исходному ряду наблюдений были указаны законы распределения в порядке возрастания критерия nω2, то есть убывания их согласованности с эмпирическими кривыми обеспеченности. По этим данным для каждого закона распределения было рассчитано число случаев, когда закон распределения является наиболее согласованным с эмпирическими данными (минимальный критерий согласия), менее согласованным с эмпирическими данными (второй по величине минимум критерия согласия) и т.д.
В таблицах 1 и 2 представлены сводные данные по оценке согласия теоретических законов распределения с эмпирическими данными для измеренных и средних годовых концентраций. В первой колонке таблицы приведены названия теоретических законов распределения, во второй, третьей, четвертой и пятой колонках представлены число случаев, когда законы распределения по согласию с эмпирическими данными занимали первое, второе, третье и четвертое место.
Очевидно, что чаще всего наиболее согласованным с эмпирическими данными для измеренных концентраций является закон распределения Пирсона III-его типа. Он дает наилучшие результаты в 24 случаях из 42 и в 11 случаях занимает по согласию с эмпирическими данными второе место.
По рядам средних годовых концентраций чаще всего наиболее согласованным с эмпирическими данными является также закон распределения Пирсона III-его типа. Он дает наилучшие результаты в 20 случаях из 42 и в 10 случаях занимает по согласию с эмпирическими данными второе место.
Наконец, в таблице 3 представлены суммарные результаты аналогичных численных экспериментов по измеренных и рядам средних годовых концентраций. В этом случае закон распределения Пирсона III-его типа дает наилучшие результаты в 44 случаях из 86 и в 21 случае занимает по согласию с эмпирическими данными второе место.
| Таблица 1 – Расчет суммы порядковых номеров теоретических законов распределения по критерию согласия для рядов измеренных значений концентраций | |||||
| Закон распределения | Порядковые номера по критериям согласия | ||||
| Взвешенная сумма | |||||
| Пирсона III-его типа | |||||
| Гамбела | |||||
| Джонсона | |||||
| Нормальный | |||||
| Крицкого-Менкеля | |||||
| Логарифмически-нормальный |
| Таблица 2 – Расчет суммы порядковых номеров теоретических законов распределения по критерию согласия для рядов средних годовых концентраций | |||||
| Закон распределения | Порядковые номера по критериям согласия | ||||
| Взвешенная сумма | |||||
| Пирсона III-его типа | |||||
| Гамбела | |||||
| Джонсона | |||||
| Нормальный | |||||
| Крицкого-Менкеля | |||||
| Логарифмически-нормальный |
Нельзя не отметить, что полученные результаты являются выборочными и различия в значениях критерия согласия часто являются незначимыми. Поэтому для подтверждения полученных выводов была проведена интегральная оценка согласия теоретических и эмпирических законов распределения. В качестве интегрального показателя была принята взвешенная оценка согласия законов распределения с эмпирическими данными K, определяемая для каждого закона распределения по формуле
| K = 1×n1 + 2 ×n2 + 3 ×n3 +4 × n4, | (4) |
где 1, 2, 3, 4 – порядковые номера по степени согласованности каждого данного закона распределения с эмпирическим распределением исходных рядов;
n1, n2, n3, n4 – число случаев, когда закон распределения по согласию занимал 1, 2, 3 и 4 место.
Результаты расчетов по формуле (4) представлены в последней колонке таблиц 1 – 3.
| Таблица 3 – Расчет суммы порядковых номеров теоретических законов распределения по критерию согласия для рядов измеренных и средних годовых концентраций | |||||
| Закон распределения | Порядковые номера по критериям согласия | ||||
| Взвешенная сумма | |||||
| Пирсона III-его типа | |||||
| Гамбела | |||||
| Джонсона | |||||
| Нормальный | |||||
| Крицкого-Менкеля | |||||
| Логарифмически-нормальный |
Из формулы (4) следует видно, что чем меньше значение K, тем лучше теоретический закон распределения описывает рассматриваемые ряды гидрохимических параметров. Наименьшая взвешенная сумма, намного отличающаяся от всех других, получилась для закона распределения Пирсона III-его типа.
Таким образом, на основе численных экспериментов по подбору оптимальных законов распределения, в наибольшей степени согласующихся с данными о концентрациях загрязняющих веществ, были получены следующие выводы:
1) Для измеренных и средних годовых показателей биогенного загрязнения речных вод оптимальным законом распределения является закон Пирсона III-его типа. Следующим за ним по критерию согласия с эмпирическими данными является закон распределения Гамбела. Другие, из рассмотренных законов распределения, на много меньше подходят для описания процессов биогенного загрязнения речных вод по эмпирическим данным
2) Нормальный закон распределения, рекомендуемый для применения в гидрологии и гидрохимии, только в одном случае из 84 является оптимальным, для ряда среднегодовых значений БПК5 в пункте наблюдений Остров (нижний створ).
Литература
1 Справочник по гидрохимии / Под ред. А.М. Никанорова. – Л.: Гидрометеоиздат, 1989. – 391с.
2 Шелутко В.А. Оценка экстремальных уровней химического загрязнения речной сети урбанизированных территории / В.А Шелутко/ // Вопросы прикладной экологии. Сборник научных трудов. 2002 г. – СПб.: РГГМУ. – 2002. – С. 15-22.
3 Шелутко В.А.Численные методы в гидрологии / В.А. Шелутко. – Л.: Гидрометеоиздат, 1991. – 238 с.
4 Третьяк Л.Н. Обработка результатов наблюдений (учебное пособие) / Л.Н. Третьяк. – Оренбург: ГОУ ОГУ. –2004. – 171 с.
5 Шелутко В.А. Анализ погрешностей расчета средних годовых концентраций загрязняющих веществ в реках за счет неучета водности / В.А. Шелутко, Е.В. Колесникова // Вестник СПбГУ. Сер. 7, Геология и география. – 2008. – вып.3. – С. 92-104.
6 Методы планирования и обработки результатов инженерного эксперимента / Под общ. ред. Н.А. Спирина. – Екатеринбург: ГОУ ВПО УГТУ-УПИ. – 2004. – 257 с.