математическая, применение к результатам наблюдений математических методов для построения выводов об истинных значениях искомых величин. Всякий результат наблюдений, связанных с измерениями, содержит ошибки (погрешности) различного происхождения. По своему характеру ошибки делятся на три группы: грубые, систематические и случайные (о грубых ошибках см. ст. Ошибок теория; в дальнейшем будет предполагаться, что наблюдения не содержат грубых ошибок). Обычно результат измерения Y некоторой величины μ считают случайной величиной; тогда ошибка измерения δ = Y - μ будет также случайной величиной. Пусть b = Еδ - Математическое ожидание ошибки. Тогда Y = μ + b + (δ - b). Величину b называют систематической ошибкой, а δ - b — случайной ошибкой; математическое ожидание δ - b равно нулю. Систематическая ошибка b часто бывает известна заранее и в этом случае легко устраняется. Например, в астрономии при измерении величины угла между направлением на светило и плоскостью горизонта систематическая ошибка является суммой двух ошибок: систематические ошибки, которую даёт прибор при отсчёте данного угла (см. Инструментальные ошибки), и систематические ошибки, обусловленной преломлением лучей света в атмосфере (см. Рефракция). Инструментальная ошибка определяется с помощью таблицы или графика поправок для данного прибора; ошибку, связанную с рефракцией (для зенитных расстояний, меньших 80°), достаточно точно можно вычислить теоретически.
Влияние случайных ошибок оценивается с помощью методов теории ошибок. Если Y1, Y2,..., Yn — результаты n независимых измерений величины μ, произведённых в одинаковых условиях и одинаковыми средствами, то обычно полагают
где b — систематическая ошибка. Об оценке абсолютной погрешности приближённого равенства (1) см. в статьях Наименьших квадратов метод, Значимости уровень.
В том случае, когда требуется вычислить значение некоторой функции f (y) в точке y = μ, причём величина μ оценивается по n независимым наблюдениям Y1, Y2,..., Yn, приближённо полагают
Пусть В — математическое ожидание величины
т. е.
Поэтому В — систематическая ошибка и (Δ - В) — случайная ошибка приближённого равенства (2). Если случайные ошибки независимых наблюдений Y1, Y2,..., Yn подчиняются одному и тому же распределению и функция f (y) в окрестности точки у = μ. мало отличается от линейной, то В ≈ 0 и
где
— арифметическое среднее случайных ошибок исходных наблюдений. Это означает, что если Е (δi - b)2 = σ2, i = 1, 2,..., n, то Е (Δ — В)2 ≈ ЕΔ2 ≈ [f’ (μ)]2σ2/n → 0 при n → ∞.
В случае нескольких неизвестных параметров Н. о. часто осуществляется с помощью метода наименьших квадратов.
Если изучается зависимость между случайными величинами Х и Y на основе совокупности n независимых наблюдений, каждое из которых есть вектор (Xi, Yi), i = 1,..., n, компоненты которого Xi и Yi подчиняются исследуемому совместному распределению величин Х и Y, то соответствующая Н. о. выполняется с помощью теории корреляции (См. Корреляция) и математической статистики (См. Математическая статистика).
При Н. о. приходится делать некоторые предположения и допущения о характере функциональной зависимости, о распределении случайных ошибок и т.д., поэтому Н. о. должна включать в себя проверку согласия сделанных допущений с результатами использованных и др. наблюдений. См. Статистическая проверка гипотез.
Лит.: Уиттекер Э. Т. и Робинсон Г., Математическая обработка результатов наблюдений, пер. с англ., Л. — М., 1935; Линник Ю. В., Метод наименьших квадратов и основы математико-статистической теории обработки наблюдений, 2 изд., М., 1962.
Л. Н. Большев.
Большая советская энциклопедия. — М.: Советская энциклопедия. 1969—1978.