Государственный стандарт РФ ГОСТ Р ИСО 5725-2-2002"Точность (правильность и прецизионность) методов и результатов измерений.Часть 2.Основной метод определения повторяемости и воспроизводимости стандартного метода измерений"(введен в действие постановление стр. 8

b) Анализ исходных данных в пределах базового элемента, для которого в результате проверки с использованием критерия Кохрена обнаруживается сомнительность значения стандартного отклонения.

7.4 Расчет общего среднего значения и дисперсий

7.4.1 Метод анализа

Метод анализа, принятый в настоящем стандарте, включает в себя нахождение оценки общего среднего m и прецизионности для каждого уровня отдельно. Результаты расчета представляют в виде таблицы для каждого значения j.

7.4.2 Исходные данные

Исходные данные, необходимые для расчетов, должны быть представлены в трех таблицах (рисунок 2), соответствующих формам:

- таблице А, содержащей результаты измерений;

- таблице В, содержащей средние значения в базовых элементах;

- таблице С, содержащей показатели разброса (расхождений) в базовых элементах.

7.4.3 Непустые базовые элементы

Следствием правила, сформулированного в 7.3.2.1d, является то, что количество непустых базовых элементов для каждого уровня, используемых при расчете, в таблицах В и С всегда будет одинаковым. Исключение мог бы составить случай, когда, вследствие недостающих данных, базовый элемент в таблице А содержит лишь один результат измерений, что повлечет за собой появление незаполненного базового элемента в таблице С, но не в таблице В. В данном случае можно:

a) отбросить единичный результат измерений, после чего появятся незаполненные базовые элементы в таблицах В и С, или

b) если потерю информации рассматривают как нежелательную, вносят прочерк в форму С.

Количество непустых базовых элементов может быть разным для различных уровней, поэтому и введен индекс j в .

7.4.4 Расчет общего среднего значения

Для уровня j общее среднее значение равно

7.4.5 Расчет дисперсий

Для каждого уровня рассчитывают три дисперсии: повторяемости, межлабораторную и воспроизводимости.

7.4.5.1 Дисперсия повторяемости равна

7.4.5.2 Межлабораторная дисперсия равна

где

Соответствующие расчеты проиллюстрированы примерами в В.1 и В.3 приложения В.

7.4.5.3 Для частного случая, когда все , приведенные формулы упрощаются и имеют вид

Они проиллюстрированы примером, представленным в В.2 приложения В.

7.4.5.4 Когда вследствие случайных эффектов (вызванных ограниченностью выборки) из данных расчетов для получается отрицательное значение, его следует принять равным нулю.

7.4.5.5 Дисперсия воспроизводимости составит

7.4.6 Зависимость дисперсий от m

Далее необходимо определить, зависит ли прецизионность от общего среднего значения m для уровня, и если зависит, то найти соответствующее функциональное соотношение.

7.5 Установление функциональной зависимости между значениями прецизионности и средним значением m для уровня

7.5.1 Регулярная функциональная связь между прецизионностью и m существует не во всех случаях. В частности, если неотъемлемой частью расхождений между результатами измерений является неоднородность материала, функциональная связь будет иметь место лишь в случае, если данная неоднородность является регулярной функцией среднего значения для уровня m. Для твердых материалов различного состава, получаемых по различным технологиям, эта функциональная связь никоим образом не является несомненной. Этот вопрос нужно решить до применения описанной ниже процедуры. В качестве альтернативы для каждого рассматриваемого материала могли бы быть установлены отдельные значения прецизионности.

7.5.2 Обоснования и процедуры вычислений, изложенные в 7.5.3-7.5.9, относятся к стандартным отклонениям как повторяемости, так и воспроизводимости, однако для краткости здесь они представлены только для повторяемости. Будут рассмотрены только три типа соотношений:

I: (прямая линия, проходящая через начало координат);

II: (прямая линия, проходящая выше начала координат);

III: (или ); (экспоненциальная зависимость).

Можно ожидать, что в большинстве случаев существования зависимости по крайней мере одно из данных равенств даст ее удовлетворительное описание. Если же нет, то эксперт по статистике, осуществляющий анализ, должен будет найти альтернативное решение. Чтобы избежать путаницы, постоянные величины a, b, c, C и d, присутствующие в данных равенствах, могут различаться при помощи подстрочных индексов , для повторяемости и , - для воспроизводимости, однако они были опущены в записи в данном разделе опять же для упрощения системы обозначений. Кроме того, было сокращено просто до s для удобства простановки подстрочного индекса уровня j.

7.5.3 Обычно , таким образом, зависимости I и III будут сводиться к для , что может показаться неприемлемым. Однако при упоминании в отчетах данных по прецизионности необходимо разъяснять, что они применимы только в пределах уровней, охватываемых межлабораторным экспериментом по ее оценке.