- дисперсии повторяемости ;
- межлабораторной дисперсии ,
- дисперсии воспроизводимости ;
- среднего значения m.
Каждое сочетание лаборатории и уровня (определенного образца материала) носит название базового элемента (ячейки) эксперимента по оценке прецизионности. В идеальном случае результаты эксперимента с p лабораториями и q уровнями представляют собой таблицу с pq базовыми элементами, каждый из которых содержит n результатов измерений, которые в совокупности могут быть использованы для расчета стандартных отклонений повторяемости и воспроизводимости. Данная идеальная ситуация, однако, не всегда достигается на практике. Отклонения происходят вследствие избыточных данных, недостающих данных и выбросов.
Иногда лаборатория может осуществить и запротоколировать более чем n официально заданных результатов измерений. В таком случае инспектор должен сообщить, почему это было сделано и какие результаты измерений являются корректными. Если объяснение заключается в том, что все результаты равнозначны, то должен быть произведен случайный отбор из имеющихся в наличии результатов измерений с целью выбора запланированного количества результатов для анализа.
В других случаях некоторые из результатов измерений могут отсутствовать, например вследствие потери образца или ошибки при выполнении измерения. По результатам анализа, рекомендованного в 7.1, совершенно незаполненными базовыми элементами можно просто пренебречь, в то время как частично незанятые базовые элементы могут быть учтены в стандартной процедуре расчета.
Это данные среди исходных результатов измерений (или данные, занесенные в таблицу и полученные из результатов измерений), которые настолько отклоняются от сопоставимых данных, внесенных в ту же самую таблицу, что признаются несовместимыми. Опыт показал, что невозможно во всех случаях избежать выбросов, и с ними нужно поступать таким же образом, как с недостающими данными.
Когда на различных уровнях в пределах одной и той же лаборатории имеет место несколько необъяснимых аномальных результатов измерений, данная лаборатория может рассматриваться как выброс, имеющий слишком высокую внутрилабораторную дисперсию и/или слишком большую внутрилабораторную систематическую погрешность. В таком случае может оказаться целесообразным исключить некоторые или все данные такой выпадающей лаборатории.
Настоящий стандарт не содержит статистических тестов, при помощи которых может быть сделан вывод относительно сомнительных лабораторий. Ответственность за первоначальное решение должна возлагаться на эксперта по статистике, однако обо всех отбракованных лабораториях необходимо сообщать совету экспертов для принятия решения о дальнейших действиях.
Явно ошибочные данные должны быть изучены и исправлены или исключены.
Идеальный случай представляет собой p лабораторий с номерами i (i = 1, 2, ... , р), каждая из которых проводит измерения на q уровнях с номерами j (j = 1, 2, ... , q), осуществляя n параллельных определений на каждом уровне (каждая ij комбинация). В итоге представляются pqn результатов измерений. Вследствие появления недостающих (7.2.3) или отклоняющихся (7.2.4) результатов измерений, или же выпадающих лабораторий (7.2.5), или ошибочных данных (7.2.6) эта идеальная ситуация не всегда достижима. Поэтому формы записи, приведенные в 7.2.8 - 7.2.10, а также процедуры, представленные в 7.4, приемлемы для различного количества результатов измерений. Рекомендуемые формы для статистического анализа представлены на рисунке 2. Для удобства они будут упоминаться просто как формы А, В и С.
Форма А - Рекомендуемая форма для сопоставления исходных данных | |||||||||
Лаборатория | Уровень | ||||||||
1 | 2 | ... | ... | j | ... | ... | q-1 | q | |
1 | |||||||||
2 | |||||||||
... | |||||||||
... | |||||||||
... | ... | ||||||||
... | ... | ||||||||
i | y_ijk | ||||||||
... | ... | ||||||||
... | |||||||||
p |
Форма В - Рекомендуемая форма для сопоставления средних значений в базовых элементах | |||||||||
Лаборатория | Уровень | ||||||||
1 | 2 | ... | ... | j | ... | ... | q-1 | q | |
1 | |||||||||
2 | |||||||||
... | |||||||||
i | |||||||||
... | |||||||||
р |
Форма С - Рекомендуемая форма для сопоставления показателей разброса (расхождений) в базовых элементах | |||||||||
Лаборатория | Уровень | ||||||||
1 | 2 | ... | ... | j | ... | ... | q-1 | q | |
1 | |||||||||
2 | |||||||||
... | |||||||||
i | s_ij | ||||||||
... | |||||||||
р |
См. форму А на рисунке 2,
где - количество результатов измерений в базовом элементе (ячейке) для лаборатории i на уровне j;
- любой из этих результатов измерений (k = 1, 2, ... , );
- количество лабораторий, отчитавшихся по крайней мере одним результатом измерений для уровня j (после исключения результатов, признанных выбросами или ошибочными).
Рассчитывают по данным формы А следующим образом
. (2)
Средние значения для базовых элементов необходимо фиксировать с точностью, на одну значащую цифру большей, чем результаты испытаний в форме А.
Рассчитывают по данным форм А (см. 7.2.8) и В (см. 7.2.9) следующим образом. В общем случае в качестве таких показателей используют значения внутриэлементных стандартных отклонений, рассчитываемые на основе данных форм А и В по формуле
214 × 72 пикс.   Открыть в новом окне |
или по эквивалентной формуле
323 × 76 пикс.   Открыть в новом окне |
При использовании формул (3) и (4) необходимо сохранять достаточное количество значащих цифр при расчетах, а именно каждое промежуточное значение должно рассчитываться с количеством значащих цифр, по крайней мере вдвое большим по сравнению с количеством цифр в исходных данных.
Примечание 4 - Если базовый элемент ij содержит лишь два результата измерений, то внутриэлементное расхождение (аналог стандартного отклонения) равно
. (5)
Таким образом, если во всех базовых элементах содержится по два результата измерений, для простоты вместо стандартных отклонений могут быть использованы абсолютные расхождения.
Стандартное отклонение должно выражаться значением, на одну значащую цифру большим, чем в результатах по форме А.