Как известно при измерении (испытании, контроле, анализе) физической величины результат должен быть выражен с точностью, соответствующей поставленной задаче и установленным требованиям.
Точность результата измерений представляет собой качественный показатель, который при обработке результатов наблюдений (единичных наблюдаемых значений) должен быть выражен через его количественные характеристики. При этом наблюдаемое значение согласно ГОСТ Р 50779.10- 2000 (ИСО 3534.1-93) «Статистические методы. Вероятность и основы статистики. Термины и определения» - это значение характеристики, полученное в результате единичного наблюдения при многократных измерениях.
В существующих нормативных документах в настоящее время применяется ряд показателей точности. Проведенный нами анализ нормативнозаконодательных документов показал, что в ФЗ «Об обеспечении единства измерений» определение фундаментального метрологического понятия «показатели точности измерений» отсутствует.
В применяемых в последнее время (РМГ 29-99 ) и новом (РМГ 29-2013 ) терминологических документах понятие «показатели точности измерений» и его определение также не регламентированы.
Среди актуальных документов (межгосударственных - ГОСТ, национальных - ГОСТ Р, а также методических инструкций и рекомендаций - МИ, Р, РД) мы также не нашли стандарта, регламентирующего показатели точности измерений и формы их выражения.
Однако в примечании к понятию «результат измерений», приведенному в РМГ 29-2013, указано, что «... к показателям точности относятся, например, среднее квадратическое отклонение, доверительные границы погрешности, стандартная неопределенность измерений, суммарная стандартная и рас ш ирен ная неопредел ей ности ».
ГОСТ Р ИСО 5725-1-2002 определяет точность как степень близости результата измерений к принятому опорному значению. В нормативном документе отражена концепция «принятого опорного значения», применяемая в международной метрологической практике вместо концепции «истинного значения физической величины», характерной для отечественной метрологии до 2003 года (до принятия в нашей стране МС ИСО 5725).
В документе в качестве примечания (со ссылкой на международный стандарт) поясняется «... применительно к многократным измерениям «термин «точность», когда он относится к серии результатов измерений (испытаний), включает сочетание случайных составляющих и общей систематической погрешности (ИСО 3534-1), что не противоречит подходу к выражению точности через составляющие погрешности результата измерений». Кроме общего понятия качественной характеристики точности приведено пояснение, какие параметры могут быть приняты за количественные характеристики многократных измерений (испытаний).
Однако до 1986 года в нашей стране показатели точности были регламентированы ГОСТ 8.011-72 «ГСИ. Показатели точности измерений и формы выражения результатов измерений». В настоящее время ГОСТ 8.011-72 заменен на МИ 1317 (документ актуален в версии 2004 года ).
В метрологической практике точность измерений описывается рядом показателей, приведённых на рисунке 1.3, причём часть из них выражается в концепции погрешности, а другая часть - в концепции неопределенности.
В новой версии Международного словаря терминов и определений - VIM 3 (2010) особо подчеркивается, что «понятие «точность измерений» не является величиной и ей нс может быть присвоено числовое значение величины. Считается, что измерение является более точным, если оно имеет меньшую погрешность измерения». Кроме этого в VIM 3 отмечается, что полную характеристику точности измерений можно получить, оценивая оба показателя точности - правильность и прецизионность. Термин «точность измерений» не следует использовать для обозначения правильности измерений, а термин прецизионность измерений - для обозначения «точности измерений», хотя последнее имеет связь с двумя этими понятиями .
Рисунок 1.3 - Показатели точности результатов, традиционно используемые в нормативных документах
Из всех представленных и традиционно применяемых в метрологической практике показателей точности мы выделили только те, которые дают полное представление о показателях точности результатов измерений. Результаты проведенного анализа сведены в таблицы 1.1 и 1.2.
В качестве «показателей точности измерений», как следует из схемы (рисунок 1.4) могут также использоваться, характеристики,
регламентированные ГОСТ Р 8.563-2009:
Характеристики погрешности измерений по МИ 1317-2004 ;
характеристики неопределенности по РМГ 43-2001 (прекращено применение МД на территории РФ с 01.10.2012 года) ;
Показатели точности по ГОСТ Р ИСО 5725-2002 .
Таблица 1.1 - Анализ возможности применения характеристик погрешности в качестве показателей точности результата измерений_
|
Характеристика или г, математическое выражение Показатель г в концепции погрешности или неопределенности |
Комментарий |
|
|
1 Погрешность измерений |
 |
Выражение (1) имеет теоретический характер, поскольку истинное значение измеряемой величины всегда остается неизвестным, поэтому на практике применяется уравнение (2). В качестве модели погрешности измерений принимается модель случайной величины (или случайного процесса). Поэтому метрологи не рассматривают возможность использования выражения (2) для разработки представлений о показателях точности измерений. |
|
2 Границы, в погрешность измерений находится с заданной вероятностью |
 |
Границы погрешности измерений для заданной вероятности дают полное основание судить о возможной степени близости результата измерения к действительному значению измеряемой величины. |
|
3 Среднее квадрагги ческое отклонение погрешности |
 |
Знание Од позволяет (при определенных предположениях о виде функции распределения плотности вероятностей погрешностей) оценить интервал значений, в котором может находиться Х л. |
|
4 Среднее квадратическое отклонение случайной составляющей погрешности измерений |
 |
Знание только среднего квадратического отклонения случайной составляющей погрешности измерений Одел в общем случае не позволяет судить О возможной степени близости результатов измерений к действительному значению измеряемой величины Х л, поскольку дополнительно к случайной составляющей погрешности измерений может иметь место систематическая составляющая. |
Продолжение таблицы 1.1
|
5 Сходимость результатов измерений |
Оценивается мерами сходимости |
Сама по себе сходимость измерений нс дает ни малейшего представления о границах, в которых может находиться погрешность измерений. |
|
6 Воспроизводимость результатов |
Оценивается мерами воспроизводимости |
Подобно сходимости измерений, воспроизводимость также не дает представления о границах, в которых может находиться погрешность измерений. |
|
7 Среднее квадратическое отклонение систематической составляющей погрешности измерений |
 |
Сами по себе характеристики систематической составляющей погрешности измерений (какими бы они ни казались удовлетворительными) не позволяют судить нам о границах, в которых может находиться (при заданной вероятности) суммарная погрешность измерений. Причины этого - не учёт роли случайной составляющей погрешности измерений. |
|
8 Границы, в которых не исключённая систематическая составляющая погрешности измерений находится с заданной вероятностью |
 |
|
|
9 Прецизионность измерений |
Характеризует степень близости между нсзависи м ы ми резул ьтатам и измерений, полученными при определенных принятых условиях. |
Знание только стандартного отклонения прецизионности не позволяет судить о степени возможной близости результатов измерений к действительному значению измеряемой величины Х л. |
Регламентированные национальным стандартом ГОСТ Р ИСО 5725-2002, гармонизированным с международными требованиями, показатели точности измерений приведены на рисунке 1.5.
Рисунок 1.4 - Показатели точности измерений методики, регламентированные ГОСТ Р 8.563-2009
Рисунок 1.5 - Показатели точности измерений, регламентированные в ГОСТ Р ИСО 5725-1-2002
Таблица 1.2 - Анализ возможности применения характеристик
неопределенности в качестве показателей точности результата измерений_
|
Показатель |
Характеристика или математическое выражение в концепции погрешности или неопределенности |
Точность измерительного прибора – это его свойство, характеризующее степень приближения показаний данного измерительного прибора к действительным значениям измеряемой величины и определяется той наименьшей величиной, которую с помощью этого прибора можно определить надёжно.
Точность прибора зависит от цены наименьшего деления его шкалы и указывается или на самом приборе, или в заводской инструкции (паспорте). Заметим, что точность измерений обратно пропорциональна относительной погрешности измерений Е: = .
Погрешность электроизмерительных приборов определяется классом точности (или приведенной погрешностью Е пр), который указывается на лицевой стороне прибора соответствующей цифрой в кружке. Классом точности прибора К называют выраженное в процентах отношение абсолютной погрешности к предельному (номинальному) значению х пр измеряемой величины, т. е. к наибольшему её значению, которое может быть измерено по шкале прибора (предел измерения):
.
Зная класс точности и предел измерения прибора, можно рассчитать его абсолютную погрешность:
Эта погрешность одинакова для любого измерения сделанного с помощью данного прибора. Классов точности семь: 0,1; 0,2; 0,5; 1,0; 1,5; 2,5; 4,0. Приборы первых трех классов точности (0,1; 0,2; 0,5) называются прецизионными и используются при точных научных измерениях, приборы остальных классов точности называются техническими . Приборы без указания класса точности считаются внеклассными.
Пример . Сила тока измеряется в цепи амперметром, класс точности которого К=0,5, а шкала имеет предел измерения I пр =10 А. Находим абсолютную погрешность амперметра:
Отсюда следует, что амперметр позволяет измерять силу тока с точностью не более 0,05 А, и поэтому нецелесообразно делать отсчёт по шкале прибора с большей точностью.
Допустим, что с помощью данного амперметра были измерены три значения силы тока: I 1 =2 А; I 2 =5 А; I 3 =8 А. Находим для каждого случая относительную погрешность: 
; 
.
Из этого примера следует, что в третьем случае относительная погрешность самая маленькая, то есть чем больше величина отсчёта по прибору, тем меньше относительная погрешность измерения. Вот почему для оптимального использования приборов рекомендуется их подбирать так, чтобы значение измеряемой величины находилось в конце шкалы прибора. В этом случае относительная погрешность приближается к классу точности прибора. Если точность прибора неизвестна, то абсолютная погрешность принимается равной половине цены наименьшего деления (линейка, термометр, секундомер). Для штангенциркуля и микрометра – точность их нониусов (0,1 мм, 0,01 мм).
Примечания: 1) При отсчетах следует следить за тем, чтобы луч зрения был перпендикулярен шкале. Для устранения так называемой ошибки параллакса на многих приборах устанавливается зеркало («зеркальные приборы»). Глаз экспериментатора расположен правильно, если стрелка прибора закрывает свое изображение в зеркале.
2) При косвенных измерениях (например, определение объема цилиндра по его диаметру и высоте) следует определять все измеряемые вершины с приблизительно одинаковой относительной точностью.
3) При обработке результатов измерений следует помнить, что точность вычислений должна быть согласована с точностью самих измерений. Вычисления, произведенные с большим, чем это необходимо, числом десятичных знаков, приводят к большому объему ненужной работы. Например, если хотя бы одна из величин в каком-либо выражении определена с точностью до двух значащих цифр, то нет смысла вычислять результат с точностью, большей двух значащих цифр. В тоже время в промежуточных расчетах рекомендуется сохранять одну лишнюю цифру, которая в дальнейшем – при записи окончательного результата – будет отброшена. В теории погрешностей из существующих правил округления имеется следующее исключение: при округлении погрешностей последняя сохраняемая цифра увеличивается на единицу, если старшая отбрасываемая цифра 3 или больше 3.
Точность измерения - это степень приближения результатов измерения к некоторому действительному значению физической величины. Чем меньше точность, тем больше погрешность измерения и, соответственно, чем меньше погрешность, тем выше точность.
Даже самые точные приборы не могут показать действительного значения измеряемой величины. Обязательно существует погрешность измерения, причинами которой могут быть различные факторы.
Погрешности могут быть:
систематические, например, если тензосопротивление плохо наклеено на упругий элемент, то деформация его решетки не будет соответствовать деформации упругого элемента и датчик будет постоянно неправильно реагировать;
случайные, вызванные, например, неправильным функционированием механических или электрических элементов измерительного устройства;
грубые, как правило, допускаются самим исполнителем, который из-за неопытности или усталости неправильно считывает показания прибора или ошибается при обработке информации. Их причиной могут стать и неисправность средств измерений, и резкое изменение условий измерения.
Полностью исключить погрешности практически невозможно, а вот установить пределы возможных погрешностей измерения и, следовательно, точность их выполнения необходимо
Классификация и метрологические характеристики средств измерений
Средства измерений, утвержденные Госстандартом России, регистрируются в государственном Реестре средств измерений, удостоверяются сертификатами соответствия и только после этого допускаются для применения на территории Российской Федерации.
В справочных изданиях принята следующая структура описания средств измерений: регистрационный номер, наименование, номер и срок действия сертификата об утверждении типа средства измерения, местонахождение изготовителя и основные метрологические характеристики. Последние оценивают пригодность средств измерений к измерениям в известном диапазоне с известной точностью.
Метрологические характеристики средств измерений обеспечивают:
Возможность установления точности измерений;
Достижение взаимозаменяемости и сравнение средств измерений между собой;
Выбор нужных средств измерений по точности и другим характеристикам;
Определение погрешностей измерительных систем и установок;
Оценку технического состояния средств измерений при их поверке.
Метрологические характеристики, установленные документами, считаются действительными. На практике наиболее распространены следующие метрологические характеристики средств измерений:
диапазон измерений - область значений измеряемой величины, для которой нормированы допускаемые пределы погрешности СИ;
предел измерения - наибольшее или наименьшее значение диапазона измерения. Для мер - это номинальное значение воспроизводимой величины.
Шкала измерительного прибора - градуированная совокупность отметок и цифр на отсчетном устройстве средства измерения, соответствующих ряду последовательных значений измеряемой величины
Цена деления шкалы - разность значений величин, соответствующих двум соседним отметкам шкалы. Приборы с равномерной шкалой имеют постоянную цену деления, а с неравномерной - переменную. В этом случае нормируется минимальная цена деления.
Основная нормируемая метрологическая характеристика средств измерений - это погрешность, т. е. разность между показаниями средств измерений и истинными (действительными) значениями физических величин.
Все погрешности в зависимости от внешних условий делятся на основные и дополнительные.
Основная погрешность - это погрешность при нормальных условиях эксплуатации.
На практике, когда имеется более широкий диапазон влияющих величин, нормируется и дополнительная погрешность средств измерений.
В качестве предела допускаемой погрешности выступаетнаибольшая погрешность, вызываемая изменением влияющей величины, при которой средство измерения по техническим требованиям может быть допущено к применению.
Класс точности - это обобщенная метрологическая характеристика, определяющая различные свойства средства измерения. Например, у показывающих электроизмерительных приборов класс точности помимо основной погрешности включает в себя также вариацию показаний, а у мер электрических величин - величину нестабильности (процентное изменение значения меры в течение года).
Класс точности средства измерения уже включает систематическую и случайную погрешности. Однако он не является непосредственной характеристикой точности измерений, выполняемых с помощью этих СИ, поскольку точность измерения зависит и от методики измерения, взаимодействия СИ с объектом, условий измерения и т. д.
Измеряемые величины не могут быть определены абсолютно достоверно. Измерительные инструменты и системы всегда имеют некоторое допустимое отклонение и помехи, которые выражаются степенью неточности. К тому же, необходимо учитывать и особенности конкретных приборов.
В отношении неточности измерений часто используются следующие термины:
- Погрешность - ошибка между истинным и измеренным значением
- Точность — случайный разброс измеренных значений вокруг их среднего
- Разрешение — наименьшая различаемая величина измеренного значения
Часто эти термины путаются. Поэтому здесь я хотел бы подробно рассмотреть вышеуказанные понятия.
Неточность измерения
Неточности измерения могут быть разделены на систематические и случайные измерительные ошибки. Систематические ошибки вызваны отклонениями при усилении и настройкой «нуля» измерительного оборудования. Случайные ошибки вызваны шумом и и/или токами.
Часто понятия погрешность и точность рассматриваются как синонимы. Однако, эти термины имеют совершенно различные значения. Погрешность показывает, насколько близко измеренное значение к его реальной величине, то есть отклонение между измеренным и фактическим значением. Точность относится к случайному разбросу измеряемых величин.
Когда мы проводим некоторое число измерений до момента стабилизации напряжения или же какого-то другого параметра, то в измеренных значениях будет наблюдаться некоторая вариация. Это вызвано тепловым шумом в измерительной цепи измерительного оборудования и измерительной установки. Ниже, на левом графике показаны эти изменения.
Определения неопределенностей. Слева — серия измерений. Справа — значения в виде гистограммы.
Гистограмма
Измеренные значения могут быть изображены в виде гистограммы, как показано справа на рисунке. Гистограмма показывает, как часто наблюдается измеренное значение. Самая высокая точка на гистограмме, это чаще всего наблюдаемое измеренное значение, в случае симметричного распределения равно среднему значению (изображено синей линии на обоих графиках). Черная линия представляет истинное значение параметра. Разница между средним измеренной величины и истинным значением и является погрешностью. Ширина гистограммы показывает разброс отдельных измерений. Этот разброс измерений называется точностью.
Используйте правильные термины
Погрешность и точность, таким образом, имеют различные значения. Поэтому вполне возможно, что измерение является очень точным, но имеющим погрешность. Или наоборот, с малой погрешностью, но не точное. В общем, измерение считается достоверным, если оно точное, и с малой погрешностью.
Погрешность
Погрешность является индикатором корректности измерения. Из-за того, что в одном измерении точность оказывает влияние на погрешность, то учитывается среднее серии измерений.
Погрешность измерительного прибора обычно задается двумя значениями: погрешностью показания и погрешностью по всей шкале. Эти две характеристики вместе определяют общую погрешность измерения. Эти значения погрешности измерения указываются в процентах или в ppm (parts per million , частей на миллион) относительно действуюшего национального стандарта. 1% соответствует 10000 ppm .
Погрешность приводится для указанных температурных диапазонов и для определенного периода времени после калибровки. Обратите внимание, что в разных диапазонах, возможны, и различные погрешности.
Погрешность показаний
Указание процентного отклонения без дополнительной спецификации также относится к показанию. Допустимые отклонения делителей напряжения, точность усиления и абсолютные отклонения при считывании и оцифровке являются причинами этой погрешности.
Неточность показаний в 5% для значения 70 В
Вольтметр, который показывает 70.00 В и имеет спецификацию «± 5% от показаний», будет обладать погрешностью в ±3.5 В (5% от 70 В). Фактическое напряжение будет лежать между 66.5 и 73.5 вольтами.
Погрешность по всей шкале
Этот тип погрешности обусловлен ошибками смещения и ошибками линейности усилителей. Для приборов, которые оцифровывают сигналы, присутствует нелинейность преобразования и погрешности АЦП. Эта характеристика относится ко всему используемому диапазону измерений.
Вольтметр может иметь характеристику «3% шкалы». Если во время измерения выбран диапазон 100 В (равный полной шкале), то погрешность составляет 3% от 100 В = 3 В независимо от измеренного напряжения. Если показание в этом диапазоне 70 В, то реальное напряжение лежит между 67 и 73 вольтами.
Погрешность 3% шкалы в диапазоне 100 В
Из приведенного выше рисунка ясно, что этот тип допустимых отклонений не зависит от показаний. При показании 0 В реальное напряжение лежит между -3 и 3 вольтами.
Погрешность шкалы в цифрах
Часто для цифровых мультиметров приводится погрешность шкалы в разрядах вместо процентного значения.
У цифрового мультиметра с 3½ разрядным дисплеем (диапазон от -1999 до 1999), в спецификации может быть указано «+ 2 цифры». Это означает, что погрешность показания 2 единицы. Например: если выбирается диапазон 20 вольт (± 19.99), то погрешность шкалы составляет ±0.02 В. На дисплее отображается значение 10.00, а фактическое значение будет между 9.98 и 10.02 вольтами.
Вычисление погрешности измерения
Спецификации допустимых отклонений показания и шкалы вместе определяют полную погрешность измерения прибора. Ниже при расчете используются те же значения, что и в приведенных выше примерах:
Точность: ±5% показания (3% шкалы)
Диапазон: 100 В
Показание: 70 В
Полная погрешность измерения вычисляется следующим образом:
В этом случае, полная погрешность ±6.5В. Истинное значение лежит между 63.5 и 76.5 вольтами. На рисунке ниже это показано графически.
Полная неточность для неточностей показания 5% и 3% шкалы для диапазона 100 В и показания 70 В
Процентная погрешность - это отношение погрешности к показанию. Для нашего случая:
Цифры
Цифровые мультиметры могут иметь спецификацию «± 2.0% показания, + 4 цифры». Это означает, что 4 цифры должны быть добавлены к 2% погрешности показания. В качестве примера снова рассмотрим 3½ разрядный цифровой индикатор. Он показывает 5.00 В для выбранного диапазона 20 В. 2% показания будет означать погрешность в 0,1 В. Добавьте к этому численную погрешность (= 0,04 В). Общая погрешность, следовательно, 0,14 В. Истинное значение должно быть в диапазоне между 4.86 и 5,14 вольтами.
Суммарная погрешность
Зачастую в расчет принимается только погрешность измерительного прибора. Но также, дополнительно следует принимать во внимание погрешности измерительных инструментов, в том случае, если они используются. Вот несколько примеров:
Увеличение погрешности при использовании пробника 1:10
Если в процессе измерений используется щуп 1:10, то необходимо учитывать не только измерительную погрешность прибора. На погрешность также влияет входной импеданс используемого прибора и сопротивление щупа, которые вместе составляют делитель напряжения.
На рисунке выше схематически показан с подключенным к нему пробником 1:1. Если мы рассмотрим этот пробник как идеальный (нет сопротивления соединения), то приложенное напряжение передается прямо на вход осциллографа. Погрешность измерения теперь определяется только допустимыми отклонениями аттенюатора, усилителя и цепями, принимающими участие в дальнейшей обработке сигнала и задается производителем прибора. (На погрешность также влияет сопротивление соединения, которое формирует внутреннее сопротивление . Оно включается в заданные допустимые отклонения).
На рисунке ниже показан тот же самый осциллограф, но теперь ко входу подключен щуп 1:10. Этот пробник имеет внутреннее сопротивление соединения и вместе со входным сопротивлением осциллографа образует делитель напряжения. Допустимое отклонение резисторов в делителе напряжения является причиной его собственной погрешности.
Пробник 1:10, подключенный к осциллографу, вносит дополнительную погрешность
Допустимое отклонение входного сопротивления осциллографа может быть найдено в его спецификации. Допустимое отклонение сопротивления соединения щупа не всегда дано. Тем не менее, погрешность системы заявляется производителем определенного осциллографического пробника для конкретного типа осциллографа. Если щуп используется с другим типом осциллографа, нежели рекомендуемый, то измерительная погрешность становится неопределенной. Этого нужно всегда стараться избегать.
Предположим, что осциллограф имеет допустимое отклонение 1.5% и используется щуп 1:10 с погрешностью в системе 2.5%. Эти две характеристики можно перемножить для получения полной погрешности показания прибора:
Здесь — полная погрешность измерительной системы, — погрешность показания прибора, — погрешность щупа, подключенного к осциллографу, подходящего типа.
Измерения с шунтирующим резистором
Часто при измерениях токов используют внешний шунтирующий резистор. Шунт имеет некоторое допустимое отклонение, которое влияет на измерение.
Заданное допустимое отклонение шунтирующего резистора влияет на погрешность показания. Для нахождения полной погрешности, допустимое отклонение шунта и погрешность показаний измерительного прибора перемножаются:
В этом примере, полная погрешность показания равна 3.53%.
Сопротивление шунта зависит от температуры. Значение сопротивления определяется для данной температуры. Температурную зависимость часто выражают в .
Для примера вычислим значение сопротивления для температуры окружающей среды . Шунт имеет характеристики: Ом
(соответственно и ) и температурную зависимость 
.
Ток, протекающий через шунт является причиной рассеяния энергии на шунте, что приводит к росту температуры и, следовательно, к изменению значения сопротивления. Изменение значения сопротивления при протекании тока зависит от нескольких факторов. Для проведения очень точного измерения, необходимо откалибровать шунт на дрейф сопротивления и условия окружающей среды при которых проводятся измерения.
Точность
Термин точность используется для выражения случайности измерительной ошибки. Случайная природа отклонений измеряемых значений в большинстве случае имеет тепловую природу. Из-за случайной природы этого шума не возможно получить абсолютную ошибку. Точность дается только вероятностью того, что измеряемая величина лежит в некоторых пределах.
Распределение Гаусса
Тепловой шум имеет гауссово, или, как еще говорят, нормальное распределение . Оно описывается следующим выражением:
Здесь — среднее значение, показывает дисперсию и соответствует шумового сигнала. Функция дает кривую распределения вероятностей, как показано на рисунке ниже, где среднее значение и эффективная амплитуда шума .
В таблице указаны шансы получения значений в заданных пределах.
Как видно, вероятность того, что измеренное значение лежит в диапазоне ± равна .
Повышение точности
Точность может быть улучшена передискретизацией (изменением частоты дискретизации) или фильтрацией. Отдельные измерения усредняются, поэтому шум значительно снижается. Также снижается разброс измеренных значений. Используя передискретизацию или фильтрацию необходимо учитывать, что это может привести к снижению пропускной способности.
Разрешение
Разрешением, или, как еще говорят, разрешающей способностью измерительной системы является наименьшая различимая измеряемая величина. Определение разрешения прибора не относится к точности измерения.
Цифровые измерительные системы
Цифровая система преобразует аналоговый сигнал в цифровой эквивалент посредством аналого-цифрового преобразователя. Разница между двумя значениями, то есть разрешение, всегда равно одному биту. Или, в случае с цифровым мультиметром, это одна цифра.
Возможно также выразить разрешение через другие единицы, а не биты. В качестве примера рассмотрим , имеющий 8-битный АЦП. Чувствительность по вертикали установлена в 100 мВ/дел и число делений равно 8, полный диапазон, таким образом, равен 800 мВ . 8 бит представляются 2 8 =256 различными значениями. Разрешение в вольтах тогда равно 800 мВ / 256 = 3125 мВ .
Аналоговые измерительные системы
В случае аналогового прибора, где измеряемая величина отображается механическим способом, как в стрелочном приборе, сложно получить точное число для разрешения. Во-первых, разрешение ограничено механическим гистерезисом, причиной которого является трение механизма стрелки. С другой стороны, разрешение определяется наблюдателем, делающем свою субъективную оценку.