Статистическая энтропия непрерывной случайной величины

из "Информационные методы в управлении качеством "

Формула (2.7) включает в себя логарифм размерной величины Дх. С физической точки зрения логарифм размерной величины не определен, поэтому следует избегать подобных выражений. Кроме того, размерная величина меняется с переходом от одной системы единиц к другой, так что логарифм ее численного значения будет зависеть от единиц измерения. Оба этих замечания приводят к мысли о том, что при информационном анализе случайных величин необходимо абстрагироваться от единиц измерения, исключить их из всех возможных выражений. Это всегда можно сделать, если ввести новую случайную величину = х/с. [c.20]
Было проведено 100 экспериментов, в каждом из которых по 100 значениям выборочной энтропии Н вычислялись статистики критериев %2 и Колмогорова-Смирнова. Результаты представлены в табл. 2.1. [c.22]
Анализ результатов позволяет сделать заключение о том, что выборочная оценка энтропии случайной величины X, распределенной по нормальному закону с параметрами (0,1), имеет в свою очередь нормальное распределение. Данное утверждение можно отнести к исходному нормальному распределению с любыми параметрами X и S, так как смещение центра распределения не меняет значение выборочной оценки энтропии, а произвольное изменение значения среднего квадратического отклонения S при изменении значения величины интервала группирования выборки (т. е. изменении систем отсчета) и том же количестве интервалов разбиения также не влияет на значение выборочной энтропии. [c.22]
По каждому распределению проведено 50 экспериментов, в каждом из которых генерировалось по 100 выборок объемом и = 500. Результаты проверки гипотезы о нормальном распределении оценки энтропии также сведены в табл. 2.1. [c.23]
Таким образом, исследование статистической оценки энтропии непрерывных случайных величин позволяет сделать вывод о существовании условий сходимости Н (X) к нормальному распределению при произвольном исходном распределении случайной величины X. [c.23]
Подобно функции Лапласа уравнение (2.8) представляет собой квантиль-ное распределение энтропии нормированной нормально распределенной случайной величины на любом отрезке числовой оси. [c.24]
Для каждого объема выборки определялись средние оценки Н х) и Л (лг). На рис. 2.1 представлена геометрическая интерпретация экспериментальных данных. [c.26]
Анализ результатов позволил сделать следующие выводы. [c.26]

Вернуться к основной статье