Состоятельность оценки дисперсии 89 [c.489]
Исправленная дисперсия S является несмещенной и состоятельной оценкой дисперсии D(X) B X. [c.64]
При работе с реальными данными дисперсии заменяются их состоятельными оценками и полученное отношение умножается еще на Т / (Т — k + ) для достижения несмещенности полученной оценки для VRk. Затем строится график значений полученных оценок для VRk при различных k= 1,..., К и по поведению этого графика делаются выводы о принадлежности ряда классу TS или DS, имея в виду различия в поведении этого графика для этих двух классов временных рядов. [c.151]
Когда Z не коррелирует с X, выборочная дисперсия оценки бесконечно большая. Если корреляция между ними невелика, тонам придется уплатить слишком высокую цену за получение состоятельной оценки. Коротко эту дилемму можно сформулировать так А коррелирует [c.279]
В этом случае оценка (8.2) остается состоятельной доказательство дословно повторяет то, которое приведено в предыдущем пункте. Однако она уже не будет несмещенной. В самом деле, выборочная дисперсия D(xt) содержит значения во все моменты времени, т. е. Дх ) коррелирует сей, стало быть, равенство (8.6), используемое в предыдущем пункте для доказательства несмещенности р, неверно. [c.193]
Это означает, что при увеличении объема выборки дисперсия оценок параметров регрессии стремится к нулю, то есть оценки параметров регрессии являются состоятельными. [c.107]
Изучая уравнение линейной регрессии мы предполагали, что реальная взаимосвязь фактора X и отклика 7 линейна, а отклонения от прямой регрессии случайны, независимы между собой, имеют нулевое математическое ожидание и постоянную дисперсию. Если это не так, то статистический анализ параметров регрессии некорректен и оценки этих параметров не обладают свойствами несмещенности и состоятельности. Например, это может быть, если в действительности связь между переменными нелинейна. Поэтому после получения уравнения регрессии необходимо исследовать его ошибки. [c.122]
Оценки метода наименьших квадратов параметров модели авторегрессии в широком классе случаев (а именно при условии независимости, одинаковой распределенное и конечности дисперсий участвующих в них случайных возмущений е,, см. (12.2)) являются состоятельными. Асимптотические распределения оценок в устойчивом случае всегда являются нормальными, причем их дисперсия (ковариационная матрица) не зависит от дисперсии возмущений ег В общем случае (т. е. в ситуации, когда некоторые из корней характеристического уравнения (12.17) по модулю превосходят единицу) асимптотическое распределение оценок определяется распределением случайных возмущений е . Математическая модель авторегрессии /n-го порядка xt = [c.371]
Оценка, обладающая этим свойством, называется состоятельной. Кроме того, желательно, чтобы оценка была несмещенной (чтобы ее математическое ожидание равнялось характеристике) и эффективной (чтобы ее дисперсия стремилась к нулю при возрастании числа наблюдений). 64 [c.64]
Достаточность оценки. Если р представляет собой достаточную оценку параметра Ъ, то не существует другой оценки этого параметра, которую можно получить по выборке из некоторой генеральной совокупности и которая дала бы дополнительную информацию о нем. Р. Фишер показал, что количество измеримой информации, содержащейся в некоторой оценке, равно обратной величине от ее дисперсии. Таким образом, понятие достаточности эквивалентно требованию минимальной дисперсии. Достаточная оценка с необходимостью должна быть эффективной и, следовательно, также состоятельной и несмещенной. [c.149]
Оценки состоятельны, т. к. дисперсия оценок параметров при возрастании числа п наблюдений стремится к нулю D(b0)---- 0, D )---- 0. Другими словами, при увеличении объема выборки надежность оценок увеличивается (Ь0 наверняка близко к р0, bi - близко к pi). [c.115]
Оценивая линейное уравнение регрессии, мы предполагаем, что реальная взаимосвязь переменных линейна, а отклонения от регрессионной прямой являются случайными, независимыми друг от друга величинами с нулевым математическим ожиданием и постоянной дисперсией. Если эти предположения не выполняются, то оценки коэффициентов регрессии не обладают свойствами несмещенности, эффективности и состоятельности, и анализ их значимости будет неточным. [c.164]
Асимптотическая эффективность. Оценка максимального правдоподобия асимптотически эффективна. Это означает, что если мы сравним оценку максимального правдоподобия в с любой другой оценкой в, также состоятельной и асимптотически нормальной, то V(0) V(0), т.е. разность V(0) — V(0) является неотрицательно определенной матрицей. В частности, это означает, что дисперсия каждой из компонент вектора в не меньше дисперсии соответствующей компоненты вектора в, т. е. оценка максимального правдоподобия в лучше оценки в. [c.250]
Для широкого класса задач оценки максимального правдоподобия являются состоятельными и асимптотически эффективными. В то же время они могут быть смещенными. Например, с помощью непосредственных вычислений можно показать, что для нормальной генеральной совокупности оценки максимального правдоподобия среднего значения и дисперсии есть соответствен-но mML = и ogn, = ЕГ=1( - )2 = , и E( L) = а2. Недостатком метода является необходимость знать распределение вектора х. [c.536]
Если удастся построить АКМ4-модель для ряда остатков, то можно получить эффективные оценки параметра р, а также несмещенные и состоятельные оценки дисперсий р с помощью обобщенного метода наименьших квадратов. Мы рассмотрим эту процедуру на простейшей (и в то же время наиболее часто встречающейся) авторегрессионной модели первого порядка. [c.181]
Формула (13.28) дает несмещенную и состоятельную оценку дисперсии 5 . Однако на практике, когда объем выборки невелик, может так случиться, что эта оценка окажется отрицательной. В этих ситуациях нужно использовать другие оценки дисперсии сг , описание которых выходит за рамки данной книги. Подробнее об этом можно прочесть в книге (Greene, 1997, глава 14.4). [c.372]
Отметим, что оценки максимального правдоподобия параметров а, 6 совпадают с оценками метода наименьших квадратов OML = SOLS, ML OLS- Это легко видеть из того, что уравнения (2.37а) и (2.376) совпадают с соответствующими уравнениями метода наименьших квадратов (2.2). Оценка максимального правдоподобия для <т2 не совпадает с
Состоятельное оценивание дисперсий. Предположим теперь, что в модели (6.1) с гетероскедастичностью для оценки вектора параметра ft используется обычный метод наименьших квадратов. Как установлено в главе 5, эта оценка является состоятельной и несмещенной, однако стандартная оценка ее матрицы ко-вариаций ((3.8), (ЗД9)) V"(/3OLs) — ff2(X X) l смещена и несостоятельна. Отметим, что компьютерные пакеты при оценивании коэффициентов регрессии вычисляют стандартные ошибки коэффициентов регрессии именно по этой формуле. Можно ли сделать поправку на гетероскедастичность и улучшить оценку матрицы ковариаций Положительный ответ дают приводимые ниже два способа оценивания. [c.173]
При анализе временных рядов часто приходится учитывать статистическую зависимость наблюдений в разные моменты времени. Иными словами, для многих временных рядов предположение о некоррелированности ошибок не выполняется. В этом разделе мы рассмотрим наиболее простую модель, в которой ошибки образуют так называемый авторегрессионный процесс первого порядка (точное определение будет дано ниже). Как было показано ранее (глава 5), применение обычного метода наименьших квадратов к этой системе дает несмещенные и состоятельные оценки параметров, однако можно показать (см., например, Johnston and DiNar-do, 1997), что получаемая при этом оценка дисперсии оказывается смещенной вниз, что может отрицательно сказаться при проверке гипотез о значимости коэффициентов. Образно говоря, МНК рисует более оптимистичную картину регрессии, чем есть на самом деле. [c.184]
Переменная ж является экзогенной, yt-i коррелирована с xt i, поэтому xt i можно взять в качестве инструмента для yt-i- Оценка, полученная по методу инструментальных переменных, будет состоятельной. Однако вследствие автокорреляции ошибок оценки дисперсий оценок коэффициентов не будут состоятельными. [c.271]
Состоятельность ( onsisten y) — это свойство оценки, согласно которому дисперсия оценки уменьшается до нуля с увеличением объема выборки до бесконечности. [c.228]
Оценки состоятельны, так как дисперсия оценок параметров при возрастании числа наблюдений стремится к нулю limD(a) [c.297]
Рассматривая реализацию (12.4), (12.5) модели (12.3) с помощью ненаблюдаемой переменной у, мы предполагали, что ошибки t одинаково распределены, в частности, гомоскедастичны. Известно (п. 6.1), что при нарушении этого условия, т.е. при наличии гетероскедастичности, оценки метода наименьших квадратов в линейных регрессионных моделях перестают быть эффективными, но остаются несмещенными и состоятельными. В нашем случае гетероскедастичность, вообще говоря, приводит к нарушению состоятельности и асимптотической несмещенности. На содержательном уровне это нетрудно понять, исходя из следующих соображений. Пусть ошибки t, t — 1,. . . , п распределены нормально с нулевым средним и дисперсиями at, t — 1,. .., п (гетероскедастичность) и предположим, что выполнено (12.5). Тогда, повторяя выкладки (12.6), получим [c.328]
При j = i это есть просто RSS /T, и, как известно, такая оценка для дисперсии ошибки в i -м уравнении имеет смещение, а несмещенной оценкой для этой дисперсии является RSS /(т — р), где р - количество объясняющих переменных в уравнении регрессии. (Конечно, при этом должно выполняться условие Т > р. ) При соответствующих условиях на матрицу X, требующихся и в классической модели линейной регрессии, обе оценки 9GLS и 9FGLS при Т —> °° состоятельны. [c.229]
Пусть теперь распределены нормально, тогда оценка максимального правдоподобия (3 совпадает с Ь, она несмещена, состоятельна (в пределе при N — > оо совпадает с (3 и имеет нулевую дисперсию) и эффективна (имеет [c.9]