В силу того, что оценки bj, полученные методом наименьших квадратов, являются несмещенными оценками параметров Р7, [c.92]
Отметим, что при соблюдении прочих предпосылок МНК автокорреляция остатков не влияет на свойства состоятельности и несмещенности оценок параметров уравнения регрессии обычным МНК, за исключением моделей авторегрессии. Применение МНК к моделям авторегрессии ведет к получению смещенных, несостоятельных и неэффективных оценок. [c.280]
Однако, как было показано выше, оценка параметра с,, равная 0,440, является смещенной. Для получения несмещенных оценок параметров этого уравнения воспользуемся методом инструментальных переменных. Определим параметры уравнения регрессии (7.43) обычным МНК [c.327]
Несмещенность оценок параметров [c.339]
Несмещенность оценок параметров регрессии. Оценка параметров регрессии называется несмещенной, если для любого фиксированного числа наблюдений выполняется равенство математического ожидания параметра и значения параметра регрессии. Надо отметить, что оценки, полученные методом наименьших квадратов, обладают свойством несмещенности. [c.149]
Эффективность оценок параметров регрессии. Несмещенная оценка параметра регрессии называется несмещенной эффективной, если она среди всех прочих несмещенных оценок этого же параметра обладает наименьшей дисперсией. [c.149]
Оценка 0 называется несмещенной оценкой параметра 0, если ее [c.61]
Для получения состоятельных и асимптотически несмещенных оценок параметров (3 можно вновь, кале и в предыдущем разделе, воспользоваться методом максимального правдоподобия. Поскольку в данном случае наблюдения (12.30) имеют смешанное распределение, то функция правдоподобия имеет следующий вид [c.341]
Покажите, что невозможно построить другую линейную несмещенную оценку параметра а, обладающую меньшей дисперсией. [c.52]
Средние квадраты s и s2 (табл. 3.3) представляют собой несмещенные оценки дисперсий зависимой переменной, обусловленных соответственно регрессий или объясняющей переменной X и воздействием неучтенных случайных факторов и ошибок т — число оцениваемых параметров уравнения регрессии п — число наблюдений. [c.72]
Выше ( 4.2) мы уже показали, что оценка метода наименьших квадратов b = (X X) l X Y есть несмещенная оценка для вектора параметров р, т. е. М(Ь) = р. Любую другую оценку Ь вектора р без ограничения общности можно представить в виде [c.94]
Равенство (4.20) означает, что несмещенная оценка s2 параметра ст2 или выборочная остаточная дисперсия s2 определяется по формуле [c.97]
Оценки, определяемые вектором (4.8), обладают в соответствии с теоремой Гаусса—Маркова минимальными дисперсиями в классе всех линейных несмещенных оценок, но при наличии мультиколлинеарности эти дисперсии могут оказаться слишком большими, и обращение к соответствующим смещенным оценкам может повысить точность оценивания параметров регрессии. На рис. 5.1 показан случай, когда смещенная оценка Ру, [c.110]
Как было отмечено в 7.1, b — несмещенная и состоятельная оценка параметра р для обобщенной линейной модели множественной регрессии следовательно, и в частном случае, когда мо- [c.156]
Это означает, что отсутствует систематическая ошибка в определении линии регрессии, следовательно оценки параметров регрессии являются несмещенными, то есть математическое ожидание оценки каждого параметра равно его истинному значению. [c.107]
Статистические проверки параметров регрессии, показателей корреляции основаны на непроверяемых предпосылках распределения случайной составляющей б,. Они носят лишь предварительный характер. После построения уравнения регрессии проводится проверка наличия у оценок б, (случайных остатков) тех свойств, которые предполагались. Связано это с тем, что оценки параметров регрессии должны отвечать определенным критериям. Они должны быть несмещенными, состоятельными и эффективными. Эти свойства оценок, полученных по МНК, имеют чрезвычайно важное практическое значение в использовании результатов регрессии и корреляции. [c.155]
Коэффициенты регрессии, найденные исходя из системы нормальных уравнений, представляют собой выборочные оценки характеристики силы связи. Их несмещенность является желательным свойством, так как только в этом случае они могут иметь практическую значимость. Несмещенность оценки означает, что математическое ожидание остатков равно нулю. Следовательно, при большом числе выборочных оцениваний остатки не будут накапливаться и найденный параметр регрессии bt можно рассматривать как среднее значение из возможного большого количества несмещенных оценок. Если оценки обладают свойством несмещенности, то их можно сравнивать по разным исследованиям. [c.156]
Выборочная несмещенная оценка называется эффективной, если она имеет минимальную дисперсию по сравнению с другими возможными оценками. Так, например, имеются две выборочные оценки 0М и 042 с дисперсиями D(Obt) > D(QK), тогда эффективной будет оценка 0И. Достаточной называют выборочную оценку, если она включает всю информацию, которая содержится в выборке относительно определенного параметра. Если, например, по выборке (л ,, х2,. .., хп) производится оценка неизвестной вероятности Р, то [c.45]
Назовем наилучшей аффинной несмещенной оценкой оцениваемой функции параметров W/3 аффинную несмещенную оценку W(3 для W/3, такую, что [c.321]
Будет показано, что в случае, когда пространство параметров В совпадает с R, наилучшая аффинная несмещенная оценка оказывается линейной [c.321]
Вспомним, что в 2, при рассмотрении линейной регрессионной модели (у, Х/3, сг2 V), говорилось, что функцию параметров W/3 можно оценить, если существует по крайней мере одна аффинная несмещенная оценка для W/3. [c.332]
Если тестирование проводится К раз в период разработки, то можно вычислить значения т и С для смежных значений т, и т/+ , что позволяет построить зависимости т по т и С по т. Когда постоянство параметров является удовлетворительным, то /С наборов данных могут объединяться для получения линейной несмещенной оценки. [c.236]
Метод, используемый чаще других для нахождения параметров уравнения регрессии и известный как метод наименьших квадратов, дает наилучшие линейные несмещенные оценки. Он называется так потому, что при расчете параметров прямой линии, которая наиболее соответствует фактическим данным, с помощью этого метода стараются найти линию, минимизирующую сумму квадратов значений ошибок или расхождений между величинами Y, которые рассчитаны по уравнению прямой и обозначаются Y, и фактическими наблюдениями. Это показано на рис. 6.2. [c.265]
В классических предположениях мнк-оценки совпадают с оценками максимального правдоподобия и являются наилучшими среди всех несмещенных оценок в. Однако при отклонении распределения г от нормального в сторону увеличения вероятности больших отклонений мнк-оценки быстро теряют свои оптимальные свойства. В связи с этим в практической работе широко используются функции потерь р(и) Ф и2. Среди них выделяется функция ря, (и) = А,-1 (1 — ехр — А,м2/2 ), при К -> 0 стремящаяся к и2/2, а при и - оо (X > 0) имеющая горизонтальную асимптоту. Она приводит к так называемым эв-оценкам параметров регрессионной зависимости (эв-регрессия или Х-регрессия). Эти оценки устойчивы к нарушению предположения нормаль- [c.249]
Значение, которое было предположительно установлено в результате точечной оценки параметра генеральной совокупности, называют возможным значением, а возможное значение, которое в числе других возможных значений является наиболее несмещенным, называют несмещенной оценкой. [c.135]
Достаточность оценки. Если р представляет собой достаточную оценку параметра Ъ, то не существует другой оценки этого параметра, которую можно получить по выборке из некоторой генеральной совокупности и которая дала бы дополнительную информацию о нем. Р. Фишер показал, что количество измеримой информации, содержащейся в некоторой оценке, равно обратной величине от ее дисперсии. Таким образом, понятие достаточности эквивалентно требованию минимальной дисперсии. Достаточная оценка с необходимостью должна быть эффективной и, следовательно, также состоятельной и несмещенной. [c.149]
В качестве метода оценивания нами был выбран метод SURE, который, согласно исследованиям (см., например, Deaton (1998)), должен, при описанных выше предположениях, привести к несмещенным оценкам параметров функции спроса. Рассматривались оценки системы уравнений Тейла как по всей совокупности потребителей, так и по группам потребителей с разными доходами (см. ниже). [c.122]
Хотя оценки (12.10) и (12.11) сформированы из несмещенных оценок параметров приведенной формы, сами они не будут несмещенными оценками параметров аир структурной формы1. Однако эти оценки будут состоятельными. Так, легко показать с помощью (12.4) и (12.5), что оценка р, определенная в (12.10), даст нам [c.345]
Напомним, что в математической статистике для получения несмещенной оценки дисперсии случайной величины соответствующую сумму квадратов отклонений от средней делят не на число наблюдений я, а на число степеней свободы (degress of freedom) я — т, равное разности между числом независимых наблюдений случайной величины п и числом связей, ограничивающих свободу их изменения, т. е. число т уравнений, связывающих эти наблюдения. Поэтому в знаменателе выражения (3.26) стоит число степеней свободы п — 2, так как две степени свободы теряются при определении двух параметров прямой из системы нормальных уравнений (3.5). [c.62]
Другой метод устранения или уменьшения мультиколлинеар-ности заключается в переходе от несмещенных оценок, определенных по методу наименьших квадратов, к смещенным оценкам, обладающим, однако, меньшим рассеянием относительно оцениваемого параметра, т. е. меньшим математическим ожиданием квадрата отклонения оценки fy от параметра ру или М (bj— p/)2. [c.110]
Если удастся построить АКМ4-модель для ряда остатков, то можно получить эффективные оценки параметра р, а также несмещенные и состоятельные оценки дисперсий р с помощью обобщенного метода наименьших квадратов. Мы рассмотрим эту процедуру на простейшей (и в то же время наиболее часто встречающейся) авторегрессионной модели первого порядка. [c.181]
В линейном анализе временных рядов можно получить несмещенную оценку способности к обобщению, исследуя результаты работы на обучающем множестве (MSE), число свободных параметров (W) и объем обучающего множества (N). Оценки такого типа называются информационными критериями (1 ) и включают в себя компоненту, соответствующую критерию согласия, и компоненту штрафа, которая учитывает сложность модели. Барроном [30] были предложены следующие информационные критерии нормализованный 1 Акаике (NAI ), нормализованный байесовский 1 (NBI ) и итоговая ошибка прогноза (FPE) [c.65]
Погрешность 5/>>п (9/ ) в оценивании параметра 0Л. Воспользуемся нормальной распределенностъю оценки 0ft (см. (11.13)) и знанием ее среднего значения Е 0ft — 0fe, (см. свойство несмещенности оценок в в п. 11.1.1) и дисперсии D0A = = а2 ( ) ы (см. (11.11) здесь (Х Х) 1 обозначает Л-й диагональный элемент матрицы (Х Х)-1). Это, с учетом статистической независимости в и а2 и (11.15), позволяет утверждать, что величина [c.342]