Свойства мнк-оценок

Свойства мнк-оценок, В случае когда (7.3) имеет место,  [c.209]

Статистические свойства МНК-оценок параметров регрессии. Проверка гипотезы b = bo. Доверительные интервалы для коэффициентов регрессии  [c.46]

Статистические свойства МНК-оценок параметров регрессии 47  [c.47]

Статистические свойства МНК-оценок  [c.72]

Статистические свойства МНК-оценок 73  [c.73]

В этой главе классическая регрессионная схема обобщается в двух направлениях. Первое связано с отказом от предположения, что независимые переменные являются неслучайными величинами. Оказывается, что при выполнении некоторых естественных условий МНК-оценка вектора неизвестных параметров сохраняет основные свойства МНК-оценки в стандартной модели. Главным условием, гарантирующим наличие этих свойств, является некоррелированность (независимость) матрицы регрессоров X и вектора ошибок е.  [c.148]


Предлагаемый здесь подход позволяет сохранить, по существу, все основные свойства МНК-оценок в классической регрессии. Условия, накладываемые на систему со стохастическими регрессорами, почти дословно повторяют ограничения стандартной модели, но только теперь их следует понимать, говоря не совсем стро-  [c.149]

Нетрудно также доказать соответствующий вариант теоремы Гаусса-Маркова, а именно, что среди всех линейных условно несмещенных оценок вектора /3 его МНК-оценка обладает наименьшей условной ковариационной матрицей. Итак, при выполнении условий 1), 2), 3) МНК-оценка в модели со стохастическими регрессорами обладает свойствами, аналогичными свойствам МНК-оценки в классической модели.  [c.151]

Модели парной регрессии. Парная линейная регрессия. Методы оценки коэффициентов регрессии. Метод наименьших квадратов (МНК). Свойства оценок МНК. Оценка статистической значимости коэффициентов регрессии. Элементы корреляционного анализа. Измерители тесноты связи (коэффициенты ковариации, корреляции и детерминации). Оценка значимости коэффициента корреляции. Дисперсионный анализ результатов регрессии. Оценка статистической значимости уравнения регрессии. Анализ ряда остатков условия Гаусса-Маркова. Нелинейные модели регрессии и их линеаризация. Выбор функции регрессии тесты Бокса-Кокса. Корреляция в случае нелинейной регрессии. Средняя ошибка аппроксимации.  [c.3]

В общем случае при нарушении (7.3) мнк-оценки теряют свои оптимальные свойства. Различные способы оценивания, применяемые в этом случае, описаны в 7.2. 7.1.3. Ортогональная матрица плана. Матрицу X называют матрицей плана эксперимента. Рассмотрим случай, когда матрицу плана X можно разбить на k совокупностей столбцов Хь. .., h (что соответствует разбиению на k подмножеств анализируемого набора переменных) так, чтобы для всех i Ф столбцы матрицы Хг- были ортогональны столбцам матрицы Х7-, т. е.  [c.210]

Мнк-оценки, получающиеся в результате минимизации выбо -рочного критерия адекватности с квадратичной функцией потерь, неустойчивы к нарушениям предположения о нормальности распределения случайных ошибок. С утяжелением хвостов распределения они быстро теряют свои оптимальные свойства [14, п. 10.4.41. Это связано с тем, что квадратичная функция потерь, используемая в мнк, придает слишком большой вес далеким отклонениям от регрессионной поверхности. Про-  [c.212]


В классических предположениях мнк-оценки совпадают с оценками максимального правдоподобия и являются наилучшими среди всех несмещенных оценок в. Однако при отклонении распределения г от нормального в сторону увеличения вероятности больших отклонений мнк-оценки быстро теряют свои оптимальные свойства. В связи с этим в практической работе широко используются функции потерь р(и) Ф и2. Среди них выделяется функция ря, (и) = А,-1 (1 — ехр — А,м2/2 ), при К -> 0 стремящаяся к и2/2, а при и - оо (X > 0) имеющая горизонтальную асимптоту. Она приводит к так называемым эв-оценкам параметров регрессионной зависимости (эв-регрессия или Х-регрессия). Эти оценки устойчивы к нарушению предположения нормаль-  [c.249]

Оценивание параметров уравнения регрессии в случае сильной мультиколлинеарности основано на различных методах регуляризации задачи — модификациях регрессии на главные компоненты, гребневых и редуцированных оценках. Со статистической точки зрения получаемые оценки являются, в отличие от мнк-оценок, смещенными. Однако они обладают рядом оптимальных свойств, в частности обеспечивают лучшие прогностические свойства оцененного уравнения регрессии на объектах, не вошедших в обучающую выборку.  [c.297]

Решение основных задач по оценке точности нелинейной регрессионной модели. Подчеркнем два главных отличия данного случая от линейного, рассмотренного в 11.1. Во-первых, используемые для построения доверительных интервалов свойства состоятельных мнк-оценок 0 — несмещенность, оптимальность, нормальность, а также свойства б), в) и г) из п. 11.1.1 справедливы лишь в асимптотическом (по п-+- оо) смысле. Во-вторых, следует учитывать приближенный характер базовых соотношений (11.24) и соответственно (11.25) и (11.26). Следует признать, что возможны различные уточнения описываемого здесь приближенного подхода [1611. Однако вряд ли они существенно усовершенствуют предлагаемые в данном параграфе практические рекомендации ведь даже так называемые точные критерии и доверительные интервалы на практике оказываются всего лишь приближенными (они точны лишь в той мере, в какой соблюдаются в реальной ситуации те идеализированные допущения, на которых строятся соответствующие статистические выводы). Поэтому, говоря о том, что интересующая нас погрешность не превзойдет определенной величины с доверительной вероятностью, например, равной 0,95, мы должны всегда отдавать себе отчет в приближенном характере подобных заключений.  [c.355]

Статистические проверки параметров регрессии, показателей корреляции основаны на непроверяемых предпосылках распределения случайной составляющей б,. Они носят лишь предварительный характер. После построения уравнения регрессии проводится проверка наличия у оценок б, (случайных остатков) тех свойств, которые предполагались. Связано это с тем, что оценки параметров регрессии должны отвечать определенным критериям. Они должны быть несмещенными, состоятельными и эффективными. Эти свойства оценок, полученных по МНК, имеют чрезвычайно важное практическое значение в использовании результатов регрессии и корреляции.  [c.155]

Предпосылка о нормальном распределении остатков позволяет проводить проверку параметров рефессии и корреляции с помощью критериев t, F. Вместе с тем оценки рефессии, найденные с применением МНК, обладают хорошими свойствами даже при отсутствии нормального распределения остатков, т. е. при нарушении пятой предпосылки МНК.  [c.159]

При несоблюдении основных предпосылок МНК приходится корректировать модель, изменяя ее спецификацию, добавлять (исключать) некоторые факторы, преобразовывать исходные данные для того, чтобы получить оценки коэффициентов регрессии, которые обладают свойством несмещенности, имеют меньшее значение дисперсии остатков и обеспечивают в связи с этим более эффективную статистическую проверку значимости параметров регрессии. Этой цели, как уже указывалось, служит и применение обобщенного метода наименьших квадратов, к рассмотрению которого мы и переходим в п. 3.11.  [c.169]


Отметим, что при соблюдении прочих предпосылок МНК автокорреляция остатков не влияет на свойства состоятельности и несмещенности оценок параметров уравнения регрессии обычным МНК, за исключением моделей авторегрессии. Применение МНК к моделям авторегрессии ведет к получению смещенных, несостоятельных и неэффективных оценок.  [c.280]

Наиболее распространенные методы оценивания системы одновременных уравнений. Формальное применение мнк для получения оценок коэффициентов системы одновременных уравнений приводит, вообще говоря, к оценкам с плохими статистическими свойствами — смещенным и несостоятельным. Поэтому область его применения ограничена рекурсивными системами. Для оценивания параметров точно идентифицируемой системы можно применить косвенный метод наименьших квадратов, состоящий в оценивании обычным мнк коэффициентов приведенной формы и подстановке оценок в выра-  [c.414]

Итак, мы показали, что свойства оценок коэффициентов регрессии, а следовательно, и качество построенной регрессии существенно зависят от свойств случайной составляющей. Доказано, что для получения по МНК наилучших результатов необходимо, чтобы выполнялся ряд предпосылок относительно случайного отклонения.  [c.113]

Теорема Гаусса-Маркова. Если предпосылки 7 -5 выполнены, то оценки, полученные по МНК, обладают следующими свойствами  [c.115]

При проведении регрессионного анализа, основанного на методе наименьших квадратов, на практике следует обратить серьезное внимание на проблемы, связанные с выполнимостью свойств случайных отклонений моделей. Как мы отмечали ранее, свойства оценок коэффициентов регрессии напрямую зависят от свойств случайного члена в уравнении регрессии. Для получения качественных оценок необходимо следить за выполнимостью предпосылок МНК (условий Гаусса-Маркова), т. к. при их нарушении МНК может давать оценки с плохими статистическими свойствами. При этом существуют другие методы определения более точных оценок. Одной из ключевых предпосылок МНК является условие постоянства дисперсий случайных отклонений (см. параграф 5.1, предпосылка 2°  [c.209]

Так как по предположению коэффициент р известен, то очевидно, yt, xt, ut вычисляются достаточно просто. В силу того, что случайные отклонения ut удовлетворяют предпосылкам МНК, то оценки ро и pi будут обладать свойствами наилучших линейных несмещенных оценок.  [c.237]

Перечисленные свойства не зависят от конкретного вида распределения величин е,., тем не менее обычно предполагается, что они распределены нормально JV(0 о2). Эта предпосылка необходима для проверки статистической значимости сделанных оценок и определения для них доверительных интервалов. При ее выполнении оценки МНК имеют наименьшую дисперсию не только среди линейных, но среди всех несмещенных оценок.  [c.297]

Сформулируйте свойства несмещенности, состоятельности и эффективности оценок параметров. Обладают ли этими свойствами оценки. параметров линейной регрессии, полученные с помощью МНК  [c.311]

Оценка спроса производится на основании системы уравнений, из которой могут быть получены коэффициенты. Оценка системы независимых уравнений эквивалентна оценке МНК каждого уравнения в отдельности. Хотя полученная модель линейна по основным переменным, она нелинейна по оцениваемым параметрам. В 1954 г., когда оценивалась эта модель, такая нелинейность представляла существенную проблему. Для решения этой задачи был использован простой алгоритм, - заметим, что в том случае, если известны значения параметров у, то система оказывается линейной по параметрам /3, и наоборот. Таким образом, начиная с некоторых начальных значений этих параметром можно провести итерации вплоть до сходимости получаемых решений. Стоун применил эту модель к шести группам товарам, вновь исследовав данные по Великобритании с 1920 по 1938 г. Линейная система расходов обладает свойством пропорциональности ценовой эластичности компенсированного спроса и эластичности спроса по доходу. Это свойство, обнаруженное Стоуном, говорит о том, что линейная система расходов, по-видимому, является слишком ограничительной для обобщения на более сложные модели.  [c.112]

Основные свойства мнк-оценок. Поскольку мнк-оцен-  [c.353]

Таким образом эв-регрессия обладает всеми основными свойствами мнк-регрессии, только наблюдения в соответствующие формулы входят со специально подобранными весами. Введение весов позволяет как бы настраивать регрессию на интересующую исследователя часть выборки (рис. 7.2 в пунктирный овал заключены наблюдения ( , у г), получившие малые веса и практически не участвующие в оценке параметров эв-регрессии куполообразные кривые на прямой эв-регрессии показывают веса, приписанные наблюдениям). Эв-регрессия значительно устойчивее мнк-регрессии и регрессии по Хубе-ру к появлению далеких отклонений от регрессионной поверхности. Однако она, естественно, не является универсальным методом оценки регрессии для всех случаев, когда нарушаются предположения (7.3), лежащие в основе мнк. Четких рекомендаций, как выбирать К в конкретном случае, пока не выработано. Ясно только, что надо давать максимальный вес основной части выборки и наименьший — части, где могут лежать загрязнения . Определенные соображения по выбору величины. К в некоторых модельных случаях приведены в п. 7.2.5.  [c.219]

Как отмечалось ранее, существенную роль для получения качественных оценок имеет выполнимость определенных предпосылок МНК для случайных отклонений. Наиболее важные из них требуют, чтобы отклонения Si являлись нормально распределенными случайными величинами с нулевым математическим ожиданием и постоянной дисперсией а2, а также не коррелировали друг с другом (si N(0, a2), ov( Si, Sj) = 0 при i Ф j). При невыполнимости указанных предпосылок оценки, полученные по МНК, не будут обладать свойствами BLUE-оценок, и проводимые для них тесты окажутся ненадежными.  [c.188]

На практике полная коллинеарность встречается исключительно редко. Гораздо чаще приходится сталкиваться с ситуацией, когда матрица X имеет полный ранг, но между регрес-сорами имеется высокая степень корреляции, т. е. когда матрица Х Х, говоря нестрого, близка к вырожденной. Тогда говорят о наличии мультиколлинеарности. В этом случае МНК-оценка формально существует, но обладает плохими свойствами. Это нетрудно объяснить, используя геометрическую интерпретацию метода наименьших квадратов. Как уже отмечалось, регрессию можно рассматривать как проекцию в пространстве Rn вектора у на подпространство, порожденное столбцами матрицы X. Если между этими векторами существует приблизительная линейная зависимость, то операция проектирования становится неустойчивой небольшое изменение в исходных данных может привести к существенному изменению оценок. Рисунок 4.1 наглядно это демонстрирует. Векторы у к у мало отличаются друг от друга, но в  [c.110]

В п. 5.1 при рассмотрении модели со стохастическими рагрессорами отмечалось, что при наличии корреляции между независимыми переменными и ошибками МНК-оценки могут быть смещенными и несостоятельными. Один из путей преодоления этой трудности — использование других независимых переменных, которые носят название инструментальные переменные. Как будет показано ниже, для получения состоятельных оценок надо, чтобы они обладали двумя свойствами  [c.212]

Мы предпочитаем оценки коэффициентов регрессии у г, которые эффективны и для которых можно проверить значимость. Оценки эффективны, если они являются наилучшими линейными несмещенными оценками (НЛНО). Термин наилучшие относится к свойству минимальности дисперсии. Оценки обобщенного МНК, будут такими оценками (НЛНО), но они требуют знания ковариационной матрицы ошибок наблюдений (2г и 2 в (2.8) и (2.17) в дополнении 2). К сожалению, нам ковариационная матрица неизвестна. Мы можем оценить элементы этой матрицы. (Ее диагональные элементы, т. е. дисперсии, оцениваются величинами sfr, обобщенный МНК для системы уравнений также требует оценивания ковариаций эти ковариации не оценивались в данном эксперименте, но они оценивались в дополнительном эксперименте.) Замена ковариационной матрицы в обобщенном методе ковариационной матрицей оценок позволяет получить несмещенные оценки 7о-> но эти оценки не лучше оценок (НЛНО). Мы не знаем, имеют ли они еще и меньшую дисперсию, чем обычные МНК-оценки (сравните с литературой)9. Мы знаем, что МНК-оценки обладают преимуществом простоты вычислений, поскольку при ортогональной матрице независимых переменных не нужна обратная матрица. Обращение матрицы с помощью ЭВМ может приводить к значительным ошибкам  [c.300]

ХФ (к — л) + дН (х — fi), где Ф — функция нормального распределения, а Я — функция распределения произвольного симметричного относительно нуля закона не очень подходит как из-за симметрии Я, так и из-за того, что асимптотика, в которой q и Я фиксированы, а объемы выборки п -> оо, не вполне адекватна статистической практике с ростом объема выборки мы узнаем FQ с возрастающей точностью и в принципе могли бы путем преобразования переменных усилить близость распределения к нормальному закону. Более адекватной моделью засорения является схема последовательности серий выборок растущего объема, в которой пропорция засорения q= yn 1/2 убывает с ростом п [149, 215 и 14, п. 6.1.11]. 7.2.4. Эв-регрессия (i-регрессия). Ниже, используя тот же методический прием, что и при введении эв-оценок [14, п. 10.4.6],. с помощью цепочки определений вводится эв-регрессия и специальная мера отклонения от нее. Далее показывается, что эв-регрессия обладает рядом свойств, похожих на свойства обычной мнк-регрессии. Это облегчает содержательную интерпретацию эв-регрессии и выбор подходящего для конкретного случая значения Я. В заключение приводится асимптотическое разложение для оценок параметров эв-регрессии.  [c.218]

Разработка и поддержание в актуальном состоянии системы трансфертного ценообразования для МНК представляют собой гораздо более сложный процесс. Помимо общих свойств — нацеленность на достижение стратегических задач корпорации, взаимодействие и взаимодополнение с системами управленческого контроля и оценки и анализа финансово-хозяйственной деятельности — системе внутрифирменных цен в МНК должны быть присущи дополнительные черты. В международном масштабе система должна способствовать а) минимизации общей величины налогов на прибыль б) минимизации общей величины таможенных пошлин в) снижению влияния национальных ограничений финансового характера г) уменьшению негативных последствий, вызванных колебаниями курсов иностранных валют д) укреплению престижа фирмы за рубежом.  [c.111]

Как известно, при выполнении определенных предпосылок МНК дает наилучшие линейные несмещенные оценки (BLUE-оценки). Причем свойство несмещенности и эффективности оценок остается в силе даже, если несколько коэффициентов регрессии оказываются статистически незначимыми. Однако несмещенность фактически означает лишь то, что при многократном повторении наблюдений (при постоянных объемах выборок) за исследуемыми величинами средние значения оценок стремятся к их истинным значениям. К сожалению, повторять наблюдения в одинаковых условиях в экономике практически невозможно. Поэтому это свойство ничего не гарантирует в каждом конкретном случае. Наименьшая возможная дисперсия вовсе не означает, что дисперсия оценок будет мала по сравнению с самими оценками. В ряде случаев такая дисперсия достаточно велика, чтобы оценки коэффициентов стали статистически незначимыми.  [c.247]

Однако если для моделей данного типа использовать обыкновенный МНК, то оценки, получаемые с его помощью, не обладают свойствами наилучших линейных несмещенных оценок (BLUE). Поэтому для определения коэффициентов в этом случае используются другие методы.  [c.268]

Проблема оценки достоверности прогнозов. Важным моментом получения прогноза с помощью МНК является оценка достоверности полученного результата. Для этой цели используется целый ряд статистических характеристик 1. Оценка стандартной ошибки 2. Средняя относительная ошибка оценки 3. Среднее линейное отклонение 4. Корреляционное отношение для оценки надежности модели 5. Оценка достоверности выбранной модели через значимость индекса корреляции по Z-критерию Фишера 6. Оценка достоверности модели по F-критерий Фишера 7. Наличие автокорреляций (критерий Дарбина - Уотсона). Недостатки, обусловленные жесткой фиксацией тренда. Жесткие статистические предложения о свойствах временных рядов ограничивают возможности методов математической статистики, теории распознавания образов, теории случайных процессов и т.п., так как многие реальные процессы не могут адекватно быть описаны с помощью традиционных статистических моделей, поскольку по сути являются существенно нелинейными и имеют либо хаотическую, либо квазипериодическую, либо смешанную основу.  [c.69]