Парная линейная регрессия. Метод наименьших квадратов

из "Математические методы в экономике Издание 2 "

Начальным пунктом эконометрического анализа зависимостей обычно является оценка линейной зависимости переменных. Если имеется некоторое облако точек наблюдений, через него всегда можно попытаться провести такую прямую линию, которая является наилучшей в определенном смысле среди всех прямых линий, то есть ближайшей к точкам наблюдений по их совокупности. Для этого мы вначале должны определить понятие близости прямой к некоторому множеству точек на плоскости меры такой близости могут быть различными. Однако любая разумная мера должна быть, очевидно, связана с расстояниями от точек наблюдений до рассматриваемой прямой линии (задаваемой уравнением у = а + Ьх). [c.295]
Рассмотрим теперь задачу оценки коэффициентов парной линейной регрессии более формально. Предположим, что связь между х и у линейна у = а+рх. Здесь имеется в виду связь между всеми возможными значениями величин х и у, то есть для генеральной совокупности. Наличие случайных отклонений, вызванных воздействием на переменную у множества других, неучтенных в нашем уравнении факторов и ошибок измерения, приведет к тому, что связь наблюдаемых величин х( и j/ приобретет вид yt = а. + РХ + е(. Здесь е - случайные ошибки (отклонения, возмущения). Задача состоит в следующем по имеющимся данным наблюдений х , (у) оценить значения параметров айв, обеспечивающие минимум величины Q. Если бы были известны точные значения отклонений е(, то можно было бы (в случае правильности предполагаемой линейной формулы) рассчитать значения параметров аир. Однако значения случайных отклонений в выборке неизвестны, и по наблюдениям х и у, можно получить оценки параметров аир, которые сами являются случайными величинами, поскольку соответствуют случайной выборке. Пусть а - оценка параметра а, Ь - оценка параметра р. Тогда оцененное уравнение регрессии будет иметь вид y=a+bx+et, где е - наблюдаемые значения ошибок е. [c.296]
Для оценки параметров айв воспользуемся МНК, который минимизирует сумму квадратов отклонений фактических значений yt от расчетных (см. (16.1)). Минимум ищется по переменным а и Ь. [c.296]
Перечисленные свойства не зависят от конкретного вида распределения величин е,., тем не менее обычно предполагается, что они распределены нормально JV(0 о2). Эта предпосылка необходима для проверки статистической значимости сделанных оценок и определения для них доверительных интервалов. При ее выполнении оценки МНК имеют наименьшую дисперсию не только среди линейных, но среди всех несмещенных оценок. [c.297]
Если предположения 3) и 4) нарушены, то есть дисперсия возмущений непостоянна и/или значения е. связаны друг с другом, то свойства несмещенности и состоятельности сохраняются, но свойство эффективности - нет. [c.297]
При невыполнении предположения 5) может нарушаться и свойство несмещенности оценок, являющееся наиболее важным в эконометрическом анализе. Значительная часть современной эконометрической теории посвящена анализу выполнения данного свойства (в совокупности с остальными) в различных конкретных ситуациях, а также выяснению и корректировке последствий его невыполнения. [c.297]

Вернуться к основной статье