Назовем наилучшей аффинной несмещенной оценкой оцениваемой функции параметров W/3 аффинную несмещенную оценку W(3 для W/3, такую, что [c.321]
Будет показано, что в случае, когда пространство параметров В совпадает с R, наилучшая аффинная несмещенная оценка оказывается линейной [c.321]
Для произвольных квадратных матриц В и (7, из того что В С вытекает, что tr В j tr С. Следовательно, наилучшая аффинная несмещенная оценка является также аффинной несмещенной оценкой с минимальным следом, обратное, вообще говоря, неверно. Если же аффинная несмещенная оценка с минимальным следом единственна (что выполняется всегда в настоящей главе), то она является и наилучшей аффинной несмещенной оценкой, конечно, в тех случаях, когда последняя существует. [c.322]
Утверждение 1 показывает, что существует единственная аффинная несмещенная оценка с минимальным следом (3 для (3. Это означает, что если существует наилучшая аффинная несмещенная оценка для /3, то она совпадает с (3. [c.324]
Рассмотрим линейную регрессионную модель (у, Xf3, а2/). Наилучшая аффинная несмещенная оценка (3 для (3 существует тогда и только тогда, когда г(Х) = /и, в этом случае она равна [c.324]
Покажем теперь, что W(3 — не просто аффинная несмещенная оценка для W/3 с минимальным следом, а она является наилучшей аффинной несмещенной оценкой. Рассмотрим произвольный вектор-столбец с (такой, что определено We), и пусть /Г = (X V-lX)-lX V-ly. Тогда W/З есть аффинная несмещенная оценка для fW/3 с минимальным следом. Рассмотрим другую аффинную несмещенную оценку 0 для W/3. Тогда с в также является аффинной несмещенной оценкой для VK/З, и, следовательно, [c.329]
Отсюда следует, что Х(Х У 1Х) + Х У 1у есть аффинная несмещенная оценка для Х/3 с минимальным следом. Следовательно, она и будет наилучшей аффинной несмещенной оценкой для Х/3 в случае, если последняя существует. Рассмотрим произвольную аффинную оценку [c.331]
Доказательство. Для доказательства того, что W(3 есть аффинная несмещенная оценка для W/3 с минимальным следом, можно провести те же рассуждения, что и при доказательстве теоремы 3. Для того чтобы доказать, что она является наилучшей аффинной несмещенной оценкой, нужно повторить соответствующую часть доказательства теоремы 2. П [c.333]
Ковариационная матрица оценки W/3 выводится очевидным образом. Наконец, чтобы доказать, что W/3 является наилучшей аффинной несмещенной оценкой для W/3 (а не просто аффинной несмещенной оценкой с минимальным следом) можно использовать рассуждения, проведенные в заключительной части теоремы 2. П [c.340]
Пусть выполнены условия теоремы 7 и r(X Rf) = k. Тогда наилучшую аффинную оценку для /3 можно записать в виде [c.342]
Рассмотрим линейную регрессионную (г/, Х/3, а2 V), где у ol(V) п.н. Предположим, что ol(X) С ol(V). Наилучшая аффинная несмещенная оценка [c.344]
Рассмотрим линейную регрессионную модель (г/, Х/3, а2 V), где у со (Х V) п.н. Пусть r(X V+X) = r(X). Наилучшая аффинная несмещенная оценка [c.345]
Рассмотрим линейную регрессионную модель (г/, Х/3, <т2 V), где у со (Х V) п.н. Наилучшая аффинная несмещенная оценка W/3 для W ft существует тогда и только тогда, когда ol(VK ) С ol(X ), и представляется в виде [c.346]
Таким образом, установлено необходимое и достаточное условие. Найдем теперь наилучшую аффинную несмещенную оценку параметрической функции W /3 в модели ( /, Х/3) а2 V), где X может не быть матрицей полного ранга по столбцам, V может быть вырожденной и могут присутствовать явные ограничения вида R/3 = г. [c.349]
Мы хотим найти наилучшую аффинную несмещенную оценку для параметрической функции W f3. Как было показано в утверждении 3, класс аффинных несмещенных оценок для W (3 не пуст (т. е. W (3 оцениваемая) тогда и только тогда, когда выполняется условие [c.351]
Наилучшая аффинная несмещенная оценка W/3 для W ft существует тогда и только тогда, когда ol(VK ) С o (Xf Я ), и имеет вид [c.351]
Показать, что наилучшая аффинная несмещенная оценка для Т1 Х/3 есть Т7у, где var(T7y) = 0. Показать, что неявные ограничения Т X /3 = Т у выполняются автоматически и их можно не учитывать. [c.354]
Рассмотрим схему Гаусса-Маркова (у, Xf3, <т2/), где r(X) = k. В 3 мы получили наилучшую аффинную несмещенную оценку для /3, /3 = (Х Х) 1Х у (оценка Гаусса-Маркова), минимизируя квадратичную форму (след ковариационной матрицы оценки) при линейном ограничении (несмещенность). В 4 мы показали, что оценка Гаусса— Маркова может быть также получена минимизацией (у — Х(3) (у — Х/3) по всем /3 из R. Тот факт, что метод наименьших квадратов (который является методом аппроксимации, а не оценивания) приводит к наилучшим аффинным оценкам, является довольно неожиданным и, конечно, не тривиальным. [c.355]
Рассмотрим линейную регрессионную модель (у, Х/3, а2V), где у со (Х V) п.н. Пусть матрица W такова, что выполнено условие ol(VK ) С со (Х ). Тогда наилучшая аффинная несмещенная оценка для W/3 есть WJ3, где J3 минимизирует выражение [c.356]
Рассмотрим матрицу VK, такую что ol(VK ) С o (Xf Rf). Тогда наилучшая аффинная несмещенная оценка для W/3 есть WJ3, где (3 минимизирует выражение [c.357]
Пусть матрица W такова, что ol(VK ) С o (Xf Rf). Тогда наилучшая аффинная несмещенная оценка для W/3 есть WJ3, где (3 является решением следующей задачи на условный экстремум [c.358]
Теоремы 15, 16 и следствия из них доказывают поразительный и нетривиальный факт, что метод наименьших квадратов (при наличии ограничений) приводит к наилучшей аффинной несмещенной оценке. [c.358]
В дальнейшем будут рассмотрены два конструктивных метода получения оценок с желаемыми свойствами. Это, во-первых, метод поиска наилучшей в линейном (аффинном, квадратичном) смысле несмещенной оценки (введенный и используемый в гл. 13 и 14), а также метод максимального правдоподобия (гл. 15-17). [c.318]
Если существует по крайней мере одна такая несмещенная оценка для W/3 (т.е. если класс аффинных несмещенных оценок не пуст), то будем называть функцию W/3 оцениваемой. Полное описание класса оцениваемых функций дано в 7. Если W(3 — оцениваемая, то интерес представляют наилучшие оценки среди всех аффинных несмещенных оценок. Следующее определение дает более строгое описание данного понятия. [c.321]
Доказательство того, что W(X V lX lX V ly является аффинной несмещенной оценкой для W(3 с минимальным следом, аналогично доказательству утверждения 1. Однако доказательство того, что эта оценка является наилучшей в классе аффинных несмещенных оценок для VK/3, существенно отличается от соответствующего доказательства теоремы 1 и является более полезным как метод доказательства вообще. [c.329]
Легко найти ковариационную матрицу для W/3. Наконец, для того чтобы доказать, что W /3 есть не просто оценка с минимальным следом, а наилучшая среди аффинных несмещенных оценок для W/3, используются те же рассуждения, которые были проведены при доказательстве теоремы 2. П [c.337]
Доказательство. Наилучшей аффинной несмещенной оценкой для /3 может быть только аффинная несмещенная оценка с минимальным следом /3 = (XfX) lXfy. Рассмотрим произвольную аффинную оценку J3 для /3, которую запишем как [c.325]
Рассмотрим линейную регрессионную модель (у, Х/3, r2V), где V 0. Тогда наилучшая аффинная несмещенная оценка W/3 выражения W/3 существует для каждой матрицы W (имеющей k столбцов) тогда и только тогда, когда г(Х) = /и, при этом для нее справедливо следующее представление [c.327]
Замечание. Фактически теорема 2 обобщает теорему 1 в двух направлениях. Во-первых, рассматривается более общий вид ковариационной матрицы для у, а именно
Еслиг(Х) < /с, то нельзя построить аффинную несмещенную оценку для/3, не говоря уже о наилучшей аффинной несмещенной оценке. Это легко пока- [c.329]
В теореме 5 рассмотрен случай, когда каждая строка матрица R является линейной комбинацией строк матрицы X, при этом r(X R ) = г(Х ) и класс оцениваемых функций остается прежним. В этом параграфе рассматривается обратная ситуация, когда строки матрицы R не являются линейно зависимыми от строк матрицы X, т. е. o (Rf) Псо1(Х ) = 0 . Как будет видно, наилучшая аффинная несмещенная оценка имеет в этом случае довольно простой вид. [c.341]
Рассмотрим модель (у, Xf3, a2V . Пусть со (Х 5) Псо1(Х Т) = 0 . Показать, что наилучшая аффинная несмещенная оценка для АХ/3 (которая всегда существует) есть АС у, где [c.347]
Рассмотрим линейную регрессионную модель (у, Х/3, r2V), где V ф 0 и /3 удовлетворяет совместным линейным ограничениям R/3 = г. Рассмотрим матрицу VK, такую что ol(VK7) С o (Xf R . Тогда наилучшая аффинная несмещенная оценка для W /3 есть W/3, где /3 является решением следующей задачи на условный экстремум [c.357]