В этой главе будет построена наилучшая аффинная несмещенная оценка (линейного преобразования) вектора /3. Упор будет делаться именно на вывод , т. е. мы не ограничимся представлением формулы для оценки с доказательством ее оптимальности, а постараемся описать метод, посредством которого такие оценки могут быть получены. Мы будем использовать конструктивный метод аффинного несмещенного оценивания с минимальным следом. [c.321]
Пусть (у, Х/3, сг2 V) — линейная регрессионная модель. Рассмотрим для заданной матрицы W следующую функцию W/3. Говорят, что оценка для W/3 является аффинной, если она имеет вид [c.321]
Если существует по крайней мере одна такая несмещенная оценка для W/3 (т.е. если класс аффинных несмещенных оценок не пуст), то будем называть функцию W/3 оцениваемой. Полное описание класса оцениваемых функций дано в 7. Если W(3 — оцениваемая, то интерес представляют наилучшие оценки среди всех аффинных несмещенных оценок. Следующее определение дает более строгое описание данного понятия. [c.321]
Назовем наилучшей аффинной несмещенной оценкой оцениваемой функции параметров W/3 аффинную несмещенную оценку W(3 для W/3, такую, что [c.321]
До сих пор нет никаких гарантий, что аффинная несмещенная оценка существует, или даже, если она существует, что она будет единственной. В дальнейшем мы убедимся, что во всех рассматриваемых случаях это действительно так, т. е. такая оценка существует и единственна. [c.321]
Будет показано, что в случае, когда пространство параметров В совпадает с R, наилучшая аффинная несмещенная оценка оказывается линейной [c.321]
Назовем аффинной несмещенной оценкой с минимальным следом оцениваемой параметрической функции W/3 аффинную несмещенную оценку VK/3 для W/3, такую что [c.322]
Для произвольных квадратных матриц В и (7, из того что В С вытекает, что tr В j tr С. Следовательно, наилучшая аффинная несмещенная оценка является также аффинной несмещенной оценкой с минимальным следом, обратное, вообще говоря, неверно. Если же аффинная несмещенная оценка с минимальным следом единственна (что выполняется всегда в настоящей главе), то она является и наилучшей аффинной несмещенной оценкой, конечно, в тех случаях, когда последняя существует. [c.322]
Рассмотрим линейную регрессионную модель (у, Х/3, а2/). Аффинная несмещенная оценка с минимальным следом /3 для /3 существует тогда и только тогда, когда т(Х) = /с, и находится по формуле [c.323]
Доказательство. Мы ищем аффинную оценку /3 для /3, т. е. оценку вида [c.323]
Ограничение ЛХ = //, может выполняться только в случае, когда r(X) = k. Следовательно, для существования аффинной несмещенной оценки для /3 необходимо, чтобы r(X) = k. Как мы увидим ниже, это условие является также и достаточным. [c.323]
Следовательно, аффинная несмещенная оценка с минимальным следом (т. е. оценка, для которой выборочная матрица ковариаций имеет минимальный след в классе аффинных несмещенных оценок) получается как решение следующей детерминированной задачи [c.323]
Утверждение 1 показывает, что существует единственная аффинная несмещенная оценка с минимальным следом (3 для (3. Это означает, что если существует наилучшая аффинная несмещенная оценка для /3, то она совпадает с (3. [c.324]
Рассмотрим линейную регрессионную модель (у, Xf3, а2/). Наилучшая аффинная несмещенная оценка (3 для (3 существует тогда и только тогда, когда г(Х) = /и, в этом случае она равна [c.324]
Рассмотреть модель (у, Х/3, а2/). Оценка /3 для /3, которая в классе аффинных несмещенных оценок минимизирует определитель матрицы var(/3) (вместо следа), также равна /3 = (X1 Х) 1Х у. Однако критерий наименьшего определителя имеет определенные недостатки по сравнению с подходом, в котором используется след. Проанализировать эти возможные недостатки. [c.326]
Доказательство. Пусть W/3 = Ау + с есть некоторая аффинная оценка W/3. Она является несмещенной тогда и только тогда, когда [c.328]
Покажем теперь, что W(3 — не просто аффинная несмещенная оценка для W/3 с минимальным следом, а она является наилучшей аффинной несмещенной оценкой. Рассмотрим произвольный вектор-столбец с (такой, что определено We), и пусть /Г = (X V-lX)-lX V-ly. Тогда W/З есть аффинная несмещенная оценка для fW/3 с минимальным следом. Рассмотрим другую аффинную несмещенную оценку 0 для W/3. Тогда с в также является аффинной несмещенной оценкой для VK/З, и, следовательно, [c.329]
Доказательство того, что W(X V lX lX V ly является аффинной несмещенной оценкой для W(3 с минимальным следом, аналогично доказательству утверждения 1. Однако доказательство того, что эта оценка является наилучшей в классе аффинных несмещенных оценок для VK/3, существенно отличается от соответствующего доказательства теоремы 1 и является более полезным как метод доказательства вообще. [c.329]
Отсюда следует, что Х(Х У 1Х) + Х У 1у есть аффинная несмещенная оценка для Х/3 с минимальным следом. Следовательно, она и будет наилучшей аффинной несмещенной оценкой для Х/3 в случае, если последняя существует. Рассмотрим произвольную аффинную оценку [c.331]
Вспомним, что в 2, при рассмотрении линейной регрессионной модели (у, Х/3, сг2 V), говорилось, что функцию параметров W/3 можно оценить, если существует по крайней мере одна аффинная несмещенная оценка для W/3. [c.332]
Доказательство. Рассмотрим аффинную оценку А у + с для W/3. Ее несмещенность означает, что [c.332]
Доказательство. Для доказательства того, что W(3 есть аффинная несмещенная оценка для W/3 с минимальным следом, можно провести те же рассуждения, что и при доказательстве теоремы 3. Для того чтобы доказать, что она является наилучшей аффинной несмещенной оценкой, нужно повторить соответствующую часть доказательства теоремы 2. П [c.333]
Доказательство. Рассмотрим аффинную оценку вектора VK/3 [c.334]
Соотношение (15) может выполняться, только если ol(VK ) С o (Xf Rf). Так как по предположению со (Я ) С ol(X ), то получаем, что ol(VK ) С со (Х ) есть необходимое условие для существования аффинной несмещенной оценки для W/3. [c.335]
Легко найти ковариационную матрицу для W/3. Наконец, для того чтобы доказать, что W /3 есть не просто оценка с минимальным следом, а наилучшая среди аффинных несмещенных оценок для W/3, используются те же рассуждения, которые были проведены при доказательстве теоремы 2. П [c.337]
Ранее, в 7 было введено следующее понятие. Функция W/3 называлась оцениваемой, если существовала по крайней мере одна аффинная несмещенная оценка для W/3. в утверждении 2 давалось описание класса оцениваемых функций W (3 для линейной регрессионной модели (у, Х/3, <72V) в случае отсутствия ограничений на /3. Теперь охарактеризуем класс оцениваемых функций W (3 для линейной регрессионной модели, предполагая, что /3 удовлетворяет некоторым линейным ограничениям. [c.337]
Аффинная несмещенная оценка W/3 для W (3 существует тогда и только тогда, когда ol(VK ) С со (Х Я ), и может быть представлена в виде [c.338]
Ковариационная матрица оценки W/3 выводится очевидным образом. Наконец, чтобы доказать, что W/3 является наилучшей аффинной несмещенной оценкой для W/3 (а не просто аффинной несмещенной оценкой с минимальным следом) можно использовать рассуждения, проведенные в заключительной части теоремы 2. П [c.340]
Будем называть параметрическую функцию W/3 строго оцениваемой, если существует по крайней мере одна линейная (а не просто аффинная) несмещенная оценка для W/3. Показать, что в линейной регрессионной модели без ограничений параметрическая функция W/3 является оцениваемой тогда и только тогда, когда она строго оцениваемая. [c.340]
Пусть выполнены условия теоремы 7 и r(X Rf) = k. Тогда наилучшую аффинную оценку для /3 можно записать в виде [c.342]
Рассмотрим линейную регрессионную (г/, Х/3, а2 V), где у ol(V) п.н. Предположим, что ol(X) С ol(V). Наилучшая аффинная несмещенная оценка [c.344]
Рассмотрим линейную регрессионную модель (г/, Х/3, а2 V), где у со (Х V) п.н. Пусть r(X V+X) = r(X). Наилучшая аффинная несмещенная оценка [c.345]
Доказательство. Наилучшей аффинной несмещенной оценкой для /3 может быть только аффинная несмещенная оценка с минимальным следом /3 = (XfX) lXfy. Рассмотрим произвольную аффинную оценку J3 для /3, которую запишем как [c.325]
Рассмотрим линейную регрессионную модель (у, Х/3, r2V), где V 0. Тогда наилучшая аффинная несмещенная оценка W/3 выражения W/3 существует для каждой матрицы W (имеющей k столбцов) тогда и только тогда, когда г(Х) = /и, при этом для нее справедливо следующее представление [c.327]
Замечание. Фактически теорема 2 обобщает теорему 1 в двух направлениях. Во-первых, рассматривается более общий вид ковариационной матрицы для у, а именно
Еслиг(Х) < /с, то нельзя построить аффинную несмещенную оценку для/3, не говоря уже о наилучшей аффинной несмещенной оценке. Это легко пока- [c.329]
Рассмотрим линейную регрессионную модель (г/, Xf3, r2V), где V Ф 0. Тогда наилучшая аффинная несмещенная оценка W/3 для W (3 существует тогда и только тогда, когда ol(VK ) С ol(X ), и тогда она представляется в виде [c.332]
Ковариационная матрица оценки W J3 равна a AVAf. Следовательно, соответствующей минимизационной задачей для нахождения аффинной несмещенной оценки для W /3 с минимальным следом будет [c.335]
В теореме 5 рассмотрен случай, когда каждая строка матрица R является линейной комбинацией строк матрицы X, при этом r(X R ) = г(Х ) и класс оцениваемых функций остается прежним. В этом параграфе рассматривается обратная ситуация, когда строки матрицы R не являются линейно зависимыми от строк матрицы X, т. е. o (Rf) Псо1(Х ) = 0 . Как будет видно, наилучшая аффинная несмещенная оценка имеет в этом случае довольно простой вид. [c.341]