Регрессии, нелинейные по объясняющим переменным [c.5]
Иначе обстоит дело с регрессией, нелинейной по оцениваемым параметрам. Данный класс нелинейных моделей подразделяется на два типа нелинейные модели внутренне линейные и нелинейные модели внутренне нелинейные. Если нелинейная модель внутренне линейна, то она с помощью соответствующих преобразований может быть приведена к линейному виду. Если же нелинейная модель внутренне нелинейна, то она не может быть сведена к линейной функции. Например, в эконометрических исследованиях при изучении эластичности спроса от цен широко используется степенная функция [c.70]
Иначе обстоит дело с криволинейной регрессией, нелинейной по оцениваемым параметрам. Предположим, что рассматривается производственная функция Кобба-Дугласа [c.117]
При изучении вопроса статистической оценки взаимосвязанных источников доказательств обычно используют три статистические модели [78] линейную множественную регрессию нелинейную регрессию условные вероятности. [c.80]
К первому отнесем регрессии нелинейные относительно включенных в исследование переменных, но линейные по параметрам. Это, например, полиномы. В случае парной регрессии имеем уравнения [c.135]
Выбор математической формы связи при моделировании себестоимости добычи нефти, как показывает практика, целесообразно проводить методом перебора известных уравнений регрессий с переходом от менее сложных форм к более сложным. Часто случается так, что одна часть факторов связана с себестоимостью добычи нефти линейной зависимостью, другая — нелинейной. Поэтому удобнее поиск искомой формы связи начинать с линейной зависимости, затем проверить нелинейную зависимость, а потом перейти к более сложным формам связи (приложение 1). При выборе формы связи необходимо стремиться к получению достаточно простой по решению и удобной для экономической интерпретации модели. Модель себестоимости добычи нефти должна также отвечать условиям адекватности при включении в нее возможно меньшего числа факторов. Последнее обстоятельство указывает на то, что оценка значимости факторов с последующим отсевом менее существенных из них не утрачивает своей актуальности и на этом этапе исследования. [c.18]
Коэффициенты регрессии, как и коэффициенты корреляции, — случайные величины, зависящие от объема выборки. Поэтому для проверки надежности коэффициента регрессии выдвигается гипотеза о том, что коэффициент регрессии в генеральной совокупности равен нулю (нулевая гипотеза), т. е. связь, установленная по данным выборки, в генеральной совокупности отсутствует. Простейшая схема проверки этой гипотезы при линейной форме связи сводится к построению доверительного интервала для каждого коэффициента регрессии. Если граничные значения данного коэффициента регрессии в этом интервале имеют противоположные знаки, то принятая гипотеза подтверждается и тогда соответствующий этому параметру уравнения фактор исключается из модели. Для нелинейной формы связи имеются другие методы оценки значимости факторов [c.18]
Результаты оценки двух предшествующих уравнений регрессии указывают на то, что оптимальную форму необходимо искать в таком виде, чтобы она содержала одновременно элементы как линейной, так и нелинейной связи. Последовательное решение ряда уравнений смешанной формы после исключения менее существенных факторов позволило ограничить число уравнений, участвующих в данном переборе, и остановиться на следующем [c.29]
Модели простой линейной и нелинейной регрессии [c.88]
Модели нелинейной регрессии. Повысить точность оценок может позволить применение моделей нелинейной регрессии. Часто используют полиномиальные модели [c.90]
Метод пошаговой регрессии, включенный во многие статистические пакеты, позволяет из множества исходных переменных производить отбор тех переменных, которые наиболее значимы для адекватного представления исходных данных. Этот метод позволяет, во-первых, построить более простую, сокращенную модель, а, во-вторых, при последующем сборе данных не регистрировать несущественные переменные. Он может быть использован в качестве предварительного этапа перед построением нелинейной модели. [c.92]
Анализ тренда предназначен для исследования изменений среднего значения временного ряда с построением математической модели тренда и с прогнозированием на этой основе будущих значений ряда. Анализ тренда выполняют путем построения моделей простой линейной или нелинейной регрессии. [c.102]
В определенных обстоятельствах можно использовать коэффициент ранговой корреляции в качестве альтернативного показателя оценки зависимости между двумя наборами значений. Так, часто трудно получить точные показатели некоторых значений, и поэтому единственный надежный метод состоит в расстановке переменных по порядку, иначе говоря — в ранжировании значений. Коэффициент корреляции ранжированных значений называется коэффициентом ранговой корреляции, и он вычисляется по упрощенной формуле, которая приведена в этой главе. Значимая корреляция между двумя переменными подразумевает наличие линейной зависимости между ними. Методы регрессии можно использовать для определения уравнения наилучшей прямой линии, линии регрессии. Уравнение регрессии записывается в виде у = а + Ьх. Это уравнение можно использовать для оценки значения у при заданном значении х. Так, например, объем выручки от реализации можно рассчитать исходя из заданной суммы расходов на рекламу. Нелинейная зависимость между переменными должна быть преобразована в линейную, и только потом следует проводить базовый анализ регрессии. [c.128]
Как видно из графика на рис. 6.3, имеются существенные колебания показателей объема продаж. Однако отмечается видимая тенденция к увеличению объема продаж, и соответствующий тренд можно выделить с помощью методов регрессии. Линия регрессии показана на графике (рис. 6.3). Из графика видно, что зависимость определена не столь четко, как в предыдущем примере. Так, коэффициент корреляции для этих данных будет значительно меньше по величине, и вообще может оказаться незначимым. Долговременный тренд может быть линейным или нелинейным. Эти данные трудно анализировать из-за сильных расхождений между соседними значениями. Часто, когда мы имеем дело с такого рода данными, необходимо сгладить колебания, и только потом можно сделать какой-либо имеющий смысл прогноз. Методы сглаживания данных временных рядов будут более подробно рассмотрены в последующих разделах. [c.188]
Оценка тренда с помощью линейной и нелинейной регрессии. [c.221]
По числу факторов различают простую (парную) и множественную (несколько факторов) регрессию. Вид и параметры уравнения регрессии устанавливаются с помощью метода наименьших квадратов отклонений эмпирических данных от ожидаемых значений. По типу уравнения регрессии различают линейную и нелинейную регрессию. [c.467]
Нелинейные модели регрессии [c.124]
Если случайные величины Е, имеют нормальное распределение, то уравнение (8.34) может быть оценено методом максимального правдоподобия (см. 2.7). Так как в случае нормального распределения ошибок регрессии оценки максимального правдоподобия совпадают с оценками метода наименьших квадратов, на практике применение этого метода к модели (8.15) сводится к нелинейной задаче минимизации по а, р, у и Р функции [c.205]
Рассматривает линейную зависимость между зависимой и независимой переменными. Описывается в форме Y = а + ЬХ, в то время как нелинейная регрессия предполагает нелинейную зависимость, например, экспоненциальную и квадратическую функции. См. Регрессионный анализ. [c.462]
Объем продаж Q как функция (результативный признак) от переменной (причинный фактор) цены р может быть задан уравнением простой регрессии вида Q(PJ) = аа + a pj — сплошная прямая линия, или ее нелинейной флуктуацией — пунктирные линии. [c.151]
Удельные затраты 3ip и Kip представляют собой нелинейные функции от грузооборота Qp и величины емкости МСХ хр и задаются в модели либо в табличной форме, либо в виде уравнений множественной регрессии, полученных на основе стандартного алгоритма регрессионного и корреляционного анализов. [c.97]
Решение такой системы уравнений в случае нелинейной зависимости между X и Y может быть сопряжено со значительными трудностями. Поэтому в дальнейшем мы ограничимся рассмотрением линейной зависимости между X и 7, то есть линейной регрессии. К тому же, во многих случаях нелинейная зависимость может быть сведена к линейной достаточно простыми преобразованиями данных. [c.106]
Изучая уравнение линейной регрессии мы предполагали, что реальная взаимосвязь фактора X и отклика 7 линейна, а отклонения от прямой регрессии случайны, независимы между собой, имеют нулевое математическое ожидание и постоянную дисперсию. Если это не так, то статистический анализ параметров регрессии некорректен и оценки этих параметров не обладают свойствами несмещенности и состоятельности. Например, это может быть, если в действительности связь между переменными нелинейна. Поэтому после получения уравнения регрессии необходимо исследовать его ошибки. [c.122]
До сих пор мы обсуждали линейную зависимость между фактором X и откликом 7. Когда истинная взаимосвязь между ними носит нелинейный характер, в ряде случаев ее можно свести к линейной путем соответствующего преобразования данных. После этого к преобразованным данным может быть применена линейная регрессия. Преобразованные переменные и параметры мы будем отмечать символом п (например ). [c.128]
На практике может оказаться, что функцию регрессии невозможно описать удовлетворительным образом ни линейной зависимостью, ни любой из перечисленных в предыдущем параграфе нелинейных функций. Тогда стоит попытаться аппроксимировать ее комбинацией этих функций. Делается это следующим образом [c.130]
В общем случае считаем, что зависимость между фактором X и откликом 7 нелинейна. Тогда, используя результаты из предыдущего параграфа, преобразуем исходную выборку (xk,yk k = l,...,N таким образом, чтобы в первом приближении можно было считать, что связь между преобразованными данными (xk,yk ,k = l,...,N носит линейный характер. Вычисляем параметры линейной регрессии. [c.131]
Многослойный персептрон Нелинейная (в т.ч. логистическая) регрессия, Дискриминантные модели [c.202]
Предварительное, до подачи на вход сети, преобразование данных с помощью стандартных статистических приемов может существенно улучшить как параметры обучения (длительность, сложность), так и работу системы. Например, если входной ряд имеет отчетливый экспоненциальный вид, то после его логарифмирования получится более простой ряд, и если в нем имеются сложные зависимости высоких порядков, обнаружить их теперь будет гораздо легче. Очень часто ненормально распределенные данные предварительно подвергают нелинейному преобразованию исходный ряд значений переменной преобразуется некоторой функцией, и ряд, полученный на выходе, принимается за новую входную переменную. Типичные способы преобразования — возведение в степень, извлечение корня, взятие обратных величин, экспонент или логарифмов (см. [250]). Нужно проявить осторожность в отношении функций, которые определены не" всюду (например, логарифм отрицательных чисел не определен). После этого могут быть применены дополнительные преобразования для изменения формы кривой регрессии. Часто это на порядок уменьшает требования к обучению [284], [251]. [c.61]
Независимая переменная Инженерный метод Пересечение Кривая квалификялти-т Линейная функция затрат Смешанные затраты М у л ьт j-j ко л л и неа рнос TL Сложная регрессия Нелинейная функция затрат Регрессионный анализ Отклонение от среднего знамен ия Полу переменные затраты Простая регрессия Угловой коэффициент Ana л и э с п е mi фи каци ft Стандартное отклонение рассчитанного коэффициента [c.441]
Сезонная составляющая очевидна во многих случаях, где задействованы финансовые и экономические показатели. Сезонные колебания - это колебания вокруг тренда, которые возникают в периоды до одного года. Сезонную составляющую можно рассчитать путем вычитания тренда из исходного значения временного ряда. Тренд показывает обший тип изменений в объеме реализации нефтепродуктов. Тренд можно выделить с помощью скользящих средних. Тренд в данном случае представляет собой динамику реализации нефтепродуктов за период 01.01.99-01.07.01 г г. с разбивкой по кварталам. Анализируя тренд с помошью метода нелинейной регрессии, получили расчетный прогнозный объем реализации нефтепродуктов на период 01.07.01 -01.07.03 гг. с разбивкой по кварталам. Если к полученным расчетным прогнозным значениям объемов реализации нефтепродуктов прибавить средние колебания реализации нефтепродуктов по периодам [c.210]
Таким образом, коррелируя уровень динамического ряда методами отклонений от а) уровня динамического ряда и б) уровня динамического ряда, включая фактор времени, можно прийти к следующему выводу в условиях линейных и нелинейных тенденций динамических рядов уравнения регрессии, построенных методами коррелирования отклонений от уровня динамического ряда и уровня динамического ряда, включая фактор времени (t), будут тождественны. [c.78]
Нелинейное отображение научного роста порождает целый ряд сложных динамических режимов, например неподвижных точек, колебаний, хаоса. Типичные свойства научного развития — структурная дифференциация науки, появление и расширение новых областей, следование научной моде, регресс. Компьютерное моделирование позволяет проверить результаты исследований на основе наукометрических данных. [c.388]
Модели AR H и GAR H удовлетворяют всем условиям классической модели, и метод наименьших квадратов позволяет получить оптимальные линейные оценки. В то же время можно получить более эффективные нелинейные оценки методом максимального правдоподобия. В отличие от модели с независимыми нормально распределенными ошибками регрессии в AR H-модели оценки максимального правдоподобия отличаются от оценок, полученных методом наименьших квадратов. [c.217]
Форма зависимости в соответствии с характером изменения результативного признака может быть линейной или нелинейной. Нелинейная функция может быть линеаризована (приведена к линейному виду с помощью логарифмирования). Чаще других в маркетинге используются следующие уравнения регрессии (табл. 5.6). [c.202]
Значительно сложнее вычисление параметров уравнений регрессии криволинейной формы, В этих случаях приходится функции линеаризовать, т. е. переходить от нелинейных связей к линейным. Часто линеализацию производят путем логарифмирования уравнения. Так, например, степенную связь y=atb> превращают в линейную у —а +Ы, выражая In у через у, а nt через f. В экспоненциальной связи y=aebt переменную у заменяют у = пу, а In a — а. Тогда функция принимает вид y =a - -bt. Гиперболическая связь y=a- -(b/t) линеаризуется при замене независимой переменной /t на . В этом случае уравнение регрессии принимает вид y=a- -bf. [c.29]
Хаос не относится к разряду беспорядочных структур. Скорее, истинно обратное. Хаос - более высокая форма порядка, где случайность и бессистемные импульсы становятся организующим принципом скорее, нежели более традиционные причинно-следственные отношения в теориях Ньютона и Евклида. Поскольку природа человека и его мозг хаотичны, рынки, являясь продуктом природы и отражающие мышление человека, также представляют собой хаотичные процессы. Пришло время признать, что наше традиционное обучение дает трейдерам неверное представление и неправильные логические картосхемы. Независимо от того, какого уровня сложности применяется линейная математика, с ее преобразованиями Фурье, ортогональными функциями, методами регрессии, или за-действуется искусственный интеллект, нейронные сети, генетические алгоритмы и так далее. Все это неизбежно вводит в заблуждения трейдеров на кардинально нелинейных рынках. Рынки -порождения Хаоса. [c.34]
Логистическая регрессия является методом бинарной классификации, широко применяемом при принятии решений в финансовой сфере. Она позволяет оценивать вероятность реализации (или нереализации) некоторого события в зависимости от значений некоторых независимых переменных - предикторов xb...,xN. В модели логистической регресии такая вероятность имеет аналитическую форму Pr(x) =(l+exp(-z ))", где z = ao+ aiXi+...+ aNxN. Нейросетевым аналогом ее очевидно является однослойный персептрон с нелинейным выходным нейроном. В финансовых приложениях логистическую регрессию по ряду причин предпочитают многопараметрической линейной регрессии и дискриминантному анализу. В частности, она автоматически обеспечивает принадлежность вероятности интервалу [0,1], накладывает меньше ограничений на распределение значений предикторов. Последнее очень существенно, поскольку распределение значений финансовых показателей, имеющих форму отношений, обычно не [c.202]
Ясно, что информационные критерии дают информацию об адекватности модели и помогают выбрать модель подходящего уровня сложности. Другие методы диагностики позволяют, если такая задача стоит, избежать подхода к системе как к черному ящику . Поскольку основное отличие сети от линейной регрессии — это возможность применять нелинейные преобразователи, имеет смысл посмотреть, насколько глубоко модель использует свои нелинейные возможности. Проще всего это сделать с помощью введенного Ви-гендом [275] отношения [c.64]