Нелинейная регрессия

Нелинейная регрессия
 Линейная регрессия
y    x  
y    1 x1   2 x2  ...  
 Нелинейные регрессии делятся на два
класса:
1. нелинейные по независимым
переменным
2. нелинейные по оцениваемым
параметрам
Нелинейная регрессия
по независимым переменным
Полиномы разных степеней
Парабола:
y    x  x  
Замена:
x  x1 , x  x2
2
Линейный вид:
2
y    x1  x2  
Нелинейная регрессия
по независимым переменным
Равносторонняя гипербола
Модель:
Замена:

y  
x
1
t
x
Линейный вид:
y    t  
Нелинейная регрессия
по оцениваемым параметрам
Степенная модель
Модель:

y   x 
Логарифмируем обе части равенства:
ln y  ln    ln x  ln 
Нелинейная регрессия
по оцениваемым параметрам
Степенная модель
Замена:
ln y  z , 1  ln ,
t  ln x, 1  ln 
Линейный вид:
z  1  1t  1
Нелинейная регрессия
по оцениваемым параметрам
Обратная модель
Модель:
1
y
  x  
Обращаем обе части равенства:
1
   x  
y
Нелинейная регрессия
по оцениваемым параметрам
Экспоненциальная модель
Модель:
ye
 x

Логарифмируем обе части равенства:
ln y    x  ln 
Нелинейная регрессия
по оцениваемым параметрам
Показательная модель
Модель:
y     
x
Логарифмируем обе части равенства:
ln y  ln   x ln   ln 
Эластичность
x
Э  f ( x)
y
Формула расчета коэффициента эластичности,
который показывает на сколько процентов
изменится в среднем результат, если фактор
изменится на 1%.
Эластичность не всегда бывает постоянной для
различных значений x и y.
Оценка корреляции для
нелинейной регрессии.
( y  yˆ x )
R  1
2
( y  y )
2
0  R  1,
2
𝑅𝑥𝑦
𝑅𝑆𝑆
=1−
𝑇𝑆𝑆
2
𝑅𝑥𝑦
𝐸𝑆𝑆
=
𝑇𝑆𝑆
Признаки качественной модели
1. Простота модели (из примерно одинаково
отражающих реальность моделей, выбирается та,
которая содержит меньше объясняющих переменных.
2. Единственность (для любых данных коэффициенты
модели должны вычисляться однозначно).
3. Максимальное соответствие (модель тем лучше,
чем больше скорректированный коэффициент
детерминации).
4. Согласованность с теорией (уравнение регрессии
должно соответствовать теоретическим предпосылкам).
5. Прогнозные качества (прогнозы, полученные на
основе модели, должны подтверждаться реальностью).
Выбор нелинейной модели
Оценка возможности замены нелинейной регрессии линейной
функцией
1. Если величина |R2 – r2|≤0.1, то предположение о
линейной форме связи считается оправданным;
2. Если величина |R2 – r2|>0.1, то с помощью t-критерия
Стьюдента проверяется статистическая значимость того
что нелинейная форма модели лучше линейной.
3. Сравнивают tрасчётное и tкритическое, если tрасч >tкрит,
то различие между R2 и r2 существенно, и замена
нелинейной регрессии линейной невозможна.
𝑡расч =
𝑅 2 −𝑟 2
𝑚|𝑅−𝑟|
𝑡крит =t(α;df =n-m-1)
m Rr  2
R
2
 
2
  2  R
2 2
r  R r
n
2
2
 r2
