Оценивание параметров линейной регрессионной модели

Программа курса по выбору
Непараметрические методы оценивания
Лектор: Демидова О.А.
1) Параметрические и непараметрические методы оценивания регрессионных
зависимостей.
Сравнение параметрических и непараметрических методов оценивания.
Случаи неприменимости параметрических методов оценивания регрессионных
зависимостей.
Достоинства и недостатки непараметрических методов оценивания.
Непараметрическая, локально-параметрическая и кусочная аппроксимация
регрессионных зависимостей.
Литература
1) Айвазян С.А., Енюков И.С., Мешалкин Л.Д. «Прикладная статистика: Исследование
зависимостей: Справочное издание», М. Финансы и статистика, 1985, 487 с. (Глава 10).
2) Болдин М.В., Симонова Г.И., Тюрин Ю.Н. «Знаковый статистический анализ
линейных моделей», М. Наука, Физматлит, 1997, 288 с.
3) Крил М. (2008) Некоторые ловушки параметрической интерференции», Квантиль,
№4, с.1 – 6.
4) Расин Д. (2008) «Непараметрическая эконометрика: вводный курс», Квантиль, №4,
с.7 – 56.
5) Хардле В. «Прикладная непараметрическая регрессия», М. Мир, 1993.
2) Непараметрическое сглаживание
Основная идея сглаживания – процедура локального усреднения. Последовательность
весов. Выбор параметра сглаживания. Трудности, возникающие при проведении
сглаживания.
Литература
1) Айвазян С.А., Енюков И.С., Мешалкин Л.Д. «Прикладная статистика: Исследование
зависимостей: Справочное издание», М. Финансы и статистика, 1985, 487 с. (Глава 10).
2) Хардле В. «Прикладная непараметрическая регрессия», М. Мир, 1993.
3) Основные методы сглаживания регрессии
3.1 Ядерное сглаживание
Оценивание локально постоянной ядерной регрессии Надарая – Ватсона.
Выбор функции плотности для сглаживания.
Выбор параметра сглаживания – ширины окна.
Поточечные доверительные интервалы.
Точность оценивания.
Сходимость ядерных оценок по вероятности к истинной кривой отклика.
Ядерные оценки производных.
Оценивание регрессии Надарая – Ватсона с помощью пакета STATА.
3.2 Сглаживание методом ближайших соседей
Оценка регрессии методом к ближайших соседей (по евклидову расстоянию). Выбор
последовательности весов. Выбор параметра сглаживания к.
3.3 Сглаживание сплайнами
Использования сплайнов, позволяющее получить кривую, не имеющую слишком
быстрых локальных изменений. Способы количественной оценки локальных
изменений. Задача минимизации, возникающая при сглаживании сплайнами.
Аппроксимации регрессионных зависимостей сплайнами с помощью пакета STATА.
Сравнение свойств ядерных оценок, оценок ближайших соседей, сплайн – оценок.
Литература
1) Айвазян С.А., Енюков И.С., Мешалкин Л.Д. «Прикладная статистика:
Исследование зависимостей: Справочное издание», М. Финансы и статистика, 1985,
487 с. (Глава 10).
2) Расин Д. (2008) «Непараметрическая эконометрика: вводный курс», Квантиль,
№4, с.7 – 56.
3) Хардле В. «Прикладная непараметрическая регрессия», М. Мир, 1993.
4) Johnston D., DiNardo J. (1997). Econometric methods. (4th ed.). McGraw-Hill, p.370383
5) A. Pagan, A. Ullah. Nonparametric econometrics . Cambridge ; New York :
Cambridge University Press, 1999. 424 p.
4) Бутстреп - методы
Оценивание неизвестного параметра по выборке бутстреп-методом.
Бутстреп – методы оценивания параметров уравнения регрессии: 1) бутстрапирование
данных, 2) бутстрапирование остатков.
Построения доверительных интервалов для параметров регрессии бутстреп-методом с
использованием бутстреп - «таблиц» или персентилей.
Проверка гипотез при помощи бутстрепа.
Бутстреп – оценивание параметров регрессии с помощью пакета STATA.
Литература
1) Анатольев В. (2007) «Основы бутстрапирования», Квантиль, №3, с.1 – 12
2) Davidson A.C., Hinkley D.V.(1997) “Bootstrap methods and their application”,
Cambridgi University Press.
3) Efron B., Tibshirani “An introduction to the bootstrap”, Chapman & Hall, 1993
4) Green ed.4 , 5.3.4 Bootstraping, p.173-174
5) Johnston D., DiNardo J. (1997). Econometric methods. (4th ed.). McGraw-Hill,
p.362-370
6) Maddala, G.S. (2001). Introduction to Econometrics (3th ed.). New York: John Wiley
& Sons, p.596-603
5) Квантильная регрессия
Общая модель квантильной регрессии. Медианная регрессия.
Сведение оценки параметров модели квантильной регрессии к задаче линейного
программирования.
Интерпретация оценок параметров квантильной регрессии.
Тест Вальда для проверки равенства коэффициентов наклона во всех квантильных
регрессиях.
Проверка общей линейной гипотезы о коэффициентах квантильной регрессии.
Построения доверительных интервалов для параметров квантильной регрессии
бутстреп-методом.
Непараметрическая квантильная регрессия.
Оценивание параметров квантильной регрессии с помощью пакета STATА.
Модели VaR (Value at Risk).
Литература
1) Johnston D., DiNardo J. (1997) “ Econometric methods” (4th ed.). McGraw-Hill,
p.444-445
2) Jorion P. “Value at Risk” (2001). McGraw-Hill.
3) Koenker R. (2005) “Quantile regression”. Cambridge University press.