Теория вероятности и математическая статистика

«Утверждаю»
Председатель Ученого совета
математико-механического факультета
СПбГУ, декан математикомеханического факультета СПбГУ
профессор Леонов Г.А. ________________
«10» мая 2012 г.
ПРОГРАММА ВСТУПИТЕЛЬНОГО ЭКЗАМЕНА
ПО СПЕЦИАЛЬНОЙ ДИСЦИПЛИНЕ
на основную образовательную программу
послевузовского профессионального образования (аспирантура)
Теория вероятности и математическая статистика
по специальности научных работников
01.01.05 «Теория вероятности и математическая статистика»
Утверждена на заседании Ученого совета математико-механического
факультета СПбГУ, протокол № 5 от 10.05.2012.
Санкт-Петербург
2012
Специализация «Статистическое моделирование»
I.ТЕОРИЯ ВЕРОЯТНОСТЕЙ
1. Вероятностное пространство и случайные величины
Аксиомы теории вероятностей. Вероятность и ее свойства. Распределение, функция
распределения, плотность распределения. Их свойства. Типы распределений.
2. Числовые характеристики случайных величин
Математическое ожидание и его свойства. Моменты случайных величин. Неравенство
Чебышева и Йенсена. Ковариационная матрица и ее свойства.
3. Характеристические функции
Многомерное нормальное распределение.
4. Сходимость случайных величин и распределений
Типы сходимости и связь между ними. Слабая сходимость распределений в метрических
пространствах. Сходимость по вариации. Терема Шеффе. Слабый закон больших чисел.
Центральная предельная теорема. Теоремы Леви, Ляпунова, Линдеберга-Феллера.
5. Последовательность независимых случайных величин
Закон нуля и единицы для независимых и перестановочных случайных величин. Неравенство
Колмогорова и усиленный закон больших чисел. Теорема о трех рядах.
6. Дискретные цепи Маркова
Классификация марковских цепей. Эргодичность и возвратность. Матрица перехода и ее
свойства. Теорема о предельном поведении переходных вероятностей в марковской цепи.
7. Условные математические ожидания
Условные распределения и их свойства. Функция регрессии. Условные гауссовские
распределения.
8. Марковские цепи с произвольным пространством состояний
Конечномерные распределения. Поглощающие состояния.
II. ТЕОРИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
1. Основные понятия
Теоремы Колмогорова о согласованности распределений и непрерывности траекторий.
Винеровский и пуассоновский процессы и их свойства.
2. Стационарные процессы
Стационарные в широком смысле процессы. Спектральное представление корреляционных
функций и стационарных процессов. Процессы скользящего суммирования и авторегрессии.
Эргодическая теорема для стационарных в широком смысле процессов. Задачи прогноза.
3. Мартингалы
Теорема сходимости мартингалов. Теорема о преобразовании "свободного выбора".
4. Марковские процессы и семейства
Общее понятие полугруппы и инфинитезимального оператора марковского процесса. Строго
марковское свойство. Марковские процессы с дискретным пространством состояний.
Ветвящиеся процессы. Уравнение Чепмена-Колмогорова.
5. Стационарные в узком смысле процессы
Эргодическая теорема Биркгофа-Хинчина.
6. Процессы стохастической аппроксимации
Процедура Роббинса-Монро. Скорость сходимости в процедуре Роббинса-Монро. Процедура
Кифера-Вольфовица.
III. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
1. Основные понятия
Типы наблюдений (матрицы, процессы). Природа признаков. Гистограммный анализ. Числовые
характеристики признаков. Вероятностный подход в статистике. Генеральная и выборочная
совокупности. Повторная выборка. Функция правдоподобия. Статистики. Достаточные
статистики. Распределение выборочных среднего и дисперсии (и их независимость) для
выборки из нормального распределения.
2. Оценка параметров: Принципы выбора точечных оценок
Достаточное условие состоятельности. Эффективность. Неравенство Рао-Крамера.
Эффективность и достаточность. Эффективность оценок параметров сдвига и масштаба для
нормальной выборки. Метод моментов. Метод максимального правдоподобия (м.м.п.). Свойства
оценок м.м.п. (существование, эффективность, асимп тотическая нормальность). Доверительные
интервалы (определение, примеры построения). Метод наименьших квадратов (м.н.к.). Свойства
оценок. Доверительные интервалы для коэффициентов линейной регрессии. Доверительные
интервалы для коэффициента корреляции. Z-преобразование Фишера.
3. Проверка статистических гипотез.
Общая схема. Критическая функция. Значимость и мощность критерия. Лемма НейманаПирсона. РНМ-критерии. Гипотезы согласия, однородности и назависимости. Критерий хиквадрат. Теорема Фишера о распределениии статистики критерия хи-квадрат. Критерий
согласия Колмогорова-Смирнова. Критерий значимости коэффициента корреляции. Критерий
однородности Стьюдента.
4. Многомерная статистика
Регрессионный анализ (Общая схема). Частные, множественный и канонические коэффициенты
корреляции. Корреляционное отношение. Факторный анализ (главные компоненты).
Дискриминантная функция Фишера. Дисперсионный анализ (щднофакторная схема). Теорема
Фишера-Кочрена. Распределение Уишарта.
5. Анализ временных рядов
Стационарность ряда. Тренды. Метод скользящего среднего для снятия тренда. Критерии
случайности ряда. Коэффициент корреляции Кендалла. Оценки корреляционной функции по
реалилизации стационарного процесса. Оценка спектральной плотности. Периодограмма.
Сглаживание оценок. Корреляционные и спектральные окна. Экстраполяция, интерполяция и
фильтрация.
IV. МЕТОД МОНТЕ-КАРЛО
1. Моделирование случайных величин
Основные методы получения псевдослучайных чисел. Методы моделирвания случайных
величин с заданным распределением. Трудоемкость моделирвания. Понятие имитационной
модели. Моделирование марковских процессов. Моделирование гауссовских процессов.
Моделирование стационарных в сильном смысле процессов.
2. Методы оценивания интегралов. Методы уменьшения трудоемкости
3. Оценки по поглощению и столкновению для решения интегральных уравнений
4. Решение задач переноса излучений
5. Решение простейших задач математической физики
V. МЕТОДЫ ВЫЧИСЛЕНИЙ
1. Действия с приближенными величинами
2. Решение алгебраических уравнений
3. Решение систем линейных уравнений
Метод исключения Гаусса. Метод простой итерации.
4. Задача интерполирования
Интерполяционный многочлен Лежандра.
5. Численное дифференцирование и интегрирование
6. Решение обыкновенных дифференциальных уравнений
Метод Рунге-Кутта.
7. Вопросы общей теории решения диффренциальных и интегральных уравнений
Основные понятия. Теорема о близких уравнениях. Теорема сходимости.
8. Решение интегральных уравнений
Метод замены ядра на вырожденное. Метод механических квадратур.
9. Решение дифференцииальных уравнений
Проекционные методы. Метод Галеркина для уравнений 2-го рода. Метод Ритца.
10. Метод сеток решения задач математической физики
ЛИТЕРАТУРА
1. Ширяев А.Н. Вероятность. М., МЦНМО, 2007.
2. Боровков А.А. Теория вероятностей. М., Либроком, 2009.
3. Партасарати К. Введение в теорию вероятностей и теории меры. М., Мир, 1983.
4. Феллер В. Теория вероятностей и ее приложения. Т.1,2. М., Мир, 1984.
5. Розанов Ю.А. Теория вероятностей, случайные процессы и математическая статистика. М.,
Наука, 1985.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
Вентцель А.Д. Курс теории случайных процессов. М., Наука, 1996.
Биллингсли Л. Сходимость вероятностных мер. М., Наука, 1975.
Соболь И.М. Численные методы Монте-Карло. М., Наука, 1974.
Ермаков С.М., Михайлов Г.А. Курс статистического моделирования. М., Наука, 1982.
Большев Л.Н., Смирнов Н.В. Таблицы математической статистики. М., Наука, 1983.
Крамер Г. Математические методы в статистике. М., РХД, 2003.
Кендалл М., Стьюарт А. т. Статистические выводы и связи. М., Наука, 1973, т.3
Многомерный статистический анализ и временные ряды. М., Наука, 1976.
Ивченко Г.И., Медведев Ю.И. Введение в математическую статистику. М.: ЛКИ, 2010.
Рао С. Линейные статистические модели. М., Наука, 1968.
Ермаков С.М., Жиглявский А.А. Математическая теория оптимального эксперимента. М.,
Наука, 1987.
Мысовских И.П. Лекции по методам вычислений, СПб, Изд-во С.-Петербургского
университета, 1998.
Березин И.С., Жидков М.В. Методы вычислений. М., Физматгиз, 1962.
Канторович А.В., Акилов Г.П. Функциональный анализ. BHV-Санкт-Петербург, Невский
Диалект, 2004.
Канторович Л.В., Крылов В.И. Приближенные методы высшего анализа. М., Физматгиз,
1962.
Михлин С.Г. Вариационные методы в математической физике. М., Наука, 1970.
Тихонов А. Н., Самарский А. А. Уравнения математической физики. М.: Издательство
МГУ, 2004
Годунов С.К., Рябенький В.С. Разностные схемы. Введение в теорию. М., Наука, 1977.
Ермаков С.М. Метод Монте-Карло в вычислительной математике. Вводный курс. -СПб.:
Невский Диалект, М.: Бином. Лаборатория знаний, 2009, 192 с.
Хакимзянов Г. С., Черный С. Г. Методы вычислений: В 4 ч. Новосибирск: НГУ, 2003
Специализация «Теория вероятности и математическая статистика»
1.
Аксиомы теории вероятностей. Вероятностное пространство. Условные
вероятности, формула полной вероятности и формулы Байеса.
Независимость случайных событий.
2. Случайные величины и их распределения, функции распределения.
Дискретный и непрерывный типы распределения. Случайные векторы и их
распределения. Независимость случайных величин. Теорема о
существовании последовательности случайных величин с заданными
конечномерными распределениями.
3. Последовательность независимых испытаний. Теоремы Лапласа. Закон
больших чисел (теорема Бернулли и теорема Бореля с леммой Бореля Кантелли). Теорема Пуассона. Простейший поток событий.
4. Моменты случайных величин. Математическое ожидание, дисперсия, их
свойства, старшие моменты. Неравенство Чебышева. Смешанные моменты,
коэффициент корреляции, корреляционная матрица.
5. Характеристические функции, их свойства. Формула обращения и теорема
единственности. Характеристические функции и моменты.
Характеристические функции случайных векторов. Многомерное
нормальное распределение.
6. Слабая сходимость вероятностных распределений. Теорема Хелли. Слабая
сходимость распределений и сходимость характеристических функций.
7. Последовательность независимых случайных величин, закон нуля и единицы.
Неравенство Колмогорова Сходимость рядов из независимых случайных
величин. Закон больших чисел, теоремы Чебышева, Маркова, Хинчина.
Усиленный закон больших чисел, теорема Колмогорова.
8. Центральная предельная теорема, теоремы Леви, Линдеберга, Ляпунова,
Феллера.
9. Дискретные цепи Маркова, основные определения, примеры.
Классификация состояний. Критерий возвратности. Возвратные и
невозвратные случайные блуждания. Асимптотическое поведение
вероятности перехода. Стационарное распределение.
10. Марковские процессы со счетным множеством состояний. Уравнения Колмогорова.
Процессы размножения и гибели. Ветвящиеся процессы, вероятность вырождения.
11. Условные вероятности и условные математические ожидания.
12.Процессы Маркова с произвольным множеством состояний. Уравнение
Чепмена-Колмогорова Диффузионные процессы.
13. Случайные процессы с независимыми приращениями. Винеровский
процесс. Процесс Пуассона. Условия непрерывности траекторий процесса с
независимыми приращениями. Каноническое представление
характеристической функции однородного процесса с независимыми
приращениями (дисперсия конечна).
14. Стационарные процессы. Стационарность в узком и широком смысле.
Корреляционная и спектральная теория стационарных процессов.
Спектральное представление стационарного процесса. Экстраполяция
и фильтрация стационарных процессов. Закон больших чисел для
стационарных процессов.
15. Безгранично делимые распределения. Каноническое представление
безгранично делимой характеристической функции. Теорема Хинчина о
классе распределений, предельных для распределений сумм независимых
случайных величин при выполнении условия бесконечной малости. Условия
сходимости к заданному безгранично делимому распределению.
16. Оценка скорости сходимости распределения суммы независимых
случайных величин к нормальному распределению. Неравенства Эссеена и
Берри - Эссеена.
17. Локальные предельные теоремы для сумм независимых случайных величин,
теоремы Гнеденко для плотностей и для решетчатых распределений.
18. Предельные теоремы для вероятностей больших уклонений сумм
независимых случайных величин, теорема Крамера. Неравенства
Бернштейна.
19. Закон повторного логарифма для последовательности независимых
случайных величин, теорема Колмогорова.
20. Выборочная функция распределения. Теорема Гливенко-Кантелли.
Выборочные моменты как оценки генеральных моментов.
Свойства центральных и крайних членов вариационного ряда.
21. Распределение выборочного среднего и выборочной дисперсии для выборок
из нормального закона Построение доверительных интервалов и проверка
гипотез для параметров нормального закона.
22. Достаточные статистики. Теорема факторизации. Эффективное оценивание
с помощью достаточных статистик. Неравенство Рао-Крамера. Метод
моментов и метод максимального правдоподобия. Асимптотические
свойства оценок метода максимального правдоподобия.
23. Понятие критической области. Ошибки первого и второго родов. Лемма
Неймана-Пирсона. Критерий отношения правдоподобия для проверки
сложных гипотез.
24. Критерий хи-квадрат. Критерий согласия Колмогорова. Критерий
однородности Смирнова (проверка неизменности распределения по двум
выборкам). Ранговый критерий Вилкоксона.
25. Выборочный коэффициент корреляции и его свойства. Ранговый
коэффициент корреляции Спирмена.
26. Модель линейной регрессии. Оценивание параметров модели по методу
наименьших квадратов. Теорема Гаусса-Маркова.
Изложение перечисленных вопросов можно найти в указанных ниже книгах, знание всего
материала этих книг необязательно.
К пп. 1-19:
1. Боровков А.А. Теория вероятностей. М., 2003.
2. Гнеденко Б. В. Курс теории вероятностей. М., Едиториал, 2005.
3. Феллер В. Введение в теорию вероятностей и приложения. Тома 1 и 2, М,
1984.
4. Колмогоров А.Н. Основные понятия теории вероятностей. М, 1974.
5. Ширяев А.Н. Вероятность. Тома 1 и 2, М, 2004.
6. Ширяев А.Н.Задачи по теории вероятностей, М., МЦНМО, 2006.
7. Виленкин Н.Я., Виленкин А.Н., Виленкин П.А. Комбинаторика. - М.: ФИМА,
МЦНМО, 2006. - 400 с.
8. Гихман И.И., Скороход А.В. Введение в теорию случайных процессов. М.,
1977.
9. Булинский А. В., Ширяев А. Н. Теория случайных процессов. — М.:
ФИЗМАТЛИТ, 2005.
10. Петров В.В. Суммы независимых случайных величин. М., 1972.
11. Петров В.В. Предельные теоремы для сумм независимых случайных
величин. М., 1987.
К пп. 20-27:
12. Лагутин М. Б. Наглядная математическая статистика. М.: БИНОМ. Лаборатория знаний,
2009.
13. Кобзарь А. И. Прикладная математическая статистика. Для инженеров и научных
работников. - М.: ФИЗМАТЛИТ, 2006.
14. Крамер Г. Математические методы статистики. М., 1975.
15. Леман Э. Проверка статистических гипотез. М., 1979.
16. Боровков А.А. Математическая статистика. М., 2007.
17. Ивченко Г.И., Медведев Ю.И. Введение в математическую статистику. М.,
2010.