Эффективность года школьного обучения для результатов PISA

advertisement
Эффективность года
школьного обучения для
результатов PISA 2009
Тюменева Ю.А.
Кузьмина Ю.В.
Проблемы и возможности
Необходимость
оценки
эффективности
школьного
обучения
в
отсутствие
лонгитюдных исследований
Выделение
других
индикаторов
(помимо
средних результатов) для
оценки
эффективности
(эффекта) образования
Оценка
школьной
эффективности на данных
«срезовых» исследований
(PISA)
Ограничения
в
интерпретации
средних
результатов
международных
исследований (PISA в том
числе) как показателей
эффективности
образовательной системы
страны
Оценка школьной эффективности
на примере «срезовых» данных
Направления исследований:
1) Абсолютный эффект школьного обучения
2) Факторы, сопряженные с эффективностью
обучения в школе
3) Определение оптимального возраста для
начала школьного обучения
4) Сравнение эффекта обучения и эффекта
возраста
PISA: цели, выборка
Programm For International Student Assessment
Цель: оценка того, в какой степени в разных странах
школьники, завершая обязательное среднее образование,
имеют необходимые умения для решения практических
социальных и жизненных задач.
Области: чтение, математика, естественные науки
Выборка: 15-летние школьники, учащиеся в разных
классах (с 7-ого по 12-ый). Максимальная разница в
возрасте – 1 год (без 1-го дня)
Ограничения в интерпретации средних
результатов PISA:
состав имеет значение
1) Разное время начала обучения в школе разный по длительности учебный опыт к
моменту тестирования
2) Разные образовательные траектории: кроме
общеобразовательных есть профессиональные
и пред-профессиональные школы.
3) Множество других факторов, связанных с
показателями PISA: социально-экономический
статус семьи, материальные ресурсы и т.п.
Ест.науки
Чтение
Математика
Ученики «старших» классов имеют выше результаты
в PISA, чем их сверстники из «младших» классов
Россия
Чехия
Словакия
Венгрия
средние
468
493
496
490
8 класс
426
380
363
387
9 класс
463
478
483
496
10 класс
494
520
506
524
средние
459
478
477
494
8 класс
418
366
346
391
9 класс
455
464
457
499
10 класс
485
505
492
534
средние
478
501
490
503
8 класс
434
382
368
400
9 класс
477
487
473
508
10 класс
499
526
502
538
Ученики профессиональных школ
показывают более низкие результаты
Ест.науки
Чтение
Матем
Россия
Общее
Профес
Венгрия
10кл.
9кл.
10кл.
9кл.
10кл.
9кл.
10кл.
463
506
478
604
483
580
514
537
443
406
425
442
455
498
493
464
425
Профес
Общее
Словакия
9кл.
Профес
Общее
Чехия
477
510
449
590
457
477
487
609
500
473
558
517
420
404
567
525
440
424
547
435
548
454
Выборка по классам и видам траекторий
Россия
Словакия
Чехия
Венгрия
9 класс
60%
36%
49%
67%
10 класс
28%
57%
47%
22%
общее
94%
60%
72%
84%
профессиональное
6%
16%
28%
16%
9 класс, проф. (от общего числа
9-классников)
0%
0%
0%
18%
10 класс, проф. (от общего
числа 10-классников)
19%
29%
61%
14%
Эффект одного года обучения как
показатель эффективности обучения
Показателем эффективности обучения может
выступать эффект одного года обучения для
образовательных результатов.
Эффект одного года – это разница в результатах
между учащимися двух «соседних» классов
(например, 8-ым и 9-ым, 9-ым и 10-ым).
Однако есть серьезные проблемы с прямой интерпретацией
величины «прироста» баллов за один год!
Почему нельзя просто сравнить результаты
двух «соседних» классов
-
Разница в результатах между 9-ти и
10-классниками может быть связана
с…
эффектом взросления
Как проконтролировать?
Учет эффекта возраста
тем, что более подготовленные или
«ресурсные» ученики идут в школу
раньше
Учет времени старта
обучения и семейных
характеристик
Разделением на траектории и уходом
«слабых» после 9 класса
Учет эффекта селекции на
разных образовательных
программах
Метод оценки
1) Для учета возраста и времени начала школьного
обучения сравнивались достижения учеников,
имеющих одинаковую вероятность быть в 10 классе
исходя из даты рождения – «до или после пороговой
даты» (Regression Discontinuity design, Instrumental
Variable analysis) и контролируются семейные
характеристики ученика.
2) Для учета программы обучения и эффекта селекции
производился отбор 9-классников, имеющих высокую
вероятность
учиться
в
10
классе
школы
соответствующей ориентации: профессиональной или
общеобразовательной (Propensity Score Matching)
Пороговая дата начала обучения
Пороговая
дата
Число
учеников,
пошедших в
школу с
нарушением
правила
%
10 -классников,
пошедших в
школу раньше
%
9-классников,
пошедших в
школу позже
Россия
1 октября
52%
11%
74%
Словакия
Чехия
Венгрия
1 сентября
17%
20%
20%
7%
1%
6%
26%
38%
25%
1 сентября
1 июня
Последовательность оценки
Оцениваемые модели:
Первая Только эффект дополнительного года
обучения
Вторая Эффект дополнительного года обучения
+
социально-демографические
показатели
ученика (пол, СЭС, местоположение школы
Третья и Четвертая: Эффект дополнительного
года + социально-демографические
характеристики + переменные взаимодействия
(пол и СЭС)
Оценка эффекта дополнительного года обучения
без учета разделения на программы
Эффект дополнительного года
(PISA scores)
30
25
20
математика
15
чтение
естественные науки
10
5
0
Россия
Словакия
Чехия
Венгрия
Отбор 9-классников
для оценки эффекта одного года
на общеобразовательной программе
1)
2)
3)
4)
Для 10-классников проведена оценка вероятности обучения в
общеобразовательной школе исходя из пола и СЭС
Полученные коэффициенты для переменных «пол» и «СЭС»
использованы для расчета вероятности продолжения обучения в
общеобразовательной школе для 9-классников
Отобраны 9-классники с высокой вероятностью (выше, чем в среднем по
выборке) продолжения обучения в общеобразовательной школе
Анализ проведен на выборке 9-классников с высокой вероятностью и 10классников из общеобразовательных школ
Россия
Словакия
Чехия
Средняя вероятность (для 9 класса)
0,79
0,28
0,37
% 9-классников с высокой вероятностью
продолжить обучение в
общеобразовательной школе
58%
35%
41%
Оценка эффекта дополнительного года обучения
для общеобразовательной школы
100
Эффект дополнительного года
обучения (PISA scores)
90
80
70
60
Математика
50
Чтение
40
ест.науки
30
20
10
0
Россия
Словакия
Чехия
Венгрия
Связь социально-демографических характеристик
и эффекта дополнительного года обучения
(без учета разделения на программы)
Словакия
Венгрия
Россия, Чехия – нет различий в зависимости от СЭС и пола
Словакия, Венгрия – эффект дополнительного года выше для учеников с
высоким СЭС
ест.науки
чтение
математика
СЭС выше среднего
ест.науки
средний СЭС
чтение
математика
0
10
20
30
Эффект дополнительного года обучения (PISA scores)
Связь социально-демографических характеристик и
эффекта дополнительного года обучения
(на общеобразовательной программе)
Эффект дополнительного
года обучения (PISA scores)
Россия – нет различий в зависимости от СЭС и пола
Словакия – эффект дополнительного года выше для мальчиков,
Венгрия – выше для девочек (для математики)
90
80
70
60
50
40
мальчики
30
девочки
20
10
0
математика
чтение
Словакия
ест.науки
математика
Венгрия
Связь социально-демографических характеристик и
эффекта дополнительного года обучения (на
общеобразовательной программе) . Продолжение
Чехия – эффект дополнительного года обучения ниже
для учеников с высоким СЭС
Венгрия – эффект дополнительного года обучения выше для учеников с
высоким СЭС
(для естественных наук)
Эффект дополнительного года
(PISA scores)
Изменение эффекта дополнительного года обучения для учеников с разным СЭС
(Чехия) на общеобразовательной программе
120
100
80
60
средний СЭС
40
СЭС выше среднего
20
0
математика
чтение
ест.науки
Основные выводы
(методологические)
1) Средние данные PISA не могут быть основанием для
выводов об эффективности образовательной системы
без учета таких факторов как СЭС, класс и программа
обучения, возраст и пр.
2) RD design в приложении к данным PISA позволяет
оценить эффект одного года обучения, не прибегая к
данным лонгитюдных исследований
3) Оценка эффекта дополнительного года обучения
может быть показателем «добавочной стоимости»
образования в отношении результатов PISA
Основные выводы
(по российским данным)
1) Эффект одного года обучения для всей выборки
является незначимым.
2) Эффект
одного
года
обучения
для
общеобразовательных школ выше, чем всей
выборки в целом (без учета разделения на
программы). Это может быть свидетельством
того, что для профессиональных школ эффект
одного года - отрицательный.
3) Эффект одного года обучения не зависит от пола
и социально-экономического статуса учеников.
Основные выводы
(сравнительные)
1) Для всей выборки в целом эффект одного года
обучения ниже, чем в других оцениваемых
странах за исключением Словакии.
2) Для общеобразовательной программы эффект
одного года обучения ниже, чем в других
оцениваемых странах.
3) В России эффект одного года не зависит от пола
и социально-экономического статуса учеников в
отличие от других стран, где эффективность
обучения меняется в зависимости от социальноэкономических факторов.
Возможные направления
будущих исследований
1) Динамика эффективности школьного обучения с
2000 по 2012
2) Выделение факторов, связанных с высоким
эффектом дополнительного года обучения
3) Эффект раннего и позднего разделения на
разные треки (до 7 класса, после 7, после 8
класса, после 9 класса, после 10 класса): для
оценки эффективности в целом по стране и для
профессионального образования.
4) Изменение эффекта в разных ступенях (между 8
и 9 классом, между 9 и 10)
Спасибо!
Спасибо!
Динамика результатов по математике
PISA в некоторых странах
550
516
510
493
500
468
476
468
450
Россия
386
400
356
369
350
300
2003
2006
2009
Бразилия
Чехия
Изменение пропорций
учеников из разных классов
Россия
9 класс
Бразилия
10 класс
9 класс
10 класс
Чехия
9 класс
10 класс
2003
29%
68%
43%
18%
45%
52%
2006
30%
62%
47%
18%
44%
52%
2009
60%
28%
37%
36%
49%
47%
Оценка эффекта дополнительного года для
стран с отсутствием разделения на разные
программы
Эффект одного года (PISA scores)
35
30
25
20
математика
чтение
15
ест.науки
10
5
0
Бразилия
Германия
Канада
Download