Сара Бослаф - Статистика для всех

СТАТИСТИКА для всех Сара Бослаф O ’REILLY® Сара Бослаф СТАТИСТИКА ДЛЯ ВСЕХ STATISTICS IN A NUTSHELL Second Edition Sarah Boslaugh O ’R E IL L Y ' Beijing • Cambridge • Farnham • Koln • Sebastopol • Tokyo СТАТИСТИКА ДЛЯ ВСЕХ Сара Бослаф М осква, 2015 УДК 311:004.9 ББК 60.6с515 Б85 Б85 Сара Бослаф Статистика для всех. / Пер. с англ. П. А. Волкова, И. М. Флямер, М. В. Либерман, А. А. Галицына. - М.: ДМК Дресс, 2015. - 586 с.: ил. ISBN 978-5-94074-969-1 Нужно овладеть статистикой по долгу службы? Хотите получить помощь при сдаче курса статистики? «Статистика для всех» - ясное и краткое введение и руководство для всех новичков. Тщательно переработанное и расширенное, это издание поможет вам глубоко понять статистику, избегая ошеломляющей сложности многих университетских учебников. Эта книга - руководство, которое можно приспосабливать к имеющимся знаниям и нуждам отдельных читателей. Некоторые главы посвящены те мам, которые часто отсутствуют в вводных книгах по статистике. Каждая глава представляет собой простые для понимания объяснения, дополненные диаграммами, формулами, задачами с решениями и взятыми из практики заданиями. Если вы хотите не ломая голову применять распространенные методы анализа данных и узнать о разнообразных подходах - эта книга для вас. УДК 311:004.9 ББК 60.6с515 Original English language edition published by O’Reilly Media, Inc., 1005 Gravcnstcin Highway North, Sebastopol, CA 95472. Copyright © 2013 Sarah Boslaugh. All rights reserved. Russian-language edition copyright © 2014 by DMK Press. All rights reserved. Все права защищены. Любая часть этой книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами без письменного разрешения владельцев авторских прав. Материал, изложенный в данной книге, многократно проверен. Но, поскольку вероятность технических ошибок все равно существует, издательство не может га рантировать абсолютную точность и правильность приводимых сведений. В связи с этим издательство не песет ответственности за возможные ошибки, связанные с использованием книги. ISBN 978-1-449-31682-2 (англ.) ISBN 978-5-94074-969-1 (рус.) © 2013 Sarah Boslaugh. All rights reserved © Оформление, перевод па русский язык, издание, ДМК Пресс, 2015 ОГЛАВЛЕНИЕ Предисловие.........................................................................................................9 Ну хорошо, и что же такое статистика?........................................................................9 Основная цель этой кн и ги ........................................................................................... 12 Статистика в информационную эпоху........................................................................ 13 Структура кн и ги ............................................................................................................ 14 Условные обозначения, используемые в этой книге................................................18 Благодарности.............................................................................................................. 19 Об авторе....................................................................................................................... 19 Об иллюстрации на обложке.......................................................................................20 Глава 1. Основные понятия, связанные с измерениями........................ 21 Измерение.....................................................................................................................22 Типы измерений............................................................................................................22 Истинные значения и ошибки..................................................................................... 29 Надежность и валидность............................................................................................ 31 Смещение измерений..................................................................................................36 Упражнения....................................................................................................................40 Глава 2. Теория вероятности.......................................................................... 43 О формулах.................................................................................................................44 Основные определения............................................................................................... 45 Определение вероятности.......................................................................................... 52 Вычисление вероятности сложных событий.............................................................54 Теорема Байеса.........................!................................................................................ 56 Достаточно разговоров, давайте займемся статистикой!...................................... 59 Упражнения....................................................................................................................61 Заключительное замечание: связь между статистикой и азартными играми.... 65 Глава 3. Статистический вывод.....................................................................67 Распределения вероятностей.................................................................................... 68 Независимые и зависимые переменные.................................................................. 76 Генеральные совокупности и выборки.......................................................................77 Теорема центрального предела.................................................. Проверка гипотез..........................................................................................................87 Доверительные интервалы..........................................................................................91 Значения р .................................................................................................................... 92 Z-статистика................................................................................................................. 93 Преобразования данных............................................................................................. 96 Упражнения....................................................................................................................99 6 г\ Оглавление Глава 4. Описательная статистика и графическое представление данных................................................................................ 107 Генеральные совокупности и выборки..................................................................... 107 Меры центральной тенденции.................................................................................. 108 Меры разброса............................................ 115 Выбросы.................................................................................................................... 121 Графические методы.................................................................................................. 122 Столбчатые диаграммы..............................................................................................125 Двумерные диаграммы..............................................................................................136 Упражнения.................................................................................................................. 142 Глава 5. Категориальные данные.............................................................. 146 RxC-таблицы.............................................................................................................. 147 Распределение хи-квадрат................................................. 150 Тест хи-квадрат.............................................................. 152 Точный тест Ф иш ера.................................................................................................. 158 Парный тест МакНемара........................................................................................... 160 Пропорции: большие выборки.................................................................................. 162 Корреляции для категориальных данных................................................................ 164 Порядковые переменные.......................................................................................... 167 Шкала Лайкерта и шкалы семантического дифференциала................................171 Упражнения.................................................................................................................. 173 Глава 6. t-критерий....................................................................................... 179 f-распределение......................................................................................................... 179 Одновыборочный f -критерий....................................................................................182 f-критерий для независимых выборок..................................................................... 184 f-критерий для парных измерений...........................................................................188 f-критерий для выборок с неравной дисперсией................................................... 191 Упражнения.................................................................................................................. 192 Глава 7. Коэффициент корреляции Пирсона......................................... 196 С вязь............................................................................................................................ 196 Диаграмма рассеяния................................................................................................ 198 Коэффициент корреляции Пирсона........................................................................ 205 Коэффициент детерминации................................................................................... 210 Упражнения..................................................................................................................211 Глава 8. Введение в регрессию и дисперсионный анализ................. 215 Общая линейная модель........................................................................................... 215 Линейная регрессия................................................................................................... 217 Дисперсионный анализ (ANOVA)..............................................................................228 Расчет простой регрессии вручную......................................................................... 235 Упражнения..................................................................................................................237 Глава 9. Многофакторный дисперсионный анализ и ковариационный анализ............................................................................ 245 Многофакторный дисперсионный анализ.............................................................. 245 ANCOVA........................................................................................................................ 254 Упражнения..................................................................................................................260 Оглавление Глава 10. Множественная линейная регрессия..................................... 265 Модели множественной регрессии......................................................................... 265 Упражнения..................................................................................................................291 Глава 11. Логистическая, мультиномиальная и полиномиальная регрессия......................................................................................................... 296 Логистическая регрессия.......................................................................................... 296 Мультиномиальная логистическая регрессия........................................................ 303 Полиномиальная регрессия......................................................................................306 Переподгонка............................................................................................................. 310 Упражнения..................................................................................................................312 Глава 12. Факторный, кластерный и дискриминантный анализы... 315 Факторный анализ..................................................................................................... 315 Кластерный анализ.................................................................................................... 323 Дискриминантный анализ......................................................................................... 327 Упражнения..................................................................................................................330 Глава 13. Непараметрическая статистика...............................................332 Независимые выборки...............................................................................................333 Зависимые выборки................................................................................................... 341 Упражнения..................................................................................................................346 Глава 14. Статистика для бизнеса и контроля качества......................349 Индексы....................................................................................................................... 349 Временные ряды.........................................................................................................354 Анализ решений..........................................................................................................358 Улучшение качества................................................................................................... 363 Упражнения..................................................................................................................371 Глава 15. Статистика в медицине и эпидемиологии.............................376 Показатели заболеваемости.................................................................................... 376 Отношение рисков..................................................................................................... 388 Отношение шансов.................................................................................................... 393 Искажение, послойный анализ и коэффициент Мантеля-Гензеля......................396 Анализ мощности....................................................................................................... 401 Вычисление размера выборки................................................................................. 404 Упражнения................................................................................................................. 407 Глава 16. Статистика в образовании и психологии............................... 411 Перцентили................................................................................................................. 412 Стандартизированные баллы................................................................................... 414 Разработка тестов...................................................................................................... 417 Классическая теория тестов: модель истинных баллов....................................... 420 Надежность теста....................................................................................................... 421 Показатели внутренней непротиворечивости........................................................ 422 Анализ заданий...........................................................................................................426 Современная теория тестирования......................................................................... 430 Упражнения................................................................................................................. 435 Глава 17. Управление данными.................................................................. 437 Общий подход, а не набор методов......................................................................... 438 8 Оглавление Иерархия.....................................................................................................................439 Кодификатор............................................................................................................... 439 Прямоугольный файл данных................................................................................... 442 Электронные таблицы и реляционные базы данных............................................. 444 Проверка нового файла данных............ г................................................................ 445 Текстовые и числовые данные.................................................................................. 449 Пропущенные данные............................................................................................... 450 Глава 18. Планирование исследования ...................................................453 Словарь основных терминов.................................................................................... 454 Наблюдения................................................................................................................ 457 Квазиэкспериментальные исследования...............................................................459 Эксперименты............................................................................................................ 465 Сбор экспериментальных данных............................................................................ 467 Пример экспериментального дизайна.................... 477 Глава 19. Представление статистических материалов.......................479 Общие замечания...................................................................................................... 480 Глава 20. Оценка работ по статистике других авторов........................ 488 Оценка статьи в целом.............................................................................................. 488 Ошибки в применении статистики........................................................................... 490 Общие проблемы....................................................................................................... 490 Быстрая проверка...................................................................................................... 492 Спорные вопросы планирования исследования....................................................495 Описательная статистика..........................................................................................498 Логическая статистика.............................................................................................. 503 Приложение А. Обзор основных математических понятий................ 506 Приложение В. Краткий обзор статистических пакетов......................530 Приложение С. Ссылки................................................................................. 545 Приложение D. Таблицы вероятностей для распространенных типов распределений.................................................................................... 559 Приложение Е. Интернет-ресурсы............................................................ 571 Приложение F. Словарь статистических терм инов..............................576 ПРЕДИСЛОВИЕ Первое издание «Статистики для всех» пользовалось оглушительным успехом, од нако любую книгу можно улучшить, и я благодарна за предоставленную возмож ность переработать ее. Мой принцип изложения не изменился: эта книга гораздо больше предназначена тем, кто хочет размышлять и понимать результаты статис тической обработки данных, чем тем, кто хочет узнать, как пользоваться конкрет ным статистическим пакетом программ или углубиться в математические основы при помощи статистических формул. Эта книга также несколько отличается от других изданий в этой серии «Руководств для всех» издательства О’Рейлли - она действительно находится где-то между руководством для тех, кто уже знаком со статистикой, и учебником для людей, которые только начали осваивать этот пред мет. Несмотря на продолжающееся проникновение статистики во многие области нашей жизни, одна вещь осталась неизменной: сказать, что ты работаешь статис тиком, - по-прежнему верный способ испортить приятную беседу на вечеринке. Почему-то оказывается, что это побуждает людей рассказать мне, как они ненави дели обязательные занятия по статистике в колледже, или заставляет их проци тировать старую шутку, ставшую популярной благодаря Марку Твену, о том, что существует три вида лжецов: простые лжецы, отъявленные лжецы и статистики. Лично я нахожу статистику захватывающей и обожаю работать в этой области. Я также люблю преподавать статистику, и мне нравится думать, что я заражаю своим энтузиазмом окружающих. Хотя часто это превращается в напряженную битву; многие считают, что статистика - это не более чем набор хитростей и под тасовок для искажения реальности, которые нужны, чтобы одурачить других лю дей. Другие занимают противоположную позицию, полагая, что статистика - это набор волшебных приемов, которые избавят вас от необходимости размышлять над данными. Ну хорошо, и что же такое статистика? Прежде чем погрузиться в технические детали изучения и использования статис тики, вернемся на минуту назад и обсудим, что можно подразумевать под словом «статистика». Не беспокойтесь, если вы сразу не поймете всю терминологию, она прояснится в ходе чтения этой книги. 10 Г? *1 i J Предисловие Когда люди говорят о статистике, они обычно имеют в виду один или несколько пунктов из приведенного ниже перечня: 1. Числовые данные, такие как уровень безработицы, число людей, умираю щих ежегодно от пчелиных укусов, или численность жителей г. Нью-Йорк в 2006 году по сравнению с 1906 годом. 2. Числа, использованные для описания выборок, в противоположность параметрам (числам, характеризующим генеральную совокупность). На пример, рекламная компания может интересоваться средним возрастом подписчиков журнала «Спорте Иллюстрейтед» (Sports Illustrated)1. Для ответа на этот вопрос компания может создать случайную выборку под писчиков, вычислить среднее значение для этой выборки (статистику) и использовать его как оценку среднего значения для всей генеральной со вокупности подписчиков (параметра). 3. Определенные методы анализа данных и результаты такого анализа, такие как ^-статистика или статистика хи-квадрат. 4. Область науки, которая разрабатывает и использует математические ме тоды для описания данных и формирования суждений о них. Тот тип статистики, о котором говорится в первом определении, не имеет прямого отношения к этой книге. Если вы просто хотите найти последние данные о безрабо тице, здоровье или о любой из множества других тем, по которым правительство или другие организации регулярно публикуют статистические данные, вам лучше всего проконсультироваться у библиотекаря или у специалиста в данной области. Если же вы хотите узнать, как интерпретировать эти данные (понять, например, почему среднее арифметическое часто бывает плохим показателем средней тенденции, или сравнить исходные и стандартизованные показатели смертности), то «Статистика для всех» точно вам поможет. Понятия, использованные во втором определении, будут обсуждаться в главе 3, посвященной предсказательным статистикам. Однако эти термины пронизывают всю книгу. Это отчасти терминологические тонкости (статистики - это числа, ко торые описывают выборки, а параметры характеризуют генеральные совокупнос ти), которые тем не менее подчеркивают ключевой момент применения статис тики. Идея использования информации, полученной при изучении выборки, для формирования суждений обо всей генеральной совокупности лежит в основе всей предсказательной статистики, а предсказательная статистика - это основная тема этой книги (как и большинства других книг, посвященных статистике). Третье определение также является ключевым для большинства глав этой кни ги. Процесс изучения статистики до некоторой степени сводится к освоению опре деленных статистических методов, включая такие вопросы, как способы вычисле ний и их интерпретации, выбор подходящей статистики в конкретной ситуации и так далее. На самом деле многие люди, начинающие изучать статистику, держат в голове в основном это определение. Освоить статистику для них означает узнать, Еженедельный иллюстрированным спортивный журнал, крупнейшее и самое популярное спортив ное пала пне в США. - Прим. пер. Ну хорош о, и что же такое статистика? п как выполнять набор статистических процедур. Это не столько неверный подход к статистике, сколько неполный. Умение применять ряд методов статистической обработки данных - это необходимая составляющая деятельности статистика, но это далеко не все, что нужно. Более того, с тех пор как компьютерные программы сделали применение методов статистического анализа данных существенно проще для всех вне зависимости от уровня математической подготовки, необходимость в понимании и интерпретации результатов статистического анализа значительно превысила необходимость знать, как проводить сами вычисления. Четвертое определение мне ближе всего, поскольку я избрала статистику своей профессией. Если вы уже студент или закончили вуз, вам, вероятно, знакомо это определение, поскольку в наши дни во многих университетах и колледжах или есть отдельный факультет статистики, или же статистика предлагается как одно из направлений специализации на математическом факультете. Статистика все чаще преподается и в средней школе, а в США число учащихся, выбравших клас сы с углубленным изучением статистики, быстро растет. Статистика в университетах - это не только курс для тех, кто решил специа лизироваться в этой области. На многих факультетах от студентов требуется прослушать один или несколько курсов по статистике, помимо тех предметов, на которых они специализируются. Кроме того, полезно знать, что многие важные методы современной статистики были разработаны людьми, которые изучили и использовали статистику во время своей работы в другой области знаний. Сте фан Рауденбуш (Stephen Raudenbush), создатель иерархического линейного мо делирования, изучал основы политического анализа и оценочных исследований в Гарварде, а Эдвард Тыофт (Edward Tufte), наверное, лучший специалист в мире по статистической графике, начинал свою карьеру как политолог: он защитил док торскую диссертацию в Йельском университете по американским движениям в защиту гражданских прав. Поскольку статистика все чаще применяется во многих специальностях и на всех уровнях от управляющих до рядовых рабочих, базовые знания в этой области необходимо получить многим людям, давно закончившим школу. Они часто недо статочно обеспечены учебниками, предназначенными для вводных университет ских курсов, а эти пособия слишком специализированы, слишком много внима ния уделяют вычислениям и слишком дороги. Наконец, статистику нельзя отдать на откуп статистикам, поскольку каждому из нас следует принимать участие в современной общественной жизни, в частнос ти понимать многое из того, что вы прочли в газетах и услышали по радио или телевизору. Рабочие знания по статистике - лучшее противоядие от вводящих в заблуждение или совершенно ложных числовых данных (исходящих или от по литиков, или рекламных агентов, или от реформаторов социальной сферы), кото рые, похоже, составляют постоянно возрастающую часть ежедневно поглощаемой нами информации. Вот почему классическая книга Дэррила Хаффа (Darryl Huff), опубликованная в 1954 г., «Как лгать при помощи статистики» (“How to Lie with Statistics”) до сих пор пользуется спросом. Статистику легко использовать непра вильно, стандартные способы искажения статистических данных не меняются на Предисловие 12 протяжении десятилетий, а лучшая защита против тех, кто хотел бы солгать при помощи статистики, - стать более образованным, чтобы быть способным выявить лжецов и немедленно остановить их. Основная цель этой книги В продаже существует уже столько книг по статистике, что вы могли бы сильно удивиться, почему я чувствую необходимость добавить еще одну книгу к этому множеству Основная причина заключается в том, что я не нашла ни одной книги по статистике, которая отвечала бы задачам, поставленным мною в «Статистике для всех». На самом деле, если позволите на мгновение впасть в поэтическое на строение, ситуация состоит в том, что, перефразируя состояние старого морехода Кольриджа, «книги, повсюду книги, но ни одной, по которой можно научиться»2. Проблемы, которые я постаралась решить в этой книге, таковы: • нужда в книге, которая была бы посвящена использованию и понима нию статистики в контексте исследований или прикладной науки, не как отдельного набора математических методов, а как части процесса обосно вания заключений при помощи цифр; • необходимость включения таких тем, как теория измерений и управление данными во введение в статистику; • необходимость в книге по статистике, которая не была бы посвящена одной конкретной области знаний. Простейшая статистика в основном одинакова для всех дисциплин (тест Стыодента работает одинаково для данных из области медицины, финансов или криминальной юстиции), так что незачем умножать тексты, представляя одну и ту же информацию не много в другом ракурсе; • нужда во введении в статистику, которое было бы компактным, недорогим и простым для понимания начинающих, избегая снисходительного тона или излишнего упрощения. Так кто же предполагаемые читатели «Статистики для всех?» Я вижу три груп пы читателей, для которых эта книга будет наиболее полезной: • учащиеся, которые посещают вводные курсы по статистике в средней школе, колледжах и университетах; • взрослые люди, которым нужно освоить статистику для выполнения теку щих задач или для карьерного роста; • те, кому интересно узнать, что такое статистика, из любопытства. В этой книге я делаю акцент не на конкретные методы, хотя многим из них вы научитесь в процессе чтения, а на обосновании заключений при помощи статис тики. Можно сказать, что цель этой книги в меньшей степени заключается в том, чтобы производить статистические вычисления, и в большей степени, - чтобы мыслить статистически. Что это значит? Мышление с использованием чисел тре 2 Имеются в виду строки поэмы английского поэта Сэмюэла Кольриджа «Сказание о старом морехо де»: «Вода, мода, одна вода/Мы ничего не пьем» (вольный перевод Ы. С. Гумилева). - Прим. пер. Статистика в информационную эпоху 13 бует определенных навыков. В частности, я делаю упор на осмысление данных и использование статистики для облегчения этого процесса. Во многих главах при ведены практические задания, которые задуманы как повод пересмотреть пред ставленный материал и подумать о ключевых понятиях, введенных в данной гла ве, они не требуют бездумных вычислений. Весь материал «Статистики для всех» был переработан, и многие главы допол нены новыми примерами и упражнениями. В частности, добавлены примеры рабо ты с пропорциями, а также примеры с использованием реальных наборов данных из таких источников, как Проект ООН по развитию человечества (United Nations Human Development Project) и Система слежения за факторами поведенческого риска (Behavioral Risk Factor Surveillance System). Оба этих набора данных можно бесплатно скачать из Интернета, так что студенты могут экспериментировать с ними, а также воспроизвести процедуры, описанные в этой книге. В это издание также добавлена глава 19. Я сделала это, потому что заметила, что умение доводить до сведения окружающих статистическую информацию по меньшей мере так же важно, как и способность выполнять статистические вычисления, в особенности для тех, кто учится статистике для своей профессиональной деятельности. Также добавлено несколько новых приложений, в основном для того, чтобы сделать кни гу более самодостаточной и дружественной к читателю. Эти приложения включа ют вероятностные таблицы для самых распространенных типов распределений, перечень информационных ресурсов Интернета, словарь и таблицу статистичес ких обозначений. Статистика в информационную эпоху Стало модным говорить, что мы живем в информационную эпоху, когда люди по лучают и распространяют столько сведений, что никто не может быть в курсе все го. Это клише основано на правдивом наблюдении; общество «тонет» в данных, и, похожа, эта проблема становится только острее. В этом есть свои плюсы и свои минусы. К положительным моментам можно отнести то, что широкий доступ к компьютерным технологиям и электронным средствам хранения и распростране ния данных облегчил доступ к информации, так что теперь у исследователей сни зилась потребность в поездках в определенную библиотеку или архив для работы с печатными источниками. Тем не менее данные сами по себе ничего не значат. Они должны быть упоря дочены и интерпретированы людьми, чтобы обрести смысл, так что полноценная жизнь в информационную эпоху подразумевает глубокое понимание данных, включая способы их сбора, анализа и интерпретации. И поскольку одни и те же данные могут быть часто интерпретированы разными способами для обоснования совершенно противоположных заключений, даже людям, которые сами не работа ют в области статистики, нужно понимать, как статистика работает и как выявить безосновательные заявления и аргументы, основанные на неправильном исполь зовании данных. 14 Предисловие Структура книги «Статистика для всех» состоит из трех частей: вводная информация (главы 1-4), где закладывается необходимое основание для понимания последующих глав; ме тоды предсказательной статистики (главы 5-13); специальные методы, которые используются в различных областях науки (главы 14-16), и вспомогательные темы, которые часто являются частью работы статистика, даже если они не отно сятся к статистике как таковой (главы 17-20). Вот более детальное содержание глав. Глава 1. Основные понятия, связанные с измерениями Обсуждаются основополагающие вопросы статистики, включая шкалы из мерений, операционализацию, опосредованное измерение, случайные и систематические ошибки, надежность и валидность, а также типы смеще ния измерений. Глава 2. Теория вероятности Описаны основные понятия теории вероятности, включая испытания, со бытия, независимость, взаимное исключение, правила аддитивности и пе ремножения, комбинации и перестановки, условную вероятность и теоре му Байеса. Глава 3. Статистический вывод Введены некоторые базовые понятия статистического вывода, включая распределение вероятностей, зависимые и независимые переменные, ге неральные совокупности и выборки, распространенные способы создания выборок, центральную предельную теорему, проверку гипотез, ошибки первого и второго типа, доверительные интервалы и значения р , а также преобразование данных. Глава 4. Описательные статистики и графическое представление данных Дана информация о распространенных показателях центральной тенден ции и разброса, включая среднее арифметическое, медиану, моду, абсолют ный размах, межквартильный размах, дисперсию и стандартное отклоне ние, а также обсуждаются выбросы. В этой главе рассмотрены наиболее часто используемые графические способы представления статистической информации, включая частотные таблицы, столбчатые и круговые диа граммы, диаграммы Парето, диаграммы типа «стебель с листьями», диа граммы размаха и рассеяния, а также линейные графики. Глава 5. Категориальные данные Представлен обзор концепций категориальных и интервальных данных, введено понятие таблицы сопряженности. В этой главе обсуждаются такие статистические методы, как тест хи-квадрат на независимость, тест равенст ва пропорций, критерий согласия, точный тест Фишера, тест МакНемара, тесты пропорций для больших выборок, а также меры сопряженности для категориальных и порядковых данных. Структура книги 15 Глава 6. t -критерий Обсуждается распределение Стыодента, теория и применение теста Стыодента для одной выборки, для двух независимых выборок, для результатов повторных измерений и в случае неравенства дисперсий. Глава 7. Коэффициент корреляции Пирсона При помощи диаграмм, демонстрирующих разную силу связи между двумя переменными, вводится понятие связи, также обсуждается коэффициент корреляции Пирсона и коэффициент детерминации. Глава 8. Введение в регрессию и дисперсионный анализ Показано отношение линейной регрессии и дисперсионного анализа к кон цепции обобщенной линейной модели, и обсуждаются допущения, кото рые принимаются при использовании этих видов анализа данных. Обсуж дается и на примерах разбирается применение простой регрессии (для двух переменных), однофакторного дисперсионного анализа и апостериорного тестирования гипотез. Глава 9. Многофакторный дисперсионный анализ и ковариационный анализ Обсуждаются более сложные схемы дисперсионного анализа, включая двух- и трехфакторный дисперсионный анализ и ковариационный анализ, а также поднимается тема взаимодействия переменных. Глава 10. Множественная линейная регрессия Регрессионная модель расширяется за счет включения множественных независимых переменных. Рассмотрены связи между независимыми пе ременными, стандартизованные и нестандартизованные коэффициенты, фиктивные переменные, способы построения моделей, а также отклонения от допущений, принимаемых при линейной регрессии, включая нелиней ность, автокорреляцию и гетероскедатичность. Глава 11. Логистическая, мультиномиальная и полиномиальная регрессия Расширяет применение регрессионного анализа до бинарных данных (ло гистическая регрессия), категориальных данных (мультиномиальная рег рессия) и нелинейных моделей (полиномиальная регрессия), также обсуж дается проблема избыточной подгонки модели. Глава 12. Факторный, кластерный и дискриминантный анализ Описаны три сложные статистические процедуры: факторный, кластерный и дискриминантный анализ, обсуждаются группы задач, для решения кото рых эти методы могут быть полезны. Глава 13. Непараметрическая статистика Обсуждается, когда нужно использовать непараметрическую статистику вместо параметрической, а также описаны методы для внутри- и межгруп повых сравнений, включая тесты Вилкоксона, Манна-Уитни, КраскелУоллиса, Фридмана, критерий знаков и медианный критерий. Глава 14. Статистика для бизнеса и контроля качества Приведены статистические методы, которые часто используются в бизнесе 16 Предисловие и при контроле качества. Описанные аналитические и статистические про цедуры включают в себя индексы, временные серии, критерии принятия решений минимакс, максимакс и максимин, принятие решений в условиях риска, деревья решений и контрольные карты. Глава 15. Статистика в медицине и эпидемиологии Вводятся понятия и демонстрируются статистические методы, которые особенно актуальны для медицины и эпидемиологии. В главу вошли такие темы, как определение и использование отношений, пропорций и долей, по казатели заболеваемости и распространения, исходные и стандартизован ные данные, прямая и непрямая стандартизация, меры риска, искажающие факторы, коэффициент несогласия (простой и Мантеля-Гензеля), а также вычисления точности, мощности и объема выборок. Глава 16. Статистика в образовании и психологии * Обсуждаются концепции и статистические методы, наиболее часто ис пользуемые в образовании и психологии, такие как перцентили, стандар тизованные баллы, методы создания тестов, классическая теория тестов, надежность комбинированного теста, меры внутренней согласованности, включая коэффициент альфа, а также методы анализа заданий. Также при водится обзор современной теории тестирования. Глава 17. Управление данными Обсуждаются практические вопросы управления данными, включая ко дификацию, группировку данных, методы устранения ошибок в файлах, методы хранения данных в цифровом виде, текстовые и числовые данные и пропущенные значения. Глава 18. Планирование исследования Обсуждаются наблюдения и эксперименты, слагаемые хорошего плани рования исследований, этапы сбора данных, типы валидности и способы ограничить или предотвратить искажение результатов. Глава 19. Представление статистических материалов Рассмотрены основные проблемы представления статистической инфор мации различной аудитории, затем более детально обсуждается изложение результатов для специализированных журналов, для общественности и для коллег по работе. Глава 20. Оценка работ по статистике других авторов Содержит руководство по проверке правильности использования статис тики, включая список контрольных вопросов, которые помогут оценить представление статистических данных, и примеры манипуляций с коррект ными статистическими методами для подтверждения спорных заключе ний. В шести приложениях приведены сведения, которые лежат в основе материала, изложенного в основной части книги, а также указаны источники дополнительной информации: Структура книги ; 'i .J 17 Приложение А. Обзор основных математических понятий Содержит материалы для самопроверки и обзор основ арифметики и алгеб ры для тех, у кого остались лишь ускользающие воспоминания о последнем курсе по математике. Обсуждаются арифметические правила, экспоненты, корни и логарифмы, методы решения уравнений и систем уравнений, дро би, факториалы, перестановки и комбинации. Приложение В. Краткий обзор статистических пакетов Представлен обзор некоторых наиболее распространенных компьютерных программ, используемых для статистических вычислений, приведены при меры простейшего анализа данных в каждой из программ, обсуждаются сильные и слабые стороны каждой из них. Рассмотрены такие программы, как Minitab, SPSS, SAS и R; также обсуждается использование Microsoft Excel (это не статистический пакет) для статистического анализа. Приложение С. Ссылки Аннотированный список литературы к каждой главе включает бумажные публикации и сайты в Интернете, которые упоминаются в тексте, и прочие источники, с которых хорошо начать углубленное изучение соответствую щей темы. Приложение D. Таблицы вероятностей для распространенных типов распре делений Приведены таблицы для большинства широко используемых статистичес ких распределений - нормальное, Стьюдента, биномиальное и хи-квадрат. Даже в эпоху компьютера и Интернета стоит знать, как читать таблицы рас пределений, и удобно иметь их под рукой в печатном виде. Приложение Е. Интернет-ресурсы Приведен перечень лучших сайтов в Интернете, которые пригодятся тем, кто учит, использует или преподает статистику. Источники разделены на общие руководства, словари, вероятностные таблицы, калькуляторы и учебники. Приложение F. Словарь статистических терминов Сюда вошли греческий алфавит (проклятие многих начинающих статис тиков), расшифровка статистических обозначений и краткий словарь для большинства статистических терминов, использованных в этой книге. Эта книга - руководство, которое можно приспосабливать к имеющимся знани ям и нуждам отдельных читателей. Некоторые главы посвящены темам, которые часто отсутствуют в вводных книгах по статистике, однако я считаю их важными. Это касается управления данными, изложения статистических результатов и чте ния статистических статей, написанных другими людьми. Эти главы также послу жат полезным справочным материалом для людей, которые внезапно обнаружат, что их назначили разбираться с данными по проекту, или которым было поручено, более или менее неожиданно, представить статистические данные о работе их ко манды. Ни один из этих сценариев, к сожалению, не слишком редок. 18 Предисловие Классификация сведений на элементарные и сложные зависит от личных зна ний и задач. Я написала «Статистику для всех» так, чтобы она отвечала задачам многих категорий читателей. Из-за этого невозможно расположить материал в идеальной последовательности, так, чтобы это удовлетворяло запросам каждого. Это соображение приводит нас к важному-заключению: нет никакой необходи мости читать главы в том порядке, в каком они представлены здесь. В статистике есть много дилемм типа «что было раньше, яйцо или курица?». К примеру, вы не можете спланировать эксперименты, не зная, какие типы статистической обра ботки данных вам доступны, при этом вы не сможете понять, как применяется статистика, без каких-либо знаний о планировании исследований. Сходным об разом может казаться логичным, что тот, кто занялся управлением данными, уже имеет опыт статистического анализа, однако я консультировала многих лаборан тов и руководителей проектов, которым было поручено разобраться с объемными наборами данных до того, как они прослушали хотя бы один курс по статистике. Так что читайте эти главы в том порядке, который облегчает выполнение стоящих перед вами задач, и не стесняйтесь пропустить что-то и сосредоточиться па том, что отвечает вашим конкретным потребностям. Не весь материал этой книге и актуален для каждого, это наиболее очевидно для глав 14-16, которые посвящены определенным областям науки (бизнес и кон троль качества, медицина и эпидемиология, образование и психология соответст венно). Однако полезно быть открытым всему новому, если дело касается знания статистических методов. В данный момент вы можете быть уверенным, что вам никогда не понадобится проводить нспараметрический тест или логистический регрессионный анализ, но вы никогда не знаете, что пригодится в будущем. Также неправильно слишком четко делить методы по областям знаний; поскольку ста тистические методы в конечном счете имеют дело с числами, а не с содержанием; методы, разработанные в одной области знаний, часто пригождаются в другой. Например, контрольные карты (обсуждаемые в главе 14) были разработаны для производственных нужд, а теперь широко используются во многих областях от медицины до образования, тогда как коэффициент несогласия (глава 15), разрабо танный в эпидемиологии, теперь применяется ко всем типам данных. Условные обозначения, используемые в этой книге В этой книге принята следующая система обозначений: Обычный текст Обозначает названия пунктов меню, опций, кнопок на экране и клавишей клавиатуры (таких как Alt и Ctrl). Курсив Обозначает новые термины, названия файлов и их расширения, путь к фай лам, директории и утилиты Unix. О б авторе 19 Нижнее подчеркивание Ссылки на страницы в Интернете, адреса электронной почты. — 1 Эта пиктограмма обозначает совет, предложение или общее замечание. Эта пиктограмма обозначает предостережение. Благодарности На обложке указан только один автор, однако многие люди приложили руку к созданию этой книги. Я хотела бы поблагодарить моего агента Нейла Залкинда (Neil Salkind) за по стоянные советы и поддержку; команду О’Рейлли, включая Мэри Трезелер (Магу Treseler), Сару Шнейдер (Sarah Schneider) и Меган Бланше (Meghan Blanchette), а также всех статистиков, которые помогали при техническом рецензировании текста. Я бы также хотела поблагодарить моих далеких от статистики друзей, ко торые постоянно требовали от меня объяснять им статистические концепции, что подтолкнуло меня к написанию этой книги, и моих коллег из центра устойчивой журналистики в государственном университете Кеннесо (Center for Sustainable Journalism at Kennesaw State University) за их терпение и снисходительность во время моего труда над переработкой этой книги. От всей души хочу поблагода рить мою бывшую коллегу Ранд Росс (Rand Ross) из университета Вашингтона в Сент-Луисе (Washington University in St. Louis) за то, что она помогала мне не сойти с ума во время написания первого издания этой книги, и моего мужа Дэна Пека (Dan Peck) за то, что он был воплощением современного супруга, готового всегда оказать поддержку. Об авторе Сара Бослаф (Sarah Boslaugh) получила докторскую степень по исследованиям и оцениванию в городском университете Ныо-Йорка. В течение 20 лет она рабо тала как статистический аналитик в различных профессиональных организаци ях, включая городской совет Нью-Йорка по образованию (New York City Board of Education), исследовательское отделение (Institutional Research Office) городского университета Ныо-Йорка, медицинский центр Монтефиоре (Montefiore Medical Center), отдел социального обеспечения в Вирджинии (Virginia Department of Social Services), медицинская организация Магеллан (Magellan Health Services), медицинская школа при университете г. Вашингтон (Washington University School of Medicine) и организации BJC Healthcare. Она преподавала статистику в разных 20 Предисловие аудиториях, а сейчас работает составителем заявок на гранты в государственном университете Кеинесоу (Kennesaw). Сара Бослаф уже опубликовала две книги: «Справочник по программирова нию в SPSS средней сложности: использование программного кода для управ ления данными» (“An Intermediate Guide to SPSS Programming: Using Syntax for Data Management”, SAGE Publications, 2004) и «Вторичные источники дан ных в здравоохранении» ( “Secondary Data Sources for Public Health”, Cambridge University Press, 2007), а также редактировала «Энциклопедию эпидемиологии» (“Encyclopedia of Epidemiology” for SAGE Publications, 2007). В 2013 году издательством SAGE опубликована её новая книга, - «Системы здравоохранения во всем мире: сравнительный справочник» (“Healthcare Systems Around the World: A Comparative Guide”). Об иллюстрации на обложке На обложке книги «Статистика для всех» изображен колючий краб-паук (Maja squinado, Maja bmchydactyla). Этот краб обитает в северо-восточной части Атлан тического океана и в Средиземном море. Это самый крупный краб в Европе, диа метр его карапакса колеблется от 5 до 17 см. Его легко отличить от других крабов по двум похожим на рога шипам между глаз и шести, или около того, шипикам расположеным на каждой стороне панциря. Панцирь краба-паука красноватый с розовыми, коричневыми или желтыми отметинами и вся его поверхность покрыта мелкими шипами, как следует из названия животного. Крабы-пауки иногда выползают на берег, но предпочитают глубины от 30 до 180 м. Это одиночные животные, за исключением периода спаривания, когда они образуют большие скопления. В годы, когда эти крабы особенно многочисленны, они могут досаждать ловцам омаров, поскольку могут разорять ловушки. Крабыпауки сами являются объектом промысла из-за вкусного мяса конечностей. Самцы крабов-пауков - активные хищники; их, кажущиеся слабыми конеч ности, на самом деле довольно мощные и могут открывать раковины небольших моллюсков, которых крабы поедают. Их конечности имеют два сочленения, так что крабы-пауки способны достать клешнями до своей спины, чтобы ущипнуть обидчика, хотя в целом безопаснее его держать за створки панциря. Клешни самок мельче и менее подвижные, поэтому они более уязвимы для нападения. Для за щиты от врагов, к которым относятся омары, рыбы-губаны и каракатицы, многие виды крабов-пауков украшают свои колючие панцири водорослями, губками или грунтом, чтобы лучше замаскироваться на фоне дна. Изображение на обложке предоставлено естественно-научной библиотекой Лндекксра (Lydekker’s Library of Natural History). ГЛАВА 1. Основные понятия, связанные с измерениями Для использования статистики при решении определенной задачи необходимо преобразовать информацию об этой задаче в данные. Это значит, что вы долж ны разработать или применить систему присвоения значений, чаще всего чи сел, ключевым для рассматриваемой проблемы объектам или понятиям. Это не скрытый от понимания непосвященных процесс, а то, что люди делают ежеднев но. Например, когда вы покупаете что-нибудь в магазине, сумма, которую вы платите, - это измерение: она выражает количество денег, которое вы должны заплатить, чтобы купить что-то. Аналогичным образом, когда вы утром стано витесь на весы, число, которое вы видите, - эго измерение вашего веса. В зави симости от места вашего проживания это число может быть выражено в фунтах или килограммах, но принцип присвоения числа физической величине (весу) сохраняется в любом случае. Подходящие для анализа данные не обязательно должны быть числовыми. На пример, понятия мужчина и женщина обычно используются в науке и повседнев ной жизни для классификации людей, и за этими категориями не стоит никаких чисел. Аналогично мы часто говорим о цветах объектов, таких как красный и си ний, и к этим категориям также не привязано никаких чисел. (Хотя вы можете сказать, что этим цветам свойственны разные длины волны света, это знание не нужно для классификации объектов по цветам.) Этот тип категориального мышления - привычный ежедневный опыт, и нас редко раздражает тот факт, что разные категории используются в разных ситуаци ях. Например, художник может различать карминовый, малиновый и гранатовый, тогда как неспециалисту достаточно называть их все красным. Сходным образом социолог, собирающий информацию о семейном статусе людей, будет различать никогда не состоявших в браке, разведенных и вдовцов, тогда как для кого-нибудь человек, относящийся к любой из этих трех категорий, будет просто холостым. Здесь важно понять, что уровень детализации, используемый при классификации, должен соответствовать ситуации, исходить из цели классификации и назначения собранной информации. 22 Глава 1. Основные понятия, связанные с измерениями Измерение Измерение - это процесс систематичного присвоения чисел объектам и их свойст вам для облегчения использования математического аппарата при изучении и описании объектов и их взаимосвязей. Некоторые типы измерений абсолютно конкретны: например, измерения веса человека в фунтах или килограммах или его роста в футах и дюймах или метрах. Обратите внимание, что определенная система единиц измерения не так важна, как применение определенного набора правил: мы можем легко преобразовать вес, выраженный в килограммах, в вес, вы раженный в фунтах, например. Хотя любая система единиц измерения может по казаться необоснованной (попробуйте защитить футы и дюймы от нападок того, кто вырос, используя метрическую систему!), пока система остается постоянной по отношению к измеряемым признакам, мы можем использовать полученные ре зультаты для вычислений. Измерения не ограничены физическими величинами, такими как рост и вес. Тесты для измерения абстрактных величин, таких как интеллект или академичес кая успеваемость, широко используются в образовании и психологии, а разработ кой и улучшением методов исследований этих типов абстрактных конструктов занимается специальная дисциплина - психометрика. Утверждать, что опреде ленное измерение точно и осмысленно, более трудно, если его нельзя напрямую наблюдать. Однако вы можете оценить точность одной шкалы измерений, срав нивая результаты, которые были получены при помощи другой шкалы, точность которой известна. Применимость такого подхода при измерении веса не вызывает сомнений, дело обстоит сложнее, когда вам нужно измерить такой параметр, как интеллект. В данном случае не только не существует общепризнанных метрик ин теллекта, с которыми можно сравнить новую шкалу, нет даже общего согласия по поводу того, что подразумевается под интеллектом. Иными словами, трудно уве ренно судить о чьем-нибудь интеллекте, поскольку не существует ясного способа его измерения и, строго говоря, нет общепринятого определения интеллекта. Эти вопросы особенно актуальны в социологии и образовании, в которых основная часть исследований сосредоточена на таких абстрактных понятиях. Типы измерений В статистике обычно выделяют четыре типа, или уровня, измерений, эти же тер мины могут быть отнесены и к самим данным. Уровни измерений различаются и по смыслу чисел, используемых в системе измерений, и по типу статистических процедур, которые корректно применять для обработки данных. Номинальные данные Для номинальных данных числа выступают в виде имени или ярлыка и не имеют смысла как числа. Например, вы можете создать переменную для пола, которая принимает значение 1 для мужчин и 0 для женщин. Эти 0 и 1 не имеют смысла как Типы измерений 23 числа, а выступают в роли «ярлыков», сходным образом вы можете закодировать эти значения как М и Ж. Однако исследователи часто предпочитают числовую кодировку значений по нескольким причинам. Во-первых, это упрощает анализ данных, поскольку некоторые статистические программы не допускают использо вания нечисловых значений при определенных типах обработки данных. (Так что любые нечисловые данные придется перекодировать перед анализом.) Во-вторых, кодирование данных при помощи чисел позволяет избежать некоторых проблем при вводе данных, таких как конфликт между прописными и строчными буквами (для компьютера М и м - разные значения, однако тому, кто вводит данные, они могут показаться одинаковыми). Номинальные данные могут иметь больше двух значений. Например, если вы изучаете связь между опытом игроков в бейсбол и их зарплатой, вы можете клас сифицировать игроков по их основной роли, используя традиционную систему: 1 - подающий, 2 - принимающий, 3 - первый полевой игрок и так далее. Если вы не можете решить, относятся ли ваши данные к номинальному типу, задайте себе вопрос: отражают ли числа некоторое свойство так, что более высо кое значение означает наличие большего количества этого свойства? Рассмотрим пример с кодировкой пола, где 0 обозначает женщину, а 1 - мужчину. Есть ли неко торое свойство пола, которым мужчина обладает в большей степени, чем женщи на?1 Конечно нет, и кодировка будет работать, если обозначать женщин 1, а муж чин 0. Тот же принцип применим и к бейсбольным игрокам: нет такого качества, как «бейсбольность», которое свойственно в большей степени полевым игрокам, по сравнению с подающими. Числа - всего лишь удобный способ обозначения объектов исследования, и наиболее важно то, что каждому состоянию признака соответствует свое значение. Другое название номинальных данных - категориаль ные, что отражает тот факт, что измерения скорее разделяют объекты на категории (мужчина или женщина, подающий или полевой игрок), а не измеряют некоторые присущие им свойства. В пятой главе обсуждаются методы анализа, подходящие для этого типа данных, и некоторые из разобранных в главе 13 непараметрическнх методов также подходят для категориальных данных. Когда данные принимают только два значения, как в случае с женщинами и мужчинами, их называют бинарными. Этот тип данных настолько распространен, что для его анализа разработаны специальные методы, включая логистическую регрессию (обсуждается в главе 11), которая применяется во многих областях нау ки. Многие используемые в медицине статистики, такие как отношение шансов и отношение рисков (обсуждаются в главе 15), были разработаны для описания взаимосвязи между двумя бинарными переменными, поскольку они очень часто используются в медицинских исследованиях. Порядковые данные Порядковые данные - это данные, которые можно расположить в каком-либо осмысленном порядке, так что большие значения соответствуют большему про1 Неудачный пример с точки зрения биолога. - Прим. пер. 24 Глава 1. Основные понятия, связанные с измерениями явлению какого-либо признака, по сравнению с меньшими значениями. Напри мер, в медицине ожоги часто характеризуются их степенью, которая выражается через объем поврежденных при ожоге тканей. Первая степень - это покраснение кожи, слабая боль и повреждение только эпидермиса (наружного слоя кожи). Вторая степень - это появление волдырей,' при этом повреждается наружный слой дермы (слой кожи между эпидермисом и подкожными тканями). Третья степень ожога затрагивает всю дерму и характеризуется обугливанием кожи и возможным разрушением нервных окончаний. Эти категории можно располо жить в логической последовательности: ожоги первой степени характеризуются наименьшим разрушением тканей, ожоги второй степени - более значительным разрушением, а третьей степени - самым серьезным. Однако не существует ка кого-либо метрического аналога линейки или шкалы, чтобы определить, каково расстояние между этими категориями, или определить, одинаковы ли различие между ожогами первой и второй степеней и различие между ожогами второй и третьей степеней. Многие порядковые шкалы используют ранжирование. Например, кандидаты на какую-то должность могут быть ранжированы отделом кадров по привлека тельности для найма. Это ранжирование дает понять, какой кандидат наиболее предпочтителен, какой занимает второе место и так далее, но остается неясным, сходны ли на самом деле оценки первого и второго кандидатов, или первый канди дат намного более предпочтителен, чем второй. Можно также ранжировать стра ны мира по численности их населения, создав разумный порядок, не говоря ни чего, например, о соотношении различий между 30-й и 31-й странами и различий между 31-й и 32-й странами. Числа в порядковых данных несут больше смысла, чем в номинальных, и разработано много статистических методов для полного ис пользования информации, содержащейся в упорядоченных данных, не подразу мевающих еще каких-нибудь свойств этих шкал. Например, для порядковых дан ных имеет смысл рассчитывать медиану (центральное значение), но не среднее арифметическое, поскольку это подразумевает равное расстояние между баллами и требует деления, для чего нужны данные, характеризующие соотношения. Интервальные данные Интервальные данные характеризуются осмысленным порядком и равными ин тервалами между измерениями, отражающими равновеликие изменения коли чества любой измеренной величины. Наиболее распространенный пример ин тервальных данных - это температура, измеренная по шкале Фаренгейта. Если вы измеряете температуру по этой шкале, то различие между 10 и 25 градусами (15 градусов) отражает тот же масштаб изменений температуры, что и различие между 60 и 75 градусами. Для интервальных данных сложение и вычитание имеют смысл, поскольку разница в 10 градусов характеризует одинаковую степень раз личий в температуре на протяжении всей шкалы. Однако у шкалы Фаренгейта нет естественного нуля, поскольку 0 на этой шкале обозначает не отсутствие темпера туры, а просто относительное положение этого значения на шкале. Умножение и Типы измерений 25 деление не имеют смысла для интервальных данных, поскольку такое утвержде ние, как, например, «80 градусов - это в два раза жарче, чем 40 градусов» не имеет смысла (хотя разумно говорить о том, что 80 градусов - это на 40 градусов жарче, чем 40 градусов). Интервальные шкалы - это редкость, и придумать еще один рас пространенный пример такой шкалы сложно. По этой причине термин «интер вальные данные» иногда используется для описания и интервальных данных, и данных, характеризующих отношения (обсуждаются в следующем разделе). Данные, характеризующие отношения Данные, характеризующие отношения, характеризуются всеми свойствами интер вальных данных (осмысленный порядок, равные интервалы) и естественным ну лем. Многие физические измерения - это данные, характеризующие отношения: например, рост, вес и возраст - все подходят. Также годится доход: конечно, вы можете заработать 0 долларов в год или иметь 0 долларов на счету в банке, и эго будет обозначать отсутствие денег. Умножение и деление - осмысленные арифме тические операции для этого типа данных, разумно заключить, что кто-то со $100 имеет вдвое больше денег, чем тот, у кого $50, или что человек в возрасте 30 лет втрое старше десятилетнего. Нужно отметить, что хотя многие физические измерения - это данные, ха рактеризующие отношения, большинство психологических измерений - это по рядковые данные. Это особенно справедливо для исследований ценностей или предпочтений, которые часто измеряются по шкале Лайкерта (Likert). Например, человеку можно предъявить утверждение (скажем, «правительство должно боль ше вкладывать в образование») и попросить его выбрать ответ из упорядоченного набора вариантов (например, абсолютно согласен, согласен, нет определенного мнения, не согласен, абсолютно не согласен). Этим вариантам ответов в некото рых случаях присваиваются числа (например, 1 - абсолютно согласен, 2 - согла сен и т. д.), и это иногда создает впечатление того, что в этом случае можно при менять методы анализа для интервальных данных или данных, характеризующих соотношения (например, вычисление среднего арифметического). Правильно ли это? С точки зрения статистиков - нет, но иногда вам приходится делать то, что от вас требует начальство, а не то, что вы считаете верным на основании теорети ческих знаний. Непрерывные и дискретные данные Другое важное различие существует между непрерывными и дискретными данны ми. Непрерывные данные могут принимать любое значение вообще или в опреде ленном диапазоне. Большая часть данных,, которые измеряются в интервальной шкале или характеризуют отношения, непрерывна: например, вес, рост, расстоя ние и доход - это все непрерывные данные. Во время анализа данных и моделирования исследователи иногда разбивают непрерывные данные на категории или объединяют в более крупные группы. На пример, вес можно разделить на интервалы по 10 фунтов или возраст, выражен 26 Глава 1. Основные понятия, связанные с измерениями ный в годах, можно анализировать по возрастным группам: 0-17 лет, 18-65 лет и старше 65 лет. С точки зрения статистики, между непрерывными и дискретными данными не существует четкой границы, что нужно учитывать при определении метода анализа. Также стоит помнить о том, что если вы регистрируете возраст в годах, вы по-прежнему разбиваете непрерывную переменную на дискретные категории. На практике применяются различные правила. Например, некоторые исследователи говорят, что если у переменной есть 10 и более значений (или, в ка честве альтернативы, 16 или более значений), ее можно спокойно анализировать как непрерывную. Это решение должно быть основано на контексте, созданном из принятых стандартов в вашей области исследований и типа анализа, который предполагается применить. Дискретные переменные принимают только определенные значения, и меж ду этими значениями существуют четкие границы. Как гласит старая шутка, у вас может быть два или три, но не 2,37 ребенка, так что переменная «число де тей» - дискретная. На самом деле любая счетная переменная дискретна, считаете ли вы число книг, купленных за год, или число визитов к врачу во время бере менности. Номинальные данные всегда дискретны, так же как и бинарные или порядковые. Операционализация Люди, которые только начинают заниматься наукой, часто думают, что вся слож ность научного исследования заключается в основном в статистическом анализе, так что они сосредоточивают свои усилия на изучении математических формул п методов компьютерного программирования для выполнения статистических вычислений. Однако один основной аспект исследований имеет очень мало отно шения и к статистике, и к математике, но полностью обусловлен вашим знанием предмета исследования и внимательным обдумыванием практических проблем измерений. Этот аспект носит название операционализация, что означает процесс определения способа описания и измерения признаков. Операционализация всегда необходима, когда интересующий нас признак не может быть измерен напрямую. Очевидный пример - это интеллект. Не сущест вует способа прямого измерения интеллекта, так что вместо этого мы должны предложить какую-то величину, которую мы можем измерить, такую как баллы теста на IQ. Сходным образом не существует способа прямого измерения «готов ности к противостоянию катастрофе» для городов, но мы можем операционализировать этот показатель, составив список задач, которые должны быть выполнены. Далее мы можем присвоить каждому городу балл «готовности к противостоянию катастрофе», исходя из того, сколько задач выполнено, в какой мере и насколь ко разумно. В качестве третьего примера представим, что вы хотите исследовать степень физической активности людей. Если у вас нет возможности отслеживать их активное поведение напрямую, вы можете операционализовать «степени фи зической активности» по активности, заявленной в ходе опроса или описанной в дисвинке. Типы измерений 27 Поскольку многие качества, изучаемые социологами, абстрактны, операционализация - это распространенная тема обсуждения у представителей этой спе циальности. Однако эта проблема также актуальна и для других областей науки. Например, основные цели здравоохранения - уменьшение смертности и сниже ние страданий и тяжести заболеваний. Смертность легко определяется и измеря ется, но этот показатель часто слишком груб, чтобы быть полезным, поскольку, к счастью, такой исход редок для многих заболеваний. «Тяжесть заболеваний» или «страдания», - с другой стороны, это показатели, которые важны при многих ис следованиях, однако не существует способов их прямого измерения, так что эти показатели нужно операционализовать. К примерам операционализации тяжес ти заболевания относится определение концентрации вируса в крови у больных СПИДом. Снижение страданий или улучшение качества жизни может быть операционализировано как более высокая оценка собственного здоровья, высокие баллы разработанного показателя качества жизни, улучшившееся настроение, за фиксированное в результате личной беседы, или уменьшение количества морфия, необходимого для облегчения боли. Есть мнение, что даже измерение физических величин, таких как длина, требу ет операционализации, поскольку существуют разные способы измерения даже конкретных свойств, таких как длина. (В одних случаях подходящим инструмен том может быть линейка, в других - микрометр.) Даже если вы согласны с этой точкой зрения, кажется ясным, что проблема операционализации более сущест венна в социологии, где свойства интересующего нас объекта часто нельзя изме рить напрямую. Опосредованное измерение Понятие опосредованное измерение обозначает процесс замены одного измерения другим. Хотя определение опосредованных измерений можно рассматривать как разновидность операционализации, в этой книге мы рассмотрим их как отдельную тему. Наиболее частое использование опосредованных измерений - это замена де шевым и простым измерением другого измерения, которое будет более сложным или дорогостоящим, если не невозможным для проведения. Другой пример - это сбор информации об одном человеке путем опроса другого, например вопрос ма тери о настроении ее ребенка. В качестве простого примера опосредованных измерений рассмотрим некото рые методы, которые полицейские применяют для оценки трезвости людей на месте. Без портативной медицинской лаборатории полицейские не могут изме рить уровень спирта в крови и напрямую установить, является ли водитель пья ным, согласно существующим юридическим нормам. Вместо этого полицейский может использовать удобные для наблюдения признаки нетрезвости, простые тесты, которые на месте, как принято считать, позволяют оценить концентрацию спирта в крови, анализ выдыхаемого воздуха или все вышеперечисленное. К удоб ным для наблюдения признакам алкогольного опьянения относятся запах алкого ля, невнятная речь и покраснение кожи. При простых тестах, которые позволяют 28 Глава 1. Основные понятия, связанные с измерениями на месте быстро оценить степень алкогольного опьянения, испытуемого обычно просят постоять на одной ноге или следить глазами за движущимся предметом. При помощи аппарата для получения пробы на алкоголь можно измерить кон центрацию спирта в выдыхаемом воздухе. Ни один из этих оценочных методов не позволяет напрямую измерить содержание спирта в крови, но они считаются разумными способами приблизительной оценки, которыми можно быстро и легко воспользоваться на месте. Для знакомства с другим распространенным случаем использования опосре дованных измерений рассмотрим разные методы, которые применяются в США для оценки качества здравоохранения для больниц и отдельных врачей. Трудно придумать прямой способ измерения качества здравоохранения, за исключением, возможно, прямого наблюдения за процессом лечения и его оценки согласно при нятым стандартам (хотя тут также можно возразить, ч^о измерения, необходимые для подобной оценки, все равно будут операционализацией абстрактного понятия «здравоохранение»). Применение такого метода оценки будет непозволительно дорогим, при этом придется обучить большую команду оценщиков и полагаться на согласованность их мнений, и это будет вмешательством в личную жизнь паци ентов. Решение, которое часто используется в качестве альтернативы, - изучать события, которые считаются показателями хорошей заботы о здоровье: например, была ли при визите к доктору правильно проведена консультация по избавлению от табачной зависимости или были ли получены необходимые медикаменты сразу после госпитализации. Опосредованные измерения наиболее полезны, если в дополнение к их отно сительной простоте проведения они являются хорошими индикаторами той ха рактеристики, которая нас действительно интересует. Например, если правильное выполнение описанных выше процедур заботы о здоровье тесто связано с хоро шим состоянием пациента, а плохое выполнение этих процедур или отказ от них тесно связано с плохим состоянием пациента, то качество выполнения описанных процедур - это полезное опосредованное измерение качества здравоохранения. Если такой тесной связи не существует, то применимость опосредованных изме рений менее оправдана. Ни один математический тест не поможет понять, явля ется лн один параметр хорошим опосредованным измерением для другого, хотя вычисление статистик, таких как корреляции или тесты хи-квадрат между этими показателями, поможет прояснить этот вопрос. Кроме того, у опосредованных из мерений есть свои сложности. В примере с оценкой качества заботы о здоровье по проводимым процедурам предполагается, что без знания отдельных случаев мож но определить, что называется правильным лечением и что доступна информация о проведенных процедурах. Как и в случае многих вопросов, связанных с измере ниями, выбор хороших опосредованных измерений - субъективное решение, ос нованное на знании предмета исследований, традиционных для данной научной дисциплины подходов и здравом смысле. Истинные значения и ошибки 29 Суррогатные конечные точки Суррогатные конечные точки - это тип опосредованных измерений, используемых в клинических испытаниях в качестве замены реальных конечных точек. Например, опре деленный протокол лечения может быть разработан для предотвращения смерти (реаль ная конечная точка), но поскольку смерть при данном состоянии пациентов может быть редким событием, для более быстрого накопления данных об эффективности лечения можно использовать суррогатную конечную точку. Обычно это биологический маркер, связанный с реальной конечной точкой. Например, если лекарство должно предотвра щать смерть от рака простаты, суррогатной конечной точкой может быть уменьшение размера опухоли или снижение концентрации специфичных антител. Проблема использования суррогатных конечных точек заключается в том, что хотя ле чение может быть эффективным для улучшения состояния в этих конечных точках, это не обязательно значит, что оно приведет к успеху при достижении интересующего нас клинического результата. Например, мета-анализ, проведенный Стефаном Мичильсом (Stephan Michiels) с коллегами (ссылка приведена в приложении С), показал, что для местно-распространенных плоскоклеточных карцином головы и шеи коэффициент кор реляции между контролем над расположением (суррогатная конечная точка) и общей выживаемостью (реальная клиническая конечная точка) колебался от 0,65 до 0,76 (если результаты были одинаковыми для обеих конечных точек, коэффициент корреляции был бы равен 1,00). Суррогатные конечные точки часто неправильно используются, будучи назначенными постфактум, замещая результат, определенный до начала испытания или в обоих этих случаях сразу. Поскольку суррогатной конечной точки легче достичь, это может привес ти к разработке нового лекарства с доказанной эффективностью, которое может слабо влиять на реальную конечную точку или даже быть опасным. Более подробное обсужде ние общих вопросов, связанных с суррогатными конечными точками, приведено в статье Томаса Р. Флеминга (Thomas R. Fleming), ссылка на которую приведена в приложении С. Истинные значения и ошибки Мы можем с уверенностью утверждать, что абсолютно точных измерений очень мало (если они вообще существуют). Это правда не только потому, что измерения производят и записывают люди, но также потому, что процесс измерении часто подразумевает присвоение дискретных чисел непрерывным величинам. Одна из задач теории измерений состоит в осмыслении и количественном выражении ошибок, содержащихся в определенном наборе измерений, а также в выявлении источников и последствий этих ошибок. Классическая теория измерений рассматривает каждое измерение или наблю даемое значение как сумму двух составляющих: истинного значения (Т)2 и ошиб ки (Е )\ Это выражается в следующей формуле: X = Т + Е, где X - наблюдаемое значение измерения, Т - истинное значение, а Е - ошибка. Например, весы могут показать, что чей-нибудь вес равен 120 фунтам, в то время* 2 От англ, true - истинный. - Прим. пер. * От англ, error - ошибка. - Прим. пер. 30 Глава 1. Основные понятия, связанные с измерениями как этот человек на самом деле весит 118 фунтов, а ошибка в два фунта происхо дит из-за неточности шкалы. Это можно выразить при помощи приведенной выше формулы как 120= 118 + 2, что представляет собой просто математическое равенство, выражающее связь меж ду этими тремя величинами. Однако и Г, и Е - это теоретические конструкты. В реальном мире мы редко точно знаем истинное значение и, следовательно, также не можем знать точное значение ошибки. Процесс измерений по большей части заключается в оценке величины и максимизации «истинной» составляющей и ми нимизации ошибки. Например, если вы делаете ряд измерений веса одного и того же человека в течение короткого промежутка времени (так что его истинный вес можно считать постоянным), используя недавно откалиброванные весы, вы може те использовать среднее арифметическое всех этих измерений как хорошую оценку истинного веса этого человека. Затем вы можете трактовать различия между отде льным измерением и средним значением как ошибку измерений, такую как неболь шую неисправность весов или неточность в считывании и записи результатов. Случайная и систематическая ошибка Поскольку мы живем в реальном мире, а не в идеальной вселенной Платона, мы предполагаем, что в измерениях содержится некоторая ошибка. Однако не все ошибки имеют одинаковое происхождение, и мы можем научиться жить со слу чайными ошибками, но любыми способами должны избегать систематических ошибок. Случайные ошибки невозможно предсказать: у них нет какой-либо оп ределенной закономерности, и считается, что они взаимоуничтожаются при пов торных измерениях. Например, считается, что среднее арифметическое ошибок в серии измерении равно нулю. Так что если кто-нибудь взвесился 10 раз подряд на одних и тех же весах, вы можете заметить небольшие различия в зарегистри рованных значениях: некоторые будут меньше истинного, а некоторые - больше. Если истинное значение веса составляет 120 фунтов, возможно, первое измере ние будет равно 119 фунтам (включая ошибку в -1 фунт), второе - 122 фунтам (с ошибкой в +2 фунта), третье - 118,5 фунта (ошибка в -1,5 фунта) и т. д. Если весы точные и все ошибки случайны, то их усредненное по многим наблюдениям значение будет равно 0, а усредненное значение измеренного веса - 120 фун там. Вы можете постараться уменьшить величину случайной ошибки, используя более точные приборы, обучив ваш технический персонал правильному их ис пользованию и так далее, но вы не можете полностью избавиться от случайной ошибки. У случайной ошибки есть еще два свойства: она не связана с истинным значе нием, а се величина для одного наблюдения не связана с ее величиной для другого наблюдения. Первое свойство означает, что значение ошибки для любого измере ния не связано с его истинным значением. Например, если вы взвешиваете несколь ко человек, истинный вес которых различается, вы не будете ожидать, что ошибка Надежность и валидность 31 для каждого наблюдения каким-либо образом связана со значениями истинного веса этих людей. Это значит, например, что ошибка не должна быть выше при больших истинных значениях (истинном весе людей). Второе свойство означает, что ошибочная составляющая каждого измерения независима и не связана с оши бочной составляющей любого другого измерения. Например, в серии измерений величина ошибки не должна увеличиваться со временем, так чтобы более поздние измерения характеризовались бы большей ошибкой. Характеризуя первое требо вание, иногда говорят, что коэффициент корреляции между истинным значением и ошибкой равен 0, а второе требование иногда выражается в утверждении, что коэффициент корреляции между ошибками равен 0 (корреляция подробнее об суждается в главе 7). В противоположность изложенному выше значения систематической ошибки имеют заметную структуру, которая формируется не случайно, а часто имеет при чину или причины, которые можно выявить и устранить. Например, весы могут быть неправильно калиброваны так, что они всегда показывают на 5 фунтов боль ше, чем есть на самом деле, так что среднее результатов многократных взвеши ваний человека с истинным весом 120 фунтов будет равно 125 фунтам, а не 120. Систематические ошибки могут объясняться человеческим фактором, например техник считывала показания весов под углом, так что она видела стрелку, указы вающую на большие значения, чем на самом деле. Если закономерность значе ний систематической ошибки обнаружена, например ее значения увеличивают ся со временем (так что ошибочная составляющая измерений случайна в начале эксперимента, а затем возрастает), это полезная информация, поскольку можно вмешаться в ход эксперимента и повторно калибровать шкалу. На выявление ис точников систематической ошибки и разработку методов для ее обнаружения и удаления затрачивается много усилий: это подробнее обсуждается в одном из сле дующих разделов «Смещение измерений» на стр. 36. Надежность и валидность Существует много способов присвоения данным чисел или категорий, и не все из этих способов одинаково полезны. Для оценки способов измерений (например, опроса или теста) есть два параметра - наделсность и валидность. В идеале нам бы хотелось, чтобы каждый используемый нами метод был и надежным, и валидным. В реальности эти качества не абсолютны, а всегда проявляются в некоторой сте пени, которая обычно зависит от обстоятельств. Например, опрос, который весьма надежен для определенных возрастных групп, может быть ненадежен для другой возрастной группы. Поэтому вместо обсуждения надежности и валидности как аб солютных величин часто полезнее оценить надежность и валидность способа из мерений для конкретной задачи и допустимость достигнутого уровня надежности и валидности в определенном контексте. Надежность и валидность также обсуж даются в главе 18 в контексте планирования исследования и главе 16 в контексте образовательного и психологического тестирования. 32 Глава 1. Основные понятия, связанные с измерениями Надежность Надежность характеризует согласованность или воспроизводимость наблюде ний. Например, если мы даем одному и тому же человеку один тест дважды, бу дут ли результаты сходными? Если мы научили трех людей пользоваться шка лой качества социальных взаимодействий, затем показали каждому из них одну и ту лее видеосъемку взаимоотношений в группе людей и попросили оценить наблюдаемые социальные взаимодействия, будет ли результат одинаков? Если у пас есть технический работник, который взвесил одну и ту же деталь 10 раз на одних и тех же весах, будут ли результаты одинаковыми? В каждом случае, если ответ будет положительным, мы можем сказать, что тест, шкала или работник надежны. Многое в теории надежности было разработано исследователями педагогичес кой психологии, и поэтому показатели надежности часто описываются в терминах надежности тестов. Однако вопросы надежности не ограничиваются тестирова нием в педагогике; те же самые концепции применимы ко многим другим типам измерений, включая исследования общественного мнения и поведения. Обсуждение в этой главе будет проведено на базовом уровне. Вычисление спе циализированных показателей надежности обсуждается более детально в главе 16 в контексте теории тестирования. Многие показатели надежности основаны на ко эффициенте корреляции (также просто называемом корреляцией), так что начина ющие статистики могут захотеть сосредоточиться на общей логике надежности и адекватности и отложить обсуждение подробностей их оценки до ознакомления с коэффициентом корреляции. Существуют три основных подхода к измерению надежности, каждый из кото рых полезен в своей ситуации и имеет свои достоинства и недостатки: • надежность множественных событий; • надежность множественных вариантов; • надежность внутренней непротиворечивости. Надежность множественных событий, иногда называемая надежностью пов торного тестирования, характеризуется тем, насколько сходные результаты по лучаются при повторном использовании теста или шкалы. Из-за этого ее еще называют показателем временной стабильности, имея в виду стабильность на про тяжении определенного промежутка времени. Например, один и тот же человек может дважды с интервалом в две недели характеризовать психическое состояние пациента, основываясь на видеозаписи интервью, а затем сравнить результаты. Для того чтобы этот тип оценки надежности имел смысл, необходимо, чтобы изме ряемая характеристика оставалась постоянной, поэтому здесь и идет речь о видео записях интервью, а не о двух интервью с пациентом, психологическое состояние которого может измениться за две недели. Надежность множественных событий не может быть оценена для непостоянных характеристик, таких как настроение, или таких характеристик, которые могут измениться в промежуток между наблю дениями (например, то, как студентка владеет предметом, который она интенсив но изучает). Распространенный метод оценки надежности множественных собы Надежность и валидность 33 тий заключается в вычислении коэффициента корреляции между результатами каждого теста; это называется коэффициентом стабильности. Надежность множественных вариантов (также называемая надежностью па раллельных форм) характеризует, насколько сходные результаты дают разные версии тестов или опросников при оценке одной и той же величины. Распростра ненный метод оценки надежности множественных вариантов - это расщепление выборки на две половины, при котором создается набор объектов, который счита ется гомогенным, затем половина объектов выполняет вариант А, а другая поло вина - вариант В. Если два (или более) варианта теста предъявляются одним и тем же людям в одинаковых условиях, то корреляция между результатами для каждого варианта теста - это показатель надежности множественных вариантов. Эта корреляция иногда называется коэффициентом эквивалентности. Надеж ность множественных вариантов особенно важна для стандартизированных тес тов, которые имеют много версий. Например, разные версии отборочного теста (SAT, используемого для оценки способностей к тому или иному разделу наук у абитуриентов американских колледжей и университетов) калиброваны таким образом, что полученные результаты равнозначны вне зависимости от варианта теста, который достался данному абитуриенту. Надежность внутренней непротиворечивости характеризует, насколько хо рошо вопросы, которые составляют инструмент исследования (например, тест или анкетирование), отражают одно и то же свойство объекта. Иначе говоря, по казатели внутренней непротиворечивости отражают то, насколько согласованно составляющие одного исследовательского инструмента измеряют одно и то же. В отличие от надежности множественных событий или вариантов, внутреннюю непротиворечивость можно оценить, используя один метод или одно наблюдение. Надежность внутренней непротиворечивости сложнее оценить, чем надежность множественных событий или вариантов, для этого были разработаны несколько методов; они подробно обсуждаются в главе 16. Хотя уже здесь можно отметить, что все эти методы основаны в основном на корреляции между всеми парами со стояний шкалы или вопросов теста. Если такая корреляция высока, то это интер претируется как свидетельство того, что все вопросы направлены на исследование одной и той же величины, и различные статистики, используемые для измерения надежности внутренней непротиворечивости, будут высокими. Если корреляция между ответами на разные вопросы будет низкой или непостоянной, статистики надежности внутренней непротиворечивости будут меньше, и это интерпретиру ется как свидетельство того, что вопросы оценивают разные вещи. Для тестов, составленных из ряда вопросов на одну тему или имеющих сходную сложность, которые будут учитываться совместно, наиболее полезны два простых показателя внутренней непротиворечивости: средний коэффициент корреляции между вопросами и средний коэффициент корреляции по всем вопросам. Для вы числения среднего коэффициента корреляции между вопросами вы вычисляете корреляцию между результатами для каждой пары вопросов и усредняете полу ченные значения. Для вычисления среднего коэффициента корреляции по всем вопросам вы суммируете результаты по всем вопросам и затем высчитываете кор 34 Глава 1. Основные понятия, связанные с измерениями реляцию результатов по каждому вопросу с этой суммой. Средняя корреляция по всем вопросам - это усредненные корреляции суммарного значения с результатом по каждому вопросу Описанная выше устойчивость результатов при расщеплении выборки на две половины, - это еще один способ оценки внутренней непротиворечивости. Не достаток этого метода состоит в том, что если вопросы не гомогенны по-настоя щему, разные варианты расщепления будет порождать варианты несопоставимой сложности, и коэффициент надежности для каждой пары таких вариантов будет различаться. Метод, который позволяет преодолеть эту сложность, называется альфой Кропбаха (Cronbach’s alpha), или коэффициентом альфа. Он равнозначен усредненному значению для всех возможных расщеплений выборки на две поло вины. Более подробная информация об альфе Кронбаха, включая пример ее рас чета, изложена в главе 16. Валидность Валидность характеризует, насколько хорошо тест или балльная шкала измеряют то, что планировалось измерить. Некоторые исследователи описывают валида цию как процесс сбора свидетельств в пользу выводов, которые предполагается сделать на основе обсуждаемых измерений. Ученые расходятся во мнениях отно сительно классификации типов валидности, и научный консенсус изменяется со временем, поскольку разные типы валидации объединялись под общим названием в один год и разделялись в другой. Чтобы не усложнять все, в этой книге мы будем придерживаться традиционной классификации валидности, включающей четыре категории: содержательная валидность, конструктивная валидность, совокупная валидность и предсказательная валидность. Также мы обсудим очевидную валид ность, которая тесно связана с содержательной валидностью. Эти типы валиднос ти обсуждаются далее в главе 18 в контексте планирования исследования. Содержательная валидность характеризует, насколько хорошо измерения ха рактеризуют ключевое содержание объекта исследований. Этот показатель осо бенно важен, если цель состоит в распространении результатов измерений на более обширную совокупность объектов. Например, кандидатов на должность программиста могут попросить выполнить проверочное задание, в котором тре буется написать или интерпретировать программу на языках, с которыми соис катели должны будут работать. Из-за ограничений по времени подобный экзамен проверяет только часть тех умений и знаний соискателей, которые могут на самом деле им пригодиться при профессиональном программировании. Однако если подмножество знаний и умений выбрано удачно, результат подобного экзамена может быть хорошим показателем способности человека ко всем важным навыкам программирования, которые понадобятся ему в этой должности. Если это так, то мы можем сказать, что экзамен содержательно валиден. Понятие очевидной валидности тесто связано с содержательной валидностью. Характеристика с высокой очевидной валидностью воспринимается (представи телями общественности или тем, кого предполагается оценивать при помощи этой Надежность и валидность 35 характеристики) как честная оценка изучаемых качеств. Например, если тест по геометрии за курс средней школы воспринимается родителями выполняющих его учеников как справедливый тест для проверки знаний по геометрии, этот тест имеет хорошую очевидную валидность. Очевидная валидность важна для форми рования доверия; если вы утверждаете, что вы оцениваете знания по геометрии, но родители учеников с вами не согласны, то они могут быть склонны игнориро вать ваши суждения об уровне подготовки их детей по предмету. Кроме того, если ученики воспринимают тест по геометрии как что-то совершенно иное, они могут не быть мотивированы к сотрудничеству и старанию, так что их ответы могут не отражать адекватно их способности. Совокупная валидность отражает, насколько хорошо выводы, сделанные на ос новании измерений, могут использоваться для предсказания другого поведения или явления, которое измеряется примерно в то же время. Например, если ре зультаты теста качества работы учащегося сильно связаны с его успеваемостью в это время или с результатами сходных тестов, этот тест характеризуется высокой совокупной валидностью. Предсказательная валидность - это сходное понятие, однако тут рассматривается способность делать предсказания касательно некото рого события в будущем. Продолжая предыдущий пример, если результаты теста качества работы сильно связаны со школьной успеваемостью в следующем году или с должностью, полученной в будущем, этот тест имеет высокую предсказа тельную валидность. Триангуляция Поскольку каждая система измерений имеет свои недостатки, исследователи час то используют несколько подходов к измерению одной и той же величины. На пример, в американских университетах часто используется множество источников информации для оценки способности к обучению школьников старших классов и вероятности того, что они будут хорошо успевать в университете. К используемым в этих целях показателям относятся баллы, полученные на стандартизированных экзаменах, таких как SAT, высокие школьные оценки, личная мотивация или эссе и рекомендации учителей. Аналогичным образом решение о приеме на работу в ком панию часто основано на нескольких источниках информации, включая опыт ра боты соискателя, его образование, произведенное им впечатление в ходе интервью и, возможно, образец результатов его работы и один или более тестов на знания и личностные качества. Процесс объединения информации из многих источников для получения ис тинных или по меньшей мере более точных значений называется триангуляцией, по смелой аналогии с геометрической операцией установления положения точки по ее отношению к двум другим точкам с известным положением. Ключевая идея, лежащая в основе триангуляции, заключается в том, что хотя единичное изме рение некоторого параметра может содержать слишком большую ошибку (или известного, или неизвестного типа), чтобы быть надежным или валидным само по себе, объединяя информацию по нескольким типам исследований, по крайней 36 Глава 1. Основные понятия, связанные с измерениями мере некоторые характеристики которых известны, мы можем добиться прием лемого измерения неизвестной величины. Мы ожидаем, что каждое измерение имеет свою ошибку, но мы надеемся, что эти ошибки не относятся к одному типу, так что при помощи нескольких типов измерений мы можем получить разумную оценку интересующего нас количества или свойства. Разработка метода триангуляции - непростое дело. Одна исторически важ ная попытка этого - матрица со многими параметрами и методами (multitrait, multimethod matrix, МТММ), разработанная Кэмпбеллом и Фиске (Campbell, Fiske, 1959). Их основная идея состояла в отделении той составляющей измерения, которая относится к интересующему нас признаку, от той составляющей, которая характеризует используемый метод измерений. Хотя эта методология меньше ис пользуется в наши дни и ее описание выходит за рамки пособия для начинающих, упомянутая концепция остается полезной как пример одного из способа размыш лений об ошибке измерений и валидности. МТММ - это корреляционная матрица для измерений нескольких параметров, каждый из которых был оценен при помощи нескольких методов. В идеале для каждого признака должен был быть использован один и тот же набор методов. Мы ожидаем, что в этой матрице разные измерения одного и того же признака будут тесно связаны; например, показатели интеллекта, полученные при помощи не скольких методов, таких как тест, выполненный при помощи карандаша и бумаги, решение практических задач и структурированное интервью, должны быть тесно связаны между собой. По той же логике, показатели, характеризующие разные па раметры, которые измеряются одним и тем же способом, не должны быть тесно связаны; например, показатели интеллекта, поведения и коммуникабельности, из меренные при помощи бумажной анкеты, не должны существенно коррелировать между собой. Смещение измерений Выявление смещения измерений (measurement bias) важно почти в любой науч ной области, но особенно актуально для социологии. К настоящему времени об наружено и описано много частных случаев смещения измерений. Мы не будем перечислять их все, но обсудим несколько наиболее распространенных. Многие руководства по планированию исследований очень подробно рассматривают сме щение измерений и могут быть использованы как дальнейший источник инфор мации по этой теме. Ключевая идея заключается в том, что исследователь всегда должен помнить о возможности смещения измерений, поскольку неспособность обнаружить смещение и разрешить связанные с ним проблемы может свести на нет результаты потенциально уникального исследования. Смещение измерений может произойти на двух основных этапах: во время от бора объектов для исследования или во время сбора информации об этих объек тах. В любом случае ключевой признак смещения - то, что его источником служит скорее систематическая, а не случайная ошибка. В результате смещения анали- Смещение измерений 37 зируемые данные закономерным образом отличаются от истинного значения, что может привести к неправильным заключениям, несмотря на применение кор ректных статистических методов. В следующих двух подразделах обсуждаются некоторые из наиболее распространенных типов смещения, объединенные в две крупные категории: смещение при создании выборки и смещение при сборе и ре гистрации информации. Смещение при создании выборки Многие исследования производятся на выборках объектов из генеральной сово купности, будь то больные лейкемией или произведенные на фабрике приборы, поскольку изучить всю генеральную совокупность было бы недопустимо дорого, если вообще возможно. Выборка должна хорошо характеризовать генеральную совокупность (на которую результаты должны распространиться), чтобы иссле дователь мог спокойно использовать полученные для выборки результаты для характеристики всей генеральной совокупности. Если выборка смещена (это озна чает, что она нерепрезентативна), выводы, сделанные на основе такой выборки, могут быть неприменимыми ко всей генеральной совокупности. Смещение выбора происходит, если некоторые объекты имеют больше шансов быть включенными в выборку. Этот термин обычно относится к смещению, кото рое происходит в процессе составления выборки. Например, телефонные опросы с использованием номеров из опубликованных справочников по определению уда ляют из числа потенциальных респондентов людей с неопубликованными номе рами или тех, кто сменил телефонный номер после выхода справочника из печати. Звонки по случайным номерам решат эту проблему, но по-прежнему не позволят опросить людей, у которых дома нет телефона. Это затрудняет исследование, по скольку если исключенные из исследования люди систематически выделяются по исследуемым свойствам (а это очень распространенная ситуация), результаты исследования будут смещенными. Например, люди, которые живут в домах без телефона, обычно беднее тех, у кого телефон есть, а люди, у которых есть толь ко мобильный телефон, обычно моложе тех, у кого есть еще и домашний. Если уровень доходов или возраст связаны с изучаемой характеристикой, исключение таких людей из выборки приведет к смещению результатов исследования. Смещение из-за волонтеров отражает тот факт, что люди, добровольно вызываю щиеся участвовать в исследованиях, обычно не типичны для генеральной сово купности. По этой причине результаты, полученные на выборках, полностью со ставленных из добровольцев, такие как мнения зрителей, позвонивших в студию телевизионной передачи, не подходят для решения научных задач (если только генеральная совокупность не представлена людьми, желающими участвовать в подобных опросах). В этом примере могут проявиться множественные механиз мы неслучайного отбора. Например, чтобы участвовать в опросе, человек должен смотреть эту телевизионную программу. Это значит, что, скорее всего, этот человек находится дома; значит, результаты опросов, проводимых в течение рабочего дня, могут в основном иметь отношение к пенсионерам, домохозяйкам и безработным. 38 Глава 1. Основные понятия, связанные с измерениями Для участия в опросе человек должен иметь свободный доступ к телефону и обла дать определенными личностными характеристиками, которые приведут к тому, что он снимет телефонную трубку и наберет номер с экрана. Проблемы, связанные с телефонными вопросами, уже обсуждались, и вероятность того, что личностные характеристики связаны с изучаемыми параметрами, слишком велика, чтобы ее игнорировать. Смещение из-за отсутствия ответа - это обратная сторона смещения из-за волонтеров. Так же как люди, которые добровольно хотят принять участие в ис следовании, отличаются от остальных, люди, которые отказываются участвовать в исследовании, когда им предлагают это, скорее всего, отличаются от тех, кто в этом случае принимает приглашение. Вы, возможно, знакомы с людьми, которые отказываются участвовать в любых телефонных опросах (я сама такая). Представ ляют ли такие люди случайную выборку из генеральной совокупности? Вероятно, нет; например, объединенное исследование состояния здоровья в Канаде и США выявило не только различия в частоте ответов канадцев и американцев, но обна ружило смещение из-за отсутствия ответа почти для всех основных показателей состояния здоровья и доступности здравоохранения (результаты обобщены здесь: http://bit.ly/T fJ6um y Информационное цензурирование может приводить к смещению результатов любого повторного обследования (при котором состояние объектов отмечается на протяжении временного отрезка). Утрата объектов в ходе долгосрочного исследова ния - обычная вещь, но настоящие проблемы начинаются, когда объекты выпадают не случайно, а по причинам, связанным с предметом исследования. Предположим, мы проводим клиническое исследование двух способов лечения хронического за болевания. При этом пациенты случайным образом распределяются по группам, и статус их заболевания отслеживается в течение пяти лет. Благодаря случайно му созданию выборки наши группы полностью равнозначны. Однако со временем люди из группы с неэффективным способом лечения будут выходить из исследо вания, возможно, чтобы получить лечение в другом месте, что будет приводить к смещению результатов. Если на последнем этапе наша выборка будет состоять только из тех, кто участвовал в эксперименте до его окончания, и выбывшие из ис следования не будут представлять собой случайную выборку из его изначальных участников, анализируемая выборка уже не будет такой абсолютно случайной, как та, с которой мы начали. Напротив, если выбывание из эксперимента связано с неэффективностью лечения, набор испытуемых на последнем этапе будет смещен в сторону людей, положительно реагировавших на проводимое лечение. Информационное смещение Даже при создании и сохранении идеальной выборки смещение результатов мо жет произойти из-за методов сбора и записи данных. Этот тип смещения часто называется информационным, поскольку он влияет на валидность информации, па которой основано исследование, что, в свою очередь, может сделать недействи тельными результаты исследования. Смещение измерений 39 Когда данные собираются при личных или телефонных интервью, между ин тервьюером и респондентом возникает социальная связь. Характер этой связи мо жет по-разному влиять на качество собранных данных. Если смещение вносится в собранные данные из-за позиции или поведения интервьюера, это называется смещением результатов из-за интервьюера. Этот тип смещения может быть со здан непреднамеренно, если интервьюер знает цель исследования или статус рес пондента. Подобный тип смещения результатов может также иметь место, если интервьюер выражает свое собственное отношение или мнение, давая понять, что он отрицательно относится к исследуемому типу поведения, такому как беспо рядочные сексуальные связи или употребление наркотиков, что снижает вероят ность признания респондента в проявлении подобного поведения. Смещение воспоминаний вызвано тем, что люди, перенесшие тяжелое заболе вание или травму, с большей вероятностью запоминают события, которые они считают связанными с этим отрицательным жизненным опытом. Например, жен щины, у которых случался выкидыш, скорее всего, провели много времени, пере бирая воспоминания о воздействиях или событиях, которые, с их точки зрения, могли привести к выкидышу. Женщины, у которых роды протекали нормально, могли испытывать сходные воздействия, но они не придавали им такого значения и, следовательно, не вспомнили бы о них при опросе. Смещением выявления называют тог факт, что определенные характеристики могут быть с большей вероятностью обнаружены или озвучены у одних людей по сравнению с другими. Допустим, спортсмены в некоторых видах спорта под вергаются периодическому тестированию на употребление стимулирующих фи зическое развитие препаратов, и результаты этих тестов доносятся до сведения общественности. Например, пловцы мирового класса периодически проходят тест на употребление анаболических стероидов, и положительные результаты тестов официально регистрируются и также часто попадают в новостные сводки. Спорт смены, которые участвуют в соревнованиях более низкого уровня или в других видах спорта, могут использовать те же препараты, но поскольку они не проходят тестов с такой регулярностью или* из-за того, что результаты тестов не доносятся до сведения широкой общественности, случаи употребления препаратов не регист рируются. Было бы неправильно предполагать, например, что поскольку случаи употребления анаболических стероидов чаще регистрируются у пловцов, чем у бейсболистов, реальная частота употребления стероидов выше в плавании, чем в бейсболе. Наблюдаемые различия могут быть вызваны более активным тестиро ванием комитетом по плаванию и большей открытостью этих результатов. Смещение социальной желательности вызвано стремлением людей представить себя в выгодном свете. Это часто побуждает, людей давать такие ответы, которые, по их представлению, понравятся спрашивающему. Учтите, что этот тип смещения может наблюдаться даже в отсутствие корреспондента, например при заполнении бумажной анкеты. Этот тип смещения представляет особенно серьезную пробле му в исследованиях, связанных с поведением или позицией, которые осуждаются в обществе, например преступное поведение, или о которых неудобно говорить, 40 Глава 1. Основные понятия, связанные с измерениями например половая распущенность. Смещение социальной желательности также может влиять на ответы, если формулировка вопросов указывает на «правиль ный», то есть социально желательный ответ. Упражнения Здесь размещен обзор тем, затронутых в этой главе. Задача Каких возможных типов смещения результатов вам нужно остерегаться при следующих сценариях, и каково будет вероятное влияние на результаты? 1. По данным университета, средний годовой заработок выпускников со ставляет $120 000. Эти данные были получены в ходе опроса жертвовате лей в фонд выпускников. 2. Реализация программы, направленной на улучшение учебных достиже ний в средней школе, считается успешной, поскольку все 40 учеников, участвовавших в ней до конца в течение года (из 100, изначально задейст вованных в программе), продемонстрировали статистически значимое улучшение оценок и результатов стандартных тестов на успехи в учебе. 3. Руководитель заботится о здоровье своих подчиненных, поэтому во вре мя обеденного перерыва он организовал цикл лекций на такие темы, как здоровое питание, важность физических упражнений и разрушительное влияние на здоровье курения и алкоголя. Он провел анонимный опрос сотрудников (при помощи бумажной анкеты) до и после цикла лекций и обнаружил, что лекции были эффективными, и привели к увеличению частоты составляющих здорового образа жизни. Решение 1. Смещение выбора и смещение из-за отсутствия ответов, - оба влияют на характеристику анализируемой выборки. Заявленная величина среднего заработка, скорее всего, завышена, поскольку в фонд выпускников жерт вовали, вероятно, самые успешные из них, а люди, которые стеснялись своего низкого заработка, отвечали с меньшей вероятностью. Можно еще предположить смещение социальной желательности, которое также при ведет к завышению значений годового заработка, поскольку выпускники, вероятно, имели тенденцию заявлять о более высоком заработке, чем они в реальности получали, поскольку желательно иметь высокий уровень до ходов. 2. На свойства анализируемой выборки повлияет информационное цензури рование. Оценка эффективности программы для учеников средней шко лы, вероятно, завышена. Эта программа определенно была полезной для тех, кто закончил ее, но поскольку более половины участников выбыли по ходу, мы не можем сказать, будет ли она полезной для среднего ученика. Может оказаться так, что ученики, участвовавшие в программе до конца, Упражнения 41 были более умными или мотивированными, чем выбывшие, или же для выбывших программа не была полезна. Имеет место смещение результатов из-за социальной желательности. Это, вероятно, приведет к переоценке эффективности цикла лекций. Посколь ку начальник ясно заявил, что он заботится о здоровом образе жизни под чиненных, они, скорее всего, будут докладывать о более значительном оздоровлении образа жизни, чем есть на самом деле, чтобы угодить боссу. 3. Шкала Лайкерта Шкала Лайкерта - наверное, наиболее часто используемая в социологии шкала оце нок. Этот тип шкалы был впервые описан в 1932 году Ренсисом Лайкертом (Rensis Likert, 1903-1981), индустриальным психологом, занимавшим должность директора социологического института при Мичиганском университете с 1946 по 1970 г. Вопросы с использованием шкалы Лайкерта, как правило, представлены в виде утверждения, и испытуемым предлагается выбрать свое отношение к нему из упорядоченного нечетно го числа вариантов (наиболее часто пяти, но иногда семи или девяти). Ниже приведен пример. В США следует ввести национальную систему страхования здоровья. 1. 2. 3. 4. 5. Абсолютно согласен. Согласен. Нет определенного ответа. Не согласен. Абсолютно не согласен. Иногда предлагают четное число ответов, так что нейтральный вариант посередине от сутствует: это называется методом вынужденного выбора, поскольку респондента вы нуждают выбрать, согласен он с данным утверждением или нет. Обычно порядок ответов меняется один или более раз на протяжении всего опросника так, что иногда 1 значит «абсолютно согласен», а иногда «абсолютно не согласен», чтобы выявить тех, кто авто матически выбирает первый или последний ответ, не читая вопроса. Данные, собранные при помощи шкалы Лайкерта, являются порядковыми, поскольку хотя варианты ответа упорядочены, нет никакого основания полагать, что различия меж ду ними равны. Например, у нас нет способа узнать, равно ли различие между позиция ми «абсолютно согласен» и «согласен» различию между вариантами «согласен» и «нет определенного ответа». Дьюи побеждает Трумана Несколько раз выборы президента США сопровождались ошибочными прогнозами ре зультатов, основанными на смещенных выборках. Всегда забавно видеть, как ошибается уважаемое издание или организация, однако эти случаи предостерегают нас от исполь зования результатов, полученных на смещенной выборке, для характеристики генераль ной совокупности. В 1936 году журнал «Литературное обозрение» (Literary digest), в котором были угаданы результаты выборов президента США 1916, 1920, 1928 и 1932 годов, предсказал, что республиканец Элф Лэндон (Alt Landon) одержит полную победу над демократом Фран клином Рузвельтом (Franklin Roosevelt). Однако мы знаем, что Рузвельт выиграл выборы 1936 года с большим отрывом. Проблема журнального прогноза заключалась в том, что хотя она была основана на большой выборке (более 2,3 млн респондентов из 10 млн получивших приглашение принять участие в опросе), эта выборка была смещенной, по- 42 Глава 1. Основные понятия, связанные с измерениями скольку состояла из тех, кто имел автомобиль или телефон или был подписан на «Лите ратурное обозрение». В 1936 году доходы этих людей превышали средний уровень, и они с большей вероятностью были республиканцами. Поскольку для участия в опросе необходимо было отослать назад почтовую карточку, полученные результаты были сме щены из-за добровольного участия. В 1948 году каждый серьезный опрос предрекал победу республиканца Томаса Дьюи над демократом Гарри С. Труманом. Чикаго Трибюн (Chicago Tribune) даже вышла с за головком на первой странице «Дьюи побеждает Трумана». Хотя технологии опроса стали более совершенными, по сравнению с 1936 годом, несколько источников смещения ре зультатов опросов были по-прежнему не устранены, что привело к неточным прогнозам. Одна проблема состояла в том, что результаты телефонных опросов были использованы без статистической поправки на то, что телефон чаще имели богатеи, склонные поддер жать Дьюи. Другой фактор - множество не определившихся со своими предпочтения ми людей в дни перед выборами, и ни один из опросов не мог определить, за кого эти люди в конечном счете будут голосовать. Третья проблема заключалась в том, что Дьюи пользовался большей поддержкой в восточных штатах, по сравнению с западными. Из-за различий в часовых поясах результаты для восточных штатов стали известны рань ше, и в «Трибюн» решили напечатать прогноз результата, основанный на этих первых данных. Чего не учли в газете, так это поддержку Трумана западными штатами, включая Калифорнию, и это добавило достаточно голосов для победы на выборах. ГЛАВА 2. Теория вероятности Статистика основана на теории вероятности. Некоторые считают вероятность пу гающей темой, но мет никакой причины для того, чтобы, затратив достаточно вре мени, не разобраться в ней насколько нужно для успешного освоения статистики. Как и в случае многих других областей науки, «продвинутые» аспекты теории ве роятности могут быть очень сложными и трудными для понимания, но основные принципы вероятности интуитивно понятны и просты для освоения. Более того, многие люди уже знакомы с вероятностными утверждениями, начиная с прогно за погоды, который обещает дождь этим вечером с вероятностью 30%, заканчивая предупреждением на сигаретных пачках об увеличении вероятности развития рака легких при курении. Если, как у большинства взрослых людей, у вас есть один или несколько стра ховых полисов, вы уже вовлечены в инициативу, основанную на вероятностном мышлении. Если вы водите машину или обладаете ею, у вас, скорее всего, есть полис страхования автомобиля, который на самом деле следовало бы называть полисом страхования расходов на автомобиль, поскольку он защищает владельца полиса от чрезмерных расходов, которые потребовались бы при попадании в ава рию. Люди не покупают страховые полисы из-за того, что они собираются во чтонибудь врезаться; скорее, они признают, что вероятность такого происшествия в будущем не равна нулю. Правительство часто требует от автовладельцев иметь полисы из этих же со ображений; это требование - не признание вас плохим водителем, а констатация того факта, что аварии действительно происходят, и мало кто будет в состоянии из собственного кармана компенсировать убытки в случае серьезной аварии. В стра ховых компаниях работают статистики, которые высчитывают, сколько вы долж ны заплатить за полис, учитывая (в числе прочего) вероятность того, что вы попа дете в аварию или на вас подадут иск по любой другой причине, и убыток, который такой иск принесет компании. Для понимания основ теории вероятности, изложенных в этой главе, вам не потребуется больше математических знаний, чем обычно дают в средней школе, а понимание этих концепций послужит основой для освоения статистических ме тодов, изложенных в последующих главах. Знакомство с содержанием этой гла вы также даст вам возможность понять суть значительной части статистических Глава 2. Теория вероятности методов, с которыми вы имеете шансы когда-либо иметь дело, до тех пор, пока вы не начнете выполнять «продвинутые» операции или не решите применять ста тистику в вашей области исследований. Кроме того, вы научитесь понимать ве роятностные суждения, которые используются в повседневной речи, и оценивать правильность их использования. О формулах Люди, у которых были плохие оценки на уроках математики, часто не любят фор мулы, полагая, что это тайная система общения, созданная математиками в ка честве барьера, который позволяет удерживать непосвященных на расстоянии, оставляя себе все выгодные вакансии. Хотя я никогда не буду утверждать, что математика и статистика - это простые предметы, представление о формулах как о барьере для понимания ложно. На самом деле формулы - это сжатый и недву смысленный способ передачи важной информации, их можно воспринимать как набор инструкций, написанных на языке математики. Как говаривал один мой профессор вычислительной математики: «Посмотри на формулу, затем делай то, что тебе она скажет». Преимущество математических формул заключается в том, что они не зависят от языка, так что о математике могут разговаривать все люди, вне зависимости от их родного языка или национальности. Не имеет значения, в какой языковой среде вы выросли, английской, русской или фарси, если вы понимаете язык ма тематики, вы можете общаться со своими коллегами на математические темы в некоторой степени независимо от языковых барьеров. Рассмотрим пример формулы для вычисления среднего арифметического, называемой в обычном языке усреднением набора чисел, представленной на рис. 2.1. Рис. 2 .1 . Формула для вычисления среднего значения Это может выглядеть для вас как греческий (на самом деле это частично так и есть!), но на самом деле это просто набор указаний по выполнению определенных вычислений. Давайте рассмотрим ее по частям: • х - это параметр, для значений которого мы рассчитываем среднее; • символ х (читается как «х с чертой») обозначает среднее значение х, кото рое мы и вычисляем; • символ х. (читается как «х i-е») обозначает отдельное значение х; • п обозначает число значений х, используемых для вычисления среднего; • символ суммы Z обозначает сложение ряда значений, в данном случае всех значений х. Обозначения сверху и снизу символа суммы означают сложе ние всех значений х }от первого (л,) до последнего (хп). Основные определения 45 Эта формула «велит» вам вычислить среднее арифметическое, сложив все зна чения переменной х, затем разделив их на число наблюдений, которые вы только что просуммировали. Учтите, что умножение на 1/ п - это то же самое, что деление на п. Представим, что мы хотим вычислить среднее для трех чисел: 1, 3 и 5. Следуя принятым обозначениям, мы назовем iix x v х 2 и х г В этом примере п = 3, посколь ку у пас есть три числа, так что, согласно формуле, мы складываем все числа от х, до x.j и умножаем на 1/3, как показано на рис. 2.2. Рис. 2.2. Вычисление среднего значения для трех чисел Продолжая изучение статистики, вы познакомитесь с более сложными форму лами, однако алгоритм их использования останется прежним: 1. Поймите, что значит каждый символ и какие математические операции требуются. 2. Выявите значения, которые заменят каждый символ. 3. Подставьте значения в формулу, выполните указанные операции - и вы по лучите нужный результат. Основные определения Здесь приведены некоторые ключевые определения, которые нужно знать при об суждении теории вероятности. Испытания Вероятность связана с результатом испытаний, которые также называются экспе риментами или наблюдениями. Какой бы термин не был использован, главное это то, что речь идет про события, исход которых неизвестен. Если бы результат испытаний был бы в итоге известен, не было бы нужды обсуждать вероятность. Испытание может быть простым, таким как подбрасывание монетки или вытяги вание карты из колоды, или таким сложным, как наблюдение за тем, останется ли человек с раком легких в живых через пять лет после постановки диагноза. Мы будем называть испытанием единичное наблюдение, такое как одно подбрасыва ние монетки, а экспериментом - множественные испытания, такие как результат подбрасывания одной монетки пять раз. Выборочное пространство Выборочное пространство, обозначаемое как 5, - это набор всех возможных эле ментарных исходов испытания. Если испытание - это однократное подбрасыва ние монетки, то выборочное пространство - это S = {орлы, решки} (часто сокра щенно записывается как S = {о,р}), поскольку эти две альтернативы представляют 46 Глава 2. Теория вероятности все возможные исходы данного испытания. Бросок может завершиться либо вы падением орла (о), либо выпадением решки (р ). Если эксперимент заключался бы в бросании одной игральной кости с шестью гранями, выборочное пространство было бы S = {1, 2, 3, 4, 5, 6}, что соответствует шести граням кости, которые могут выпасть при одном броске. Эти элементарные исходы также называют элемен тами выборки. Если эксперимент состоит из множества испытаний, то все воз можные комбинации исходов этих испытаний входят в выборочное пространство. Например, если испытание состоит в двукратном подбрасывании монетки, то вы борочное пространство таково: S = {(о, о), (о, р), (р, о), (р, р)}, поскольку исходы могут быть следующими: орлы при обоих бросках, орел в первом броске и решка во втором, сначала решка, потом орел или решки при обоих бросках. События Событие, обычно обозначаемое как Е или любой заглавной буквой, отличной от 5, - это частный случай исхода испытания, оно может состоять из единствен ного исхода или набора исходов. Если такой исход или набор исходов имеет мес то, мы говорим, что «исход удовлетворяет событию» или «событие произошло». Например, событие «выпадение орла при одном подбрасывании монетки» может быть записано как Е = {орел}, а событие «выпадение нечетного числа при брос ке одной игральной кости» можно записать как Е = {1, 3, 5}. Элементарное собы тие - это исход одного эксперимента или наблюдения, такого как однократное подбрасывание монетки. Элементарные события могут объединяться в сложные, как в приведенных ниже примерах объединения и пересечения. События можно описывать, перечисляя исходы или определяя их логически. Например, если ис пытание - это бросок двух игральных костей и нас интересует, как часто сумма выпадающих чисел бывает меньше шести, мы можем обозначить это как Е = {2, 3, 4, 5} или Е = {сумма меньше шести}. Обычный способ изображения вероятности событий и комбинаций событий это диаграммы Вениа, в которых прямоугольник соответствует выборочному про странству, а круги изображают определенные события. Диаграммы Вснна исполь зуются на рис. 2.3-2.6. Диаграммы Венна Любой, кто вырос при новой концепции преподавания математики, возможно, помнит диаграммы Венна из учебника математики в начальной школе. Хотя желание познако мить учеников начальной школы с теорией множеств может вызывать споры, в этом точно нет вины английского математика Джона Венна (John Venn, 1834-1923) или его диаграмм. Диаграммы Венна широко используются в математике и смежных областях для изображения логических отношений между группами объектов, также они были адаптированы для использования в других дисциплинах, таких как литература. Венн про вел большую часть своей сознательной жизни, преподавая в Гонвилл-энд-Киз колледже (Gonville and Caius College) Кембриджского университета, где основной областью его интересов была логика, и он опубликовал три учебника, включая «Символическую логи ку» (1881), в которой диаграммы Венна были введены в обиход. Современные студенты колледжа имеют перед глазами ежедневное напоминание о достижениях Венна: память Основные определения 47 о нем была увековечена посредством окна из цветного стекла в столовой, на котором изображена диаграмма Веннастремя пересекающимися множествами, обозначенными тремя кругами разного цвета. Объединение В результате объединения нескольких элементарных событий создается сложное событие, которое происходит, если случается хотя бы одно входящее в его состав элементарное событие. Объединение Е и F записывается как Е U F и означает «Е и/или F». Обратите внимание, что символ объединения U похож на заглавную букву U 1. Объединение Е и F соответствует заштрихованной области на диаграмме Венна в рис. 2.3. Обратите внимание на то, что на этом рисунке изображены два круга, которые частично перекрываются; это значит, что любая точка заштрихо ванной области (любая точка, принадлежащая Е и/или F) удовлетворяет условию Е U F. Рассматривая это на примере, предположим, что событие - это бросок иг ральной кости с шестью гранями и что Е= {1, 3}, F= {1, 2}. Событие Е U Fnponcxoдит при выпадении 1, 2 или 3; также можно сказать, что Е U F= {1, 2, 3}. Пересечение Пересечение двух или более элементарных событий - это сложное событие, кото рое происходит, если имеют место все элементарные события. Пересечение Е и F записывается как E O F и обозначает «и Е, и F». Пересечение Е и F соответствует заштрихованной области на диаграмме Венна на рис. 2.4; обратите внимание, что только точки, принадлежащие и F, и F, удовлетворяют этому условию. Продолжая наш пример, если событие заключается в бросании игральной кости с шестью гра нями и Е = {1, 3}, F= {1, 2}, то событие Е П F происходит, только если выпадает 1, поскольку это значение входит в оба набора элементарных событий, так что Е П F={ 1}. 1 От англ, union - объединение. - Прим. пер. 48 Глава 2. Теория вероятности Дополнение Дополнение события - это любое событие из выборочного пространства, кроме за данного. Дополнение события Е записывают по-разному: как ~£, £( или Ё и читают как «не Е» или «дополнение Е». Например, если Е = (числа > 0), то ~Е = (числа < 0). Продолжая наш пример, если событие заключается в бросании игральной кости с шестью гранями и Е= {1,3}, то ~Е= {2,4,5,6}. Дополнение Есоответствует заштри хованной области на диаграмме Венна на рис. 2.5. Взаимное исключение Если события не могут происходить одновременно, они называются взаимно ис ключающими. Иначе говоря, если у двух наборов элементарных событий нет об Основные определения 49 щих событий, то они взаимно исключающие. Например, событие А = (заработок больше $100 000) и событие В = (заработок меньше или равен $100 000) - взаим но исключающие, так же как и события А = (четные числа) и В = (нечетные числа). Взаимно исключающие события Е и F изображены на диаграмме Венна на рис. 2.6; обратите внимание на то, что у них нет общих точек. Рис. 2.6. Ей F - взаимно исключающие; у них нет общих точек Независимость Если два испытания независимы, то исход одного из них не влияет на исход дру гого. Иначе говоря, если испытания независимы, то информация об исходе одного из них не дает никакой информации об исходе другого. Классический пример не зависимости - это подбрасывание обычной монетки; если вы подбросили монет ку дважды, результат первого испытания никак не влияет на результат второго испытания. Перестановки В теории вероятности перестановки - это все возможные способы упорядочива ния элементов в наборе. Например, если набор состоит из элементов (а, Ь, с), тогда перестановки этого набора следующие: (а, b, с), (я, с, b), (Ь, я, с), (b, с, я), (с, я, Ь) и (с, Ь, я). Учтите, что в перестановках важен порядок элементов: (я, Ь, с) - это не та же перестановка, что (я, с, Ь). Можно рассчитать число перестановок любого набо ра уникальных элементов (это значит, что ни один элемент в наборе не повторя ется), используя факториалы, которые обозначаются числом с восклицательным знаком. Во многих калькуляторах есть кнопках/для вычисления факториалов, но также их можно вычислить, перемножив все целые числа, равные или меньшие заданного, вплоть до 1. Вот пример: 3! = 3 х 2 х 1 = 6. 3! читается как «три факториал». Для набора из трех неповторяющихся элемен тов существует 3! или шесть перестановок, что согласуется с результатом, который мы получили выше, выписав все возможные перестановки трех букв. Это логично, 50 Глава 2. Теория вероятности поскольку, если у вас есть три элемента, на первую позицию есть три кандидата (а, Ь,с в нашем примере), на вторую позицию - два (за исключением того элемента, который был выбран для первой позиции), на третью позицию - один (оставший ся после выбора двух предыдущих). Так что у вас есть 3 * 2 х 1 = 6 разных способов упорядочить эти элементы. Число перестановок растет очень быстро. Например, 5! = 120, а 10! = 3 628 800. 20! имеет настолько большое значение, что не может быть отображено боль шинством калькуляторов, если не записать его в экспоненциальном виде: 20! = 2.432902008Е18. Экспоненциальная запись Экспоненциальная запись используется для обозначения очень больших или очень ма леньких значений. Использование экспоненциальной записи позволяет не только сэко номить место (поскольку вам не нужно выписывать множество нулей), но и повышает точность передачи информации, поскольку число со многими нулями легко прочесть не правильно. В основе экспоненциальной записи лежит идея о том, что каждое число можно записать при помощи цифры, большей или равной единице и меньшей 10 (называемой к о э ф ф и ц и е н то м ), умноженной на степень 10 (называемой о сн о в а н и е м ). Так что число 1234 можно записать в виде 1.234E3 (Е обозначает экспоненту2), что значит 1.234х 103, то есть 1.234 х 1000. Аналогично 1.234Е-4 обозначает 1.234 х 1 0 4 или 1.234x0.0001, равное 0.0001234. Другой способ трактовки значения Е - это на сколько знаков нужно переместить десятичную точку влево или вправо. Так что 1.234E3 указывает на необхо димость передвинуть ее на три знака вправо, что даст нам 1234, тогда как при 1.234Е-4 нужно передвинуть ее на четыре знака влево, чтобы получить 0.0001234. Сочетания Сочетания схожи с перестановками, за одним исключением - в сочетаниях не име ет значения порядок элементов. Так что (а, Ь, с) - это то же сочетание, что и (Ь, а, с). По этой причине для набора элементов (а, b, с) существует только одно сочета ние. Один из способов использования сочетаний и перестановок в статистике - это расчет числа способов разделения множества элементов на подмножества задан ного размера, что позволяет рассчитать вероятность получения любого заданного подмножества из множества. В общем случае исходное множество не содержит повторяющихся элементов, и мы будем использовать это допущение в дальнейшем обсуждении. Есть несколько способов обозначения сочетаний и перестановок; они приведены в приложении А вместе с несколькими задачами. В этом разделе мы бу дем придерживаться простой системы обозначений, используя Рдля обозначения перестановок*, а С - для обозначения сочетаний1. Согласно этим обозначениям, число возможных перестановок двух элементов из трех записывается как ЗР2, а число сочетаний двух элементов из трех - как ЗС2. Продолжая ранее описанный 2 От англ, exponent - экспонента. - Прим. пер. * От англ, permutation - перестановка. - Прим. пер. 1 От англ, combination - сочетание. - Прим. пер. 51 Основные определения пример, для набора элементов (а, А, с) ЗР2 = 6, поскольку есть 6 возможных пере становок двух элементов из этого набора: (а, А), (а, с), (А, с), (А, я), (с, я) и (с, А). Для этого набора существуют три сочетания двух элементов: ЗС2 = 3: (я, А), (я, с) и (А, с). Число перестановок для подмножества величины k, происходящего из множест ва величины п, вычисляется по формуле, приведенной на рис. 2.7. пРк = п\ (п-к)\ Рис. 2.7. Формула для расчета числа перестановок Используя эту формулу, можно рассчитать число перестановок двух элементов, выбираемых из 8 элементов (рис. 2.8). SP2 = 8! 8! ( 8 - 2)! 6! Рис. 2.8. Расчет числа перестановок 8Р2 Если вам приходится проводить вычисления вручную, нужно помнить о пра виле сокращения дробей: если выразить числитель и знаменатель в виде произ ведения, можно сократить те множители, которые входят в состав и числителя, и знаменателя. Например: 12/6 = (2 х 2 х 3)/(2 х 3) = 2, поскольку вы можете сократить и числитель, и знаменатель на (2 х 3). В случае перестановки 8Р2 не нужно вычислять факториалы перед делением, поскольку вы можете сократить много множителей. В этом примере: 81 = 8 x 7 x 6 x 5 x 4 x 3 x 2 x 1 и 61 = 6 x 5 x 4 x 3 x 2 x 1 , так что вы можете многое сократить, оставшись с таким выражением: 8Р2 = 8 х 7 = 56. Если п = А, то число сочетаний будет всегда меньше числа перестановок, по скольку разный порядок одних и тех же элементов приводит к разным переста новкам, но не сочетаниям. Это становится ясным при рассмотрении формулы сочетания, которая представляет собой деление формулы для перестановок на факториал числа выбранных объектов (рис. 2.9). „ п\ пРк п С к -----------------------к\{п - к ) \ к\ Рис. 2.9. Формула для расчета числа сочетаний 52 Глава 2. Теория вероятности Используя эту формулу, вы можете вычислить число сочетаний двух объектов, выбранных из 8 объектов, как показано на рис. 2.10. 8С2 = 8! SP2 2!(8 — 2)! 2! 56 . 2 = 28 Рис. 2.10. Расчет числа сочетаний 8С2 Определение вероятности Существует несколько способов охарактеризовать вероятность, но определение, используемое в статистике, гласит, что вероятность показывает, как часто проис ходит некоторое событие при повторении эксперимента. Например, вероятность выпадения орла при броске монетки может быть оценен# при наблюдении, сколь ко раз выпадет орел в серии бросков. Наверное, если нужно выбрать единственное самое важное свойство вероятности, то оно таково: вероятность события всегда находится между 0 и 1 . Если вероятность события равна 0, это значит, что у него нет шансов случиться, тогда как вероятность события, равная 1, означает, что оно обязательно произой дет. В математике принято выражать событие в долях единицы, поэтому мы го ворим, что вероятность события находится между 0 и 1, однако так же правильно (и более обычно в повседневной речи) рассуждать в терминах процентов, так что верно будет и то, что вероятность события находится между 0% и 100%. Для пе рехода от долей единицы к процентам нужно умножить первые на 100 (процент означает «на сотню»), так что 0,4 - это 40% (0,4 * 100 = 40), а вероятность 0,85 можно выразить как 85%. Отрицательная вероятность и вероятность, превосходящая 100%, логически невозможны и существуют только как фигуры речи. Тот факт, что вероятность заключена между 0 и 1, имеет математическое обоснование, которое рассматрива ется дальше при обсуждении логистической регрессии в главе 11. Этот факт также служит полезной проверкой ваших вычислений. Если вы получили вероятность меньше 0 или больше 1, вы определенно где-то ошиблись. Более того, если кто-то говорит вам, что вы с вероятностью 200% выиграете на бирже, если будете дейст вовать по его системе, вам, возможно, следует поискать нового консультанта по инвестициям. Еще один полезный факт о вероятности таков: вероятность выборочного пространства всегда равна 1. Поскольку выборочное пространство - это все возможные исходы испытания, общая вероятность для выборочного пространства должна составлять 1. Это по лезный факт, поскольку, хотя мы можем знать вероятность некоторых событий из выборочного пространства, там могут быть другие, информация о которых у нас отсутствует. Однако, поскольку мы знаем, что вероятность всего выборочного пространства равна 1, мы можем вычислить вероятность тех событий, о которых Определение вероятности 53 у нас нет информации, основываясь на той вероятности, которая остается после вычитания вероятностей всех известных событий. Третий полезный факт, который следует из первых двух, таков: вероятность события и его дополнения всегда равна 1. Этот факт вытекает из определения дополнения: все выборочное пространство, кроме события Е, - это дополнение Е. Таким образом, Е и ~£ вместе должны со ставлять все выборочное пространство, и общая вероятность Е и ~Е должна быть равной 1. Это должно быть ясным из рис. 2.5: прямоугольник изображает выбо рочное пространство, круг - событие £, а заштрихованная область внутри прямо угольника, но вне круга - событие ~£. Вместе Е и ~Е составляют полное выбороч ное пространство, и их объединение (Е U F) имеет вероятность 1. Запись вероятности события Обычно значения вероятности записывают следующим образом: Р(Е) = 0,5. Это должно читаться как «вероятность события Е равна 0,5» или «существует 50%-ная вероятность события Е» (или просто «вероятность Е равна 0,5» или «су ществует 50%-ная вероятность Е»). Используя этот формат, можно записать пер вый факт о вероятности (о том, что вероятность всегда находится между 0 и 1) как 0<Р(Е)< 1. Второй факт о вероятности, который следует из определения выборочного про странства S как все возможные исходы испытания, можно записать в виде: P(S) = 1. Третий факт о вероятности (вероятность события и его дополнения всегда рав на 1) можно записать так: Р(Е) + Р(~Е)= 1, что имеет для нас важное следствие: Р(~Е) = 1 - Р(Е). Это окажется очень полезным при последующих вычислениях. Если мы зна ем вероятность £, то мы автоматически знаем вероятность ~Е} которая составляет 1 - Р(Е). Так что если Р(Е) = 0,4, то Р(~Е) = 1 - 0,4 = 0,6. Условные вероятности Часто мы хотим знать вероятность некоторого события, при условии что про изошло другое событие. Это записывается как Р(Е \ F) и читается как «вероятность Е при условии F». Второе событие называется условием, а весь процесс иногда называется выполнением при условии F. Условная вероятность - важное понятие в статистике, поскольку мы часто пытаемся установить фактор, который влияет на результат, например у курильщиков чаще развивается рак легких. Влияние како 54 Глава 2. Теория вероятности го-либо фактора на исход события можно иначе выразить как то, что вероятность данного исхода различается в зависимости от наличия или отсутствия данного фактора. Тот факт, что вероятность рака легких (исход) выше у курильщиков (фактор), чем у тех, кто не курит, можно выразить при помощи символов следую щим образом: Р(рак легких | курильщик) > Р(рак легких | некурящий). Условные вероятности также могут быть использованы для обозначения неза висимости. Говорят, что две переменные независимы, если выполняется следую щее равенство: P(E\F) = P(E). Это выражение указывает на то, что вероятность Е неизменна, вне зависимости от наличия переменной F. Продолжая использованный ранее пример, выражение, которое показывает отсутствие связи между раком легких и курением, записыва ется как Р(рак легких | курильщик) = Р(рак легких). Вычисление вероятности сложных событий Для вычисления вероятности любого из нескольких происходящих событий (объ единения нескольких событий) просуммируйте вероятности отдельных событий. Вид используемого уравнения будет зависеть от того, являются ли эти события взаимно исключающими (это значит, что они не могут произойти одновремен но). Объединение взаимно исключающих событий Если события взаимно исключающие, как показано на рис. 2.6, то уравнение прос тое: Р(Е U F) = Р(Е) + P(F). В качестве практического примера представим колледж, в котором не может быть двух профильных предметов. Примем вероятность события Е (профильный предмет - английский язык) равной 0,2 и вероятность события F (профильный предмет - французский язык) равной 0,1. Эти события взаимно исключающие, поскольку ученики могут выбрать только один профильный предмет, так что ве роятность события (профильный предмет - либо английский, либо французский язык) можно вычислить как P ( £ U f ) = 0,2 + 0,l =0,3. 55 Вычисление вероятности сложных событий Объединение не взаимно исключающих событий Часто события не взаимно исключающие. Например, в колледже, где можно вы брать два профильных предмета, события «профильный предмет - английский язык» и «профильный предмет - французский язык» не взаимно исключающие, поскольку, вероятно, один человек может выбрать в качестве профильных предме тов и английский, и французский языки. В этой ситуации в уравнение для вычис ления ^(профильный предмет - либо английский, либо французский язык) нуж но ввести поправку на это перекрывание. Согласно рис. 2.4, перекрывание - это область, принадлежащая и кругу £, и кругу F (их пересечение, отмеченное штри ховкой). Если вы не учтете, что в колледже, где ученики могут выбрать более одно го профильного предмета, могут найтись люди, специализирующиеся и в области английского, и в области французского языков, вы рискуете посчитать некоторых учеников дважды. (Те, кто специализируется и в области английского, и в области французского языков, будут посчитаны и как те, кто углубленно изучает англий ский, и те, кто углубленно изучает французский.) Для того чтобы учесть возможное перекрывание при подсчете вероятности од ного из двух не взаимно исключающих событий, используйте следующее уравне ние: Р(Е U F) = Р(Е) + P(F) - Р(Е П F). П ред п олож и м ,что Р (п р о ф и л ь н ы й предм ет - а н г л и й с к и й я з ык ) = 0,2, Р(профильный предмет - французский язык) = 0,1 и Р(двойная специализация на английском и французском) = 0,05. Тогда вероятность специализации студента на изучении или английского языка, или французского составляет Р(Е U F) = 0,2 + 0,1 - 0,05 = 0,25. Пересечение независимых событий Чтобы вычислить вероятность одновременного наступления нескольких элемен тарных событий (пересечение нескольких событий), перемножьте их вероятнос ти. Конкретный вид формулы зависит от того, независимы ли эти события. Если два события Е и F независимы, то вероятность их совместного наступле ния вычисляется просто как Р(Е П F) = Р(Е) х Р (Р ). Предположим, что вы подбрасываете правильную монету (вероятность выпаде ния орла равна 0,5, вероятность выпадения решки равна 0,5, результаты каждого броска независимы). Мы уже указали, что вероятность выпадения орла при любом броске равна 0,5 и что два испытания независимы, так что вероятность выпадения орлов при обоих бросках можно вычислить как Р(Е и F) = 0,5 х 0,5 = 0,25. 56 Глава 2. Теория вероятности Пересечение не независимых событий Если два события не независимы, то для вычисления вероятности их совместного наступления вам нужно знать их условную вероятность. Формула для расчетов такова: P ( E n F ) = P( E)*P(F\ E). Предположим, вы вытаскиваете две карты из обычной колоды в 52 карты, не возвращая карту в колоду. Половина карт из этой колоды красной масти, а полови на - черной. Эти события (выбор первой и второй карт) не независимы, поскольку вероятность свойств второй карты зависит от свойств первой. Если вас интересует вероятность вытащить две карты черной масти, можно рассчитать ее следующим образом: Р(Е) = Р{первая карта черной масти) = 26/52 = 0,5; P(F | Е) = Р{вторая карта черной масти|первая карта черной масти) = = 25/51 =0,49. Обратите внимание на то, что поскольку вы не возвращаете карту в колоду, вто рую карту вы тянете из колоды в 51 карту, и к этому моменту остается только 25 карт, поскольку вы уже вытащили одну карту черной масти. Используя эти знания, вы можете рассчитать вероятность вытащить две карты черной масти как (пересечение Е и F): P ( E n F ) = 0,50 x 0,49 = 0,245. Теорема Байеса Теорема Байеса, также известная как формула Байеса, - это один из наиболее рас пространенных способов применения условных вероятностей. Самый типичный случай применения теоремы Байеса - это расчет вероятности того, что человек с положительным результатом скринингового теста на определенное заболевание действительно им болен. В теореме Байеса также используется несколько введен ных ранее базовых понятий теории вероятности, так что внимательное изучение формулы Байеса, помимо всего прочего, - хороший способ повторить содержание всей главы. Теорема Байеса для любых двух событий А и В сформулирована на рис. 2.11. Р( А\ В) = Р(А П В) _______ Р(В I А)Р(А)_______ Р(В) Р(В I А)Р(А) + Р(В 1~ А)Р(~ А) Рис. 2 .1 1 . Теорема Байеса Эту формулу следует использовать, если вы знаете Р(А), Р(В) и Р(В | Л), а хоти те знать Р(А | В). Числитель теоремы Байеса учитывает тот факт, что вероятность пересечения двух событий - это вероятность первого события, умноженная на ве роятность второго события при условии первого. Например, вероятность В при 57 Теорема Байеса условии А умножается на вероятность А , что дает вероятность пересечения А и В, то есть ситуации, когда А и В происходят одновременно. В числителе использован тот же самый факт вместе со знанием о том, что со бытие и его дополнение составляют все выборочное пространство и имеют об щую вероятность 1, так что сумма произведения вероятности В при условии А на вероятность А и произведения вероятности В при условии ~А на вероятность -А даст нам вероятность В. Представьте себе, что существует скрининговый тест, который выявляет забо левших с 95%-ной вероятностью и дает отрицательный результат для здоровых с вероятностью 99%. Клиницисты сказали бы, что этот тест характеризуется 95%-ной чувствительностью и 99%-ной специфичностью. Предположим, что частота забо левания в генеральной совокупности составляет 1%. Если мы обозначим заболева ние как D5, отсутствие заболевания как ~Д положительный результат теста как Т, а отрицательный результат теста как ~Г, вышеупомянутые вероятности можно записать следующим образом: Чувствительность = P( T\ D) = 0,95; Специфичность = Р(~Т\ -D) = 0,99; Вероятность заболевания в генеральной совокупности = Р(Р) = 0,01. Приведенные значения чувствительности и специфичности очень высоки. Многие часто используемые тесты и процедуры менее точны. Однако все тесты несовершенны, и возможно, что человек с положительными результатами теста на самом деле здоров (ложноположительный результат), а человек с отрицатель ными результатами теста на самом деле болен (ложноотрицательный результат). Обычно что вы действительно хотите узнать, так это то, какова вероятность того, что человек с положительным результатом теста действительно болен? Исполь зуя принятую форму записи условной вероятности, вы хотите узнать P(D \ Т). Вы можете вычислить эту вероятность, используя теорему Байеса, учитывая данные о чувствительности и специфичности теста и о частоте встречаемости данного за болевания в генеральной совокупности, как это показано на рис. 2.12. Р (Р 1 Г ) = Р (Р П Г ) Р{Т) _______ Р( Т\ Р) Р( Р)_______ Р(Т I Р)Р(Р) + Р(Т I- Р)Р(~ Р) Рис. 2.12. Теорема Байеса, записанная с использованием наших обозначений для заболевания и результатов теста Из этой формулы ясно видно, что вероятность иметь заболевание при положи тельном результате теста - это просто вероятность и заболевания, и положитель ного результата теста, деленная на вероятность положительного результата теста (вне зависимости от наличия заболевания). Используя тот факт, что событие и его дополнение составляют все выборочное пространство и имеют общую вероятность, равную 1, вы знаете, что частота лож ноположительных результатов - это 1 - специфичность: От англ, desease - заболевание. - Прим. пер. 58 Глава 2. Теория вероятности Р(Т\ ~D) = 1 - 0,99 = 0,01. По этой же причине вы знаете, что вероятность отсутствия данного заболева ния в генеральной совокупности составляет 1 - вероятность наличия заболева ния: P(~D) = 1 - P(D) = 1 - 0,01 = 0,99. Используя эти факты и ранее предоставленную информацию, мы можем вы числить P(D | Т), как показано на рис. 2.13. P( D\ T ) (0.95X0.01) [(0.95X0.01)] + (0.01)(0.99)] 0.0095 = 0.4897 0.0095 + .00099 Рис. 2.13. Использование теоремы Байеса для вычисления вероятности наличия заболевания при положительном результате теста Этот пример демонстрирует важный и не получивший должного внимания (по крайней мере, у общественности) факт о скрининговых тестах. Даже высокоспецнфнчный и чувствительный скрининговый тест на редкое заболевание будет иметь высокую частоту ложноположительных результатов, по сравнению с час тотой истинно положительных результатов. В приведенном примере ожидается, что около половины людей с положительным результатом теста на самом деле будут здоровы. Это не обязательно является поводом отказываться от теста, в особенности если заболевание имеет серьезные последствия, и существует более точный последующий тест для разделения истинных и ложных положительных результатов. Однако любое предложение организовать всеобщее обследование (будь то тест на определенное заболевание или проверка багажа в аэропорту) обязательно должно учитывать частоту ложноположительных результатов и их последствия. Нужно отметить, что частота ложноположительных результатов зависит как от частоты заболевания в генеральной совокупности, так и от чувствительности и специфичности скринингового теста. Если частота заболевания составляет 0,005, а не 0,01, меньше положительных результатов будут истинными, а больше - лож ными, как это видно на примере вычислений, приведенных на рис. 2.14. P ( D\ T ) _______ (0.95X0.005) [(0.95)(0.005)] + (0.01X0.995)] 0.00475 0.00475 + .00995 0.3231 Рис. 2.14. Еще один пример использования теоремы Байеса для вычисления вероятности наличия заболевания при положительном результате теста; обратите внимание на снижение частоты истинно положительных результатов из-за более низкой встречаемости заболевания в генеральной совокупности В этом примере менее одной трети положительных результатов истинные. Достаточно разговоров, давайте займемся статистикой! 59 Преподобный Томас Байес Теорема Байеса была сформулирована английским министром, преподобным Томасом Байесом (Thomas Bayes, 1702-1761). Байес изучал логику и теологию в Эдинбургском университете и зарабатывал на жизнь, занимая должность министра. Однако его ны нешняя слава основана на теории вероятности, которая была разработана им в эссе, опубликованном посмертно Лондонским королевским обществом. В наши дни сущес твует отдельная область науки, называемая байесовской статистикой. Она основана на понимании вероятности как степени уверенности, а не частоты встречаемости. Хотя не ясно, согласился бы сам Байес с таким определением, поскольку за свою жизнь он опуб ликовал сравнительно мало математических работ. Достаточно разговоров, давайте займемся статистикой! Статистика - это что-то, что вы делаете, а не то, про что вы читаете, так что реаль ная цель приведенного выше теоретического введения состояла в том, чтобы снаб дить вас знаниями, необходимыми для вычисления вероятности событий и ста тистических обоснований. В этой главе также были введены такие понятия, как независимость, или взаимное исключение, которые понадобятся вам при исполь зовании более сложных статистических методов. Цель приведенных ниже задач - помочь вам приобрести некоторый навык ра боты с базовыми понятиями теории вероятности. Если для понимания темы вы предпочитаете выполнить множество задач, то существует много прекрасных учебников с упором на теорию вероятности; ссылки на некоторые из них приве дены в приложении С. Если вы впервые беретесь за задачи по теории вероятности, вам может помочь следующий план работы: 1. Определите, что является испытанием и/или экспериментом. 2. Определите выборочное пространство. 3. Определите событие. 4. Выразите необходимые вероятности и проведите вычисления. В какой-то момент вы можете почувствовать, что необходимость проходить каждый из этих этапов отпала, но этот план может пригодиться в начале работы. В некоторых случаях предлагается альтернативный способ решения, основанный на другом подходе к задаче. Монеты, игральные кости и карты Поскольку во многих примерах, приведенных в этой книге, используются монеты, игральные кости и карты, этот раздел начинается с их описания. Игральные кости Стандартная игральная кость, используемая на Западе, - это куб с шестью гра нями, на которые нанесено разное число точек (от 1 до 6). Допущение, лежащее 60 Глава 2. Теория вероятности в основе статистических вычислений, заключается в том, что вероятности выпа дения кости каждой из граней кверху равны, так что каждый бросок кости имеет шесть равновероятных исходов: 1, 2, 3, 4, 5, 6. Используя специальную термино логию, набор исходов при броске одной кости имеет дискретное равномерное рас пределение, поскольку возможные исходы мозрно пронумеровать, и каждый из них имеет одинаковую вероятность. Результаты, полученные при одновременном броске двух или более костей (или многократного подбрасывания одной и той же кости), не зависят друг от друга, так что вероятности каждой комбинации чисел вычисляются путем перемножения вероятностей каждого результата. Для полной определенности нужно отметить, что «равная вероятность выпа дения каждой грани» выполняется только для костей, используемых в казино, на которых точки (кружочки, используемые для обозначения числа на каждой гра ни) нанесены краской. Вам могут быть больше знакомы кости, на которых точки сделаны в виде углублений, а не нанесены краской, что приводит к неравномерно му распределению массы и, следовательно, разной вероятности выпадения разных граней. Однако при теоретических разговорах о вероятности этой разницей обыч но пренебрегают и считают, что выпадение любой грани равновероятно. Монеты Стандартная монета, используемая в вероятностных экспериментах, имеет две стороны, орел и решка. Часто имеют в виду правильную монету, что значит рав ную вероятность выпадения орла и решки при каждом броске. Для любой монеты, правильной или нет, вероятность выпадения орлов и решек считается постоян ной, так что результаты предыдущих бросков не влияют на результаты последую щих. Как и в случае игральной кости, вероятность выпадения орлов и решек на реальной монете редко в точности составляет 50:50 по ряду физических причин, включающих дизайн монеты, ее изношенность и стиль бросков, но при выполне нии вероятностных задач эти тонкости следует игнорировать, если только они не прописаны в условии. Иногда в интересах безопасности эксперименты проводят, закручивая монетку, а не подбрасывая ее (в результате меньше разящих объек тов летает в переполненном классе). Хотя ожидаемое соотношение 50:50 в этом случае еще менее правдоподобно, при выполнении вычислений (а не реальном закручивании монетки и записи результатов) предположите, что это соотноше ние работает. Более подробную информацию по этой теме можно получить здесь: http://\\4v\Y'scienccnews.org/articles/20040228/fob2.asp. Игральные карты Стандартная колода в наши дни состоит из 52 игральных карт четырех мастей: пики, крести, черви и бубны. Пики и крести - это черные масти, а черви и буб ны - красные. Есть 13 карт каждой масти: туз, нумерованные карты от 2 до 10 и три фигуры - валет, дама и король. В экспериментах с вытаскиванием карт из ко лоды предполагается, что они хорошо перемешаны, то есть вероятность вытащить любую карту одинакова. Упражнения 6i Упражнения Задача Если я вытащу одну карту из стандартной колоды в 52 карты, какова вероят ность того, что она будет красной масти? Решение 1. Испытание - это выбор одной карты из колоды. 2. Выборочное пространство - это все имеющиеся карты, вероятность вытя нуть каждую из них одинакова. 3. Событие - это Е = {красная масть}. 4. Поскольку в колоде есть 52 карты и половина из них (26) красной масти, вероятность вытащить карту красной масти составляет 26/52 или 0,5. От вет - вероятность вытащить карту красной масти из стандартной колоды составляет 50%. Задача Если я один раз брошу игральную кость, какова вероятность, что выпадет число меньше 5? Решение 1. Испытание - это один бросок игральной кости с шестью гранями. 2. Выборочное пространство - это числа (1, 2, 3, 4, 5, 6), выпадение которых равновероятно. 3. Событие - это Е = (одно из 1, 2, 3, 4), которое также можно рассматри вать как объединение четырех элементарных событий, то есть Е = (Е = 1) U (£ = 2) U (£ = 3) U (£ = 4). 4. Четыре из шести элементарных событий, или возможных исходов, составляю щих выборочное пространство, соответствуют событию £, так что вероятность Е равна 4/6 или 0,67 (округлено). Альтернативное решение К решению этой задачи можно подойти по-другому - вычислить вероятность каждого элементарного события, которое удовлетворяет событию £, и сложить их, поскольку эти события - взаимно исключающие. Тогда вероятность каждого эле ментарного события, входящего в £, равна 1/6; это значит, что в одном случае из шести выпадет 1, в одном случае из шести выпадет 2 и так далее. В соответствии с нашим подходом вероятность Е составляет 1/6 + 1/6 + 1/6 + 1/6 или 4/6, что совпадает с полученным ранее ответом. Задача Если я подкину правильную монету дважды, какова вероятность того, что хотя бы один раз выпадет орел? Решение 1. Эксперимент заключается в двукратном подбрасывании правильной (Р = 0,5 и для решки, и для орла) монеты, то есть два независимых испыта ния, каждое с вероятностью 0,5. 62 Глава 2. Теория вероятности 2. Выборочное пространство состоит из следующих исходов: {(о, о), (о, р), (р, о), (р,/?)}, - каждый из которых равновероятен. 3. Интересующее нас событие - это Е = (хотя бы один орел). Три исхода из выборочного пространства удовлетворяют этому условию: (о, о), (о, р ), (р. О). 4. Вероятности всех исходов равны, и три из четырех исходов соответствуют событию Р, так что вероятность Е равна s, или 0,75. Альтернативное решение Этот результат можно также получить при помощи математических вычисле ний, рассчитав вероятность дополнения этого события и затем вычтя ее из 1, что бы получить вероятность самого события. Если событие - это Е = (хотя бы один орел), его дополнение - это ~Е = (нет орлов, то есть две решки). Вы знаете, что ве роятность выпадения решки при любом подбрасывании правильной монеты равна 0,5, а броски независимы, так что вероятность выпадения двух решек составляет 0,5 х 0,5, или 0,25. Согласно определению дополнения события, 1 - Р{~Е) = Р(Е), так что 1 - 0,25 = 0,75, или Р(Р). Вероятность выпадения хотя бы одного орла при двух бросках монеты равна 0,75, что совпадает с полученным ранее ответом. Задача Если я вытащу одну карту из стандартной колоды с 52 картами, какова вероят ность того, что это будет фигура (валет, дама или король) черной масти (пики или трефы)? Решение 1. Испытание - это выбор одной карты из колоды с 52 картами. 2. Выборочное пространство - это 52 карты, вероятности выбора каждой из них равны. 3. Событие - это Е = (выбор фигуры черной масти); шесть карт удовлетворя ют этому условию: валет, дама или король пик или треф. 4. Вероятность равна 6/52, или 0,115. Математическое решение Р(фигура) = 12/52, или 0,231 Р(черная масть) = 26/52, или 0,5 Р(фигура черной масти) = Р(фигура) х Р(черная масть) = 0,231 х 0,5 = 0,116. Обратите внимание, что математическое решение возможно, поскольку веро ятность вытащить карту черной масти и вероятность вытащить фигуру незави симы. Задача Если я выбираю одну карту из стандартной колоды с 52 картами, какова веро ятность того, что она будет либо черной масти (пики или трефы), либо фигурой (валет, дама или король)? Упражнения 63 Решение 1. Испытание - это выбор одной карты из колоды с 52 картами. 2. Выборочное пространство - это 52 карты, вероятности выбора каждой из них равны. 3. Событие - это Е = или карта черной масти, или фигура, - это значит, что любая из 26 карт черной масти или любая из 12 фигур подходит под усло вие. 4. Два типа карт, которые удовлетворяют условию, не взаимно исключающие: некоторые карты черной масти также являются фигурами, и наоборот. Есть 26 карт черной масти: от туза до короля пик (13) и от туза до короля треф (13). Есть 12 фигур: валет, дама и король, - каждая из которых может быть четырех мастей. Шесть карт принадлежат обоим категориям: валет, дама, король пик и валет, дама, король треф, так что 26 + 12 - 6 = 32 карты, кото рые удовлетворяют условию, и вероятность равна 32/52, или 0,615. Математическое решение Р(черной масти) = 26/52, или 0,500 Р(фигуры) = 12/52, или 0,231 Р(фигуры черной масти) = 6/52, или 0,115 Р(карты черной масти или фигуры) = 0,500 + 0,231 -0,115 = 0,616. Небольшое различие в ответах (0,615 и 0,616) объясняется ошибкой округле ния. Задача Если я вытащила одну карту из стандартной колоды с 52 картами и она черной масти, какова вероятность, что это трефы? Решение 1. Испытание - это выбор одной карты из колоды с 52 картами. 2. Выборочное пространство - это все карты черной масти, поскольку нас ин тересует условная вероятность того, что карта окажется трефами, если ее масть черная. Таким образом, наше выборочное пространство ограничено 26 картами. 3. Событие - это Е = трефы \ карты черной масти. 4. Вероятность того, что карта окажется трефами, если это карта черной мас ти - это 13/26, или 0,5. / *t ) ; 0% Л --------- #|л Обратите внимание, что в этом примере мы вычисляем условную вероятность (вероятность треф при условии, что вытащили карту черной масти). Неусловная вероятность выбора трефовой карты, если у нас нет информации о ее цвеTej составляет 13/52, или 0,25. Математическое решение Р(трефы | черная масть) = Р(трефы и черная масть) /Д ч е р н а я масть) = 0,25/0,5 = 0,5. Учтите, что трефы - это черная масть по определению. 64 Глава 2. Теория вероятности Задача Если порядок не имеет значения, сколько есть способов выбрать пять учеников из 20? Решение Это задача на комбинаторику, решение которой через перебор всех возможных вариантов будет слишком длинным. Вместо этого используем формулу для числа сочетаний пСк. В этом случае п = 20 и к = 5; ход вычислений приведен на рис. 2.15. пСк 20! 5! (20 - 5 ) ! 15,504 Рис. 2.15. Использование формулы для числа сочетаний для определения числа способов выбрать пять человек из 20 Задача В конференции участвуют 80 учеников: 40 мальчиков и 40 девочек. Тридцать мальчиков и 20 девочек углубленно занимаются математикой. Известно, что слу чайно выбранный мальчик углубленно занимается математикой с вероятностью 75%. Однако вы хотите знать, какова вероятность того, что случайно выбранный углубленно занимающийся математикой ребенок окажется мальчиком. Указание: используйте теорему Байеса. Решение Р(мальчнк) = 40/80 = 0,5. Р(-мальчик) = 40/80 = 0,5. ^(математика | мальчик) = 30/40 = 0,75. Р( математика | -мальчик) = 20/40 = 0,5. Ход вычислений приведен на рис. 2.16. Р(малъчик | математика) = Р(математика \ мальчик) Р(мальчик) Р(математика\ мальчик) Р(мальчик) + Р(математика \ девочка) Р(девочка) ________ (0.75X0.5) " [(0.75X0.5)]+ [(0.5)(0.5)] 0.375 0.625 = 0.600 Рис. 2.16. Применение теоремы Байеса для вычисления вероятности того, что случайно выбранный углубленно занимающийся математикой ребенок окажется мальчиком Вероятность того, что случайно выбранный углубленно занимающийся матема тикой ребенок окажется мальчиком, составляет 60%. Заключительное замечание: связь между статистикой и ... 65 Заключительное замечание: связь между статистикой и азартными играми Статистики любят иллюстрировать теорию вероятности, используя в качестве примеров монеты, игральные кости и карты, объекты, которые применяются в азартных играх (или просто играх, как их предпочитают называть в самой игорной индустрии). Одна причина заключается в том, что эти предметы знакомы боль шинству людей. Другая причина состоит в том, что вероятности разных исходов известны и неизменны и поэтому могут быть использованы для создания простых примеров применения основных понятий теории вероятности, включая независи мость и взаимное исключение. Преимущество таких примеров заключается еще и в том, что задачи можно решить с использованием конкретных объектов (напри мер, вытаскивая карты из колоды) с тем же успехом, что и при помощи математи ческих уравнений. Однако тут есть и исторические причины, поскольку многие законы теории ве роятности были сформулированы в связи с азартными играми и умением исполь зовать игральные кости и карты. На самом деле азартные игры были движущей силой многих исследований вероятностей разных событий и сочетаний событий, поскольку способность игрока получить, а не потерять деньги во многом зависит от его понимания вероятности разных событий, происходящих в данной игре. Многие историки ставят у истоков современной теории вероятности Шевалье де Мере (Chevalier de Mere), джентльмена, который был игроком во Франции XVII века. Он обожал спорить о том, что у него выпадет хотя бы одна шестерка при четырех бросках одной кости: причина такого желания станет ясной из следую щих абзацев. Однако он также верил, что хорошо спорить о том, что за 24 броска пары игральных костей у него выпадет хотя бы одна пара шестерок: оказалось, что это проигрышная идея. К счастью для последующих статистиков, Шевалье рассказал об этой задаче своему другу - философу Блезу Паскалю (Blaise Pascal), который обсудил это со своим другом - математиком Пьером Ферма (Pierre de Fermat). Рассмотрение вопросов такого типа привело к разработке, в числе про чих вещей, треугольника Паскаля, биномиального распределения и современны’! теории вероятности. Даже в дружеском споре хорошее пари - это то, когда вы, скорее всего, выиграе те более чем в половине случаев. Иначе говоря, вероятность вашего выигрыша в удачном пари не меньше 0,5. Шевалье первым использовал этот принцип: вероят ность выпадения хотя бы одной шестерки при четырех бросках кости составляет 0,518. Это легко вычислить, рассмотрев вероятность того, что за четыре броска не выпадет ни одной шестерки, которая составляет (5 /6 )1. Выпадение хотя бы одной шестерки - дополнение к выпадению ни одной шестерки, так что Р(хотя бы одна шестерка из четырех бросков) составляет 1 - (5 /6 )1или 1 - 0,482, что равно 0,518. Это значит, что примерно в 52% случаев Шевалье выигрывал пари. 66 Глава 2. Теория вероятности Однако спорить, что при 24 бросках двух костей выпадет хотя бы одна пара шес терок, - глупо. Существует 36 комбинаций чисел при каждом броске двух костей, и только одна из них - это две шестерки, таким образом, вероятность невыпадения двух шестерок при каждом броске составляет 35/36. Поскольку каждый бросок костей независим, мы можем перемножить вероятности для каждого броска. По скольку вероятности не меняются, это значит умножение (35/36) на само себя 24 раза, а это то же самое, что возвести (35/36) в степень 24. Вероятность выпадения хотя бы одной пары шестерок составляет 1 - Р(невыпадение пары шестерок), или 1 - 0,509, что составляет 0,491. Поскольку эта вероятность меньше 0,5, это проиг рышное пари. Если вам интересно узнать больше о применении теории вероятностей к азарт ным играм, таким как рулетка, кости, двадцать одно, скачки и покер, загляните в книгу Эдварда Пэкеля «Математика, лежащая в основе азартных игр» (Edward Packel, «The Mathematics of Games and Gambling»), опубликованную американским математическим обществом, ссылка на которую приведена в приложении С. ГЛАВА 3. Статистический вывод Статистический вывод - это методология, которая позволяет охарактеризовать генеральную совокупность или сформировать суждения о ней на основании ин формации о выборке, извлеченной из этой генеральной совокупности. Большая часть практической деятельности в области статистики связана именно со ста тистическим выводом. Для облегчения подобных предсказаний разработано мно жество сложных методов. Идея предсказательной статистики может показаться несколько запутанной, так что нам стоит потратить несколько минут, чтобы поду мать о том, что значит использовать статистику для обоснования заключений. В интернет-словаре Мерриам-Вебстер (M erriam-W ebster) есть два определе ния термина «вывод (рассуждение)» (inference): • Переход от одного предположения, утверждения или суждения, считаемого верным, к другому, истинность которого следует из истинности первого. • Переход от данных о статистической выборке к обобщениям (в виде значе ний параметров генеральной совокупности), как правило, с вычислением степени уверенности. Второе значение, которое специфично для статистики, тесно связано с первым. Логический вывод в общем случае - это способ формирования суждений о неиз вестном, опираясь на уже известное. Статический вывод - это частный случай логических заключений, при которых формируются суждения о генеральной со вокупности, как было сказано выше. Люди часто испытывают сложности с разграничением описательной статис тики (descriptive statistics) обсуждаемой в главе 4 и статистического вывода (inferential statistics), отчасти потому, что некоторые статистические процедуры используются в обоих типах статистики, хотя могут иметь место незначительные различия в формулах, а также в интерпретации результатов. К примеру, одна и та же процедура лежит в основе вычисления среднего арифметического для набора данных, вне зависимости от того, представляют ли они генеральную совокупность или выборку: нужно суммировать все значения и разделить полученную сумму на число значений. Тем не менее есть различия в написании формулы для вычисления среднего арифметического. Для генеральной совокупности среднее обозначается греческой буквой р («мю», которую правильно называть параметром, поскольку это число характеризует генеральную совокупность), тогда как для обозначения 68 Глава 3. Статистический вывод выбочного среднего вы используете латинскую букву х, часто с чертой сверху, х , (которую правильно называть статистикой, поскольку это число характеризует выборку). В других случаях между формулами, используемыми для генеральной совокупности и выборки, существуют более важные различия. Хорошо известный пример - эго формула для дисперсии. Когда вы имеете дело с генеральной сово купностью, в знаменателе стоит п (число наблюдений), но когда вы работаете с выборкой, делить нужно на п - 1 (на один меньше, чем число наблюдений). Эти формулы подробно разобраны в главе 4 (раздел «Меры разброса» на стр. 115), и если вы новичок в статистике, прочитайте ту главу целиком, прежде чем работать с этой, поскольку описательная статистика концептуально проще статического вывода. Вы можете использовать оба типа статистики в ходе работы над одним проек том (например, применять описательную статистику для характеристики выбор ки и затем - статистический вывод, чтобы решить исходные задачи вашего иссле дования), но вы должны четко понимать, какой тип статистики вы используете в ходе каждого конкретного анализа данных. Для этого полезно задуматься над целью вашего анализа данных: вы используете его, чтобы просто описать набор данных, с которым вы проводите вычисления? Или вы хотите распространить свои результаты на более обширную группу, которую вы не можете изучить на прямую? В первом случае вам следует применить описательную статистику, а во втором - статистический вывод. Вот два правила, которые содержат ту же идею, изложенную другими* словами: • • в тех случаях, когда вы изучаете составляющие генеральную совокупность случаев и не хотите выходить за их рамки, вам следует использовать опи сательную статистику; в тех случаях, когда изучаемые вами случаи не составляют всей генераль ной совокупности, и вы хотите сделать обобщения, выходящие за рамки этих случаев, вам следует использовать статистический вывод. Распределения вероятностей На практике статистические заключения настолько часто опираются на допуще ния о том, как распределены данные, что в статистике принято преобразовывать данные, чтобы они лучше соответствовали одному из известных типов распреде ления. По этой причине наш разговор о предсказательной статистике начинается с введения понятия теоретического распределения вероятностей и рассмотрения двух часто используемых распределений. Теоретическое распределение вероятностей - это выражение, которое определя ет, какие значения будет принимать данный параметр и как часто будет встречаться каждое из этих значений (или, в случае непрерывного распределения, как часто будет встречаться данный диапазон значений). Теоретические распределения ве роятностей также часто бывают представлены в графической форме; знаменитая колоколообразная кривая нормального распределения - один из примеров. Распределения вероятностей 69 Теоретические распределения вероятностей полезны для статистического вывода, поскольку их свойства и характеристики определены. Если реальное распределение значений имеющегося набора данных близко к теоретическому, многие вычисления для анализируемых данных могут быть выполнены с ис пользованием допущений, основанных на свойствах теоретического распреде ления. Кроме того, благодаря центральной предельной теореме (которая разби рается ниже в этой главе) при определенных условиях можно предположить, что выборочные средние распределены нормально, даже если значения генеральной совокупности, из которой произошли эти выборки, распределены отлично от нормального. Распределения вероятностей часто разделяют на непрерывные, если данные мо гут принимать любые значения внутри заданного диапазона, и дискретные, ког да данные принимают только определенные значения. В данной главе в качестве примера непрерывного распределения рассмотрено нормальное, а в качестве при мера дискретного распределения приведено биномиальное. Нормальное распределение Нормальное распределение - наверное, наиболее часто используемый тип рас пределения в статистике. Это происходит отчасти потому, что нормальное рас пределение адекватно отражает реальное распределение многих непрерывных переменных, от параметров производственного процесса до результатов проверки умственных способностей. Вторая причина широкого использования нормаль ного распределения заключается в том, что при определенных условиях можно считать, что распределение выборочных статистик, таких как выборочное сред нее арифметическое, будет нормальным, даже если выборки происходят из гене ральной совокупности, для которой нормальное распределение не свойственно. Данная закономерность обсуждается далее в этой главе в разделе, посвященном теореме о центральном пределе. Нормальное распределение также называют ко локолообразной кривой из-за его характерной формы, или гауссовым распреде лением в честь физика и математика Карла Гаусса, который жил в XVIII веке и использовал нормальное распределении при анализе астрономических данных. Существует бесконечное множество нормальных распределений, все из которых в целом имеют одну и ту же форму, но различаются из-за их среднего р (греческая буква «мю») и стандартного отклонения а (греческая буква «сигма»). Примеры трех нормальных распределений с разными средними значениями и стандартны ми отклонениями представлены на рис. 3.1. Нормальное распределение со средним арифметическим, равным 0, и стандарт ным отклонением, равным 1, известно как стандартное нормальное распределение, или Z -распределение. Любое нормальное распределение может быть преобразова но в стандартное путем преобразования исходных значений в стандартизованные (этот процесс обсуждается далее в этой главе, а затем в главе 16). Такая процедура облегчает сравнение генеральных совокупностей с разными средними значения ми и стандартными отклонениями. 70 Глава 3. Статистический вывод Для всех нормальных распределений вне зависимости от их среднего значения и стандартного отклонения характерны некоторые общие свойства. К ним относятся: • симметричность; • унимодальность (единственное наиболее частое значение); • непрерывность значений в диапазоне от минус бесконечности до плюс бесконечности; • общая площадь под кривой, равная единице; • равенство среднего, медианы и моды. Рис. 3 .1 . Три нормальных распределения Как было сказано выше, существует бесконечное множество нормальных рас пределений, но у них есть общие свойства. Для удобства мы часто описываем нор мальные распределения в терминах единиц стандартного отклонения, а не харак теризуем исходными числами, поскольку это позволяет нам использовать одно и то же описание для любого нормального распределения. Поскольку все нормальные распределения имеют одинаковую общую форму, мы можем сформулировать некоторые суждения о том, как распределены данные при любом нормальном распределении. Эмпирическое правило гласит, что для любого нормального распределения: • около 68% данных находятся в интервале ± одно стандартное отклонение от среднего; • около 95% данных находятся в интервале ± два стандартных отклонения от среднего; • около 99% данных находятся в интервале ± три стандартных отклонения от среднего. Это правило проиллюстрировано на рис. 3.2, где единицами измерения служат стандартные отклонения. Распределения вероятностей 71 Знание этих свойств нормального распределения предоставляет способ решить, насколько типично конкретное значение данных для генеральной совокупности. Такие сопоставления облегчаются преобразованием исходных значений данных (значений в исходных единицах измерения, например вес, измеренный в фунтах или килограммах) в Z-значения, которые выражают данные в единицах стандарт ного отклонения. Преобразование всех значений данных в Z-значения аналогично преобразованию нормально распределенной генеральной совокупности в стандар тизованное нормальное распределение. По этой причине Z-значения иногда назы вают нормализованными значениями, процесс преобразования исходных значений в Z-значения - нормализацией, а стандартное нормальное распределение - Z-pacпределением. Рис. 3.2. Доля данных, которые попадают в определенные интервалы нормального распределения Z-значение - это разница между заданным числом и средним арифметическим, выраженная в единицах стандартного отклонения. Формула для вычисления Z-зна чения для числа из генеральной совокупности с известным средним арифметичес ким и стандартным отклонением приведена на рис. 3.3. z =^ ______________________________________ О_________________________________ Рис. 3.3. Формула для вычисления Z-значения Если переменная х имеет нормальное распределение со средним арифмети ческим 100 и стандартным отклонением 5, что можно записать как* ~iV(100, 5), то число 105 имеет Z-значение 1 (рис. 3.4). Рис. 3.4. Z-значение для числа 105 из генеральной совокупности ~Л/(100, 5) 72 Глава 3. Статистический вывод Это значит, что число 105 на одно стандартное отклонение больше среднего арифметического данной генеральной совокупности. Соответственно, число 110 из этой генеральной совокупности имеет Z-значение 2, а число 85 - Z-значение, равное -3. Используя ранее сформулированное эмпирическое правило, мы клас сифицируем число 105 как превышающее среднее значение, но не выделяющееся из генеральной совокупности (ожидается, что около 15,9% генеральной совокуп ности имеет большие Z-значения). Число 110 - более редкое (большие Z-значения ожидаются для примерно 2,5% генеральной совокупности), а число 85 меньше среднего и встречается довольно редко (ожидается, что менее 0,5% значений гене ральной совокупности будут равны ему или меньше). Одно большое преимущество Z-значений состоит в том, что они облегчают сравнение значений генеральных совокупностей с разными средними арифмети ческими и стандартными отклонениями. Например, рассматривая одну генераль ную совокупность д: ~N( 100, 5) и другую у ~7V(50, 10), мы не можем сразу сказать, встречается ли число 95 в первой генеральной совокупности реже или чаще чис ла 35 во второй генеральной совокупности. Однако такое сравнение можно легко провести при помощи Z-значсний, как это показано на рис. 3.5 и 3.6. Рис. 3.5. Z-значение для числа 95 из генеральной совокупности ~Л/( 100, 5) Z= 3 5 -5 0 10 -1 .5 0 Рис. 3.6. Z-значение для числа 35 из генеральной совокупности ~Л/(50, 10) Переход к Z-значениям позволяет перевести обе генеральные совокупности в одну систему измерений. Теперь мы можем увидеть, что хотя оба значения ниже среднего в соответствующих генеральных совокупностях, второе значение выде ляется сильнее, поскольку -1,5 дальше отстоит от 0 (среднего значения стандарт ного нормального распределения), чем -1,0. Биномиальное распределение Мы используем биномиальное распределение в качестве примера дискретного распределения, то есть распределения величин данных, которые могут принимать только определенные значения. Представим, что мы подбросили монетку пять раз: число выпавших орлов может принимать целые значения, такие как 0, 1,2, 3, 5, по не такие значения, как 3,2 или 4,6. Стало быть, величина «число выпадений орла при пяти подбрасываниях монетки» - дискретная. Биномиальное распреде ление может описывать многие типы реальных дихотомических величии данных (когда возможны только два исхода), начиная от деталей станков, которые могут быть или бракованными, или пригодными, до студентов, которые могут или сдать, или провалить экзамен. Распределения вероятностей 73 События биномиального распределения происходят в результате процесса Бер нулли. Одно испытание в процессе Бернулли называется испытанием Бернулли. Биномиальное распределение описывает число положительных исходов в п ис пытаниях процесса Бернулли. «Положительный исход» в данном случае не обяза тельно обозначает что-то хорошее, это значит только то, что событие, которое мы исследуем, произошло. Например, если мы исследуем, сколько деталей станков из выборки в 10 штук было бракованными, каждая часть будет считаться отдельным испытанием, а результат испытания будет классифицирован как положительный исход, если деталь окажется бракованной. Биномиальное распределение описы вает то, с какой вероятностью определенное число деталей из выборки в 10 штук окажется бракованным, если есть некоторая оценка общей доли бракованных де талей. Данные, представленные биномиальным распределением, должны удовлетво рять четырем требованиям: 1. Каждое испытание имеет два взаимоисключающих исхода. 2. Каждое испытание независимо, так что исход одного испытания не влияет на исход любого другого испытания. 3. Вероятность успешного исхода, обозначенная как р, одинакова для всех испытаний. 4. Число испытаний определено, оно обозначается как п. К примерам данных такого типа, которые можно охарактеризовать при помощи биномиального распределения, относятся число выпавших орлов при десятикрат ном подбрасывании монетки, число мужчин в выборке объемом пять из большой генеральной совокупности, в которой 65% мужчин (эта генеральная совокупность должна быть достаточно большой, чтобы доля мужчин заметно не изменилась при изъятии пяти человек), и число бракованных изделий из 20, принадлежащих к генеральной совокупности, в которой частота брака составляет 1%. Формула для вычисления вероятности определенного числа успехов при дан ном числе испытаний приведена на рис. 3.7. Рис. 3.7. Формула для биномиального распределения Формула для сочетания событий приведена на рис. 3.8. Рис. 3.8. Формула для вычисления вероятности сочетания событий Сочетание, как обсуждалось в главе 2, выражает число способов выбрать к пред метов из п объектов, если порядок не важен. Учтите, что при написании формулы 74 Глава 3. Статистический вывод биномиального распределения круглые скобки обозначают сочетание, чтобы сде лать формулу легче для восприятия, однако значение этих скобок такое же, как у обозначения пСк, которое мы использовали в главе 2. Символ / в этом уравнении обозначает факториал: п! = (п)(п - 1)(п - 2) ... (1). Например, 5!=5 х 4 х З х 2 > < 1 = 120. п - это число испытаний. Если мы подбрасываем монетку 10 раз, п = 10. к - это число успехов. Если мы хотим вычислить вероятность 5 успехов в 10 испытаниях, к = 10. р со значениями в диапазоне между 0 и 1 - это вероятность успеха. Если мы подбрасываем симметричную монету и называем успешным исходом выпадение орла, то р = 0,5 (эго означает, что вероятность выпадения орла при каждом брос ке - это 0,5 или 50%). Биномиальную формулу можно использовать для вычисления вероятности оп ределенного числа успехов при известной вероятности успеха в каждом испытании и при заданном числе испытаний. Сокращенный способ записать биномиальную вероятность - это b{k\n,p) или Р(к = к\п\р), где к - это число успехов в п испытани ях, в каждом из которых вероятность успеха равна р. Если бы мы хотели вычис лить вероятность двух успехов в 20 испытаниях с р = 0,4, мы могли бы написать Ь(2; 20, 0,4) или Р(к = 2; 20, 0,4). На рис. 3.9 изображены три графика биномиальных распределений (обратите внимание па то, что каждая комбинация р и п даст свое распределение). Рис. 3.9. Три биномиальных распределения С увеличением п при постоянном значении р биномиальное распределение все больше напоминает нормальное распределение. Из практического опыта следует, что если и /7/;, и п( 1 - р) равны или больше 5, то биномиальное распределение 75 Распределения вероятностей может быть хорошо описано нормальным распределением. На рис. 3.9 распре деление (р = 0.5, п = 40), согласно этому правилу, может считаться нормальным, поскольку пр = 40(0,5) = 20/2(1 - р ) = 40(1 - 0,5) = 20. Тем не менее распределение с р = 0,1 и п = 40 не может быть аппроксимировано при помощи нормального распределения, поскольку /гр = 40(0,1) = 4. Сложные вычисления на основе биномиальных распределений обычно выпол няются при помощи компьютерных программ, но мы рассмотрим, как работает эта формула, на простом примере. Представьте, что мы подбрасываем правильную монету пять раз; какова вероятность того, что у нас выпадет ровно один орел? Мы обозначим выпадение орла как «успех» и используем формулу биномиального распределения для решения этой задачи. В этом примере: р = 0,5 (по определению правильной монеты орел и решка выпадают с рав ной вероятностью); п = 5 (потому что мы проводим пять испытаний); k = 1 (поскольку мы вычисляем вероятность ровно одного успеха). Вероятность ровно одного успеха в пяти испытаниях, при условии что вероят ность успеха в каждом испытании равна 0,5, вычислена на рис. 3.10. Р ( к = 1;5,0.5) = Г Ю.5'(1 - 0 .5 ) 5’1 = 0.16 Рис. 3.10. Вычисление Ь(1;5;0,5) На рис. 3.11 показано, как вычислить сочетание. 5! 5х4хЗх2х1 (l J “ 1!(5-1 )! “ 1 х (4 х 3 х 2 х 1) " Рис. 3 .1 1 . Вычисление 5С1 А на рис. 3.12 приведено все вычисление целиком. Р ( к = 1;5,0.5) = jo.5'(l - 0.5)5' 1 = 5 х (0.5)1 х (0.5)4 = 0 .1 6 Рис. 3.12. Подробное вычисление Ь( 1;5;0,5) Мы также можем получить этот результат, используя биномиальную таблицу на рис. D.8, приложение D. 76 Глава 3. Статистический вывод Независимые и зависимые переменные Существует много способов классифицировать переменные: один из наиболее распространенных - разделить их по роли, которую они играют в планировании исследования или анализе данных. В рамках этого подхода простой способ - это описывать переменные как зависимые, если они представляют собой результат исследования, и независимые, если предполагается, что они влияют на значение зависимой переменной (зависимых переменных). Во многих исследованиях есть третья категория переменных, контролируемые в исследовании управляющие пе ременные (control variables), которые могут влиять на зависимую переменную, но не представляют особенного интереса. Учтите, что ярлыки «независимая», «зависимая» и «управляющая» соответст вуют ролям переменных в данном исследовании. Это значит, что данная перемен ная (например, вес) может быть независимой в одном исследовании, зависимой в другом и управляющей в третьем. В дополнение к этому для описания зависи мых и независимых переменных некоторые авторы используют другие названия, предпочитая зарезервировать специальные названия для определенных типов исследований. Управляющие переменные вызывают особенные затруднения, по скольку выделено много их типов в зависимости от их отношения к исследуемым независимым и зависимым переменным, а также плана исследования. Управляю щие переменные обсуждаются далее в главе 18, однако это обсуждение будет сфо кусировано па независимых и зависимых переменных. Мы проиллюстрируем идею независимых и зависимых переменных на примере регрессионного уравнения. Это лишь краткое введение в тему, регрессия подробно обсуждается в главах 8, 10 и 11. В стандартной линейной модели, такой как регрессионное уравнение, основан ное па методе наименьших квадратов (МНК), результирующая или зависимая переменная обычно обозначается буквой У, тогда как независимые переменные обозначаются как X. Индексы обозначают отдельные переменные: X,, Х 2 и так да лее. (М НК - наиболее распространенный тип регрессии; если не указано иначе, в этой книге «регрессионное уравнение» обозначает «регрессионное уравнение МНК».) Это должно стать ясным из принятой формы записи регрессионного уравнения, показанной па рис. 3.13. Г = Д) + ДХ, + Д2Х 2 + Д3Х 3 + ...+е Рис. 3.13. Регрессионное уравнение Буква е в этом уравнении обозначает «ошибку» и отражает тот факт, что мы не предполагаем, что какое-либо регрессионное уравнение позволит предсказать значения У с абсолютной точностью; напротив, мы ожидаем, что всегда будет на личествовать некая ошибка предсказания. Обратите внимание на то, что перед Генеральные совокупности и выборки 77 каждым X в уравнении стоит р, которую называют регрессионным коэффициентом'. Pt - это регрессионный коэффициент для X v (32- это регрессионный коэффициент для Х 2и так далее. Значения этих регрессионных коэффициентов определяются при помощи математических вычислений, которые позволяют получить лучшее уравнение из всех возможных для предсказания значений Y по значениям пере менных X на основе имеющегося набора данных. Из-за принятой системы обозначений зависимую переменную также называют «У-переменной», а независимые - «Х-переменными». К другим терминам, исполь зуемым для обозначения зависимой переменной, относятся результирующая пе ременная, переменная-отклик и объясненная переменная. Независимые перемен ные также называют регрессоры, предсказывающие или объясняющие переменные. Некоторые исследователи считают, что термины «независимый» и «зависимый» следует использовать только в эксперименте (например, при рандомизированном исследовании эффективности лекарств с контролем). При такой интерпретации термины «независимый» и «зависимый» подразумевают причинно-следственную связь, то есть значение зависимой переменной зависит, по крайней мере частично, от значений независимой переменной, факт, который сложно, если не вовсе невоз можно, установить при наблюдении. (Различие между экспериментом и наблюде нием подробно обсуждается в главе 18.) В этой книге данное правило не выпол няется, поскольку вопросы причинно-следственной связи гораздо более сложны, по сравнению с разделением исследований на эксперимент гг наблюдение; таким образом, мы будем использовать термин «независимая переменная» для обозначе ния переменных, которые отображают результат исследования, и «зависимая пе ременная» для переменных, которые, согласно ожиданиям, влияют на результат. Генеральные совокупности и выборки Концепция генеральных совокупностей и выборок, обсуждаемая также в главе 4, является ключевой для понимания статистического вывода. Определить, что яв ляется генеральной совокупностью, и выбрать подходящий метод получения вы борки может быть довольно сложным (на самом деле многие статистики с докторс кими степенями специализируются на данном типе работы) и требует большего внимания, чем может быть уделено этому вопросу здесь. Вместо этого мы обсудим базовые понятия и концепции, а читателю, которому нужна дополнительная ин формация по данной тематике, следует обратиться к специализированным учеб ным пособиям (некоторые из них перечислены в приложении С) или пройти уг лубленный курс теории получения выборок. Интересующая нас генеральная совокупность (называемая часто просто «гене ральная совокупность») состоит из всех людей или других объектов (например, атлантических лососей или частей самолетов), которые исследователи хотели бы изучить, если бы обладали бесконечными ресурсами. Если посмотреть на это с другой стороны, то генеральная совокупность - это все множество объектов, на 78 Глава 3. Статистический вывод которое исследователи хотели бы распространить свой результат. Это могут быть, например, все, кто жил в США в 2007 году, или мужчины возрастом 65-75 лет, у которых диагностирована застойная сердечная недостаточность. Выборки и п ереписи Почти все статистические исследования основываются на выборках из генеральной совокупности, а не на самой генеральной совокупности. Из этого правила существу ют немногочисленные исключения. Результат периодического сбора данных обо всей генеральной совокупности называется п е р е п и сью . Во многих странах государствен ные организации проводят перепись населения. Например, в США перепись населе ния проводится раз в десять лет и служит разным целям, включая распределение мест в палате представителей (нижней палате конгресса). Хотя предполагается, что в ходе переписи собирают информацию о каждом гражданине, на практике это редко дости жимо. Некоторые люди не участвуют в переписи, а иных опрашивают дважды. Поэтому некоторые статистики считают, что параметры генеральной совокупности будет акку ратнее оценивать на основании хорошо составленной выборки, а не переписи, или же что данные переписи должны быть дополнены результатами изучения выборок. Легко читаемое обсуждение этих вопросов и хороший перечень источников более подробной информации содержится в статье Иварса Петерсона (Ivars Peterson), ссылка на которую приведена в приложении С. Детерминированные выборки Существует множество способов составления выборки. К сожалению, некоторые из самых удобных способов основаны на детерминированном отборе объектов, что делает их уязвимыми для возникновения выборочного смещения. Это значит, что существует высокая вероятность того, что выборка, составленная при помощи детерминированного отбора объектов, будет нерепрезентативной, так что сделан ные па основе этой выборки выводы о генеральной совокупности будут сомни тельными. Методы детерминированного отбора объектов популярны, поскольку с их помощью исследователь может избежать тягостного процесса составления ве роятностной выборки, однако за это удобство приходится платить. Возможность распространения выводов, сделанных на основании такой выборки, на всю гене ральную совокупность (как правило, основная цель составления выборки) будет ограниченной, поскольку репрезентативность выборки неочевидна. Распространенный тип детерминированной выборки - это выборка из добро вольцев. Вот пример: ученый публикует в газете объявление о наборе испытуемых п включает в исследование всех, кто пожелал принять в нем участие. Это удоб ный способ набрать испытуемых, но, к сожалению, те, кто сами вызвались примять участие в исследовании, не могут представлять никакую генеральную совокуп ность. Использование выборки из добровольцев лучше оставить для такой ситуа ции, когда составить случайную выборку затруднительно, например для исследо вания тех, кто употребляет запрещенные наркотические вещества. Даже учитывая ограниченную возможность генерализации, на такой выборке из добровольцев можно получить полезную информацию, особенно на ранних этапах исследова- Генеральные совокупности и выборки 79 ния. Например, можно использовать таких добровольцев для сбора информации об использовании наркотических веществ в обществе. На основе подобной инфор мации впоследствии можно составить опросник для работы со случайной выбор кой людей. Тем не менее результаты, полученные для выборки из добровольцев, будут иметь ограниченную применимость к генеральной совокупности. Нерепрезентативные выборки - это еще один распространенный тип детер минированных выборок. Как и в случае выборок из добровольцев, нерепрезен тативные выборки можно использовать для сбора информации на ранних этапах исследования, при этом полученные результаты некорректно распространять на всю генеральную совокупность. Вот пример нерепрезентативной выборки: вы собираете информацию о покупательских привычках людей определенного гео графического района, опрашивая 50 человек, которые делают покупки в торговых пассажах (моллах). Проблема состоит в том, что эти 50 человек - не случайная выборка людей из данного района, нет никаких оснований считать, что их ответы будут отражать покупательские привычки всех жителей этого района. Однако вы можете использовать результаты этого опроса для составления анкеты, которую заполнят случайно выбранные жители данного района. Выборка по группам (квотная, или пропорциональная, выборка) - это метод со ставления детерминированных выборок, при котором сборщик данных получает инструкцию исследовать определенное число или долю объектов из каждой их группы. Например, в описанном выше случае торгового пассажа исследователь мог иметь задачу опросить 25 мужчин и 25 женщин или по меньшей мере 20 лю дей, не принадлежащих к европейской расе. Выборка по группам немного лучше нерепрезентативной выборки, поскольку в данном случае есть гарантия того, что будут представлены разные группы объектов. Например, без требований к квотам выборка людей из торгового пассажа может быть представлена 45 женщинами и пятью мужчинами, среди которых не будет ни одного неевроиейца. Однако, по скольку выборка по группам - это детерминированный метод, вы по-прежнему не узнаете, адекватно ли ее члены представляют генеральную совокупность. В вашей пропорциональной выборке может быть равное число мужчин и женщин, но будет ли оно равным для всех людей, которые делают покупки? Выборка по группам также подвержена одному определенному типу ошибки выборок, риск которой существует и для нерепрезентативных выборок. Сборщик данных может опраши вать людей, которые наиболее похожи на него (например, по возрасту) пли кото рые выглядят наиболее дружелюбными или доступными, что сделает полученные результаты еще менее применимыми ко всей генеральной совокупности. Случайные выборки При получении случайных выборок каждый объект генеральной совокупности имеет заданную вероятность попадания в выборку. Случайные выборки, хотя тре буют больших усилий при создании, чем детерминированные, предпочтительнее для использования, поскольку исследователь может обобщать полученные ре зультаты на всю генеральную совокупность. 80 Глава 3. Статистический вывод Получение случайной выборки из генеральной совокупности требует наличия некоторого полного описания ее структуры (списка объектов генеральной сово купности). В некоторых случаях это полное описание структуры выборки очевид но. Например, если генеральная совокупность - это ученики какой-то школы, то описание структуры выборки - это список всех учащихся. В других случаях тако го хорошего описания структуры выборки не существует. Например, телефонная книга или список номеров может быть использована для опросов, проводящихся по телефону. Проблема в данном случае заключается в том, что люди, не имеющие дома телефона, не будут включены в полученную таким способом выборку, хотя они и могут входить в интересующую нас генеральную совокупность. В ходе ана лиза данных можно использовать статистическое взвешивание и другие процеду ры, чтобы сделать полученные на основе выборки результаты более применимыми ко всей генеральной совокупности. Основной тип получения случайных выборок - это простое случайное извле чение (ПСВ). В этом случае все выборки заданного размера имеют одинаковый шанс быть извлечены. Предположим, вы хотите составить случайную выборку из 50 учеников определенной школы. Вы берете список всех учащихся и случайно выбираете 50 человек, пользуясь таблицей или генератором случайных чисел. Поскольку в списке указаны все представители генеральной совокупности и вы бор людей, включаемых в выборку, совершенно случаен, шансы попасть в выбор ку одинаковы как для каждого ученика, так и для каждой подгруппы учеников (в данном примере любая подгруппа размером в 50 испытуемых имеет равную вероятность быть отобранной для исследования). В большинстве случаев ПСВ обладают наилучшими статистическими свойст вами из всех способов извлечения выборок, включая наименьшие доверительные интервалы для оценок параметров, и могут быть проанализированы при помощи простейших методов. Однако в некоторых случаях использовать ПСВ может быть невозможно или запредельно дорого. Поэтому для таких ситуаций были разрабо таны иные методы создания вероятностных выборок. Систематическое извлечение выборки сходно с ПСВ. Для систематического из влечения выборки нужно переписать или перенумеровать все объекты генераль ной совокупности. Вы определяете желаемый размер выборки, а затем рассчиты ваете число п, которое определяет алгоритм составления выборки. Вычисление п происходит путем деления числа объектов в генеральной совокупности на объем выборки. Предположим, ваша генеральная совокупность состоит из 500 объек тов, а вы хотите создать выборку из 25 объектов; в этом случае п = 20, поскольку 500/25 = 20. Затем вы выбираете случайное начальное значение, которое лежит в диапазоне от 1 до п, п включаете в выборку объект из генеральной совокупности, который имеет такой номер, и каждый следующий п-й объект. Предположим, что вы хоти те создать случайную выборку из 100 объектов для генеральной совокупности из 1000 объектов. Шаги по созданию систематической выборки будут следующими: 1. Взять п = 10, поскольку 1000/100 = 10. Генеральные совокупности и выборки 81 2. Выбрать случайное число в диапазоне от 1 до 10. 3. Выбрать объект с таким номером и каждый следующий десятый объект. Если случайно выбранное число было равно 7, то выборка будет содержать объ екты под номерами 7, 17, 27 и так далее до 997. Систематическое извлечение выборок особенно полезно, когда генеральная со вокупность увеличивается со временем, а изначально определенного списка объ ектов не существует. Предположим, например, что вы хотите исследовать людей, которые будут вызваны в суд в наступающем году. В начале исследования вы не знаете, кто это будет, так что вы оцениваете размер генеральной совокупности, основываясь на числе людей, вызванных в суд в предыдущем году, определяетесь с размером выборки и вычисляете п, как это было описано выше. Затем вы веде те нумерованный список вызываемых в суд людей, выбрав случайное начальное число, и исследуете человека, попавшего в ваш список под случайным номером, и каждого п-то после него. Если у вас п = 14, а случайное стартовое число - 10, вы обследуете десятого человека, 24-го, 38-го и так далее, пока не наберете нужный размер выборки. При использовании систематической выборки нужно соблюдать одну предо сторожность: вы должны убедиться в том, что данные не изменяются периоди чески так, что это сопряжено с вашим случайным начальным числом и значени ем п. Например, если определенные часы или дни работы суда зарезервированы для рассмотрения дел определенного типа и ваша комбинация начального числа и параметра п приводит к тому, что люди, рассмотрение дел которых назначено на этот период, не могут попасть в вашу выборку, она не будет случайной выборкой из всех людей, которые вызваны в суд. Существует много типов извлечения сложных случайных выборок - общее на звание для методов составления вероятностных выборок с дополнительными уровнями сложности, по сравнению со ПСВ. В расслоенных (стратифицирован ных) выборках интересующая нас генеральная совокупность разделена на непересекающиеся группы, или слои, на основании общих характеристик. Для людей такими характеристиками могут служить пол или возраст; для городов это может быть численность населения или тип управления; для больниц - тип руководст ва или число коек. Если сравнение групп или оценка характеристик каждой из групп - основная задача исследования, расслоенные выборки - это удачный вы бор, поскольку выбор объектов можно организовать так, чтобы каждая интересую щая нас группа была адекватно представлена. Например, ПСВ может не включать в себя достаточного числа пожилых людей для оценки их характеристик или для сравнения с людьми среднего возраста. Расслоенная выборка, напротив, может быть создана таким образом, чтобы чаще выбирать пожилых людей, а затем при обработке данных можно провести коррекцию на такое смещение частоты. Гнездовые (серийные, кластерные) выборки извлекаются с использованием уже имеющихся естественных группировок в генеральной совокупности. Этот подход часто используется в региональных исследованиях, которые требуют личных со беседований или отбора биологических проб (например, крови), поскольку носы- 82 г"Л Глава 3. Статистический вывод лать исследователей для работы с одним человеком из городка Рукерсвиль (штат Вирджиния), одним человеком из города Чадрой (штат Небраска), одним - из Бэрроу (Аляска) и так далее было бы непозволительно дорого. Более экономно было бы разработать план создания выборки, который бы имел несколько уровней случайного отбора людей. На уровне страны нужно случайно выбрать несколько регионов, затем - случайно выбрать штаты в каждом регионе, города - в каждом штате и так далее вплоть до отдельных домов и людей в этих домах. Гнездовые выборки дают меньшую точность, поскольку объекты из одной группы (например, дома в одном городе или города в одном штате) обычно более сходны между собой, чем объекты, выбранные при ПСВ. Эта потеря точности обычно в достаточной степени компенсируется большим объемом выборки, которую можно обследо вать, благодаря снижению расходов. Метод гнездовых выборок может сочетаться с методом выборок, пропорцио нальных численности. Например, вы можете захотеть извлечь выборку изо всех учеников начальной школы. Не существует списка всех учеников начальной шко лы в масштабах всей страны (по крайней мере, для США), но вы можете соста вить перечень всех начальных школ, а у каждой школы будет список ее учеников. Так что вы сможете случайно выбрать школы (возможно, в несколько стадий). Поскольку в разных школах число учеников неодинаково, вам может захотеться учесть это обстоятельство при составлении выборки, так чтобы число учеников из маленьких школ не было бы непропорционально большим (поскольку маленьких школ больше). Затем вы выберете разное число учеников для каждой выбранной школы, основываясь на общем числе се учащихся. Это значит, что вы выберете вдвое больше детей из школы с 400 учениками, по сравнению со школой, в ко торой учится всего 200 человек. При таком подходе полученная выборка будет содержать сопоставимое число учащихся из больших и маленьких школ. Теорема центрального предела Теорема центрального предела гласит, что распределение значений выборочных средних близко к нормальному вне зависимости от распределения значений ге неральной совокупности при условии, что выборки достаточно велики. Этот факт позволяет нам делать статистические заключения, основанные на свойствах нор мального распределения, даже если выборка происходит из популяции, распреде ление значений в которой отлично от нормального. Для выборочного среднего теорему о центральном пределе можно сформулиро вать следующим образом: Пусть А ,,... Х п - это случайная выборка из некоторой генеральной совокуп ности со средним арифметическим р и дисперсией а 2, тогда для достаточно больших п — а2 п даже если распределение значений в генеральной совокупности отлично от нормального. Теорема центрального предела 83 Символ ~ значит, что «распределение близко к», а формулу можно про честь как «распределение средних значений X близко к нормальному со средним арифметическим р и дисперсией о2/п»К В применимости теоремы о центральном пределе на практике можно убедиться при помощи компьютерного моделирования, при котором многократно создаются выборки заданного размера из генеральной совокупности с отличным от нормаль ного распределения значений. На рис. 3.14 изображено распределение значений генеральной совокупности из случайно сгенерированных значений, равномерно распределенных в диапазоне от 0 до 100. Рис. 3.14. Гистограмма для генеральной совокупности с равномерно распределенными значениями (N = 100) в диапазоне от 0 до 100 Распределение данных, показанное на рис. 3.14, определенно отличается от нормального. Однако теорема о центральном пределе гласит, что если выборки достаточного размера получены из генеральной совокупности с отличным от нормального распределением значений, средние арифметические этих выборок распределены близко к нормальному. Обратите внимание, что в теореме ничего не сказано про то, какой размер выборок нужно считать достаточным. Ученые используют эмпирические правила, такие как распространенное правило, что выборка должна включать не менее 30 объектов, однако тут нет абсолютных за конов, применимых во всех случаях. Для выборок из генеральной совокупности с близким к нормальному распределением значений распределение выборочных средних будет близким к нормальному всего при 10 или 15 объектах в выборке, тогда как для генеральной совокупности с очень асимметричным распределением требуется выборка размером 40 объектов и более. 1 Rosner, Bernard. 2000. Fundamentals of Biostatistics, 5th ed.; Brooks/Cole, Pacific Grove, CA, 174. Глава 3. Статистический вывод Выражение «распределение выборочных средних» труднопроизносимо, но его значение очевидно. Мы уже рассматривали два типа теоретических распределе ний (нормальное и биномиальное), хотя ясно, что случайно взятые переменные тоже имеют какое-то распределение. В данном случае нас интересует распреде ление средних значений, рассчитанных для выборок определенного размера, ко торые происходят из данной генеральной совокупности. Если мы многократно будем получать выборки определенного размера, рассчитывать среднее для каж дой из них и графически изображать частоту значений этих средних, результатом будет распределение выборочных средних. Мы ожидаем, что выборки будут не много различаться между собой и, таким образом, иметь разные средние значения, распределенные некоторым образом. Можно предсказать, как именно будут рас пределены эти выборочные средние, основываясь на таких факторах, как распре деление значений генеральной совокупности и размер выборки. Влияние размера выборки на распределение выборочных средних можно об наружить, сравнивая рис. 3.15 и 3.16. На рис. 3.15 представлено распределение выборочных средних для 100 выборок, состоящих из двух объектов каждая, из генеральной совокупности, распределение значений которой представлено на рис. 3.14. На рис. 3.16 представлено распределение выборочных средних для 100 выборок объемом 25 объектов, происходящих из того же распределения. Распре деление, показанное на рис. 3.15, по-прежнему похоже на равномерное. Это пока зывает, что размер выборки, равный двум, недостаточен для применения теоремы о центральном пределе для данной генеральной совокупности. 20- 15- 10- 5- J-P 0.00 20.00 40.00 60.00 80.00 100.00 Рис. 3.15. Распределение средних значений для 100 выборок размером п = 2 из генеральной совокупности с равномерно распределенными значениями Теорема центрального предела 85 На рис. 3.16 показано распределение средних значений для 100 выборок объ емом п = 25, происходящих из генеральной совокупности с равномерно распреде ленными значениями (рис. 3.14). Это распределение гораздо ближе к нормально му, так что размер выборки 25 оказался достаточным для применения теоремы о центральном пределе для данной генеральной совокупности. Рис. 3.16. Распределение средних значений для 100 выборок размером п = 25 из генеральной совокупности с равномерно распределенными значениями На рис. 3.17-3.19 продемонстрирован тот же принцип для выборок из гене ральной совокупности с ассимметричным распределением значений. На рис. 3.17 показано сильно асимметричное распределение 100 значений генеральной сово купности. Рисунки 3.18 и 3.19 показывают, как тип распределения средних значений для выборок из этой генеральной совокупности изменяется в зависимости от разме ра выборок. На рис. 3.18 показано распределение выборочных средних для 100 выборок объемом п = 2, на рис. 3.19 показано аналогичное распределение для 100 выборок объемом п = 25. Так же как и для предыдущего примера с равномерно распределенными значениями генеральной совокупности, размер выборок п = 2 недостаточен для применения теоремы о центральном пределе, а г? = 25 кажется достаточным. 86 Глава 3. Статистический вывод Рис. 3.17. Асимметричное распределение значений генеральной совокупности (Л/= 100) Рис. 3.18. Распределение средних значений для 100 выборок размером п = 2 из генеральной совокупности с асимметрично распределенными значениями Проверка гипотез 87 Рис. 3.19. Распределение средних значений для 100 выборок размером п = 25 из генеральной совокупности с асимметрично распределенными значениями Проверка гипотез Проверка гипотез составляет основу статистического вывода, поскольку позволя ет использовать статистические методы для решения повседневных задач. Про верка гипотез состоит из нескольких основных этапов: 1. Формулировка рабочей гипотезы, которая может быть проверена статис тическими методами. 2. Формальное описание нулевой и альтернативной гипотез. 3. Выбор подходящего статистического теста, сбор данных, проведение вы числений. 4. Выработка решения на основании полученных результатов. Возьмем для примера оценку нового лекарства для снижения кровяного давле ния (борьбы с гипертонией). Производитель хочет доказать, что оно при прочих равных условиях работает лучше, чем все аналогичные средства, так что рабочая гипотеза может звучать как-нибудь вроде «Гипертоники, получающие новый пре парат X, продемонстрируют более существенное снижение кровяного давления, по сравнению с гипертониками, которых лечат созданным ранее препаратом У». Если мы обозначим среднее снижение кровяного давления в группе пациентов, получающих препарат X, как р,, а в группе с препаратом У - как р2, то нулевую и альтернативную гипотезы можно сформулировать следующим образом: 88 Глава 3. Статистический вывод Я 0: м, < М2 н л- М, > Я() называется нулевой гипотезой. В данном примере нулевая гипотеза состоит в том, что лекарство X неэффективнее лекарства У, поскольку снижение кровяно го давления, достигнутое при помощи препарата X, меньше или равно снижению, наблюдающемуся для препарата У НА, иногда обозначаемая как Н {, называется аль тернативной гипотезой. В нашем примере альтернативная гипотеза заключается в том, что препарат X более эффективен, чем обычное лечение, поскольку пациенты, получающие препарат X, демонстрируют более выраженное снижение кровяного давления, чем пациенты, получающие препарат У. Обратите внимание на то, что нулевая и альтернативная гипотезы должны быть взаимоисключающими (ни один результат не может удовлетворять обоим условиям) и исчерпывающими (все воз можные результаты должны удовлетворять одному из двух условий). В данном примере альтернативная гипотеза односторонняя: мы указываем, что нулевая гипотеза будет отвергнута, если группа, получавшая препарат X, проде монстрирует более заметное снижение кровяного давления, по сравнению с груп пой, получавшей препарат У. Мы также можем сформулировать двустороннюю альтернативную гипотезу, если она будет более уместной для данного исследова ния. Например, если бы мы интересовались, различается ли кровяное давление (не важно, в какую сторону) у пациентов, получавших препарат X и получавших препарат У, мы бы показали это при помощи двусторонней альтернативной гипо тезы: Н„: и, - Р2 Н - Ф и, ц2 Двусторонние гипотезы более широко распространены в статистике, поскольку, как правило, вы хотите обнаружить различия любой направленности. После сбора данных и вычисления статистик можно принять одно из двух ре шений: • отвергнуть нулевую гипотезу; • не отвергнуть нулевую гипотезу. Обратите внимание на то, что если мы не можем отвергнуть нулевую гипотезу, это не значит, что мы доказали ее справедливость. Это значит только то, что наше исследование не предоставило достаточных доказательств ее справедливости. Отклонение нулевой гипотезы иногда называется «нахождением статистичес ки значимого результата», поскольку проводимый статистический анализ данных должен продемонстрировать не только, например, различия в средних значениях по группам, а то, что эти различия статистически значимы. Неформальное зна чение статистической значимости - это «скорее всего, наблюдающееся не случай но», а процесс определения того, значимы ли результаты, включает не только ста тистические расчеты, но и применение основанных на традициях правил, которые могут различаться в зависимости от области исследований или других факторов. Проверка гипотез 89 Процесс проверки статистических гипотез включает в себя выбор уровня зна чимости, или р-значения (тема, которая подробнее обсуждается позже), которое определяет, в каком случае результаты, полученные для выборки, будут достаточ но убедительными, чтобы отвергнуть нулевую гипотезу. На практике р-зпачение наиболее часто принимается равным 0,05. Почему именно это значение? Это в некотором роде произвольно выбранное граничное значение, история которого отсчитывается с начала XX века, когда статистические критерии рассчитыва лись вручную, а значимость результатов определяли путем сравнения статистик с опубликованными таблицами. Использование р < 0,05 как критерия значимых результатов критикуется (см. врезку «Противоречия, связанные с проверкой ста тистических гипотез»), однако этот критерий сохраняется во многих исследова тельских дисциплинах. Иногда используются другие пороговые p -значения, такие как р < 0,01 или р < 0,001, однако еще никому не удавалось ввести в практику использование большего порогового значения, такого какр < 0,1. Статистический вывод - это мощное средство, которое позволяет формулиро вать вероятностные суждения о данных. Однако поскольку эти суждения вероят ностные, а не абсолютно верные, нельзя исключить возможность ошибки. Статис тики определили два типа ошибок, которые можно допустить при формировании суждений при помощи предсказательной статистики, и установили уровни оши бок, которые обычно считаются допустимыми. Эти два типа ошибок представле ны в табл. 3.1. Противоречия, связанны е с проверкой статисти чески х ги по те з Несмотря на повсеместность проверки гипотез в современной статистике и канони ческое пороговое значение статистической достоверности а = 0,05, ничто из привычно го не остается неизменным. Один из основных критиков - это Якоб Коэн (Jacob Cohen), аргументы которого приведены в том числе и в статье «Земля круглая (р < 0,05)»2. Су ществуют существенные критические замечания как по поводу проверки гипотез в об щем, так и по поводу порогового значения 0,05, но ни то, ни другое, похоже, не уйдет в прошлое в ближайшее время. С одной стороны, нужно установить какой-то стандарт для определения статистической значимости, чтобы минимизировать возможность трактов ки как значимых различий, которые были получены в результате ошибки выборки или других случайных факторов. С другой стороны, в значении 0,05 нет ничего сакрального, хотя иногда его воспринимают именно так. Более того, уровень значимости результатов, полученных для выборки, подвержен влиянию многих факторов, включая размер выбор ки, и переоценка значения р приводит к игнорированию многих причин, по которым в данном исследовании был или не был выявлен статистически значимый эффект. Для статистиков очевидно, что если ваша выборка достаточно велика, даже незначительный эффект будет статистически значимым. Отсюда следует, что статистические методы это мощные инструменты, но они не освобождают исследователей от необходимости использования чувства здравого смысла. 2 The Earth is round (у? < 0.05) / / American Psychologist, December 1994, 997-1003. 90 Глава 3. Статистический вывод Таблица 3.1 . Статистические ошибки первого и второго рода Для генеральной совокупности верна Н 0 Реш ение, основанное на анализе выборки верна НА Не смогли отвергнуть Н 0 Верное решение: Н0 справедлива, и она не отвергнута Ошибка II рода (Р) О твергаем Н 0 Ошибка 1рода (а) Верное решение: Н0 ложна, и она отвергнута В двух ячейках этой таблицы приведены правильные решения: Я () верна и не отвергается при исследовании или Н() ложна и отвергается. В двух других ячейках представлены статистические ошибки I и II рода. Ошибка I рода, также известная под обозначением а, соответствует ошибке, которую совершают, отвергая нулевую гипотезу, в то время как она справедлива для генеральной совокупности. Ошибка II рода, обозначаемая как р, совершается, когда не выполняющаяся для генераль ной совокупности нулевая гипотеза не отвергается в ходе исследования. Я составила эту таблицу, чтобы сравнить ситуацию во всей генеральной сово купности (которая, как правило, неизвестна исследователю) с тем суждением о генеральной совокупности, которое формируется на основании анализа выборки. Другой способ понять ситуацию - это рассмотреть суд, в котором нулевая гипоте за состоит в невиновности подсудимого. В ситуации суда есть реальное положение дел (совершил подсудимый преступление или нет) и есть решение судей, основан ное на предоставленной им информации (виновен подсудимый или мет). Судья пе может знать реальное положение дел в большей степени, чем статистик знает характеристики генеральной совокупности, так что он может принять правильное решение, а может совершить ошибку I или II рода. Если судья посчитает невин ного человека виновным, это будет соответствовать ошибке I рода (отвергнуть нулевую гипотезу о невиновности, когда она справедлива), а если судья объявит преступника невиновным, он совершит ошибку II рода (пе сможет отвергнуть ну левую гипотезу о невиновности, когда она не справедлива). Как уже указывалось выше, пороговое значение ошибки I рода принято счи тать равным 0,05. Это значит, что мы миримся с 5%-ной вероятностью совершения ошибки I типа. Иначе говоря, мы понимаем, что, принимая 0,05 за пороговое зна чение статистической ошибки I рода, мы имеем 5%-ную вероятность отвергнуть нулевую гипотезу, когда нам следовало принять ее. Ошибка II рода пользовалась меньшим вниманием в теории статистики, по скольку исторически игнорирование реальной закономерности (ошибка II рода) считалось менее серьезной ошибкой, чем нахождение несуществующей законо мерности (ошибка I рода). Принятые пороговые значения статистической ошибки II рода равны 0,1 пли 0,2. Если р = 0,1, это значит, что у нас есть 10%-ная вероят ность совершить ошибку II рода, то есть 10% вероятности того, что нулевая гипо теза будет ложной, но мы не сможем отвергнуть ее в своем исследовании. Величина, обратная вероятности статистической ошибки II рода, называется мощность и рассчитывается как 1 - р. В последние годы важности достижения Доверительные интервалы 91 нужного уровня мощности придается большое значение. Исследователи и грантодатели стали заботиться о мощности и, таким образом, об ошибке II рода, отчасти потому, что они не хотят вкладывать время, деньги и усилия в исследование до тех пор, пока не будет обеспечена достаточная вероятность обнаружения сущест вующих закономерностей. Расчет мощности играет важную роль в планировании исследований, в особенности при определении размера выборки, который необхо дим для достижения достаточной мощности; эти вопросы более подробно обсуж даются в главе 15. Доверительные интервалы Когда мы вычисляем одну статистику, такую как среднее, чтобы охарактеризовать выборку, это называется точечной оценкой, поскольку полученное число соответст вует одной точке на числовой оси. Хотя выборочное среднее - это лучшая несме щенная оценка среднего значения для генеральной совокупности, мы знаем, что если взять другую выборку, полученное для нее среднее, скорее всего, будет дру гим. Конечно, мы не можем ожидать, что все выборки из одной генеральной сово купности будут иметь одно и то же среднее значение. Есть смысл задаться вопро сом, насколько точечная оценка варьирует в силу случайных причин, поэтому во многих областях науки принято приводить и точечные, и интервальные оценки. В отличие от точечной оценки, которая представлена одним числом, интерваль ная оценка - это числовой диапазон. Один из распространенных типов интервальной оценки - это доверитель ный интервал (интервал между двумя значениями, которые представляют собой верхнюю и нижнюю доверительные границы данной статистики). Формула, при помощи которой рассчитывается доверительный интервал, зависит от типа ис пользуемой статистики и будет рассмотрена в соответствующих главах. Задача этого раздела - ввести понятие доверительного интервала. Он рассчитывается с использованием заранее установленного уровня значимости, часто называемо го а (греческая буква «альфа»), которая наиболее часто принимается за 0,05, как это обсуждалось ранее. Доверительный уровень рассчитывается как 1 - а или, в процентном виде, 100(1 - а)%. Таким образом, при а = 0,05 доверительный уро вень составляет 0,95, или 95%, и в научных журналах обычно требуется указывать 95%-ный доверительный интервал в дополнение к точечным оценкам статистик. Идея доверительных интервалов состоит в том, что если повторить исследова ние бесконечное число раз, каждый раз анализируя новую выборку из генеральной совокупности и используя доверительные интервалы, рассчитанные для каждой из этих выборок, доверительный интервал будет содержать истинное значение па раметра, которое нужно оценить в данном исследовании, х% раз (где х - это дове рительный уровень). Например, если интересующая нас статистика - это среднее и мы используем 95%-ный доверительный интервал, после бесконечного числа извлечений выборки и вычисления выборочного среднего в 95% случаев среднее значение для генеральной совокупности будет находиться в пределах доверитель ного интервала. 92 Глава 3. Статистический вывод Доверительный интервал содержит важную информацию об аккуратности то чечной оценки. К примеру, представьте, что у нас есть две выборки студентов, и в обоих случаях среднее значение IQ (средний коэффициент умственного разви тия) составляет 100. Однако в одном случае 95%-ный доверительный интервал составляет (95, 105), а в другом случае - (80,. 120). Поскольку первый доверитель ный интервал намного уже второго, оценка среднего более точна в первом случае. Кроме того, более широкий доверительный интервал для второй группы свиде тельствует о том, что изменчивость по IQ в этой группе выше (хотя для проверки этой гипотезы потребуется дополнительный анализ данных). Значения р Очевидно, что при работе с предсказательной статистикой мы в целом пытаемся оценить значение того, чего не можем измерить напрямую. Например, мы не мо жем обследовать каждого гипертоника на планете, но мы можем собрать данные о выборке людей с повышенным давлением и сделать выводы иа основании этой выборки. Мы знаем, что при таком подходе всегда существует некоторая вероят ность ошибки, включая вероятность того, что значимые результаты будут получе ны из-за влияния случайных причин, таких как ошибки извлечения выборки, а не из-за факторов, представляющих интерес для исследования. Значение р характеризует вероятность того, что результаты, по крайней мере настолько же выбивающиеся из общей массы, как которые получены при анализе выборки, случайны. Слова «по крайней мере настолько же выбивающиеся из об щей массы» включены в определение потому, что многие статистические тесты ос нованы на сравнении статистики с некоторым теоретическим распределением, и часто (как в случае нормального распределения) значения, расположенные ближе к центру распределения, встречаются чаще значений, расположенных дальше от центра (выбивающихся из общего ряда). Даже если распределение асимметрич но (как, например, распределение хи-квадрат), сильно отличающие от среднего значения обычно реже встречаются, так что принцип определения вероятности результатов, по крайней мере настолько же выбивающихся из общей массы, как полученные в ходе исследования, остается полезным. Рассмотрение простого примера может прояснить ситуацию. Представьте, что мы проводим эксперимент по подбрасыванию «правильной» монеты, то есть та кой монеты, у которой выпадение орла и решки равновероятно при каждом брос ке. Формально мы можем записать это в таком виде: Р(орел) = Р(решка) = 0,5. Каждый бросок монетки можно назвать испытанием. Поскольку вероятность выпадения орла при каждом броске равна 0,5, самая надежная оценка числа орлов, выпавших при 10 испытаниях, - это 5, хотя мы знаем, что в каждом отдельном случае при 10 бросках может выпасть разное число орлов. Представим, что мы подбросили монетку 10 раз и 8 раз выпал орел. Мы хотим вычислить значение р для этого результата, то есть насколько ожидаемо то, что монетка с вероятностью Z-статистика 93 выпадения орла при каждом отдельном испытании 0,5 8 раз упадет орлом вверх в 10 испытаниях. При помощи таблицы биномиального распределения, компьютерной програм мы или формулы бинома Ньютона мы выясним, что вероятность данного резуль тата (8 орлов при 10 испытаниях) равна 0,0439, означая, что меньше чем в 5% случаев при 10 подбрасываниях «правильной» монеты выпадут точно 8 орлов. Ве роятность выпадения 9 орлов при 10 испытаниях равна 0,0098, а 10 орлов - 0,001. Отсюда видно, что чем сильнее результат отличается от ожидаемого (5 орлов при 10 испытаниях), гем менее он вероятен. Если мы оцениваем вероятность того, что монета «правильная», далекие от на ших ожиданий (5 орлов при 10 испытаниях) результаты дают нам веские основа ния считать ее неправильной. При решении задач такого типа мы обычно вычис ляем вероятность не просто полученного результата, но результатов, которые по меньшей мере настолько же выбиваются из общей массы. В этом случае вероят ность выпадения 8, 9 или 10 орлов при 10 подбрасываниях монетки составляет 0,0439 + 0,0098 + 0,0010, или 0,0547. Это значение р для выпадения по меньшей мере 8 орлов при 10 подбрасываниях монетки, для которой вероятность выпадения орла при каждом броске составляет 0,5. Значения р обычно приводятся в качестве результатов исследований, в которых задействованы статистические вычисления, отчасти потому, что интуиция - это плохой индикатор необычности результатов. Например, многие люди могут ду мать, что выпадение 8 или более орлов при 10 бросках правильной монеты не обычно. Статистическое определение «необычного» отсутствует, поэтому мы будем использовать общепринятый стандарт о том, что значение р для наших ре зультатов должно быть меньше 0,05, для того чтобы мы отвергли нулевую гипоте зу (которая в нашем случае состоит в том, что монета - «правильная»). В данном примере, что немного удивительно, этот стандарт не выполняется. Значение р для нашего результата (8 орлов при 10 испытаниях) не позволяет отвергнуть нулевую гипотезу о том, что монета «правильная», то есть Р(орел) = 0,5, поскольку 0,0547 больше 0,05. Z-статистика Z-статистика аналогична Z-значению, которое обсуждалось ранее, за одним важ ным исключением: вместо того чтобы оценивать вероятность определенного зна чения, теперь мы интересуемся вероятностью определенного среднего значения для выборки. Z-статистика - это важный пример применения теоремы централь ного предела, которая позволяет вычислить вероятность результата, полученного для выборки, при помощи нормального распределения, даже если распределение значений генеральной совокупности, из которой происходит выборка, нам неиз вестно. Формула для вычисления Z-статистики (рис. 3.20) сходна с формулой для рас чета Z-значения (рис. 3.3). 94 Глава 3. Статистический вывод z=l^H а л/л Рис. 3.20. Формула для вычисления Z-статистики В этой формуле: х - это среднее значение для нашей выборки; р - среднее значение для генеральной совокупности; а - стандартное отклонение для генеральной совокупности; п - размер выборки. Существенное различие между формулами для расчета Z-значения и Z-статис тики - это числитель: в случае Z-значения мы делим на а, а в случае Z-значения мы делим на а/л/п. Обратите внимание на то, что для вычисления Z-статистики мы должны знать среднее значение и стандартное отклонение для генеральной совокупности; если мы знаем только среднее, но не стандартное отклонение, мы вместо этого можем вычислить ^-статистику (обсуждается в главе 6). Вам может помочь представление о Z-значении как о Z-статистике для выборки из одного объекта, так что знаменатель будет равен а/у/1, это то же самое, что и а, в резуль тате мы получим знакомую формулу для вычисления Z-значения. Знаменатель в формуле для вычисления Z-статистики называется стандарт ной ошибкой среднего, иногда сокращаемой как СОС* или записываемой в виде а_. Стандартная ошибка среднего - это стандартное отклонение распределения значений выборочных средних. Поскольку знаменатель делится на Vrc, большие выборки при прочих равных будут характеризоваться большими значениями Z-статистики. Это станет ясным, если рассчитать Z-статистику для нескольких выборок, которые различаются только размером. Предположим, мы создадим три выборки из генеральной совокупности со средним значением, равным 50, и стан дартным отклонением, равным 10: выборка 1:1 = 52, п = 30; выборка 2: х = 52, п = 60; выборка 3: х =52 ,п = 100. Расчеты значений Z-статистики для каждой выборки приведены на рис. 3.21, 3.22,3.23. 52-50 10 1.10 л/30 Рис. 3.21 . Z-статистика для выборки (х = 52, п = 30) из генеральной совокупности ~Л/(50, 10) В русскоязычном литературе такое сокращение используется краппе редко, а английская аббревиа тура SEM (standard error of the mean) широко распространена. - Прим. пер. 95 Z -статистика „ 5 2 -5 0 = 1.55 2 =^ С П л/60 Рис. 3.22. Z-статистика для выборки (х = 52, п = 60) из генеральной совокупности -N(50, 10) 5 2 -5 0 10 = 2.00 л/кю Рис. 3.23. Z-статистика для выборки (х= 52, п =100) из генеральной совокупности ~Л/(50, 10) Эти примеры ясно демонстрируют, что размер выборки существенно влияет на результаты и что, при прочих равных условиях, большая выборка характеризуется большим Z-значением. Эта тема гораздо более подробно разбирается в разделе, посвященном размеру выборки и мощности, в главе 15, а здесь отметим лишь, что такой результат интуитивно понятен. Z-статистика рассчитывается при делении числителя на знаменатель, и большие размеры выборки (п) приводят к уменьше нию знаменателя и, следовательно, к увеличению модуля Z-значения (при усло вии, что числитель остается постоянным). Мы говорим про модуль, поскольку при отрицательном числителе Z-значение будет меньшим при больших п (при прочих равных условиях), хотя все равно более далеким от 0. Например, в данном при мере, если наше выборочное среднее будет равным 48, а не 52, Z-значения будут равны -1,10, -1,55 и -2,00. Предположим, мы проверяем двустороннюю гипотезу со значением альфа 0,05. В этом случае нам также нужны p -значения для каждой выборки, которые состав ляют: выборка 1\р = 0,2713; выборка 2: р = 0,1211; выборка 3: р = 0,0455. Только третья выборка дает значимые результаты, то есть только для этой вы борки значение р меньше заданного уровня а = 0,05, что позволяет нам отвергнуть нулевую гипотезу. Это подчеркивает важность достаточного объема выборки при проведении' исследования. Вычислить значение р для заданного Z-значения можно несколькими способа ми: с использованием статистических программ, онлайн-калькуляторов (h ttp :// graphpad.com/quickcalcs/PValuel.cfml или вероятностных таблиц. Вероятност ные таблицы для нескольких наиболее распространенных типов распределения, включая нормальное, приведены в приложении D вместе с инструкциями по их использованию. 96 Глава 3. Статистический вывод Преобразования данных Многие из наиболее распространенных методов статистического анализа назы ваются параметрическими, это означает, что в их основе лежат определенные допущения о распределении значений в генеральной совокупности, из которой происходит выборка. Если данные в выборке свидетельствуют о том, что эти до пущения не выполняются, у исследователя есть в запасе несколько подходов к анализу данных. Один - использование непараметрических методов, в основе которых лежит меньше (или вообще никаких) допущений о типе распределения данных. Непараметрические статистики обсуждаются в главе 13. Другая возмож ность - это преобразовать данные некоторым образом так, чтобы выполнялись до пущения, лежащие в основе нужного статистического метода. Существует много способов преобразования данных, в зависимости от нужного типа распределения данных и нарушенных допущений. Мы рассмотрим один случай преобразования набора данных с целью приближения его распределения к нормальному, одна ко обсуждаемые нами общие принципы также применимы к другим задачам по преобразованию данных. Дальнейшую информацию о преобразованиях данных можно почерпнуть из более полного учебника, например написанного Mosteller и Tukcy (ссылка приведена в приложении С). Первый шаг в преобразовании данных - это рассмотреть внимательно набор данных и решить, какое преобразование подходит в данном случае и нужно ли оно вообще. Для анализа данных с этой целью рекомендуются два подхода. Один заключается в графическом изображении данных, например в виде гистограммы с наложенной кривой нормального распределения. Это позволяет визуально оце пить распределение данных в общих чертах, а также предоставляет возможность обнаружить выбросы (экстремальные или необычные значения). Понимание об щей формы распределения данных также помогает решить, какой тип преобразова ний можно попробовать применить. Второй подход - вычислить одну из статистик, разработанных для проверки соответствия данных определенному распределению. Обычно в этих целях используются две статистики - Андерсона-Дарлинга и Кол могорова-Смирнова. Алгоритмы вычисления этих статистик включены во многие статистические пакеты, и различные статистические калькуляторы, доступные в Интернете, также могут вычислять одну из них или обе. К примеру, статистичес кий калькулятор для проведения теста Колмогорова-Смирнова доступен по этому адресу: http://jum k.de/statistic-calciilator/. Смещенное влево распределение данных (это значит, что низкие значения бо лее обычны и «хвост» из менее частых высоких значений «тянется» в правой части гистограммы) может быть приближено к нормальному при помощи извлечения квадратного корня или логарифмирования. В первом случае вычисляется квадрат ный корень каждого значения. Если исходное значение равно 4, преобразованное значение равно 2, поскольку V4 = 2. При логарифмическом преобразовании вычис ляется натуральный логарифм каждого значения, так что если исходное значение равно 4, то после преобразования оно равно 1,386, поскольку 1п(4) = 1,386. Каждое из этих преобразований может быть с легкостью осуществлено при помощи ста тистической программы, карманного калькулятора или электронной таблицы. 97 Преобразования данных Ha рис. 3.24 представлено смещенное влево распределение данных. На рис. 3.25 показано распределение тех же данных после извлечения из них квадратного кор пя, а на рис. 3.26 показаны те же данные после логарифмирования (то есть на гисто грамме представлены натуральные логарифмы данных с рис. 3.24). Визуальное сравнение этих трех диаграмм позволяет заключить, что распре деление на рис. 3.24 сильно смещено влево и не соответствует наложенной кри вой нормального распределения. Распределение на рис. 3.25 больше похоже па нормальное, а на рис. 3.26 распределение стало из смещенного влево смещенным вправо, так что оно тоже отличается от нормального. Мы также можем провести статистические тесты, чтобы понять, привели ли преобразования к приемлемому распределению данных. С этой целью мы рассчи таем одновыборочную статистику Колмогорова-Смирнова (К -С ), чтобы оценить, насколько хорошо каждый набор данных соответствует идеальному нормальному распределению. Для расчетов использовали программу SPSS, хотя они могли быть также проведены при помощи любой другой статистической программы. Результа ты для этих трех наборов данных приведены в табл. 3.2. Таблица 3.2. Z-статистики Колмогорова-Смирнова и p -значения для трех наборов данных Z -статистика Колмогорова-Смирнова Р Исходные данные Извлечение квадратного корня Вычисление натурального логарифма 1.46 0,66 1.41 0.029 0.78 0.04 Рис. 3.24. Гистограмма для данных со смещенным влево распределением (исходные значения) 98 Глава 3. Статистический вывод Рис. 3.25. Гистограмма для данных со смещенным влево распределением после извлечения из них квадратного корня Рис. 3.26. Гистограмма для данных со смещенным влево распределением после их логарифмирования Нулевая гипотеза для одновыборочного К -С теста заключается в том, что распределение данных соответствует заданному (в нашем случае нормальному). Альтернативная гипотеза состоит в том, что распределение данных отличается от заданного. Программа SPSS вычисляет и К-С-статистику (Z-значение К -С ), и Упражнения 99 р-значение для этой статистики, а мы будем придерживаться правила, при котором нулевая гипотеза отвергается, еслир < 0,05. Согласно результатам из табл. 3.2, мы отвергаем нулевую гипотезу для исходных и логарифмированных данных, по нам не удается ее отвергнуть для квадратного корня из данных. Таким образом, если мы хотим использовать эти данные для методов, предназначенных для работы с нормально распределенными данными, мы должны использовать преобразование с извлечением квадратного корня. Если значения переменной смещены вправо (то есть много высоких значений с «хвостом» редких низких значений, «протянувшимся» влево), вы можете «зер кально отразить» данные, а затем извлечь из них квадратный корень или логариф мировать. Для «зеркального отражения» переменной прибавьте единицу к мак симальному значению в данных и вычтите каждое значение переменной из этого нового числа. Например, если наибольшее значение равно 35, вычитайте каждое значение из 36 (то есть 35 + 1), чтобы получить «отраженные» значения. Это зна чит, что исходное значение 1 превратится в 35, исходное значение 2 превратится в 34 и так далее, вплоть до исходного значения 35, отраженное значение которого равно 1 (36 - 35). Такое «отражение» превращает смещенное вправо распределе ние в смещенное влево, а затем можно извлечь квадратный корень из данных или логарифмировать их и понять, приближают ли эти процедуры распределение дан ных к нормальному. Преобразование данных - не гарантированное решение проблем с распределе нием; иногда преобразование только усиливает имеющуюся проблему или порож дает новую! По этой причине преобразованные данные нужно все время проверять на нормальность, как мы делали перед этим, чтобы убедиться, что преобразование привело данные к нужному распределению. Учтите также, что преобразование ме няет единицу измерения данных. Например, если вы логарифмировали значения кровяного давления, единицей измерения стал логарифм единиц, в которых изме ряется кровяное давление. Если вы «зеркально отражаете» значения переменной, они меняются местами (максимальное значение становится минимальным), так что интерпретация любой статистики, основанной на этих значениях, тоже долж на быть «зеркально отраженной». По этим причинам действие любого преобразо вания данных нужно учитывать при донесении до окружающих и интерпретации статистических результатов. Упражнения Задача В каждом из приведенных наборов переменных какие, скорее всего, будут зави симыми, а какие - независимыми при проведении исследования? 1. Пол, потребление алкоголя, стиль вождения. 2. Средний балл в школе, средний балл на первом курсе университета, выбор профильной дисциплины в университете (до зачисления), этническая при надлежность, пол. 100 я ;"‘ Глава 3. Статистический вывод 3. Возраст, этническая принадлежность, отношение к курению, вероятность рака легких. 4. Аккуратность выполнения задания по программированию, тип получен ных инструкций, время тренировки и уровень тревожности. Решение Учтите, что на эти вопросы есть более одного правильного ответа. Приведенные ответы просто представляют собой наиболее распространенные схемы исследова ний. 1. Пол - это независимая переменная (ни потребление алкоголя, ни стиль вождения па него не влияют). Потребление алкоголя - это, скорее всего, независимая переменная, а стиль вождения - зависимая, так что исследо ваться будет влияние алкоголя и пола на стиль вождения. Хотя можно раз работать экспериментальную схему, в которой роли потребления алкоголя и стиля вождения поменяются местами, возможно для проверки предпо ложения о том, что люди склонны уменьшить потребление алкоголя после серьезной аварии. 2. Средний балл на первом курсе университета - это, скорее всего, зависимая переменная. По хронологическим соображениям средний балл в школе бу дет независимой переменной (поскольку школа идет раньше университе та). Этническая принадлежность и пол - тоже независимые переменные, поскольку это характеристики человека. По соображениям хронологии вы бор профильной дисциплины в университете - это независимая перемен ная, если средний балл первокурсника - переменная зависимая, поскольку выбор профильной дисциплины осуществляется до поступления, а сред ний балл подсчитывается после окончания первого курса. 3. Вероятность рака легких - это, скорее всего, зависимая переменная, а воз раст, этническая принадлежность и стиль курения - независимые. 4. Аккуратность выполнения задания - это, скорее всего, зависимая перемен ная, а все остальные - независимые. Задача Почему теорема о центральном пределе чрезвычайно важна при использовании предсказательной статистики? Решение Теорема центрального предела гласит, что распределение выборочных средних приближается к нормальному вне зависимости от типа распределения значений в генеральной совокупности, из которой происходят эти выборки, если их размер достаточно велик. Это важно, поскольку при достаточном размере выборки мы можем использовать нормальное распределение для расчета вероятности резуль татов, полученных для выборки, даже если нам неизвестно распределение значе ний в генеральной совокупности, из которой происходят выборки. Упражнения 101 Задача Какой тип извлечения выборки описан в каждом из приведенных ниже сцена риев? 1. Цель состоит в сборе информации по дефициту железа в пробах крови у жителей США. Выборка извлекается из групп испытуемых, которые вы бирают из вложенных друг в друга территорий страны. Регионы выбирают случайно, внутри них случайно выбирают штаты и так далее до отдельных домов. 2. Цель состоит в том, чтобы выяснить, как ученики начальной школы отно сятся к недавно назначенному директору. Исследователь хочет проанали зировать равное число мальчиков и девочек, так что в школу прислан ин тервьюер с указанием опросить по 10 учеников каждого пола из тех, кого он встретит на игровой площадке по завершении одного учебного дня. 3. Нужно узнать больше о семейной жизни офицеров полиции, работающих в большом городе, включая то, как влияет на семейную жизнь занятость супруги(а) офицера вне дома. Есть полный список всех мужчин и женщин, которые служат офицерами в данном городе, и при помощи компьютера извлекается случайная выборка из 200 человек, указанных в этом списке. Эти люди затем опрашиваются по телефону. 4. Директор фабрики озадачен тем, что качество деталей, производимых в разное время суток, может быть неодинаково (фабрика работает круглосу точно). План извлечения выборки заключается в отборе 30 деталей 9 раз в течение рабочего дня, причем время отбора образцов определяется случай но в пределах каждой из грех частей суток. Для каждой части суток одна выборка будет взята в первые два часа, одна - в следующие шесть часов, и еще одна - в последние два часа. Решение 1. Гнездовая выборка. 2. Выборка по группам (и нерепрезентативная). 3. Простая случайная выборка. 4. Расслоенная выборка. Задача У вас есть тест из 10 вопросов, в котором неправильные ответы не штрафуются. Для каждого вопроса есть пять вариантов ответа, так что метод случайного выбора дает 20%-ную вероятность правильного ответа на каждый вопрос. При условии что вы просто угадываете правильный ответ, какова вероятность ровно трех пра вильных ответов? Решение На этот вопрос можно ответить при помощи биномиального распределения с п= 10, /г = 3 и р = 0,2, как показано на рис. 3.27. Глава 3. Статистический вывод Р ( к = 3;10,0.20) = 0.23(1 - 0 .2 ) 7 = 0.20 Рис. 3.27. Вычисление Ь( 3; 10, 0.2) Получается, что вероятность получения ровно трех правильных ответов при за данных условиях составляет 0,2, или 20%. Согласно рис. D.8 (вероятностная таблица для биномиального распределения в приложении D), табличное значение вероятности составляет 0,20133, что при округлении дает 0,20. Задача Какова вероятность правильного ответа на три или более вопроса при условиях, описанных в предыдущей задаче? Решение На этот вопрос также можно ответить при помощи биномиального распределе ния п = 10, к = 3 и р = 0,2. Проще вычислить вероятность получения правильных ответов не более чем на два вопроса, а затем вычесть эту вероятность из единицы, так что мы используем именно этот подход. Мы можем поступить так, поскольку вероятность всех возможных событий всегда равна 1, а «по меньшей мере три пра вильных ответа» и «не более чем два правильных ответа» вместе учитывают все возможные события. Мы находим необходимые вероятности при помощи бинома Ньютона: P(k = 0) = 0,11 P(k= 1) = 0,27 P(k = 2) = 0,30 P( k> 3)= 1 - P ( k < 2 ) = 1 -(0 ,1 1 + 0,27 + 0,30) = 0,32 Таким образом, вероятность получения трех и более правильных ответов при заданных условиях составляет 0,32, или 32%. Согласно рис. D.9 (кумулятивная вероятностная таблица для биномиального распределения в приложении D), табличное значение вероятности для Ь(2; 10,0,5) составляет 0,67780; 1 - 0,67780 = 0,3222, что при округлении дает 0,32. Задача Вычислите Z-зиачения для следующих данных, учитывая, что они происходят из нормального распределения с р = 100 и а = 2, и при помощи вероятностной таб лицы для стандартного нормального распределения (рис. D.3 в приложении D) найдите вероятность значений не меньшего, чем каждое из заданных. Указания по использованию вероятностных таблиц вместе с подробным решением каждой из этих задач даны в приложении D. a) 108; b) 95; c) 98. 103 Упражнения Решение a) Z = 4; Р(Z > 4,00) = 1 - (0,50000 + 0,49997) = 0,00003. Рис. 3.28. Z-значение для числа 108 из генеральной совокупности ~Л/( 100, 2) Ь) Z = -2,5; P(Z > -2,50) = 0,50000 + 0,49379 = 0,99379. Рис. 3.29. Z-значение для числа 95 из генеральной совокупности ~Л/( 100, 2) с) Z = -1,0; Р(Z > -1,00) = 0,50000 + 0,34134 = 0,84134. Рис. 3.30. Z-значение для числа 98 из генеральной совокупности ~Л/(100, 2) Задача Каким из приведенных ниже исходных значений свойственно наиболее экстре мальное (то есть сильнее отличающееся от 0 в положительную или отрицатель ную сторону) Z-значение? a) Значение 190 из генеральной совокупности с р = 180 и а = 4; b ) Значение 175 из генеральной совокупности с р = 200 и о = 5. Решение Второе значение более экстремальное, поскольку -5,0 дальше отстоит от 0, чем 2,5 (рис. 3.31 и 3.32). 190-180 4 2.50 Рис. 3 .3 1 . Z-значение для числа 190 из генеральной совокупности ~ЛУ( 180, 4) 1 7 5-200 5 -5.00 Рис. 3.32. Z-значение для числа 175 из генеральной совокупности ~Л/(200, 5) Задача Вычислите Z-статистику для каждой из следующих выборок, которые проис ходят из генеральной совокупности со средним значением 40 и стандартным от клонением 5. Используйте вероятностную таблицу для стандартного нормального 104 Глава 3. Статистический вывод распределения (рис. D.3 из приложения D) для нахождения вероятности значе ния, не превышающего заданное. a) х = 42, п = 35 b ) х = 42, п = 50 c) х = 39,п = 40 cl) х = 39, п = 80 Решение a) Z = 2,37; P(Z < 2,37) = 0,50000 + 0,49111 = 0,99889. 4 2 -4 0 Z =— | — = 2.37 л/35 Рис. 3.33. Z-статистика для выборки (х = 42, п = 35) из генеральной совокупности ~Л/(40, 5) Ь) Z = 2,83; P(Z < 2,83) = 0,50000 + 0,49767 = 0,99767. 750 Рис. 3.34. Z-статистика для выборки (х = 42, п = 50) из генеральной совокупности ~Л/(40, 5) с) Z = -1,26; P(Z < --1,26) = 1 - P(Z > -1,26) = 1 - (0,50000 + 0,39617) = -0,10383. Z - 39 - 40 - ! ^ л/40 Рис. 3.35. Z-статистика для выборки (х = 39, п = 40) из генеральной совокупности ~Л/(40, 5) d) Z — 1,79; P(Z<- -1,79) = 1 - P(Z > -1,79) = 1 - (0,50000 + 0,46327) = = 0,03673. ^ 3 9 -4 0 Z 5 " - 1'79 л/80 Рис. 3.36. Z-статистика для выборки (х = 39, п = 80) из генеральной совокупности ~Л/(40, 5) 105 Упражнения Задача Вы - директор начальной школы. В рамках комплексного обследования одна из ваших учениц получила в тесте на IQ (интеллект) 80 баллов. Вы знаете, что в данной возрастной группе значения IQ имеют нормальное распределение с пара метрами р = 100, а = 15. Какая статистика поможет вам интерпретировать резуль тат этой ученицы? Решение Z-значение поместит результат ученика в контекст распределения значений IQ других учеников этого возраста. Как показано на рис. 3.37, результат этой ученицы находится на 1,33 стандартных отклонения ниже среднего значения для ее возраст ной группы. Хотя многие факторы могут влиять на показатель IQ (отсюда и необ ходимость в комплексном обследовании), значение IQ ниже среднего позволяет предположить, что эта ученица будет испытывать больше трудностей в школе, чем те, кто показал более высокие результаты в тесте на IQ. Z= 8 0 -1 0 0 15 -1 .3 3 Рис. 3.37. Z-значение для числа 80 из генеральной совокупности ~Л/( 100, 15) Используя вероятностную таблицу для стандартного нормального распределе ния (рис. D.3 из приложения D), вы можете увидеть, что только для около 9% учеников (р = 0,09176) ожидаемый IQ не будет превышать указанного. Р(Z < -1,33) = 1 - P(Z > -1,33) = 1 - (0,50000 + 0,40824) = 0,09176. Задача Вы - исследователь-медик, изучающий эффект от вегетарианской диеты на уро вень холестерина. Предположим, что значения уровня холестерина в США у муж чин в возрасте 20-65 распределены нормально со средним значением 210 мг/децилитр и стандартным отклонением 45 мг/децилитр. Вы исследовали выборку из 40 мужчин в данной возрастной группе, которые придерживались вегетарианской диеты в течение по меньшей мере одного года, и отметили, что средний уровень холестерина для них составляет 190 мг/децилитр. Какая статистика поможет по местить вам результат в общий контекст? Решение Вы вычисляете Z-статистику, которая позволяет поместить среднее значение уровня холестерина для вашей вегетарианской выборки в общий контекст мужчин в США данной возрастной группы. Как показано на рис. 3.38, среднее значение уровня холестерина у вегетарианцев находится в 2,81 стандартного отклонения ниже, чем среднее для всей генеральной совокупности мужчин данной возрастной группы. Это свидетельствует о том, что растительная диета сопряжена с понижен ным уровнем холестерина. Так же как и в примере с IQ, на уровень холестерина 106 Глава 3. Статистический вывод могут влиять многие факторы, и медицинское исследование этой темы должно включать больше переменных. Это упрощенный пример для иллюстрации ис пользования Z-статистики. 1 9 0 -2 1 0 _45_ -2.81 л/40 Рис. 3.38. Z-статистика для выборки (х = 190, п = 40) из генеральной совокупности ~Л/(210, 45) Используя вероятностную таблицу для стандартного нормального распреде ления (рис. D.3 из приложения D), вы увидите, что вероятность получения ре зультата, который был бы по меньшей мере настолько экстремальным, согласно двустороннему тесту, составляет 0,00496, так что если ваше значение а = 0,05, этот результат достаточен для того, чтобы отвергнуть нулевую гипотезу (в данном слу чае о том, что растительная диета не влияет на уровень холестерина). (Z < -2,81) = 1 - P(Z> -2,81) = 1 - (0,50000 + 0,49752) = 0,00248. P(Z> 2,81) = 0.00248 (поскольку Z-распределение симметрично). P[(Z< -2,81) OR (Z> 2,81)] = 2 х (0,00248) = 0,00496. ГЛАВА 4. Описательная статистика и графическое представление данных Большая часть этой книги, как и большинства книг о статистике, посвящена ста тистической проверке гипотез, то есть тому, как делать выводы о генеральной сово купности, используя статистику, рассчитанную по выборке из нее. Однако данная глава посвящена другому виду статистики: описательной, то есть использованию методов статистики и графических подходов для представления информации об изучаемых данных. Практически все, кто связан с обработкой данных, использу ют оба вида статистики, и часто вычисление описательных статистик - это пред варительный этап перед итоговой стадией проверки гипотез. Особенно широко практикуют анализ графического представления данных и расчет простейших описательных статистик, чтобы лучше почувствовать анализируемые данные. Всегда полезно узнать свои данные лучше, и почти всегда время, проведенное за этим занятием, не тратится впустую. Описательная статистика и графическое представление данных могут быть и окончательным результатом статистического анализа. К примеру, в бизнесе может потребоваться следить за объемами продаж в разных местах или для разных продавцов и представлять эти данные с помощью графиков, без какого-либо применения этой информации для того, чтобы делать выводы (например, о других местах или годах) с использованием собранных дан ных. Генеральные совокупности и выборки Одни и те же данные можно рассматривать или как генеральную совокупность, или как выборку, в зависимости от целей их сбора и анализа. Например, итого вые оценки за экзамен для всех учеников класса - генеральная совокупность, если перед нами стоит цель описать распределение оценок в этом классе, но эти же оценки можно расматривать как выборку, если цель анализа состоит в том, чтобы на основании этих оценок сделать вывод об оценках других учепи- 108 Глава 4. Описательная статистика и графическое представление... ков (возможно, в других классах или школах). Анализ генеральной совокупнос ти подразумевает, что ваш набор данных представляет все интересующие вас объекты, так что вы можете напрямую судить о характеристиках этой группы. В противоположность этому при анализе выборки вы работаете только с час тью генеральной совокупности, и любые утверждения, которые вы делаете об этой большей группе на основании выборки, вероятностные, а не абсолютные. (Обоснование статистики вывода приведено в главе 3.) По практическим сооб ражениям выборки анализируют чаще, чем генеральные совокупности, посколь ку изучить все члены генеральной совокупности напрямую бывает невозможно пли непозволительно дорого. Различие между описательной статистикой и статистикой вывода принци пиально, и для проведения различий между ними был разработан набор услов ных обозначений и терминов. Хотя эти обозначения несколько различаются в разных источниках, как правило, числа, которые характеризуют генеральную совокупность, называют параметрами и обозначают греческими буквами, та кими как р (для среднего) и а (для стандартного отклонения); числа, которые описывают выборку, называются статистиками и обозначаются латинскими буквами, такими как х (выборочное среднее) и s (выборочное стандартное от клонение). Меры центральной тенденции Меры центральной тенденции, также известные как меры положения, обычно одни из первых статистик, которые рассчитывают для непрерывных переменных из только что полученных данных. Главная цель их расчета состоит в том, что бы дать представление о типичном или часто встречающемся значении в данной переменной. Три самые часто применяемые меры центральной тенденции - это среднее, медиана и мода. Среднее Среднее арифметическое, или просто среднее, - это то же самое, что в быту назы вают средним какого-то набора значений. Расчет среднего как меры центральной тенденции подходит для интервальных или характеризующих отношения данных, а среднее дихотомической переменной, закодированной как 0 и 1, дает долю случа ев, когда она принимает значение 1. Для непрерывных данных, к примеру резуль татов измерения роста или теста на IQ, среднее просто рассчитывают, сложив все значения и разделив сумму на их число (объем выборки). Среднее генеральной совокупности1 обозначают греческой буквой р («мю»), тогда как среднее выбор ки обычно показывают чертой над обозначением переменной: например, среднее х обозначается как х и читается как «х с чертой». Некоторые авторы также ис пользуют такую запись и для названий переменных. К примеру, можно обозначить «средний возраст» как возраст, что читается как «возраст с чертой». В случае генеральном совокупности его также намывают математическим ожиданием. - Прим. пер. М еры ц е н тр а ль н о й те н д ен ц и и 109 Положим, у нас есть генеральная совокупность с пятью элементами и вот зна чения переменной х для всех них: 100, 115, 93, 102, 97 Мы находим среднее х, сложив все эти значения и разделив на 5 (число значе ний): р = (100 + 115 + 93 + 102 + 97)/5 = 507/5= 101,4. Статистики часто используют принятую форму записи суммы, приведенную в главе 1, которая определяет статистику с помощью описания ее расчета. Расчет среднего одинаков как в случае выборки, так и в случае генеральной совокупнос ти; отличие только в символе, обозначающем само среднее. Среднее генеральной совокупности, записанное в виде суммы, представлено на рис. 4.1. Рис. 4 .1 . Формула для расчета среднего В этой формуле р - это среднее х по генеральной совокупности, п - это число наблюдений (число значенийх), ах. - это значение х в конкретном наблюдении. Греческая буква X {«сигма») обозначает сумму (сложение), а обозначения под и над «сигмсЗй» определяют набор значений, к которым должна быть применена эта операция. В данном случае требуется сложить все значения х от 1 до п. Символ i обозначает положение в данных, так что х х - это первое значение в данных, х.} - это второе значение, а х п - последнее. Символ суммы означает, что мы должны сло жить все значения х о т первого (xt) до последнего (х/;). Таким образом, среднее по генеральной совокупности рассчитывается с помощью сложения всех значений исследуемой переменной и последующего деления на общее число значений, пом ня, что деление на п - это то же самое, что и умножение на X. Среднее - это интуитивно понятная мера центральной тенденции, которую легко осознать большинству людей. Однако среднее в этом качестве следует ис пользовать не для любых данных, поскольку оно чувствительно к экстремальным значениям, или выбросам (обсуждается подробнее ниже), и также может вести к неверным выводам в случае асимметричного распределения данных. Посмотрите на один пример. Положим, в нашем маленьком примере последнее значение было 297, а не 97. В таком случае среднее будет равно: р = (100+ 115 + 93 + 102 + 297)/5 = 707/5 = 141,4. Среднее 141,4 - это нетипичное значение для этих данных. На самом деле 80% данных (четыре значения из пяти) меньше среднего, которое искажено присутствием одного очень высокого значения. Эта проблема не просто теоретическая; многие данные тоже распределены та ким образом, что среднее не подходит для них в качестве меры центральной тен денции. Это часто правда для таких показателей, как данные о доходе на семью в Глава 4. О п и с а те л ь н а я ста тисти ка и гр а ф и ч е ск о е пр едста в лен и е ... США. Очень небольшое число крайне богатых семей делает средний доход на се мью гораздо выше типичного, и поэтому вместо среднего дохода часто используют медианный доход (подробнее про медиану см. ниже). Среднее также можно рассчитать, используя данные из таблицы частот, то есть таблицу, показывающую значения данных и то, как часто каждое из них встреча ется. Посмотрите на следующий пример в табл. 4.1. Таблица 4 .1 . Простая таблица частот Значение Частота 1 7 2 5 3 12 4 2 Для того чтобы получить среднее этих чисел, следует использовать колонку частот как переменную для взвешивания. То есть каждое значение надо умножить иа его частоту. Что касается знаменателя, сложите все частоты, чтобы получить суммарное п. Среднее затем рассчитывают, как показано на рис. 4.2. 11 = (1 х 7) + (2 х 5) + (3 х 12) + ( 4 x 2 ) (7 + 5 + 12 + 2) Рис. 4.2 . Расчет среднего по таблице частот Такой же результат можно получить, если сложить все значения (1 + 1 + 1 + 1 + ...) и разделить па 26. Среднее для сгруппированных данных, то есть в которых исходные данные были разбиты на несколько интервалов в соответствии со значениями, а точные значения теперь неизвестны, рассчитывается похожим образом. Поскольку мы не знаем точные значения для каждого наблюдения (мы, к примеру, знаем, что пять значений попали в интервал между 1 и 20, но не знаем, что это были за значе ния), для расчетов мы используем середину интервалов как подстановочное чис ло вместо точных значений. Таким образом, чтобы посчитать среднее, мы сначала рассчитываем середину каждого интервала, а затем умножаем его на число значе ний в интервале. Для расчета середины интервала сложите его крайние значения и разделите на 2. К примеру, середина для интервала 1-20 будет: (1 + 2 0 )/2 = 10,5. Среднее, рассчитанное таким образом, называется групповым средним. Груп повое среднее не так точно, как среднее, посчитанное с помощью изначальных данных, но часто это единственное, что можно сделать, потому что сырые дан ные не доступны. Посмотрите иа следующий пример сгруппированных данных в табл. 4.2. in М еры ц е н тр а ль н о й те н д ен ц и и Таблица 4.2. Сгруппированные данные Промежуток Частота Середина 1-20 5 10.5 21-40 25 30.5 4 1 -60 37 50.5 61-80 23 70.5 81-100 8 90.5 Среднее рассчитывают, умножая середину каждого интервала на число значе ний в нем (частота) и деля на суммарную частоту, как показано на рис. 4.3. (10.5 х 5) + (30.5 х 25) + (50.5 х 37) + (70.5 х 23) + (90.5 х 8) (5 + 25 + 37 + 23 + 8) 51.32 Рис. 4.3. Расчет среднего для сгруппированных данных Один из способов снизить влияние выбросов - это использовать усеченное среднее, также известно как винсоризованное средгше. Как следует из названия, усе ченное среднее рассчитывают, отсекая, или выбрасывая, определенный процент крайних значений в распределении, а затем подсчитывают среднее оставшихся значений. Цель состоит в том, чтобы среднее хорошо представляло большинство значений, но не подвергалось значительному влиянию крайних значений. Рас смотрите приведенный ранее пример второй генеральной совокупности с пятью членами со значениями 100, 115, 93, 102 и 297. Среднее этой совокупности иска жено влиянием одного очень большого значения, так что мы рассчитываем усе ченное среднее, убрав самое большое и самое маленькое значения (эквивалентно удалению 20% самых больших и самых маленьких значений). Усеченное среднее рассчитывают так: (100+ 115+ 102)/3 = 317/3 = 105,7. Значение 105,7 гораздо ближе к типичным значениям в распределении, чем 141,4 - среднее по всем значениям. Конечно, мы будем редко встречаться с гене ральными совокупностями только с пятью членами, но принцип точно так же ра ботает и с большими наборами чисел. Обычно удаляют определенный процент дан ных с краев распределения. Применение такого подхода следует всегда указывать, чтобы было понятно, что на самом деле означает приведенное среднее. Кроме того, среднее можно рассчитывать и для дихотомических переменных, если закодировать их значения как 0 и 1, и в таком случае среднее будет экви валентно проценту случаев, в которых переменная принимает значение 1. Пред положим, у нас есть генеральная совокупность из 10 испытуемых, 6 из которых мужского пола, а 4 - женского, и мы закодировали мужчин как 1, а женщин как 0. Расчет среднего даст нам процент мужчин в совокупности: 112 Глава 4. Описательная статистика и графическое представление... р = ( 1 + 1 + 1 + 1 + 1 + 1 + 0 + 0 + 0 + 0)/10 = 6/10 = 0,6, или 60% мужчин. Медиана Медиана в данных - это срединное значение, если данные отсортировать по воз растанию или убыванию. Если есть п значений, то медиана формально определя ется как значение с порядковым номером (п + 1)/2, так что если п = 7, то средин ное значение - это значение с номером (7 + 1)/2, или четвертое значение. Если значений четное число, то медиана определяется как среднее арифметическое двух срединных значений. Это формально определяется как среднее значений под номерами ( п /2) и (п/ 2 + 1). Если значений шесть, то медиана - это среднее зна чений под номерами (6/2) и (6/2 + 1), то есть третьего и четвертого. Оба метода демонстрируются здесь: • нечетное число значений (5): 1,4,6,6,10; медиана = 6, потому что (5 + 1)/2 = 3, и 6 - это третье число в упорядоченном списке; • четное число значений (6): 1, 3, 5, 6, 10, 14; медиана = (5 + 6)/2 = 5,5, по скольку 6/2 = 3 и 6/2 + 1 = 4 , а 5 и 6 - это третье и четвертое значения в упорядоченном списке. Медиана лучше среднего в качестве меры центральной тенденции для симмет ричных данных или данных с выбросами. Это связано с тем, что медиана основана на рангах, а не на самих значениях, и по определению половина значений лежит ниже медианы, а половина - выше, вне зависимости от конкретных чисел. Таким образом, не имеет значения, есть ли в данных какие-то очень большие или ма ленькие значения, потому что они не повлияют на медиану сильнее, чем менее отклоняющиеся значения. К примеру, медианы всех трех показанных ниже рас пределений равны 4: распределение Л: 1, 1, 3, 4, 5, 6, 7; распределение Б: 0.01, 3, 3, 4, 5, 5, 5; распределение В: 1, 1, 2, 4, 5, 100, 2000. Разумеется, медиана далеко нс всегда подходит как мера центральной тенден ции для описания генеральной совокупности или выборки. В чем-то это дело вкуса; в данном примере медиана, похоже, неплохо отражает данные в распреде лениях А и Б} но, видимо, не в распределении В, в котором данные настолько раз бросаны, что использование одного числа для его характеристики вообще может быть некорректно. Мода Третья обычная мера центральной тенденции - это мода, которая несет информа цию о самом часто встречающемся значении. Мода часто полезна при описании порядковых или категориальных данных. К примеру, представьте, что следующие числа отражают предпочитаемый источник новостей у студентов, где 1 - газеты, 2 - телевизор, 3 - Интернет: из Меры центральной тенденции 1, 1,2, 2, 2, 2,3, 3, 3, 3,3,3, 3. Мы можем видеть, что Интернет - самый популярный источник, поскольку 3 - это модальное (самое частое) значение в этих данных. Когда моду используют для непрерывных данных, обычно ею называют опреде ленный промежуток значений (поскольку в случае множества вариантов значений, обычного для непрерывных данных, не может быть одного числа, встречающегося заметно чаще других). Если вы собираетесь так делать, стоит задать категории за ранее и использовать стандартные промежутки, если они существуют. К примеру, возраст взрослых часто собирают с точностью до 5 или 10 лет, и, возможно, если какие-то данные разделить на промежутки по 10 лет, то модальный возраст будет 40-49 лет. , Сравнение среднего медианы и моды В идеально симметричном распределении (таком как нормальное распределение, обсужденное в главе 3) среднее, медиана и мода в точности совпадают. В асиммет ричном распределении все они будут различаться, как показано в данных, изобра женных в виде гистограмм на рис. 4.4, 4.5 и 4.6. Для упрощения расчета моды мы разбили данные на промежутки по 5 (35-39,99, 40-44,99 и т. д.). Рис. 4.4. Симметричные данные 114 Глава 4. Описательная статистика и графическое представление... Данные на рис. 4.4 приблизительно нормальные и симметричные со средним 50,88 и медианой 51,02; самый частый интервал 50,00-54,99 (37 наблюдений), за которым следует 45,00-49,99 (34 наблюдения). В этом распределении среднее и медиана очень близки, а два самых частых промежутка тоже располагаются вокруг среднего. Рис. 4.5. Данные с правым плечом У данных на рис. 4.5 есть правое плечо; среднее составляет 58,18, и медиана 56,91. Среднее больше медианы - это типично для распределений с правым пле чом, поскольку очень большие значения «тянут» среднее наверх, но не оказывают такого влияния на медиану. Модальный промежуток - это 45,00-49,99 с 16 наблю дениями; тем не менее,в несколько других интервалов попало по 14 наблюдений, что делает их очень близкими в смысле частоты к модальному промежутку, из-за чего мода не так полезна в описании этих данных. У данных на рис. 4.6 есть левое плечо; среднее составляет 44,86, а медиа на - 47,43. Для распределений с левым плечом характерно среднее ниже медиа ны, поскольку очень маленькие «значения» тянут среднее вниз, но нс оказы вают такого влияния на медиану. Отклонение от симметричности на рис. 4.6 сильнее, чем на рис. 4.5, и это отражается в большей разнице между средним и медианой на рис. 4.6, чем на рис. 4.5. Модальный интервал для рис. 4.6 - это 45,00-49,99. Меры разброса 115 Рис. 4.6 . Данные с левым плечом Меры разброса Разброс говорит о том, насколько сильно рассеяны значения в данных. Из-за этого меры рассеяния часто называют мерами разброса. Знание разброса данных может быть так же важно, как и знание их центральной тенденции. К примеру, в двух совокупностях детей среднее IQ составляет 100, но в одном случае разброс может быть от 70 до 130 (от слабого отставания в развитии до почти гениальности), тогда как в другом разброс может быть от 90 до 110 (все в пределах нормы). Отличие может быть важным, к примеру, для учителей, поскольку, несмотря на одинаковый средний интеллект, разброс IQ в этих группах говорит о том, что у них могут быть различные образовательные и социальные потребности. Размах и межквартильный размах Самая простая мера разброса - это размах, то есть просто разность между самым большим и самым маленьким значениями в выборке. Часто минимальное (наи меньшее) и максимальное (наибольшее) значения также указывают при исполь зовании размаха. Для данных (95,98,101,105) минимум равен 95, максимум равен 105, а размах - 10 (105 - 95). Если в данных есть один или несколько выбросов, размах может не быть полезной мерой. К примеру, в данных (95, 98, 101, 105, 210) размах составляет 115, но почти все значения лежат в пределах 10 (95 - 105). Под счет размаха для любой переменной - это хороший метод знакомства с данными; 116 Глава 4. Описательная статистика и графическое представление... необычно большой размах или крайне экстремальные минимальное или макси мальное значения могут быть поводом для дальнейшего исследования. Крайне высокие или низкие значения или очень большой размах могут возникнуть из-за таких причин, как ошибка при вводе данных или включение наблюдения из дру гой генеральной совокупности, чем та, которую вы исследуете (данные для взрос лого могли случайно попасть в данные, касающиеся детей). Межквартильный размах - это альтернативная мера разброса, которая слабее подвержена влиянию крайних значений, чем размах. Межквартильный размах это диапазон изменчивости 50% данных из середины, который рассчитывают как разницу между 75% и 25% персентилями. Межквартильный размах легко полу чить с помощью большинства статистических программ, но несложно его посчи тать н вручную с помощью следующих правил (п = число наблюдений, к - это персснтиль, которую вам надо найти): 1. Отсортируйте все наблюдения по возрастанию. 2. Если пк/ЮО - целое (число без десятых или дробной части), то &-ая перссптиль наблюдений - это среднее наблюдений под номерами n k / 100 и п к / т + 1. 3. Если /7&/100 - не целое, к-ая персентиль совпадает с измерением номер / + 1, где j — максимальное целое число, меньшее п к /100. 4. Подсчитайте межквартильный размах как разность 75% и 25% персентилсй. Рассмотрим следующий набор данных с 13 наблюдениями (1, 2, 3, 5, 7, 8, 11, 12, 15, 15, 18, 18, 20): 1. Сначала мы найдем 25% персентиль, то есть к = 25. 2. У нас 13 наблюдений, так что п = 13. 3. (/7/0/ЮО = (25 х 13)/100 = 3,25, не целое, поэтому мы используем второй метод (№ 3 в предыдущем списке). 4. / = 3 (максимальное целое число, меньшее пк/iOO, то есть меньше 3,25). 5. Таким образом, 25% персентиль - это наблюдение номер j + 1, или четвер тое наблюдение, которое равно 5. Мы можем проделать те же шаги и для 75% персентили: 1. (/7/0/ЮО = (75*13)/100 = 9,75, не целое. 2. j = 9, максимальное целое, меньшее 9,75. 3. Таким образом, 75% персентиль равна значению номер 9 + 1 , или 10, и ко торое равно 15. 4. В итоге межквартильный размах равен 15 - 5, или 10. Устойчивость межквартильного размаха к выбросам должна быть очевидна. У этих данных размах равен 19 (20 - 1), а межквартильный размах равен 10; од нако если бы последнее значение было равно 200 вместо 20, размах бы составлял 199 (200 - 1), но межквартильный размах все также был бы равен 10, и это число лучше бы представляло большинство значений в данных. Меры разброса 117 Дисперсия и стандартное отклонение Самые часто используемые меры разброса для непрерывных переменных - это дисперсия и стандартное отклонение2. Обе из них описывают то, насколько от дельные значения в данных отличаются от среднего значения. Дисперсия и стан дартное отклонение рассчитывают слегка по-разному в зависимости от того, что исследуется, генеральная совокупность или выборка, но в целом дисперсия - это средний квадрат отклонения от среднего, а стандартное отклонение - это квадрат ный корень из дисперсии. Дисперсию генеральной совокупности обозначают как а 2(произносится как «сигма в квадрате»), а стандартное отклонение - а (греческая буква «сигма»), тогда как в случае выборки дисперсия и стандартное отклонение обозначаются как s2 и s соответственно. Отклонение от среднего для одного значения в данных рассчитывают как (х - р), где х. - эго i-e значение в данных, а р - это среднее всех значений. При работе с выборкой принцип тот же, только вы должны вычитать среднее но этой выборке (х) из каждого значения, а не среднее по генеральной совокупности. При записи в виде суммы формула для расчета суммы отклонений от среднего для пе ременной х для генеральной совокупности с п членами показана на рис. 4.7. п /-1 Рис. 4.7. Формула для суммы отклонений от среднего К сожалению, эта величина не несет особой пользы, потому что она всегда бу дет равна нулю, совсем не удивительный результат, если принять во внимание то, как рассчитывается среднее всех значений в наборе данных. Это легко продемонст рировать на примере небольшого набора чисел (1, 2, 3, 4, 5). Сначала рассчитаем среднее: р = (1 + 2 + 3 + 4 + 5)/5 = 3. Затем рассчитаем суммы отклонений от среднего, как показано на рнс. 4.8. п 2 ( ^ - ^ ) = (1 -3 ) + (2 -3 ) + (3 - 3 ) + ( 4 - 3 ) + ( 5 - 3 ) /-1 = ( - 2 ) + ( - 1) + 0 + 1 + 2 = 0 Рис. 4.8. Расчет суммы отклонений от среднего Чтобы обойти эту проблему, мы работаем с квадратами отклонений, которые по определению всегда положительны. Чтобы получить средний квадрат откло нения, или дисперсию, мы возводим каждое отклонение в квадрат, складываем их все и делим на число наблюдений, как показано на рис. 4.9. 2 Последнее часто также называют среднеквадратичным отклонением. - Прим. пер. 118 Глава 4. Описательная статистика и графическое представление... 2 2(*'-^)2 о = - п 77 Рис. 4.9 . Расчет суммы квадратов отклонений от среднего Формула дисперсии для выборки отличается, поскольку требует разделить на п - 1, а нс гг, причины чисто технические и связаны с числом степеней свободы и не смещенной оценкой. (Для подробного обсуждения см. статью Вилкинса (Wilkins), указанную в приложении С.) Формула для дисперсии выборки, обозначаемой как s2, приведена на рис. 4.10. Рис. 4.1 0 . Формула дисперсии для выборки Продолжая наш простейший пример со значениями (1, 2, 3, 4, 5), среднее рав но 3, и мы можем рассчитать дисперсию для этой генеральной совокупности, как показано на рис. 4.11. Если мы примем эти значения за измерения из выборки, а не за члены ге неральной совокупности, дисперсию следует рассчитывать, как показано на рис. 4.12. Обратите внимание, что из-за отличия в знаменателе формула дисперсии для выборки всегда будет давать больший результат, чем формула для генеральной совокупности, хотя при размере выборки, близком к размеру генеральной сово купности, отличие будет очень небольшим. Меры разброса 119 Раз квадраты всегда положительны (если не учитывать мнимые числа), то и дисперсия всегда будет не меньше 0. (Дисперсия будет равна нулю только в случае, если все значения переменной одинаковы, а в таком случае переменная является константой.) Однако при расчете дисперсии мы перешли от наших изначальных единиц к их квадратам, что может быть неудобно для интерпретации. К примеру, если мы измеряем массу в фунтах, нам бы было удобно, если бы меры централь ной тенденции и меры разброса тоже выражались в тех же единицах, чтобы не использовать среднее в фунтах, а дисперсию в фунтах в квадрате. Чтобы вернуть ся к изначальным единицам, мы извлекаем квадратный корень из дисперсии; эта величина называется стандартным отклонением, и она обозначается как о в случае генеральной совокупности и s для выборки. Формула для расчета стандартного отклонения для генеральной совокупности приведена на рис. 4.13. 1 п /-I Рис. 4.13. Формула стандартного отклонения для генеральной совокупности Обратите внимание, что это просто квадратный корень из формулы для диспер сии. В предыдущем примере стандартное отклонение можно найти, как показано на рис. 4.14. сг = л / с ^ = л/2~ = 1 .4 1 Рис. 4.1 4 . Связь между стандартным отклонением и дисперсией Формула для стандартного отклонения для выборки приведена на рис. 4.15. 120 Глава 4. Описательная статистика и графическое представление... Рис. 4.1 5 . Формула для стандартного отклонения для выборки Как и для стандартного отклонения для генеральной совокупности, в случае выборки стандартное отклонение - это квадратный корень из выборочной дис персии (рис. 4.16). 5 = л/ 7 = л/225 =1.58 Рис. 4 .1 6. Связь между стандартным отклонением и дисперсией В целом, в случае двух выборок одного объема с измерениями в одних единицах (например, две группы по 30 человек, у обеих измеряют массу тела в фунтах), мы можем утверждать, что у группы с большими дисперсией и стандартным отклоне нием больше разброс значений. Однако единица измерения влияет на величину дисперсии, что может усложнить сравнение разбросов переменных, измеренных в разных единицах. Очевидный пример: при измерении массы тела в унциях дис персия и стандартное отклонение будут больше, чем если измерять ее в фунтах3. В случае сравнения абсолютно разных единиц, вроде роста в дюймах и массы тела в фунтах, сравнить разброс еще сложнее. Коэффициент вариации (КВ) - мера от носительного разброса, позволяет обойти эту проблему и делает возможным срав нивать разброс между различными переменными, измеряемыми в разных едини цах. В данном случае КВ показан здесь для выборочного разброса, но его можно точно так же рассчитать и в случае генеральной совокупности, заменив s на а. КВ можно рассчитать, разделив стандартное отклонение па среднее, а затем умножив на 100, как показано на рис. 4.17. КВ = 3 * 1 0 0 я: Рис. 4.1 7 . Формула для коэффициента вариации (КВ) Если вспомнить предыдущий пример, он рассчитывается, как показано на рис. 4.18. кв = — 3 X 100 = 52.7 Рис. 4.1 8 . Расчет коэффициента вариации (КВ) КВ нельзя рассчитать, если среднее в данных равно 0 (потому что нельзя делить на пуль), и он особенно удобен, если все значения переменной положительны. 5 I фунт = 16 унций. - Прим. пер. 121 Выбросы В случае, если переменная содержит значения обоих знаков, среднее может быть близким к нулю, что, несмотря на разумный размах в данных, может привести к обманчивому значению КВ: знаменатель будет очень маленьким числом, н это приведет к очень большому значению КВ, хотя стандартное отклонение не слиш ком большое. Польза КВ должна стать совсем очевидной, если рассмотреть одни и те же дан ные, выраженные в футах и дюймах; к примеру, 60 дюймов - это то же самое, что и 5 футов. Данные, выраженные в футах, имеют среднее 5,5566, стандартное от клонение 0,2288; те же данные, выраженные в дюймах, имеют среднее 66,6790 п стандартное отклонение 2,7453. Тем не менее КВ не подвержен влиянию единиц измерения, и его значение не зависит от них с точностью до ошибки округления: 5,5566/0,2288 = 24,2858 (данные в футах); 66,6790/2,7453 = 24,2884 (данные в дюймах). Выбросы Среди статистиков нет полного согласия, как определить выбросы, но практически все согласны, что важно их выделить и использовать подходящие статистические методы в случае данных с выбросами. Выброс - это наблюдение в анализируемых данных, значение которого сильно отличается от других. Его часто описывают как значение в данных, которое как будто бы происходит из другой генеральной сово купности или выпадает из интервала типичных значений выборки. Предположим, вы исследуете учебную успеваемость в выборке или генеральной совокупности, и почти все испытуемые проучились от 12 до 16 лет (12 лет - окончание средней школы в Америке, 16 лет - оконченное высшее образование). Однако у одного из испытуемых значение этой переменной равно 0 (то есть он формально не получил никакого образования), а у другого - 26 (что предполагает много лет обучения после получения высшего образования). Вы, наверное, посчитаете эти два случая выбросами, поскольку их значения сильно отличаются от остальных данных в выборке или генеральной совокупности. Обнаружение и анализ выбросов - это важный предварительный этап во многих видах анализа, потому что наличие даже одного или двух выбросов может кардинальным образом исказить значения неко торых обычных статистик, таких как среднее. Кроме того, важно найти выбросы, потому что иногда они могут быть вызва ны ошибками при вводе данных. В предыдущем примере первое, что стоит про верить, - это правильно ли были записаны значения; может оказаться, что пра вильные числа - это 10 и 16, соответственно. Второе, что стоит изучить, - эго принадлежит ли данное наблюдение к исследуемой генеральной совокупности. Например, не относится ли 0 к продолжительности обучения ребенка, тогда как данные должны были содержать только информацию о взрослых? Если такие простые действия не позволяют решить проблему, придется приду мать (по возможности обсудив это с коллегами), что делать с выбросами. Можно 122 Глава 4. Описательная статистика и графическое представление... просто убрать из данных все наблюдения с выбросами до анализа, но допусти мость применения такого метода зависит от области исследований. Иногда сущест вует статистический метод исправить ситуацию с выбросами, к примеру усечен ное среднее, описанное ранее, хотя такие методы используют не во всех областях. Другие возможности - это преобразование данных (обсуждается в главе 3) или применение непараметрических методов (обсуждается в главе 13), на которые меньше влияют выбросы. Чтобы по возможности стандартизовать поиск выбросов, были разработаны раз личные эмпирические правила. Одно из обычных определений выброса, использую щее межквартпльный размах (МКР), состоит в том, что «слабые» выбросы - это те значения, которые меньше 25% персентили минус 1,5*МКР или больше 75% перссптпли плюс 1,5*МКР. В нормально распределенных данных настолько отклоняю щиеся значения ожидается встретить примерно 1 на 150 наблюдений. «Сильные» выбросы определяются аналогичным образом, но с заменой 1,5*МКР на 3*МКР; такие крайние значения ожидаются в нормальных данных примерно 1 на 425 000 наблюдений. Графические методы Существует великое множество методов графического представления данных от самых простых, включенных в программы для работы с электронными таблицами вроде Microsoft Excel, до очень специализированных и сложных, доступных с по мощью языков программирования вроде R. О правильном и ошибочном исполь зовании графики в представлении данных написаны целые книги. Лидирующим (хотя и с противоречивой позицией) экспертом в этой области является Эдвард Тафти (Edward Tuftc), профессор Йельского университета (магистр в области ста тистики и PhD в политических науках). Его наиболее известная работа - «Графи ческое изображение числовой информации» (The Visual Display of Quantitative Information, ссылка дана в приложении С), но все книги Тафти достойны того, чтобы с ними ознакомиться, всем интересующимся графическим отображением данных. Абсолютно невозможно рассказать о хоть сколько-нибудь заметной доле всех методов изображения данных в этом разделе, так что вместо этого мы обсу дим самые обычные подходы, включая и проблемы, связанные с ними. Легко забыться и приняться за построение навороченных графиков, особенно из-за того, что программы для работы с электронными таблицами и статисти ческие пакеты позволяют с легкостью создавать множество видов графиков и диаграмм. Термин Тафти для графических элементов, не несущих смысловой нагрузки, - «графический мусор» - точно описывает его отношение к таким изображениям. Стандарты того, что считают «мусором», а что нет, зависят от области, но как общее правило стоит использовать простейший вид графика или диаграммы, который понятным образом представляет ваши данные, при этом оставаясь в рамках стандартов, принятых в вашей профессии или области ис следований. Графические методы 123 Таблицы частот Первый вопрос, который стоит задать самому себе при подборе метода визуализа ции данных, - необходимо ли вообще графическое отображение. Это правда, что часто лучше один раз увидеть, чем сто раз услышать, но в других случаях табли цы частот оказываются полезнее для представления данных, чем их графическое изображение. Это особенно важно, когда нас интересует не общее распределение данных по нескольким категориям, а конкретные полученные значения. Таблицы частот являются очень эффективным способом представления больших объемов данных и являются чем-то средним между текстом (абзацами с описаниями зна чений данных) и чистой графикой (такой как гистограмма). Предположим, университет интересуется сбором данных об общем состоянии здоровья первокурсников. Из-за того, что все больше беспокойства в Соединен ных Штатах вызывает ожирение, одна из вычисляемых величин - это индекс мас сы тела (ИМТ), равный отношению массы тела в килограммах к квадрату роста в метрах. ИМТ - это не идеальный показатель. К примеру, спортсмены часто по казывают как очень низкие результаты (марафонцы, гимнасты), так и слишком высокие (футболисты, тяжелоатлеты), но его просто подсчитать, и в случае боль шинства людей это довольно надежная мера того, насколько у них здоровый вес. ИМТ - это непрерывная величина, но его часто интерпретируют в терминах категорий, используя принятые промежутки. Интервалы для ИМТ приведены в табл. 4.3, согласно данным Центра по предупреждению и контролю заболеваний (ЦПКЗ, Centers for Disease Control and Prevention, CDC) и Всемирной организа ции здравоохранения (ВОЗ), в целом принятым как полезные и верные. Таблица 4 .3. Категории ЦПКЗ и ВОЗ для ИМТ Интервал ИМТ Категория < 18.5 Пониженная масса тела 18.5-24.9 Нормальная масса тела 25.0-29.9 Избыточная масса тела 30.0 и выше Ожирение Теперь посмотрите на табл. 4.4, содержащую полностью выдуманные данные о классификации первокурсников по ИМТ. Таблица 4 .4. Распределение ИМТ среди первокурсников в 2005 году Интервал ИМТ Число < 18.5 25 18.5-24.9 500 25.0-29.9 175 30.0 и выше 50 Глава 4. Описательная статистика и графическое представление... 124 Эта простейшая таблица дает нам возможность при беглом просмотре понять, что большинство первокурсников имеют либо нормальную, либо повышенную массу тела, и лишь небольшое их число имеют пониженную массу тела или страда ют ожирением. Обратите внимание, что в этой таблице представлены сырые дан ные о числе испытуемых в каждой категории, которые иногда называют абсолют ной частотой; эти числа говорят о том, как часто каждое значение встретилось, что может быть полезно, если, к примеру, вам надо понять, скольких студентов необ ходимо проконсультировать о проблемах ожирения. Однако абсолютные частоты не ставят числа в каждой категории в какой-либо контекст. Мы можем сделать эту таблицу более полезной, если добавим столбец с относительной частотой, которая показывает процент от общей суммы, попавший в каждую категорию. От носительные частоты рассчитывают, разделив число наблюдений в каждой кате гории иа общее число наблюдений (750) и умножив результат па 100. В табл. 4.5 приведены как абсолютные, так и относительные частоты для этих данных. Таблица 4.5. Абсолютные и относительные частоты категорий ИМТ среди первокурсников в 2005 году Интервал ИМТ Число Относительная частота < 18.5 25 3.3% 18.5-24.9 500 66.7% 25.0-29.9 175 23.3% 30.0 и выше 50 6.7% Обратите внимание, что относительные частоты должны в сумме давать при близительно 100%, хотя может присутствовать небольшая ошибка из-за округле ния. Кроме того, мы можем добавить столбец с накопительной (кумулятивной) час тотой, которая показывает относительную частоту для этой категории и всех меньших значений, как в табл. 4.6. Накопительная частота для последней катего рии должна составлять 100% с точностью до ошибки округления. Таблица 4.6 . Накопительная частота ИМТ в наборе первокурсников 2005 года Интервал ИМТ Число Относительная частота Накопительная частота < 18.5 25 3.3% 3.3% 18.5-24.9 500 66.7% 70.0% 25.0-29.9 175 23.3% 93.3% 30.0 и выше 50 6.7% 100% Посмотрев на кумулятивные частоты, можно сразу понять, что, к примеру, у 70% поступивших нормальная или пониженная масса тела. Это особенно полезно в случае таблиц с большим числом категорий, поскольку позволяет читателю быс тро оценить важные точки в распределении, такие как нижние 10%, медиану (50% накопительной частоты) или верхние 5%. Графические методы 125 Кроме того, можно соорудить таблицу частот для сравнения между группами. Вас может интересовать, к примеру, сравнение распределений ИМТ среди юно шей и девушек на первом курсе или сравнение поступивших в 2005 году и в 2000 или 1995 годах. В таких ситуациях сырые данные обычно менее полезны (из-за того, что размер курса может различаться), а относительные и накопительные частоты оказываются пригодными для сравнения. Другая возможность состоит в подготовке графических изображений, таких как диаграммы, описываемые в сле дующем разделе, которые могут сделать подобные сравнения более попятными. Столбчатые диаграммы Столбчатые диаграммы особенно удобны для изображения дискретных данных с небольшим числом категорий, как в случае нашего примера с ИМТ среди перво курсников. Столбцы в столбчатых диаграммах обычно отделяются друг от друга, чтобы не возникало ощущения непрерывности; хотя в нашем случае категории ос нованы на разбиении непрерывной переменной, они с тем же успехом могут быть истинными категориями, такими как любимый спорт или область специализации в учебе. На рис. 4.19 приведена информация об ИМТ среди первокурсников в виде столбчатой диаграммы. (Если не сказано иное, диаграммы, показанные в этой гла ве, были созданы с помощью Microsoft Excel.) Группы, выделенные по ИМТ, среди первокурсников 2005 года Категория ИМТ Рис. 4.19. Абсолютные частоты категорий ИМТ среди первокурсников Абсолютные частоты используют тогда, когда надо знать число человек в опре деленной категории, тогда как относительные частоты - если необходимо попять соотношение чисел испытуемых, попавших в разные категории. Относительные частоты особенно удобны, что мы увидим дальше, при сравнении множества групп, к примеру чтобы помять, увеличивается или уменьшается год от года доля студен тов с ожирением. В случае простой столбчатой диаграммы решение об исполь зовании абсолютных или относительных частот не так важно, что можно видеть, сравнив столбчатую диаграмму с данными об ИМТ у студентов, представленную 126 Глава 4. Описательная статистика и графическое представление... относительными частотами иа рис. 4.20, с теми же данными в виде абсолютных частот на рис. 4.19. Обратите внимание, что две диаграммы идентичны, за исклю чением подписей оси у (вертикальной оси), на которых указаны абсолютные час тоты на рис. 4.19 и проценты на рис. 4.20. Группы, выделенные по ИМТ, среди первокурсников 2005 года 800/сп ои/о лпо/, 4U /и zinn/. Uто Ожирение 30.0 и выше Повышенная масса тела 25.0-2 9 .9 Нормальная масса тела 18.5-24.9 I----- Л Пониженная масса тела <18.5 лп/ Utoh Рис. 4.20. Относительные частоты категорий ИМТ среди первокурсников Использование относительных частот становится очень удобным, если мы сравниваем распределение студентов по категориями ИМТ в разные годы. По смотрите на гипотетическую информацию о частотах в табл. 4.7. Таблица 4.7 . Абсолютные и относительные частоты ИМТ в трех наборах студентов Интервал ИМТ 19 95 Пониженная масса тела < 1 8 .5 50 8.9% 45 6.8% 25 3.3% Нормальная масса тела 1 8 .5 - 2 4 .9 400 71.4% 450 67.7% 500 66.7% Избыточная масса тела 2 5 .0 - 2 9 .9 100 17.9% 130 19.5% 175 23.3% Ожирение 3 0 .0 и выше 10 1.8% 40 6.0% 50 6.7% В сумме 560 100.0% 665 100.0% 750 100.0% 2000 2005 Из-за того, что размеры курса различаются в разные годы, для поиска зависи мостей в распределении студентов по ИМТ удобнее всего использовать относи тельные частоты (проценты). В данном случае наблюдалось явное уменьшение доли студентов с пониженной массой тела, тогда как доля студентов с повышен ной массой тела или ожирением росла. Эту информацию также можно изобразить с помощью столбчатой диаграммы, такой как па рис. 4.21. Столбчатые диаграммы 127 Распределение ИМТ в трех потоках студентов 80% 60°/сг □ 1995 40% □ 2000 20% 0% ГТтс0;) U-) £«• uV < Z0 __ ^ - г т п 5С 5l-M ^ (3 «о I X 2 <2 cn 0t-) a> (N1 (0 | ио оam• < 2<n □ 2005 si Oo Рис. 4 .2 1 . Столбчатая диаграмма распределения ИМТ среди трех наборов студентов Это столбчатая диаграмма с группами, которая показывает, что присутствует слабый, но определенный десятилетний тренд уменьшения доли студентов с по ниженной и нормальной массой тела и роста доли студентов с повышенной массой тела или ожирением (что в целом отражает изменения среди населения Америки). Помните, что построение диаграммы не равноценно проведению статистического теста, так что мы не можем сказать из этого рисунка, что эти изменения статисти чески значимы. Другой вид столбчатых диаграмм, подчеркивающий относительные распре деления значений в каждой группе (в данном случае распределение категорий ИМТ в трех наборах первокурсников), - это составные столбчатые диаграммы, что проиллюстрировано на рис. 4.22. 100%□ Ожирение 30.0 и выше 80%- п Повышенная L-1масса тела 25.0-29.9 Нормальная □ масса тела 18.5-24.9 60% 40% г-1 Пониженная ы масса тела <18.5 20% 0%Н ------г 1 1995 2000 I т 2005 Рис. 4.22. Составная столбчатая диаграмма распределения ИМТ в трех наборах студентов В этом виде диаграмм каждый столбец соответствует одному году сбора данных и в сумме дает 100%. Относительные пропорции студентов в каждой категории 128 Глава 4. Описательная статистика и графическое представление... можно легко увидеть, сравнив доли площади столбцов, занятые данной категори ей. Такая организация данных позволяет без труда сравнить много наборов дан ных (в данном случае три года) между собой. Сразу же становится ясно, что со временем уменьшается доля студентов с пониженной и нормальной массой тела и растет доля студентов с повышенной массой тела или ожирением. Круговые диаграммы Всем знакомые круговые диаграммы представляют данные сходным образом с со ставными столбчатыми диаграммами: они графически показывают, какую часть от целого занимают отдельные категории. Круговые диаграммы, как и составные столбчатые диаграммы, особенно полезны только при небольшом числе катего рий, и если разница между ними достаточно большая. Многие занимают очень жесткую позицию в отношении к круговым диаграммам, и хотя их все равно еще часто применяют в некоторых областях, во многих других от них отказываются как от неинформативных в лучшем случае или даже потенциально вводящих в заблуждение, - в худшем. Так что я оставляю выбор в зависимости от контекста п договоренностей за вами; здесь я приведу ту же самую информацию об ИМТ в виде круговой диаграммы (рис. 4.23) и предоставлю вам самим судить о том, полезный ли это способ представления данных. Обратите внимание, что это одна круговая диаграмма, изображающая данные наблюдений одного года, но есть и другие возможности, включая расположение двух диаграмм рядом (для сравне ния соотношений долей разных групп) и отдельное увеличенное изображение определенных секторов (чтобы показать их более мелкое разделение на группы). 2% 9% □ Пониженная масса тела <18.5 □ Нормальная масса тела 18.5-24.9 □ Повышенная масса тела 25.0-29.9 □ Ожирение 30.0 и выше Рис. 4.23. Круговая диаграмма, показывающая распределение ИМТ среди первокурсников, поступивших в 2005 году Флоренс Найтингейл и статистическая графика Многие люди хотя бы в общих чертах слышали о роли Флоренс Найтингейл (Florence Nightingale) в создании профессии медсестры и ее героических усилиях в борьбе за улуч шение гигиены и качество ухода в британской армии в ходе Крымской войны. Но мень- Столбчатые диаграммы 129 ше людей знают о ее вкладе в развитие статистической графики, включая эффективное применение графиков и диаграмм для донесения медицинской информации. Найтингейл также изобрела новый вид графиков, диаграмму в полярных координатах (который она называла «диаграммой щеголей» (coxcomb chart), а другие - диаграммой розы Найтингейл) для изображения и сравнения информации, такой как причины гибели (от ран, полученных в сражении, болезней и других причин) за каждый месяц среди британских солдат. Диаграммы Найтингейл привлекли внимание к большой доле смертей солдат от болезней и позволили ей добиться понимания важности улучшения санитарной обста новки и гигиены у военного руководства. Многие из диаграмм Найтингейл доступны для просмотра в Интернете, как и обсуждения ее достижений в этой области. Один из при меров - это заметка Жюли Рехмейер (Julie Rehmeyer) в Новостях науки (Science News) за 26 ноября 2008 года, «Флоренс Найтингейл: страстный статистик» (http://bit.ly/PvLvSS). Диаграммы Парето Графики Парето, или диаграммы Парето, совмещают столбчатые диаграммы и линейные графики; столбцы показывают частоту или относительную частоту, тогда как линия показывает накопительную частоту. Большим достоинством диаграмм Парето является то, что легко видеть, какие факторы наиболее важны в определенной ситуации и, таким образом, на что следует обращать внимание в первую очередь. К примеру, графики Парето часто используют в контексте про изводства, чтобы понять, какие факторы отвечают за возникновение задержек или дефектов в процессе изготовления. В диаграмме Парето столбцы отсортиро ваны в порядке убывания частоты слева направо (так что самая частая причина расположена левее всего, а самая редкая - правее всего), а линия накопитель ной частоты наложена сверху на столбцы (так что вы можете видеть, к примеру, сколько факторов ответственны за 80% задержек производства). Посмотрите на гипотетические данные, приведенные в табл. 4.8, которые содержат число обна руженных дефектов, связанных с разными участками технологического процес са на автомобильном заводе. Таблица 4.8. Обнаружение брака на разных этапах производства Отдел Число дефектов Аксессуары 350 Корпус 500 Проводка 120 Двигатель 150 Коробка передач 80 Хотя очевидно, что отделы, собирающие аксессуары и корпус, ответственны за наибольшее число выявленных дефектов, сразу не ясно, какую долю общего брака можно отнести к ним. Рисунок 4.24, который показывает всю ту же информацию в виде диаграммы Парето (созданной с помощью SPSS), делает это более понят ным. 130 Глава 4. Описательная статистика и графическое представление... Вильфред Парето Вильфред Парето (Vilfredo Pareto, 1843-1923) был итальянским экономистом, который открыл то, что сейчас называют принципом Парето, также известным как «мало важного и много тривиального», или «правило 80:20». Принцип Парето утверждает, что во мно гих обстоятельствах 80% активности или результатов происходят из 20% от возможных причин. К примеру, во многих странах примерно 80% всех богатств принадлежат 20% населения; аналогичным образом в производстве часто 20% видов ошибок приводят к 80% брака в итоговом продукте; а в здравоохранении 20% от всех пациентов используют 80% от всех медицинских услуг. «Мало важного» в принципе Парето - это 20% от людей, ошибок и так далее, которые отвечают за основную массу активности, а «много тривиаль ного» - это 80%, которые в сумме приводят только к 20% активности. Парето лучше все го известен сегодня как изобретатель диаграмм Парето, которые часто применяют при контроле качества для обнаружения того, какие процессы приводят к большинству про блем, таким как жалобы клиентов или бракованные изделия. Рис. 4.24. Основные причины брака производства Эта диаграмма говорит нам не только о том, что чаще всего брак обнаружива ется в корпусе и аксессуарах, но и о том, что они ответственны за 75% всего брака. Мы можем понять это, проведя прямую линию от изгиба в линии накопитель ной частоты (который отражает величину накопительной частоты двух наиболее частых причин брака, корпуса и аксессуаров) до правой оси у. Эго упрощенный пример, и он нарушает правило 80:20 (обсуждается выше во врезке о Вильфредс Парето), поскольку приведено только небольшое число основных причин бра ка. В более реалистичном примере может быть 30 и более возможных причин, и диаграмма Парето - это простой способ отсортировать их и понять, какие участ ки процесса требуют улучшений в первую очередь. Этот простой пример служит для изображения типичных свойств графика Парето. Столбцы отсортированы от самого высокого к самому низкому, частоту изображают на левой оси /у, а про- Столбчатые диаграммы 131 цент - на правой, число случаев из каждой категории указывают внутри каждого столбца. Диаграмма «стебель с листьями» Те виды диаграмм, которые мы обсуждали до сих пор, в первую очередь подхо дят для изображения категориальных данных. В случае непрерывных величии используют другой набор графических методов. Один из простейших способов графически изобразить непрерывные данные - это график «стебель с листьями», который легко сделать вручную и который дает возможность быстро увидеть рас пределение данных. Чтобы создать такую диаграмму, разделите ваши данные на интервалы (используя здравый смысл и ту степень подробности, которая соот ветствует вашим задачам) и покажите каждое значение данных с помощью двух колонок. «Стебель» - это левая колонка, и она содержит одно значение па каждую строку, а «листья» - это правая колонка, и она содержит по одной цифре па каж дое наблюдение, принадлежащее этой строке. Таким образом, получается график, который со/щржит значения данных, но принимает форму, показывающую, какие данные в каких интервалах встречаются чаще всего. Числа могут быть произведе ниями какого-то множителя (например, значения с шагом 10 000 или 0,01), если это необходимо при каком-то наборе данных. Приведем простой пример. Предположим, у нас есть набор оценок за экзамен 26 студентов, и мы хотим представить их графически. Вот оценки: 61, 64, 68, 70, 70, 71, 73, 74, 74, 76, 79, 80, 80, 83, 84, 84, 87, 89, 89, 89, 90 92,95, 95, 98, 100. Логично разделить эти данные на интервалы по 10 единиц, к примеру 60-69, 70-79 и гак далее, так что мы делаем «стебель» с цифрами 6, 7, 8, 9 (это десятки, для тех, кто помнит школьную математику), и «листья» для каждой из них в виде списка цифр из первого разряда значений, отсортированного слева направо от меньшего к большему. На рис. 4.25 показан итоговый график. «Стебель» 6 7 8 9 10 «Листья» 148 00134469 003447999 02558 0 Рис. 4.25. Диаграмма «стебель с листьями» оценок за экзамены Такая диаграмма показывает не только сами числовые значения и их диапазон (61-100), но и общую форму их распределения. В данном случае большинство значений попадает в промежутки, начинающиеся с 70 и с 80, с небольшим числом значений от 60 до 69 и от 90 до 99, а одно значение равно 100. Форма стороны с «листьями» на самом деле напоминает повернутую на 90 градусов простейшую гистограмму (обсуждается ниже) со столбцами шириной по 10. 132 Глава 4. Описательная статистика и графическое представление... Ящики с усами Ящики с усами, или диаграммы размаха, были разработаны статистиком Джоном Тыоки (John Tukey) как способ компактного описания и изображения распределе ния непрерывных данных. Хотя их можно построить и от руки (как и большинст во других диаграмм, включая столбчатые диаграммы и гистограммы), на практике их обычно создают с помощью компьютерных программ. Интересно, что точный метод их построения различается в зависимости от программы, но эти диаграммы всегда показывают пять важных характеристик данных: медиану, первую и третью квартили (и, таким образом, межквартильный размах), минимум и максимум. Цент ральная тенденция, размах, симметричность и наличие выбросов в данных —все это можно легко увидеть, взглянув на ящик с усами, и при этом, изображенные рядом друг с другом, они позволяют легко сравнить несколько разных распределений. На рис. 4.26 приведен ящик с усами для набора оценок за экзамен, использованного в предыдущем примере с диаграммой «стебель и листья». Рис. 4.2 6 . Ящик с усами для данных о результатах экзамена (построен с помощью SPSS) Темная линия показывает медиану, в данном случае 81,5. Серый прямоугольник соответствует межквартильному размаху, так что нижняя его граница - это пер вая квартиль (25-ый персентиль), равная 72,5, а верхняя граница - третья квар тиль (75-ый персентиль), равная 87,75. Тыоки называл эти квартили шарнирами, отсюда одно из английских названий этого вида диаграмм - шарнирный график (hinge plot). Короткие горизонтальные отрезки с ординатой 61 и 100 показывают минимальное и максимальное значения, и вместе с отрезками, соединяющими их с «ящиком» межквартилыюго размаха, они называются усами, отсюда и название «ящик с усами». Мы сразу можем видеть, что эти данные симметричны, поскольку медиана расположена приблизительно посередине межквартилыюго размаха, а он расположен приблизительно в середине всего набора данных. В этих данных нет выбросов, то есть таких чисел, которые бы были очень далеко от всех остальных точек. Для демонстрации ящика с усами для данных, содер- Столбчатые диаграммы 133 жащих выбросы, я заменила значение 100 в этих же данных на 10. На рис. 4.27 приведены ящики с усами двух наборов данных рядом друг с другом. (Ящик для правильных данных обозначен как «экзамен», а ящик для данных с измененным значением обозначен как «ошибка».) Рис. 4.27. Ящик с усами с выбросом (построен с помощью SPSS) Обратите внимание что за исключением одного выброса, два набора данных вы глядят очень похоже; это связано с устойчивостью медианы и межквартильного размаха к влиянию крайних значений. Отличающееся значение обозначено звез дочкой и подписано своим порядковым номером (26); последняя возможность есть не во всех статистических пакетах. Ящики с усами часто используют для сравнения двух или более наборов дан ных. На рис. 4.28 приведено сравнение оценок экзаменов за 2007 и 2008 годы, обо значенных как «Экзамен 2007» и «Экзамен 2008» соответственно. Рис. 4.28. Ящики с усами для оценок за экзамен в 2007 и 2008 годах (построены с помощью SPSS) 134 Глава 4. Описательная статистика и графическое представление... Нс видя никаких конкретных оценок, я замечаю несколько сходств и различий между двумя годами: • • • самая высокая оценка одинакова в оба года; самая нижняя оценка сильно меньше в 2008 году, чем в 2007; как размах, так и межквартильный размах (размах 50% данных из середи ны) больше в 2008 году; • медиана в 2008 году немного меньше. Совпадение самой высокой оценки не удивительно, поскольку можно получить от 0 до 100 баллов, и каждый год хотя бы один студент набрал максимальное число баллов. Это пример «эффекта потолка», возникающего в случае, когда величина не может принимать значений выше какого-то числа, и при этом испытуемые его достигают. Аналогичная ситуация, если величина не может быть ниже опреде ленного числа, называется «эффектом пола». В данном случае наименьшим воз можным числом был 0, но все студенты получили больше баллов, поэтому мы не видим эго го эффекта. Гистограмма Гистограмма - это еще один часто используемый способ изображения непре рывных переменных. Она внешне похожа на столбчатую диаграмму, но столбцы в ней (интервалы, на которые разбиваются значения непрерывного распределе ния) располагаются вплотную друг к другу, в отличие от столбцов в столбчатой диаграмме. Кроме того, обычно у гистограмм больше столбцов, чем у столбчатых диаграмм. Они не обязаны быть одной ширины, хотя обычно их делают такими. Ось у (вертикальная) в гистограмме показывает шкалу частот, а не сами значения, и площадь каждого столбца показывает то, сколько значений попадает в соответст вующий интервал. На рис. 4.29 показана гистограмма для данных о результатах экзамена, также построенная с помощью SPSS, с четырьмя столбцами по 10 баллов шириной и с наложенным нормальным распределением. Обратите внимание, что форма гис тограммы довольно сильно напоминает график «ствол с листьями» для тех же данных (рис. 4.25), по повернутый на 90 градусов. Нормальное распределение подробно обсуждается в главе 3; коротко его можно охарактеризовать как часто используемое теоретическое распределение, которое имеет знакомую колоколообразную форму, изображенную здесь. Нормальное рас пределение нередко накладывают на гистограммы как визуальную точку отсчета, чтобы мы могли оценить, насколько распределение значений похоже на нормаль ное. Хорошо это или плохо, но выбор числа и размера интервалов для построения гистограммы может очень сильно повлиять на ее вид. Обычно гистограммы строят с более чем четырьмя столбцами; на рис. 4.30 приведены те же данные, но постро енные с восемью столбцами шириной но 5 баллов. Столбчатые диаграммы Рис. 4.3 0 . Гистограм м а с интервалами по 5 ед иниц 135 136 Глава 4. Описательная статистика и графическое представление... Это те же данные, но теперь гистограмма совсем не похожа на нормальное рас пределение, не гак ли? На рис. 4.31 приведены тс же данные с интервалами по 2 балла. Результаты экзамена Рис. 4 .3 1 . Гистограм м а с интервалами по 2 единицы Ясно, что выбор ширины интервалов очень важен для внешнего вида гисто граммы, по как же определиться с их числом? Эта проблема подробно обсуждалась математиками, но осталась без однозначного ответа. (Если вас интересует очень специальное обсуждение, посмотрите статью Ванда (Wand), упомянутую в прило жении В.) Нет единственно верного ответа на данный вопрос, но есть некоторые эмпирические правила. Во-первых, все интервалы вместе должны покрывать весь размах данных. Кроме того, одно из обычных эмпирических правил гласит, что число интервалов должно быть равно квадратному корню из числа наблюдений в данных. Другое — что оно никогда не должно быть меньше шести. Эти правила явно противоречат друг другу в данном случае, поскольку V26 = 5,1, что меньше 6, так что приходится использовать здравый смысл, а также пробовать разное число интервалов и их ширину. Если изменение этих величин сильно меняет визуальное отображение данных, стоит изучить их распределение подробнее. Двумерные диаграммы Диаграммы, содержащие информацию о связи двух переменных, называют дву мерными: самый частый пример - это диаграмма рассеяния. В диаграммах рассея Двумерные диаграммы 137 ния каждая точка в данных задается парой чисел, часто называемых х и у , каждую точку изображают в координатных осях; этот метод должен быть вам знаком, если вы когда-то использовали декартовы координаты в школе на уроках математи ки. Обычно вертикальную ось называют осью г/, и на ней откладывают значения у для каждой точки. Горизонтальную ось называют осью х, и на ней откладывают значения х для каждой точки. Диаграммы рассеяния - это очень важное средство изучения двумерных связей между переменными, которые подробнее разбирают ся в главе 7. Диаграммы рассеяния Взгляните на данные, приведенные в табл. 4.9, содержащие результаты математи ческой и речевой частей Академического оценочного школьного теста на способ ности (SAT, Scholastic Aptitude Test) гипотетической группы из 15 учеников. Таблица 4.9. Результаты теста для 15 учеников М атематика Речь 750 750 700 710 720 700 790 780 700 680 750 700 620 610 640 630 700 710 710 680 540 550 570 600 580 600 790 750 710 720 Кроме того что все эти результаты достаточно высокие (этот тест калибруют та ким образом, чтобы медианное значение составляло 500, а большинство результа тов сильно выше этого числа), по сырым данным сложно сказать что-то про связь с результатами выполнения математической и речевой частей теста. Иногда резуль таты по математике выше, иногда речевая часть удается лучше, а часто результаты сходные. Однако построение диаграммы рассеяния двух переменных, такой как на рис. 4.32, с результатами по математике на оси у (вертикальной) и речевыми на оси х (горизонтальной) выявляет связь между ними. 138 1i ' Глава 4. Описательная статистика и графическое представление... Рис. 4.3 2 . Диаграмма рассеяния результатов по математике и по речи Несмотря на наличие небольших отклонений, результаты речевой и математи ческой частей сильно линейно связаны. У учеников с хорошо развитой речью в це лом выше результат математической части, и наоборот, а у тех, у кого одна из частей написана плохо, и вторая в целом будет выполнена хуже. Однако не всегда связи между переменными линейные. На рис. 4.33 приведены диаграмма рассеяния силь но связанных переменных, связь между которыми не линейная, а квадратичная. 120 100 ▼ * 80 * ♦ о ♦ ж ♦ ♦ 40 ♦ ♦ ♦ ♦ , , ♦ _______ ________ ____ -15 -10 -5 20 ♦ ♦ ♦ ►V*____,________,_______ 0 5 10 15 Рис. 4.33. Квадратичная связь между переменными В данных, представленных на этой диаграмме рассеяния, значениях в каждой паре - это целые числа от -10 до 10, а значения у - это квадраты значений х, так что получается всем знакомая парабола. Многие статистические методы подра зумевают линейную связь между переменными, и сложно понять, правда это или нет, просто посмотрев на сырые данные, так что построение диаграммы рассеяния для всех важных пар переменных в данных - это простой способ проверить подоб ное предположение. Двумерные диаграммы 139 Линейные графики Линейные графики - это тоже часто используемый способ изображения связей между двумя переменными, обычно между временем на оси х и какой-то другой переменной на оси у. Единственное требование для построения линейного графи ка, чтобы каждому значению на оси х соответствовало только одно значение па оси у, так что он не подойдет для таких данных, как результаты теста, представ ленные выше. Посмотрите на табл. 4.10 с данными Центра по предупреждению и контролю заболеваний (ЦПКЗ), показывающими процент взрослых людей с ожи рением в США за каждый год в течение 13 лет. Таблица 4.10. Встречаемость ожирения среди взрослых в США, 1990-2002 Год Встречаемость ожирения 1990 11.6% 1991 12.6% 1992 12.6% 1993 13.7% 1994 14.4% 1995 15.8% 1996 16.8% 1997 16.6% 1998 18.3% 1999 19.7% 2000 20.1% 2001 21.0% 2002 22.1% Мы можем видеть из этой таблицы, что встречаемость ожирения равномерно росла; изредка случалось ее понижение, но чаще всего она увеличивалась па 1-2% каждый год. Эту же информацию можно представить в виде линейного графика, как на рис. 4.34, что делает тенденцию к росту с течением времени еще более за метной. Хотя этот график является довольно простым методом представления данных, визуальное воздействие, которое он оказывает, сильно зависит от выбранной шка лы и интервала оси у (которая в данном случае показывает встречаемость ожире ния). На рис. 4.34 показано разумное отображение данных, но если мы захотим усилить эффект на зрителя, мы можем раздвинуть шкалу, уменьшив интервал оси у (вертикальной), как на рис. 4.35. На рис. 4.35 представлены те же данные, что и на рис. 4.34, но с более узким интер валом на оси у (10-22% вместо 0-30%), и это визуально увеличивает различия меж ду годами. Рисунок 4.35 не обязательно показывает неверный способ изображения данных (хотя многие считают, что всегда стоит включать 0 в случае графика, изоб 140 Глава 4. Описательная статистика и графическое представление... ражающего проценты), но он подчеркивает легкость манипуляции внешним видом абсолютно правильных данных. Между прочим, выбор вводящего в заблуждение интервала - это один из верных способов «лгать при помощи статистики» (см. ниже врезку «Как лгать при помощи статистики», чтобы узнать подробнее об этом). Год Рис. 4.3 4 . Ожирение среди взрослых США, 1990-2002 Год Рис. 4.3 5 . Ожирение среди взрослых США, 1990-2002 при использовании ограниченного интервала для усиления визуального впечатления от тенденции 141 Двумерные диаграммы Этот же прием работает и в обратную сторону - если мы изобразим те же дан ные с использованием широкого интервала для вертикальной оси, изменения за исследуемый отрезок времени покажутся меньше, как на рис. 4.36. Год Рис. 4.36. Ожирение среди взрослых США, 1990-2002, при использовании широкого диапазона значений по оси ординат для ослабления визуального впечатления от имеющейся тенденции На рис. 4.36 показаны те же самые данные об ожирении, что и на рис. 4.34 и 4.35, но с широким интервалом (0-100% ) на вертикальной оси для уменьшения визуального воздействия тенденции. Так какую же шкалу выбрать? Нет единс твенно верного ответа на этот вопрос; везде представлена абсолютно одинаковая информация, и, строго говоря, ни один из вариантов не является ошибочным. В данном случае, если бы я представляла этот график без каких бы то ни было других графиков для сравнения, я бы использовала шкалу из рис. 4.34, поскольку она показывает истинный минимум данных (0%, который является минимально возможным значением) и создает разумное пространство над максимальным зна чением в данных. Вне зависимости от проблем с выбором масштаба для одного графика, в случае если вы приводите несколько графиков для сравнения (к при меру, графики, показывающие встречаемость ожирения в нескольких странах за один и тот же промежуток времени, или графики с различными показателями здоровья за один и тот же период), они всегда должны иметь одну и ту же шкалу, чтобы избегать неверной трактовки читателем. 142 Глава 4. Описательная статистика и графическое представление... Как лгать при помощи статистики Даррел Хафф (Darrel Huff) был независимым писателем, который одновременно ра ботал редактором изданий Look («Взгляд»), Better Homes and Gardens («Как улучшить ваш дом и сад») и Liberty («Свобода»). Однако его лучшей заявкой на известность стала классическая книга «Как лгать при помощи статистики» (Howto Lie with Statistics), впер вые опубликованная в 1954 году. Некоторые считают, что это самая читаемая книга по статистике в мире. Хафф не был профессиональным статистиком, его представление темы можно описать разве что как неформальное, а некоторые иллюстрации в этой кни ге сейчас бы посчитали оскорбительными, если бы их включили в современную книгу. Однако данная книга сохранила свою популярность в течение всех этих лет; она все еще переиздается и была переведена на много языков. Хафф берет многие из своих примеров «лжи», как он называет обманчивое представ ление информации, из СМИ, политических и рекламных текстов. Некоторые из его са мых метких примеров приведены в главе про графическое представление данных, и они включают такие ошибки, как специально вводящий в заблуждение масштаб и полное отсутствие подписей по осям. Одна из причин такой популярности этой книги состоит в том, что многие из методов введения читателя в заблуждение, обнаруженные им в 1954 году, используются и по сей день. Упражнения Как и в случае любой другой области статистики, обучение какому-то методу описательной статистики требует практики. Здесь специально приведены очень простые данные, потому что если вы сможете правильно применить метод к 10 наблюдениям, вы сможете использовать его и для 1000 наблюдений. Мой совет состоит в следующем: попробуйте решить задачи несколькими спо собами, к примеру вручную, с помощью калькулятора и с помощью любых до ступных вам программ. Даже программы для работы с электронными таблицами, такие как Microsoft Excel, предоставляют возможность воспользоваться многими математическими и статистическими функциями. (Хотя польза от применения этих функций для серьезного статистического анализа находится под вопросом, они могут быть полезны для первичного анализа; см. ссылки про Excel в приложе нии С, чтобы узнать об этом подробнее.) Кроме того, решение проблемы несколь кими способами придаст вам уверенности в том, что вы корректно используете устройства и программы. Большинство графиков и диаграмм строят с помощью компьютерных про грамм, и хотя у каждого пакета есть преимущества и недостатки, большинство из них могут создавать большинство диаграмм, если не все, представленные в этой главе, как и множество других. Лучший способ вникнуть в методы графического представления данных - это изучить любую доступную вам программу и прак тиковаться в изображении данных, с которыми вы работаете. (Если вы в данный момент не работаете ни с какими данными, в Интернете доступно множество на боров данных, которые вы можете бесплатно скачать.) Помните, что графическое представление - это способ общения, и держите в голове то, зачем вы строите тот пли иной график. Упражнения 143 Задача Какую из перечисленных мер центральной тенденции следует использовать в какой ситуации? Придумайте какие-нибудь примеры для каждой из них из вашей области работы или учебы. • Среднее. • Медиана. • Мода. Решение • Медиана подойдет для интервальных или характеризующих отношения непрерывных симметричных данных без сильных выбросов. • Медиана подойдет для непрерывных асимметричных данных, ранговых данных или данных с сильными выбросами. • Мода чаще всего применяется для категориальных данных или непрерывных данных, в которых одно из значений встречается сильно чаще остальных. Задача Найдите несколько примеров обманчивого применения статистической графи ки и объясните, в чем проблема с каждым из них. Решение Это не должно быть сложно ни для кого, если вы следите за новостными СМИ, но если вам не удается это сделать, поищите в Интернете по ключевой фразе «misleading graphics» (примерный перевод - обманчивые графики). Задача Один из следующих наборов данных следует изобразить в виде столбчатой диа граммы, а другой — в виде гистограммы; определите, какой метод подойдет для каких данных, и объясните, почему. 1. Данные о росте (в сантиметрах) 10 000 поступивших в университет. 2. Данные о специализациях, выбранных 10 000 поступившими в универси тет. Решение 1. Данные о росте следует изобразить в виде гистограммы, поскольку это не прерывная переменная, имеющая большое число возможных значений. 2. Данные о специализации лучше изобразить в виде столбчатой диаграммы, поскольку это категориальная переменная с ограниченным набором воз можных значений (хотя если есть много вариантов специализации, то бо лее редкие варианты придется объединить для большей ясности). Задача Только один из следующих наборов данных подходит для изображения в виде круговой диаграммы. Определите, какой, и объясните, почему. 1. Заболеваемость гриппом за два последних года, разделенная по месяцам. Глава 4. Описательная статистика и графическое представление... 144 2. Число дней больничных, связанных с пятью самыми частыми причинами госпитализации (пятая категория - это «все остальные», и она включает все причины отсутствия на работе, кроме первых четырех). Решение 1. Круговая диаграмма не подходит для данных о заболеваемости гриппом, поскольку в ней было бы слишком много категорий (24), а многие из них, вероятно, окажутся очень похожими по размеру (поскольку заболеваемость гриппом очень мала в летние месяцы), да и на самом деле данные не отража ют части, составляющие единое целое. Лучше в данном случае использовать столбчатую диаграмму или линейный график, показывающий число случаев гриппа по каждому месяцу или времени года. 2. Данные о больничных хорошо подходят для круговой диаграммы, посколь ку есть всего пять категорий, и все части в сумме дают 100%. Из данного описания остается неясным, насколько разные категории (секторы) отли чаются друг от друга по размеру; если они заметно различаются, это еще один аргумент в пользу использования круговой диаграммы. Задача Чему равна медиана следующего набора данных? 832769121 Решение Данные содержат 9 измерений, что является нечетным числом; таким образом, медиана - это срединное значение, если отсортировать значения по их величине. Если рассмотреть этот вопрос с математической точки зрения, раз п = 9 чисел, то медиана равна числу под номером (?г + 1)/2; таким образом, медиана - это число под номером (9 + 1)/2, то есть пятое число. Задача Чему равна медиана следующего набора данных? 7 15 2 6 12 0 Решение Данные содержат 6 измерений, что является четным числом; таким образом, медиана - это среднее двух срединных значений, если отсортировать их по ве личине, в данном случае 6 и 7. Если рассмотреть этот вопрос с математической точки зрения, то медиана для набора данных с четным числом измерений равна среднему чисел под номерами ( п ) /2 и (п)/2 + 1; в данном случае п = 6, таким обра зом, медиана - это среднее чисел под номерами (6)/2 и (6)/2 + 1, то есть третьего и четвертого чисел. Задача Чему равны среднее и медиана следующих (конечно, странных) данных? 1 ,7 ,2 1 ,3 ,-1 7 Упражнения Ж,' 145 Решение Среднее составляет ( ( 1 + 7 + 21 + 3 + ( —17))/5 = 15/5 = 3. Медиана - это, поскольку число наблюдений нечетное, число под номером (п + 1)/2, то есть третье. Отсортированные данные выглядят как (-17, 1, 3, 7, 21), то есть медиана, равная третьему числу, равна 3. Задача Чему равны дисперсия и стандартное отклонение следующего набора данных? Считайте р = 3. 135 Решение Формула для расчета дисперсии для генеральной совокупности приведена на рис. 4.37. Рис. 4.37. Формула для дисперсии для генеральной совокупности Формула для выборки приведена на рис. 4.38. Рис. 4.38. Формула для дисперсии для выборки В данном случае п = 3, х = 3, а сумма квадратов отклонений равна (-2 )2 + О2 + 22 = 8. Дисперсия для генеральной совокупности равна 8/3, или 2,67, а стандартное от клонение для генеральной совокупности равно квадратному корню из дисперсии, то есть 1,63. Для выборки дисперсия составляет 8/2, или 4, а стандартное отклоне ние равно квадратному корню из дисперсии, то есть 2. ГЛАВА 5. Категориальные данные Категориальная переменная - это такая переменная, у которой все возможные значения составляют фиксированный набор категорий, а не чисел, измеряющих величину на непрерывной шкале. Например, человек может описывать свой пол как мужской или женский, а деталь может быть или качественной, или бракован ной. Также возможно наличие более двух категорий. К примеру, в Соединенных Штатах человека можно отнести к республиканцам, демократам или политически независимым. Категориальные переменные могут быть таковыми по своей природе (как принадлежность к определенной партии) без какой-либо числовой шкалы в ос нове измерений, так и их можно создать с помощью разбиения непрерывной или дискретной величины на категории. Давление крови - это мера давления, ока зываемого кровыо на стенки сосудов, и она измеряется в миллиметрах ртутного столба (мм. рт. ст.), но часто её анализируют с использованием категорий, таких как низкое, нормальное, прсгипертеизия, гипертензия. Дискретные переменные (то есть такие, которые могут принять определенные значения на промежутке) также можно сгруппировать в категории. Исследователь может собирать точ ную информацию о числе детей в семье (0 детей, 1 ребенок, 2 ребенка, 3 ребенка и т. д.), по после этого может сгруппировать эти числа в категории для какихто целей анализа, к примеру так: 0 детей, 1-2 ребенка, 3 и более детей. Такой метод группирования часто применяется в случаях, когда вариантов значений переменной много и некоторые из них обеднены данными. В случае числа де тей в семье, к примеру, в данных вполне может оказаться слишком мало семей с большим числом детей, и низкие частоты в таких категориях могут негативно повлиять на мощность исследования или сделать невозможным применение не которых статистических методов. Хотя премудрости группирования непрерывных и дискретных переменных в категории обсуждаются (некоторые исследователи называют это выбрасыванием информации, поскольку такой подход приводит к потере информации о разбросе внутри каждой! категории), это обычная практика во многих областях. Разбиение непрерывных данных проводят по многим причинам, включая как, например, то, что это принято в данной! профессиональной области, так и для решения проблем с распределением в данных. RxC-таблицы 147 Методы работы с категориальными данными можно применять для анализа порядковых переменных, то есть таких, в которых значения можно упорядочить по величине, но расстояние между соседними элементами не обязательно оди наковое. (Подробнее порядковые переменные обсуждаются в главе 1.) Хорошо известная шкала Лайкерта (Likert), в которой испытуемые выбирают ответы из пяти упорядоченных категорий (таких как «Полностью согласен», «Согласен», «Затрудняюсь ответить», «Не согласен», «Полностью не согласен»), - это класси ческий пример порядковой переменной. Существует целый набор аналитических методов для работы с порядковыми переменными, которые сохраняют информа цию об их порядке. Если есть выбор, лучше использовать специальные методы для порядковых переменных, чем общие методы для категориальных, поскольку первые в целом мощнее. Для категориальных и порядковых данных существуют специальные методы анализа. В этой главе мы обсудим самые обычные подходы, используемые для таких переменных, и кроме того, некоторые из этих методов включены и в другие главы. Отношение вероятностей, отношение рисков и критерий М антеля-Хензеля (M antel-Haenszel) описаны в главе 15, кроме того, некоторые непарамет рические методы из главы 13 применимы к порядковым или категориальным данным. RxC-таблицы В случае, когда анализ касается исследования связи между двумя категориаль ными переменными, их распределение в данных часто показывают с помощью R xC -таблиц, которые чаще называют таблицами сопряженности. R в RxC-таблице относится к строкам, а С - к колонкам, или столбцам1, и конкретные таблицы тоже можно описывать по числу строк и столбцов, которые они содержат. Строки и столбцы всегда называют именно в таком порядке, договоренность, которую так же соблюдают при описании матриц и в записях с индексом. Иногда отдельно вы деляют таблицы 2x2, в которых показывают общее распределение двух перемен ных с двумя значениями каждая, и таблицы более высоких размерностей. И хотя можно считать таблицы 2x2 частным случаем R xC -таблиц, в котором и R, и С равны 2, эта классификация может быть полезной для обсуждения методов, раз работанных именно под таблицы 2 х2. Выражение R хС читается как «R на С», и то же применимо к конкретным размерам таблиц, то есть 3x2 читается как «3 па 2». Положим, нас интересует исследование связи между широкими категориями возраста и здоровья, а последнее определяется по известной пятибалльной шкале оценки общего здоровья. Мы решаем, на какие категории разбить возраст, и соби раем данные о выборке испытуемых, классифицируя их по возрасту (используя выбранные категории) и состоянию здоровья (используя пятибалльную шкалу). Затем мы смотрим па эту информацию в виде таблицы сопряженности, организо ванной как табл. 5.1. 1 R - от англ. Row, С - от англ. Column. - Прим, перса. 148 Глава 5. Категориальные данные Таблица 5 .1 . Таблица сопряженности состояния здоровья и возрастных групп Великолепное Очень хорош ее Хорош ее Неплохое Плохое < 1 8 лет 1 8 -3 5 лет 4 0 - 6 4 лет > 65 лет Ес можно описать как таблица 4 *5, поскольку она содержит 4 строки и 5 столб цов. Каждая ячейка показывает число людей из выборки с парой соответствую щих исследуемых характеристик: число людей до 18 с великолепным здоровьем, число людей 18-39 лет с великолепным здоровьем и так далее. Меры согласия Описанные в этой книге меры надежности применимы в основном к непрерыв ным измерениям. В случае, когда измерения касаются деления на категории, на пример классификация деталей на качественные и бракованные, лучше подходят меры согласия. К примеру, мы хотим сравнить согласованность результатов двух диагностических тестов на определенное заболевание или проверить, одинаково ли три наблюдателя расклассифицируют школьников в классе по их поведению па приемлемое и недопустимое. В обоих случаях некто выбирает одну оценку из определенного набора категорий, и нам интересно, насколько хорошо результаты классификации соотносятся друг с другом. Процент согласия - это самая простая мера согласия; его можно рассчитать, раз делив число случаев совпадения оценок на общее число оценок. К примеру, если из 100 оценок наблюдатели согласны в 80% случаев, то процент согласия составляет 80/100, или 0,8. Большой проблемой простого процента согласия является то, что высокий процент совпадения может получиться чисто случайно; таким образом, сложно сравнивать проценты согласия между разными ситуациями, когда согласо ванность но случайным причинам может заметно различаться. Однако этот недостаток можно обойти, используя другую обычную меру согла сия, называемую каппой Коэна, каппа-коэффицепт, или просто каппа. Изначаль но эту меру разработали для сравнения результатов двух оценщиков или тестов, но позднее расширили для использования на большем числе классификаторов. Использование каппы предпочтительно по сравнению с процентом согласия, по скольку она включает поправку на случайные совпадения (хотя статистики спо рят о том, насколько эта поправка успешна; подробнее смотрите во врезке ниже). Капну легко получить с помощью сортировки результатов в гипотетической сетке и расчетов, как показано в табл. 5.2. Этот гипотетический пример связан с согласо ванностью двух видов тестов на наличие (3+) или отсутствие ( 3 - ) определенного заболевания. 149 RxC-таблицы Согласие двух тестов с двумя вариантами результатов Таблица 5 .2 . Тест 1 + - + 50 10 60 - 10 30 40 60 40 100 Четыре ячейки с данными часто обозначают следующим образом: + а + - с b d Ячейки aw d обозначают согласия (в a - случаи, когда оба теста дали положи тельный результат, то есть наличие заболевания, а в d - случаи, когда оба теста дали отрицательный результат), тогда как Ь и с обозначают несогласия. Формула для каппы выглядит следующим образом: Р -Р К = ^ ----г-p . где Ро = наблюдаемые согласия, а Ре = наблюдаемые несогласия. Ро = (a + cl)/(a + b + с + с/), то есть число случаев согласия, поделенное на общее число наблюдений. В данном случае Р =80/100 = 0,80; Ре = [(а + с)(а + b)]/(a + b + с + d)2 + [(b + d)(c + d )\/(a + b + с + d)2, а это число случаев согласия, ожидаемых случайно. Ожидаемое согласие в данном случае составляет следующее число: (60*60)/(100*100) + (40*40)7(100*100) = 0,36 + 0,16 = 0,52. В данном случае каппа рассчитывается таким образом: 0 .8 0 - 0 .5 2 0.58. 1 - 0 .5 2 Каппа может принимать значения от -1 до +1; значение 0 она примет, если чис ло наблюдаемых совпадений равно числу ожидаемых случайных, а 1 - если все наблюдения согласованы. Не существует абсолютных стандартов, по которым можно судить о том, велико ли данное значение каппы или мало; однако многие исследователи придерживаются указаний о степени согласования при определен ных значениях каппы, опубликованных Ландисом и Кохом (Landis and Koch) в 1977 году: 150 Глава 5. Категориальные данные <0 0-0,20 0,21-0,40 0,41-0,60 0,61-0,81 0,81-1,0 Плохое Слабое Заметное Среднее Сильное Почти идеальное По этим меркам у нас среднее согласование. Обратите внимание, что процент согласования составляет 0,80, а каппа - 0,58. Каппа всегда не больше процента согласования, поскольку она включает поправку на случайные совпадения. Для альтернативного взгляда на каппу (обращенного к более продвинутым ста тистикам) прочитайте следующую врезку. Неоднозначная каппа Каппу Коэна часто преподают и широко применяют, но ее использование не лишено противоречий. Каппу обычно определяют как величину, показывающую согласие сверх случайного, или, проще говоря, согласие с поправкой на случайность. У нее есть два применения: как статистика критерия для определения того, согласуются ли два набора оценок лучше, чем можно было бы ожидать случайно (двумя вариантами ответа: да или нет), и как мера силы согласования (которая выражается в числе от 0 до 1). Хотя у большинства исследователей нет проблем с первым применением каппы, не которые возражают против второго. Проблема состоит в том, что расчет ожидаемого случайного согласия основан на том, что оценки независимы, условие, редко встречаю щееся на практике. Поскольку каппу часто применяют для оценки согласования между множеством отдельных оценок одного и того же наблюдения, будь это поведение ре бенка в классе или результаты рентгена у человека с подозрением на туберкулез, мы бы ожидали чего-то большего, чем случайного совпадения. В таких случаях каппа переоце нивает согласование между тестами, наблюдателями и тому подобное за счет недооценивания наблюдаемого согласования, которое на самом деле случайное. Критику каппы, включая длинный список относящейся к этому литературы, можно най ти на веб-сайте доктора Джона Уеберсакса (John Uebersax). Распределение хи-квадрат При проверке гипотез о категориальных данных нам нужен какой-то способ оценить значимость наших результатов. В случае таблиц сопряженности часто лучшим вариантом статистики является один из тестов хи-квадрат, которые ис пользуют известные свойства распределения хи-квадрат. Распределение хи-квад рат - это непрерывное распределение, которое широко применяется в критери ях значимости, поскольку многие из их статистик распределены по хи-квадрату в случае, если нулевая гипотеза верна. Умение соотносить статистику критерия с известным распределением делает возможным определение вероятности полу чить какое-то значение статистики. Распределение хи-квадрат - это частный случай гамма-распределения, который определяется только одним параметром, к, числом степеней свободы. В распрсдс- Распределение хи-квадрат 151 лении хи-квадрат есть только положительные значения, поскольку оно основано на сумме квадратов квантилей, что вы увидите позже, и имеет правую асиммет рию. Его форма изменяется в зависимости от к, особенно сильно при маленьких значениях параметра, что видно на четырех распределениях хи-квадрат на рис. 5.1. При приближении к к бесконечности распределение хи-квадрат стремится (стано вится очень похожим на) к нормальному распределению. Функция плотности распределения Функция плотности распределения Функция плотности распределения Функция плотности распределения Рис. 5.1 . Функция плотности распределения хи-квадрат при различном числе степеней свободы На рис. D.11 представлен список критических значений распределения хиквадрат, который можно использовать, чтобы определить значимость результа тов критерия. К примеру, критическое значение для уровня значимости 0,05 для распределения хи-квадрат с одной степенью свободы составляет 3,84. Любой ре зультат критерия со значением выше данного можно считать значимым для теста хи-квадрат на независимость таблицы 2 х2 (описывается ниже). Обратите внимание, что 3,84 = 1,962 и то, что 1,96 - это критическое значение для Z-распределения (стандартного нормального распределения) для двухсто роннего критерия при уровне значимости 0,05. Это не просто совпадение, при чина этого равенства лежит в математической связи между Z-распределением и распределением хи-квадрат. Говоря формально, если X - это независимые переменные, распределенные по стандартному нормальному закону с р = 0ист = 1, а случайная величина Q опре деляется как 152 Глава 5. Категориальные данные Q-hf , /-1 то Q будет распределена по хи-квадрату с Л-стспснями свободы. Два важных момента, о которых стоит помнить, - это что для расчета значения хи-квадрата необходимо знать число степеней свободы и что критические значе ния в целом возрастают с ростом числа степеней свободы. При уровне значимости 0,05 критическое значение для одностороннего теста хи-квадрат с одной степенью свободы составляет 3,84, но при 10 степенях свободы оно уже равно 18,31. Тест хи-квадрат Критерий хи-квадрат - это один из наиболее распространенных способов изуче ния связей между двумя и более категориальными переменными. Проведение это го теста включает расчет статистики хи-квадрат и ее сравнение с распределением хи-квадрат, чтобы найти вероятность данного результата критерия. Есть несколь ко типов критерия хи-квадрат; если не сказано иное, в данной главе обозначение «тест хи-квадрат» относится к тесту хи-квадрат Пирсона, одного из наиболее обычных типов. Есть три разновидности критериев хи-квадрат. Первый из них называют кри терием независимости хи-квадрат. В случае двух переменных этот критерий про веряет нулевую гипотезу о независимости переменных друг от друга, то есть об отсутствии связи между ними. Альтернативная гипотеза состоит в том, что они зависимы, то есть связаны между собой. К примеру, мы можем собрать данные о курении и наличии диагноза рака лег ких в случайной выборке взрослых. Каждая из этих переменных дихотомическая: человек или курит, или нет, и у него или диагностирован рак легких, или пет. Со берем наши данные в таблицу частот, представленную в табл. 5.3. Таблица 5 .3 . Курение и рак легких Диагностирован рак легких Не диагностирован рак легких Курят 60 300 Не курят 10 390 При взгляде на эти данные бросается в глаза, что, вероятно, есть связь между курением и раком легких: у 20% курящих диагностирован рак легких, однако у некурящих его обнаружили только у 2,5%. Впечатление может быть обманчиво, поэтому мы проведем тест хи-квадрат на независимость. Вот наши гипотезы: Н(): курение и рак легких независимы; Я,: курение и рак легких связаны. Хотя тесты хи-квадрат обычно рассчитывают с помощью компьютера, особенно в случае таблиц большего размера, стоит один раз просчитать все шаги вручную Тест хи-квадрат 153 в качестве простого примера. Критерий хи-квадрат основан на разнице между наблюдаемыми и ожидаемыми значениями в каждой из ячеек таблицы 2><2. Наблюдаемые значения - это просто те, которые мы получили из данных но вы борке (пронаблюдали), тогда как ожидаемые значения - это те, которые мы бы ожидали увидеть в том случае, если эти переменные независимы. Для расчета ожидаемых значений воспользуйтесь формулой, приведенной на рис. 5.2. сумма i-й строки сумма j -го столбца 4 обш^ля сумма Рис. 5.2. Расчет ожидаемых значений для ячейки В этой формуле Е.. - это ожидаемое значение для ячейки у, a i и j обозначают соответственно строку и столбец ячейки. Эта запись с нижним индексом часто ис пользуется в статистике, так что стоит поговорить о ней сейчас. В табл. 5.4 показа но, как такой способ записи используется для обозначения ячеек в таблице 2 *2. Таблица 5.4. Запись с нижним индексом для таблицы 2 ><2 Ячейка,, Ячейка12 Строка 1 (/' = 1) Ячейка21 Ячейка21 Строка 2 (/ = 2) Столбец 1 (у = 1) Столбец 2 (J = 2) В табл. 5.5 добавлены суммы по столбцам и строкам к примеру с курением и раком легких. Таблица 5.5. Данные о курении и раке легких с суммами по строкам и столбцам Диагностирован рак легких Не диагностирован рак легких Сумма Курят 60 300 360 Не курят 10 390 400 Сумма 70 690 760 Частота для ячейки, , составляет 60, для ячейки,., - 300, сумма по первой строке равна 360, сумма по первой колонке составляет 70 и так далее. Используя запись с точкой, сумма по строке 1 обозначается как 1., сумма по строке 2 - как 2., сумма по колонке 1 - .1, и .2 для колонки 2. Логика этой записи состоит в том, что, к примеру, сумма по первой строке включает значения для обоих колонок, 1 и 2, так что значение номера колонки замещается точкой. Аналогичным образом сумма по столбцам включает значения обеих строк, так что обозначения строки замещают ся точкой. В данном примере 1. = 360, 2. = 400, .1 = 70 и .2 = 690. Значения сумм по колонкам и столбцам называются краевыми значениями, по скольку их записывают по краям таблицы. Они отражают частоты одной перемен ной в исследовании безотносительно ее связи с другой переменной, так что крае вая частота для наличия диагноза рака легких составляет 70, а для курения - 360. 154 Глава 5. Категориальные данные Числа в таблице (60, 300, 10 и 390) называют совместными частотами, поскольку они отражают число испытуемых, имеющих заданные значения обеих перемен ных. К примеру, совместная частота для курильщиков с диагнозом рака легких в данной таблице составляет 60. Если бы две переменные не были связаны, мы бы ожидали, что частоты в каждой ячейке были бы равны произведению краевых значений, поделенному на объем вы борки. Другими словами, мы бы ожидали, что совместные частоты определяются только распределением краевых значений. Это означает, что если курение и рак лег ких не связаны, то мы увидим, что число курильщиков с раком легких будет опре деляться только числом курильщиков и числом больных раком в выборке. По этой логике вероятность иметь рак легких должна быть примерно одинаковой у курящих и некурящих, если курение действительно не влияет па развитие рака легких2. Используя предыдущую формулу, мы можем рассчитать ожидаемые значения для каждой ячейки, как показано на рис. 5.3. Наблюдаемые и ожидаемые значения для данных о раке легких представлены в табл. 5.6; ожидаемые значения указаны в скобках. Нам нужен какой-то способ определить, связаны ли различия между ними только со случайностью или они являются значимыми. Мы можем это сделать с помощью критерия хи-квадрат. Таблица 5.6. Наблюдаемые и ожидаемые значения в данных о курении и раке легких Диагностирован рак легких Не диагностирован рак легких Сумма Курят 60(33.16) 300 (362.84) 360 Не курят 10(36.84) 390(363.16) 400 70 690 760 Сумма Критерий хи-квадрат основан на квадрате разницы между наблюдаемыми и ожидаемыми значениями в каждой ячейке таблицы и использует формулу, при веденную на рис. 5.4. 2 Или наоборот, рак легких на курение; пли у них обоих общая причина - как всегда, мы из статистичес ки значимой связи не можем делать выводы о том, что - причина, а что - следствие. - Прим, иерее. Тест хи-квадрат 155 Рис. 5.4. Формула для расчета значения хи-квадрат Чтобы понять, что означает статистика хи-квадрат, вам надо выполнить следую щие шаги: 1. Рассчитать наблюдаемые и ожидаемые значения для ячейки,г 2. Возвести их разницу в квадрат и разделить на ожидаемое значение. 3. Повторить первые два шага для всех остальных ячеек. 4. Сложить все полученные на шагах 1-3 числа. Продолжая наш пример, для ячейки,, расчет проходит следующим образом: Ei / Ец - _ ( 60 - 33 .16)2 33.16 Повторив это с остальными ячейками, получим следующие значения: 2,2 для ячейки12, 19,6 для ячейки2, и 2,0 для ячейки22. Сумма составляет 45,5, что в пре делах ошибки округления от того, что мы получили, используя статистическую программу SPSS, 45,474. Для того чтобы понять, что статистика хи-квадрат означает, вам надо знать чис ло ее степеней свободы. Форма распределения хи-квадрат зависит от числа его степеней свободы, и, соответственно, в зависимости от него меняются и критичес кие значения распределения. В случае простого критерия хи-квадрат число сте пеней свободы составляет (г - 1)*(с - 1), то есть (число строк минус 1) умножить па (число колонок минус 1). Для таблицы 2><2 число степеней свободы составляет (2 - 1)*(2 - 1) = 1; для таблицы 3x5 их (3 - 1)*(5 - 1) = 8. Рассчитав значение хи-квадрат и число степеней свободы вручную, мы мо жем посмотреть в таблицу значений хи-квадрат, чтобы сравнить наше значение с соответствующим критическим значением. Судя по рис. D.11 в приложении D, критическое значение для уровня значимости 0,05 составляет 3,841, тогда наше число 45,5 сильно его превышает, так что при уровне значимости 0,05 мы должны отвергнуть нулевую гипотезу о независимости переменных. Если вы незнакомы с процессом проверки гипотез, вам может быть полезно просмотреть соответствую щий раздел главы 3 до того, как продолжать чтение этой главы. Компьютерные программы обычно, кроме значения хи-квадрат и числа степеней свободы, выдают p -значение, и если оно ниже нашего уровня значимости, мы можем отвергнуть пу левую гипотезу. В данном примере будем использовать уровень значимости 0,05. Если верить SPSS, p -значение для нашего результата (45,474) меньше 0,0001, что много меньше 0,05 и говорит о том, что мы должны отвергнуть нулевую гипотезу об отсутствии связи между курением и раком легких. Критерий равенства пропорций хи-квадрат рассчитывают ровно так же, как и критерий независимости, но он проверяет другую гипотезу. Критерий равенства Глава 5. Категориальные данные 156 пропорций используется с данными, взятыми из нескольких независимых выбо рок, а нулевая гипотеза состоит в том, что распределение какой-то переменной одинаково во всех генеральных совокупностях. К примеру, мы можем взять слу чайные выборки из разных этнических групп и проверить, одинакова ли частота рака легких во всех генеральных совокупностях; нулевая гипотеза была бы в том, что они все одинаковые. Расчеты бы проходили так же, как и в предыдущем при мере: испытуемых надо было бы расклассифицировать по этнической группе и наличию рака легких, рассчитать ожидаемые значения, статистику хи-квадрат и число степеней свободы, сравнить статистику с таблицей значений распределения хи-квадрат с нужным числом степеней свободы или же получить точное р-значение с помощью статистического пакета. Критерий согласия хи-квадрат используют для проверки гипотезы о том, что распределение какой-либо категориальной переменной в генеральной совокуп ности совпадает с заданным распределением, тогда как альтернативная гипотеза гласит, что распределение этой переменной какое-то иное, но не предполагаемое. Этот критерий рассчитывают, используя ожидаемые значения, основанные на гипотетическом распределении, и различные категории или группы обозначают нижним индексом i, от 1 до g (как показано на рис. 5.5). Рис. 5.5. Формула для расчета критерия согласия хи-квадрат Обратите внимание на то, что в этой формуле нижние индексы не парные, то есть, к примеру, £., а не £... Это связано с тем, что для критерия согласия данные чаще всего организованы в одну строку, поэтому и необходим только один индекс. Число степеней свободы в критерии согласия хи-квадрат составляет (g - 1). Положим, мы считаем, что у 10% людей в определенной популяции понижен ное кровяное давление (гипотензия), у 40% нормальное давление, у 30% прегипер тензия, а 20% - гипертензики. Мы можем проверить эту гипотезу, набрав выборку п сравнив наблюдаемые частоты с гипотетическими (ожидаемыми значениями); мы будем использовать уровень значимости 0,05. В табл. 5.7 приведен пример воз можных данных. Таблица 5.7. Ожидаемые и наблюдаемые значения распределения кровяного давления Гипотензия О жидаемая доля Нормальное Прегипертензия Гипертензия Сумма 0.10 0.40 0.30 0.20 1.00 О жидаемое число случаев 10 40 30 20 100 Наблюдаемое число случаев 12 25 50 13 100 Тест хи-квадрат 157 Рассчитанное значение хи-квадрат для этих данных составляет 21,8 с тремя степенями свободы, и оно значимо. (Критическое значение для уровня значимос ти 0,05 составляет 7,815, что можно видеть из таблицы значений хи-квадрат на рис. D.11 в приложении D.) Поскольку наше расчетное значение больше крити ческого, мы должны отвергнуть нулевую гипотезу о распределении уровней кро вяного давления в этой популяции. Критерий хи-квадрат Пирсона подходит для данных, в которых все наблю дения независимы (то есть, к примеру, каждого испытуемого измеряют только 1 раз), а категории взаимно исключающие и перекрывают все возможные значе ния (то есть в каждом случае можно однозначно отнести испытуемого к ровно одной ячейке). Кроме того, предполагается, что ни в одной из ячеек ожидаемое значение не меньше 1, и не более чем у 20% ячеек ожидаемое значение меньше 5. Причина возникновения двух последних требований связана с тем, что крите рий хи-квадрат асимптотический, и его некорректно применять к разреженным данным (то есть таким, в которых у одной или нескольких ячеек маленькая ожи даемая частота). Поправка Йейтса па непрерывность - это процедура, разработанная британс ким статистиком Франком Йейтсом (Frank Yates) для критерия независимости хи-квадрат при работе с таблицами 2><2. Распределение хи-квадрат непрерывное, однако данные, используемые в критерии хи-квадрат, дискретные, и поправка Йейтса была придумана как раз для того, чтобы исправить это несоответствие. Поправку Йейтса очень легко применить. Вам просто надо вычесть 0,5 из абсо лютного значения разницы наблюдаемых и ожидаемых значений до возведения в квадрат; это слегка понижает значение статистики хи-квадрат. Формула хи-квад рат с поправкой Йейтса на непрерывность приведена на рис. 5.6. Рис. 5.6. Формула хи-квадрата с поправкой Йейтса на непрерывность Идея поправки Йейтса состоит в том, что уменьшение значения хи-квадрат приводит к уменьшению вероятности ошибки первого рода (ошибочного отвер жения нулевой гипотезы). Однако использование поправки Йейтса одобряется далеко не всеми; некоторые исследователи считают, что она может приводить к слишком сильной коррекции с понижением мощности и повышению вероятности ошибки второго рода (ошибочного неотвержения нулевой гипотезы). Некоторые статистики отвергают поправку Йейтса в принципе, хотя другие находят ее полез ной в случае разреженных данных, особенно если хотя бы в одной ячейке ожидае мая величина меньше 5. Менее противоречивый метод работы с такими данными в случаях, когда предположения о распределении, упомянутые выше (не более 20% ячеек с ожидаемым значением меньше 5 и без ячеек с ожидаемым значением меньше 1), не выполняются, - это использование точного теста Фишера, который обсуждается ниже, вместо критерия хи-квадрат. 158 Глава 5. Категориальные данные Тест хп-квадрат часто рассчитывают и для таблиц большего размера, чем 2><2, хотя для в таких ситуациях обычно используют компьютерные программы, по скольку с ростом числа ячеек расчеты быстро становятся очень громоздкими. Нет никакого теоретического ограничения на число строк и столбцов, которые можно включить, но два фактора создают практические ограничения: возможность сде лать адекватные выводы (попробуйте это сделать с таблицей 30x30!) и необходи мость избегать пустых ячеек, что было сказано ранее. Иногда данные собирают в виде большого числа категорий, но потом их объединяют в меньшее число групп, чтобы избежать пустых ячеек. К примеру, информацию о семейном положении можно собирать в виде большого числа категорий (женат/замужем, холост/не замужем, в разводе, проживание с партнером, вдовец/вдова и т. п.), но для неко торых видов анализов исследователь может решить сократить число категорий (к примеру, до женат/замужем и холост/не замужем) из-за недостаточного числа испытуемых в более мелких категориях. Точный тест Фишера Точный тест Фишера (или просто тест Фишера) - это непараметрический кри терий, аналогичный тесту хи-квадрат, но его можно применять с небольшим ко личеством данных или в случае разреженного распределения данных, которые не подходят под требования хи-квадрата. Тест Фишера основан на гииергеометричсском распределении и рассчитывает точную вероятность наблюдения такого распределения, как в данных, или более экстремального, отсюда и слово «точный» в названии. Это не асимптотический тест, так что он не ограничен правилами о разреженности, которые относятся к тесту хи-квадра г. Обычно для расчета теста Фишера используют компьютерные программы, особенно для таблиц большего размера, чем 2 х2, из-за занудности расчетов. Ниже следует простой пример с таб лицей 2x2. Положим, пас интересует связь между употреблением некоего уличного нарко тика и внезапной остановкой сердца у молодых людей. Поскольку наркотик неза конный и новый для нашего района, и, кроме того, остановки сердца очень редко встречаются у молодых людей, мы не смогли собрать достаточно данных, чтобы провести тест хи-квадрат. В табл. 5.8 приведены данные для анализа. Таблица 5.8. Точный тест Фишера: расчет связи между употреблением нового уличного наркотика и внезапной остановкой сердца у молодых людей Остановка сердца Нет остановки сердца Сумма Употребляли наркотик 7 2 9 Не употребляли наркотика 5 6 11 Сумма 12 8 20 Маши гипотезы: Точный тест Ф ишера 159 Н(): риск внезапной остановки сердца у употреблявших и не употреблявших наркотика одинаковый. H t: риск внезапной остановки сердца у употреблявших новый наркотик выше. Точный тест Фишера рассчитывает вероятность получить результат не менее экстремальный, чем тот, который был найден в исследовании. Более экстремаль ный результат в данном случае - это такой, в котором отличие в частоте внезапной остановки сердца у употреблявших и не употреблявших наркотик еще больше, чем в наших данных (при том же объеме выборки). Пример более экстремального результата приведен в табл. 5.9. Таблица 5.9. Более экстремальное распределение данных для примера с употреблением наркотика и внезапной остановкой сердца Остановка сердца Нет остановки сердца Сумма Употребляли наркотик 8 1 9 Не употребляли наркотика 4 7 11 Сумма 12 8 20 Формула точной вероятности для таблицы 2 х2 приведена на рис. 5.7. n\a\b\c\d\ Рис. 5.7. Формула точного теста Фишера В данной формуле «!» означает факториал (4! = 4 х 3 х 2 х 1), а ячейки и крае вые значения обозначены в соответствии с табл. 5.10. Таблица 5.10. Табличная запись а с Ь г1 d г2 С1 С2 п В нашем случае а = 8, b = 1, с = 4, cl= 7, г, = 9, г2 =11, с, = 12, с2 = 8 и п = 20. Поче му эта таблица более экстремальна, чем наши данные? Потому что если бы между употреблением наркотика и внезапной остановкой сердца не было бы связи, мы бы ожидали увидеть такое распределение, как на табл. 5.11. Таблица 5.11. Ожидаемые данные при условии независимости Остановка сердца Нет остановки сердца Сумма Употребляли наркотик 5.4 3.6 9 Не употребляли наркотика 6.6 4.4 11 Сумма 12 8 20 160 Глава 5. Категориальные данные В наших наблюдаемых данных связь между употреблением наркотика и вне запной остановкой сердца сильнее (больше смертей, чем ожидаемое значение для употреблявших наркотик), так что любая таблица, в которой связь еще сильнее, чем наблюдаемая в данных, более экстремальна и, таким образом, менее вероятна в случае, если употребление наркотика и остановка сердца независимы. Чтобы найти /^-значение для точного теста Фишера вручную, нам бы пришлось найти вероятности всех более экстремальных таблиц и сложить их. К счастью, алгоритмы расчета теста Фишера включены практически во все статистические пакеты, и существует множество онлайн-калькуляторов, которые могут сделать этот расчет за вас. Используя калькулятор, доступный на странице, поддерживае мой Джоном С. Пеццуло (John С. Pezzullo), профессором фармакологии и биостатпстики в отставке, мы находим одностороннее /7-значение точного теста Фишера для данных из табл. 5.7, и оно составляет 0,157. Мы используем односторонний критерий, поскольку наша гипотеза односторонняя; нас интересует, не повышает ли новый наркотик риск внезапной остановки сердца. Используя уровень значи мости 0,05, мы не можем считать этот результат значимым, так что мы не отвер гаем нулевую гипотезу о том, что новый наркотик нс связан с увеличением риска внезапной остановки сердца. Парный тест МакНемара Критерий МакНемара (McNemar) - это вид теста хи-квадрат, который применяют 1з тех случаях, когда данные получены из связанных выборок, пли в случае парных данных. Например, мы можем использовать тест МакНемара для анализа резуль татов опроса общественного мнения до и после просмотра испытуемыми полити ческой рекламы. В данном примере от каждого человека мы получим два ответа, один до и второй после просмотра. Мы не можем использовать эти два ответа на один и тот же вопрос как независимые, так что не можем применять критерий хи-квадрат Пирсона; вместо этого мы предполагаем, что два ответа, полученные от одного н того же испытуемого, будут более сильно связаны, чем два ответа, полученные от случайных людей. Тест МакНемара также подойдет для анализа ответов пар муж-жена или братьев и сестер на один и тот же вопрос. В случае брать ев и сестер или мужей-жен, хотя данные и получены от разных людей, каждый человек в паре настолько сильно связан с другим, что мы ожидаем, что они будут более похожими, чем случайные люди из генеральной совокупности. Критерий МакНемара также можно применять для анализа данных, собранных на группах испытуемых, настолько похожих по ключевым свойствам, что их больше нельзя считать независимыми. К примеру, в медицинских исследованиях иногда изучают встречаемость некоторого заболевания в зависимости от возраста, пола, расовой принадлежности млн национальности и подобных характеристик и применяют такие тесты, как критерий МакНемара, поскольку испытуемые настолько сильно похожи, что их считают скорее связанными выборками, чем независимыми. Положим, мы хотим определить эффективность политической рекламы для влияния на мнение людей о смертной казни. Один из подходов сделать это со 161 Парный тест М ак Н е м а р а стоит в сборе мнения людей о том, поддерживают они высшую меру или нет, до и после просмотра 30-секундного ролика, пропагандирующего отмену смертной казни. Посмотрите на гипотетические данные в табл. 5.12. Таблица 5.12. Критерий МакНемара для мнения по поводу смертной казни до и после просмотра политической рекламы После просмотра ролика За смертную казнь До просмотра ролика Против смертной казни Сумма За смертную казнь 15 25 40 Против смертной казни 10 20 30 Сумма 25 45 70 Больше людей были против смертной казни после просмотра ролика, чем до того, но достоверно ли отличие? Мы можем это проверить с помощью критерия хи-квадрат МакНемара, который рассчитывается по формуле па рис. 5.8. ■ с )2 Ь+с Рис. 5.8. Формула для теста хи-квадрат МакНемара Эта формула использует метод указания ячеек с помощью буквенных обозначе ний по такой схеме, как в табл. 5.13 Таблица 5.13. Способ буквенного обозначения ячеек в таблице 2x2 а b с d Обратите внимание, что формула основана исключительно на распределении дискордантных пар (b и с), в данном случае тех, в которых человек изменил свое мнение после просмотра ролика. Статистика МакНемара распределена по хиквадрату с одной степенью свободы. Расчеты приведены на рис. 5.9. (25 - К »1 , 225 , 25 + 10 35 Рис. 5.9. Расчет критерия хи-квадрат МакНемара Как вы можете увидеть из таблицы значений хи-квадрат (рис. D.11 в прило жении D), при уровне значимости 0,05 критическое значение распределения хиквадрат составляет 3,84, так что наш результат свидетельствует о необходимости отвергнуть нулевую гипотезу о том, что просмотр ролика никак не влияет на мне ние людей о смертной казни. Кроме того, с помощью компьютерного анализа я оп ределила, что точная вероятность получить такую (6,43) или более экстремальную 162 Глава 5. Категориальные данные статистику хи-квадрат составляет 0,017, если бы мнение людей не менялось после просмотра ролика, что подчеркивает значимость результатов этого исследования и необходимость отвергнуть нулевую гипотезу. Пропорции: большие выборки Пропорция - это доля, в которой все случаи из числителя также входят и в знаме натель. К примеру, мы можем говорить о пропорции (доле) студенток в каком-то университете. В числителе будет стоять число студенток, а в знаменателе - число всех студентов университета, как мужского, так и женского пола. Или же мы можем говорить о доле студентов какого-то университета, специализирующихся на химии. В числителе будет число студеитов-химиков, а в знаменателе - число всех студен тов университета (вне зависимости от специализации). Пропорции более подробно обсуждаются в главе 15. Данные, которые можно описать в терминах пропорций, это особый случай категориальных данных, в которых есть две категории: студенты мужского и женского пола в первом примере, химики и не химики во втором. Многие статистики, обсуждаемые в этой главе, такие как точный тест Фишера и критерии хи-квадрат, можно использовать для проверки гипотез о пропорци ях. Однако в случае достаточного объема выборки можно применять некоторые дополнительные виды критериев, которые используют нормальное приближение биномиального распределения; это возможно из-за того, что, как говорилось в главе 3, биномиальное распределение начинает очень напоминать нормальное с ростом п (объема выборки). Какого объема выборки достаточно? Эмпирическое правило гласит, что как пр, так и п(\ - р) должны быть не меньше 5. Поставьте себя на место менеджера на фабрике, который утверждает, что 95% шурупов определенного вида, выпускаемых на фабрике, имеют диаметр между 0,50 и 0,52 сантиметра. Один из клиентов жалуется, что в недавней поставке было слишком много иеразмериых шурупов, так что вы решили взять выборку из 100 шурупов и измерить их, чтобы посмотреть, сколько из них соответствует стандар ту. Вы проведете одновыборочный Z-критерий, чтобы проверить вашу предпола гаемую гипотезу о том, что 95% шурупов соответствуют указанным стандартам, со следую щи м и ги иотезам и: 11(): я > 0,95; Н,: я <0,95, где я - это доля шурупов, соответствующих стандартам, в генеральной совокуп ности (диаметр между 0,50 и 0,52 см). Обратите внимание, что это односторонний критерий; вы будете рады, если хотя бы 95% шурупов соответствуют стандарту, н счастливы, если даже больше, чем 95%. (Лучше всего было бы, если бы 100% соответствовали стандартам, но не бывает идеально точного производственного процесса.) В вашей выборке 91 шуруп соответствовал указанным размерам. До статочен ли этот результат для того, чтобы при уровне значимости 0,05 отвергнуть пулевую гипотезу о том, что хотя бы 95% шурупов этого типа, произведенных на вашей фабрике, соответствуют стандартам? Пропорции: большие выборки 163 Формула для расчета одновыборочного Z-теста пропорций приведена па рис. 5.10. Р-Л 7 _ / V о 1 “ Я 0) п Рис. 5.10. Формула для одновыборочной Z-статистики для пропорций В этой формуле я () - это предполагаемая пропорция в генеральной совокуп ности, р - это пропорция в выборке и п - эго объем выборки. Подстановка чисел в эту формулу дает Z-значение, равное -1,835, как показано па рис. 5.11. -0.0400 0 .9 1 -0 .9 5 ----------------- -- -1 .8 3 5 /(0.95) (0.05) 0.0218 „ Z- V 100 Рис. 5 .1 1 . Расчет одновыборочной Z-статистики для пропорций Критическое значение для одиовыборочного Z-критерия при нашей гипотезе и уровне значимости составляет -1,645. Наша статистика -1,835 более экстремаль на, чем это значение, так что мы отвергаем нулевую гипотезу и заключаем, что меньше 95% шурупов этого вида, произведенных на нашей фабрике, соответству ют указанным стандартам. Кроме того, мы можем проверять отличия между пропорциями в генеральных совокупностях в случае большого объема выборок. Предположим, нас интересу ет доля курящих старшеклассников, и мы хотим сравнить этот показатель у двух стран. Нашей нулевой гипотезой будет то, что пропорции в двух странах одинако вы, так что мы проведем двухсторонний тест со следующими гипотезами: Н„. я, я 2, Н ]: п ] ф п т Считая, что предположения об объеме выборок выполнены (пр > 5, /з(1 - р ) > 5 для обеих выборок), мы можем применить формулу с рис. 5.12 для расчета Z-ста тистики для разницы между пропорциями для двух генеральных совокупностей. Рис. 5.12. Формула для расчета Z-статистики равенства пропорций В этой формуле р, - это пропорция в выборке 1,р 2 - это пропорция в выборке 2, п - это объем выборки 1, п2 - это объем выборки 2 и р - это объединенная про порция, рассчитанная как сумма успехов в обеих выборках (в данном случае число курильщиков), разделенная на сумму объемов выборок. 164 Глава 5. Категориальные данные Предположим, мы взяли выборки по 500 старшеклассников в каждой из стран; в стране 1 выборка включала 90 курильщиков; в стране 2 обнаружилось 70 курящих испытуемых. Достаточно ли нам этих данных, чтобы отвергнуть нулевую гипоте зу о равенстве пропорций курящих старшеклассников в двух странах? Мы можем проверить это с помощью двухвыборочного Z-теста, как показано на рис. 5.13. Z= 0 . 1 8 - 0 .1 4 0.04 , ----------- -- 1.74 / 0 .1 6 (1 - 0 .1 6 ) { 0 .1 6 (1 - 0 .1 6 ) .023 V 500 + 500 Рис. 5.13. Расчет Z-статистики для разницы двух пропорций Обратите внимание: наша объединенная пропорция составляет (90 + 70)/(500 + 500) = 160/1000 = 0,16. Э го Z-зиачение менее экстремально, чем 1,96 (значение, необходимое для того, чтобы отвергнуть нулевую гипотезу при уровне значимости 0,05; вы можете про верить это с помощью таблицы нормального распределения (рис. D.3 в прило жении D)), так что мы не можем отвергнуть нулевую гипотезу о равенстве долей курильщиков среди старшеклассников в двух странах. Корреляции для категориальных данных Самая обычная мера связи двух переменных, коэффициент корреляции Пирсона (обсуждается в главе 7), требует того, чтобы переменные были хотя бы интерваль ными. Тем не менее были разработаны меры связи для категориальных и порядко вых данных, и они имеют смысл, сходный с коэффициентом корреляции Пирсона. Эти меры часто рассчитывают с помощью статистических программ или онлайпкалькуляторов, хотя можно это сделать и вручную. Как н в случае коэффициента корреляции Пирсона, корреляции, обсуждаемые в этом разделе, - это исключительно меры связи, и ни в кое случае нельзя делать вы воды о причинно-следственных взаимодействиях только на основании коэффици ента корреляции. Есть огромное множество подобных мер, некоторые из которых известны под несколькими названиями; здесь описаны некоторые из самых часто используемых статистик. Хороший подход в случае, если вы используете статис тический пакет, - это посмотреть, какие из мер он поддерживает, а затем изучить, что из них подходит для ваших данных, поскольку существует очень большое раз нообразие видов корреляций. Бинарные переменные Фи - это мера степени связи между двумя бинарными переменными (двумя кате гориальными переменными, каждая из которых принимает только два значения). Фи рассчитывают для таблиц 2 *2; VКрамера (Cramer’s V) аналогична фи для таб Корреляции для категориальных данных 165 лиц большего размера. Используя метод указания ячеек как в табл. 5.10, формула для расчета фи приведена на рис. 5.14. ad -b e + Ь)(С + d)(a + с )ф + d) Ф~ Рис. 5.14. Формула для фи-статистики Мы можем рассчитать фи для данных по куреиию/раку легких из табл. 5.3, как показано на рис. 5.15. , ф= (60X390)-(300)00) ...... ........ .................... = 0.24 л/360 + 400 + 70 + 690 Рис. 5.15. Расчет фи-статистики Кроме того, фи можно рассчитать, разделив статистику хи-квадрат на п и взяв квадратный корень из полученного значения, как показано на рис. 5.16. ■еи — 1x1 п Рис. 5.16. Альтернативная формула для фи-статистики Обратите внимание, что первый метод расчета может дать как положительный, так и отрицательный результат, тогда как второй - только положительный, по скольку статистика хи-квадрат всегда положительна1. Значение фи, полученное с помощью статистики хи-квадрат по второму методу, можно считать за абсолютное значение результата расчета по первой формуле. Эго хорошо видно при анализе данных из табл. 5.14. Таблица 5.14. Пример для фи 10 20 20 10 Рассчитав фи по первой формуле, мы получили -0,33, а по второй - 0,33. Вы можете проверить это с помощью компьютерного пакета или онлайн-калькулятора, или же проведя расчеты вручную. Разумеется, если бы мы поменяли порядок следования колонок, мы бы получили положительный результат с помощью обо их методов. Если у колонок нет естественного порядка (к примеру, если они пред ставляют из себя неупорядоченные категории вроде цвета), нас может не заботить направление связи, а только ее сила. В других случаях ситуация может быть иной, к примеру если колонки представляют из себя наличие или отсутствие болезни. В последнем случае надо быть внимательными к расположению данных в табли це, чтобы избежать неверной интерпретации результатов. '* Кроме того, если не учитывать мнимых чисел, квадратный корень всегда неотрицателен. - Прим, перво. 166 Глава 5. Категориальные данные Интерпретация фи не так однозначна, как интерпретация коэффициента кор реляции Пирсона, поскольку максимальное и минимальное значения фи зависят от краевого распределения данных. Если обе переменные разделены ровно 50 на 50 (половина с одним значением, половина - с другим), фи может принимать зна чения (-1 , +1) при расчете по первому методу и (0, 1) - по второму. Если у пере менных распределение иное, то фи может принимать меньший набор значений. Это подробнее обсуждается в статье Дэвенпорта и Эль-Саихурри (Davenport and, El-Sanhurry), упомянутой в приложении С. Помня об этом ограничении, в осталь ном интерпретация фн сходна с таковой для коэффициента корреляции Пирсона, так что значение -0,33 говорит о средней отрицательной связи (следует помнить, что пет точного определения «средней силы связи», и такой результат может счи таться сильным в одной области и довольно слабым - в другой). V Крамера - это обобщение фи для таблиц, больших, чем 2x2. Формула для V Крамера сходна с таковой для второго метода расчета фи, что показано на рис. 5.17: * n(min г-1, с-1) v ~ i Рис. 5.17. Формула для расчета V Крамера где в знаменателе стоит я, умноженное на меньшее число из ( г - 1) и (с - 1), то есть минимум из двух чисел: число строк минус 1 и число столбцов минус 1. Для табли цы 4 хЗ это число будет 2, то есть 3 - 1 . Для таблицы 2 х2 формула для V Крамера совпадает с формулой для второго метода расчета фи. Предположим, значение хи-квадрат для таблицы 3x4 с п = 200 составляет 16,70. V Крамера для этих данных приведена на рис. 5.18. 16.70 v = i 200(2) _ П on Рис. 5.18. Расчет V Крамера Точечно-бисериальный коэффициент корреляции Точсчно-бисериальный коэффициент корреляции - это мера связи между ди хотомической и непрерывной переменными. Математически он эквивалентен коэффициенту корреляции Пирсона (подробно обсуждается в главе 7), но из-за дпхотомичности одной из переменных можно применять другую формулу для расчета. Предположим, что нас интересует сила связи между полом (дихотомическая переменная) и ростом (непрерывная переменная) у взрослых. Точечио-бисериальпый коэффициент симметричен, как и коэффициент корреляции Пирсона, но для простоты обозначения мы запишем пол как X и рост как У, причем закодируем У так: 0 - мужчины, 1 - женщины. Мы берем выборку мужчин и женщин и рассчи Порядковые переменные 167 тываем точечно-бисериальный коэффициент корреляции с помощью формулы, приведенной на рис. 5.19. X.-Xjpd-p) Рис. 5.19. Формула для точечно-бисериального коэффициента корреляции В этой формуле X - это средний рост женщин, Х () - средний рост мужчин, р - доля женщин, sx. - стандартное отклонение X. Предположим, в нашей выборке средний рост мужчин составляет 69,0 дюйма1, 64,0 дюйма*5 - средний рост женщин, стандартное отклонение роста составляет 3,0 дюйма**, и в выборке 55% женщин. Мы рассчитываем корреляцию между полом и ростом у взрослых, как показано на рис. 5.20. Рис. 5.20. Точечно-бисериальная корреляция между полом и ростом Корреляция на уровне -0,829 - это показатель сильной связи, что говорит о том, что рост и пол каким-то образом тесно взаимосвязаны в популяции США. Корре ляция отрицательная, поскольку мы закодировали женщин (которые в среднем ниже) как 1, а мужчин - как 0; если бы мы закодировали эту переменную наобо рот, корреляция бы составляла 0,829. Обратите внимание, что средние и стандар тное отклонение, использованные в этом подсчете, близки к реальным данным по США, так что сильная связь между полом и ростом существует не только в этом упражнении, но и в жизни. Порядковые переменные Самая обычная статистика для корреляции порядковых данных (то есть тех, в ко торых данные упорядочены в смысле «меныне-больше», но нет равного расстояния между значениями) - это ранговая корреляция Спирмена (Spearman’s rank-order coefficient), также называемая ро Спирмена или г Спирмена, иногда обозначаемая Ро Спирмена основана на рангах данных по величине (первый, второй, третий и так далее), а не на самих значениях. Ранжирование класса - это пример порядковых данных; ученику с наибольшим средним баллом присваивают номер один, со вто рым по величине средним баллом - номер два и так далее, но при этом вы не зна ете, такая же ли разница между первым и вторым учениками, как между вторым и третьим. Даже если данные на самом деле измеряются на непрерывной шкале, как средний балл в школе, часто при поступлении в колледжи используются именно ранги из-за сложностей в сравнении оценок в разных классах и школах. 1 Примерно 175 см. - Прим, перев 5 Примерно 162 см. - Прим, перев. () 7.62 см. - Прим, перев. 168 Глава 5. Категориальные данные Для расчета ро Спирмена проранжируйтс все значения каждой переменной по отдельности, поставив в соответствие равным значениям усредненный ранг. Затем посчитайте разницу в рангах для каждой пары значений и рассчитайте ро Спирме на с помощью формулы, приведенной на рис. 5.21. , ф п (п - - I ) г' Рис. 5 .2 1 . Формула для ро Спирмена Положим, пас интересует связь между временем, проведенным за учебой в не делю, и результатом итогового экзамена. Мы собираем данные об обеих перемен ных, как показано в табл. 5.15 (данные упрощены для иллюстрации, чтобы мини мизировать ручные расчеты). Таблица 5.15. Число часов, потраченных на учебу каждую неделю, и результат экзамена Студент Время учебы (часы) Ранг Результат экзам ена Ранг d. d.2 > 1 10 7 93 7 0 0 1 2 12 9 98 8 1 1 3 8 5 99 9 -4 16 4 15 10 100 1 0 0 5 4 1 92 6 -5 25 6 11 8 90 5 3 9 7 6 3 80 2 1 1 8 7 4 82 3 1 1 4 2 4 1 1 1 9 9 6 84 10 5 2 75 Похоже, что большие затраты времени на учебу связаны с более высокой оцен кой, однако связь не идеальная (студент № 3 получил высокую оценку, хотя потра тил среднее количество времени на учебу, а студент № 5 получил хорошую оценку, хотя занимался относительно немного). Мы рассчитаем ро Спирмена, чтобы полу чить более точную оценку этой связи. Обратите внимание на то, что мы возводим разницу в рангах в квадрат, так что не имеет значения, вычитаете вы ранг времени обучения из ранга оценки (как сделали мы) или же наоборот. Сумма d? составляет 58, а ро Спирмена для этих данных показана на рис. 5.22. (6X58) 10(99) = 1 - 0 .3 5 = 0 .6 5 Рис. 5.22. Расчет ро Спирмена 169 Порядковые переменные Это подтверждает то, что мы предполагали, посмотрев на данные: есть доста точно сильная, но не идеальная связь между затратами времени на занятия и ре зультатом экзамена. Гамма Гудмаиа и Краснела (Goodman and Kruskal’s gamma), часто называемая просто гамма, - это мера связи между порядковыми переменными, которая осно вана на числе конкордантных и дискордантных пар в двух переменных. Иногда ее называют мерой монотонности, поскольку она говорит о том, как часто перемен ные принимают значения в том порядке, который ожидается. Если я вам скажу, что две переменные положительно связаны друг с другом и что второе число в переменной 1 больше, чем первое, то вы будете ожидать, что второе число в пере менной 2 тоже выше первого. Тогда это будет конкордантная пара. Если лее второе число в переменной 2 будет меньше, чем первое, это будет дискордантная пара. Для ручного расчета гаммы мы сначала должны получить распределение частот для двух переменных, сохраняя в них естественный порядок. Представьте себе гипотетические данные об ИМТ (индекс массы тела, мера от ношения массы к росту) и кровяном давлении. В целом высокий ИМТ связан с высоким давлением, но это не так для каждого отдельного человека. У некоторых полных людей нормальное давление, а у некоторых людей с правильным весом давление повышено. Есть ли сильная связь между массой тела и кровяным давле нием в данных в табл. 5.16? Таблица 5.16. Пример данных для расчета гаммы Кровяное давление Нормальный Прегипертензия Гипертензия Нормальный 25 15 5 Повышенный 10 10 25 ИМТ Формулы для расчета гаммы используют обозначение ячеек как в табл. 5.17. Таблица 5.17. Обозначения ячеек для расчета гаммы а Ь с d е f Сначала нам надо найти число конкордантных (Р) и дискордантных пар (Q) следующим образом: Р= а (е + f) + b f = 25(10 + 25) + 15(25) = 875 + 375 = 1250, Q = с (cl + е) + bd = 5(10 + 10) + 15(10) = 100 + 150 = 250. Затем гамму рассчитывают так, как показано на рис. 5.23. P-Q 1250-250 у ------------------------------ 0.67 ' P + Q 1250 + 250 Рис. 5.23. Расчет гаммы Гудмана и Краскела Глава 5. Категориальные данные 170 Смысл гаммы ясен: если есть сильная связь между двумя переменными, доля конкордат ных пар должна быть выше; таким образом, чем больше гамма, тем бо лее слабой связи она соответствует. Гамма симметрична, поскольку пет разницы, какая из переменных рассматривается как зависимая, а какая - как независимая; значение гаммы будет одинаковым в любом случае. Гамма не делает поправку на равные ранги в данных. Морис Кендалл (Maurice Kendall) разработал три немного отличающихся вида порядковой корреляции как альтернативы гамме. Статистические компьютерные программы иногда используют более сложные формулы для расчета этих статистик, так что стоит проверять, какой именно метод расчета используется, по руководству к программам. Все варианты статистики тау Кендалла, как и гамма, симметричны. Тау-а Кендалла основана на разнице числа конкордантных и дискордантных пар, разделенной на меру, основанную па общем числе пар (п = объем выборки), как показано на рис. 5.24. г - ж Рис. 5.24. Формула для тау-а Кендалла Тау-b Кендалла - это похожая мера связи, основанная на конкордантных и дис кордантных парах, с учетом поправки на число равных рангов. Если назвать пе ременные X и У, тау-Ь рассчитывается как Р - Q, поделенное на геометрическое среднее числа пар X с уникальным рангом (Х{1) и числа пар Ус уникальным рангом (У0). Тау-6 может достигать 1,0 и -1,0 только в случае квадратных таблиц (таблиц с одинаковым числом строк и столбцов). Формула для тау-6 Кендалла приведена па рис. 5.25. Рис. 5.25. Формула для тау-Ь Кендалла В этой формуле Х {) - это число пар X с уникальным рангом, У() - это число пар У с уникальным рангом. Тау-с Кендалла используют для неквадратных таблиц и рассчитывают, как по казано на рис. 5.26. rc = ( P - Q ) 2m n2{m -1) Рис. 5.26. Формула для тау-с Кендалла В этой формуле m - это число строк или столбцов, в зависимости от того, какое из них меньше, а и - это объем выборки. Ш кала Лайкерта и шкалы семантического дифференциала 171 (1 Сомерса (Somers’s d) - это асимметричный вариант гаммы, так что расчет ста тистики меняется в зависимости от того, какую из переменных мы считаем неза висимой, а какую - зависимой. Кроме того, d Сомерса отличается от гаммы в том, что она включает поправку на число пар с равным рангом в независимой перемен ной. Если гипотеза заключается в том, что X предсказывает значение У, d Сомерса будет поправлено на число равных рангов в Х . Если, наоборот, У предсказывает X , то поправка будет касаться равных рангов в У. Как и в тау-6, равные ранги в d Сомерса удаляются из знаменателя. Используя обозначения Х () = число уникаль ных рангов в X , а У{) = число уникальных рангов в У, d Сомерса рассчитывают, как показано на рис. 5.27. ^/(предсказание У по X ) ^(предсказание X по У) P -Q P + Q + x„ P -Q P + Q+ Y » Рис. 5.27. Формулы для d Сомерса Симметричное значение для d Сомерса можно получить, взяв среднее от двух асимметричных значений, полученных по этим формулам. Шкала Лайкерта и шкалы семантического дифференциала Исследователи разработали несколько типов шкал для измерения свойств, у кото рых нет естественной единицы измерения, таких как мнения, отношения и впечатле ния. Самая известная из таких шкал - это шкала Лайкерта, предложенная Ренсисом Лайкеротом (Rensis Likert) в 1932 году и широко используемая по сей день в самых различных областях от образования до здравоохранения и менеджмента. В типич ном вопросе, построенном по шкале Лаймерта, испытуемому дают утверждение и предлагают выбрать из упорядоченного списка возможных ответов. К примеру: Мои занятия в Высшей школе Линкольна (Lincoln East High School) подготовили меня к занятиям в университете. 1. 2. 3. 4. 5. Полностью согласен. Согласен. Затрудняюсь ответить. Не согласен. Полностью не согласен. Это классическая порядковая шкала; мы можем быть достаточно уверены, что «Полностью согласен» показывает более сильное согласие, чем «Согласен», а «Со гласен» - более сильное, чем «Затрудняюсь ответить», однако мы не знаем, одина ково ли отличие между «Согласен» и «Полностью согласен» с отличием между «За трудняюсь ответить» и «Согласен», и одинаковы ли они для разных испытуемых. 172 Глава 5. Категориальные данные Методы работы с категориальными и порядковыми данными, описанные в этой главе, подходят для анализа данных, собранных с помощью шкалы Лайкерта, как и некоторые непараметрические методы, описанные в главе 13. Тот факт, что ответы в шкале Лайкерта часто обозначают номерами, иногда приводит к использованию исследователями методов, разработанных для интервальных данных. К примеру, вы можете найти опубликованные статьи, где указаны среднее и дисперсия для данных, собранных с помощью шкалы Лайкерта. Исследователь, выбирающий та кой путь (использования данных, собранных с помощью шкалы Лайкерта, как ин тервальных), должен понимать всю противоречивость этого подхода и что многие издатели нс примут подобного анализа, а задача по доказательству возможности отхода от порядковых и категориальных методов в случае анализа таких данных целиком и полностью лежит на самом исследователе. В шкале Лайкерта часто используют пять уровней реакции испытуемого, по скольку, как считается, три уровня не дают достаточного числа вариантов ответа, тогда как семь предоставляют слишком большой выбор. Кроме того, есть данные, что люди не любят выбирать крайние значения из многих вариантов. Однако некоторые исследователи вообще предпочитают четное число вариантов ответа, обычно четыре или шесть, чтобы убрать среднюю категорию, которую испытуе мые могут выбирать по умолчанию. Шкала семантического дифференциала похожа на шкалу Лайкерта, за тем исключением, что отдельные варианты ответа не имеют названия, а обозначены только крайние значения. Предыдущий вопрос из шкалы Лайкерта можно пере формулировать в стиле семантического дифференциала следующим образом: Пожалуйста, оцените вашу академическую подготовку в Высшей школе Линкольна в отношении требований университетского обучения: Великолепная подготовка 1 2 3 4 5 Недостаточная подготовка Из-за отсутствия необходимости давать названия отдельным точкам в шка лах семантического дифференциала часто используют больше вариантов ответа. Пользуется популярностью десятибалльная шкала, поскольку людям знакома де сятибалльная система оценки (отсюда и популярная в английском языке фраза «а perfect 10», обозначающая высшую оценку чего-либо; дословно переводится как «идеальная десятка»). Как и в случае шкалы Лайкерта, шкалы семантическо го дифференциала по своей природе порядковые, хотя в случае большого числа предложенных вариантов некоторые исследователи считают, что можно анализи ровать их как интервальные. Ренсис Лайкерт (1 9 0 3 -1 9 8 1 ) Ренсис Лайкерт (произносится с ударением на первый слог) был американским социо логом, специализировавшимся на исследовании организации и теории управления. Лайкерт получил степень бакалавра (ВА) социологии в Мичиганском университете в 1926 году, а степень кандидата психологических наук (PhD) в Колумбийском университе те в 1932 году; он разработал шкалу Лайкерта как часть своей диссертации. Лайкерт был основателем Института социологии Мичиганского университета и был его директором с Упражнения 173 1946 до 1970 года; последние годы своей жизни он консультировал корпорации и писал книги по теории управления. Главный вывод его работы делает его очень популярным среди мотивированных студентов и работников по всему миру: Лайкерт разработал ос новы управления на основе участия и методов организации, ориентированных на чело века, на базе своих исследований, показавших, что существует обратная связь между принуждающим стилем управления и эффективностью работы сотрудников. Упражнения Вот несколько вопросов на повторение тем, обсужденных в этой главе. Задача Каковы измерения таблиц 5.18 и 5.19? Сколько будет степеней свободы в кри терии независимости хи-квадрат для таких данных? Таблица 5.18. RxC-таблица (а) Таблица 5 .19. R хС-таблица (б) Решение Размерности таблиц равны 3*4 (таблица а) и 4><3 (таблица 6). Помните, что таблицы описывают как R*C, то есть (число строк)х(число столбцов). Число степеней свободы для первой таблицы равно (3 - 1)(4 - 1) = 6 и (4 - 1)(3 - 1) = 6 для второй, поскольку число степеней свободы для хи-квадрата рассчитывают как ( г - 1) (с- 1). Задача Рассчитайте процент согласия и каппу по данным из следующей таблицы. Таблица 5.20. Согласие двух оценщиков Оценщ ик 2 + Оценщик 1 - + 70 15 85 - 30 25 55 100 40 140 174 Глава 5. Категориальные данные Решение Процент согласия = 95/140 = 0,68. Кампа = 0,30. Р = (70 + 25)/140 = 0,68. Р = (85*100)/(140*140) + (40*55)/(140*140) = 0,54. 0 .6 8 -0 .5 4 1 -0 .5 4 0.30 Рис. 5.28. Расчет каппы Задача Какова нулевая гипотеза критерия независимости хи-квадрат? Решение Переменные независимы, что одновременно означает, что совместные частоты можно точно предсказать с помощью краевых частот. Задача Какова пулевая гипотеза критерия равенства пропорций хн-квадрат? Решение Нулевая гипотеза состоит в том, что две или более выборки, взятые из разных генеральных совокупностей, имеют одинаковое распределение изучаемых пере менных. Задача Какая статистическая мера подойдет для оценки связи между двумя независи мыми переменными, приведенными в табл. 5.21? Каково значение этой статисти ки, какие выводы можно из него сделать? Таблица 5 .2 1 . Две независимые переменные D+ D- Е+ 25 10 Е- 2 5 Решение Поскольку это таблица 2^2 и в двух ячейках ожидаемые значения меньше 5 (ячейки с и г/), следует использовать точный тест Фишера. Значение, полученное с помощью компьютерной программы, составляет 0,077, что не дает оснований для того, чтобы отвергнуть нулевую гипотезу об отсутствии связи между Е и D. Задача Каковы ожидаемые значения для табл. 5.22? Чему равна статистика хи-квад рат? Каковы ваши выводы по поводу связи между вхождением в группу риска и заболеванием, судя по этим данным? 175 Упражнения Таблица 5.22. Расчет ожидаемых значений D+ D- Е+ 25 30 Е- 15 5 Решение Ожидаемые значения приведены в табл. 5.23. Таблица 5.23. Ожидаемые значения: решение D+ D- Е+ 29.3 25.7 Е- 10.7 9.3 Хи-квадрат (1) = 5,144, р = 0,023. Этого достаточно, чтобы отвергнуть нулевую гипотезу о независимости вхождения в группу риска от заболевания. Мы можем сделать тот же вывод, основываясь на таблице хи-квадрат (рис. D.11 в приложе нии D): 5,144 больше критического значения на уровне значимости 0,025 (5,024) для одностороннего критерия хи-квадрат с одной степенью свободы, что говорит о том, что мы должны отвергнуть нулевую гипотезу, если мы используем уровень значимости 0,05. Задача В табл. 5.24 представлены политические предпочтения семейных пар. Рассчи тайте соответствующую статистику, чтобы проверить, независимы ли политичес кие предпочтения мужей и жен от их супруги или супруга. Таблица 5.24. Политические предпочтения мужей и жен Ж ена Муж Республиканец Д ем ократ Республиканец 20 30 Д ем ократ 20 20 Решение Из-за того, что данные взяты пз связанных пар, в данном случае подходит тест МакНемара. Расчеты приведены на рис. 5.29. Значение хи-квадрата МакНемара равно 2,00, что ниже критического значения для критерия хи-квадрат с одной сте пенью свободы при уровне значимости 0,05, так что у нас нет оснований отвергнуть нулевую гипотезу о независимости политических предпочтений мужей и жен друг от друга. , (30 -2 0 )2 30 100 50 = 2.00 Рис. 5.29. Расчет критерия МакНемара Глава 5. Категориальные данные 176 Задача Какую мз тау-статистик Кендалла следует применить при анализе данных в табл. 5.25? Таблица 5.25. Уровень образования и удовлетворенность работой Удовлетворенность работой Не удовлетворен Нейтральное отношение Образование Удовлетворен Неполное среднее 45 20 10 Среднее 15 15 20 Неполное высшее 30 10 25 Высшее 10 15 30 Решение Следует использовать тау-с Кендалла, поскольку таблица нс квадратная (в ней 4 строки и 3 колонки). Задача В чем проблема при анализе данных, полученных с помощью шкалы Лайкерта и подобных шкал отношения как интервальных данных? Решение Нет естественной метрики для таких искусственных конструктов, как отно шение или мнение. Мы можем разрабатывать порядковые шкалы (то есть отве ты можно ранжировать по степени согласия, например) для их измерения, но пет никакой возможности определить, равномерно ли распределены точки на такой шкале. Таким образом, данные, собранные с помощью таких шкал, как шкала Лай керта, и подобных, следует анализировать как порядковые или категориальные, а нс интервальные пли характеризующие отношения. Задача В какой ситуации вы бы использовали V-статистику Крамера? Решение V Крамера - это более общий вариант фи-статистики, который характеризует силу связи между двумя категориальными переменными с более чем двумя уров нями. Для бинарных переменных V Крамера эквивалентна фи. Задача Вы узнали результаты государствепого опроса, которые гласят, что 30% сту дентов университетов не удовлетворены своей внешностью. Вы хотите узнать, сохраняется ли пропорция в вашем местном университете (20 000 студентов), так что вы берете случайную выборку объемом в 150 студентов и узнаете, что 30 не удовлетворены своей внешностью. Проведите соответствующий тест, чтобы уз нать, значимо ли отличается пропорция в вашем университете от результатов го сударстве! Iного опроса. Упражнения 177 Решение Вопрос требует использовать одновыборочную Z-статистику с двухсторонним критерием (поскольку вас интересует наличие отличий в результатах опроса в ва шем университете от результатов по всей стране в любую сторону). Статистика теста приведена на рис. 5.30. Z= 0.30 - 0.20 0.10 , ------- -------------- 2.70 /0 .3 0 (1 -0 .3 0 ) 0.037 V 150 Рис. 5.30. Расчет одновыборочной Z-статистики для пропорций Используя стандартный уровень значимости 0,05 и двухсторонний критерий, мы видим, что критическое Z-зиаченис составляет 1,96 (вы можете его найти па рис. D.3 в приложении D). Наше Z-значение больше критического, так что мы от вергаем нулевую гипотезу о равенстве пропорций студентов, не удовлетворенных своей внешностью, в вашем университете и по всей стране. Парадокс Симпсона Парадокс Симпсона описывает те ситуации, когда направление связи обращается при объединении данных из нескольких групп. Он хорошо известен среди фанатов бейсбола. К примеру, даже если у игрока А средний счет (batting average, доля успешных ударов) выше, чем у игрока Б в каждом из двух годов, тем не менее в среднем за оба года у игро ка А счет может быть ниже. Посмотрите на табл. 5.26. У игрока Б был выше счет в каждом из годов, однако если их объединить, то его счет окажется ниже. Этот феномен возникает из-за разного числа ударов каждого игрока в каждом из годов. Таблица 5 .2 6 . Парадокс Симпсона в бейсболе Объединенные 2001 2000 Игрок Удары At-bats Среднее Удары At-bats Среднее Удары At-bats Среднее А 10 50 0,2 200 600 0,333 210 650 0,323 В 85 400 0,213 50 145 0,345 135 545 0,248 Парадокс Симпсона был причиной споров о половой дискриминации при поступлении в университет несколько лет назад. Иск, поданный против Калифорнийского универси тета, был отклонен, поскольку было показано, что та дискриминация, которая имелась на первый взгляд (меньший процент женщин, чем мужчин, поступил в университет), мо жет быть объяснена тем, что поступление определяется на уровне факультета, и боль шинство женщин поступали на те факультеты, куда процент принятых абитуриентов был в целом ниже, тогда как большинство мужчин, наоборот, поступали на те факультеты, где процент принятых абитуриентов был выше. На самом деле на большинство факультетов приняли мужчин даже немного меньше, чем женщин, но эта ситуация оказалась обра щенной при объединении данных со всех факультетов. Также парадокс Симпсона проявляется при оценке лекарств, когда лекарство А прояв ляет себя лучше, чем лекарство Б, в обеих выборках, но оказывается менее эффектив ным, если выборки объединить. Некоторые статистики полагают, что в таких обстоятель ствах это вообще не следует называть парадоксом, потому что это тогда означает, что между двумя переменными есть какая-то причинная связь. 178 Глава 5. Категориальные данные Таблица 5.27. Обзор всех тестов, упомянутых в этой главе Название критерия Тип данных Что проверяется Процент согласия Одна категориальная перемен Насколько хорошо оценки совпа дают? ная, две оценки Каппа Коэна Одна категориальная перемен Насколько хорошо оценки совпада ют после поправки на случайность? ная, две оценки Тест независимости хи-квадрат Две или более категориальные переменные Критерий хи-квадрат равенства пропорций Одна категориальная перемен Распределена ли переменная ная, выборки из двух или более одинаково во всех популяциях, из генеральных совокупностей которых взяты выборки? Критерий согласия хи-квадрат Одна категориальная перемен Распределена ли переменная по предполагаемому закону в гене ная, предполагаемое распре ральной совокупности, из которой деление для нее взята выборка? Точный тест Фишера Две категориальные перемен ные; данные могут быть разре женными Независимы ли все переменные? Критерий МакНемара Одна дихотомическая пере менная, измеренная на парах Равны ли пропорции в парах? Z -критерий пропорции для больших выборок Дихотомическая переменная, одна большая выборка ( п р > 5, л(1 - р ) > 5) Отличается ли пропорция в гене ральной совокупности от задан ной? Z -критерий равенства пропорций для двух больших выборок Дихотомическая переменная, две большие выборки ( п р > 5, п( 1 - р ) > 5) Одинаковы ли пропорции перемен ной в генеральных совокупностях, из которых взяты выборки? Фи Две бинарные переменные Насколько сильно связаны перемен ные? V Крамера Две категориальные перемен ные Насколько сильно связаны перемен ные? Точечно-бисериальная корреляция Одна дихотомическая и одна непрерывная переменная Насколько сильносвязаны перемен ные? Ро Спирмена Две ранжированные перемен ные Насколькосильносвязаны перемен ные? Гамма Гудмана и Краскела Две порядковые переменные Насколько сильно связаны перемен ные (на основании конкордантных и дискордантных пар)? Тау-а Кендалла Две порядковые переменные Насколькосильносвязаны перемен ные (на основании конкордантных и дискордантных пар)? Тау-Ь Кендалла Две порядковые переменные Насколькосильносвязаны перемен ные (на основании конкордантных и дискордантных пар)? Тау-с Кендалла Две порядковые переменные Насколькосильносвязаны перемен ные (на основании конкордантных и дискордантных пар; можно исполь зовать для неквадратных таблиц)? Независимы ли переменные? ГЛАВА 6. f-критерий {-распределение было впервые описано химиком, работавшим над контролем качества в пивоварне Гинесс (Guiness) в Ирландии, Уилльямом Сили Госсетом (William Sealy Gosset). Госсет представил {-распределение в статье под псевдо нимом Стыодент (Student); именно поэтому {-распределение также часто назы вают распределением Стыодента, а {-критерий — критерием Стыодента. Есть три основных типа {-критериев, все они имеют отношение к проверке разницы в средних значениях и включают сравнение статистики теста с {-распределением для определения справедливости полученной величины статистики в случае верности пулевой гипотезы. Однофакториый дисперсионный анализ (ANOVA) с двумя факторами математически эквивалентен {-критерию, по {-критерий на столько часто применяется, что заслуживает отдельной главы. Кроме того, по нимание логики {-критерия должно помочь в понимании более сложной логики дисперсионного анализа. {-распределение Если вы незнакомы со статистикой вывода, то, прежде чем читать дальше, вам может быть полезно сначала ознакомиться с главой 3. Статистические выводы о реальных данных основываются в том числе и на знании распределения веро ятности. В главе 3 мы обсуждали нормальное и биномиальное распределения; в данной главе мы познакомимся с {-распределением. Как и нормальное распреде ление, {-распределение непрерывное и симметричное. В отличие от нормального распределения, форма {-распределения зависит от числа степеней свободы вы борки, то есть числа параметров, которые могут изменяться. В случае {-распреде ления основной эффект на число степеней свободы оказывает размер выборки, и у тестов для более крупных выборок в целом больше степеней свободы, чем в случае небольших выборок. Расчет числа степеней свободы для различных ти пов {-критериев будет обсуждаться в разделах, посвященных соответствующим типам критериев. Как отмечалось выше, Госсет разработал {-распределение для практических за дач. Будучи работником отдела контроля качества в пивоварне Гинесс, он пытал ся разрешить проблему использования выборки ограниченного размера. Главное 180 Глава 6. f-критерий наблюдение Госсета касалось влияния объема выборки на вероятность того, что среднее по генеральной совокупности лежит не дальше определенных границ от среднего выборки. Существует две основные причины использования £-раснределспия при проверке различий в средних: работа с совокупностью, которая, как мы считаем, распределена нормально, и неизвестное стандартное отклонение генеральной совокупности, когда нам приходится использовать стандартное от клонение выборки как замену отклонению генеральной совокупности. Если мы работаем с выборкой слишком маленького объема, чтобы применить центральную предельную теорему, и мы не уверены в нормальности распределения генеральной совокупности, из которой мы взяли выборку, то нам придется применять непара метрические тесты (обсуждаются в главе 13). Р и с .6 .1 . Четыре f-распределения Как показано на рис. 6.1, ^-распределение напоминает нормальное распределе ние, причем главное отличие состоит в более «тяжелых» хвостах, что говорит о том, что крайние значения в ^-распределении встречаются чаще, чем в нормаль ном. С ростом объема выборки (и, соответственно, числа степеней свободы) £-распрсдслеиие становится все более похожим на нормальное. Госсет обнаружил, что в случае выборки из нормально распределенной совокуп ности и использования стандартного отклонения выборки для оценки дисперсии совокупности распределение средних выборок из этой совокупности по перемен ной д: можно описать формулой, представленной на рис. 6.2. f-распределение 181 х —ц t =— s Vn Рис. 6.2. Формула f-распределения В этой формуле х - это среднее выборки, р - это среднее генеральной совокуп ности, 5 - это стандартное отклонение выборки, а п - это объем выборки. Эта формула очень напоминает формулу Z-значения, приведенную в главе 3; единственное отличие заключается в том, что при вычислении ^-статистики ис пользуется стандартное отклонение выборки, тогда как при вычислении Z-значе ния - отклонение генеральной совокупности. В приложение D входит таблица (рис. D.7) с верхними критическими значе ниями ^-распределения для различных степеней свободы; мы говорим о «верхних критических значениях», поскольку ^-распределение симметрично, поэтому нет никакого смысла выписывать также и нижние значения (они будут равны значе ниям в данной таблице со знаком «минус»). Из-за того, что в таблицу включены только положительные значения, для нахождения критического значения в двух стороннем ^-критерии мы берем колонку со значением а, равным половине иско мого. Для двухстороннего критерия с а = 0,05 мы должны использовать столбец для а = 0,025. Неудивительно, что с ростом объема выборки критические значения ^-распределения стремятся к таковым для стандартного нормального распределе ния. Например, мы знаем (из рис. D.7 в приложении D, как и из обсуждения в главе 3), что в стандартном нормальном распределении для двухстороннего теста с а = 0,05 верхнее критическое значение равно 1,96. Для двухстороннего теста с использованием t -распределения с а = 0,05 верхнее критическое значение зависит от числа степеней свободы (df). Для d f = 1 оно составляет 12,706; для df= 100 верх нее критическое значение равно 2,228; для df= 30 - 2,042; для df= 50 - 2,009; для df= 100 - 1,984; для бесконечного числа степеней свободы верхнее критическое значение составит 1,96. Уилльям Сили Госсет Уилльяма Сили Госсета часто рассматривают как первого промышленного статистика современности. Хотя его работа была мотивирована прагматическими интересами его работодателя (Артур Гиннесс, Сын и Ко - Arthur Guiness, Son & Со - изготовители пива), его прикладные результаты послужили основой для возникновения набора важнейших статистических тестов, основанных на распределении, которое он описал. После систе матического применения близких методов, таких как корреляция, для решения рабочих задач он выделил фундаментальное ограничение выборок малого объема и методик, ко торые подразумевают большое число наблюдений и/или экспериментов для определе ния статистической значимости. Более поздние методы, такие как дисперсионный ана лиз, разработанный Р. А. Фишером (R. A. Fischer), в значительной степени полагаются на выведенное Госсетом f-распределение. Жизнь и работа Госсета служат великолепным примером взаимодействия между прикладными и теоретическими исследованиями. 182 Глава 6. f-критерий Одновыборочный t-критерий Одно из возможных применений t-критерия состоит в сравнении средних выборки и совокупности с известным средним. Например, вас интересует влияние свинца па умственное развитие детей. Вы знаете, что в среднем пятилетние дети в США получают 100 баллов в определенном тесте на умственное развитие. У вас есть вы борка из 15 пятилетних детей, контактировавших со свинцом, и вы хотите узнать, не повлияло ли это на их умственные способности, измеряемые при помощи упо мянутого теста. Вы также знаете, что в целом результаты теста в генеральной со вокупности распределены по нормальному закону. Ваша нулевая гипотеза состоит в том, что пет разницы между выбранной группой и генеральной совокупностью в целом, п вы проводите двухсторонний t-тест с уровнем значимости 0,05. Формула для одновыборочного t-критерия показана на рис. 6.3. t _ x- Vo S л/й Рис. 6.3. Формула одновыборочного f-критерия В этой формуле х обозначает выборочное среднее, р() - это среднее для срав нения (средний уровень умственного развития для всех 5-летних детей в США), s - это стандартное отклонение вашей выборки, и п - это ее объем. Формулы для расчета среднего и стандартного отклонений выборки показаны на рис. 6.4 и 6.5. п п Рис. 6.4. Расчет выборочного среднего 2 )(*«■-*)2 с -1 /=1 п- 1 s-\ Рис. 6.5. Расчет выборочного стандартного отклонения В этой формуле х - это отдельное значение х, х - это выборочное среднее, s это выборочное стандартное отклонение, а п - это объем выборки. Также существует расчетная формула для стандартного отклонения выборки, математически идентичная формуле с рис. 6.4, но более простая для ручного рас чета; она приведена на рис. 6.6. 183 Одновыборочный f-критерий Рис. 6.6. Расчетная формула для выборочного стандартного отклонения Если вам хочется попрактиковаться в использовании этих формул, то в конце главы приведен полностью разобранный пример. Для его решения предположите, что выборочное среднее равно 90, стандартное отклонение равно 10, а объем вы борки - 15, и используйте эти данные для расчета ^-статистики, как показано па рис. 6.7. 90-100 J0 -3.87 V l5 Рис. 6.7. Расчет одновыборочного f-критерия Число степеней свободы для одновыборочного ^-критерия равно п - 1; в данном примере d f = 15 - 1 = 14. Из таблицы верхних критических значений £-раснрсделения (рис. D.7 в приложении D) мы видим, что для двухстороннего ^-критерия с 14 степенями свободы и уровнем значимости 0,05 оно равно 2,145. Поскольку абсолютное значение ^-статистики в наших данных превосходит верхнее крити ческое значение (|-3,87| > 2,145), мы отвергаем нулевую гипотезу о том, что в сред нем контактировавшие со свинцом дети выполняют тест на умственное развитие столь же успешно, как и все дети их возраста в популяции. Из-за того, что разность среднего и ^-статистики отрицательна, мы также можем утверждать, что в среднем их умственные способности ниже, чем в генеральной совокупности всех детей их возраста. Доверительный интервал д л я одновыборочного t-критерия Кроме статистики критерия и величины достоверности, нам часто нужно рассчи тать и доверительный интервал. Доверительный интервал (Д И 1) - это диапазон значений вокруг среднего: если мы будем брать бесконечное число выборок того же размера из той же генеральной совокупности, х% раз истинное среднее гене ральной совокупности будет попадать в доверительный интервал, рассчитанный из выборок. Если мы рассчитаем 95%-ный доверительный интервал (самый часто применимый), то х = 95, так что мы можем утверждать, что 95% всех доверитель ных интервалов, рассчитанных из бесконечного числа выборок этой генеральной 1 Или CI, от англ, confidence intewal. - Прим. пер. 184 Глава 6. /-критерий совокупности, будут включать в себя ее истинное среднее. Говоря более общо, до верительный интервал говорит нам об аккуратности точечной оценки, такой как выборочное среднее. Широкий доверительный интервал указывает на то, что если бы мы взяли другую выборку, то могли бы получить отличающееся выборочное среднее, тогда как если он узкий, то, взяв другую выборку, мы, скорее всего, полу чили бы достаточно близкое значение выборочного среднего. Формула для расчета двухстороннего доверительного интервала для среднего в случае одновыборочного /-критерия приведена на рис. 6.8. Рис. 6.8. Формула доверительного интервала для одновыборочного /-критерия В нашем примере, а = 0,05, х = 90, d f = п - 1 = 14, s = 10, t{nm м = 2,145 (из табли цы па рис. D.7 в приложении D), и п = 15. Подстановка этих значений в формулу дает нам ответ, приведенный на рис. 6.9. Рис. 6.9. Расчет доверительного интервала для одновыборочного /-критерия 95%-ный доверительный интервал для нашей оценки истинного среднего со ставляет (84,46,95,54). Заметим, что эти числа иногда называют нижней и верхней границами доверительного интервала; в этом примере нижняя граница составляет 84,46, а верхняя - 95,54. При расчете одностороннего доверительного интервала замените ± либо на +, либо на -, в зависимости от необходимости. Для расчета доверительного интерва ла с другой вероятностью попадания среднего в него используйте соответствую щее критическое значение из таблицы /-значений. Например, для одностороннего 90%-го доверительного интервала с 20 степенями свободы верхнее критическое значение /-распределения составляет 1,325. f-критерий для независимых выборок /-критерий для независимых выборок, также называемый двухвыборочным /-кри терием, сравнивает средние двух выборок. Задача этого теста состоит в проверке, равны ли средние генеральных совокупностей, из которых были взяты выборки. Предполагается, что члены двух выборок не связаны (никто не измерен дважды, нет братьев п сестер и т. п.) и выбраны из своих совокупностей независимо. Кро ме того, мы предполагаем, что генеральные совокупности имеют приблизительно нормальное распределение, если только объемы выборок недостаточно велики, чтобы применить центральную предельную теорему, и дисперсии двух совокупное- f-критерий для независимых выборок 185 тей приблизительно равны. Этот критерий часто применяют во многих областях, и обычно для его расчета используют компьютерные программы, которые также включают критерий равенства дисперсий совокупностей (например, тест Левене, тест Брауна-Форсайта (Brown-Forsythe test) или тест Бартлетта (B artlett’s test)) и методы для исправления ситуации, если это предположение оказывается невер ным. Формула для расчета ^-критерия для независимых выборок приведена на рис. 6.10. Рис. 6.10. Формула для расчета f-критерия для независимых выборок В этой формуле х х и х 2- это средние двух выборок, р, и р2 - это средние двух генеральных совокупностей, s2 - это объединенная дисперсия, гг, и п2 - это объемы двух выборок, а s2, и s 22 - это дисперсии двух выборок. Заметим, что часто нулевая гипотеза ^-критерия для независимых выборок со стоит в том, что разница между истинными средними равна 0, тогда выражение (р, - р2) можно опустить. Число степеней свободы для двухвыборочного ^-критерия составляет (гг, + гг2 - 2), то есть на 2 меньше, чем общее число элементов двух выборок. Это сложная формула, но стоит сделать шаг назад и посмотреть на ее общую форму до того, как застрять в деталях. Формула для двухвыборочного ^-критерия для независимых выборок сходна с таковой для одновыборочиого ^-критерия в том, что числитель - это разница между средними, а знаменатель - мера разброса, включающая как разброс внутри выборок, так и их объем. Статистика парного тес та тоже будет следовать этой общей форме, хотя и будет отличаться в некоторых тонкостях. Давайте рассмотрим пример. Стар как мир вопрос о том, кто находится в луч шей форме - мужчины-футболисты или мужчины-танцоры в балете; поэтому спортивный физиолог организует исследование для ответа на него совместно с местной группой исследователей из госпиталя. Две группы - это независимые со вокупности, поскольку ни один из футболистов не танцует в балете. Два списка танцоров и футболистов ведутся их соответствующими профессиональными ас социациями, из них следует, что и футболистов, и танцоров можно найти по всей Глава 6. f-критерий 186 стране; испытуемые выбираются случайным образом из каждой группы. Посколь ку и танцоры, и футболисты - очень занятые люди, удается договориться только с 10 членами каждой группы. Всех участников исследуют с помощью набора зада ний на физическую подготовку, включая ходьбу, бег и прыжки, а также измеряют соответствующие физиологические показатели, такие как постоянство частоты сердечных сокращений, скорость распространения пульсовой волны и т. п. Эти измерения вместе образуют единый показатель физической формы, принимаю щий значения от 0 до 100. Опыт использования подобного метода оценки с этим способом подсчета результатов показывает, что эти показатели распределены в ге неральной совокупности приблизительно нормально. Всех участников исследуют в одном и том же учреждении в одно время дня, а их результаты оценивают и объединяют одни и те же врачи. Результаты обеих групп приведены в табл. 6.1. Таблица 6 . 1 . Результаты оценки физического состояния футболистов и танцоров балета Танцоры балета Футболисты 89.2 79.3 78.2 78.3 89.3 85.3 88.3 79.3 87.3 88.9 90.1 91.2 95.2 87.2 94.3 89.2 78.3 93.3 89.3 79.9 Мы будем использовать значение а = 0,05 в этом исследовании. Вы можете рас считать ^-статистику целиком вручную, используя формулы для подсчета стан дартного отклонения, приведенные в данной главе ранее (и помня, что диспер сия - это квадрат стандартного отклонения). Для ускорения этого процесса мы рассчитали необходимые величины за вас, назвав танцоров балета группой 1, а футболистов - группой 2: Хх = 87,95 1:2 = 85,19 <>7 = 32,38 s22 = 31,18 Если бы мы использовали компьютерную программу, мы могли бы проверить предположение о равенстве дисперсий с помощью теста Левене (или альтернатив ного - это обсуждается подробнее дальше в этой главе, в разделе, посвященном /"-критерию для выборок с неравной дисперсией), проверяющего нулевую гипоте 187 f-критерий для независимых выборок зу о том, что дисперсии двух совокупностей равны. (Если мы не можем отвергнуть эту нулевую гипотезу, то можно применять ^-критерий.) Объединенная дисперсия выборок рассчитывается, как показано на рис. 6.11. (1 0 -1 )3 2 .3 8 + (10-1)31.18 10 + 1 0 -2 31.78 Рис. 6.11. Расчет объединенной дисперсии Число степеней свободы d f = п { + п.} - 2 = 18. Наша нулевая гипотеза состоит в том, что в среднем спортивная форма в двух группах одинакова, то есть \i{ = 0. Для проверки этой нулевой гипотезы мы рассчитываем ^-статистику, как показано на рис. 6.12. Рис. 6.12. Расчет f-статистики На рис. D.7 в приложении D мы видим, что верхнее критическое значение для двухстороннего ^-критерия с уровнем значимости 0,05 и 18 степенями свободы составляет 2,101. Абсолютное значение нашей ^-статистики ниже него (то есть ближе к нулю), так что мы не можем отвергнуть нулевую гипотезу и заключаем, что это исследование не дало никаких доказательств различной физической под готовки у футболистов и танцоров балета. Доверительный интервал д л я t-критерия д ля независимых выборок Для расчета двухстороннего доверительного интервала для этого типа ^-критерия мы используем формулу, приведенную на рис. 6.13. Рис. 6.13. Формула доверительного интервала для ^-критерия для независимых выборок Есть несколько моментов, касающихся этой формулы, которые стоит отметить: • это доверительный интервал для разницы между средними двух совокуп ностей; 188 Глава 6. /-критерий • для значения /«.,// мы берем верхнее критическое /-значение для d f и поло вины заданного значения альфа из таблицы /-распределения, такой как на рис. D.7 в приложении D; • если бы это был односторонний доверительный интервал, мы бы использо вали верхнее критическое /-значение для а, а не для и поставили бы знак «плюс» или «минус», а не ±, в зависимости от направления интервала; • формула включает ранее рассчитанный делитель из формулы /-критерия для независимых выборок. Для наших данных мы используем а = 0,05 и рассчитываем 95%-ный двухсто ронний доверительный интервал; результат показан на рис. 6.14. С /,.а = 2.76 ± (2.10)(2.73) = (-2.97,8.49) Рис. 6.14. Расчет 95%-го двухстороннего доверительного интервала для /-критерия для независимых выборок Заметьте, что этот интервал включает 0, который является нашим нулевым значением (значением, с которым мы сравнивали выборочные средние, согласно нашей нулевой гипотезе); такой результат ожидаем для этих данных, поскольку мы не увидели статистически значимые различия и не отвергли нулевую гипотезу ранее. t-критерий для парных измерений Для проведения /-критерия для повторных измерений, также известного как /-кри терий для зависимых выборок, или парный /-критерий, элементы двух выборок должны быть не независимы, а связаны каким-то образом. Иногда данные в вы борках - это измерения, сделанные дважды на одних и тех же людях, например кровяное давление до и после приема лекарства. Иногда данные собирают для лю дей, родственных каким-то образом, например мужей и жен или чьих-то потом ков. Иногда данные получают из выборок разных людей, но слишком сходных но другим характеристикам, так что их уже нельзя рассматривать как независимые выборки. Измерения рассматриваются как парные, то есть выборки должны быть одного размера. Формула для расчета /-статистики для парного /-критерия основана на разно стях, рассчитанных для каждой пары элементов выборок. Статистика теста при ведена на рис. 6.15. Jd_ ■yfn Рис. 6.15. Формула для парного /-критерия 189 f-критерий для парных измерений В этой формуле d = средняя разница, и р2 - это средние двух совокупностей, s(i - это стандартное отклонение разниц, а п - число пар. Нулевая гипотеза для парного ^-критерия обычно состоит в том, что средняя разница (d) равна 0, тогда как альтернативная гипотеза говорит, что она отлична отО. Как и с двухвыборочным ^-критерием, часто величина (р, - р2) предполага ется равной 0, и в таком случае ее можно опустить. Под разницей понимается просто отличие в значениях парных измерений, на пример кровяное давление до лечения минус кровяное давление после лечения. Мы рассчитываем эту разницу для каждой пары, а затем вычисляем их среднее и стандартное отклонение для расчета ^-статистики. Заметим, что п в контексте парного ^-критерия относится к числу пар, а не числу измерений. Число степеней свободы d f = п - 1. Вы можете разобраться в этом лучше, если посмотрите на пример. Предполо жим, мы хотим проверить эффективность программы диеты с физическими уп ражнениями в снижении общего уровня холестерина у мужчин среднего возраста. Мы решили использовать парный ^-критерий, поскольку мы будем измерять уро вень холестерина дважды для каждого подопытного, до начала программы и еще раз после ее окончания. Этот метод иногда называют «использование объектов как их собственные контроля», поскольку, измеряя каждого человека дважды, мы надеемся убрать или минимизировать влияние всех индивидуальных особеннос тей, не относящихся к тому, что нас интересует, то есть тому, как уровень холесте рина испытуемого изменяется в зависимости от диеты и программы упражнений. Мы считаем, что изменения уровня холестерина в ответ на условия эксперимента в генеральной совокупности распределены приблизительно нормально, и у нас всего лишь 10 испытуемых, так что парный ^-критерий - это подходящий метод. Экспериментальные данные приведены в табл. 6.2. Т аб л и ц а 6 . 2 . Уровень холестерина до и после диеты и упражнений До После Разница (d) (После - Д о) 220 200 -2 0 240 210 -3 0 225 210 -1 5 180 170 -1 0 210 220 10 190 180 -1 0 195 190 -5 200 190 -1 0 210 220 10 240 210 -3 0 Очевидно, что у большинства испытуемых уровень холестерина понизился после окончания программы, но была ли разница статистически значимой? Для 190 Глава 6. f-критерий выяснения этого мы рассчитаем парную ^-статистику, используя следующие зна чения, полученные из данных: Мы проведем двухсторонний парный f-тест с уровнем значимости 0,05. Наша нулевая гипотеза состоит в том, что средние совокупностей равны, то есть их раз ница равна 0; ^-статистика для этих данных приведена на рис. 6.16. лЯ о Рис. 6.16. Расчет парного f-критерия Поскольку у нас всего 10 пар, то степеней свободы 9 (d f = п - 1). Используя таблицу верхних критических значений для ^-распределения (рис. D.7 в прило жении D), мы нашли, что критическое значение для двухстороннего ^-критерия с 9 степенями свободы и а = 0,05 составляет 2,262. Абсолютное значение нашей ^-статистики превосходит это число, поэтому мы отвергаем нулевую гипотезу и заключаем, что упражнения и диета оказали значимый эффект на общий уровень холестерина. Поскольку средняя разница и ^-статистика отрицательные, мы также можем утверждать, что оздоровительная программа привела к снижению холесте рина у се участников. Вы можете задаться вопросом, что это за две генеральные совокупности, о ко торых мы говорим в данном примере. Измерения до программы рассматриваются как взятые из генеральной совокупности мужчин среднего возраста, а измерения после - из генеральной совокупности мужчин среднего возраста, прошедших оздо ровительную программу. Разумеется, вторая генеральная совокупность сущест вует только в теории, поскольку это новая программа, то есть что мы на самом деле делаем, так это предполагаем, что произойдет с обидим уровнем холестерина в первой генеральной совокупности, если вся она пройдет через исследуемую про грамму. Доверительный интервал д л я t-критерия д л я парных измерений Для расчета доверительного интервала в случае парного ^-критерия используйте формулу, показанную на рис. 6.17. Рис. 6.17. Формула для доверительного интервала для парного f-критерия f-критерий для выборок с неравной дисперсией 191 Расчеты для данных из нашего примера приведены на рис. 6.18. С/095 = -1 1 ± (2 .2 6 2 )|^ |j = (-20.94,-1.06) Рис. 6.18. Расчет двухстороннего 95%-го доверительного интервала для парного f-критерия Обратите внимание, что этот доверительный интервал не включает 0; этого сле довало ожидать, поскольку мы увидели значимый результат, применив /-крите рий, то есть отвергли нулевую гипотезу о том, что средняя разница равна 0. f-критерий для выборок с неравной дисперсией Одно из допущений, лежащих в основе (-критерия для независимых выборок, со стоит в приблизительном равенстве дисперсий генеральных совокупностей, из которых взяты выборки; это также называют предположением об однородности дисперсии, или, проще, предположением об однородности. Если это условие не выполняется и дисперсии генеральных совокупностей в реальности различаются, возрастает риск ошибок как первого, так и второго рода. Это связано с объеди нением дисперсий выборок при проведении (-теста для независимых выборок, и результаты этого теста сильно искажаются, если выборки взяты из совокупностей с отличающейся дисперсией. Задача проверки гипотезы о двух независимых вы борках с различающейся дисперсией известна под названием проблемы Берен са-Фишера (Behrens-Fisher), и было предложено несколько ее решений. Если вы используете статистическую программу для проведения (-теста для независимых выборок, то, скорее всего, она включает алгоритм проведения од ного или нескольких тестов на однородность дисперсии. Примеры такого рода тестов включают тест Левене, тест Брауна-Форсайта и тест Бартлетта. Тест Ле вене основан на среднем, а критерий Брауна-Форсайта - это расширение теста Левене, использующее усеченное среднее либо медиану. Тест Бартлетта наиболее чувствителен к отклонениям от нормальности (это не то же самое, что равенство дисперсий), так что его следует применять, только если вы уверены в примерно нормальном распределении совокупностей, из которых взяты выборки. Важно тут, однако, использовать любой из этих тестов, если это вам доступно, чтобы про верить условие однородности. Технические детали различных тестов со ссылками на профессиональную литературу про них доступны в Руководстве по инженер ной статистике национального института стандартов и технологий (Engineering Statistics Handbook of the National Institute for Standards and Testing), документ свободно доступен в Интернете (http://itl.nist.gov/div898/handbook/index.htm l. Если предположение об однородности не выполнено, вы можете использовать один из непараметрических аналогов f-критерия для независимых выборок (об суждается в главе 13) или применить f-критерий для выборок с неравной днепер- 192 Глава 6. f-критерий смей, также известный как t-тест Велча (Welch’s /-test). Выбор одного из этих ва риантов особенно важен, когда вы работаете с небольшими выборками, или когда вы хотите быть очень аккуратными с выводами, /-критерий Велча использует не много отличающуюся формулу для расчета /-статистики и сложную формулу для расчета числа степеней свободы. Для расчета /-статистики тест Велча использует формулу, приведенную на рис. 6.19. П\ п2 Рис. 6.19. Формула для /-критерия Велча В этой формуле и х 2 - это выборочные средние, s 2 и s 2 - это выборочные дисперсии, а пл и п.1 - объемы выборок. Обратите внимание, что формула для критерия Велча не включает объединен ную дисперсию. Серьезное усилие требуется при подсчете числа степеней свобо ды для теста Велча, что видно на рис. 6.20. Рис. 6.20. Формула для расчета числа степеней свободы для критерия Велча Рассчитав /-статистику и число степеней свободы, вы продолжаете анализ так же, как и с любой другой /-статистикой, сравнивая ваш результат с таблицей кри тических значений /-распределения (такой как на рис. D.7 в приложении D) и принимая решение в соответствии с ней. Упражнения Хотя вы могли бы использовать статистический пакет, такой как Minitab, SPSS, STATA пли SAS, для расчета /-критерия и его уровня значимости, поработав с некоторыми примерами вручную, можно лучше понять внутреннее устройство этого критерия. Далее, если вам понадобится изучить ситуации, связанные с ра ботой пли учебой, включающие небольшие выборки, вы можете начать трениро ваться в работе с ними, используя /-критерий. Если вы понимаете детали расчета /-критерия вручную, тогда использование статистического пакета станет для вас значительно проще. Кроме того, многие статистические пакеты выдают довольно запутанные результаты, если вы нс знаете, на что в них смотреть; так что самостоя- Упражнения 193 тельная проработка некоторых примеров может поспособствовать обнаружению нужной информации в море чисел. Задача Менеджер на фабрике обеспокоена высоким числом несчастных случаев на предприятии, которым она управляет, поэтому она организует программу безо пасности, включающую образование рабочих, улучшение освещения на фабрике и назначение премий бригадам, улучшившим свои показатели по этой проблеме. Среднее число инцидентов в неделю до программы было равно 5, а распределение было приблизительно нормальным. Она хочет знать, изменилось ли оно после на чала программы. Она берет выборку из 15 недель после программы и использует служебные записи для определения числа происшествий, случившихся в течение каждой из этих недель. Данные представлены в табл. 6.3. Какой тест следует при менить, чтобы определить, изменилось ли среднее число происшествий в неделю после начала программы? Какова статистика критерия и что она говорит об эф фективности программы? Таблица 6.3. Число происшествий за неделю Номер недели 1 2 Число происшествий 5 6 3 6 4 4 5 5 6 3 7 2 8 7 9 5 10 4 1 11 12 0 13 3 14 2 15 5 Решение Она должна использовать одновыборочный ^-критерий, сравнивая среднее число происшествий в неделю, рассчитанное для 15 недель после программы, со средним по совокупности недель до программы. Она должна использовать двух сторонний критерий, поскольку существует вероятность, что частота инцидентов увеличилась после начала программы, и ей точно стоит узнать об этом. Таким об разом, она проведет двухсторонний одновыборочный ^-критерий с нулевой гипо тезой о том, что нет достоверной разницы между средними выборки и генеральной совокупности, и она будет использовать стандартный уровень значимости 0,05. Вот информация, необходимая для расчета статистики: Но= 5 (дано) п = 15 (дано) х = 3,87 5 = 2,00 Сначала мы рассчитываем выборочное среднее и стандартное отклонение, как показано на рис. 6.21 и 6.22. Рис. 6 .2 1 . Расчет выборочного среднего 194 Глава 6. /-критерий Затем мы подставляем эти числа в формулу для статистики одновыборочиого /-критерия, как показано на рис. 6.23. * -Ц ) 3 .8 7 -5 .0 0 s 2.00 -1 .1 3 " 0.52 л/15 Рис. 6.23. Расчет одновыборочного /-критерия У мае 14 степеней свободы (d f = п - 1). В соответствии с рис. D.7 в приложе нии D верхнее критическое значение для двухстороннего теста с 14 степенями свободы и при уровне значимости, равном 0,05, составляет 2,145. Абсолютное значение нашей /-статистики превосходит критическое значение, поэтому мы от вергаем нулевую гипотезу об отсутствии различий между частотой происшествий за неделю до и после начала программы безопасности. Поскольку разница между выборочным средним и средним генеральной совокупности отрицательная, как и /-статистика, мы, кроме того, можем заключить, что программа снизила частоту инцидентов. Задача Каков 95%-ный доверительный интервал для нашей оценки среднего генераль ной совокупности при таких результатах? Решение Мы рассчитываем 95%-ный двухсторонний доверительный интервал, как пока зано на рис. 6.24. \ С/,_а = x ± \ t „ г* 1 ,ЛГ ±< Лл/Тз) 's \ 00„ / 2.00 \ = (2.76,4.98) Рис. 6.24. Расчет 95%-го доверительного интервала для одновыборочного /-критерия Обратите внимание, что верхнее критическое значение 4,97 очень близко к среднему по совокупности. Этого можно было ожидать, поскольку наша выбороч ная /-статистика еле-еле превосходит критическое значение при значимости 0,05; Упражнения 195 то есть мы с трудом достигли стандартной величины, для того чтобы отвергнуть нулевую гипотезу о равенстве разницы между выборочным средним и средним генеральной совокупности нулю. Задача Каков 90%-ный доверительный интервал для нашей оценки среднего по сово купности при таких результатах по выборке? Решение Для расчета 90%-го доверительного интервала все, что нам нужно изменить в формуле, использованной в предыдущем задании, - это верхнее критическое зна чение. Используя рис. D.7 в приложении D, мы видим, что для двухстороннего доверительного интервала критическое значение для уровня значимости 0,10 при d f = 14 составляет 1,761. Подставив это в формулу, получим результат, показан ный на рис. 6.25. с /,.а = х ± \ 2-,dfJ ) 3.87 ±(1.761) 2.00 (2.96,4.78) л/15 Рис. 6.25. Расчет 90%-го доверительного интервала для одновыборочного f-критерия Обратите внимание, что 90%-ный доверительный интервал уже, чем 95%-ный для того же набора данных. Этого следует ожидать из-за меньших критических ^-значений, используемых для 90%-го интервала. Другими словами, 90%-ный дове рительный интервал включает меньше суммарной вероятности, чем 95%-ный, так что неудивительно, что он уже него. Таблица 6.4. Различные f-критерии и их применение t-критерий Тип данных Одновыборочный f-критерий Одна выборка, непрерывные данные, Относится ли выборка к совокуп приблизительная нормальность ности с заданным средним? Двухвыборочный f-критерий Две независимые выборки, непре рывные данные, приблизительная нормальность, приблизительно равная дисперсия Относятся ли выборки к совокуп ностям с равными средними? Парный ^-критерий Две связанные выборки, равный размер выборок, непрерывные дан ные, приблизительная нормальность разниц Относятся ли выборки к совокуп ностям с равными средними? ^-критерий для вы борок с различаю щейся дисперсией Две независимые выборки, непре рывные данные, приблизительная нормальность Относятся ли выборки к совокуп ностям с равными средними? На какой вопрос дает ответ ГЛАВА 7. Коэффициент корреляции Пирсона Коэффициент корреляции Пирсона - это мера линейной связи между двумя ин тервальными или характеризующими отношения переменными. Хотя существуют другие типы корреляции (некоторые из них обсуждаются в главе 5, включая ко эффициент ранговой корреляции Спирмена), коэффициент корреляции Пирсона наиболее обычен, а слово «Пирсона» часто опускают, и мы просто говорим про «корреляцию» или «коэффициент корреляции». Если не сказано иное, в данной книге «корреляция» относится к коэффициенту корреляции Пирсона. Корреля ции часто рассчитывают в разведочной фазе исследовательского проекта, чтобы увидеть, как связаны друг с другом различные непрерывные переменные, также часто для исследования этих связей строят диаграммы рассеяния (обсуждаются в главе 4). Тем не менее некоторые корреляции являются интересными сами но себе, их можно проверять на достоверность, и их логично использовать как отдель ные величины. Понимание коэффициента корреляции Пирсона - это основа для понимания линейной регрессии, так что стоит потратить время па изучение этой статистики и как следует понять, что она вам говорит о связи между двумя пере менными. Самое главное в корреляции - то, что это мера наблюдаемой связи, сама по себе она никак не может выявить причину. Многие переменные в реальном мире сильно коррелируют друг с другом, но эти связи могут объясняться случаем, влиянием других переменных или другими неизвестными причинами. Даже если между величинами есть причинно-следственная связь, она может работать в дру гую сторону, чем мы предполагаем. Поэтому даже самая сильная корреляция сама по себе не может свидетельствовать о причинно-следственной связи; она может быть подтверждена только с помощью постановки эксперимента (обсуждается в главе 18). В этой главе мы обсуждаем общее значение связи в контексте статисти ки и затем подробно разбираем коэффициент корреляции Пирсона. Связь Повседневная жизнь полна переменными, которые кажутся ассоциированными или связанными друг с другом, и обнаружение этих связей и есть основная задача Связь 197 науки. Однако ничего сложного или загадочного в понимании взаимосвязей меж ду величинами нет; люди все время думают в терминах связей и часто ассоциируют с ними причинно-следственные взаимодействия. Родители, которые наставляют детей питаться больше овощами и меньше - нездоровой пищей, вероятно, дела ют это, поскольку думают, что есть связь между рационом и здоровьем, а атлеты, которые тратят много часов на тренировки, скорее всего, делают это, потому что считают, что интенсивные тренировки приведут их к успеху. Иногда такие здра вые мысли поддерживаются экспериментальными данными, иногда - нет, но лю дям, похоже, свойственно замечать, что некоторые события вроде бы происходят одновременно, и верить, что одно из них вызывает другое. Как ученые (или просто люди, понимающие в статистике) мы должны привыкнуть задаваться вопросами, является ли кажущаяся связь реальной, и если да, то есть ли в ней причинноследственные взаимоотношения. Вот несколько примеров выводов, основанных на наблюдениях, но, очевидно, неверных: • Есть сильная связь между продажами мороженого и числом утонувших, так что причина этого в том, что люди идут купаться слишком рано после того, как съели мороженое, у них сводит мышцы, и они тонут. • Есть сильная связь между результатом теста на словарный запас и разме ром обуви, что можно объяснить тем, что у высоких людей мозг больше, и поэтому они могут запомнить больше слов. • Число аистов в регионе сильно связано с уровнем рождаемости, так что, очевидно, аисты и правда приносят детей. • Мэр города заметил сильную корреляцию между победами местной спор тивной команды в соревнованиях и парадами1 и решил проводить больше парадов, чтобы улучшить результаты местных команд. Вот настоящие объяснения: • И потребление мороженого, и плавание более обычны в теплое время года, так что очевидная связь объясняется влиянием третьего фактора, темпера туры (или времени года). • Исследование проводили на школьниках, а их возраст не учитывали. Ве роятно, старшие дети окажутся выше (с большим размером обуви) и будут иметь более обширный словарный запас, чем младшие дети; таким образом, наблюдаемая связь обусловлена третьей переменной, возрастом. • Аисты чаще встречаются в сельской местности, а рождаемость также обыч но выше вне городов, так что связь объясняется влиянием другого фактора, типа местности. • Это обращенная причинно-следственная связь - парады проводят после побед в чемпионатах, так что успешный сезон для команд - это причина парадов, а не проведение парадов улучшает их результаты. 1 В оригинале - ticker-tape parades, то есть парады, сопровождающиеся посыпанием конфетти и наре занной бумагой с близлежащих зданий. - Прим. пер. 198 Глава 7. Коэффициент корреляции Пирсона Стоит заметить, что даже если логичная причинасвязи двух переменных отсутст вует, связь между ними можно обнаружить просто по случайности. Это особенно важно для исследований очень больших выборок, когда даже слабая корреляция может оказаться статистически значимой, но при этом не иметь никакого практи ческого значения. Также стоит отметить, что даже в случаях сильных связей меж ду переменными, таких как курение и рак легких, она может проявляться очень по-разному на уровне отдельных случаев. Некоторые люди курят на протяжении многих лет и никогда не заболевают, в то время как некоторые несчастные полу чают рак легких, даже если не курили никогда в своей жизни. Диаграмма рассеяния Диаграмма рассеяния - это полезное средство для изучения взаимоотношений между переменными, и обычно создание таких диаграмм для непрерывных пере менных проводится на разведочной стадии работы с данными. Диаграмма рассея ния - это диаграмма для двух непрерывных переменных. Если идея эксперимента подразумевает, что одна из переменных является независимой, а вторая зависит от нее, то первую откладывают по оси х (горизонтальной), а вторую - по оси у (вертикального; если такие взаимоотношения неизвестны, то не имеет значения, какая переменная отложена на какой оси. Каждому члену выборки соответствует одна точка на графике, описываемая набором координат (х, у); если вы когда-либо использовали картезианские координаты2 в школе, то вы уже знакомы с этим про цессом. Диаграммы рассеяния дают вам возможность почувствовать общие свойст ва связи между переменными, включая такие, как направление (положительное или отрицательное), силу (сильная или слабая) и форму (линейная, квадратичная и т. п.). Кроме того, диаграммы рассеяния - это хороший способ получить общее впечатление о разбросе данных и увидеть, есть ли какие-то выбросы, случаи, кото рые на первый взгляд не похожи на остальные. Важно исследовать двумерные связи (связи между двумя переменными), по скольку многие часто используемые методы предполагают, что они линейные, предположение, совсем не обязательно соблюдаемое для произвольной пары переменных из каких-то данных. Линейность в данном контексте означает «рас положение на прямой линии», в то время как любые другие взаимосвязи счита ются нелинейными, хотя мы можем охарактеризовать другие типы связи и более конкретно, например как квадратичную или экспоненциальную. Разумеется, мы не ожидаем, что в реальности данные идеально подходят под какую-то математи ческую модель; под линейной связью мы подразумеваем ситуацию, когда данные кажутся расположенными поблизости от прямой линии. Кроме того, мы можем создать матрицу диаграмм рассеяния, в которой пред ставлено множество таких диаграмм, так что мы можем легко увидеть связи меж ду парами переменных. На рис. 7.1 показана такая матрица диаграмм рассеяния, созданная Ллойдом Курье (Lloyd Currie) из Национального института стандартов и технологии (National Institute of Standards and Technology) для изучения свя2 Картезианские координаты также часто называют декартовыми. - Прим. пер. 199 Диаграм ма рассеяния зей между четырьмя загрязнителями: калием, свинцом, железом и оксидом серы. Диаграммы рассеяния для каждой пары переменных расположены на пересече нии соответствующих столбцов и строк, так, в ячейке (1, 2) (первая строка, второй столбец) показана связь между калием и свинцом, а в ячейке ( 1 ,3 ) - между калием и железом и так далее. Данныеозагрязнении О ____ Т О О ____________О 350 2 . ^ Калий f^ 2i j S Свинец if* а * г г 2 \\ г г 2 г 2 2__ Я Г ...2 *2 2 фТ* 2 2 О 250 500 кЧГ г д ж Ь\ Железо 2 6000 Т О О г 2 3000 m v г * V t '~ 2 О 1 0 0 200 3 5 0 -1— * 0 Ы АХ) Оксид серы а Рис. 7.1 . Матрица диаграмм рассеяния для четырех загрязнителей Взаимосвязи между непрерывными переменными В линейной алгебре мы часто описываем связи между двумя переменными с по мощью уравнения вида: у = ax + I). В этой формуле у - это зависимая переменная, х - независимая переменная, а - коэффициент наклона, b - константа. Заметим, что иногда вместо а в данном уравнении используют т - эго другой способ записи, никак не меняющий смысла уравнения. Как а, так и b могут быть положительными, отрицательными или равняться нулю. Для нахождения значе ния у для заданного значения х вам надо просто умножить х на а, а затем приба вить Ь. Такие уравнения, как это, описывают идеальную связь (зная значения х, а и Ь, мы можем найти точное значение у ), тогда как уравнения, описывающие реальные данные, обычно включают также величину ошибки, показывая наше по нимание того, что уравнение дает нам предсказанное значение г/, которое может не совпадать с истинным. Тем не менее стоит посмотреть на графики, точно заданные уравнениями, чтобы почувствовать, как при построении выглядят идеальные свя зи; это должно помочь замечать схожие тенденции в реальных данных. На рис. 7.2 показана взаимосвязь между двумя переменными, х и г/, которые связаны идеальной положительной связью: х = у. В этом уравнении b = 0, а = 1, и 200 Глава 7. Коэффициент корреляции Пирсона в каждом случае значения х и у совпадают. Это уравнение выражает положитель ную связь, поскольку с ростом значения х так же растет и у, в графике с положи тельной связью точки идут из нижнего левого угла в верхний правый. 15 -А. 10 5 И 15 -10 -5 t * * ^ ♦ 0 - * 5 10 15 '5 X ♦ ♦ -1» -15 Рис. 7.2. График модели у - х На рис. 7.3 изображена отрицательная зависимость между х и у\ эти точки опи сываются уравнением у = -х . В этом уравнении а = -1, b = 0. Заметьте, что при от рицательной зависимости при росте значения х значение у уменьшается, а точки на графике идут из верхнего левого угла в нижний правый. 15 А . io 15 -10 -5 5 10 15 -5 -10 -15 Рис. 7.3. График модели у = - х На рис. 7.4 показана положительная зависимость между х и г/, определенная моделью у = Зх + 2. Заметьте, что эта связь все так же идеальна (в том смысле что, зная модель и значение л:, мы можем рассчитать точное значение у) и выглядит как прямая линия. Однако, в отличие от двух предыдущих графиков, линия больше не проходит через начало координат (0, 0), потому что значение b (константы) равно 2, а пс 0. 201 Диаграм ма рассеяния 25 .ф ф ф 20 15 * 10 ♦♦ 5 Ф 15 -1 0 -5 * * 0 5 10 15 ф ф ♦ ♦ -ю -1 5 Ф -2 0 «-П гм Рис. 7.4. График модели у = Зх + 2 В трех предыдущих случаях уравнение прямой указывало на сильную связь между переменными. Однако это не всегда так; прямая может показывать отсутст вие связи между переменными. Даже если одна из переменных постоянна (то есть ее значение не меняется), в то время как значение другой переменной непостоянно, то такое взаимоотношение все равно можно выразить в виде уравнения (и графи ка) прямой для несвязанных переменных. Например, уравнение х = -3, которому соответствует график па рис. 7.5; вне зависимости от значения у значение х всегда одно и то же, таким образом, между х и у нет никакой связи. Коэффициент накло на этого уравнения не определен, поскольку в уравнении, использованном для его расчета, нулевой знаменатель. 6 ♦ -6 Ф ♦ 4 * ♦ 2 -4 -2 0 2 4 6 ♦ t ~2 ♦ А W -4 ♦ -6 Рис. 7.5. График модели х= -3 Уравнение для расчета коэффициента наклона приведено на рис. 7.6: 202 Глава 7. Коэффициент корреляции Пирсона Рис. 7.6. Уравнение для расчета коэффициента наклона прямой где д;, и х 2 - это два произвольных значения х из данных, а у { и у 2 - соответствую щие значения у. Если х, и х 2совпадают, у этой дроби знаменатель равен нулю, так что уравнение и коэффициент наклона не определены. Уравнение у = -3 также описывает отсутствие связи между х и у, в данном слу чае из-за того, что коэффициент наклона равен нулю. В этом уравнении у всегда равен -3 вне зависимости от того, чему равен х. График для этого уравнения - го ризонтальная линия, как показано на рис. 7.7. 6 4 2 -6 -4 -2 0 2 4 6 -2 ^ ф ^ -4 ♦ ♦ ♦ ♦ ♦ -6 Рис. 7.7 . График модели у = -3 Для реальных данных мы не ожидаем, что уравнение будет идеально описывать связь между переменными, а график будет идеальной прямой, даже если имеется довольно сильная линейная зависимость. Посмотрите на график на рис. 7.8, где изображены почти те же данные, что и на рис. 7.9; отличие состоит в том, что к данным мы прибавили некоторую случайную ошибку, так что идеальная прямая больше нс наблюдается. Взаимосвязь х и у все равно линейная и положительная, по мы больше не можем точно предсказать значение у по значению х с помощью уравнения. Другими словами, знание значения х помогает нам предсказать зна чение у (в противоположность предсказанию без знания х), но мы понимаем, что паше предсказанное значение у может на сколько-то отличаться от истинного зна чения из данных. Диаграм ма рассеяния 203 Две переменные могут быть связаны сильно, но не линейно. В качестве зна комого примера можно привести уравнение у = х 2, которое описывает идеальную связь, поскольку при известном значении х мы знаем абсолютно точно, чему ра вен у. Тем не менее эта зависимость квадратичная, а не линейная, что можно ви деть на рис. 7.10. Возможность заметить сильные нелинейные связи - это одна из важнейших причин для построения графиков по вашим данным. На рис. 7.11 показан другой обычный тип нелинейной зависимости, логариф мическая, определенная уравнением у = 1п(дг), где In означает «натуральный лога рифм от». 204 Глава 7. Коэффициент корреляции Пирсона 120 ж * V 100 ж ф 80 Ф ф 60 Ф Ф ф ф 40 Ф ф Ф 20 ф ____________________ -15 -10 -5 ’ 0 5 10 15 Рис. 7.10. График идеальной квадратичной зависимости О 5 10 15 20 25 Рис. 7 .1 1 . График идеальной логарифмической зависимости Если вы заметили нелинейную зависимость в своих данных, то может оказать ся, что ее можно преобразовать в зависимость, близкую к линейной; это подробнее обсуждается в главе 3. Узнавать такие нелинейные зависимости и помнить разные способы их «исправления» - важное умение для всех, кто работает с данными. В случае данных, показанных на рис. 7.10, если мы преобразуем г/, взяв квадрат ный корень от пего, и затем построим зависимость V*/ от х } мы увидим, что зави симость стала линейной. Аналогично, в случае данных, приведенных на рис. 7.11, мы можем преобразовать у в еу и построить диаграмму его зависимости от х, тогда мы увидим линейную зависимость между переменными. Коэффициент корреляции Пирсона 205 Коэффициент корреляции Пирсона Диаграммы рассеяния - это важное средство визуального изучения связей между парами переменных. Тем не менее мы также можем захотеть получить статисти ческую оценку этих связей и проверить их на значимость. Для двух непрерывных или характеризующих отношения переменных самая важная мера связи - это ко эффициент корреляции Пирсона, также называемый линейным коэффициентом корреляции, обозначаемый как р (греческая буква «ро») для генеральной совокуп ности и г - для выборки. Этот коэффициент может принимать значения в интервале (-1 , 1), где 0 свиде тельствует об отсутствии связи между переменными, большие абсолютные значе ния показывают более сильную связь (если никакая из переменных не является константой, как в случае данных на рис. 7.5 и 7.7). Значение коэффициента кор реляции может вводить в заблуждение, если на самом деле связь нелинейная, изза чего всегда следует строить график для ваших данных. Такие характеристики связи, как «сильная» и «слабая», не имеют строгого численного соответствия, но связь, описываемая как сильная, будет ближе к линейной, с точками, лежащими ближе к прямой, чем в случае слабой связи. В некоторой степени определения сильных и слабых связей зависят от области исследований или традиции, так что вам придется узнать, что как называют в вашей области науки. Несколько приме ров диаграмм рассеяния данных с разной величиной г приведены на рис. 7.12, 7.13 и 7.14, чтобы показать, как выглядят связи различной силы. Рис. 7.1 2 . Диаграмма рассеяния (г = 0.84) 206 Глава 7. Коэффициент корреляции Пирсона Хотя коэффициенты корреляции часто рассчитывают с помощью компьютер ных программ, их так же легко рассчитать вручную. Формула для коэффициента корреляции Пирсона представлена на рис. 7.15. Рис. 7.1 5 . Формула коэффициента корреляции Пирсона Коэффициент корреляции Пирсона 207 В этой формуле 55v- это сумма квадратов отклонений х, 5 5 - это сумма квад ратов отклонений у и SSxy - это сумма квадратов отклонений х и у. Все этапы этих расчетов просты, но процесс может быть утомительным, осо бенно для данных большого объема. Для расчета суммы квадратов х необходимо проделать следующее: 1. Из каждого значения х вычесть среднее по всем значениям х. Это называют отклонениями. 2. Возвести каждое отклонение в квадрат. 3. Сложить все квадраты отклонений (отсюда название «сумма квадратов от клонений»). На рис. 7.16 это показано в виде формулы. ■ss, =Е<Л -*)2 /-1 Рис. 7.1 6 . Формула суммы квадратов отклонений В этой формуле х{ - это отдельное значение х , х - это среднее по всем значени ям х и п - это объем выборки. Из этой формулы хорошо понятно, как вычислять 55х, но ее использование может потребовать большого количества времени. Сумму квадратов отклонений можно получать также с помощью расчетной математически тождественной фор мулы, показанной на рис. 7.17, ручной расчет с помощью которой может оказаться менее утомительным. Рис. 7.17. Расчетная формула для суммы квадратов х Первая часть формулы указывает на то, что нужно возвести каждое значение х в квадрат, а затем сложить их. Вторая часть указывает на необходимость возвести сумму всех значений х в квадрат, а затем разделить эту сумму на объем выборки. Затем, чтобы получить 55г, нужно вычесть вторую величину из первой. Для расчета суммы квадратов отклонений у повторите ту же процедуру, но со значениями у и средним по значениям у. Процесс расчета ковариации сходен, но вместо возведения отклонений для каж дого значения х или у в квадрат вам надо перемножить соответствующие значения отклонений для х и у друг на друга. Этот процесс представлен в виде формулы на рис. 7.18. п SS,, - 2 ) ( * , • - * ) (у,- - у) 1-1 Рис. 7.1 8 . Расчет суммы квадратов отклонений х и у Гла в а 7. К о э ф ф и ц и е н т ко р р е ля ц и и П и р с о н а Также существует расчетная формула для суммы квадратов отклонений х и у, которая приведена на рис. 7.19. Р ис. 7 .1 9 . Расчетная формула для суммы квадратов отклонений х и у Принцип использования этих формул может стать понятнее после изучения примера. Предположим, мы получили выборку 10 американских старшеклассни ков и анализируем результаты выполнения ими разделов Академического оце ночного теста (Scholastic Aptitude Test), направленных на проверку вербальных и математических умений, которые приведены в табл. 7.1. (В каждом разделе этого теста можно получить от 200 до 800 баллов.) Для облегчения восприятия данных мы выстроили их в порядке увеличения баллов, полученных за вербальные уме ния, но это никак не связано с расчетами. Таблица 7 . 1 . Баллы за разделы Академического оценочного теста, направленные на проверку вербальных и математических умений Ученик Речь М атем атика 1 490 560 2 500 500 3 530 510 4 550 600 5 580 600 6 590 620 7 600 550 8 600 630 9 650 650 10 700 750 Вот информация, которая вам понадобится для использования расчетных фор мул (или чтобы проверить себя, если вы подсчитали эти величины самостоятель но): я - 10. = 5790 п =3 390 500 Коэффициент детерминации 209 ( = 5790 \ ^ у . =3 612 500 /= 1 п ^ ( х , у , ) = 3 494 000 Затем мы подставляем эти числа в расчетные формулы, как показано на рис. 7.20. 5 7902 SSX = 3 390 5 0 0 -------------- 38 090 ' 10 5 9702 SS = 3 612 5 0 0 -------------- 48 410 у 10 = 3 494 000 - (5 790)(5 970) = 37 370 10 37 370 Г= = 0.87 V(38 090)(48 410) SS Рис. 7.20. Расчет г для вербальных и математических результатов Академического оценочного теста Корреляция между речью и математикой в этом тесте составляет 0,87 - сильная положительная связь, говорящая о том, что ученики, которые получают высокие результаты в одной части, так же чаще хорошо выполняют вторую. Заметьте, что корреляция симметрична, так что мы не должны постулировать, что одна пере менная влияет на другую, а только то, что мы увидели связь между ними. Проверка статистической значимости коэффициента корреляции Пирсона Мы также хотим определить, значима ли данная корреляция. Нулевая гипотеза для корреляционного анализа обычно следующая: переменные не связаны, то есть г= 0 , и именно эту гипотезу мы проверяем в этом примере; альтернативная ги потеза состоит в том, что гФ 0. Мы будем использовать уровень значимости 0,05 и рассчитаем статистику для проверки значимости отличия наших результатов от 0, как это показано на рис. 7.21. Эта статистика имеет ^-распределение с (п - 2) степенями свободы; степени свободы - это статистический термин, характеризую- 210 Глава 7. Коэффициент корреляции Пирсона шип число величии, которые могут меняться в определенной ситуации. Это также число, которое нам надо знать, чтобы использовать правильное ^-распределение для оценки наших результатов. гл/п - 2 1 л/ l - r 2 Рис. 7.21. Формула для проверки статистической значимости коэффициента корреляции Пирсона В рис. 7.21 г - это коэффициент корреляции Пирсона для выборки, п - это ее объем. Для наших данных расчет приведен на рис. 7.22. 0 .8 7 V 1 0 - 2 t = . 2.46 г ---------------------5.02 л /1 -0 .8 7 2 0-49 Рис. 7.22. Расчет теста на значимость корреляции между баллами за математическую и вербальную части Академического оценочного теста В соответствии с таблицей ^-распределения (рис. D.7 в приложении D) крити ческое значение для двустороннего ^-критерия с 8 степенями свободы при а = 0,05 равно 2,306. Поскольку наше расчетное значение, равное 5,02, превосходит крити ческое, мы отвергаем нулевую гипотезу о том, что результаты в математической и вербальных частях не связаны. Мы также рассчитали точное p -значение для этих данных с помощью онлайн-калькулятора и получили двустороннее р-значение, равное 0,0011, что также показывает, что наши результаты очень маловероятны, если на самом деле эти переменные не связаны в генеральной совокупности, из которой мы брали выборку. Коэффициент детерминации Коэффициент корреляции показывает силу и направление линейной связи между двумя переменными. Вам также может понадобиться узнать, какую долю дисперсии одной переменной можно связать с другой переменной. Для нахож дения этой величины вы можете рассчитать коэффициент детерминации, кото рый равен просто г2. В нашем примере с тестом г2 = 0,872= 0,76. Это означает, что 76% дисперсии в результатах вербальной части можно связать с результатом для математической части, и наоборот. Мы еще поговорим о коэффициенте де терминации в главах, посвященных регрессии, потому что очень часто одной из задач при построении регрессионной модели является поиск набора независи мых переменных, которые могут объяснять большую долю дисперсии зависимой переменной. 211 Упражнения Упражнения Задача Какие из приведенных диаграмм рассеяния (рис. 7.23,7.24 и 7.25) указывают на то, что две переменные линейно связаны? Установите для них направление связи и оцените ее силу, то есть коэффициент корреляции Пирсона для соответствую щих данных. Учтите, что никто не ожидает от вас определения точного значения коэффициента корреляции на глаз, однако полезно уметь его правдоподобно предсказывать. Рис. 7.24. Диаграмма рассеяния (Ь) 212 Глава 7. Коэффициент корреляции Пирсона Решение a) Сильная положительная связь (г = 0,84). b ) Слабая связь (г = 0,11). c) Нелинейная квадратичная связь. Заметьте, что г = -0,28 для этих данных это достаточно большой коэффициент корреляции, так что без диаграммы рассеяния мы могли легко не заметить нелинейную природу связи между этими двумя переменными. Задача Найдите коэффициенты детерминации для каждого набора данных из преды дущей задачи, если это имеет смысл, и проанализируйте их. Решение a) г* = 0,842 = 0,71; 71% дисперсии одной переменной может быть объяснен дисперсией другой переменной. b) = 0,I I 2 = 0,01; 1% дисперсии одной переменной может быть объяснен дисперсией другой переменной. Этот результат указывает на то, насколько слабой на самом деле является корреляция величиной в 0,11. c) г и 1* не применимы для переменных, связь между которыми нелинейна. Задача Некоторые исследования выявляли слабую положительную корреляцию меж ду ростом и умственными способностями (последние измеряются величиной IQ), то есть более высокие люди в среднем немного умнее. Используя формулы, Упражнения 213 представленные в этой главе, рассчитайте коэффициент корреляции Пирсона для данных, представленных в табл. 7.2, где указан рост (в дюймах) и результаты тес та IQ для 10 взрослых женщин. Затем проверьте корреляцию на статистическую значимость (проведите двусторонний тест с уровнем значимости 0,05), рассчитай те коэффициент детерминации и проанализируйте результаты. Для удобства мы обозначим рост как х и IQ - как у. Таблица 7.2. Рост и Ю Студент Рост (дюймы) IQ 1 60 103 2 62 100 3 63 98 4 65 95 5 65 110 6 67 108 7 68 104 8 70 110 9 70 97 10 71 100 Решение Расчеты приведены на рис. 7.26 и 7.27. 72 = 10. п /=I п X2 = 43 817 п /=I п ^ у 2 =105 327 /=1 п £ ( /=1 w )=67 777 214 Глава 7. Коэффициент корреляции Пирсона 661 ^ SS - 4 3 8 1 7 ------------ 124.9 * 10 10252 S S V =105 3 2 7 ----------- = 264.5 у 10 „„ (661X1025) г SS„ = 67 111 - --------------- - = 24.5 10 Г= 24.5 V(124.9)(264.5) = 0.135 Рис. 7.26. Расчет корреляции между ростом и IQ Коэффициент детерминации = г1 = 0,018. * 0.135л /Ю -2 0.382 л/l - 0 .1 3 5 2 0.991 Рис. 7.27. Расчет f-статистики для корреляции между ростом и IQ В этих данных мы наблюдаем слабую (г = 0,0135, i2 = 0,018) положительную связь между ростом и IQ; тем не менее эта связь не значима (t = 0,385, р > 0,05), так как мы не отвергаем нашу нулевую гипотезу об отсутствии связи между пере менными. Если вы заинтересовались данным вопросом, посмотрите статью Кейса и Пир сона (Case and, Pearson), ссылка на которую дана в приложении С; хотя в первую очередь эта статья касается связи между ростом и заработком, в ней также обоб щены исследования роста и интеллекта. ГЛАВА 8. Введение в регрессию и дисперсионный анализ Регрессия и дисперсионный анализ (ANOVA)1 - два метода, использующие об щую линейную модель (GLM )2. Если идея линейной функции вам не до конца ясна, просмотрите обсуждение коэффициента корреляции Пирсона в главе 7. В главах с 8 по 11 мы опишем статистические методы, в том числе достаточно сложные, основанные на простейшем принципе линейной связи между двумя или более переменными. Эта глава представляет самые простые линейные модели, простые регрессии и однофакторный дисперсионный анализ; в главах с 9 по 11 я опишу более сложные методы из семейства общих линейных моделей. Мето ды обработки данных, описанные в этих главах, почти всегда реализуются с ис пользованием компьютерных программ; к счастью, большинство из этих методов достаточно обычны, так что они присутствуют в любом статистическом пакете. Кроме того, обычно несложно разобраться, как использовать определенный па кет, если вы понимаете теоретические аспекты, лежащие в основе модели. По этой причине мы сконцентрируемся на объяснении того, как эти модели работают, по оставим советы достаточно общими, так чтобы их можно было применить к боль шинству программ. Общая линейная модель В основе всех методов из семейства общих линейных моделей лежит предполо жение о том, что зависимая переменная является функцией одной или более не зависимых переменных. Мы часто рассуждаем в терминах предсказания или объ яснения зависимой переменной, используя набор независимых переменных, но давайте сделаем шаг назад, чтобы разобраться, что же значит, что одна переменная является функцией другой (или их набора, но, чтобы упростить задачу, для нача ла мы остановимся на простейшем случае одной зависимой и одной независимой переменной). Вы, возможно, помните функции типа у =f ( x ) с уроков алгебры; это 1 От англ. ANalysis O f Variance. - Прим. пер. 2 От англ. General Linear Model, не следует путать с обобщенной линейной моделью - Generalized Linear model. - Прим. пер. 216 Глава 8. Введение в регрессию и дисперсионный анализ уравнение говорит о том что, зная значение х, мы можем вычислить значение у , следуя процедуре, определенной в функции /(х ). Вот несколько примеров функ ций: • у = х означает, что значение у всегда такое же, как и значение*, так что (х, у) = (1, 1), (2, 2), (3, 3). Запись вида (х, у) = (1, 1), (2, 2) и так далее - это просто короткий способ сказать: «Если * = 1, то у = 1; если * = 2, то у = 2» и так далее; • у = ах означает, что значение у является произведением значения * и конс танты а. Если а = 3, то (х, у) = (1, 3), (2, 6), (3, 9) и так далее; значение у всегда в три раза больше значения х. Если а = 0,5, то (х, у) = (1, 0,5), (2, 1), (3, 1,5) и так далее. В этом типе модели а часто называют коэффициентом наклона уравнения; • у = ах + b означает, что значение у всегда является суммой произведения * па константу а и константы Ь. Заметьте, что сначала * умножается на а, а затем к произведению прибавляется Ь. Если а = 1 и b = 5, то (х, у) = (1, 6), (2, 7), (3, 8) и так далее. В этом типе модели b часто называют константой уравнения, потому что его значение не меняется; каково бы ни было значе ние х, значение b всегда одно и то же; • у = х 2означает, что значение у равно квадрату значения х, то есть значению х, умноженному само на себя. Таким образом, (х, у) = (1, 1), (2, 4), (3, 9) и так далее. В этой главе мы рассмотрим случай уравнений только с двумя переменными; этот тип уравнений всегда может быть описан как у = ах + b (помните, что b - это константа, а не переменная). Запись линейных уравнений Существует несколько способов записать линейное уравнение, но основные его части остаются неизменными. Для описания простого линейного уравнения с одним предик тором и константой достаточно записать его как у = а х + Ь. В этом уравнении у - это зависимая переменная, а - это коэффициент наклона и b - константа3. Константа опре деляет величину, которой соответствует точка пересечения прямой с осью у; то есть со ответствует значению у при х = 0. Коэффициент наклона определяет связь между х и у: насколько изменяется у при изменении х на одну единицу? Вы можете помнить описание этого коэффициента из учебника алгебры как «подъем на пробег»; в данном случае подъ ем относится к изменению величины у, а пробег - изменению х. Если вы чувствуете, что нужно вспомнить алгебру линейных уравнений, прочитайте обзор «Взаимосвязи меж ду непрерывными переменными» на стр. 199 в главе 7 и попробуйте решить несколько практических задач из приложения А на эту тему. Другой способ записи чаще используется в статистике при описании линейных урав нений, особенно для уравнений с множеством независимых переменных. В этой записи простое линейное уравнение записывается в виде у = р0 + р,х, + е, где ро - это константа, р1 - коэффициент наклона, а е - остаток или ошибка, которая включается из-за того, л В английском языке для I) существует термин intercept, аналога которому мет в русском, означающий «пересечение»: зга константа определяет место пересечения прямой с осыо ординат; аналогично a по-апглпйекп называют slope, то есть «склон», потому что именно наклон прямой определяется этим коэффициентом. - Прим. пер. Линейная регрессия 217 что при работе с настоящими данными (в противоположность манипуляциям с алгебраи ческими выражениями) мы не ожидаем абсолютно точного предсказания значения у по уравнению. Остаток или ошибка представляет из себя разницу между наблюдаемым и вычисленным из уравнения значениями у. В статистике термин «коэффициент» в отношении р, используется чаще, чем «коэффи циент наклона», поскольку мы нередко работаем с уравнениями со многими независимы ми переменными (множественная линейная регрессия), когда ни одна из независимых переменных не определяет целиком наклона прямой. Значение коэффициента во мно жественном линейном уравнении определяет предсказываемое изменение в значении у при изменении значения х на одну единицу при условии, что все остальные независимые переменные постоянны. Таким образом, в уравнении у = ро+ + В ^ 2 + В ^ ъ + е есть три независимые переменные (х,, х2 и х3), а коэффициент В, определяет предсказываемое изменение у при изменении х, на одну единицу при постоянных х2 и х3. Линейная регрессия Предположим, что модель у = ах + b описывает связь между двумя переменными, х и у. В алгебре эта зависимость может быть идеальной, то есть значение у аб солютно точно предсказывается значением х. Приведенные ранее примеры соот ветствуют как раз такому типу моделей. Если мы скажем, например, что у = 2х + 7, мы знаем, что при значении х = 0, то у будет равен 7. В этом случае коэффициент корреляции всегда будет 1,00, показывая идеальную связь, мы всегда можем без ошибочно предсказать значение у по значению х. Как бы то ни было, в статистике мы часто пытаемся подобрать уравнение для реального набора данных. В этом случае мы не ожидаем получить идеальную связь между х и у. То есть мы не предполагаем, что мы всегда сможем предсказать значе ние у по значению х без ошибки. Жизнь гораздо более разнообразна, чем закрытая система математики, и даже самые сильные наблюдаемые в реальном мире связи крайне редко идеальны с математической точки зрения. Рассмотрим взаимосвязь между ростом и массой тела у взрослых людей. Инту итивно понятно, что эти две переменные должны быть сильно положительно свя заны; в целом более высокие люди весят больше, чем более низкие. И тем не менее эта связь не идеальна; мы все можем вспомнить низких, но довольно полных лю дей и высоких, но очень легких. Аналогично мы ожидаем увидеть положительную связь между числом лет получения образования и заработком среди людей тру доспособного возраста; в целом более образованные люди зарабатывают больше. Однако эта связь тоже не идеальна; один из богатейших людей в мире, Билл Гейтс, не закончил колледж, и многие университетские города полны людей с учеными степенями на низкооплачиваемой работе. При работе с реальными данными мы не ожидаем получить идеальные связи, но пытаемся найти полезные. Например, мы не можем получить уравнение для точного предсказания человеческого роста на основе веса (даже с помощью гораздо более сложного выражения, включающего множество других переменных). Вместо этого мы хотим создать уравнение, ко торое было бы полезно для наших целей и улучшало бы наши предсказательные способности, в том смысле что, зная рост человека, мы могли бы, используя урав- Глава 8. Введение в регрессию и дисперсионный анализ пение, сделать лучшее предсказание массы его тела, чем мы сделали бы, не зная его роста. Мы могли бы изучать взаимосвязь между ростом и массой тела с помощью диа грамм рассеяния и коэффициента корреляции, но линейная регрессия позволяет нам сделать шаг вперед. Регрессионный анализ можно представить как проведе ние прямой линии (регрессионной прямой), изображающей взаимосвязь между двумя переменными; эту линию часто накладывают на диаграмму рассеяния для дальнейшего уточнения связи. Посмотрите на диаграмму рассеяния на рис. 8.1. Рис. 8.1 . Диаграмма рассеяния роста в метрах и массы тела в килограммах для 436 взрослых американцев Это диаграмма рассеяния роста (в метрах) и массы тела (в килограммах) для 436 взрослых американцев; данные получены с помощью случайного выбора из данных системы наблюдения за поведенческими факторами риска 2010 года\ ме дицинского исследования, проводимого в Америке ежегодно. (Вы можете подроб нее узнать о ней и скачать данные для собственного анализа с этого сайта: h ttp :// ww w.cdc.gov/brfss/technicalinfodata/surveydataÔlO.htm .l Как и ожидалось, связь положительная и в целом линейная (данные более или менее концентри руются вдоль линии), но далека от идеала: большинство точек не лежит на рег рессионной прямой (линии, наложенной на диаграмму), и некоторые достаточно далеки от нее. Это типичный результат, который можно получить для реальных данных; связи не идеальные, но если ваша модель хорошая, они могут оказаться достаточно сильными, чтобы быть полезными. 1 Behavioral Risk Factor Surveillance System (BRFSS) - американская программа Центра за контро лем н профилактикой заболеваний по мониторингу за поведенческими рисками, проводимому по телефону. Самая большая подобная программа в мире. - Прим. пер. Линейная регрессия 219 В данном случае коэффициент корреляции (г) и коэффициент детерминации (г2) между ростом и массой тела равны соответственно 0,47 и 0,22. Это значит, что около 22% дисперсии массы тела может быть связано с ростом, совсем не идеаль ное предсказание или объяснение, но значительно более хорошее, чем 0. Уравне ние регрессии для этих данных таково: у = 91х - 74. Коэффициент наклона равен 91, константа - 74. Для нахождения предсказывае мого значения массы тела человека подставьте вместо х его рост в метрах, и оста нется только произвести вычисления. Это уравнение предсказывает, что человек с ростом 1,8 метра будет иметь массу тела 89,8 кг, потому что: у = 91(1,8) - 74 = 89,8. Разумеется, если бы мы по-настоящему хотели предсказывать массу тела, мы бы разработали более сложную модель, включающую такие факторы, как пол и возраст, но этот пример служит хорошей иллюстрацией основных принципов простой регрессии. Вы могли заметить, что хотя корреляция не требует указывать, какая переменная является независимой, а какая от нее зависит, вам приходится делать такой выбор при работе с регрессией. Я назначила массу тела зависимой переменной, а рост - независимой, что осмысленно, потому что рост у взрослого человека постоянен и может рассматриваться как причинный фактор для массы тела. (При прочих равных, включая телосложение, высокие люди в целом весят больше, чем низкие.) Не думаю, что я могла бы как-то защитить позицию о пер вичности массы тела по отношению к росту. Можно посчитать линию регрессии вручную (я делала это в аспирантуре, а до тех пор, пока компьютеры не получили широкого распространения, все делали это таким образом), но гораздо чаще для этих расчетов используют статистичес кие программы. Регрессия - это очень часто встречающаяся процедура, и практи чески любой статистический пакет, который вы можете использовать, вероятно, будет включать в себя возможности по расчету регрессии. Для тех же, кто захочет расчитать параметры регрессии вручную, в конце данной главы приведен решен ный пример. Даже если вы не планируете проводить регрессию вручную, стоит ближе по знакомиться с логикой этого процесса. Когда статистический пакет выдает линию регрессии для набора данных, он подбирает уравнение, соответствующее линии, максимально близкой ко всем точкам одновременно. Это часто описывают как ми нимизацию квадратов отклонений, где квадраты отклонений - это суммы квадра тов отклонений между каждой точкой данных и линией регрессии’. Это легко про иллюстрировать на примере простой регрессии, потому что тут участвуют только два измерения (независимая и зависимая переменные); тот же принцип применим и к более сложным моделям (с большим число переменных), но в этом случае его сложнее проиллюстрировать из-за большего числа измерений. 5 По-русски обычно это называют «методом наименьших квадратов» - Прим. пер. 220 Глава 8. Введение в регрессию и дисперсионный анализ Посмотрите на рис. 8.2. Это диаграмма рассеяния для небольшого набора дан ных с наложенной линией регрессии. Обратите внимание, что хотя регрессионная прямая лежит достаточно близко ко всем точкам, ни одна из них не лежит на са мой линии; это не необычно, особенно для небольших наборов данных, потому что задача заключается в построении линии, максимально близкой ко всем точкам, даже если она не содержит ни одну из них. На рис. 8.2 вы можете провести верти кальные линии от каждой точки к линии регрессии; длина каждой такой линии соответствует ошибке предсказания, или отклонению, для каждой точки. Если вы возведете в квадрат длину каждой линии и сложите полученные числа, это будет суммой квадратов отклонений для этого набора данных. Линия регрессии строит ся таким образом, чтобы минимизировать все эти квадраты отклонений, так что она лежит настолько близко ко всем точкам, насколько это возможно для прямой линии. Разницу между каждой точкой и линией регрессии также называют остат ком, потому что она представляет изменчивость в данных, не объясняемую урав нением прямой. «Минимизацию квадратов отклонений» также можно называть «минимизацией ошибок предсказания» или «минимизацией остатков». Рис. 8.2. Ошибки предсказания в небольшом наборе данных Допущения Как в случае большинства статистических процедур, в ходе линейной регрессии приходится делать некоторые предположения об анализируемых данных; если они нарушаются, то результат анализа может быть неверным. Важнейшие условия для проведения простой линейной регрессии включают: Линейная регрессия 221 Подходящий тип данных Результирующая переменная должна быть непрерывной, представленной интервальными или характеризующими отношения данными и неограни ченной (или хотя бы варьирующей в широких пределах); независимая пе ременная должна быть непрерывной или дихотомической. Категориальные независимые переменные с более чем двумя значениями можно перекоди ровать в набор дихотомических фиктивных переменных; это обсуждается в главе 10. Независимость Каждое значение зависимой переменной независимо от других значений. Это допущение нарушается, если есть некоторая зависимость от времени, например, или если некоторые из зависимых переменных - это измерения объектов, объединенных в группы (такие как члены одной семьи или уче ники одного класса), так что это повлияет на значение зависимой перемен ной. Выполнение этого допущения можно проверить, зная сами данные и то, как они были получены. Линейность Отношения между независимой и зависимой переменными напоминают прямую линию. Это предположение проверяется с помощью изображения данных на графике; если его форма существенно отличается от прямой, вам может понадобиться преобразовать одну или обе переменные либо выбрать другой метод. Распределение Непрерывные переменные приблизительно нормально распределены и не имеют выбросов. Распределение непрерывных переменных можно прове рить «на глаз» с помощью построения гистограммы и с помощью статис тических тестов на нормальность, таких как тест Колмогорова-Смирнова. Выброс определяют как значение, находящееся далеко от остальных значе ний той же переменной в наборе данных; иногда его описывают как значе ние, которое не похоже на другие. Определение выбросов отчасти субъек тивно, оно обсуждается дальше в главе 17 и может быть многоступенчатым процессом. (Необычное значение данных может как появиться, например, в результате ошибки, так и быть, по всей видимости, верным.) Гомоскедастичиость Ошибки предсказания постоянны на всем промежутке данных. Это озна чает, что, например, ошибки не становятся меньше, если у уменьшается, а с увеличением у не растут. Это предположение проверяется с помощью построения графика связи между стандартизованными остатками и стан дартизованными предсказанными значениями; данные должны напоми нать облако без каких-либо указаний на то, что ошибки предсказания не постоянны на всем промежутке. Рисунок 8.3 показывает гомоскедастичные данные, а рис. 8.4 — гетероскедастичные. 222 Глава 8. Введение в регрессию и дисперсионный анализ Независимость и нормальность ошибок Ошибка предсказания для каждой точки не должна зависеть от ошибки предсказания других точек, и остатки должны быть нормально распреде лены. Предположение о независимости проверяется тестом Дарбина-Уотсона (обсуждается ниже), а предположение о нормальности - с помощью построения графика остатков (ошибок). -з -2 -1 2 о 3 Стандартизованные предсказанные значения Рис. 8.3. Гомоскедастичность 3 • • * (О • 2 13 • о 0) X I СО CD О СО X н CL СО се I СО нU • • • • • 1 • • • • • 0 • • • • • • . • • • • -1 • • • • • • • • -2 • • • -3 -3 -2 -1 0 1 2 Стандартизованные предсказанные значения Рис. 8.4. Гетерокедастичность Предположим, нас интересует уровень рождаемости среди подростков (отно шение числа родов молодых женщин 15-19 лет к их общему числу) и то, какие Линейная регрессия ! 223 факторы на уровне страны влияют на него. Наше первое предположение состоит в том, что подростковая рождаемость может быть связана с равноправием полов, и мы предполагаем, что она ниже в тех странах, где у женщин больше прав. Мы проведем регрессионный анализ для проверки этой гипотезы, используя данные, скачанные с сайта проекта ООН по развитию человечества (http://hdr.undp.org/ en /statistics/d ata/). Мы будем использовать индекс неравенства полов (И Н П ) как независимую переменную; этот индекс складывается из пяти переменных, характеризующих репродуктивное здоровье женщин, число прав и возможнос тей, а также их участие в работе, и принимает значения от 0 до 100 (в наших дан ных от 6,5 до 79,1), где меньшие значения соответствуют большему равенству. Заметьте, что это так называемые популяционные, или обобщенные, данные; значение каждой переменной относится к стране в целом, а не к отдельным людям. Нет ничего плохого в использовании таких данных, но стоит быть аккуратным, чтобы делать выводы на том же уровне обобщения, на каком собраны исследуе мые данные; в нашем случае результаты будут относиться к уровню страны, а не отдельных людей. Начнем с проверки наших предположений. Таблица частот свидетельствует, что переменные непрерывны и их значения колеблются в достаточно широком диапазоне, а также что у нас есть 135 измерений со значениями обеих переменных, что более чем достаточно для простого регрессионного анализа. Кроме того, наши данные независимы, потому что данные для каждой страны собирали отдельно. Наше третье предположение, линейность, можно проверить с помощью диаграм мы рассеяния. Как видно по рис. 8.5, тут мы сталкиваемся с проблемой: зависи мость, скорее, не линейна. Рис. 8.5. Диаграмма рассеяния подростковой рождаемости и индекса неравенства полов 224 Глава 8. Введение в регрессию и дисперсионный анализ Мы проделываем логарифмическое преобразование (обсуждается в главе 3) уровня подростковой рождаемости и видим, что теперь переменные уже связаны гораздо более линейно. Диаграмма рассеяния преобразованных данных изобра жена на рис. 8.6. Рис. 8.6. Диаграмма рассеяния для натурального логарифма подростковой рождаемости и индекса неравенства полов Мы проверим нормальность наших переменных с помощью теста Колмогоро ва-Смирнова (К -С ). Тест К -С сравнивает распределение переменной с эталонным распределением. (Эталоном в данном случае служит нормальное распределение.) Нулевая гипотеза теста К -С заключается в том, что переменная была получена из эталонного распределения, так что в данном примере если мы не сможем отверг нуть нулевую гипотезу, то сможем принять предположение о том, что генеральная совокупность нашей переменной распределена нормально. Обе гистограммы (не показаны) выглядят достаточно нормальными, а тест К -С не показал достоверных отличий (К -С = 1,139, р = 0,149 для натурального логарифма уровня подростковой рождаемости; К -С = 1,223,/? = 0,101 для индекса неравенства полов). Мы проверим последние два допущения после проведения регрессии. Мы пола гаем, что неравенство полов влияет на подростковую рождаемость, и мы преобра зовали уровень подростковой рождаемости, взяв его натуральный логарифм (LN), так что наша регрессионная модель выглядит так: LN(подростковая рождаемость) = (30 + р^И Н П ) + е. Это другой стиль записи, чем мы использовали ранее в этой главе, но он чаще применяется при обсуждении регрессий, так что самое время переключиться на него. Наша зависимая переменная Y в данном случае - это ^(подростковая рож Линейная регрессия 225 даемость); константой, ранее обозначавшейся как Ь, теперь является (3(); а коэф фициент наклона, выше обозначенный а, теперь записан как (Зг Эта запись будет особенно удобна при обсуждении регрессии с несколькими независимыми пере менными, потому что их тогда можно обозначать Рр р2 и так далее; эти члены на зывают коэффициентами. Разные статистические пакеты выдают результаты в разном виде, но в них до статочно много общего, чтобы можно было понимать результат простой регрес сии, полученный в любом из них, если вы знаете, как понять результат хотя бы в каком-то виде. Мы будем показывать самую важную информацию о результатах анализа просто в виде таблиц, чтобы избежать предпочтения одной системы перед остальными. В первую очередь мы хотим оценить общее качество нашей модели. Оно обычно выражается в терминах F-статистики и вероятности и оценивает, лучше ли вся мо дель, чем ее отсутствие. Другими словами, значения F-статистики и вероятности позволяют сравнить нашу модель с моделью, в которой все коэффициенты рав ны 0 (нулевая модель). Нас также интересует, какую долю дисперсии зависимой переменной может объяснить наша модель; возможна ситуация, особенно с боль шими наборами данных, когда модель с достоверными коэффициентами объясня ет лишь малую долю всей дисперсии. F-статистика для этой модели составляет 190,964 с 1 и 185 степенями свободы и p -значением меньше 0,001; таким образом, мы заключаем, что лучше такая модель, чем никакой. R-значение, или корреляция, составляет 0,714, а коэффициент детер минации, или R2, составляет 0,509; это значит, что индекс неравенства полов может объяснить больше 50% дисперсии подростковой рождаемости в странах из нашего набора данных. Заметим, что, несмотря на то что в данном случае мы работаем толь ко с двумя переменными, корреляции и регрессии обычно обозначаются заглавной буквой /?, и мы следовали этой договоренности. Статистика Дарбина-Уотсона для этих данных составляет 2,076, подтверждая независимость остатков в наших дан ных (это хорошо). Статистика Дарбина-Уотсона лежит в интервале от 0 до 4, а ее значение 2 показывает абсолютную независимость; наше значение очень близко к 2, так что мы можем считать условие о независимости ошибок выполненным. Коэф фициенты регрессии для этой модели приведены в табл. 8.1. Таблица 8.1 . Таблица коэффициентов для регрессионного анализа предсказания индекса неравенства полов и натурального логарифма подростковой рождаемости Нестандартизованные коэффициенты В Станд. ошибка Константа 1.798 0.112 ИНП 4.446 0.244 Стандартизованные коэффициенты Бета 0.845 t Значимость 16.118 < 0.001 18.221 <0.001 Столбец, обозначенный как В в «Нестандартизованных коэффициентах», пока зывает наши коэффициенты для уравнения регрессии. В данном случае уравнение принимает следующий вид: Глава 8. Введение в регрессию и дисперсионный анализ 226 LN(подростковая рождаемость) = 1,798 + 4,446(ИНП) + е. Это говорит нам о том, что на каждую единицу ИНП натуральный логарифм подростковой рождаемости увеличивается примерно на 4,4 единицы; эта связь положительна, что подтверждает нашу догадку о том, что более сильное нера венство приводит к более высокой подростковой рождаемости. Столбец «Станд. ошибка» показывает стандартные ошибки для оценок коэффициентов. Столбец «Бета» в «Стандартизованных коэффициентах» содержит, как подсказывает на звание, стандартизованные коэффициенты регрессии; это может быть полезно в регрессионном анализе со множеством независимых переменных, измеряемых в различных масштабах. Столбец t показывает ^-статистику для каждого коэффици ента и рассчитывается как отношение В к соответствующей стандартной ошибке. Например, для ИНП: ^ = 4,446/0,244 = 18,221. Последняя колонка показывает значимость ^-статистики. Мы обычно не бес покоимся о значимости константы (все, что отсюда следует, - это значимо ли она отличается от нуля, что обычно не интересует исследователя), но нам интересна значимость коэффициентов при независимых переменных. В нашем случае ИНП входит в модель для предсказания подростковой рождаемости с высокой значи мостью (р < 0,001). Может быть полезным подумать о том, что же мы проверяем с помощью этого анализа. Наша главная цель - понять, влияет ли неравенство полов на уровень подростковой рождаемости; если ^-статистика для неравенства полов в таблице коэффициентов не значима, это означает, что мы можем убрать эту величину из нашего уравнения. Другими словами, незначимый результат для неравенства по лов означал бы, что коэффициент для него значимо не отличается от нуля, то есть можно убрать его из нашей модели без вреда для способности уравнения предска зывать или объяснять зависимую переменную. Последним шагом должна быть проверка наших предположений, чтобы быть уверенными в адекватности полученных результатов. Мы можем проверить гомоскедастичность (предположение 5) с помощью построения графика остат ков против стандартизованных предсказанных значений; результат показан на рис. 8.7. Это классическое облако данных, не дающее никаких оснований предполагать непостоянство ошибки предсказания, так что условие гомоскедастичности выпол нено. Наконец, мы проверим нормальность распределения наших остатков, создав их гистограмму (не показана) и рассчитав статистику Колмогорова-Смирнова; ее значение составляет 1,355 (р = 0,51), так что наши данные проходят тест на нормальность. Нс все статистические анализы дают значимые результаты. В табл. 8.2 мы по казываем результат регрессионного анализа, пытающегося использовать число женщин в стране (в тысячах) для предсказания индекса неравенства иолов для страны. Линейная регрессия 227 Рис. 8.7. Диаграмма рассеяния стандартизованных остатков и стандартизованных предсказанных значений Таблица 8.2. Таблица коэффициентов регрессии для предсказания индекса неравенства полов по числу женщин (в тысячах) Нестандартизованные коэффициенты В Станд. ошибка Константа 0.282 0.074 Число женщин (тысячи) 0.000 0.000 Стандартизованные коэффициенты Бета 0.306 t Значимость 3.806 0.002 1.285 0.217 По ^-значению (1,285) и значимости (0,217) ясно, что число женщин в стране достоверно не предсказывает равенство полов; другим свидетельством в пользу этого результата служит нулевая величина нестандартизованного коэффициента для этой переменной. Диаграмма рассеяния двух переменных (рис. 8.8) показыва ет, что связь между ними случайна, и, логически рассуждая, нет причин для того, чтобы в странах с большим числом женщин (что соответствует просто странам с большим населением) был больший или меньший уровень неравенства полов, чем в странах с малым числом женщин, так что мы не будем обсуждать этот анализ дальше. 228 Глава 8. Введение в регрессию и дисперсионный анализ Рис. 8.8. Диаграмма рассеяния женского населения (в тысячах) и индекса неравенства полов Дисперсионный анализ (ANOVA) Дисперсионный анализ (ANOVA) - это статистическая процедура, используемая для сравнения средних значений определенной переменной в двух и более незави симых группах. Ее так называют, потому что расчет включает разделение диспер сии, соотнесение наблюдаемой в данных дисперсии с различными причинами или факторами, включая групповую принадлежность. Тем не менее из-за того, что эту процедуру применяют для сравнения средних между группами, многие студенты думают, что настоящее название должно быть A-MEAN-A0. И все же ANOVA - это полезный метод, особенно при анализе данных продуманных экспериментов (та ких как изучение разницы между контролем и экспериментальными группами в клинических испытаниях). Основная статистика для ANOVA - это F-отношение, которое может быть ис пользовано для определения статистической значимости различий между груп пами. Например, нас может интересовать проверка эффективности трех лекарств, которые должны понижать кровяное давление; мы можем сформировать четыре группы гипертоников и дать каждой из них одно из лекарств (и одна из групп будет служить контролем, то есть они либо не будут получать никаких лекарств, либо их будут лечить стандартными методами). Через некоторое время мы моMeat7 по-анг.пшскп означает «среднее значение». - Прим. пер. Дисперсионный анализ (A N O V A ) 229 жем измерить кровяное давление пациентов, участвующих в исследовании, что бы увидеть, повлияли ли на него достоверно какие-то из лекарств, а также есть ли достоверная разница между действием разных лекарств. ANOVA рассчитает F-отношение для сравнения групповых средних, статистическую значимость ко торого мы проверим, используя заранее заданный стандарт, такой как р < 0,01 или р < 0,05. Простейший вариант ANOVA включает одну группирующую (независимую) переменную и одну предсказываемую; по этой причине он называется одно факторный дисперсионный анализ. Глава 9 описывает более сложные варианты ANOVA, включая двух- и трехфакторный дисперсионный анализ (многофактор ный дисперсионный анализ) и анализ данных с учетом непрерывной ковариаты (ANCOVA7). Однофакторный дисперсионный анализ Простейший вариант дисперсионного анализа - это однофакторный дисперсионный анализ, в котором при формировании групп для сравнения используется только одна переменная. Данную переменную часто называют «фактором», и этот термин еще более обычен при использовании более сложных вариантов ANOVA. Предположим, нас интересует эффективность нового лекарства, которое должно снижать сахар в крови у больных диабетом второго типа; мы можем проверить ее с помощью диспер сионного анализа, сравнив новое лекарство с другим уже используемым препаратом. Фактором в данном исследовании служит используемое лекарство, и у него есть два уровня: новый и старый препараты. Фактор в однофакторном дисперсионном анали зе может иметь и более двух уровней: в предыдущем примере о сравнении трех пре паратов для снижения давления и контроля у одного фактора было четыре уровня. Однофакторный дисперсионный анализ с двумя уровнями аналогичен £-критерию. Наша нулевая гипотеза в таком анализе обычно гласит о равенстве средних двух групп, тогда как альтернативная говорит о том, что средние различны (дву сторонний тест) или различаются в определенном направлении (односторонний тест). Даже если есть значимое отличие в средних между двумя группами, мы не можем ожидать, что значения в двух группах не будут перекрываться; на са мом деле отсутствие такого перекрытия очень необычно. Также мы ожидаем, что внутри каждой группы будет наблюдаться изменчивость, и однофакторный дис персионный анализ принимает в расчет изменчивость внутри групп (например, изменчивость в уровне сахара среди пациентов, принимающих новое лекарство) и изменчивость между группами (разницу между пациентами, принимающими исследуемый и стандартный препараты). Дисперсионный анализ также подразумевает соблюдение некоторых условий для его правильного применения. Поскольку линейная регрессия и ANOVA - эго на самом деле два способа исследовать данные, используя общую линейную мо дель, неудивительно, что некоторые из предположений дисперсионного анализа совпадают с предположениями для регрессии. 7 От англ. ANalysis o f COVAriance. - Прим. пер. 230 Н П ' Глава 8. Введение в регрессию и дисперсионный анализ Типы данных Зависимая переменная должна быть непрерывной, представленной интер вальными или характеризующими отношения данными и неограниченной (или хотя бы изменяющейся в широком интервале); факторы (группирую щие переменные) должны быть дихотомическими или категориальными. Независимость Каждое значение зависимой переменной не должно зависеть от других ее значений. Это условие может нарушаться в ситуациях, когда, например, имеется какая-либо временная зависимость или некоторые из значений были измерены у объектов, объединенных в группы (такие как члены од ной семьи или дети, учащиеся в одном классе) так, что это повлияло на зависимую переменную. Это предположение можно проверить только с помощью ваших знаний о данных и способе, которым они были получены. Распределение Непрерывная переменная распределена приблизительно нормально в каж дой группе. Распределение можно проверить с помощью гистограммы («на глаз») и с помощью статистических тестов на нормальность, таких как кри терий Колмогорова-Смирнова. Однородность дисперсии Дисперсии всех групп должны быть приблизительно одинаковыми. Это проверяется с помощью теста Левина (Levene test); нулевая гипотеза со стоит в том, что дисперсия однородна, то есть если результат теста Левина статистически не значим (обычно применяют критерий а < 0,05), то дис персии достаточно сходны. Дисперсионный анализ считают робастным методом, что означает, что он мо жет хорошо работать даже в ситуациях, когда некоторые условия нарушаются; например, если размеры групп одинаковы, получаемая ^-статистика достаточно надежна даже в случае, когда распределение непрерывной переменной отлично от нормального. Аналогичным образом при одинаковых размерах групп Е-статистика устойчива к нарушениям предположения об однородности дисперсии. Если вы хотите почитать еще о спорах по поводу этих вопросов, в приложении С упо мянута соответствующая статья Гласса (Glass). Тем не менее нарушения условия независимости могут сильно исказить результаты, так что перед использованием ANOVA следует быть уверенным, что это условие соблюдено. Предположим, мы сравниваем два метода тренировок по подъему большого веса, и наши измерения показывают увеличение поднятого веса после трех меся цев тренировок одним или другим методом. Наша нулевая гипотеза состоит в том, что средние в обеих группах после тренировок равны; другими словами, в среднем никакой из методов не лучше другого. В начале эксперимента мы случайным об разом выбираем, каким способом каждый из испытуемых будет тренироваться, и измеряем средний вес, который они могут поднять; средние были приблизительно равны. Диаграмма размаха на рис. 8.9 показывает улучшение «грузоподъемности» после трех месяцев; хорошо видно, что испытуемые, тренировавшиеся по первому Дисперсионный анализ (A N O V A ) 231 методу, в целом оказались успешнее, поскольку первая группа имеет большую ме диану, представленную в виде черной линии в середине «ящика», и весь интервал расположен выше. Тем не менее видно, что в обеих группах есть изменчивость, и имеется значительное перекрытие выборок. Не все члены первой группы улучши ли свой результат больше, чем все члены второй группы, только в среднем первая группа показала более хороший результат. Рис. 8.9. Увеличение поднятого веса после трех месяцев тренировок одним из двух методов На самом деле в группе 1 среднее улучшение составляет 34,21 фунта, а в груп пе 2 - 26,42 фунта. Значима ли эта разница статистически? Для ответа на этот вопрос мы проведем однофакторный дисперсионный анализ. Сначала рассчитаем простейшую статистику по этим данным, как показано в табл. 8.3. Таблица 8.3. Описательная статистика по данным о подъеме веса (два метода тренировок) Группа Нижняя граница 95 % -го доверитель ного интервала Верхняя граница 9 5 % -го доверитель ного интервала N Среднее Станд. откл. 15 34.21 7.38 30.13 2 15 26.42 6.16 23.01 29.83 В целом 30 30.32 7.76 27.41 33.22 1 38.31 Заметим, что размеры групп одинаковы, в группах приблизительно одинаковы дисперсии, и 95%-ные доверительные интервалы для средних двух групп не пе рекрываются (хотя они почти соприкасаются). Также мы рассчитали статистику Глава 8. Введение в регрессию и дисперсионный анализ 232 Левина, чтобы проверить однородность дисперсии наших групп; наш результат (0,626, р = 0,435) не дает оснований отвергнуть нулевую гипотезу об однороднос ти, так что мы можем применять дисперсионный анализ. Статистические результаты дисперсионного анализа обычно представляют в виде таблицы, похожей на табл. 8.4. Таблица 8.4. Результаты однофакторного дисперсионного анализа данных о подъеме веса (два метода тренировки) Сумма квадратов М еж ду группами Средний квадрат df 455.86 1 455.86 Внутри групп 1294.52 28 46.23 В целом 1750.38 29 F 9.86 Значимость 0.004 Руководствуясь стандартом а < 0,05, эти результаты можно считать значимы ми, так что мы можем отвергнуть нулевую гипотезу о том, что средние двух групп равны; на самом деле метод 1 привел к достоверно более хорошим результатам, чем метод 2. Это простая таблица дисперсионного анализа, потому что у нас был только один фактор с двумя уровнями, но стоит потратить немного времени и по смотреть на ее части, потому что это поможет понять более сложные таблицы. В таблице есть три строки: одна содержит данные для межгрупповой дис персии, одна - для внутригрупповой, и одна - для общей. Суммируя внутри- и межгруиповые суммы квадратов и степени свободы (df), мы получаем значения для всей выборки. Дисперсия между группами -это дисперсия, связанная с груп повой принадлежностью, то есть с той, которая определяется методом тренировок. Внутригрупповая дисперсия - это дисперсия значений в каждой группе; как мы видели на диаграмме размаха на рис. 8.9, значительная дисперсия была как внут ри каждой из групп, так и между группами. Число степеней свободы отражает то, сколько параметров могут изменяться при вычислении каждой части статистики; общее число степеней свободы равно п - 1 (на один меньше, чем число испытуе мых), число степеней свободы между группами равно k - 1 (на один меньше числа групп), внутригрупповое число степеней свободы равно п - k. Сумма квадратов (SS8) - это сумма возведенных в квадрат отклонений между группами, внутри групп и в целом, тогда как средний квадрат (MS9) - это сумма квадратов, разде ленная на число степеней свободы, как в этом примере: 55(между) = 455,86/1 = 455,86; 55(внутри) = 1294,52/28 = 46,23. ^-статистика - это отношение меж- и внутригрупповой сумм квадратов, как в этом примере: F= 455,86/46,23 = 9,86. 8 От англ. Sum o f Squares. - Прим. пер. 9 От англ. Mean Square. — Прим. пер. Дисперсионный анализ (A N O V A ) 233 Наш статистический пакет автоматически рассчитал значимость Е-статистики, но мы также могли сравнить значения с табличными (по аналогии с нормальным распределением и другим таблицами, включенными в приложение D). Посколь ку Е-таблицы имеют две степени свободы (для числителя и знаменателя), они довольно громоздки, так что мы не стали включать их в эту книгу; тем не менее вы можете найти Е-таблицу тут: http://www.itl.nist.gov/div898/handbook/eda/ section3 /eda3673.htm. Апостериорные тесты Если у вас есть только две группы, то значимые различия по Е-критерию говорят о том, что их средние различаются. Однако если у вас более двух групп, ваш диспер сионный анализ мог показать значимый результат P-критерия (называемого уни версальным критерием), что означает, что средние групп различаются, но при этом вы все равно не сможете сказать, к каким парам групп это относится. Для ответа на этот вопрос можно провести апостериорный тест; как и говорится в названии, этот тест применяют после того, как вы получили значимый результат универсального Р-критерия. Есть целый набор апостериорных тестов, и некоторые из них чаще при меняются в одних областях, а другие - в других. Один из хороших вариантов - это тест Шеффа (Scheffe test), который проверяет различия между всеми парами групп на статистическую значимость и учитывает факт проведения множества тестов на одних и тех же данных (использование теста Шеффа контролирует частоту экспе риментальных ошибок и не увеличивает вероятности ошибки первого рода). Предположим, что мы сравниваем три метода тренировок по подъему веса, а не два. Описательная статистика для этих данных представлена в табл. 8.5. Таблица 8.5. Описательная статистика для данных по подъему веса (три метода тренировки) Группа N Среднее Станд. откл. Нижняя граница 9 5 % -го доверитель ного интервала Верхняя граница 9 5 % -го доверитель ного интервала 1 15 34.21 7.38 30.13 38.31 2 15 26.42 6.16 23.01 29.83 3 15 30.04 9.22 24.94 35.15 45 30.32 7.76 27.41 33.22 В целом Размеры всех трех групп равны, что является оптимальным для проведения дис персионного анализа. Судя по групповым средним, группа 3 имеет более низкие результаты, чем группа 1, но более высокие, чем группа 2 .95%-ный доверительный интервал для группы 3 перекрывается с интервалами двух других групп, так что будет интересно посмотреть, что нам скажут апостериорные тесты для этих трех методов тренировки. Тест Левина дает значение 1,447 (р = 0,247), так что требование однороднос ти дисперсии выполнено. Результаты дисперсионного анализа представлены в табл. 8.6. ’H I 234 Глава 8. Введение в регрессию и дисперсионный анализ Таблица 8.6. Результаты дисперсионного анализа данных по подъему веса (три метода тренировки) Сумма квадратов df Средний квадрат М еж ду группами 456.04 2 228.30 Внутри групп 2483.76 42 59.14 В целом 2940.36 44 Значимость F 3.86 0.029 F-статистика значима, то есть средние трех групп различаются. Однако мы хо тим узнать больше - достоверно ли выше результаты группы 1, чем групп 2 и 3, например? А результаты группы 3 значимо лучше, чем у группы 2? Для ответа на этот вопрос мы проводим апостериорный тест Шеффа, что дает нам результаты, приведенные в табл. 8.7 и 8.8. Таблица 8.7. Результаты апостериорного теста Шеффа для данных о подъеме веса (три метода тренировки) Груп па 1 Груп па J 1 2 Средняя разница (I-J ) Станд. ошибка З начи мость 7.80 2.81 0.029 Верхняя граница Нижняя граница 9 5 % -го доверитель 9 5 % -го доверитель ного интервала ного интервала 0.67 14.92 1 3 4.17 2.81 0.341 -2 .9 5 11.30 2 1 -7 .8 0 2.81 0.029 -14 .9 2 -0 .6 7 2 3 -3 .6 2 2.81 0.442 -10 .7 5 3.50 3 1 -4 .1 7 2.81 0.341 -11 .3 0 2.95 3 2 3.62 2.81 0.442 -3 .5 0 10.75 Таблица 8.8. Гомогенные группы из апостериорного теста Шеффа (три метода тренировки) Группы для а = 0 .0 5 Группа N 1 2 15 26.42 3 15 30.04 1 15 Значимость 2 30.04 34.22 0.442 0.341 Таблицы 8.7 и 8.8 показывают один и тот же результат, но информация органи зована по-разному. Посмотрев на таблицы, мы можем увидеть, что среднее груп пы 1 отличается от среднего группы 2, но не от среднего группы 3, которое, в свою очередь, не отличается от среднего группы 2. Таблица 8.7 представляет все возможные попарные сравнения между группами; половина таблицы избыточна, поскольку представлены как сравнение группы 1 с группой 2, так и группы 2 с группой 1. Например, первая строка представляет Расчет простой регрессии вручную 235 сравнение группы 1 с группой 2 (приняты обозначения «группа I» и «rpynnaj»). Разница в средних между этим группами составляет 7,80, и разница достоверна (р = 0,029). 95%-ный доверительный интервал для этой разницы средних состав ляет (0,067, 14,92); заметим, что он не включает нуль. Вторая строка табл. 8.7 представляет из себя сравнение групп 1 и 3; средняя разница составляет 4,17, и она не достоверна (р = 0,341). Заметим для сравнения, что доверительный интер вал включает нуль (-2,95, 11,30). В третьей строке сравниваются группы 2 и 1; результат ровно тот же, что и в первой строке, с точностью до знака (поскольку в третьей строке среднее группы 1 вычитается из среднего группы 2, тогда как в первой строке среднее группы 2 вычиталось из среднего группы 1). В строке 4 показано сравнение средних групп 2 и 3; разница в средних составляет -3,62, и она не достоверна (р = 0,442). Строки 5 и 6 совпадают со строками 2 и 4. Столбцы табл. 8.8 соответствуют гомогенным наборам групп; в гомогенном на боре средние включенных групп не отличаются достоверно друг от друга. В дан ном случае группы 2 и 3 формируют гомогенную группу (столбец 1); группы 1 п 3 также гомогенны (столбец 2). Расчет простой регрессии вручную Коэффициенты регрессии можно рассчитать вручную, используя суммы квад ратов, дисперсии X и Y и несколько других величин, которые можно вычислить без помощи компьютера. Проблема с ручным расчетом регрессии не в том, что он включает какие-то особенно сложные этапы, а в том, что с набором данных любо го размера работа становится очень утомительной и способствующей ошибкам. Тем не менее пройти через модифицированную версию этого процесса может быть полезным для понимания смысла коэффициентов регрессии, и именно для этого приведен следующий раздел. Мы заметили ранее, что при работе с реальными данными мы не ожидаем полу чить идеальное предсказание по уравнению регрессии. На самом деле мы предпо лагаем, что будут некоторые различия между наблюдаемыми и предсказываемы ми по модели значениями. Мы также обсуждали квадраты отклонений, которые являются квадратами разностей каждого наблюдаемого и предсказанного по урав нению значений. Сумма квадратов отклонений - это сумма квадратов ошибок, и она рассчитывается, как показано на рис. 8.10. S S E - ^ - y f J-1 Рис. 8.10. Сумма квадратов ошибок В этой формуле у - это наблюдаемое значение, а у. - это предсказанное зна чение (в соответствии с уравнением регрессии) для него. Поскольку значение^ определяется по уравнению регрессии (axj + b), сумма квадратов ошибок также может быть записана, как показано на рис. 8.11. 236 (:Л Глава 8. Введение в регрессию и дисперсионный анализ S S E = ^ ( y i - ( a x i + b))2 1-1 Рис. 8.1 1 . Другой способ записи суммы квадратов ошибок Цель регрессии состоит в минимизации суммы квадратов, что будет означать, что предсказанные значения лежат максимально близко, насколько это возможно, к наблюдаемым. Формулы, необходимые для расчета простейшего регрессионно го уравнения, приведены на рис. 8.12-8.15. Учтите, что 5vv - это дисперсия х , а S - это ковариация х и у. Рис. 8.12. Расчет дисперсии х Рис. 8.13. Расчетковариациихиу Рис. 8.14. Расчет коэффициента наклона простого уравнения регрессии , *- о = 2 - п а 2^ — п Рис. 8.1 5. Расчет константы простого уравнения регрессии Предположим, что вам дали значения из рис. 8.16, рассчитанные на основе дан ных о связи IQ {у) с ростом в метрах (х); вы можете использовать эту информацию для расчета линии регрессии для этих данных. Вы также могли бы рассчитать эти величины вручную, но этот процесс крайне трудоемок даже для небольших набо ров данных - настолько трудоемок, что на самом деле вы легко забудете, для чего вы вообще все это считаете. Упражнения 237 Рис. 8.16. Данные, необходимые для расчета простого уравнения регрессии Используя уравнения и данные из рис. 8.16, мы рассчитываем уравнение рег рессии следующим образом: Ъ с/п = 33,25/21 = 1,58; Ъ у /п - 2486/21 = 118,38; Sn = 53,01 - (33,25)2/21 = 0,36; 5“ = 3973,04 - (33,25)(2486)/21 = 36,87; а = 36,87/0,36 = 102,42; Ь - 118,38 - [(102,42)(1,58)] = -43,44. Уравнение регрессии представляет из себя следующее: у = 102,42л: - 43,44 + е или IQ = 102,42(рост) - 43,44 + в. Для человека ростом 2 метра уравнение предсказывает IQ = 161,40 (гениаль ность!), поскольку: 102,42(2)-43,44 = 161,40. Нет необходимости подчеркивать, что эго искусственный пример, который ил люстрирует метод регрессии; у нас нет цели запятнать умственные способности кого-то, вне зависимости от роста. Упражнения Регрессия Первая группа вопросов использует данные программы развития ООН для изуче ния величин, связанных с подростковой рождаемостью (частотой родов женщин 15-19 лет в данной стране, выраженной как число родов на 1000 женщин этой Глава 8. Введение в регрессию и дисперсионный анализ 238 возрастной группы). Вы решили посмотреть на уровень образования в стране, включая такой показатель, как «средняя длительность обучения взрослых», пред полагая, что в тех странах, где среднее число лет, потраченных на образование, выше, подростковая рождаемость должна быть ниже. Задача На рис. 8.17 представлена диаграмма рассеяния двух переменных (с исполь зованием натурального логарифма подростковой рождаемости, как обсуждалось ранее в этой главе). Что она говорит об их взаимоотношении, и поддерживает ли она проведение простого регрессионного анализа с использованием этих двух пе ременных? Рис. 8.17. Диаграмма рассеяния натурального логарифма подростковой рождаемости и средней длительности обучения взрослых Решение Диаграмма рассеяния показывает достаточно сильную отрицательную взаи мосвязь. (Более высокий уровень образования связан с более низким уровнем подростковой рождаемости.) Обе переменные выглядят непрерывными и имеют значительный размах, что позволяет проводить регрессионный анализ. Задача Регрессионный анализ выдал результаты, показанные в табл. 8.9; заполните пропущенное значение для R в квадрате и проинтерпретируйте информацию в табл. 8.9. Упражнения 239 Таблица 8.9. Информация о модели R 0.663 Я2 Статистика Д ар б ина-Уо тсон а 2.199 Решение К2равно 0,440 (найдено возведением 0,663 в квадрат). Это коэффициент детер минации для модели, и он означает, что 44,0% всей дисперсии натурального ло гарифма уровня подростковой рождаемости можно объяснить влиянием средней длительности обучения взрослых. Статистический тест Дарбина-Уотсона прове ряет предположение о независимости ошибок, а значение 2 показывает абсолют ную независимость; поскольку мы получили значение, очень близкое к 2 (2,199), мы можем заключить, что это предположение выполняется. Задача Ниже приведена таблица коэффициентов из того же самого регрессионного анализа. Заполните пропущенные значения ^-статистики, напишите уравнение регрессии и проанализируйте информацию из этой таблицы. Таблица 8.10. Таблица коэффициентов регрессии, предсказывающей натуральный логарифм подростковой рождаемости по среднему значению длительности обучения взрослых в стране Нестан/ дартизованные коэ< >фициенты Константа Средняя продолжительность обучения взрослых В Станд. ошибка 5.248 0.146 -0.21 7 0.019 Стандартизованные коэффициенты Бета t Значимость < 0.001 -0.66 3 <0.001 Решение ^-статистика для константы составляет 35,945 и -11,421 для среднего времени обучения взрослых; она рассчитывается как отношение В соответствующей вели чины к его стандартной ошибке. Для константы: 5,248/0,146 = 35,945. Уравнение регрессии для этого анализа выглядит следующим образом: ч г _/ _ _ Гк_ . среднее число лет LN(подростковая рождаемость) = 5,248 - 0,217 * обучения взрослых. Это уравнение говорит о том, что предсказываемый логарифм подростковой рождаемости уменьшается на 0,217 единицы при уменьшении времени обучения взрослых в стране на 1 год. ^-статистики и их тесты значимости говорят нам, что оба коэффициента регрессии достоверно отличаются от нуля. Коэффициент Бета (-0,663) для средней продолжительности учебы взрослых - это стандартизован ный коэффициент регрессии для этой переменной (-0,217); он не особенно поле зен для простого уравнения регрессии, но может быть использован в моделях со множеством независимых переменных, измеряемых в разных единицах, для срав нения их значимости. 240 Глава 8. Введение в регрессию и дисперсионный анализ Этот анализ поддерживает представление о наличии достоверной отрицатель ной связи между уровнем образования в стране и частотой подростковых родов: в среднем уровень подростковой рождаемости ниже в тех странах, где взрослые учились дольше. Дисперсионный анализ Эти вопросы используют данные Системы наблюдения за поведенческими фак торами риска за 2010 год (BRFSS, ежегодный обзор информации, связанной со здоровьем, для США). Хотя вы можете скачать данные с BRFSS, анализ в этом разделе основан на случайной выборке из данных 2010 года, так что не стоит ожи дать ровно таких же результатов, если вы проведете анализ самостоятельно. Вас интересует, есть ли взаимосвязь между астмой и массой тела. Вы будете при менять дисперсионный анализ для проверки того, есть ли достоверная разница в массе тела между теми людьми, которым никогда не ставили диагноз астмы, и теми, которым когда-либо его ставили. Ваша групповая переменная, диагностирование аст мы - дихотомическая, а зависимая переменная, масса тела - непрерывная. Поскольку результаты исследования интересуют американских чиновников, вы будете измерять массу в фунтах, а не килограммах. (В данных имеются обе единицы измерения.) Задача На рис. 8.18 изображена диаграмма размаха для диагноза астмы и массы тела в фунтах. Какую информацию о данных вы можете получить из этой диаграммы? Бел и вы незнакомы с диаграммами размаха, вы можете просмотреть соответствую щий раздел в главе 3. Рис. 8.18. Диаграмма размаха для диагноза астмы и массы тела в фунтах Упражнения 241 Решение Вы должны очень заволноваться, увидев эту диаграмму, которая является хоро шим примером того, почему очень важно смотреть на данные. Во-первых, там есть три группы данных по диагнозу астмы, а не две; быстро просмотрев книгу кодов (также доступна здесь: http://www.cdc.gov/brfssl мы видим, что 7 - это пропу щенные значения, так что мы должны исключить эти случаи из нашего анализа. В обеих валидных группах (с и без диагноза астмы) есть выбросы; это те случаи, которые изображены в виде кружочков, а номер рядом с ними показывает номер строки с таким значением. Это поднимает вопрос о том, нормально ли распре делена масса тела, так что, перед тем как продолжить, мы это проверим. В итоге медианные массы тела для двух групп почти совпадают, что говорит о том, что эта переменная может оказаться не самой многообещающей, если нас интересует поиск факторов, сильно связанных с астмой. Тем не менее мы продолжим наш анализ, поскольку обнаружение отсутствия значимости также дает полезную ин формацию. Задача Мы создали гистограмму для массы тела и рассчитали статистику Колмого рова-Смирнова для этой переменной; гистограмма представлена на рис. 8.19, а статистика Колмогорова-Смирнова оказалась равно 1,898 (р = 0,001). В итоге что они говорят нам про распределение массы тела в данных? Рис. 8.19. Гистограмма массы тела в фунтах Глава 8. Введение в регрессию и дисперсионный анализ 242 Решение Гистограмма имеет положительную асимметрию (более высокие значения встречаются чаще, чем ожидается из нормального распределения); это ясно при сравнении распределения реальных данных (столбцы гистограммы) с наложен ной нормальной кривой (показывающей идеальное нормальное распределение). Статистика Колмогорова-Смирнова достоверна, то есть нам придется отвергнуть нулевую гипотезу о том, что эта переменная распределена нормально. Задача Мы взяли натуральный логарифм от массы тела и проверили нормальность еще раз; в этом случае гистограмма (не показана) выглядела приблизительно нормальной, а статистика Колмогорова-Смирнова была равна 0,961 (р = 0,314), подтверждая достаточную нормальность. Кроме того, мы рассчитали статистику Колмогорова-Смирнова для каждой группы отдельно; ни одна из них не была до стоверной, так что мы уверены, что распределения внутри групп также нормаль ные. Диаграммы размаха для преобразованных данных показаны на рис. 8.20; что они говорят нам о данных? да нет Когда-либо ставили диагноз астмы Рис. 8.20. Диаграмма размаха для преобразованных величин масс тела Решение В группе, получавшей диагноз астмы, все еще сохраняется группа выбросов, но, поскольку данные достаточно нормальные, мы продолжим наш анализ. Группа с диагностированной астмой имеет немного более высокую медиану, чем «здоро Упражнения 243 вая» группа, но обе группы значительно перекрываются. Мы продолжим прово дить дисперсионный анализ с этими данными. Задача Статистика Левина для этого анализа составляет <0,001 (р = 0,983). Зачем мы рассчитываем статистику Левина, и что нам говорит этот результат? Решение Статистика Левина проверяет, верно ли предположение об однородности дисперсии. Нулевая гипотеза состоит в том, что дисперсии разных групп од нородны; в данном случае мы не получили достоверного значения для этой статистики, так что мы можем считать предположение об однородности дис персии верным. Задача В табл. 8.11 даны некоторые описательные статистики для преобразованной массы тела в наших данных. Что вы можете заметить в этой таблице, и какие по следствия от этого будут для анализа? Таблица 8.11 . Описательная статистика для преобразованной массы тела для людей, получавших и не получавших диагноза астмы в течение жизни Станд. откл. Нижняя граница 9 5 % -го довери тельного интер вала Верхняя граница 9 5 % -го довери тельного интер вала Группа N Среднее Был поставлен диагноз астмы 44 5.19 0.24 5.12 5.27 Не был поставлен диагноз астмы 390 5.13 0.24 5.10 5.15 В целом 434 5.16 0.24 5.11 5.16 Решение Самое первое, на что стоит обратить внимание, - это то, что размеры групп сильно отличаются, что говорит о том, что наши данные не оптимальны для про ведения дисперсионного анализа (ANOVA лучше всего работает в случае сбалан сированных выборок). Второе - это то, что средние выборок достаточно сход ны, а 95%-ные доверительные интервалы сильно перекрываются, намекая на не слишком сильную взаимосвязь между постановкой диагноза астмы и массой тела. Все равно стоит закончить анализ; отрицательный результат тоже может оказаться полезным. Задача Результаты дисперсионного анализа приведены в табл. 8.12; что они говорят о связи между наличием диагноза астмы и массой тела? Используйте обычную a = 0,05 для проверки на достоверность. Глава 8. Введение в регрессию и дисперсионный анализ 244 Таблица 8.12. Результаты однофакторного дисперсионного анализа о связи диагноза астмы и массы тела Сумма квадратов М еж ду группами Средний квадрат df 456.04 2 228.30 Внутри групп 2483.76 42 59.14 В целом 2940.36 44 F 3.86 Значимость 0.029 Решение Этот анализ нашел достоверную связь (F= 3,86,р = 0,029) между наличием диаг ноза астмы и массой тела. В соответствии с табл. 8.11 люди, которые когда-либо получали диагноз астмы, в среднем имеют более высокую массу тела, чем те, у кого астму никогда не находили. \ Л \ j 'V ! 4л { Поскольку мы преобразовали массу тела в ее натуральный логарифм, наши средние (табл. 8.11) показывают натуральные логарифмы массы тела. Чтобы получить эти величины в более осмысленном виде, нам необходимо преобразовать их обратно в изначальные единицы (фунты). Мы можем сделать это с помощью взятия экспоненты от средних из табл. 8.11: е519 = 179,5; е513 = 169,0. Мы можем добавить эту информацию во второе предложение наших резуль татов, так что оно выглядит следующим образом: «Люди, которым когда-либо ставили диагноз астмы, имеют в среднем более высокую массу тела (сред нее = 179,6 фунта), чем те, которым никогда не ставили такого диагноза (сред нее = 169,0 фунта)». Преобразование обратно в изначальные величины также ука зывает на опасность, связанную с работой с преобразованными данными: разница, которая может выглядеть очень маленькой (5,19 и 5,13), может оказаться гораздо более внушительной в изначальных величинах (179,5 и 169,0). *.V' 0% I Поскольку данные системы наблюдения за поведенческими факторами риска собираются в один момент времени, невозможно ответить на вопрос о S \ причинно-следственной связи в отношении массы тела и ожирения. Возv можно, астма приводит к увеличению массы тела (например, уменьшая воз можности для тренировок), или же увеличенная масса тела может приво дить к астме (к примеру, из-за увеличения нагрузки на легкие). Также возможно, что есть какие-то еще дополнительные факторы, которые могут объяснить наблюдаемые взаимоотношения, например увеличенная масса тела и астма могут быть ассоциированы с нищетой. ГЛАВА 9. Многофакторный дисперсионный анализ и ковариационный анализ В главе 8 кратко обсуждались простая регрессия и дисперсионный анализ (ANOVA). В данной главе представлены более сложные варианты дисперсион ного анализа: многофакторный дисперсионный анализ (дисперсионный анализ с несколькими группирующими переменными, или факторами) и ковариационный анализ (модель дисперсионного анализа, включающая непрерывную переменную, или ковариату). В главе 10 обсуждаются подобные расширения для модели прос той регрессии. В большинстве исследований используются как минимум две группирующие пе ременные. Принципы таких моделей основаны на однофакторном дисперсионном анализе, но более сложная модель порождает дополнительные трудности: напри мер, измерение взаимодействий между факторами. Такие типы анализа почти всег да выполняются в компьютерных статистических пакетах. К счастью, все пакеты имеют много общего, поэтому, обучившись понимать результаты выдачи одного па кета, легко понять и результаты, полученные в другой программе. Мы представляем данные анализа в общем виде, насколько это возможно, чтобы читатель мог попять их вне зависимости от того, какой программой он пользуется сам. Многофакторный дисперсионный анализ Влияние единственного фактора относительно редко интересует современного исследователя. Напротив, гораздо чаще нам интересно влияние нескольких фак торов и, возможно, их взаимодействие. Многофакторные планы (дисперсионные анализы, включающие несколько факторов) дают возможность оценить совмест ный эффект, оказываемый несколькими факторами на зависимую переменную. Нас может интересовать как главный эффект - эффект каждого фактора самого по себе, так и эффект взаимодействия - эффект сочетаний факторов. Как и одно факторный дисперсионный анализ, многофакторный анализ лучше всего подхо 246 Глава 9. М ногофакторный дисперсионный анализ... дит для спланированных экспериментов и одинаковых размеров ячеек плана, то есть приблизительно одинакового числа объектов в каждой подгруппе или ячей ке, сформированной всевозможными сочетаниями факторов. Главные допущения для многофакторного дисперсионного анализа те же, что и для однофакторного (см. главу 8). Особенно важны независимость наблюдений и однородность дис персии. В основном статистические пакеты предоставляют статистические тесты на однородность дисперсии: например, тест Левина. Независимость наблюдений достигается на этапе планирования эксперимента. Самые обычные многофакторные планы: а * Ь (двухфакторный) и а * b * с (трехфакторный). Возможны и более сложные планы, но результаты их обработ ки становится очень сложно интерпретировать. Более высокие уровни сложности проще аппроксимировать моделью линейной регрессии. Как и в случае однофак торного дисперсионного анализа, каждый фактор является категориальной пере менной как минимум с двумя уровнями, а зависимая переменная - непрерывной переменной, измеренной в абсолютной или интервальной шкале. Взаимодействие При исследовании более одного фактора приходится решать вопрос взаимодейст вия факторов. По определению, взаимодействие - это зависимость эффекта од ной переменной от уровня другой переменной. Другими словами, эффект одной переменной зависит от величины другой переменной. Это проще понять, рассмат ривая графики предельных случаев взаимодействия и его отсутствия. Подобные графики редко получаются для реальных данных, но полезны в качестве иллюст рации. Рассмотрим некоторые гипотетические данные по отношениям силы сжатия руки (данные эксперимента, измеренные в фунтах на квадратный дюйм) и двух факторов: пола и употребления алкоголя. Если между факторами нет взаимодейст вия, то график с данными может выглядеть похоже на рис. 9.1. Этот график демонстрирует отсутствие взаимодействия между потреблением алкоголя и полом: сила сжатия (ось у ) уменьшается с ростом потребления алко голя (ось.л:) как для женщин, так и для мужчин. Скорость уменьшения одинакова для обоих полов, поэтому линии параллельны, и мужчины имеют силу сжатия сильнее при любом уровне потребления алкоголя. Рисунок 9.2 отражает данные с взаимодействием, потребление алкоголя влияет на силу сжатия по-разному для мужчин и для женщин. По сути, эффект противо положный: потребление алкоголя увеличивает силу сжатия для женщин и умень шает для мужчин. Линии не обязательно должны пересекаться при наличии взаимодействия: на рис. 9.3 показано взаимодействие, характеризуемое не параллельными, но расхо дящимися линиями; эффект алкоголя на силу сжатия больше для женщин, чем для мужчин. И на рис. 9.2, и на рис. 9.3 наблюдается зависимость эффекта алкоголя на силу сжатия от уровня или величины третьей переменной - пола; соотношения между Многофакторный дисперсионный анализ 247 алкоголем и силой сжатия различны для мужчин и женщин. Конечно, нельзя ска зать, является ли взаимодействие значимым, просто глядя на график; для этого требуется статистический тест. Потребление алкоголя Рис. 9.1. Данные без взаимодействия Потребление алкоголя Рис.9.2. Данные с взаимодействием 248 Глава 9. М ногофакторный дисперсионный анализ... Потребление алкоголя Рис. 9.3. Данные с взаимодействием Двухфакторный дисперсионный анализ Показатели работоспособности часто различаются внутри популяций, и умень шение силы сжатия, например, может коррелировать с некоторыми клинически ми характеристиками. Ваша исследовательская группа интересуется изучением того, как два фактора - пол и потребление алкоголя - соотносятся с силой сжатия и как эти факторы взаимодействуют. Перед вами три начальных вопроса иссле дования: 1. Влияет ли пол на силу сжатия? 2. Влияет ли потребление алкоголя на силу сжатия? 3. Влияет ли совместное действие пола и потребления алкоголя на силу сжа тия? Будем рассматривать потребление алкоголя как дихотомическую переменную, противопоставляя друг другу тех, кто употреблял алкоголь как минимум неделю, тем, кто не употреблял. Наши гипотезы могут быть формально записаны следующим образом: Главный эффект пола Н(): ист разницы в силе сжатия между мужчинами и женщинами. Н,: есть разница в силе сжатия между мужчинами и женщинами. Главный эффект алкоголя Н(): нет разницы в силе сжатия между пьющими и трезвенниками. Н,: есть разница в силе сжатия между пьющими и трезвенниками. Многофакторный дисперсионный анализ 249 Взаимодействие пола и алкоголя Н(): влияние потребления алкоголя на силу сжатия одинаковое для мужчин и женщин. Hj! влияние потребления алкоголя на силу сжатия разное для мужчин и женщин. В табл. 9.1 представлены выборочные данные для первых 12 случаев, получен ных в лаборатории по силе сжатия (всего п = 50). Силу сжатия измерили шести женщинам и шести мужчинам, в каждой гендерной группе было по три пьющих и три непьющих (определяемые по тому, выпивал ли человек как минимум неделю или же никогда не пил). Таблица 9.1 . Соотношения между силой сжатия (зависимая переменная) и полом и потреблением алкоголя (независимые переменные) Алкоголь Сила сжатия (фунт на квадратный дю йм) Женщина Да 19 Женщина Да 20 Женщина Да 21 Женщина Нет 30 Женщина Нет 25 Женщина Нет 28 Мужчина Да 31 Мужчина Да 30 Мужчина Да 35 Мужчина Нет 32 Мужчина Нет 35 Мужчина Нет 32 Пол Два главных эффекта тестируются по разности средних по выборке, основан ных на нулевых гипотезах: ц - и” женщины =0;7 ” мужчины U - ” алкоголь Lb = 0 . *огл алкоголя Обратите внимание, что нулевые гипотезы для главных эффектов сформули рованы в терминах оценок различий; утверждается, что две величины одинако вы - это то же самое, что их разность равна 0. Гипотезы взаимодействия обыч но выражаются в терминах разностей. В данном примере утверждение о том, что между женщинами и мужчинами нет разницы в том, как влияет алкоголь на силу сжатия, может быть выражено как: ^мужчнны/алкоголь ^мужчииы /белалкоголя ^ жечицииы/алкоголь ^ жпмшшы/бглалкоголя* Данное исследование было очень близко к сбалансированному: в нем прини мали участие 24 женщины и 26 мужчин, 24 пьющих и 26 трезвенников. Коэффи Глава 9. М ногофакторный дисперсионный анализ... 250 циент детерминации R2 для модели был 0,566, что означало объяснение двумя факторами и их взаимодействием 56,6% дисперсии силы сжатия, наблюдаемой в этой выборке данных. Тест Левина (F= 0,410,р = 0,746) показал, что допущение об однородности удовлетворено. Выборочные средние следующие: • Главный эффект пола: женщины (25,25), мужчины (31,65). • Главных эффект алкоголя: алкоголь (26,71), без алкоголя (30,31). Средние по полу и потреблению алкоголя представлены на рис. 9.4. Пол — женщины — (мужчины • женщины мужчины 32.5- зо.он • * * 27-5с; X О 25.0- 22.S1 нет 1 Да Алкоголь Рис. 9.4. График средних для эффектов пола и потребления алкоголя на силу сжатия Кажется, в данном случае присутствуют оба главных эффекта и эффект взаимо действия: в нашей выборке у мужчин большая сила сжатия, чем у женщин; у выпи вающих меньшая сила сжатия, чем у трезвенников; и эффект потребления алкоголя па силу сжатия больше для мужчин, чем для женщин. Чтобы понять, значимы ли различия статистически, требуется двухфакторный дисперсионный анализ. Некоторые статистические пакеты выдают множество таблиц, из которых толь ко отдельные особенно полезны. В данном случае нас интересует тест на статисти ческую значимость главных эффектов и эффект взаимодействия в модели. Клю чевые данные из дисперсионного анализа представлены в табл. 9.2. Таблица 9.2. Дисперсионный анализ различий силы сжатия (зависимая переменная) для пола и потребления алкоголя (независимые переменные) Величина Скорректированная модель Свободный член Сумма квадратов Средний квадрат df F Значимость 733.085 3 244.362 20.033 <0.001 40 426.436 1 40 426.436 3299.504 <0.001 I: Многофакторный дисперсионный анализ Величина Сумма квадратов Средний квадрат df F 251 Значимость Пол 504.806 1 504.806 41.385 <0.001 Алкоголь 148.325 1 148.325 12.160 0.001 80.769 1 80.769 6.622 0.013 561.095 46 12.198 Пол*алкоголь Ошибка Сумма Скорректированная сумма 42 135.000 50 1294.180 49 Используя уровень значимости а = 0,05 и рассматривая строки пол (главный эффект), алкоголь (главный эффект), пол*алкоголь (эффект взаимодействия), получаем, что все три эффекта значимы, как мы и предполагали из графиков сред них. Обзор результатов приведен ниже. В данном плане оба главных эффекта и взаимодействие значимы: Главный эффект пола: Т(1,46) = 41,385, р < 0,001. Направление эффекта показывает, что в целом женщины имеют более низ кую силу сжатия, чем мужчины. Главный эффект алкоголя: F(l,46) = 12,160, р = 0,001. Направление эффекта показывает, что в целом те, кто потребляет алкоголь, имеют более низкую силу сжатия, чем те, кто не выпивает. Взаимодействие пол х алкоголь: F( 1,46) = 6,622, р = 0,013. Взаимодействие показывает, что и пол и алкоголь действуют совместно, причем потребление алкоголя ассоциировано с большим снижением силы сжатия у женщин сравнительно с мужчинами. Обратите внимание, что стоит остерегаться утверждений, содержащих причин но-следственные связи («потребление алкоголя ухудшает силу сжатия»), так как данное исследование - всего лишь наблюдение: мы спрашиваем у людей, выпи вают ли они, и измеряем их силу сжатия, но не назначаем им алкоголь и не фик сируем после изменения в силе сжатия. Связь между потреблением алкоголя и силой сжатия может объясняться множеством факторов. Например, возможно, что спортсмены воздерживаются от употребления алкоголя, согласно правилам тренировки, и также имеют увеличенную силу сжатия из-за своих тренировок. Трехфакторный дисперсионный анализ Двухфакторная модель может быть легко расширена до трех факторов. Вы пока зали значимость главных эффектов пола и потребления алкоголя на силу сжатия, но теперь ваша группа обнаружила другие факторы, которые могут влиять на силу сжатия. В литературе часто обсуждается влияние возраста на силу сжатия, причем отмечается снижение силы сжатия после 40 лет. Вы решаете добавить еще одну категорию возраста (до 40 лет или за 40), для того чтобы определить, влияет ли возраст и так ли сильно, как другие факторы. Таблица 9.3 демонстрирует первые 12 случаев в данном исследовании. 252 Глава 9. М ногофакторный дисперсионный анализ... Отношения между силой сжатия (зависимая переменная) и полом, потреблением алкоголя и возрастом (независимые переменные) Таблица 9 .3 . Пол Алкоголь Сила сжатия (фунт на квадратный дюйм) Возраст Женщина Да 19 Моложе 40 Женщина Да 20 Старше 40 Женщина Да 21 Моложе 40 Женщина Нет 30 Старше 40 Женщина Нет 25 Моложе 40 Женщина Нет 28 Старше 40 Мужчина Да 31 Моложе 40 Мужчина Да 30 Старше 40 Мужчина Да 35 Моложе 40 Мужчина Нет 32 Старше 40 Мужчина Нет 35 Моложе 40 Мужчина Нет 32 Старше 40 Тестируемая гипотеза становится более сложной с тремя факторами, потому что потенциально имеются семь гипотез: главные эффекты пола, алкоголя и возрас та; двухфакторные взаимодействия пол*алкоголь, пол*возраст, алкоголь*возраст; трехфакторное взаимодействие пол*алкоголь*возраст. Выше была приведена формализация двухфакторного взаимодействия. Для трехмерного взаимодейст вия тестируемая нулевая гипотеза может быть определена как «различие во влия нии потребления алкоголя на силу сжатия между мужчинами и женщинами оди наково в двух возрастных категориях». Чтобы получить график средних с тремя факторами, как ни странно, требуется построить две зависимости: для объектов моложе 40 и для объектов старше 40. График средних изображен на рис. 9.5. Из графика средних можно предположить, что возраст будет являться важным фактором для прояснения интересующих отношений, так как он, оказывается, взаимодействует и с полом, и с потреблением алкоголя. Ключевые результаты представлены в табл. 9.4. Мы будем использовать а = 0,05 для измерения значи мости эффектов в этой модели. Дисперсионный анализ различий в силе сжатия для пола, потребления алкоголя и возраста Таблица 9 .4 . Величина Сумма квадратов Средний квадрат df F Значимость 864.583 7 23.512 2.075 <0.001 35 902.885 1 35 902.885 3510.081 <0.001 Пол 548.630 1 548.630 53.637 <0.001 Алкоголь 128.214 1 128.214 12.535 0.001 Скорректированная модель Свободный член Многофакторный дисперсионный анализ Величина Возраст Сумма квадратов 0.003 253 Средний квадрат df 1 0.003 Значимость F 0.000 0.986 Пол*алкоголь 33.446 1 33.446 2.370 0.078 Пол*возраст 75.758 1 75.758 7.407 0.009 0.226 1 0.226 0.022 0.883 49.491 1 49.491 4.839 0.033 429.597 42 10.229 Алкоголь*возраст Пол*алкоголь*возраст Ошибка Сумма Скорректированная сумма 42 135.000 50 1294.180 49 Пол женщины мужчины Рис. 9.5. График средних для трехфакторного дисперсионного анализа Два из трех главных эффектов в модели значимы: Главный эффект пола: F(l,42) = 53,637,р < 0,001. Направление эффекта показывает, что в целом у женщин сила сжатия меньше, чем у мужчин. Главный эффект алкоголя: F( 1,42) = 12,535, р = 0,001. Направление эффекта показывает, что в целом у выпивающих сила сжатия меньше, чем у трезвенников. Главный эффект возраста: F(l,42) = 0,000, р = 0,986 (незначимый). 254 Глава 9. М ногофакторный дисперсионный анализ... Одно из двухфакторных взаимодействий важно: Взаимодействие пол х алкоголь: F( 1,42) = 2,370, р = 0,078 (незначимый). Взаимодействие пол х возраст: F( 1,42) = 7,407, р = 0,009. Различие в силе сжатия для пьющих и непьющих у мужчин заметно зави сит от возрастной группы, в то время как у женщин зависимость несильно меняется. Сила сжатия для мужчин возраста 40 и старше почти не зависит от того, принимают ли они алкоголь; для мужчин младше 40 употребление алкоголя связано со снижением в силе сжатия. Снижение силы сжатия при употреблении алкоголя больше для женщин в возрасте от 40 и старше, по сравнению с более молодыми женщинами, но это различие между возраст ными категориями не так велико, как у мужчин. Взаимодействие алкоголь х возраст: F{ 1,42) = 0,022, р = 0,883 (незначимо). Трехфакторное взаимодействие значимо: Взаимодействие пол * алкоголь х возраст: F( 1,42) = 4,893, р = 0,033. Эти результаты интересны тем, что хотя главный эффект возраста не значим, одно включающее возраст двухфакторное взаимодействие значимо (пол*возраст), так же как и трехмерное пол*алкоголь*возраст. Еще интересно, что взаимодейст вие пол*алкоголь не значимо в трехфакторной модели, но было значимо в двух факторной. Это демонстрирует идею, применимую и к регрессии: при добавле нии или удалении элементов модели значимость других переменных будет тоже меняться. При представлении результатов сложной модели всегда необходимо уточнять, какая именно модель была протестирована, так как предикторы часто взаимодействуют друг с другом; возможно, что при другом варианте анализа воз раст будет значимым предиктором силы сжатия. Хотя возраст и не имеет значимого главного эффекта в данной модели, требу ется оставить его в анализе, потому что обычно включается любая переменная, значимая во взаимодействии, так же как и в главном эффекте. Результаты данного анализа одновременно достаточно интересные и интригующие, чтобы обосновать необходимость дальнейших исследований. Еще одна возможность, которая может оказаться полезной, - переключиться на уравнение регрессии и включить возраст как непрерывный предиктор (использовать возраст в годах как предиктор, вместо того чтобы разбивать его на категории моложе/старше 40). Другая возможность то, что двух категорий возраста недостаточно, и, возможно, 40 - не лучшая линия разделения; это можно также исследовать в будущем. ANCOVA Ковариационный анализ (ANCOVA)1- это разновидность многофакторного диспер сионного анализа, которая позволяет включать в модель непрерывную ковариату. Наиболее часто эту модель используют для контроля возможного эффекта ковариаты. Например, возможно, вас интересуют заработки выпускников колледжей в заI От иигл. ANalysis o f COvariance and VAriation. — Прим. пер. ANCOVA 255 висимости от их области знаний (естественные науки, гуманитарные науки, бизнес и т. п.). Можно рассмотреть модель дисперсионного анализа (ANOVA) с зависимой величиной - заработной платой, - и категориальным фактором - областью знаний. Однако если ваши данные включают не только недавних выпускников, но и людей, работающих в данной сфере разное время, вы обнаружите, что это может влиять на заработную плату, так как в целом заработок увеличивается с возрастом и/или с ко личеством лет работы в данной области. Время работы или возраст можно контро лировать добавлением одной из этих переменных в качестве непрерывной ковариаты в план дисперсионного анализа, таким образом получив план ковариационного анализа. При ковариационном анализе можно пользоваться несколькими ковариатами. Хотя добавление потенциально вмешивающихся факторов как ковариат для контроля - не самое лучшее решение, это правильнее, чем просто их игнорировать. Вот один из способов рассуждать о таком использовании ковариационного анализа: контролируя эффект непрерывной ковариаты (или ковариат), вы проверяете отно шения между фактором и непрерывным результатом, считая значение ковариаты одинаковым во всех случаях. На примере области исследований и зарплаты, исполь зуя возраст как непрерывную ковариату, вы проверяете, в каком отношении были бы два фактора, если все объекты исследования были бы одинакового возраста. Другой типичный пример использования ковариационного анализа - умень шение остаточной или ошибочной дисперсии в плане. Мы уже знаем, что одной из целей статистического моделирования является объяснение дисперсии в вы борке данных; что модели, объясняющие больше дисперсии и имеющие меньшую остаточную дисперсию, в основном предпочтительнее, чем те, которые объясняют меньше. Если получается снизить остаточную дисперсию включением одной или более непрерывных ковариат в план, то обнаружить отношения между интересую щими факторами и зависимой величиной может быть проще. Для ковариационного анализа используются те же допущения, что и для ANOVA, за исключением двух дополнительных: Подходящие данные Результирующая переменная и ковариаты должны быть непрерывными, измеренными в интервальной или характеризующей отношения шкале, иметь неограниченные или хотя бы колеблющиеся в широком диапазоне значения; факторы (группирующие переменные) должны быть дихотоми ческими или категориальными. Это допущение проверяется проверкой данных с помощью частотных таблиц, гистограмм и так далее. Независимость Каждое значение результирующей переменной должно быть независимым от других значений. Например, это условие может нарушаться, если при сутствовала некоторая временная зависимость наблюдений, или измере ния проводили у объектов, объединенных в большие группы (члены одной семьи или одноклассники) таким образом, что они влияли на зависимую переменную. Это допущение контролируется знанием данных и тем, как они были собраны. 256 Глава 9. М ногофакторный дисперсионный анализ... Распределение Результирующая переменная должна иметь приблизительно нормальное распределение внутри каждой группы. Распределение результирующей переменной может быть проверено с помощью гистограммы (пристальным изучением, просмотром данных) или с помощью статистического теста на нормальность, такого как тест Колмогорова-Смирнова. Однородность дисперсии Дисперсия внутри каждой группы должна быть приблизительно одинако вой. Это проверяется такой процедурой, как статистика Левина; нулевая гипотеза такая, что дисперсия однородна, так что если результаты статис тики Левина не значимы (обычно критерий а < 0,05), то это означает, что дисперсии достаточно однородны для дальнейшей обработки. Независимость ковариат и эффектов факторов Дисперсия, объясненная ковариатой, должна быть специфичной и не пе рекрываться с дисперсиями, объясненными факторами. Это чаще всего является проблемой исследований, в которых не используется случайный выбор; если две группы различаются по ковариате и это объясняет неко торую дисперсию результирующей переменной, то невозможно отделить дисперсию, объясненную фактором, от объясненной ковариатами. Если случайный выбор невозможен, лучшим подходом будет определить, меня ются ли значимо уровни ковариаты среди остальных групп; если это так, не используйте ковариату. Играет роль также здравый смысл: можно ли представить такой разумный случай, чтобы объясненная данной ковариа той дисперсия объясняла определенную долю дисперсии результирующей величины? Если нельзя, то не используйте ковариату. Однородность регрессионных наклонов Отношения между ковариатой и зависимой величиной должны быть оди наковыми для всех групп. Это можно проверить с помощью создания и нанесения на график регрессионных линий для ковариаты и зависимой ве личины отдельно для каждой группы и с помощью вычисления эффектов взаимодействия и их тестирования на значимость. Регрессионные линии должны быть аппроксимированы параллельными прямыми; их наклоны должны быть приблизительно одинаковыми. Эффект взаимодействия не должен быть значимым. Продолжая рассматривать пример с силой сжатия, исследовательская группа озаботилась тем, что в модели не учтена важная переменная: тренировались ли исследуемые. Интуитивно понятно, что работа может улучшить силу сжатия, по этому они решили добавить еще одну переменную в модель: минуты в неделю, потраченные испытуемым на физическую активность. Это - непрерывная вели чина с широким диапазоном, так что она может быть добавлена как непрерывная ковариата к полу и потреблению алкоголя (независимые переменные) и силе сжа тия (зависимая переменная). 257 ANCOVA Первое допущение, которое требуется проверить: объясняет ли новая ковариата специфичную дисперсию (допущение 5). Мы можем представить разумный слу чай, когда время, проведенное за упражнениями, может объяснить специфичную дисперсию для силы сжатия. И мы можем вычислить средние ковариат в группах: если эти средние не различаются значимо, мы продолжим анализ. В целях демонст рации мы вернемся к двухфакторной модели с факторами пола и потребления ал коголя, добавив в качестве ковариаты интенсивность упражнений, измеренных как продолжительность упражнений в минутах в неделю. Мы используем однофакторный дисперсионный анализ (аналогично использо ванию £-теста) для средних величин длительности упражнений в минутах для каж дого пола и потребления алкоголя; главные результаты представлены в табл. 9.5. Как можно видеть, хотя средние длительности занятий в неделю различаются между мужчинами и женщинами, они не значимы на уровне а = 0,05 при сравне нии потребляющих и не потребляющих алкоголь. Результаты однофакторных дисперсионных анализов длительности упражнений в неделю по факторам пола и потребления алкоголя Таблица 9 .5 . Переменная Пол Подгруппа Среднее Мужчины 100.74 Женщины Потребление алкоголя F Значимость 1.069 0.306 3.209 0.080 87.64 Да 106.01 Нет 83.78 Также нам необходимо проверить однородность регрессионных наклонов (допуще ние 6). Как и в случае оценки нормальности, мы протестируем это допущение и гра фически, и статистически. Для графического теста построим диаграммы рассеяния с регрессионными линиями для соотношения между силой сжатия (результат) и упраж нениями (ковариата) для мужчин и женщин, а также для употребляющих алкоголь и трезвенников. Для каждой пары групп наклоны должны быть приблизительно оди наковыми. Диаграммы рассеяния и регрессионные линии для пола представлены на рис. 9.6, а для употребления алкоголя - на рис. 9.7. На обоих графиках нет ничего подозрительного; углы наклонов оказались при близительно одинаковыми; это хорошие новости для допущения однородности наклонов. Проведем также статистический тест этого допущения с помощью со ставления модели, включающей эффект взаимодействия ковариаты и фактора. (Составим отдельные модели для каждого фактора.) Если этот эффект окажется незначимым, мы допустим однородность наклонов для этих данных. Результаты анализа представлены в табл. 9.6 и 9.7. Стоит заметить, что единственная причина использования этих моделей - про верка значимости эффекта взаимодействия; мы не проверяем теорию, так что нам не важно, подходит ли модель, значимы ли другие эффекты и тому подобное. Как можно видеть в табл. 9.6 и 9.7, ни один из эффектов взаимодействия не значим; для взаимодействия пол*упражненияp -значение равно 0,702, для взаимодействия алкоголь*упражненияр-значение составляет 0,939. Эти результаты говорят о том, 258 Глава 9. М ногофакторный дисперсионный анализ... что, используя уровень значимости = 0,05, допущение об однородности углов на клона верно в данном анализе (для данной выборки), так что можно продолжить ковариационный анализ. Рис. 9.6. Отношения между длительностью упражнений в неделю в минутах и силой сжатия для мужчин и женщин Рис. 9.7. Отношения между длительностью упражнений в неделю в минутах для потребляющих и не потребляющих алкоголь ANCOVA 259 Таблица 9.6. Тестирование допущения об однородности наклонов для пола и упражнений Величина Скорректированная модель Свободный член Сумма квадратов Средний квадрат df F Значимость 560.053 3 186.684 11.698 <0.001 7807.479 489.212 <0.001 7807.479 1 Пол 69.358 1 69.358 4.346 0.043 Упражнения 40.686 1 40.686 2.549 0.117 0.148 0.702 Пол*упражнения Ошибка Сумма Скорректированная сумма 2.363 1 2.363 734.127 46 15.959 42 135.000 50 1294.180 49 Таблица 9.7. Тестирование допущения об однородности для алкоголя и упражнений Величина Скорректированная модель Свободный член Алкоголь Упражнения Алкоголь ‘ упражнения Ошибка Сумма Скорректированная сумма Сумма квадратов Средний квадрат df F Значимость 161.863 3 53.954 2.192 0.012 6619.891 1 6619.891 268.931 <0.001 29.800 1 29.800 1.211 0.277 0.019 1 0.019 0.001 0.978 0.006 0.939 0.146 1 0.146 1132.317 46 24.616 42 135.000 50 1294.180 49 Тест Левина для ковариационного анализа силы сжатия, включающего фак тор потребления алкоголя, пол и ковариату упражнений, имеет значение 0,292 (р = 0,381); этот результат не значимый, так что допущение о равных дисперси ях принимается. R1 для этой модели равно 0,576, то есть эти факторы объясняют 57,6% всей дисперсии силы сжатия в данных. Это небольшое улучшение R1 = 0,566 для двухфакторного дисперсионного анализа (факторы = пол, алкоголь), обсуж денного ранее в этой главе. Результаты ANCOVA представлены в табл. 9.8. Таблица 9.8. Ковариационный анализ силы сжатия с факторами пол и потребление алкоголя и ковариатой длительность упражнений в минутах в неделю Величина Скорректированная модель Свободный член Упражнения Сумма квадратов Средний квадрат df F Значимость 745.596 4 186.399 15.290 <0.001 7289.554 1 7289.554 597.957 <0.001 12.511 1 12.511 1.026 0.316 260 Величина Глава 9. М ногофакторный дисперсионный анализ... Сумма квадратов Средний квадрат df F Значимость Пол 517.299 1 517.299 42.434 <0.001 Алкоголь 117.498 1 117.498 9.638 0.003 78.573 1 78.573 6.445 0.015 548.584 45 12.191 Пол*алкоголь Ошибка Сумма Скорректированная сумма 42 135.000 50 1294.180 49 Оба фактора и их взаимодействия значимы, а ковариата - нет: • для пола F(l,45) = 42,434,р = <0,001; • для алкоголя F(l,45) = 9,638, р = 0,003; • для пол*алкоголь F(l,45) = 6.445,р = 0,015; • для упражнений F(l,45) = 1,026,р = 0,316 (не значимо). Так как мы не улучшили качество модели добавлением ковариаты, можно про верить, есть ли лучший способ измерить упражнения. Возможно, важен тип заня тий: у тех, кто занимается тяжелой атлетикой, сила сжатия наверняка будет улуч шена, по сравнению с теми, кто бегает большие дистанции, например. Возможно, упражнения лучше регистрировать в виде дихотомической или категориальной переменной; может быть, различие между теми, кто занимается и вообще не зани мается, важнее, чем время, уделяемое упражнениям (в этом случае упражнения будут скорее фактором, чем ковариатой). Это демонстрирует, почему любой ис следовательский проект обычно представляет собой иепрекращающуюся работу: вы начинаете с какой-то идеи, проверяете её, улучшаете идею и тестируете снова. Намыливаете, смываете и повторяете, как говорится в мире рекламы - не ожидай те получить наилучшую модель с первого раза. Упражнения Задача Вы планируете провести двухфакторный дисперсионный анализ; как часть про цесса вы проводите тест Левина, который дает р-значение = 0,045. Что это означа ет для вашего анализа? Решение Тест Левина является тестом на однородность при дисперсионном анализе: проверкой того, что в каждой группе приблизительно одинаковые дисперсии. Нулевая гипотеза состоит в том, что дисперсии равные, так что если тест Левина не значим, допущение о равенстве дисперсий принимается, ANOVA можно про должить. В данном случае, используя стандартный уровень значимость a = 0,05, тест Левина значим, то есть допущение об однородности нужно отвергнуть, ANOVA продолжать нельзя без изменения входных данных или иного решения проблемы. Упражнения 261 Задача Вы работаете с двухфакторным дисперсионным анализом; один из ваших фак торов имеет два, другой - три уровня. В ходе анализа данных вы строите график средних, изображенный на рис. 9.8. Интерпретируйте график и его значение для статистического анализа. О ц е н к а пределов средних зависимой переменной фактор 2 — 1.00 2.00 Рис. 9.8. График средних для дисперсионного анализа Решение Взаимодействие между факторами возможно. В целом уровни 1 и 3 фактора 1 ассоциированы с низкими результатами, а уровень 2 фактора 1 - с высокими. Тем не менее этот эффект больше для случаев с уровнем 1 фактора 2, так что, возмож но, эффект фактора 1 частично зависит от уровня фактора 2. Задача В табл. 9.9 представлены результаты двухфакторного дисперсионного анализа, график средних которого был рассмотрен в предыдущей задаче. Какие выводы о взаимодействии факторов и результирующей величине можно сделать при одно временном рассмотрении таблицы и графика средних? Используйте уровень зна чимости а = 0,05. 262 Глава 9. М ногофакторный дисперсионный анализ... Таблица 9.9. Дисперсионный анализ с двумя факторами Величина Скорректированная модель Сумма квадратов Средний квадрат df F Значимость 145.392 5 29.078 0.172 0.971 198 801.665 1 298 801.665 1766.133 0.000 Фактор 1 103.782 2 51.891 0.307 0.739 Ф актор 2 17.849 1 17.849 0.105 0.748 Ф актор 1 *фактор 2 23.762 2 11.881 0.070 0.932 4060.418 24 169.184 303 007.475 30 4205.810 29 Свободный член Ошибка Сумма Скорректированная сумма Решение Ни факторы, ии их взаимодействия не соотносятся значимо с зависимой пере менной. Результаты следующие: Фактор 1: F(2,24) = 0,307, р = 0,739 (незначимый); Фактор 2: F(l,24) = 0,105,р = 0,748 (незначимый); Фактор 1*Фактор 2: F(2,24) = 0,070, р = 0,932 (незначимый). Это иллюстрирует тот факт, что не каждый анализ дает значимый результат и что не следует увлекаться рассмотрением графиков средних. В данном случае, судя по графику средних, можно предположить наличие взаимодействия в данных, но дисперсионный анализ дает понять, что и главные эффекты каждого фактора, и их взаимодействия незначимо отличаются от 0. Для исследовательской команды это означает, что пора начинать всё с чистого листа. R1 данной модели 0,035, то есть модель объясняет менее 4% дисперсии зависимой переменной. Задача Вы планируете ковариационный анализ с одной непрерывной ковариатой и с одним фактором с тремя уровнями. На стадии проверки допущений ковариаци онного анализа вы строите графики (рис. 9.9). Что отражают эти графики, какое допущение проверяют, и что можно заключить, глядя на них? Решение Это диаграммы рассеяния с проведенными регрессионными линиями для ре зультирующей переменной (ось у) и ковариаты (ось х); каждый уровень фактора представлен на отдельном графике. Такой тип графиков используют для проверки допущения однородности наклонов. Это свидетельствует в пользу схожести отно шений между ковариатой и результирующей величиной для всех уровней фактора. Если это так, то наклоны регрессионной линии для ковариаты и результирующей величины должны быть приблизительно одинаковыми для всех уровней фактора. Упражнения 263 В данном случае наклон для уровня 2 более крутой, чем для уровней 1 и 3, но без статистического тестестирования трудно говорить о значимости различий. 1 3 0 .0 0 120 .00 110 . 00 100 . 0 0 9 0 .0 0 8 0 .0 0 7 0 .0 0 1 3 0 .0 0 1 2 0 .00 “ о5 110.00g 100.009 0 .0 0 6 0 .0 0 7 0 .0 0 1 3 0 .0 0 120 . 00 110 . 00 - юо.оо9 0 .0 0 8 0 .0 0 7 0 .0 0 - Рис. 9.9. Графики, проверяющие допущение ковариационного анализа Задача Для продолжения проверки допущения ковариационного анализа, описанного в предыдущей задаче, вы осуществили анализ, который дал результаты, приведен ные в табл. 9.10. Используйте уровень значимости а = 0,05. Таблица 9.10. Результаты теста допущения ковариационного анализа Величина Скорректированная модель Свободный член Фактор Ковариата Ф актор*ковариата Ошибка Сумма Скорректированная сумма Сумма квадратов Средний квадрат df F Значимость 742.689 5 148.538 1.029 0.453 19 233.663 1 19 233.663 133.292 0.000 93.367 2 46.683 0.324 0.727 487.758 1 487.758 3.380 0.078 0.450 0.643 129.749 2 64.875 3463.121 24 144.297 303 007.475 30 4205.810 29 Глава 9. М ногофакторный дисперсионный анализ... 264 Решение Это статистический тест на однородность наклонов; если наклоны однородны, эффект взаимодействия фактор*ковариата должен быть незначимым. В данных результатах эффект взаимодействия незначим (F= 0,450, р = 0,643), так что разли чие наклонов незначимое, ковариационный анализ можно продолжать. Задача Продолжая решение проблемы предсказания силы сжатия, которая обсуждает ся на протяжении всей главы, исследовательская команда решила, что тренировка силы может быть лучшим предиктором силы сжатия, чем упражнения в целом. К двухфакторной модели с дихотомическими факторами пол (мужчина/женщнна) и потребление алкоголя (да/нет) они добавили непрерывную ковариату: минуты в неделю, потраченные на тренировку силы. После проверки допущений ковариационного анализа они протестировали модель и получили результаты, приведенные в табл. 9.11. Л2для этого ковариационного анализа 0,628. Интерпре тируйте результаты табл. 9.11 и сравните с результатами в табл. 9.8. Таблица 9 .1 1 . Ковариационный анализ силы сжатия с факторами пол и потребление алкоголя и ковариатой длительность упражнений в минутах в неделю Сумма квадратов Величина Скорректированная модель Средний квадрат df F Значимость 813.327 4 203.332 19.029 <0.001 6622.003 1 6622.003 619.711 <0.001 80.242 1 80.242 7.509 0.009 388.763 1 388.763 36.382 <0.001 Алкоголь 63.086 1 63.086 5.904 0.019 Пол*алкоголь 34.597 1 34.597 3.238 0.079 480.853 45 10.686 Свободный член Тренировка силы Пол Ошибка Сумма Скорректированная сумма 42 135.000 50 1294.180 49 Решение Данная модель объясняет больше дисперсии (62,8%), чем модель, включающая упражнения в качестве ковариаты (57,6%). В данной модели оба фактора и ковариата значимо соотносятся с результатом, силой сжатия; взаимодействия факто ров не значимы. Основные результаты следующие: для для для для пола F(l, 45) = 36,382,р = <0,001; алкоголя F( 1, 45) = 5,094, р = 0,019; пол*алкоголь F(l, 45) = 3,238,р = 0,079 (незначимый); тренировок силы F( 1, 45) = 7,509, р = 0,009. ГЛАВА 10. Множественная линейная регрессия В главе 8 была представлена простая линейная регрессия, в которой одна незави симая переменная использовалась для предсказания, или объяснения, значений зависимой переменной. Эта модель полезна для ознакомления с принципами ли нейной регрессии, но в реальности простая регрессия используется редко. Гораздо шире распространена множественная линейная регрессия, в которой две или более независимых переменных связаны с одной зависимой переменной. Множествен ная регрессия является обычным исследовательским методом, который использу ется во многих областях, включая естественные и социальные науки, медицину и образование. Одна из привлекательных сторон множественной регрессии - гиб кость; переменные предикторов могут быть непрерывными, категориальными или дихотомическими, при этом в одном уравнении возможно использование любой комбинации типов. При использовании категориальной переменной она должна быть переведена в набор дихотомических фиктивных переменных. Этот метод тоже будет освещен в данной главе. При увеличении сложности множественных независимых переменных требуется выполнение дополнительных допущений, и они также обсуждаются в данной главе. И наконец, методы построения моделей с множественными предикторами полезны для получения наилучшей модели в конкретном случае; эти методы тоже обсуждаются в данной главе. Модели множественной регрессии Исследование моделей простой линейной регрессии, коэффициента двумерной регрессии и его квадрата (коэффициента детерминации) используются для введе ния в общие понятия регрессионного анализа; в реальности на работу с уравнения ми регрессии с двумя переменными тратят время только в некоторых областях исследований. Рассмотрим модели предсказания изменений климата, такие как глобальные климатические модели1 и даже более сложные атмосферно-океани ческие модели общей циркуляции (М О Ц )2. Эти модели были разработаны за 1 General Circulation Models (GCM s). - Прим. пер. 2 Atmosphere-Ocean General Circulation Models (AOGCM). - Прим. пер. 266 Глава 10. Множественная линейная регрессия последние 30 лет для увеличения точности предсказания погодных закономер ностей. В этих моделях учитываются и оцениваются возможные соотношения между сотнями и тысячами самых разных переменных. Например, в середине 70х модели были сосредоточены на переменных состояния атмосферы, тогда как в ближайшем будущем будут доступны модели, основанные на данных об атмос фере вместе с информацией о поверхности земли, океаническом и морском льде, наличии сульфатных и несульфатных аэрозолей, геохимическом цикле углерода, динамике растительности и химии атмосферы. При объединении этих дополни тельных источников изменчивости в крупномасштабную статистическую модель стало возможным предсказание качественно разных типов погодной активности в разных пространственных и временных масштабах. В данной главе мы будем работать с множественной регрессией в гораздо мень шем масштабе. В реальности это вполне естественно. На самом деле полезная рег рессионная модель может быть построена с использованием относительно малого числа переменных-предикторов (скажем, от 2 до 10), несмотря на то что при по строении моделей люди, возможно, рассматривают гораздо больше предикторов перед выбором тех, которые останутся в конечной модели. Существует много спо собов построения регрессионной модели и много целей; нет одного наилучшего способа построения, но возможен лучший способ построения данной модели для данной цели. В этой главе будет предложен общий совет, поэтому вам придется самостоятельно разбираться с тем, что принято и ожидается в вашей профессио нальной сфере. Вот простой пример: регрессионная модель может быть построена по принципу парсимонии (включение относительно малого числа переменных, каждая из которых объясняет большую долю дисперсии) или по принципу объяс нения максимального количества дисперсии (скорее всего, в этом случае модель будет включать больше переменных, из которых каждая будет объяснять некото рую дополнительную небольшую долю дисперсии). Ни один из подходов не явля ется лучшим при любых обстоятельствах, так что лучше всего заранее знать, что ожидается в вашей области исследования или работы. В разных областях знаний различается степень того, насколько теоретическая обоснованность и трактовка моделей управляет работой статистиков. В научном сообществе теоретическое объяснение ценится высоко, и построение модели по одной частной выборке не одобряется. Однако в деловом мире построение мо делей автоматизированными методами (например, методы с включением или исключением переменных, обсуждаемые дальше в этой главе) может быть пол ностью приемлемым. При обсуждении я больше склоняюсь к теоретическому подходу, так как провела большую часть карьеры в научном мире. Тем не менее существуют особые ситуации, в которых может потребоваться и более практи ческий подход. Повторюсь, суть состоит в осознании традиций и ожиданий ста тистического анализа в конкретно вашей сфере деятельности, а также того, что и почему вы делаете. При регрессионном моделировании важны два основных принципа. Во-первых, каждая включенная в модель переменная должна иметь свой собственный вес, то есть она должна объяснять уникальную дисперсию результирующей переменной. Модели множественной регрессии 267 Очень часто применяется такое правило, что каждая переменная должна объяснять статистически значимое количество дисперсии. На самом деле регрессионную модель нельзя сделать хуже (уменьшить объясненную дисперсию) добавлением новой переменной, но даже модели, построенные по принципу максимизации объ ясненной дисперсии в целом, имеют некоторые правила определения, достаточно ли данная переменная улучшает модель и может ли она быть сохранена в модели. Во-вторых, при работе с множественными предикторами нужно ожидать, что не которые из них обычно коррелируют как с зависимой переменной, так и друг с другом; из этого следует, что добавление или удаление предиктора, скорее всего, поменяет коэффициенты при всех переменных в модели. Это очень важно при интерпретации результатов: не достаточно утверждать, что переменная А - незна чимый предиктор результирующей Е, придется сказать, что переменная А - незна чимый предиктор Е в модели, включающей переменные В} С и D. Формально модели множественной линейной регрессии имеют вид: У - р 0+ Р1Х 1+ Р2Х2+...+ Р Я + е. где У-зависимая переменная, Р() - константа, X v X v ... Х п - независимые перемен ные, р0, р г ... Ри - коэффициенты, а е - остаточный член или ошибка модели. То же самое было описано в главе 8, тем не менее, основные моменты стоит рассмотреть сейчас. Зависимая переменная (У) и независимые переменные ( X VX T ... Х п) - дан ные наблюдений, а константа (р 0) и коэффициенты (Р0, Рг ... р/;) - значения, вы числяемые алгоритмом линейной регрессии так, чтобы минимизировать остаток или ошибку (е) в модели. Для данного случая (i) предсказание величины У вы числяется с помощью умножения данных наблюдаемых величин ( X v Х 2 и т. д.) на соответствующие коэффициенты (р ,, Р2и т. д.) и добавлением р(). Разность между наблюдаемой величиной У. и предсказанной величиной У - ошибка предсказания, или остаток е. для данного случая. Коэффициенты определяются так, чтобы сумма квадратов остатков была минимальна. (Остатки должны быть возведены в квад рат, потому что некоторые из них положительны, некоторые - отрицательны и в сумме дают 0, если их не возводить в квадрат.) Допущения простой регрессии (обсужденные в главе 8) также имеют место и для множественной регрессии. Кроме того, при использовании более одного предиктора приходится волноваться о мультиколлинеарности. Это означает, что ни один из предикторов не должен сильно коррелировать с каким-либо дру гим. В частности, ни одна из предикторных переменных не должна быть линей ной комбинацией других; иными словами, нельзя включать в качестве предик торов переменные Л, Б и Л+В в одну модель. Можете смеяться, но это очень легко - составить новую переменную и забыть убрать её компоненты из спис ка предикторов. Сильно скоррелированные предикторные переменные обычно объясняют одинаковую дисперсию результирующей переменной, что скрывает от нас отношения отдельных переменных с результирующей. К тому же моде ли, содержащие сильно скоррелированные предикторы, обычно нестабильны, то есть добавление или удаление одной переменной из модели может кардинально поменять коэффициенты и значимость остальных предикторов. (Мы ожидаем 268 Глава 10. Множественная линейная регрессия не значительное, а малое изменение при добавлении или удалении переменной.) К счастью, большинство статистических пакетов имеют встроенные функции проверки мультиколлинеарности в моделях регрессии, и её наличие можно оце нить после построения модели. Мы будем строить модель регрессии для предсказания подростковой рождае мости (числа родов для девушек в возрасте от 15 до 19 лет на 1000 человек) по набору других демографических переменных. Мы будем использовать данные программы развития ООН *. Вы можете скачать эти данные здесь: http://hdr.undp. org/en/statistics/data/ - и попробовать провести анализ самостоятельно в любой используемой вами статистической системе или даже попробовать построить еще лучшую модель. Сейчас мы будем работать лишь с некоторыми переменными, чтобы демонстрация оставалась простой, но в вашем собственном анализе нет причин ограничиваться только ими. Другое важное замечание: эти данные - по пуляционные, измеренные в масштабах страны; то есть любые замеченные нами соотношения могут трактоваться лишь в масштабах страны (а не распространять ся на отдельных людей, например). Первым делом посмотрим на наши возможные переменные. Как обсуждалось в главе 8, уровень подростковой рождаемости не имеет нормального распределения, но его натуральный логарифм распределен нормально, поэтому мы можем исполь зовать преобразованную переменную как результирующую. На рис. 10.1 показана гистограмма распределения натурального логарифма уровня рождаемости; она действительно выглядит нормальной, и статистика Колмогорова-Смирнова (из меряет вероятность того, что переменная происходит из нормального распределе ния, обсуждалась в главе 8) для этой переменной 1,139 (р = 0,149), следовательно, это распределение не слишком отличается от нормального. Мы считаем, что хорошие предсказания может дать ожидаемая продолжитель ность жизни при рождении, которую можно рассматривать как индикатор общего уровня здоровья в стране. Однако ожидаемая продолжительность жизни точно не имеет нормального распределения, как видно из гистограммы на рис. 10.2. Судя по всему, есть две группы стран: одна группа с явно низкой ожидаемой продолжи тельностью и почти равномерным распределением приблизительно от 45 до 65, другая группа с высокой ожидаемой продолжительностью и приблизительно нор мальным распределением с центральным значением около 75. Поверим, что между странами с низкой и высокой ожидаемой продолжительностью (а не с высокой и очень высокой ожидаемой продолжительностью) есть важное различие, поэтому разобьем случаи на две группы, чтобы это отразить. Примерно в одной трети слу чаев продолжительность составляет 66 лет или меньше, и это как раз приходится на тот промежуток, в котором, кажется, и заключается основное различие между меньшей группой стран с низкой продолжительностью жизни и большей группой стран с высокой продолжительностью, поэтому мы будем использовать значение 66,0 лет для разбиения ожидаемой продолжительности жизни на категории низ кой или высокой. United Nations Development Project. - Прим. пер. Модели множественной регрессии 269 Рис. 10.1. Гистограмма для натурального логарифмического преобразования величины уровня подростковой рождаемости Среднее = 67.99 Станд. откл. = 10.346 N = 194 Рис. 10.2. Гистограмма для ожидаемой продолжительности жизни при рождении Глава 10. М н о ж е стве н н ая ли н е й н а я регрессия Другая переменная, которая может помочь построению модели, - валовый на циональный доход (ВНД4) на душу населения, выраженный в международных долларах с учетом паритета покупательной способности (ППСГ)). Этот показатель позволит нам сравнить относительный достаток или бедность разных стран. В це лом у стран с большим ВНД меньше подростковая рождаемость, следовательно, это должен быть хороший предиктор для нашей модели. Преимущество исполь зования ВНД, выраженного в ППС, в том, что он отражает возможность покупки эквивалентных товаров в разных странах, таким образом, включает в себя инфор мацию о разных уровнях цен и позволяет избежать проблемы изменений межна ционального валютного курса. Позже мог бы возникнуть вопрос, выражался ли доход в других странах в той же валюте, что и в данной, - в американских долла рах, например. Гистограмма ВНД на душу населения представлена на рис. 10.3; ее центр тяжести сильно смещен влево. Мы вычисляем натуральный логарифм от ВНД, показанный на рис. 10.4. Он выглядит гораздо ближе к нормальному рас пределению, и статистика Колмогорова-Смирнова подтверждает нормальность (К -С = 0,737, р = 0,649), поэтому в модели будем использовать логарифмически преобразованный ВНД. и <TJ т / ■л 1— | — т-1 соооо.о 1од(ВНД) Рис. 10.3. Гистограмма ВНД (ППС 2005 в международных долларах) на душу населения 1 GNI, gross national income. - Прим. пер. РРР, purchasing pow er parity. - Прим. пер. Модели множественной регрессии 271 Рис. 10.4. Гистограмма натурального логарифма ВНД (ППС 2005 года в международных долларах) на душу населения Нам может оказаться полезной и другая переменная - ожидаемое время школь ного обучения. Логично предположить, что страны, которые хотят и имеют возмож ность вкладывать средства в образование своих детей, могут также иметь более низ кий уровень подростковой рождаемости. Эта переменная отражает математическое ожидание того, сколько лет школьного обучения окончит ребенок, основанное на текущих данных о возрасте учащихся. На рис. 10.5 показано распределение числа ожидаемых лет обучения; обрыв справа объясняется ограничением статистики воз растом 18 лет. Как ни странно, статистика Колмогорова-Смирнова свидетельствует о допустимом нормальном характере распределения (К -С = 0,975, р = 0,298), поэто му мы можем включить эту переменную в нашу модель без изменений. Наконец, мы учтем процент урбанизации, то есть процент населения данной страны, проживающий на территории городов. Эта переменная достаточно нор мально распределена, как показывают гистограмма (рис. 10.6) и тест Колмогоро ва-Смирнова (К -С = 0,893,/? = 0,403). Следующее, что нам требуется проверить, - это линейность. Зависимость меж ду каждой непрерывной независимой переменной и результирующей должна на поминать прямую. Все точечные графики (не приведены) показывают линейную зависимость, поэтому мы можем считать допущение верным. 272 Глава 10. Множественная линейная регрессия Ожидаемое число лет школьного обучения для детей (годы) Рис. 10.5. Гистограмма для ожидаемых лет школьного обучения Рис. 10.6. Гистограмма для процента населения, проживающего на территории городов Модели множественной регрессии 273 Хотя регрессионный анализ даст в том числе статистику мультиколлинеарнос ти, мы хотим рассмотреть взаимоотношения между переменными предикторов еще и с помощью матрицы корреляций. Это покажет нам, близка ли какая-то пара предикторов друг с другом. Матрица корреляций (её верхний треугольник) для трех непрерывных предикторов отображена в табл. 10.1. Таблица 10.1 . Корреляционная матрица для натурального логарифма ВНД, процента урбанизации и ожидаемых лет школьного обучения Юд(ВНД) Юд(ВНД) П ро ц.ур б аниз. 1.000 Проц. урбаниз. Ожид. обуч. 0.723 0.805 1.000 0.644 Ожид. обуч. 1.000 Неудивительно, что все три предиктора близки. Запомним этот результат до по строения модели. Еще можно рассмотреть взаимоотношения между дихотомической переменной и остальными тремя, проводя одномерные дисперсионные анализы для различий средних трех непрерывных переменных для двух групп. Неудивительно, что все три теста сильно значимы, как показано в табл. 10.2. Страны с высокой ожи даемой продолжительностью жизни более урбанизированы, имеют больший ВНД и большее математическое ожидание школьных лет обучения. Таблица 10.2. Средние и результаты одномерного дисперсионного анализа в странах с высокой и низкой ожидаемой продолжительностью жизни для натурального логарифма ВНД, процента урбанизации и ожидаемых лет школьного обучения Переменная Проц. урбаниз. 1од(ВНД) Ожид. обуч. Ожид. продолжит. Среднее Станд. откл. < 66 лет 35.5 15.8 > 66 лет 63.8 21.0 < 66 лет 7.3 0.9 > 66 лет 9.2 1.0 < 66 лет 8.6 2.5 > 66 лет 13.3 2.0 F Значимость 89.158 <0.001 188.163 <0.001 206.874 <0.001 Согласно теории, все рассматриваемые переменные имеют отношение к под ростковой рождаемости, поэтому мы начнем с модели, включающей все эти пере менные в качестве предикторов. Эта модель значительно лучше нулевой модели (F(4, 182) = 53,500, р < 0,001) и имеет R = 0,735 и К2 = 0,540, то есть она объясняет 54% дисперсии уровня подростковой рождаемости. Основная статистика регрес сионного анализа представлена в табл. 10.3. Глава 10. Множественная линейная регрессия 274 Таблица 10.3. Таблица коэффициентов для модели 1 Нестандартизованные коэффициенты В Константа Станд. ошибка 7.706 0.377 -0.36 0 0.072 0.002 Ожид. обуч. Ожид. продолж. жизни Юд(ВНД) П роц.урб аниз. Стандартизованные коэффициенты Бета t Значимость 20.949 < 0.001 -0.48 7 -4.993 <0.001 0.003 0.059 0.794 0.428 -0.07 3 0.029 -0.23 3 -2.51 3 0.013 -0 .2 3 4 0.159 -0 .1 1 4 -1.47 4 0.142 Как и для простой регрессии, каждая строка в этой таблице представляет ин формацию об одном из предикторов в модели. Отличие от простой регрессии за ключается в том, что влияние каждого предиктора измерено в контексте полной модели. Так как мы знаем, что предикторы близки друг к другу, то предполагаем, что они перекрываются по объясняемой дисперсии результирующей переменной. В регрессионной модели, когда все предикторы включаются одновременно (как мы поступили здесь), каждому предиктору засчитывается только его уникальная объ ясняемая дисперсия. Это может объяснить, почему переменные, которые должны, кажется, быть хорошими предикторами подростковой рождаемости (процент ур банизации и ожидаемая продолжительность жизни), не значимы в этой модели. Основные результаты отдельных предикторов следующие: log(BH/0: (3 = -0,360, t = -4,993, р < 0,001. ВНД на душу населения - значимый предиктор уровня подростковой рож даемости в модели, также включающей процент урбанизации, ожидаемое время школьного обучения и дихотомическую ожидаемую продолжитель ность жизни. Коэффициент отрицательный, то есть страны с более высоким ВНД имеют в среднем более низкие уровни подростковой рождаемости. Процент урбанизации: р = -0,002, t = 0,794, р = 0,428. Доля людей, проживающих на городской территории, - незначимый пре диктор уровня подростковой рождаемости в модели, также включающей логарифм ВНД, ожидаемые годы школьного обучения и дихотомическую ожидаемую продолжительность жизни. Ожидаемые годы школьного обучения: р = -0,073, t = -2,153,р = 0,013. Ожидаемые годы школьного обучения - значимый предиктор уровня под ростковой рождаемости в модели, также включающей процент урбаниза ции, логарифм ВНД и дихотомическую ожидаемую продолжительность жизни. Коэффициент отрицательный, то есть страны с большим ожида нием времени школьного обучения имеют в среднем более низкие уровни подростковой рождаемости. Модели множественной регрессии 275 Дихотомически разделенная ожидаемая продолжительность жизни: р = -0,234, t = -1,474,р = 0,142. Ожидаемая продолжительность жизни при рождении (разбитая на <66 лет и >66 лет) - незначимый предиктор уровня подростковой рождаемости в модели, включающей также процент урбанизации, ожидаемые годы школь ного обучения и логарифм ВНД. Так как в этой модели у нас несколько предикторов, стоит взглянуть на стан дартизированные коэффициенты (бета) в этой таблице. Абсолютные значения этих коэффициентов говорят о том, какие из тестируемых предикторов объясняют большую долю дисперсии в модели (это нельзя определить напрямую нз коэф фициентов, так как они измерены в разных шкалах). Согласно этому показателю, 1с^(ВНД) объясняет большую долю дисперсии (бета = -0,487), после него следуют ожидаемые годы школьного обучения (бета = -0,233), дихотомическая переменная продолжительности жизни (-0,114) и процент урбанизации (р = 0,059). Как и сле довало ожидать, два значимых предиктора имеют наибольшие коэффициенты /?. Теперь мы повторно построим модель только со значимыми предикторами, но сначала стоит заметить кое-что еще. При многофакторном дисперсионном анали зе (глава 9) взаимодействия между переменными тестировались автоматически. В случае регрессии это не так: если вы желаете проанализировать взаимодействие, нужно указать это в модели заранее. Этот вопрос решается после того, как стало ясно, какие предикторы будут включены в модель. Мы проверяем вторую модель, включающую только 1с^(ВНД) и ожидае мые годы школьного обучения. Эта модель значительно лучше нулевой (F(2, 184) = 105,21, р < 0,001), R = 0,685, R1 = 0,470, следовательно, удаление двух переменных из модели привело к уменьшению объясняемой дисперсии всего на 7%. Как мы и ожидали, это подтверждает предположение, что близкие предик торы объясняли большей частью одну и ту же дисперсию уровня подростковой рождаемости. Основная статистика этого регрессионного анализа представлена в табл. 10.4. Таблица 10.4. Таблица коэффициентов для модели 2 Нестандартизованные коэффициенты В Константа 7.837 Станд. ошибка Стандартизованные коэффициенты Бета t Значимость 0.345 22.730 < 0.001 <0.001 0.002 Юд(ВНД) -0.36 6 0.063 -0.49 5 -5.82 7 Ожид. обуч. -0.08 5 0.027 -0.271 -3.19 0 Оба предиктора значимы, и абсолютные значения этих коэффициентов и /^-ста тистики увеличились (в частности, для ожидаемых лет школьного обучения). Это еще больше подтверждает предположение, что они перекрывались с двумя пере менными, которыми мы пренебрегли в модели. Основные результаты для отдель ных предикторов следующие: Глава 10. Множественная линейная регрессия 276 log(BHJl): р = -0,366, t = -5,827, р < 0,001. ВНД на душу населения - значимый предиктор уровня подростковой рож даемости в модели, включающей ожидаемую продолжительность школь ного обучения. Коэффициент отрицательный, то есть страны с большим ВНД имеют в среднем более низкие уровни подростковой рождаемости. Ожидаемые годы школьного обучения: р = -0,085, t = -3,190,р = 0,002. Ожидаемые годы школьного обучения - значимый предиктор подростко вой рождаемости в модели, включающей ВНД на душу населения. Коэф фициент отрицательный, то есть страны с более длительным обучением имеют большие уровни подростковой рождаемости. Следующее, что мы хотим сделать, - это протестировать взаимодействие меж ду ВНД на душу населения и ожидаемой продолжительностью школьного обуче ния. Для этого мы добавим в модель взаимодействие 1с^(ВНД)*ожид. обуч. и посмотрим, является ли оно значимым. Эта модель объясняет больше дисперсии (К2 = 0,546) и дает интересные результаты об отношении наших предикторов, как показано в табл. 10.5. Таблица 10.5. Таблица коэффициентов для модели 3 Нестандартизованные коэффициенты В Константа Юд(ВНД) Ожид. обуч. 1од(ВНД)*ожид. обуч. Станд. ошибка Стандартизованные коэффициенты Бета t Значимость 5.039 1.280 3.936 < 0.000 -0.01 9 0.165 0.026 -0.11 8 0.906 0.159 0.111 0.507 1.436 0.153 -0.02 9 0.013 -1.19 3 -2.26 7 0.025 Добавление взаимодействия поменяло все. ВНД на душу населения и ожидае мые годы школьного обучения - уже не значимые предикторы в модели, вклю чающей взаимодействие; изменилась направленность влияния ожидаемых лет обучения. Взаимодействие - единственный значимый предиктор в модели, но мы все же оставим все три элемента в модели, так как взаимодействие имеет значение только в контексте главных эффектов. Из значимости взаимодействия следует, что эффект одной переменной меняется в зависимости от уровня другой переменной. В данном случае эффект ВНД на подростковую рождаемость изменяется в зави симости от ВНД на душу населения. Объяснять взаимодействие при использова нии непрерывных переменных особенно сложно, но картина может проясниться, если посмотреть на график их взаимодействий. Рисунок 10.7 представляет собой график средних для логарифма уровня подростковой рождаемости (ось у) на низком, среднем и высоком уровнях ожидаемой продолжительности школьного обучения (прерывистые линии) и логарифма ВНД (ось х). Низкий уровень определен как нижняя треть значе ний для данной переменной, средний уровень - как центральная треть, высо кий уровень - как верхняя треть. Модели множественной регрессии 277 Оцененные пределы средних 1од(рожд.) Показаны только оцениваемые средние Рис. 10.7. Средние натурального логарифма уровня подростковой рождаемости для низкого, среднего и высокого уровней логарифма ВНД и ожидаемых лет обучения По рис. 10.7 ясно: хотя высокий ВНД и высокая продолжительность обучения в школе оба ассоциированы с низкими уровнями подростковой рождаемости, сте пень уменьшения в действительности зависит от их взаимодействия. Заметьте, что для самых высоких уровней школьного обучения нет стран в нижней трети по ВНД, так как эта линия имеет только две точки. Для стран с низким уровнем ожидаемой продолжительности школьного обучения уменьшение уровня подростковой рождаемости почти линейное по трем уровням ВНД. Для стран со средним уровнем обучения разница между высоким и средним ВНД выражена лучше. Уменьшение подростковой рожда емости для стран с высоким уровнем обучения гораздо больше при переходе со среднего на высокий ВНД, чем уменьшение для стран с одновременно малень ким или средним уровнем обучения. Рисунок 10.8 показывает другой способ рассмотрения этого взаимодействия. На нем мы имеем точечные графики ожидаемых лет школьного обучения и на туральный логарифм подростковой рождаемости на низком, среднем и высоком уровнях ВНД. Наклон регрессионной прямой (показатель взаимодействия меж ду натуральным логарифмом подростковой рождаемости и годами ожидаемого обучения) заметно больше для более высоких уровнях натурального логарифма ВНД, что снова указывает на взаимодействие между двумя предикторами. Ин- 278 Глава 10. Множественная линейная регрессия терссен тот факт, что хотя по всему диапазону данных отношения между нату ральным логарифмом подростковой рождаемости и ожидаемой продолжитель ностью школьного обучения явно сильные ( R2 = 0,44), внутри любой из трех категорий ВНД эти взаимоотношения много слабее (0,188 - для стран нижнего уровня ВНД, 0,052 - для стран среднего уровня, 0,168 - для стран высокого уровня). Это указывает на сильные взаимодействия между нашими предикторными переменными. Рис. 10.8. Отношения между натуральным логарифмом подростковой рождаемости и ожидаемыми годами обучения для стран с низким, средним и высоким уровнем ВНД Очевидно, мы не исчерпали возможности анализа взаимоотношений между ВНД, ожидаемыми годами обучения и подростковой рождаемостью. Также оче видно, что мы не объясним уровень подростковой рождаемости только лишь дву мя переменными, но, по крайней мере, в целях демонстрации мы имеем рабочую модель. Статистика Дарбина-Уотсона (Durbin-W atson) для этой модели равна 0,195, что очень близко к нулевому значению 2, поэтому можно принять допуще ние о независимости ошибок. Статистика Колмогорова-Смирнова для стандар тизованных остатков в этой модели: 0,663 (р = 0,772), и гистограмма на рис. 10.9 выглядит близкой к нормальной, поэтому можно принять допущение о нормаль ности распределения остатков. Модели множественной регрессии 279 Рис. 10.9. Гистограмма стандартизованных остатков для модели 3 Будем оценивать допущение об однородности дисперсии с помощью построе ния диаграммы зависимости стандартизованных остатков от стандартизованных предсказанных величин, как показано на рис. 10.10. Этот график приближенно является облаком точек без каких-либо признаков неоднородности, поэтому примем допущение об однородности дисперсии. Еще следует рассмотреть мультиколлинеарность предикторных переменных. Осуществим это с помощью подсчета допустимости (tolerance) и фактора инфля ции дисперсии (Ф И Д ) (Variance Inflation Factor) для предикторов в нашей моде ли; эта опция поддерживается многими алгоритмами регрессии. Стоит заметить, что ФИД - лишь обратная величина допустимости (Ф И Д = 1/допустимость), поэтому интерпретация любой из этих двух статистик должна давать одинаковый результат. Существует множество эмпирических правил интерпретации допусти мости и ФИД. Одно из популярных правил - допустимость не должна быть мень ше 0,1 или ФИД больше 10. Если использовать этот стандарт, то в наших данных есть проблема, как показано в табл. 10.6. Таблица 10.6. Анализ мультиколлинеарности для модели 3 Предиктор Допустимость ФИД Юд(ВНД) 0.50 20.04 Ожид. обуч. 0.20 50.35 1од(ВНД)*ожид. обуч. 0.01 11.73 280 Глава 10. Множественная линейная регрессия Рис. 10.10. Гистограмма стандартизованных остатков для модели 3 Однако другие ученые считают, что принятые значение ФИД и устойчивости не указывают на некорректную регрессионную модель; возьмите в качестве примера статью О’Брайена (O ’Brien), процитированную в приложении С. Мы знаем, что наши предикторные переменные сильно коррелируют. Следовательно, если бы мы продолжили анализ, то рассматривали бы больше переменных для включения в модель, возможно, выбросили бы одну или обе эти переменные или скомбиниро вали их (может быть, вместе с некоторыми другими). Продолжим интерпретацию текущей модели, чтобы закончить пример. Уравнение регрессии для наших данных: log(poжд.) = 5,039 - 0,019(к^(В Н Д)) + 0,159(Ожид. обуч.) = = 0,029(log(BHД)*oжид. обуч.) + е. Хотя коэффициенты при lo g (B I^ ) и Ожид. обуч. незначимо отличаются от О в этом анализе, мы оставим их в уравнении, так как член взаимодействия сам по себе имеет значение только в контексте уравнения, которое включает переменные, участвующие во взаимодействии. Заметьте также, что было бы неверно интерпре тировать коэффициенты при log(BHfl) и Ожид. обуч. без отсылки к их взаимо действию: напротив, каждый коэффициент должен быть интерпретирован в кон тексте полного уравнения. Мы можем использовать это уравнение для предсказания значения уровня подростковой рождаемости для страны, если даны величины ВНД надушу насе ления и ожидаемая продолжительность школьного обучения. Заметьте, что обе переменные - и рождаемость, и ВНД - являются логарифмически преобразо- Модели множественной регрессии 281 ванными, поэтому если эти переменные даны нам в исходном виде, мы должны взять логарифм, перед тем как включать их в уравнение. Наши результаты, полу ченные из уравнения, будут выражены в единицах логарифма уровня рождаемос ти. Так как это вряд ли будет осмысленным показателем для большинства людей, мы можем перевести результат в уровень подростковой рождаемости, понять его будет гораздо проще. Стоит отметить, желательно, чтобы входные данные для предсказания лежали в пределах значений, включенных в исходную выборку; другая возможность - применить модель вне диапазона использованных значе ний, но мы этого не хотим, так как нельзя утверждать верность регрессионного уравнения вне диапазона значений, использованных для его построения. Предположим, мы хотим посчитать предсказанный уровень подростковой рож даемости для страны с ВИД на душу населения 12 000 (ППС в международных долларах, как определено ранее) и с ожидаемым обучением в школе в течение 12 лет. В первую очередь нам необходимо перевести исходную статистику в нату ральный логарифм: 1п( 12000) = 9,393. После этого можно подставить значения в уравнение и посчитать: к^(Ожид. рожд.) = 5,039 - 0,019(9.393) + 0,159(12) - 0,029(9,393*12) = = 3,500. Стоит заметить, что мы удалили член ошибки (е), так как сейчас мы счита ем предсказанный ^ (р о ж д .): известно, что между предсказанной величиной и действительной, измеренной для страны с такими значениями переменных X , может быть ошибка предсказания. Теперь пересчитаем предсказанное значение log(poжд.) потенцированием: е3-™- 33,12. Этот результат говорит о том, что, согласно нашей регрессионной модели, стра на с ожидаемым школьным обучением 12 лет и ВНД 12 000 ППС в международ ных долларах имеет предсказанную подростковую рождаемость 33,12 на 1000. Фиктивные переменные Множественная линейная регрессия может использовать либо непрерывные, либо дихотомические предикторные переменные. Но иногда требуется работать с пере менными, имеющими более чем две категории. В этом случае нужно преобразовать категориальную переменную в некоторый набор дихотомических, или фиктивных, переменных. Предположим, что колледж желает провести некоторое исследование начальных годовых заработков своих выпускников 2010 года. Данные представле ны так, чтобы отражать средний балл“ студента и область обучения (гуманитар ные, общественные или естественные науки). Средний балл записан в два разряда с определенным максимальным уровнем 4,0 (идеально, или твердое «отлично») (> GPA - grade point average. - Прим. пер. Глава 10. Множественная линейная регрессия 282 и минимальным уровнем 0,0 (провал по всем предметам), хотя реальные данные заключены между 2,5 и 4,0. Данные приведены по выпускникам, поэтому можно ожидать более высоких оценок, чем средняя оценка по всему колледжу Заработная плата выражена в тысячах долларов и колеблется от 19,6 до 58,6. Желательно включить область обучения в нашу модель предсказания началь ной заработной платы, но сперва нужно преобразовать эту переменную в фиктив ные (дихотомические) переменные. Нельзя включить её в модель просто так: ста тистический пакет будет интерпретировать номера, использованные для значений этой переменной, как численные значения (например, 2 больше 1), тогда как в действительности они - просто маркеры категорий. Существует насколько спосо бов преобразования в фиктивные переменные. Сейчас будет продемонстрирован один из наиболее популярных методов. Мы имеем категориальную переменную с четырьмя категориями, то есть нам нужно создать три фиктивные переменные для преобразования информации, со держащейся в этой переменной. Вообще говоря, если переменная имеет k кате горий, то для её замены требуется k - 1 фиктивных переменных. Нам необходи мо выбрать одну категорию для того, чтобы использовать её в качестве опорной; остальные категории будут с ней сравниваться. Для данного анализа выберем гуманитарные науки как опорную категорию, потому что для неё показана самая низкая заработная среди четырех групп, как следует из табл. 10.7. Выбор группы с наименьшей заработной платой даст поло жительные коэффициенты для остальных категорий, что может оказаться проще для объяснения широкой публике (например, родителям абитуриентов). Таблица 10.7. Средние годовые заработные платы для выпускников колледжа четырех основных направлений обучения Направление Средний заработок (тысячи долларов) Стандартное отклонение заработка Гуманитарные науки 22.7 11.4 Естественные науки 56.3 9.3 Социальные науки 28.9 10.1 Образование 28.0 8.1 Схема преобразования фиктивных переменных показана в табл. 10.8. Таблица 10.8. Представление фиктивных переменных для направлений обучения Направление *1 *, Гуманитарные науки 0 0 0 Естественные науки 1 0 0 Социальные науки 0 1 0 Образование 0 0 1 Модели множественной регрессии 283 Мы создали три новые фиктивные переменные X , Х 2 и X v и придаем им зна чение 0 или 1 в зависимости от направления обучения. Для нашей опорной ка тегории гуманитарных наук все три фиктивные переменные имеют значение 0. Для каждого из остальных трех направлений одна из фиктивных переменных име ет значение 1, причем для других она имеет значение 0. Такая комбинация трех фиктивных переменных однозначно определяет каждое направление обучения: в случае значений Х = 0, Х 2 = 1 и X., = 0 мы знаем, что направление обучения - со циальные науки. Уравнение регрессии, предсказывающее заработную плату по направлению обучения, следующее: Г=Р() + Р1Х1+ Р2Х2+ Р;)Х1+ е. В этом уравнении Р() будет средним заработком для обучающихся гуманитар ным дисциплинам. Например, р, будет отражать различие между выпускниками, специализирующимися в естественных науках, и выпускниками гуманитарного направления. Регрессионные коэффициенты для этих данных представлены в табл. 10.9. Таблица 10.9. Результаты регрессии для уравнения, включающего фиктивные переменные Нестандартизованные коэффициенты В Константа Станд. ошибка 22.682 3.102 33.611 4.386 Х2 6.247 X, 5.288 Стандартизованные коэффициенты Бета t Значимость 7.313 <0.000 0.905 7.662 <0.000 4.386 0.168 1.434 0.163 4.386 0.142 1.206 0.236 Уравнение для этих данных следующее: Сред. заработок = 22,682 + 33,61 l(X j) + 6,247(Х2) + 5,288(Х,) + е. Для подсчета среднего заработка для любого из четырех направлений обучения мы просто подставим значения переменных X в это уравнение и решим его. На пример, кто-то имеет область образования, закодированную следующим образом: Х { = 0, Х 2 = 0 и Х л = 1. Подставляя эти значения в уравнение, получим: Предск. среди, зараб.(образование) = 22,682 + 33,611(0) + 6,247(0) + + 5,288(1) = 27,97. Это средний заработок для выпускников в этой области образования, и он сов падает с соответствующим числом в табл. 10.7 (в пределах ошибки округления). Если выполнить такое же упражнение для остальных трех направлений, вы об наружите, что подсчитанные с помощью регрессионного уравнения значения для 284 Глава 10. Множественная линейная регрессия этих направлений также совпадут со значениями, представленными в табл. 10.7. ^-критерии для каждого коэффициента проверяют отличие от 0. Так как перемен ные - фиктивные и в качестве опорной группы использовалось направление гума нитарных наук, ^-статистика говорит о том, является ли стартовый заработок для студентов данного направления значимо отличающимся от заработка студентов направления гуманитарных наук. Из табл. 10.9 можно увидеть, что есть значимое различие между начальным заработком для точных и гуманитарных наук, так как X, значимо отличается от 0 (t = 7,662, р < 0,001), при этом два других сравнения не значимы. Из этого следует важное замечание о фиктивном преобразовании: если вы знаете, какие сопоставления вам нужно провести, не сомневайтесь и определи те фиктивные переменные так, чтобы осуществить эти сравнения. Методы построения регрессионных моделей Только что мы рассмотрели довольно простые регрессионные модели, но часто при построении моделей приходится начинать с 10, 20 или даже большего числа независимых переменных, рассматриваемых как кандидаты на включение в мо дель. Но даже для меньшего числа предикторов вам, возможно, захочется приме нить формальный процесс построения моделей. Многие статистические пакеты включают несколько альтернативных алгоритмов построения моделей, некоторые системы позволяют комбинировать разные методы или алгоритмы внутри одной модели. Существуют две категории методов построения моделей: пошаговые методы, которые сами выбирают предикторы для включения и исключения, и методы выбора наилучшего подмножества7, для которых задаются рассматриваемые предикторы для включения на каждом шаге. Термин подмножество8 относится к группе предикторов, которые вводятся в модель одной группой или рассмат риваются для включения как группа. При построении моделей в этой главе мы использовали все предикторы как одно подмножество, но, как мы увидим, есть и другие возможности. Термин «пошаговый» относится к методу выбора предикторной переменной для включения внутри подмножества. Пошаговые методы в целом автоматизированы и сами выбирают, какую переменную внутри подмно жества добавлять или оставлять в модели, используя указанный пользователем критерий. Автоматизированные методы построения моделей приняты не во всех направ лениях исследований, в основном потому, что они основаны на данных вашей выборки больше, чем на теоретических соображениях. Это вызывает очевидные трудности, так как мы часто строим модели с целью поставить нашу выборку в общий контекст. Другой недостаток автоматизированных методов - в том, что они, по сути, эквивалентны выполнению множества тестов значимости на одних и тех же данных без какой-либо поправки на инфляцию вероятности ошибки ' Blocking met hod - дословно «метод разбиения на блоки», в русскоязычной литературе принят тер мин «метод выбора паплучшего подмножества» - Прим. пер. <s «Block» - блок - Прим. пер. Модели множественной регрессии 285 в эксперименте, что увеличивает вероятность ошибки I рода. Тем не менее ав томатизированные модели считаются приемлемыми в некоторых направлени ях исследований и работы, и если они приемлемы в вашей конкретной области, почему бы их не использовать. Единственное, о чем следует всегда помнить: три разных пошаговых метода могут дать три разные регрессионные модели, так что придется обосновать выбор метода. Отчасти основой автоматизированных методов для построения моделей явля ется мера, называемая частной корреляцией9, - корреляция между двумя перемен ными с удалением эффекта одной или более других переменных. В автоматизиро ванных алгоритмах регрессии частная корреляция используется для определения однозначной дисперсии, объясненной предикторной переменной, чтобы выбрать предиктор, который сильнее связан с результирующей переменной при измере нии в присутствии остальных предикторов. Даже в модели, для которой вы сами определяете включаемые предикторы и их порядок, тестирование частичной кор реляции может быть полезным для измерения значимости отдельных предикто ров в присутствии остальных. Всего существует три основных пошаговых метода построения моделей: Метод с исключением (backward removal) Все предикторы из подмножества добавляются в модель одновременно и далее удаляются один за другим, пока удаление переменных не начинает значимо снижать качество модели. Этот алгоритм рассматривает перемен ные для удаления по уникальной дисперсии, объясненной ими в полной модели. Переменная, объясняющая меньшую дисперсию (с наименьшей частной корреляцией), рассматривается как первый кандидат на удаление, и после удаления этой переменной следующим кандидатом на удаление становится переменная, объясняющая наименьшую дисперсию, и так да лее. Пользователь определяет критерий удаления переменной и показатель качества модели. Метод с включением (forward entry) В модель добавляется одна переменная за раз, начиная с той, у которой са мая большая абсолютная корреляция с зависимой переменной. Для второго и последующих предикторов переменная выбирается так, чтобы она име ла наибольшую частную корреляцию с предиктором, который объясняет большую часть уникальной дисперсии зависимой переменной. На каждую переменную может действовать указанный пользователем критерий вклю чения в модель. В основном он основан на улучшении качества модели или индивидуальной значимости предиктора. Метод с включением и исключением (пошаговый, stepwise) Пошаговый метод является комбинацией методов включения и исклю чения. Предикторы вводятся в регрессионную модель по одному в за висимости от того, насколько они улучшают модель. Каждый раз, когда добавляется новый предиктор, уже включенные в модель предикторы 9 Partial correlation иногда переводится как частичная корреляция. - Прим. пер. 286 Р Глава 10. Множественная линейная регрессия оцениваются и могут быть удалены, если они уже незначимо улучшают качество модели. Методы выбора наилучшего подмножества не автоматизированы, но с их по мощью вы можете вводить или тестировать переменные группами. В данной главе мы вводили все переменные одной группой, но бывают случаи, когда вы можете захотеть вводить переменные отдельными подмножествами. Один из примеров: вы хотите узнать, как подмножество переменных улучшит качество модели после того, как другое подмножество уже включено в модель. Например, вам понадоби лось подготовить общественное мероприятие с целью побудить людей упражнять ся и улучшать здоровье. Вы знаете, что многие демографические факторы (пол, национальность или этническая группа, доход и т. д.) также связаны с упраж нениями и здоровьем, и вы хотите отделить дисперсию упражнений и здоровья, связанную с проведенным мероприятием, от дисперсии, объясняемой демогра фическими факторами. Для этого, скорее всего, вы сначала введете демографи ческие переменные в уравнение одной группой, а затем переменные, связанные с мероприятием, второй группой. Таким образом, результирующая дисперсия, объ ясненная вашими исследованиями, будет дополнительной к объясненной демог рафическими переменными. Такой тип модели особенно полезен в исследованиях, основанных на наблюдениях, когда вы не можете использовать случайное разбие ние па группы для контроля влияния переменных (демографических, например), которые могут соотноситься с результатом. Метод выбора наилучшего подмножества может быть также совмещен с авто матизированным методом благодаря использованию одного автоматизированно го метода в одном блоке и другого (или никакого) - в другом блоке. Продолжим предыдущий пример: возможно, у вас имеются измерения некоторого числа де мографических показателей, из которых вы не можете с уверенностью выбрать объясняющий наибольшую дисперсию в вашей модели. Если в вашей области ис следований допускается использование автоматизированных процессов построе ния модели, вы можете ввести все демографические переменные одной группой и позволить алгоритму решить, какие из них наиболее полезны для объяснения дис персии результирующей переменной. После этого вы можете ввести переменные из вашего собственного исследования в качестве второй группы, чтобы узнать, как много дисперсии они объясняют сверх описанной демографическими переменны ми. Для второй группы не нужно использовать какой-либо автоматизированный метод построения моделей, можно просто ввести все ваши переменные одновре менно. Давайте рассмотрим простой пример, для того чтобы проанализировать эффект использования различных пошаговых методов. Представьте, что вы - педагог, заинтересованный в поиске зависимости между IQ и традиционными показате лями общих способностей (вычислительный и речевой навыки, навыки чтения и мыслительной способности), а также нетрадиционными показателями (музы кальные способности и физическое состояние). Часть данных выборки показана в табл. 10.10. Модели множественной регрессии 287 Данные, показывающие зависимость между традиционными и нетрадиционными показателями общих способностей и Ю Таблица 1 0 .1 0 . IQ Вычисление Чтение Речь Ф изическое состояние 6.0 Мышление 3.0 5.0 7.0 90.0 3.0 6.0 7.0 10.0 6.0 10.0 95.0 4.0 6.0 7.0 9.0 7.0 8.0 100.0 4.0 7.0 8.0 9.0 7.0 5.0 100.0 5.0 7.0 8.0 8.0 8.0 6.0 100.0 5.0 8.0 8.0 7.0 9.0 5.0 105.0 6.0 8.0 8.0 6.0 8.0 4.0 105.0 6.0 8.0 8.0 5.0 7.0 5.0 110.0 7.0 9.0 8.0 4.0 6.0 6.0 110.0 7.0 9.0 8.0 3.0 6.0 9.0 115.0 8.0 10.0 9.0 3.0 5.0 10.0 120.0 9.0 10.0 9.0 1.0 4.0 9.0 85.0 10.0 Музыкальность 10.0 Вы решаете исследовать отношения между переменными при помощи вычис ления всех попарных корреляций и их статистической значимости, как показано в табл. 10.11 (только верхний треугольник). Неудивительно, что большинство тра диционных измерений (вычисление, чтение и речь) сильно положительно корре лируют с IQ (** = р < 0,01). Также неудивительно, что многие из этих мер высоко коррелируют друг с другом. Значит, любая регрессионная модель, включающая несколько из них, будет, скорее всего, иметь высокий уровень коллинеарности. Однако оценка мыслительной способности несильно связана с большинством остальных переменных (кроме музыкальных навыков), и физическое состояние имеет строго отрицательную корреляцию с IQ и несколькими другими мерами способностей. Кроме того, удивительно отсутствие связи между IQ и музыкаль ными способностями. Таблица 1 0 .1 1 . Попарные связи между традиционными и нетрадиционными показателями общих способностей и Ю IQ Вычисление Чтение Речь Ф изическое состояние Музыкальность Мышление Ф изическое Музыкаль ность состояние М ы ш ле ние IQ Вычис ление Чтение Речь 1.000 0.978** 0.976** 0.914** -0 .9 5 5 ** -0.42 7 1.000 0.963** 0.887** -0 .9 8 6 ** -0.481 0.026 1.000 0.912** -0 .9 5 4 ** -0.381 -0.05 5 1.000 -0 .8 3 6 ** -0.33 7 -0.103 1.000 0.503 -0.06 2 1.000 -0 .7 3 8 ** -0.07 3 1.000 Глава 10. М ножественная линейная регрессия 288 Если вас больше интересует не проверка конкретной теоретической модели, а исследование отношений переменных внутри этого набора данных, то вы, ве роятно, решите использовать автоматизированный метод для построения вашей модели. Вы решаете построить две модели, используя два метода (методы с вклю чением и метод с исключением), и далее сравнить эти две модели. Для метода с включением вы устанавливаете критерий добавления р < 0,05 (коэффициент для любого предиктора должен удовлетворить этому стандарту, для того чтобы быть включенным в модель); для метода с исключением вы устанавливаете критерий удаления F> 0,100 (переменная будет удалена, если уровень изменения вероят ности F-статистики не ниже 0,100). Метод с включением В методе с включением первым в модель вводится предиктор с наиболее силь ной парной корреляцией с IQ (г = 0,978) - вычислительные навыки. В этой моде ли К1 = 0,956, и такая модель в целом значимая, с F(l, 10) = 217,36, р = 0,000. Ни один другой предиктор не дает значимого улучшения качества модели, так что это и есть наша окончательная модель, её коэффициенты показаны в табл. 10.12. Такой результат одновременно и удивляет (так как другие исследователи обна руживали близкие отношения IQ и других переменных, например мыслительной способности), и не удивляет (так как большинство наших предикторов настолько сильно коррелируют, что мы могли бы ожидать большого перекрытия между лю быми объясняемыми дисперсиями IQ). Окончательная регрессионная модель, построенная с использованием автоматизированного метода с включением Таблица 1 0 .1 2 . Нестандартизованные коэффициенты Станд. ошибка В Константа Вычисление 74.318 2.043 5.122 0.347 Стандартизованные коэффициенты Бета 0.978 t Значимость 36.374 0.000 14.743 0.000 Таблица 10.13 отражает информацию о переменных, исключенных из финальной модели. Можно заметить, рассматривая ^-статистики и значимость колонок, что не которые из них очень близки к порогу включения, особенно «Чтение» (t = 2,239, р = 0,052). Легко представить, что, если бы вы составили выборку из других наблю дений, «Чтение» могло бы быть включено в модель, а «Счет» - исключено. Регрес сионная модель, полученная при помощи метода с включением: IQ = 74,318 + 5,122(Счет) + е. Одно огромное преимущество использования метода с включением состоит в быстром нахождении минимальной модели, объясняющей наибольшее количество дисперсии в вашей выборке данных. Это особенно полезно, если у вас имеется боль шое число предикторов, но никаких определенных теоретических соображений по поводу того, как они соотносятся друг с другом и с результатом, и вы хотите только Модели множественной регрессии 289 получить наилучшую модель для ваших данных. Этот подход похож на «добычу данных»10тем, что вы просто хотите узнать, какая информация содержится в ваших данных, и не намереваетесь рассматривать их как выборку из генеральной совокуп ности или распространить результат на другие данные. Проблема этого подхода в том, что модель, построенная автоматизированным методом, может сильно зави сеть от специфичного набора данных, использованных для построения модели. Это действительно является проблемой, если вы собирается распространить результат из вашей выборки на генеральную совокупность. Если множество ваших предикто ров сильно коррелируют друг с другом и с результирующей переменной (как в па шем примере), небольшие различия в их корреляциях могут приводить к высокой нестабильности модели. Если вы составите другую выборку, то модель, полученная теми же автоматизированными методами, может выглядеть немного иначе, чем мо дель, полученная из вашей первоначальной выборки. Таблица 10.13. Переменные, исключенные из окончательной модели регрессии, построенной с помощью автоматизированного метода с включением Значимость Частичная корреляция Допустимость Модель Бета t Чтение .467 2.239 0.052 0.598 0.072 Речь .219 1.648 0.134 0.482 0.213 Ф изическое состояние .288 .716 0.492 0.232 0.029 .057 .737 0.480 0.239 0.768 -.0 9 8 -1 .5 9 4 0.146 -0.46 9 0.999 Музыкальность Мышление Метод с исключением Метод с исключением начинается с включения в модель всех заданных предикторных переменных, которые после удаляются одна за другой, начиная с той пере менной, которая вносит наименьший вклад в дисперсию. Модель перестраивается заново при каждом удалении, поэтому вклад каждой переменной пересчитывается для каждой новой модели. В табл. 10.14 представлены пять моделей, полученных по пути к окончательной модели. После каждой итерации одна независимая переменная удаляется, начи ная с «Речи», и далее «Физическое состояние», «Музыкальность» и «Мышление». В табл. 10.15 показаны коэффициенты для моделей в каждой итерации, а также соответствующие значения t и их значимость. Напомним, что предыдущий метод с включением дал нам только одну неза висимую переменную, «Счет», включенную в модель. Интересно, что, используя метод с исключением, мы пришли к окончательной модели, включающей два пре диктора, «Счет» и «Чтение». Также поучительно наблюдать за тем, как коэффици енты меняются с удалением переменных из модели, - это подчеркивает, что обыч10 Data mining - интеллектуальный. или глубинный, анализ данных - собирательное название мето дов обнаружения в данных ранее неизвестных закономерностей и извлечение из этого практичес кой пользы. - Прим. пер. Глава 10. Множественная линейная регрессия 290 но добавление или удаление переменной из модели изменяет коэффициенты для большинства или всех остальных переменных. Таблица 10.14. Пошаговое моделирование линейной регрессии с исключением Модель Введенные переменные 1 Мышление, Вычисление, Музыкальность, Речь, Чте ние, Физическое состояние Удаленные переменные М етод Включение 2 Речь Исключение (критерий: вероятность удаляемого F > 0.100) 3 Физическое состояние Исключение (критерий: вероятность удаляемого F > 0.100) 4 • Музыкальность Исключение (критерий: вероятность удаляемого F > 0.100) 5 • Мышление Исключение (критерий: вероятность удаляемого F > 0.100) Таблица 10.15. Стандартизованные коэффициенты для каждой итерации моделирования Нестандартизованные коэффициенты Модель В 1 Константа 64.480 20.702 3.827 2.369 0.731 Чтение 3.070 1.749 .048 2.628 1.011 t Значимость 3.115 0.026 1.616 0.167 0.487 1.755 0.140 0.003 0.018 0.986 1.423 0.305 0.710 0.509 -1.22 2 0.864 -0.16 7 -1.41 4 0.216 Мышление -.7 4 2 0.445 -0.16 9 -1.66 8 0.156 Константа Ф изическое состояние Музыкальность 64.514 18.819 3.428 0.014 Вычисление 3.851 1.822 0.735 2.114 0.079 Чтение 3.088 1.301 0.490 2.373 0.055 Ф изическое состояние 1.026 1.040 0.310 0.986 0.362 -1 .2 2 4 0.777 -0.16 7 -1.57 5 0.166 -.7 4 3 0.402 -0.16 9 -1.84 8 0.114 Музыкальность Мышление 3 Бета Вычисление Речь 2 Станд. ошибка Стандартизованные коэффициенты Константа 80.511 9.530 8.448 0.000 Вычисление 2.449 1.137 0.467 2.153 0.068 Чтение 2.863 1.279 0.454 2.239 0.060 Упражнения Нестандартизованные коэффициенты Модель 4 5 291 Стандартизованные коэффициенты Музыкальность -1.17 9 0.775 -0.161 -1.52 2 0.172 Мышление -0.78 5 0.399 -0 .1 7 9 -1.96 8 0.090 Константа 68.274 5.524 12.360 0.000 Вычисление 3.149 1.122 0.601 2.806 0.023 Чтение 2.476 1.352 0.393 1.831 0.105 Мышление -0 .2 9 4 0.253 -0.06 7 -1.161 0.279 Константа 64.655 4.649 13.908 0.000 Вычисление 2.765 1.093 0.528 2.529 0.030 Чтение 2.945 1.316 0.467 2.239 0.050 Окончательная модель регрессии, полученная с помощью метода с исключени ем (модель № 5 в табл. 10.14), следующая: IQ = 64,655 + 2,765(Вычисление) + 2,945(Чтение) + е. Эта модель объясняет 97,2% дисперсии IQ, что немного больше, чем модель ме тода с включением (95,6%). Хотя обе модели объясняют почти одинаковое коли чество дисперсии, интересно отметить отличие коэффициентов. Модель, получен ная методом включения, имеет большую константу и больший коэффициент для навыка вычислений. Эти различия, скорее всего, объясняются тем, что некоторое количество дисперсии, объясненной навыком «Счет» в первой модели, объясня ется навыком «Чтение» во второй и что включение второго предиктора естествен но уменьшает константу, так как каждый результат IQ теперь объясняется двумя оценками умственных способностей, а не одной. Упражнения Множественная линейная регрессия может быть использована для изучения разных типов исследовательских задач, как показано в нижеследующих приме рах. Пример 1 Как специалист по кадрам вы заинтересованы в мотивационных факторах, свя занных с продуктивностью (результирующая переменная) ИТ-групп (групп, за нимающихся разработкой информационных технологий), основанной на метрике KLOC (kilolines of code) - тысячи строк кода, написанного за неделю. Считается, что на продуктивность влияют четыре мотивационных фактора: они могут быть основаны либо на внутренней, либо на внешней мотивации и быть либо самооценочными, либо оцениваемыми со стороны. Для измерения этих факторов разра ботаны четыре шкалы, которые используются как предикторные переменные в модели (в скобках оригинальные названия): Глава 10. Множественная линейная регрессия 292 • • • • самооценка внутренней мотивации (IS - intrinsic self-report); внешняя оценка внутренней мотивации (Ю - intrinsic observed); самооценка внешней мотивации (ES - extrinsic self-report); внешняя оценка внешней мотивации (ЕО - extrinsic observed). KLOC выражен в тысячах строк кода; четыре предиктора измерены в шка ле от 0 до 100. Описательная статистика для этих переменных представлена в табл. 10.16. Описательная статистика для четырех типов мотивационных факторов и KLOC Таблица 1 0 .1 6 . Переменная Среднее п Станд. ошибка Продуктивность (KLOC) 50 3.5 2.3 Самооценка внутренней мотивации (IS) 50 41.3 14.8 Наблюдение внутренней мотивации (10) 50 54.7 19.4 Самооценка внешней мотивации (ES) 50 27.1 16.5 Наблюдение внешней мотивации (ЕО) 50 40.7 25.5 Верхний треугольник корреляционной матрицы для этих переменных показан в табл. 10.17; корреляции с /?-value 0,05 или менее обозначены звездочкой (*). Корреляционная матрица для четырех типов мотивационных факторов и KLOC Таблица 1 0 .1 7 . KLOC KLOC Внут. самооц. (IS) Внут. наблюд. (Ю ) Внеш. самооц. (ES) Внут. наблюд. (ЕО) 1.00 Внут. самооц. (IS) Внут. наблюд. (10) Внеш. самооц. (ES) Внут. наблюд. (ЕО) 0.25 0.12 0.43* 0.67* 1.00 -3 .7 0 * -1 .7 0 0.35* 1.00 0.18 -0.18 1.00 0.61* 1.00 Задача Что вы заметили в корреляционной матрице такого, что могло бы помочь в определении регрессионной модели для этих данных? Решение Во-первых, два из четырех предикторов имеют значимую парную корреляцию с результирующей переменной: самооценка внешней мотивации (г = 0,43,/; = 0,002) и внешняя оценка внешней мотивации (г= 0,67, р < 0,001); отдельные/?-value не были включены в табл. 10.17, но взяты из компьютерной выдачи. Во-вторых, не которые из наших предикторов имеют значительную корреляцию друг с другом, и это нужно держать в голове при построении нашей модели. Пары близких пре дикторов: самооценка внешней мотивации и внешняя оценка внутренней моти вации (г = -0,37, р = 0,008), самооценка внутренней и внешняя оценка внешней Упражнения 293 мотивации (г = 0,35, р = 0,013), самооценка внешней и внешняя оценка внешней мотивации (г = 0,612, р < 0,001). Вы решаете включить все четыре предиктора в вашу регрессионную модель; эта модель объясняет 51,5% дисперсии KLOC и дает коэффициенты и значимость тестов, как показано в табл. 10.18. Общий тест качества модели дает результат Е(4, 45) = 11,927, р < 0,001. Таблица коэффициентов для регрессионного анализа предсказания KLOC из четырех типов психологических факторов Таблица 1 0 .1 8 . Нестандартизованные коэффициенты В Станд. ошибка Стандартизованные коэффициенты Бета t Значимость -0.98 9 1.253 -0.79 0 0.434 Внут. самооц. (IS) 0.022 0.023 0.129 0.970 0.337 Внут. наблюд. (10) 0.023 0.009 0.280 2.370 0.017 Внеш. самооц. (ES) 0.003 0.023 0.019 0.124 0.902 Внут. наблюд. (ЕО) 0.062 0.015 0.660 4.044 <0.001 Константа Задача Интерпретируйте информацию табл. 10.18, запишите уравнение регрессии и предположите, какой может быть следующий шаг, чтобы попытаться понять от ношения между этими переменными. Решение Уравнение регрессии для этих данных следующее: KLOC = -0,989 + 0,022(Внут. самооц.) + 0,023(Внут. наблюд.) + + 0,003(Внеш. самооц.) + 0,062(Внеш. наблюд.) + е. Эта модель значительно лучше нулевой модели, но только два из четырех предикторных переменных значимо отличаются от 0: 10 (t = 2,370, р = .017) и ЕО (t = 4,044, р < 0,001). В зависимости от цели вашего анализа вы можете остано виться здесь или продолжить исследование данных. Вы знаете из корреляционной таблицы, что в этой выборке данных самооценка внутренней мотивации значимо коррелирует с внешней оценкой и внутренней мотивацией, и внешней. Это мо жет объяснять недостаток значимости самооценки внутренней мотивации в этой модели, поэтому вы можете запустить модель только с самооценкой внутренней мотивации в качестве предиктора и посмотреть, сколько дисперсии объяснено только ею. Вы также можете добавить больше переменных в модель, например пол; возможно, мотивация мужчин и женщин устроена по-разному. Пример 2 Вы - консультант по менеджменту в отделе розничных продаж, проводящий исследование движений на рабочем месте и затрат времени для определения того, Глава 10. Множественная линейная регрессия 294 какой из двух предикторов (размер штрих-кода или точность про/щвца) имеет наи больший эффект на производительность кассы, измеренной в товарах в секунду. На вопрос трудно ответить, так как единицы измерения в каждом случае различ ны: размер штрих-кода измеряется в квадратных сантиметрах, в то время как точ ность кассира измеряется как доля успешных с первого раза сканирований товара. Ваш клиент хочет увеличить производительность, так как покупатели жаловались на длинные очереди в магазине. Однако большие сканеры дороже маленьких, а тренировочные курсы для работников требуют затрат и при этом не обязательно повышают точность. Менеджер хочет узнать, тратить ли больше денег на трени ровки (пли паем лучших работников) или покупку больших сканеров, поэтому вы решаете провести исследование, чтобы увидеть, какая переменная имеет больший вклад в производительность: размер сканера или точность кассира. Производительность и точность - непрерывные переменные; хотя размер штрих-кода теоретически является непрерывной переменной, в этой выборке данных он имеет только три значения (2см2, 4 см2 и 6 см2), поэтому вы решаете работать с ним как с категориальной переменной. В исследовании участвуют ска неры только трех размеров; описание непрерывных переменных представлено в табл. 10.19. Таблица 1 0 .1 9 . Информация для производительности кассы и точности кассира Переменная N Пропускная способность 30 Точность 30 Минимум Максимум 0.36 0.20 1.50 4.38 73.62 91.13 Среднее Станд. откл. 0.76 81.31 Задача Ваше первое задание - составить схему фиктивных переменных для размера сканера. Используйте наименьший размер сканера как опорную категорию и пере ведите значения в такое количество переменных X, сколько нужно для однознач ного представления размера сканера. Решение Наиболее очевидная схема представлена в табл. 10.20. Стоит заметить, что пе ременные сохраняют порядок значений переменной. Значение 2 см2должно быть перекодировано со значениями 0 для переменных Х ] и Х г в то время как коды для 4 см2 и 6 см2 можно поменять местами, при этом кодирование по-прежнему удов летворяет условию обозначения 2 см2 как опорной. Таблица 1 0 .2 0 . Схема фиктивных переменных Размер X, 2 см 2 0 0 4 см 2 1 0 6 см 2 0 1 Упражнения 295 Предположим, вы проверили все необходимые допущения и проводите рег рессионный анализ, используя схему фиктивных переменных, представленную выше. Эта модель значительно лучше модели (F(3, 26) = 21,805, р < 0,001) и объ ясняет 68,3% дисперсии производительности. Коэффициенты для этого анализа представлены в табл. 10.19. Задача Запишите уравнение регрессии, основанное на информации из табл. 10.21, и дайте рекомендации менеджеру, основанные на данных вашего анализа. Т а б л и ц а 1 0 . 2 1 . Данные по производительности и точности кассира Нестандартизованные коэффициенты Станд. ошибка В Константа Точность х2 0.737 0.917 -0.00 3 0.011 0.071 0.685 Стандартизованные коэффициенты Бета t Значимость 0.803 0.429 -0 .0 3 4 -0.24 6 0.808 0.094 0.094 0.756 0.456 0.015 0.909 6.491 <0.001 Решение Уравнение регрессии: Производительность = 0,737 - 0,003(Точность) + 0,07l(J^t) + 0,685(Х.;) + е. Регрессионный анализ (п = 30) проверил эффекты точности кассира (доля ус пешных с первого раза сканирований) и размера сканера (в см2) и производитель ность (число просканированных продуктов в секунду). Практический контекст этого исследования - условия розничной продажи, приводящие к увеличению производительности. В исследование вошли сканеры трех размеров (2 см2, 4 см2, 6 см2). И производительность, и точность были приблизительно нормально рас пределены; производительность имела диапазон от 0,20 до 1,50, среднее 0,76 и стандартное отклонение 0,36; точность имела диапазон от 73,62 до 91,13 со сред ним 81,31 и стандартным отклонением 4,38. Регрессионная модель объяснила 68,3% дисперсии производительности. Точ ность кассира не была связана с производительностью (t = -0,246, р = 0,808), но размер сканера - был. Большой сканер (6 см2) имел значимое преимущество пе ред наименьшим (2 см2) (t = 6,491, р = 0,000). Сканер среднего размера (4 см2) не давал определенного преимущества перед самым маленьким (t = 0,756, р = 0,456). Я рекомендую покупать большие сканеры, размером в 6 см2, так как этот размер является наиболее сильно соотносящейся с увеличением производительности пе ременной. ГЛАВА 11. Логистическая, мультиномиальная и полиномиальная регрессия Множественная линейная регрессия - это мощный и гибкий метод, способный справиться со многими различными типами данных. Однако существует много других видов регрессии, более подходящих для определенных видов данных или для описания определенных связей между переменными. Мы обсудим некоторые из этих видов регрессии в данной главе. Логистическая регрессия подходит для таких ситуаций, когда зависимая переменная дихотомическая, а не непрерывная, мультиномиальная - работает в случае категориальных зависимых переменных (с более чем двумя категориями), а полиномиальная - больше подходит для слу чаев, когда связь между независимой и зависимой переменными описывается с помощью уравнения, включающего многочлен (например, с х 2 или х ]). Если вам незнакомо понятие «отношение вероятностей», вам было бы полезно сначала про честь посвященный ему раздел главы 15, поскольку отношение вероятностей иг рает ключевую роль в интерпретации результатов логистической регрессии. Логистическая регрессия Множественную линейную регрессию можно использовать для поиска связей между одной непрерывной зависимой переменной и набором независимых пере менных, которые могут быть непрерывными, дихотомическими или категориаль ными; в случае категориальных независимых переменных их необходимо переко дировать в набор дихотомических фиктивных переменных. Логистическая регрессия во многом напоминает множественную линейную регрессию, по ее применяют в том случае, если зависимая переменная дихотоми ческая (то есть может принимать только два значения). Ее значение может быть как дихотомическим по своей природе (человек либо закончил школу, либо нет), так п может представлять разбиение непрерывной млн категориальной перемен ной па две группы (кровяное давление измеряется па непрерывной шкале, но для целей анализа испытуемых можно разбить на две группы: с повышенным давле Логистическая регрессия 297 нием и с нормальным). Зависимую переменную в логистической регрессии тради ционно кодируют как 0-1, где 0 обозначает отсутствие какой-то характеристики, а 1 - ее наличие. Зависимая переменная в логистической регрессии - это логит, что есть преобразованная вероятность данного значения исследуемой характе ристики; можно легко преобразовать логиты в вероятности и наоборот, что мы увидим позже. Вы можете задаться вопросом, почему нельзя просто использовать множест венную линейную регрессию с категориальной зависимой переменной. На то есть две причины: 1. Для категориальных переменных не выполняется условие гомоскедастичности (равенства дисперсий). 2. Множественная линейная регрессия может выдавать значения за предела ми допустимого интервала 0-1 (наличие или отсутствие). Логит также называют логарифмом вероятностей по причинам, очевидным из его определения. Если р - это вероятность того, что объект исследования будет обладать данным свойством, то логит для этого объекта определяется, как показа но на рис. 11.1. логит ( р ) = log ~ ~ = lo g (p ) —lo g (l —р ) 1 -р Рис. 11.1. Определение логита (логит-функции) Для преобразования вероятностей в логиты используют натуральный лога рифм (с основанием ё). Не считая использования логита как зависимой переменной, уравнение для ло гистической регрессии с п независимыми переменными записывается очень сход но с уравнением для линейной регрессии, что можно видеть на рис. 11.2. логит(р) = Р0 + Р 1Х 1+ р 2Х 2...+ Р пХ п + е Рис. 11.2. Уравнение логистической регрессии Как и в случае линейной регрессии, существуют показатели качества модели для всего уравнения (сравнивающие ее с нулевой моделью, в которой все коэффи циенты нулевые) и тесты для каждого отдельного коэффициента (проверяющие для каждого из них нулевую гипотезу о том, что коэффициент незначимо отлича ется от нуля). Смысл коэффициентов, однако, иной; вместо их интерпретации в ключе линейных изменений зависимой переменной мы говорим в терминах отно шения вероятностей (обсуждается в данной главе и в главе 15; обратите внимание, что отношение вероятностей часто используется в медицинской и эпидемиологи ческой статистике). Как и в случае линейной регрессии, логистическая регрессия требует выполне ния нескольких условий, касающихся используемых данных: 298 Глава 11. Логистическая, мультиномиальная и полиномиальная... Независимость Как и во множественной линейной регрессии, каждый испытуемый не дол жен зависеть от других испытуемых, так что нельзя использовать несколь ко измерений, проведенных на одном человеке, членах семьи и так далее (если родство может изменить значения пары испытуемых по сравнению со случайно выбранными людьми). Линейность Между хотя бы одной из непрерывных независимых переменных и логи том зависимой переменной наблюдается линейная зависимость. Это прове ряется с помощью создания модели с логитом как зависимой переменной и независимыми переменными в виде всех непрерывных независимых пере менных, их натуральных логарифмов и их взаимодействий друг с другом. Если взаимодействие окажется незначимым, мы можем считать, что линей ность соблюдена. Отсутствие мультиколлинеарности Как и в случае множественной линейной регрессии, ни одна из независи мых переменных не должна быть линейной функцией других независимых переменных, и они не должны быть слишком сильно связаны друг с другом. Первый запрет в этом определении абсолютен (обычно нарушается только по рассеянности исследователя, например если он включает в уравнение в качестве независимых переменных величины а, b и а + Ь); вторая часть открыта для обсуждения, и ее выполнение оценивается с помощью кри териев мультиколлинеарности, используемых при проведении регрессион ного анализа. Как обсуждается в главе 10, специалисты не имеют единого мнения по поводу того, насколько неабсолютная мультиколлинеарность опасна для регрессионной модели. Нет полного разделения Значение одной переменной нельзя точно предсказать по значению(ям) другой переменной или их набора. Эта проблема чаще всего возникает в случае, если у вас есть несколько дихотомических или категориальных пе ременных в модели; данное условие можно проверить с помощью составле ния таблиц сопряженности по этим переменным и проверки, что в них нет пустых ячеек. Положим, вас интересуют факторы, влияющие на степень обеспеченности на селения Соединенных Штатов медицинским страхованием. Вы берете случайную выборку 500 испытуемых из данных Системы наблюдения за поведенческими факторами риска (BRFSS) 2010 года, ежегодное исследование взрослых в США (подробнее про эту систему - см. главу 8). Наличие страховки - это дихотоми ческая переменная; после исследования нескольких потенциальных факторов вы решаете использовать пол (дихотомическая переменная) и возраст (непрерывная переменная) как независимые переменные. В этом наборе данных у 87,4% респон дентов есть страховка, их средний возраст составляет 56,4 лет (стандартное откло нение 17,1 лет), а 61,7% из них - женщины. Логистическая регрессия 299 Посмотрев на условия применимости логистической регрессии, мы можем ска зать, что первое из них выполняется, поскольку известно, что данные этого опроса собирают опытные исследователи в соответствии с национальным планом. Для оценки линейности между логитом и возрастом мы создадим регрессионную мо дель, включающую возраст, натуральный логарифм возраста и взаимодействие между ними. Результаты приведены в табл. 11.1. Таблица 11.1. Проверка линейности между возрастом и логитом В Станд. ошибка Вальд 1.305 1.136 1.321 1 0.250 3.690 (.п(Возраст) -9.35 3 7.884 1.407 1 0.235 0.000 ВозрастЧп(Возраст) -0.21 8 0.198 1.209 1 0.271 0.804 Константа 15.862 13.055 1.476 1 0.224 7.74Е6 Возраст Знач. df Ехр(В) Единственное, что нас сейчас интересует в этой таблице, - это значимость вза имодействий. Это проверяется с помощью статистики Вальда (Wald), разновид ности хи-квадрата. Как можно видеть из колонки значимостей, в нашей модели взаимодействие незначимо, таким образом, мы можем считать условие линейнос ти выполненным. Мы оценим мультиколлинеарность с помощью проведения линейной регрес сии с проверкой на мультиколлинеарность. Мы получили значение толерантнос ти, равное 0,999, а ФИД (фактор инфляции дисперсии) оказался равен 1,001 для обеих переменных, что означает, что мультиколлинеарность в данном случае не представляет проблемы. Как обсуждалось в главе 10, стандартное эмпирическое правило состоит в том, что толерантность не должна превышать 10, а ФИД не должен быть меньше 0,10. Отсутствие мультиколлинеарности неудивительно, по тому что эти данные получены из случайной выборки на уровне государства по большому диапазону возрастов (от 18 и старше в данном случае), соответственно, нет оснований предполагать наличие связи между возрастом и полом. Для проверки наличия полного разделения мы создаем таблицу сопряженности между нашей дихотомической переменной (полом) и зависимой переменной (на личием медицинской страховки). Эти частоты приведены в табл. 11.2. Таблица 11.2. Проверка на полноту разделения Пол Ж енщины Отсутствует Мужчины 32 20 234 167 Страховка Имеется У нас нет пустых ячеек; на самом деле у нас нет даже почти пустых ячеек. По следний случай может представлять проблему, хотя это и не полное разделение, 300 Глава 11. Логистическая, мультиномиальная и полиномиальная... поскольку такая ситуация может привести к очень большим стандартным ошиб кам оценок и, соответственно, широким доверительным интервалам. Чтобы уви деть, как может выглядеть полное разделение, посмотрите на гипотетические дан ные, представленные в табл. 11.3. Таблица 1 1 .3 . Гипотетические данные с полным разделением Пол Женщины Страховка Отсутствует Имеется Мужчины 62 0 234 167 В данном примере все те, у кого нет страховки, женского пола. Таким образом, если мы знаем, что у кого-то нет страховки, мы сразу же знаем, что это женщина; вот что подразумевается под полным разделением. На практике полное разделе ние чаще встречается с категориальными независимыми переменными (предпо ложите, что мы также включили в модель такие переменные, как работа, семейное положение и образованность), если некоторые из них неравномерно распределены по отдельным категориям. Модель логистической регрессии не сработает в случае, если имеется полное разделение, так что лучше всего попробовать перекодировать переменную. Если у семейного положения есть шесть категорий (женат/замужем, вдовец/вдова, в разводе, холост/не замужем, проживание с партнером того же пола, проживание с партнером противоположного пола), возможно, вам удастся так их объединить, чтобы получилось 2 -3 категории, в каждую из которых по падает достаточно испытуемых, чтобы избежать проблемы разделения. Разумеет ся, вы должны уметь защитить свой выбор объединяемых категорий. К примеру, если в вашем случае важно только то, женат/замужем испытуемый(ая) или нет, вы вольны перекодировать данную переменную для отражения этого факта. Даже если у вас в данных нет полного разделения, правильно избегать переменных с очень малым числом испытуемых в определенных категориях, поскольку, как го ворилось ранее, в таких ситуациях доверительные интервалы оценок будут чрез вычайно широкими. Проверив выполнение всех условий, мы продолжаем наш анализ. В логистичес кой регрессии качество модели в целом определяется несколькими способами. Вопервых, существует критерий для коэффициентов модели, проверяющий, лучше ли наша модель в целом, чем нулевая модель без коэффициентов (omnibus test); модель проходит этот тест со статистикой хи-квадрат (2 степени свободы), равной 16,686 0 1 < 0,001). Кроме того, мы рассчитываем три других показателя качест ва модели: -2 логарифма правдоподобия, R1 Кокса и Снелла (the Cox&Snell R1) п R1 Нагелкерке (the Nagelkerke R1). Показатель -2 логарифма правдоподобия в чем-то аналогичен сумме квадратов остатков в линейной регрессии. Сложно ин терпретировать его значение само по себе, но он полезен при сравнении двух и более вложенных моделей (моделей, в которых большая из них включает все неза висимые переменные из меньшей), поскольку чем меньше значение -2 логариф Логистическая регрессия 301 мов правдоподобия, тем лучше модель. Мы не можем рассчитать R Пирсона или R2для логистической регрессии, по существуют две статистики вместо этой вели чины: R2 Кокса и Снелла и R2 Нагелкерке. Обе основаны на сравнении логарифма правдоподобия нашей модели и нулевой модели; поскольку максимум R2 Кокса и Снелла никогда не достигает теоретического максимального значения, равного 1,0, R2 Нагелкерке использует поправку, приводящую к тому, что оно всегда боль ше первого. Обе из них интерпретируют так же, как и коэффициент детерминации в линейной регрессии, то есть они описывают долю дисперсии зависимой пере менной, объясняемую моделью. Из-за поправки R2Нагелкерке в целом принимает более высокие значения, чем R2 Кокса и Снелла для одной и той же модели. В на шем случае -2 логарифма правдоподобия равны 301,230, К2 Кокса и Снелла равно 0,038, a R2 Нагелкерке равно 0,073. Коэффициенты для этой модели представлены в табл. 11.4. Коэффициенты для логистической регрессии, предсказывающей наличие медицинской страховки по полу и возрасту Т аб л и ц а 1 1 . 4 . 95% ДИ для Ехр(В) В Станд. ошибка Вальд Знач. df Ехр(В) Нижняя Верхняя граница граница Мужской пол 0.030 0.310 0.010 1 0.922 1.031 0.561 1.893 Возраст 0.035 0.009 16.006 1 < 0.001 1.036 1.018 1.054 Константа 0.118 0.475 0.062 1 0.804 1.125 Мы перекодировали пол в новую переменную, Мужской пол, со значениями 0 для женщин и 1 для мужчин; это проще интерпретировать, поскольку нам не надо запоминать, как какая категория была закодирована. Как и с линейной регресси ей, критерии для константы нам обычно не интересны. Независимые переменные оцениваются с помощью хи-квадрата Вальда (the Wald chi-square); значения до стоверностей интерпретируют так же, как p -значения в любых других статисти ках. В данном случае мы видим, что возраст достоверно предсказывает наличие страховки (хи-квадрат Вальда (1 df) равен 16,006, р < 0,001), тогда как мужской пол - нет (хи-квадрат Вальда (1 df) р = 0,922). Вспомнив, что мы закодировали страховку так, что 0 - это ее отсутствие, а 1 - наличие, легко видеть, что, посколь ку, коэффициент для возраста положительный, с увеличением возраста вероят ность наличия страховки у человека тоже растет. Столбец Ехр(В) дает нам отношение вероятностей для каждой независимой и зависимой переменной с поправкой на все остальные переменные в модели; пос ледние две колонки показывают 95%-ный доверительный интервал для отноше ния вероятностей с поправкой. Если вы незнакомы с отношениями вероятностей, вам лучше прочитать раздел главы 15 о них, прежде чем двигаться дальше, по тому что тут приведено лишь очень краткое объяснение. Как видно из названия, отношение вероятностей - это частное вероятностей двух возможных событий. 302 Глава 11. Логистическая, мультиномиальная и полиномиальная... В данном случае это отношение вероятности иметь страховку, если испытуемый мужского пола, к таковому, если это женщина. Нейтральное значение для отноше ния вероятностей равно 1; значения выше 1 говорят о повышенной вероятности, а ниже 1 - о пониженной. Отношение вероятностей для мужчин выше 1 (1,031), это значит, что в этом наборе данных у мужчин больше вероятность иметь страховку, чем у женщин. Однако этот результат статистически не значим, что следует из /^-значения для статистики Вальда (0,922) и того факта, что 95%-ный доверитель ный интервал для отношения вероятностей (0,561, 1,893) включает нейтральное значение 1. Таким образом, мы можем утверждать, что в модели, предсказываю щей наличие страховки по полу и возрасту, пол не имеет значимой предсказатель ной силы. Посмотрев на вторую строку таблицы, мы видим, что возраст имеет значимую предсказательную силу для наличия страховки в модели, включающей пол. Исправ ленное отношение вероятностей равно 1,036, а 95%-ный доверительный интервал равен (1,018, 1,014); обратите внимание, что доверительный интервал не включает единицу. Отношение вероятностей для возраста и мужского пола выглядит очень небольшим (совсем немного больше 1), но помните, что это отношение на самом деле характеризует разницу в вероятностях при увеличении возраста на 1 год; на пример, вероятность иметь страховку для человека возраста 35 лет в сравнении с 34 годами (и с поправкой на пол). Для установления ожидаемого изменения на бо лее протяженном промежутке времени вам необходимо возвести отношение веро ятностей в степень, равную числу лет в промежутке. К примеру, предсказываемое отношение вероятностей иметь страховку при десятилетней разнице равняется: 1,03610= 1,424. Часто при сообщении о своих результатах полезно приводить гипотетические примеры такого рода совместно с самими результатами, чтобы аудитория легче понимала важность непрерывных переменных. Уравнение логистической модели в данном случае получилось следующее: Логит{р) = 0,118 + 0,030(мужской пол) + 0,035(возраст) + е. Как отмечалось ранее, несмотря на значимое отличие нашей модели от нулевой при предсказании наличия страховки, она не объясняет заметной доли диспер сии в данных (определено с помощью подсчета псевдо-R2). Это неудивительно, потому что, вероятно, важную роль в данном случае играет множество других пе ременных, кроме возраста и пола; если бы мы продолжали анализ, мы бы точно проверили важность наличия работы и заработка, к примеру. Также мы бы могли попробовать разбить возраст на моложе/старше 65 лет, поскольку мы знаем, что почти все люди старше 65 имеют медицинскую страховку по Федеральной про грамме страхования Medicare1. Мы также могли бы попробовать построить модель только для людей моложе 65, поскольку не ожидаем увидеть заметного разнообра зия в наличии страхования у людей 65 лет и старше. 1 Это нааваппе одном па программ страхования в США. - Прим. пер. 303 Мультиномиальная логистическая регрессия Преобразование логитов в вероятности Люди, незнакомые со статистикой, вряд ли будут понимать, что такое логит, так что, как правило, лучше представлять результаты в единицах, которые они поймут. Для логистической регрессии очевидным выбором будут вероятности. К счастью, логистическое уравнение для любого набора независимых переменных можно преобразовать, используя вероятности, по следующей формуле: ^ уравнение логистической регрессии Предсказанная вероятность = ------------------------------:-------------' г 1 ^ ^уравнение логистическом регрессии^ Продолжив наш пример с данными BRFSS, мы можем найти вероятность того, что у человека есть страховка, подставив его или ее значения в наше уравнение, а затем преобразовав его по формуле, представленной выше. К примеру, для мужчи ны (.Tj = 1) в возрасте 40 лет (х2 = 40), предсказанный логит равен: Предсказанный логит(р) = 0,118 + 0,030(1) + 0,035(40) = 1,548. Затем мы подставляем это значение в формулу для предсказанной вероятнос ти: Предсказанная вероятность = е1Гт/ (1+ еигт) = 0,825, или 82,5%. Мультиномиальная логистическая регрессия Если у вас есть данные, по всем параметрам подходящие под логистическую рег рессию, но только с зависимой категориальной переменной (более чем с двумя категориями), то использование мультиномиальной логистической регрессии может оказаться тем, что нужно. Возвращаясь к данным BRFSS, нас интересу ет, какие переменные могут предсказать состояние здоровья. К счастью, данные этого опроса включают переменную, характеризующую состояние здоровья по шкале, часто применяемой в медицине и здравоохранении. Нередко характери зуемая как «самооценка общего здоровья», эта переменная включает ответы лю дей о том, какая из пяти категорий лучше всего описывает их состояние здоровья в целом: 1. Великолепное. 2. Очень хорошее. 3. Хорошее. 4. Неплохое. 5. Плохое. Ответы на этот вопрос в нашей выборке представлены в табл. 11.5. 304 Таблица 1 1 .5 . Глава 11. Логистическая, мультиномиальная и полиномиальная... Самооценка общего здоровья Частота Процент Суммарный процент Великолепное 64 14.7 14.7 Очень хорошее 149 34.3 49.0 Хорош ее 136 31.3 95.2 Неплохое 65 14.9 80.2 Плохой 21 4.8 100.0 Мы будем использовать возраст (непрерывная переменная) и пол (дихо томическая) в уравнении мультиномиальной логистической регрессии для предсказания самооценки состояния здоровья. Поскольку у нас довольно мало испытуемых попало в одну из категорий в зависимой переменной, мы соста вим таблицу сопряженности с полом, чтобы проверить, не будет ли какая-то из ячеек пустой или почти пустой; если так, это окажется проблемой по той же причине (полное или почти полное разделение), которая обсуждалась при разборе логистической регрессии. Результаты показаны в табл. 11.6. Таблица 1 1 .6 . Таблица сопряженности общего состояния здоровья и пола Женщины Мужчины Великолепное 36 28 Очень хорош ее 92 57 Хорош ее 80 56 Неплохое 45 20 Плохой 15 6 Состояние здоровья Тут есть как хорошие новости, так и плохие: несмотря на то что пустых ячеек нс оказалось, в одной из них всего лишь 6 испытуемых (мужчин с плохим здоровь ем), что может привести к довольно широким доверительным интервалам. Мы решаем объединить две нижние категории и продолжить наш анализ. Нам необ ходимо выбрать одну из категорий как категорию сравнения для анализа; компью терный алгоритм затем сравнит каждую из остальных категорий с этой, чтобы по мять, есть ли достоверные различия с какой-то из них. Мы выбираем категорию «Великолепное». Качество модели в мультиномиальной логистической регрессии можно оце нить теми же методами, что и в биномиальной логистической регрессии. -2 ло гарифма правдоподобия для данной модели равны 660,234 (это может быть полезно знать для сравнения с более сложными моделями), и наша модель до стоверно лучше нулевой модели без независимых переменных (у2(6 df) = 19,194, р = 0,004). Статистики псевдо-Я2 говорят нам, что мы объясняем только неболь Мультиномиальная логистическая регрессия 305 шую долю дисперсии (К2 Кокса и Снелла = 0,043, К1 Нагелкерке = 0,046), но это и неудивительно: следует ожидать, что, кроме возраста и пола, еще очень многие вещи будут влиять на общее здоровье человека. Кроме того, мы рассчитали кри терии отношения правдоподобий, которые говорят нам об изменении качества модели при удалении одной из независимых переменных. Если качество модели значимо понижается (что проверяется с помощью статистики хи-квадрат), это говорит о большом вкладе удаленной переменной в предсказание значения за висимой переменной. Данные этого теста приведены в табл. 11.7. Таблица 11.7. Критерий отношения правдоподобий для мультиномиальной регрессии, предсказывающей общее состояние здоровья по возрасту и полу - 2 логарифма правдоподобия сокращ енной модели Х и-квадрат df Знач. Константа 660.234 0.000 0 Возраст 675.719 15.485 3 0.001 Мужской пол 660.609 3.375 3 0.337 В каждом случае «сокращенная модель» обозначает модель без анализируемой переменной. Из этой таблицы мы можем видеть, что возраст - это значимая пере менная, определяющая общее состояние здоровья, тогда как пол таковой не явля ется. Константа в данном случае не изучается, поскольку ее удаление не меняет число степеней свободы модели. Как мы сказали ранее, более низкое значение -2 логарифмов правдоподобия соответствует лучшей модели, так что мы не удив лены заметному росту этой величины при удалении возраста из модели (675,719 против 660,234) и при этом крайне незначительному изменению (660,608 против 660,234) при удалении фактора «пол». Оценки параметров для нашей полной модели приведены в табл. 11.8. Обратите внимание, что это на самом деле данные по трем моделям одновременно, посколь ку коэффициенты оцениваются для каждого из наших сравнений («очень хоро шее» против «великолепного», «хорошее» против «великолепного» и «неплохое/ плохое» против «великолепного»). Таблица 11.8. Оценки параметров модели мультиномиальной регрессии, предсказывающей общее состояние здоровья по возрасту и полу 95 % ДИ для Ехр(В) Общ. категория здоровья Очень хорошее В Станд. ошибка Вальд df Знач. Ехр(В) Нижняя граница Верхняя граница Константа 0.681 0.519 1.723 1 0.189 Возраст 0.001 0.009 0.004 1 0.949 1.001 0.984 1.018 Мужской пол = 1 0.227 0.003 0.562 1 0.454 1.255 0.693 2.274 306 Глава 11. Логистическая, мультиномиальная и полиномиальная... 95% ДИ для Ехр(В) Общ. категория здоровья В Станд. ошибка Вальд df Знач. Ехр(В) Нижняя граница Верхняя граница Константа -0 .1 4 2 0 .542 0.068 1 0 .7 94 Возраст 0.015 0 .009 2.836 1 0.092 1.015 0.998 1.033 Мужской пол = 1 0.095 0 .307 0.096 1 0 .057 1.100 0.602 2.009 Неплохое/ Константа -1 .7 6 6 плохое 0.638 7.7 40 1 0.005 0 .0 10 8.701 1 0.003 Хорош ее Возраст Мужской пол = 1 0 .030 0 .559 0.3 48 2.581 1 0.108 1.030 1.010 1.051 1.748 0.884 3.457 Наши опасения при виде низких значений псевдо-/?2 в данной модели оправ дались: только одна независимая переменная значима для одного из сравнений, а именно «возраст» для сравнения «Неплохого/илохого» против «Великолепного» здоровья. Поскольку коэффициент положителен (0,030), а Ехр(Л), или отношение вероятностей, выше единицы, мы можем утверждать, что больший возраст связан с более высокой вероятностью иметь «Неплохое/плохос» здоровье, чем «Велико лепное». Обратите внимание, что 95%-ный доверительный интервал для «возрас та» в этом сравнении (1,010, 1,051) не включает нулевого значения 1,0, результат, который можно ожидать из значимой статистики хи-квадрат Вальда для данной независимой переменной в этом сравнении. Полиномиальная регрессия До сих пор вы много узнали о подборе моделей, где связь между зависимой пе ременной и одной или несколькими независимыми линейная, то есть значение зависимой переменной можно предсказать с помощью взвешенной линейной суммы независимых переменных плюс константа. На плоскости такие отношения выглядят как прямые линии с ненулевым наклоном. Однако многие явления опи сываются нелинейными законами, и вам нужно уметь моделировать и такие связи. Любая связь, не являющаяся строго линейной, по определению нелинейна, так что обсуждение нелинейного моделирования должно быть очень широким. В этом разделе вы узнаете о двух из наиболее часто используемых моделях регрессии, основанных на квадратичных и кубических многочленах2. В квадратичной модели есть как линейный, так и квадратичный член для не зависимых переменных, тогда как кубическая включает линейный, квадратич ный н кубический члены; принцип состоит в том, что вы включаете как все бо лее низкие степени, так и наивысшую. У каждой кривой есть набор экстремумов, 2 Также на английский манер их называют «полиномами» (англ, polinomials), отсюда п название ме тода полиномиальной регресс пи. - Прим. пер. Полиномиальная регрессия 307 число которых на один меньше наивысшего показателя степени1, таким образом, у квадратичной модели будет один максимум1, а у кубической - один максимум и один минимум. На рис. 11.3 приведена квадратичная зависимость (у = х 2), а на рис. 11.4 - кубическая {у = г 1). Точнее говоря, число экстремумов не превышает эту величину; простейший пример несоответствия у =-■хК У кривой, соответствующей этому уравнению, нет ни одного экстремума. - Прим. пер. 1 Или минимум. - Прим. пер. 308 г тч;... Глава 11. Логистическая; мультиномиальная и полиномиальная... Давайте посмотрим на пример из спортивной психологии. Закона Йеркеса-Дод сона, впервые сформулированный в 1908 году, постулирует квадратичную зависи мость между возбуждением (независимая переменная) и спортивным результатом (зависимая переменная). Для многих спортсменов достижение оптимума физио логического возбуждения, соответствующего максимуму зависимой переменной, ведет к достижению их цели - выступить максимально хорошо. Если спортсмены недостаточно возбуждены, они выступят плохо; и наоборот, если они перевозбуж дены, они также покажут плохие результаты. Однако если связь между возбуждением и качеством выступления на самом деле кубическая, рост возбуждения будет в итоге приводить к улучшению выступ ления, что противоречит предсказанию квадратной модели. Полиномиальную регрессию можно использовать для проверки качества квадратичной и кубичес кой моделей, и это позволит принять лучшую зависимость из них в качестве более правильной модели, описывающей связь возбуждения с качеством выступления спортсменов. Уотерс, Мартин и ШретерГ)придумали эксперимент для проверки квадратичной зависимости между кофеином (веществом, вызывающим возбуждение) и умствен ными способностями с помощью набора тестов. В ходе эксперимента требовалось через равный промежуток времени вводить по одной дозе кофеина (6 * 100 мг); это должно было дать практические эффекты и привести к улучшению резуль татов с каждой попыткой вне зависимости от возбуждения. Любая остаточная дисперсия, объясняемая квадратичным членом, - это свидетельство связи между возбуждением и качеством работы. Вы могли бы задаться вопросом, почему участников исследования просто не приглашали прийти несколько раз для прохождения теста со случайным выбором дозы кофеина при каждой попытке. Причины были этического характера; иссле дователи хотели заметить любые нежелательные реакции на кофеин при низких дозах, что было бы невозможно при первой попытке со случайной постановкой эксперимента, поскольку некоторые испытуемые сразу получили бы самую высо кую дозу; кроме того, исследователи хотели минимизировать необходимое число визитов испытуемых. Для улучшения качества контроля в эксперименте авторы решили использовать повторяющиеся измерения, среди которых один раз испы туемые получали плацебо, а другой - дозы кофеина (одинарный слепой метод). Если экспериментатор замечал нежелательную реакцию, эксперимент прекра щался. Порядок использования плацебо и кофеина выбирали случайно. Согласно плану, в эксперименте были как зависимые сравнения, так и незави симые, первые должны были показать зависимость от дозы, а вторые - подтвер дить, что наблюдаемые явления не объясняются случайностью (или привычкой). Здесь приведен только анализ повторных, зависимых измерений. Анализ прово дят последовательно, используя сначала количество кофеина, затем его квадрат и куб. В табл. 11.9 приведены данные для выборки испытуемых, которые можно получить в таком эксперименте. ■’ Watters, Р. A., Martin, F, & Schrcter, Z. (1997). «Caffeine and cortical arousal: The nonlinear YerkesDodson Law.» Human psychopharmacology: clinical and experimental, 12, 249-258. Полиномиальная регрессия 309 Таблица 11.9. Связь между количеством кофеина и когнитивными функциями 0 мг 100 мг 2 0 0 мг 30 0 мг 4 0 0 мг 60 0 мг 500 мг 10.0 15.0 17.0 18.0 15.0 13.0 11.0 8.0 10.0 14.0 16.0 12.0 10.0 9.0 15.0 16.0 18.0 24.0 20.0 17.0 15.0 14.0 17.0 21.0 22.0 21.0 17.0 13.0 15.0 16.0 18.0 20.0 18.0 16.0 12.0 10.0 15.0 17.0 18.0 15.0 13.0 11.0 8.0 10.0 14.0 16.0 12.0 10.0 9.0 15.0 16.0 18.0 24.0 20.0 17.0 15.0 14.0 17.0 21.0 22.0 21.0 17.0 13.0 15.0 16.0 18.0 20.0 18.0 16.0 12.0 Для линейной модели у = (30+ р,*, + еугде у - это результат тестов, ах - количест во кофеина, не было практически никакой связи между переменными: R1 = 0,001, и F-статистика также показала, что коэффициент при количестве кофеина незна чимо отличался от 0 (F(l, 68) = 0,097, р = 0,757). Для квадратичной плюс линейной модели, у = р{) + PjX, + р.рс2+ е, обнаружилась достоверная связь между количеством кофеина и результатами тестов. Для этой модели R2 = 0,462, F(2, 67) = 28,81 и р < 0.001. Таблица коэффициентов этой моде ли, табл. 11.10, говорит о том, что как линейный, так и квадратичный член вносят значимый вклад в качество модели, причем сильная линейная связь сопутствует отрицательному квадратичному члену. Относительный вклад обоих членов в сум марную модель, что видно из абсолютных значений стандартизованных коэффициентов, вполне сравним (Р,.......... - 2,314 против РК1Шфэт„.Ш Ь|П= -2,448). Таблица 11.10. Квадратичная модель для предсказания результатов тестов по потребленному кофеину Стандартизованные коэффициенты Нестандартизованные коэффициенты В Кофеин Кофеин2 (Константа) Станд. ошибка Бета Значимость t 0 .0 44 0.006 2.3 14 7 .166 <0.001 -7 .4 2 9 Е -5 0.000 -2 .4 4 8 -7 .5 8 0 <0.001 12.014 0.7 84 15.324 <0.001 Модель с кубическим, квадратичным и линейным членом, у = Р() + Prr j + Ргт,2 + р.^ *+ е, не объяснила достоверно больше дисперсии в качестве выполнения тес тов, а коэффициент при кубическом члене не отличается достоверно от нуля, под тверждая, что модель с линейным и квадратичным членами лучше всего подходит для объяснения связи между потреблением кофеина и спортивными успехами*5. о По-видимому, авторы экстраполируют выводы об эффекте кофеина па умственные способности также и на результаты в спорте. - Прим, перво. 310 Глава 11. Логистическая, мультиномиальная и полиномиальная... Переподгонка Одна из самых поразительных возможностей современных статистических паке тов состоит в том, что вы можете автоматически выбрать и провести любое чис ло сложных статистических тестов по нажатию одной кнопки. Применение этих возможностей при построении моделей может быть полезным, если вы просто смотрите на данные с разных сторон, или ваша первоначальная гипотеза оказа лась неверной, и вы пытаетесь разобраться, что же на самом деле происходит в данных. Тем не менее многие статистики хмурятся при построении моделей исклю чительно на основании ваших данных и сравнивают это с «выуживанием» зако номерностей наугад, а если используется нелинейная регрессия, называют это произвольной подгонкой под кривые. Мы обсуждали опасности, которые таит механистичное построение моделей, в главе 10, но все предостережения здесь еще более актуальны, поскольку вы не просто добавляете и убираете переменные, но еще и трансформируете их. Тем не менее такой метод построения моделей допус тим в некоторых областях, так что, если так и обстоят дела в вашей области, нет причин не использовать все возможности, которые предоставляют современные статистические пакеты. Некоторые из них позволяют произвести расчет множест ва линейных и нелинейных моделей связи между двумя переменными, а дальше просто выбирать ту, которая лучше всего объясняет ваши данные. Если вы решите попробовать применить такой метод построения моделей, вам стоит знать, какие при этом существуют опасности. Мы проиллюстрируем это простым примером. Вообразите, что вы врач, которого интересует связь между курением и кровяным давлением, и результаты вашего небольшого эксперимента приведены в табл. 11.11. Вы знаете, что между этими переменными существует связь, но как эксперту в суде вам надо установить наиболее сильную связь меж ду ними. Часть данных, касающихся диастолического давления и числа сигарет в день, приведена в табл. 11.11. Взаимосвязь между диастолическим кровяным давлением и числом выкуриваемых сигарет за день Таблица 1 1 .1 1 . Д иастолическое кровяное давление Сигарет в день 80.0 0.0 75.0 0.0 90.0 1.0 80.0 0.0 75.0 0.0 95.0 10.0 90.0 20.0 100.0 25.0 110.0 30.0 140.0 35.0 311 Переподгонка Сводка результатов построения нескольких моделей (с диастолическим дав лением как независимой переменной, а числом сигарет в день как независимой) представлена в табл. 11.12. Как вы можете видеть из нее, кроме линейной, воз можно еще много видов связи между двумя переменными. Еще более удивитель но, что модель, включающая линейный и кубический члены, объясняет 97% дис персии диастолического давления. Никто до того не отмечал кубическую связь между этими переменными, так что вы думаете, что нашли очень убедительный аргумент. Связь между диастолическим кровяным давлением и числом выкуренных за день сигарет Таблица 1 1 .1 2 . Оценки параметров Информация о модели Я2 F df1 df2 Знач. Константа Ь, Линейная 0.781 28.518 1 8 0.001 78 .42 3 1.246 Квадратичная 0 .869 23.118 2 7 0.001 8 0 .98 4 -0 .3 8 6 Кубическая 0.970 64.155 3 6 0.000 7 9 .06 9 3.975 -0 .2 9 9 Составная 0.813 34.853 1 8 0.000 79 .00 7 1.013 Рост 0.813 34.853 1 8 0.000 4.3 70 0 .012 Экспоненциальная 0.813 34.853 1 8 0.000 7 9 .00 7 .0120 Зависимость Ь2 Ь3 0.053 0.007 Имеют ли R2, рассчитанные при таком подходе, какое-то реальное значение? И да, и нет; один из рисков при таком «выуживании результатов» - это перепод гонка (или переобучение - overfitting). Это означает, что ваша модель слишком хорошо аппроксимирует данные и объясняет не только достоверные зависимости, но и случайные отклонения. Поскольку задачей статистического анализа являют ся обобщение результатов и перенос их на другие выборки из той же генеральной совокупности, переподгонка мешает достижению этой цели. Вы можете получить модель, которая замечательно описывает ваши данные, но она совсем не обяза тельно подойдет для каких-то других данных, так что она не привносит новых по лезных знаний в вашу область. Лучшая защита от переподгонки - построение моделей на основании теории. Если вы решите строить свою модель с помощью механистичных подходов, следу ет проверять ее на многих выборках, чтобы быть уверенным, что вы моделируете важные взаимосвязи в данных, а не случайный шум. Если доступно только огра ниченное число выборок, например в случае, когда получение данных сопровож дается уничтожением образца, можно применять методы создания повторных вы борок (resampling), или создания искусственных выборок на основе имеющихся данных, таких как бутстреп (bootstrapping) или «складной нож» (jackknife); они обсуждаются в книге Ефрона (Efron), упомянутой в приложении С. Глава 11. Логистическая, мультиномиальная и полиномиальная... 312 Упражнения Задача Вы сравниваете две вложенных модели логистической регрессии (модели, где в большей есть все независимые переменные, включенные в меньшую). У модели А -2 логарифма правдоподобия равны 200,465; у модели Б - 210,395. Какая из моде лей лучше описывает данные? Решение Модель А лучше подходит под данные; при сравнении двух вложенных моделей лучше та, у которой -2 логарифма правдоподобия меньше. Задача Вы планируете проведение логистической регрессии с одной дихотомической и одной категориальной независимой переменными. Следующая таблица по казывает таблицу сопряженности значений у и двух независимых переменных (х { и х 2). Вас ничего не напрягает при ее просмотре? Если да, как бы вы исправили проблему? со и X" II CNJ Х^ X, = 1 хг =1 25 32 20 Хг = 2 27 17 32 34 6 23 41 36 5 Х2 = 1 Решение Хотя пустых ячеек тут нет, но есть две с очень небольшим числом наблюдений (6 и 5), что может привести к большим доверительным интервалам. Если возмож но (и теоретически это можно обосновать, в соответствии со смыслом перемен ной л:,), лучшим решением было бы объединить вторую и третью категории этой переменной. Задача Вы провели логистическую регрессию для предсказания вероятности исключе ния старшеклассников на основании их GPA и пола как независимых переменных. Вот ваше уравнение регрессии: Логит{р) = 4,983 + 1,876(Мужской пол) - 2,014(GPA) + е. Исключение {у) закодировано как 1 = исключен, 0 = не исключен. GPA - это непрерывная переменная со значениями от 0,00 до 4,00. Мужской пол (переменная, кодирующая пол учеников) закодирован как 0 = женский пол, 1 = мужской пол. Какова предсказанная вероятность быть исключенной у девушки с GPA = 3,0? Упражнения 313 Решение Для расчета вероятности подставьте значения для женского пола и GPA в урав нение логистической регрессии и затем пересчитайте результат по следующей формуле, чтобы получить вероятность быть исключенным: £ уравнение логистической регресси Предсказанная вероятность = —--------------------------:----------' * г _|_ ^ураииение логистической регрессич Предсказанный логит равен: Логит(р) = 4,983 + 1,876(0) - 2,014(3.0) = -1,059. Предсказанная вероятность быть исключенным равна: Предсказанная вероятность = е 1()59/(1 + е ',да) = 0,258 = 25,8%. Задача Продолжая вопрос предсказания вероятности исключения из старшей школы, вы решили включить в анализ еще одну переменную: то, окончила ли мать учени ка старшую школу (0 = не окончила, 1 = окончила). После проведения необходи мых проверок данных вы строите модель и получаете коэффициенты и результа ты проверок значимости, показанные в табл. 11.13. Эта модель достоверно лучше, чем нулевая модель для предсказания исключения из старшей школы (хи-квад рат (3) = 28,694, р < 0,001); значение R2 Кокса и Снелла составляет 0,385, a R2 Нагелкерке - 0,533. Коэффициенты уравнения логистической регрессии, предсказывающей вероятность исключения из старшей школы по полу, GPA и образованию матери Т аб л и ц а 1 1 . 1 3 . 95% ДИ для Expi В) Станд. ошибка Вальд df Знач. Ехр(В) Нижняя граница Верхняя граница 2.107 0.770 7.495 1 0.006 8.224 1.819 37.170 GPA -1.59 9 0.756 4.466 1 0.035 0.202 0.046 0.890 Мать закончила старшую школу -2.43 0 1.104 4.847 1 0.028 0.088 0.010 0.766 5.021 2.420 4.305 1 0.038 151.526 В Мужской пол Константа Проанализируйте информацию в этой таблице, включая то, какие из незави симых переменных значимы для этой модели, в каком направлении влияют и что означают столбцы Ехр(В) и 95%-ный доверительный интервал. Решение Все независимые переменные в этой модели достоверно связаны с вероятно стью того, что школьника исключат из старшей школы. У юношей больше шансов 314 Глава 11. Логистическая, мультиномиальная и полиномиальная... быть исключенными (В = 2,107; хи-квадрат Вальда (1) = 7,495, р = 0,006). Более высокий GPA предсказывает уменьшение вероятности исключения (В = -1,599; хи-квадрат Вальда (1) = 4,466, р = 0,035), как и окончание матерью старшей школы (В = -2,430; хи-квадрат Вальда (1) = 4,867, р = 0,028). Столбец Ехр(В) содержит исправленные отношения вероятностей для каждой независимой переменной. Как и ожидалось, у мужского пола отношение больше 1 (8,224), то есть у юношей более чем в 8 раз выше шанс быть исключенными, чем у девушек, после поправки на GPA и образование матерей; 95%-ный доверительный интервал для мужского пола составляет (1,819, 37,170). Отношение вероятностей для GPA и окончания матерью старшей школы меньше 1, что указывает на то, что высокий GPA и лучшее образование матери понижают шансы быть исключенным. Отношение вероятностей и доверительные интервалы составляют 0,202 и (0,046, 0,890) для GPA и 0,88 и (0,010, 0,766) при наличии матери, окончившей старшую школу Обратите внимание, что ни один из интервалов не включает нейтрального значения 1; этого можно ожидать из того факта, что все независимые переменные достоверно предсказывают значение зависимой. ГЛАВА 12. Факторный, кластерный и дискриминантный анализы Сейчас используется больше статистических методов, чем можно описать в одной книге. На самом деле существует больше методов статистического анализа, чем кто бы то ни было смог бы освоить за свою жизнь. Тем не менее часто полезно быть знакомым с методом, даже не умея его применять. Вам может, к примеру, понадобиться прочитать статью с описанием приема, которым вы не владеете, или вы можете решить, что вам необходимо освоить метод или нанять консультанта, владеющего им, после того как вы прочитали, как кто-то другой использовал этот метод в своих исследованиях. Эта глава рассказывает о применении нескольких продвинутых статистических методов на конкретных примерах; при этом обуче ния самим методам не будет, поскольку цель главы - в том, чтобы помочь читате лю понять, когда один из этих методов можно применить в определенном иссле довании. Приёмы, описанные в данной главе, включают факторный, кластерный и дискриминантный анализ. Факторный анализ В факторном анализе (ФА) используются стандартные переменные для сокра щения набора данных с помощью анализа главных компонент (АГК) (Principal Component Analysis) - наиболее широко применяемого метода сокращения раз мерности. Он основан на прямоугольном разложении исходной матрицы для со здания выходной матрицы, состоящей из набора ортогональных компонент (или факторов), которые учитывают наибольшую долю разброса переменных началь ной матрицы. Этот процесс обычно выдает меньшее число выходных компонент. В терминах линейной алгебры АГК работает с матрицей ковариаций для создания набора собственных векторов и собственных значений. Компоненты выходной матрицы - это линейные комбинации входных переменных; компоненты созда ются так, чтобы первая из них учитывала наибольший разброс данных, а каждая последующая - максимально возможную величину остаточного разброса при условии некоррелированного направления в пространстве. Более общий вари ант АГК - канонический корреляционный анализ Хотеллинга (ККА) (Hotelling’s 316 Глава 12. Факторный, кластерный и дискриминантный анализы canonical correlation analysis (CCA)), который, подразумевая многомерное нор мальное распределение, может быть использован для проверки независимости двух наборов переменных. В первую очередь АГК применяется для достижения трёх основных целей: 1. Для создания ортогональных переменных при проверке гипотез с исполь зованием методов, основанных на общей линейной модели. 2. Для сжатия большого числа переменных до числа, с которым легче рабо тать. 3. Для нахождения скрытых переменных в больших массивах данных, кото рые представлены высоко скоррелированными входными переменными. Хотя первые две задачи обычно решаются с помощью АГК, к третьей чаще при ступают с использованием факторного анализа (ФА), который также основан на прямоугольном разложении, но может включать более сложные приемы, в част ности такой, как максимизирующее дисперсию вращение (varimax). О некоторых из подобных приемов вы узнаете из этой главы. Заметьте, что в ФА выбранные главные компоненты называются общими факторами, а корреляции с исходными переменными называются нагрузками факторов. Посмотрим на пример из области психометрики. Исторически ФА использо вался для проверки различных теорий умственной деятельности и интеллекта, включая гипотезу о едином общем факторе, лежащем в основе интеллекта и со перничающей с ней гипотезы о множестве таких ортогональных факторов. В свою очередь, общие выводы, полученные в ходе обширных исследований интеллекта и сознания в популяции, позволили надежно выделять индивидуальные различия с помощью набора тестов. На процесс понимания индивидуальных отличий и их компенсации сильно повлияли идеи Карла Фридриха Гаусса, первооткрывателя распределения Гаусса, или нормального распределения, развитые более поздними работами Бесселя, который открыл уравнение своего имени для внесения попра вок в наблюдения, сделанные разными астрономами. Ранние попытки изучить интеллект с помощью количественных переменных на чались с исследований таких ученых, как Джеймс Каттел (James Cattcll), которые пробовали измерять интеллект наборами ментальных тестов, таких как скорость ре акции, скорость движения и сила хватки. Более поздние работы показали, что резуль таты выполнения этих тестов не были скоррелированы с реальной академической успеваемостью. Как бы то ни было, работа Чарльза Спирмена (Charles Spearman) об общем факторе интеллекта, g, извлеченном из результатов группы психологических тестов, привела к широкому распространению в психометрике методов, схожих с ФА и АГК. Более поздние работы Луиса Леона Тёрстоуна (Louis Leon Thurstone) и дру гих дали основание предполагать наличие как минимум двух независимых факторов сознания, лежащих в основе интеллекта: вербальный (речевой) фактор - L и фактор счёта (arithmetic) - Q. Даже сейчас такую характеристику интеллекта можно уви деть в стандартных тестах, таких как Академический оценочный тест на способности (SAT, Scholastic Aptitude Test), который проходят многие американские студенты, планирующие поступать в университет, и экзамен для поступающих в вуз или ас- Факторный анализ 317 гшрантуру - Вузовский оценочный тест (GRE, Graduate Record Examination). Оба теста включают три основные части: речь, письмо и математика, - в общих чертах соответствующие лингвистическому фактору (речь и письмо) и фактору счёта, пред ложенному Тёрстоуном. Рассмотрим типичный психометрический пример, в котором в качестве входной матрицы использованы результаты ряда интеллектуальных и ментальных тестов, а выходная матрица будет иметь меньшую размерность. Здесь термин «матрица» относится только к численной информации, организованной в структуру, соответс твующую каждой части информации. Анализ может опираться на определенную гипотезу. Например, специальная психологическая теория может предсказать два фактора (скажем, L и Q) - это означает, что будут выбраны только два фактора, значимых для максимальной величины дисперсии. С другой стороны, если иссле дование носит разведывательный характер, допустимо, чтобы набор данных частич но определял число выбранных факторов, следуя некому стандартному критерию или правилу. Обычно наиболее используемым критерием для сохранения фактора является критерий Гутмана-Кайзера (Guttman-Kaiser), который отбирает только собственные значения, превосходящие единицу (в случае применения ФА). Следуя указанному правилу, факторы отбираются, если дисперсия, за которую они отвеча ют, превышает среднюю для переменной, если дисперсия равномерно распределена по всему набору входных данных. Другие критерии сохранения факторов включа ют процедуру частичной корреляции Велицера (Velicer partial correlation procedure), тест Бартлета (Barthlett’s test) и модель сломанной трости (broken-stick model), в то время как для более наглядного представления используется так называемая «диаграмма каменистой осыпи» собственных значений (scree plot) для определения того, какой из факторов следует сохранить. С помощью такой диаграммы вы графи чески представляете собственные значения и выбираете те из них, которые, подобно каменистой осыпи, скапливаются у подножия. Предположим, у вас есть набор данных с результатами стандартного набора тес тов; данные для первых пяти участников показаны в табл. 12.1. Психологу нужно определить, лежит ли фактор общей способности к пониманию в основе процесса, включающего все компоненты интеллекта, или здесь присутствуют чёткие фак торы, в значительной степени отвечающие за отдельные переменные. Например, существенно ли фактор L связан со способностями читать и говорить, а независи мый фактор Q - со способностями к счёту и геометрии. Таблица 12.1. Результаты психометрических тестов Чтение Музыка Счет Речь Спорт Письмо Геометрия 8 9 6 8 5 9 10 5 6 5 5 6 5 5 2 3 2 6 8 6 4 8 9 10 9 8 10 6 10 7 1 10 5 10 2 Г ’1 318 '" Глава 12. Факторный, кластерный и дискриминантный анализы Первый этап обработки данных - создание матрицы парных корреляций среди всех переменных. Таблица 12.2 показывает верхний треугольник такой матрицы. Это удобный метод определить, какие переменные существенно связаны между собой, а какие - нет. Первая строка для каждой пары отображает коэффициент корреляции Пирсона - г, вторая строка р - уровень значимости. Таблица 12.2. Корреляции между переменными психометрического теста Чтение Музыка Счет Речь Спорт Письмо Геометрия Счет Речь Спорт Письмо Геометрия -0.46 9 0.762 -0.386 0.001 0.172 0.010 0.270 0.262 -0.26 3 0.380 0.069 0.464 0.463 0.278 0.850 0.758 Чтение Музыка 1.000 0.535 -0.25 3 0.860 Р 0.111 0.481 г 1.000 0.249 р 0.488 г 1.000 г -0.501 0.206 -0.30 7 р 0.140 0.568 0.389 0.011 г 1.000 -0.23 6 0.895 -0.569 р 0.511 0.001 0.086 г 1.000 0.054 0.266 р 0.881 0.458 г 1.000 -0.291 р 0.415 г 1.000 р Корреляции в таблице являются подкреплением идеи независимости факторов QnL. Для L: • Процесс речи и результаты чтения высоко скоррелированы (г= 0,860, р = 0,001). • Результаты по чтению и письму высоко скоррелированы (г =0,765, р < 0,010). • Результаты по речи и письму высоко скоррелированы (г = 0,895, р< 0,001). Для Q: • Результаты по геометрии и счёту высоко скоррелированы (г =0,758, р < 0,011). Ни одна из прочих переменных (к примеру, способности к спорту или музыке) не имеет существенной корреляции с другими переменными, поэтому можно ожи дать, что два интерпретируемых фактора и будут результатом ФА. Первый шаг после вычисления АГК - выяснение того, какая величина диспер сии учитывается факторной структурой. Это делается путём изучения общностей (communalities), как показано в табл. 12.3 в столбце с названием «Выборка». Из него видно, что некоторые переменные, такие как музыка, имеют сравнительно Факторный анализ 319 низкий показатель общности (0,779), в то время как другие переменные, такие как письмо, имеют очень высокую общность (0,967). Переменные с высокой общ ностью имеют высокую величину дисперсии, объясняемую выбранными факто рами, в то время как у переменных с низкой общностью остаётся много необъясненной дисперсии. Таблица 12.3. Общности Начальные значения Выборка Чтение 1.000 0.929 Музыка 1.000 0.779 Счет 1.000 0.868 Речь 1.000 0.955 Спорт 1.000 0.943 Письмо 1.000 0.967 Геометрия 1.000 0.814 Таблицы 12.4-12.6 показывают, соответственно, начальные собственные зна чения, суммы квадратов нагрузок и суммы квадратов нагрузок после вращения, полученных из ФА. Эти таблицы являются чрезвычайно важной и значимой частью результатов для интерпретации. Из табл. 12.4 можно видеть, что первые три фактора составляют 89,37% дисперсии, что сразу даёт возможность ощутить мощность такого инструмента, как АГК, поскольку он позволил сразу свести семь переменных к трём факторам, принимая во внимание все вариации в массиве дан ных! Таблица 12.5 даёт значения трёх извлечённых факторов перед вращением, а табл. 12.6 показывает те же факторы после того, как было применено вращение (varimax) с использованием максимизации дисперсии и нормализации Кайзера (Kaizer normalization). Вращение (varimax) поворачивает оси факторов с сохра нением ортогональности, при этом максимизируя сумму дисперсий нагрузок. За метьте, что это не влияет на общую величину дисперсии, подсчитанную по трём факторам, но относительная пропорция дисперсии между факторами меняется. Таблица 12.4. Начальные собственные значения Начальные собственные значения Компонента Суммарно % дисперсии Совокупный % 1 3.488 49.829 49.829 2 1.651 23.591 73.420 3 1.117 15.958 89.378 4 0.425 6.069 95.446 5 0.234 3.343 98.789 6 0.067 0.952 99.742 7 0.018 0.258 100.000 Глава 12. Факторный, кластерный и дискриминантный анализы 320 Таблица 12.5. Суммы квадратов нагрузок после выборки Суммарно % дисперсии Совокупный % 3.488 49.829 49.829 1.651 23.591 73.420 1.117 15.958 89.378 Таблица 12.6. Суммы квадратов нагрузок после вращения Суммарно % дисперсии Совокупный % 2.846 40.653 40.653 2.066 29.517 70.170 1.345 19.208 89.378 Людям, знакомым с ФА, порою кажется, что в вращении есть какое-то жульни чество, особенно потому, что оно используется в качестве вспомогательного средст ва для интерпретации факторных нагрузок и для обнаружения скрытой струк туры. Тем не менее это вполне легитимная техника обработки данных, которая служит весьма полезной цели, помогая исследователю вылавливать переменные, наиболее сильно связанные с каждым фактором. Преимущества вращения можно увидеть, сравнивая табл. 12.7 и 12.8, которые представляют матрицы компонент для анализа до и после вращения. Для компо ненты 1, которая соответствует скрытому фактору I, можно увидеть, что вращение имеет эффект увеличения нагрузок, соответствующих наиболее скоррелирован ным переменным, таким образом, что способности в письме, чтении и речи имеют самые высокие нагрузки на этот фактор. После вращения компонента 2, которая соответствует фактору Q, имеет более высокие нагрузки для счёта и геометрии, в то время как нагрузки для нескоррелированных переменных, таких как музы ка, теперь сравнительно снизились. У компоненты 3 высокая нагрузка только для спорта, поэтому, хотя она представляет вполне явный фактор, она не отражает ни какой скрытой структуры и не будет учтена в анализе. Таким образом, вращение помогло нам выяснить, какие результаты тестов (чтение, музыка и т. д.) наиболее тесно связаны с нашими двумя компонентами. Таблица 12.7. Матрица компонент до вращения Компонента 1 2 3 Чтение 0.902 0.328 -0.08 5 Музыка 0.386 0.775 -0 .1 7 4 Счет -0.58 2 0.727 0.028 Речь 0.955 0.009 0.209 -0.40 3 -0 .0 5 9 0.882 Спорт Факторный анализ 321 Компонента 1 Письмо Геометрия 2 3 0.819 0.235 0.491 -0.66 4 0.597 0.130 Таблица 12.8. Матрица компонент после вращения Компонента 1 2 3 Чтение 0.859 -0 .1 4 4 -0.41 2 Музыка 0.593 0.490 -0.43 3 Счет -0.15 8 0.917 0.050 Речь 0.869 -0.43 8 -0.08 8 -0.04 6 0.176 0.954 0.955 -0 .1 6 4 0.169 -0.24 6 0.846 0.195 Спорт Письмо Геометрия Графическое исследование данных также помогает выяснить связи между пе ременными. Возвращаясь к вопросу о выборе собственных значений, рис. 12.1 графически представляет упомянутую выше «диаграмму каменистой осыпи» как результат анализа, где каждый кружок соответствует одному из собственных зна чений в табл. 12.4. Более высокие значения соответствуют большей дисперсии, от куда с очевидностью следует, что после третьего собственного значения остальные собственные значения ничего существенного к общей картине не добавляют. Если вы изобразите собственные значения как камни, скатывающиеся вниз по склону, станет ясно, что существует некий изгиб к горизонтали на третьем и четвёртом собственных значениях (правда, в интерпретации «диаграмм каменистой осыпи» присутствует субъективный элемент), в то время как собственные значения от четвёртого до седьмого просто «осыпаются» в кучу у подножия. Поэтому остаются только две или три компоненты, которые имеет смысл рассматривать при анализе, и это соответствует результатам использования критерия Гутмана-Кайзера; ком понента 3 имеет значение, едва превышающее 1,000. Рисунок 12.2 демонстрирует эффект от вращения данных в пространстве трёх измерений. По нему можно понять, что переменные, связанные с фактором L (письмо, речь и чтение), тесно сгруппированы в трёхмерном пространстве, так же как и переменные, связанные с фактором Q (счёт и геометрия). Отметим, что две другие переменные (спорт и музыка) примерно равноудалены от центров двух компонентных групп (кластеров). Довольно часто влияние вращения легче отсле дить в трёхмерном пространстве, нежели по таблицам нагрузок. 322 Глава 12. Факторный, кластерный и дискриминантный анализы Рис. 12.2. Пространственная диаграмма компонент Кластерный анализ 323 Таблица 12.9 описывает выходную матрицу после процедуры ФА. Она показы вает результаты для трёх компонент первых пяти участников тестирования, если это тесты GRE (вузовский оценочный тест) или SAT (академический оценочный тест) - это те самые результаты, которые можно сообщать участникам тестирова ния. Заметим, что точность результатов зависит от вашей компьютерной програм мы. Таблица 12.9. Результаты по трём компонентам для каждого участника Участник Компонента 1 (i.) Компонента 2 (О) Компонента 3 (Спорт ) 1 0.518 1.132 -0.09 5 2 -1.17 0 -0.12 8 0.084 3 -1.39 6 -1.20 7 1.619 4 1.094 1.198 1.128 5 0.706 -1.04 9 0.014 Так же как и все другие техники обработки данных, о которых вы узнали из этой книги, АГК и ФА имеют ряд базовых предварительных условий, которые должны выполняться, если требуется получить обоснованные и/или надёжные результа ты. Для АГК и ФА наиболее часто используются большие базы данных, потому что, как правило, чем больше набор данных, тем надёжнее результаты. В случае психометрики удается добиться постоянной надёжности, если тестирование про водится на сотнях тысяч испытуемых из разных лингвистических и национальных групп. Другое основное условие - число объектов превосходит число переменных во входной матрице. Как правило, тесты на статистическую значимость не исполь зуют АГК, поэтому пиковые и другие потенциально возможные источники откло нений не представляют столь существенной проблемы, как, скажем, при работе с ANOVA. АГК также предполагает линейную корреляцию - это означает, что ни одна из переменных не может быть ни нулём, ни абсолютно скорреллированной с другой. Кластерный анализ Кластерный анализ (КА) представляет собой набор технических приёмов, кото рый позволяет сгруппировать объекты на основе их значений для одной и бо лее переменных. Некоторые методы кластерного анализа размещают объекты по группам путём разделения, в то время как другие методы создают иерархические деревья, которые показывают систематические связи между группами и их про тотипами. Связанный с КА метод - дискриминантный анализ (ДА) (Discriminant Function Analysis, DFA) - может быть использован для уточнения правил рас пределения объектов по группам, основываясь на понимании параметрической структуры групп. ДА лучше работает для прогнозирования групповой принад лежности, чем кластерный анализ без ДА. Зачастую эти два метода применяют- 324 Глава 12. Факторный, кластерный и дискриминантный анализы ся совместно. Кластерный анализ полезен тогда, когда число групп изначально неизвестно. Если же это число установлено, то ДА может быть использован для прогнозирования принадлежности к группе для каждого объекта по отдельнос ти. КА весьма полезен при двух сценариях. В первом случае вам может быть извест но, сколько групп вы ожидаете найти в каждом наборе данных, и вы передаёте это число алгоритму, который и определяет размещение объектов по группам (метод к-средпих, или k-means). В другом случае число групп, которое существует в дейст вительности, неизвестно, и тогда вы хотите при помощи этого метода определить его. Кластерный анализ является в высокой степени эмпирическим инструментом; его успех в значительной степени зависит от качества поставляемых данных. КА работает путём выбора входного вектора Y e n объектами и р переменными, распо лагая каждый из п объектов в одну из k групп. Каждая из р переменных измеряет одно направление изучаемого объекта. Если продолжить рассмотрение примера из психометрики, каждая переменная там может представлять результат по опре делённому типу тестируемых способностей (чтение, письмо и т. д.). Алгоритм со здаёт на вероятностной основе k кластеров, устанавливая центроиды (или центры тяжести кластеров) и направляя каждый объект к ближайшему центроиду. Объек ты перемещаются между кластерами для минимизации внутрикластерных разли чий и максимизации межкластерных различий. Процесс продолжается до полного схождения в соответствии с заранее определённым критерием. Следует отметить, что поскольку в начальном назначении центроидов присутствует некоторая слу чайность, не всегда можно получить одинаковый ответ. Целью расчётов в кластерном анализе является подтверждение того, что все члены групп 1...к похожи на другие члены их групп и отличаются от членов дру гих групп. Сходство или несходство определяется специфическими расстояния ми. К ним относят следующие: Эвклидово расстояние Это геометрическое расстояние между двумя точками в многомерном про странстве. Манхэттэновское расстояние Поквартальное расстояние по типу Манхэттэна, где улицы перпендику лярны друг другу1. Расстояние Махалаиобиса Расстояния между точками внутри кластера увеличиваются, а между клас терами уменьшаются. Рассмотрим ещё раз пример из психометрики. Показав, что способности испыту емых определяют три фактора, психолог теперь заинтересован в выяснении, имеет ся ли некоторое основание для классификации учащихся по разным группам обуI Млн расстояние между двумя точками определяется как сумма разностей их координат. - Прим, пер. Кластерный анализ 325 чения на основе этой скрытой структуры, потому что выявленные факторы для L, Q и Спорт ортогональны друг к другу. Вопрос в специализации: если у испытуемых определены способности к спорту, лингвистике или вычислениям, они могут быть направлены, соответственно, в классы, специализирующиеся в этих дисциплинах. (Возраст, в котором такая специализация должна происходить, - это другой воп рос). Главная проблема при подобном подходе заключается в том, что некоторые испытуемые могут иметь способности более чем в одной дисциплине и идеализи рованное представление, даваемое вращающейся матрицей нагрузок, показанное на рис. 12.2, может не отражать всех возможных случаев. Для выяснения того, соответствуют ли три явные группы в этом наборе данных конкретным членам, подходящим лингвистическому, вычислительному и спортив ному направлениям, психолог выбирает кластерный анализ. Поскольку мы пола гаем, что есть три группы, это количество k = 3 и передаётся в работу алгоритму с запросом идентифицировать эти три группы и направить каждого учащегося в соответствующий класс обучения. Начальные центры тяжести кластеров показаны в табл. 12.10, и после несколь ких итераций алгоритм приходит к решению с окончательным определением при надлежности первых пяти объектов к определённому кластеру, а также положения центров кластеров и попарных расстояний между ними (табл. 12.11-12.13; верх ний треугольник только для табл. 12.13). Начальные центры кластеров связаны с корреляциями и соответствующими главными компонентами из предыдущего анализа. Кластер 1 прочно связан с чтением, речью и письмом; кластер 2 - со счё том и геометрией; кластер 3 - со спортом. Несмотря на то что в процессе итерации наблюдаются определённые изменения, подобное разделение довольно устойчи во. Окончательное расположение групп является обычной функцией расстояния от каждого центроида. Попарные расстояния между центроидами также в значи тельной степени устойчивы. Таким образом, оказывается, что расстояния между группами успешно увеличены, и нет проблем в их разделении. Увеличение числа объектов при анализе несомненно улучшит надёжность результата. Таблица 12.10. Начальные центры кластеров Компонента 1 2 3 Чтение 10.00 3.00 2.00 Музыка 9.00 9.00 3.00 Счет 3.00 10.00 2.00 Речь 10.00 2.00 6.00 6.00 6.00 8.00 10.00 4.00 6.00 3.00 9.00 4.00 Спорт Письмо Геометрия Глава 12. Факторный, кластерный и дискриминантный анализы 326 Таблица 12.11 . Решение по кластерам: членство в кластерах Номер объекта Кластер Расстояние 1 1 6.565 2 3 2.915 3 3 2.915 4 1 7.078 5 1 4.468 Таблица 12.12. Решение по кластерам: окончательное расположение центров кластеров Компонента 1 2 3 Чтение 8.57 3.00 3.50 Музыка 8.86 9.00 4.50 Счет 4.00 10.00 3.50 Речь 9.00 2.00 5.50 Спорт 5.14 6.00 7.00 Письмо 9.00 4.00 5.50 Геометрия 3.86 9.00 4.50 Таблица 12.13. Решение по кластерам: окончательные попарные расстояния между кластерами Кластер 1 2 1 2 3 12.971 8.562 9.925 Таблица 12.14 показывает результаты определения значимости каждой пере менной для разграничения групп (англ, discriminability), полученные с помощью дисперсионного анализа (ANOVA - см. главу 8). Эти результаты не интерпрети руются как итоги точного тестирования статистической значимости в смысле про верки гипотезы, но они весьма полезны при обнаружении переменных, которые помогают различить кластеры между собой. Результаты письма, речи и чтения оказались значимыми (что и ожидалось), но результаты комплектования второго и третьего кластеров (соответственно, счёт и геометрия и спорт) оказались незна чимыми. Первый результат имеет смысл хотя бы потому, что высокие значения по письму, речи и чтению действительно помогают различить первую и вторую группы, но отсутствие различимости у третьего кластера оказалось сюрпризом (хотя и это неудивительно, если вспомнить результаты АГК, где третий фактор Спорт имел собственное значение, едва превышавшее 1, и учитывал всего лишь 15% дисперсии). Дискриминантный анализ 327 Таблица 12.14. Результаты дисперсионного анализа по способности к различению Кластер Ср. квадр. Ошибка df Чтение 28.893 2 Музыка Ср. квадр. F Значимость df 1.745 7 16.558 0.002 15.321 2 1.622 7 9.443 0.010 Счет 17.000 2 9.214 7 1.845 0.227 Речь 26.950 2 0.643 7 41.922 0.000 2.771 2 4.122 7 0.672 0.541 Письмо 17.550 2 1.786 7 9.828 0.009 Геометрия 11.571 2 8.194 7 1.412 0.305 Спорт Дискриминантный анализ Дискриминантный анализ (ДА) (Discriminant Function Analysis, DFA) использу ется для формулировки правил, которые позволяют классифицировать объекты по двум или более группам, основываясь на линейной комбинации переменных; при этом сами группы известны перед началом анализа, а целью последнего яв ляется нахождение переменных, наиболее эффективных в прогнозировании при надлежности новых объектов к этим группам. Однажды мне пришлось участво вать в исследовании, целью которого был прогноз расового и этнического состава групп студентов университета, которые не смогли заполнить определённую часть анкеты (информацию, необходимую для отсылки федеральному правительству). В том случае мы знали, какие категории используются федеральными органами для расовой и этнической идентификации, и нам было нужно использовать дру гую информацию в заполненных частях анкет для распределения студентов по соответствующим группам. Цель ДА - определение функции или функций, которые максимизируют раз личия между группами, тем самым достигая наибольшей возможной точности при распределении объектов по группам. Как правило, эти функции представляют пз себя линейные комбинации входных переменных и называются линейные дискри минантные функции (linear discriminant functions, LDFs). Кластерный анализ и классификационный анализ в некотором роде пытаются решить одну проблему разными средствами: оба ищут максимум различных функций (например, макси мизируя расстояния или точность распределения). Опять вернёмся к примеру из психометрики. При известном расположении групп, полученном после кластерного анализа, ДА можно использовать для опре деления ряда дискриминантных функций, обеспечивающих максимальное разде ление между группами. После этого можно проверить нулевую гипотезу равенст ва групповых средних для каждой переменной. В случае двух групп это можно Глава 12. Факторный, кластерный и дискриминантный анализы 328 сделать с помощью £-теста; при большем числе групп для этого нужен F-тест. Ре зультаты из в табл. 12.15 указывают на то, что есть существенные различия: для чтения F(2, 7) = 16,558, р = 0,002; для музыки F(2, 7) = 9,443, р = 0,010; для речи F(2, 7) = 41,922, р = 0,001; для письма F(2, 7) = 9,828, р = 0,009. Таким образом, основываясь на значимости переменных для разграничения групп, можно оста вить только тесты по чтению, музыке, речи и письму, сохраняя большие расстоя ния между группами. Таблица 12.15. Проверка равенства групповых средних Лямбда Уилкса F df, d f2 Значимость Чтение 0.174 16.558 2 7 0.002 Музыка 0.270 9.443 2 7 0.010 Счет 0.655 1.845 2 7 0.227 Речь 0.077 41.922 2 7 <0.001 Спорт 0.839 0.672 2 7 0.541 Письмо 0.263 9.828 2 7 0.009 Геометрия 0.713 1.412 2 7 0.305 Таблица 12.16 характеризует две канонические дискриминантные функции, не обходимые для распределения объектов по группам. Интересно, что первая функ ция учитывает 96% дисперсии, в то время как вторая - только 4%. Таблица 12.16. Канонические дискриминантные функции Функция Собственное значение % дисперсии Совокупный % Каноническая корреляция 1 79.224 96.0 96.0 0.994 2 3.287 4.0 100.0 0.876 Таблица 12.17 показывает расчётные значения лямбды Уилкса, которая использу ется для оценки значимости дискриминантных функций в многомерном пространст ве. В строке, обозначенной «от 1 до 2», приведены показатели значимости для обеих функций, а в строке, обозначенной «2», - только для второй функции. К сожалению, в этом виде анализа даже две функции совместно не в состоянии существенно диф ференцировать группы. Вероятно, это отражает тот факт, что функция 1 забирает на себя слишком высокую часть дисперсии, а набор данных сравнительно мал, поэтому в данном случае анализу недостаёт мощности. Таблица 12.17. Значения лямбды Уилкса Лямбда Уилкса Х и-квадрат df Значимость от 1 до 2 0.003 23.362 14 0.055 2 0.233 5.822 6 0.443 Тест функции Дискриминантный анализ 329 В табл. 12.18 даны стандартные коэффициенты канонических дискриминант ных функций. Они являются аналогами стандартных коэффициентов регрессии и показывают связь между каждым измерением способностей и функциями, выве денными при проведении анализа. Таблица 12.18. Стандартные коэффициенты канонических дискриминантных функций Функция 1 Чтение Музыка 2 -0.70 6 -0.141 1.838 -0.36 8 Счет -0 .3 6 4 -0.70 7 Речь 3.686 1.409 Спорт -0.15 0 1.309 Письмо -1.88 4 -2.03 0 1.916 0.945 Геометрия В табл. 12.19 представлена структурная матрица; значения в таблице являются каноническими коэффициентами корреляции случайных величин и могут толко ваться как факторные нагрузки, то есть они показывают вклад каждой переменной в каждую случайную величину. Из этой таблицы можно видеть нагрузки чтения и музыки на функцию 1 и нагрузки письма, речи, счёта, геометрии и спорта на функ цию 2. Эти значения слегка отличаются от тех, которые можно было бы ожидать от, скажем, АГК или кластерного анализа, но не следует забывать, что алгоритмы, используемые в каждом виде анализа, имеют свои цели, поэтому неудивительно, что результаты не совпадают. Таблица 12.19. Структурная матрица Функция 1 2 Чтение 0.243 Музыка 0.188 0.034 Счет 0.115 -0.70 8 Речь 0.379 0.433 Спорт -0.14 0 -0.04 6 -0.331 Письмо -0.05 5 -0.22 5 Геометрия -0.04 3 0.121 И наконец, табл. 12.20 демонстрирует связь между двумя дискриминантными функциями и центроидами групп. Глава 12. Ф а к то р н ы й , кластерны й и дискрим инантны й анализы Таблица 12.20. Функции к центроидам групп Номер кластера для объекта Функция 4.804 -0.16 9 2 -14.483 -3.46 5 3 -9.57 3 2.324 Упражнения Найдите несколько профессиональных статей в вашей области, в которых исполь зуются методы, приведенные в этой главе, и посмотрите, как используется каждый метод и как объясняются результаты. Для начала ниже даны несколько приме ров: • Крэйг А. Дэпкен и Даррен Грант. Калькуляция цен сервисных услуг в Глав ной бейсбольной лиге: анализ главных компонент. (Craig A., and Darren Grant. 2011. “Product pricing in Major League Baseball: A principal components analysis.” Economic Inquinj 49 (April): 474-488.) Дэпкен и Грант используют анализ главных компонент для исследования факторов, влияющих на стоимость концессий, билетов и парковки в Глав ной бейсбольной лиге США. • Ханна С. Уильямсон, Томас Н. Бредбери, Томас Е. Трэйл и Бенджамен Р. Карни. Факторный анализ шкалы оценок семейных отношений в штате Айова. (Williamson, Hannah С., Thomas N. Bradbury, Thomas E. Trail, and Benjamin R. Karney. 2011. “Factor analysis of the Iowa Family Interaction rating scd\es”Journal o f Family Psychology 25(6): 993-999.) Уильямсон и коллеги используют анализ главных компонент для выяв ления факторной структуры способа описания различных типов вербаль ного и невербального поведения супругов в общении; новизна их подхода заключается в применении метода, использовавшегося для белых супругов среднего класса, к примерам расово разных пар с низким уровнем дохода. Майкл Н. Тума, Рейнольд Декер и Сорен В. Шольц. Обзор проблем и скрытых препятствий при применении кластерного анализа в сегмента ции рынков. (Tuma, Michael N., Reinhold Decker, and Soren W. Scholz. 2011. “A survey of the challenges and pitfalls of cluster analysis application in market segmentation.” InternationalJournal o f Market Research 53(3): 391-414.) Тума, Декер и Шольц рассматривают некоторые методы кластерного ана лиза, использовавшегося при сегментации рынков за последние 50 лет, и предлагают лучшие практические решения этой проблемы. Барабара К. Кайе и Томас Джонсон. Блог что надо: Кластерный анализ причин оценки разных типов блогов как заслуживающих доверия. (Кауе, Barbara К., and Thomas J. Johnson. 2011. “Hot diggity blog: A cluster analysis • • Упражнения • 331 examining motivations and other factors for why people judge different types of blogs as credible.” Mass Communication and Society 14(2): 236-263.) Кайе и Джонсон используют кластерный анализ для выявления групп людей, которые оценивают различные типы блогов (общеинформативпые, медиа/журналистика, военные и относящиеся к войне, корпоративные и персональные) в качестве источников информации, заслуживающих пол ного доверия. Ричард Гонсалес. Распознавание пола детей но костям черепа с помощью дискриминантного анализа. (Gonzalez, Richard. 2012. “Determination of sex from juvenile crania by means of discriminant function analysis.” Journal o f Forensic Sciences 57(1): 24-34.) ГЛАВА 13. Непараметрическая статистика Основа статистического анализа - оценка параметров распределения, то есть оценка свойств генеральной совокупности по информации, полученной из вы борки, взятой из этой совокупности. Многие из самых обычных статистических методов полагаются на то, что исследуемое распределение принадлежит к како му-то известному типу, например оно нормальное, чтобы выводы, сделанные по результатам теста, были осмысленными; эти методы называются параметричес кими1. Но что же делать, если вы знаете или подозреваете, что генеральная со вокупность отнюдь не подходит под требования определенного статистического теста? В таких ситуациях используют другой набор статистических методов, на зываемых пспараметрическими. Они не зависят от распределения, то есть делают мало или не делают вовсе никаких предположений о свойствах распределения данных; некоторые говорят, что они зависят от распределения меньше, поскольку отдельные непараметрические тесты все-таки требуют выполнения определен ных требований к распределению генеральной совокупности, но в целом они ме нее строгие, чем в случае параметрических тестов. Нспарамстрические статистики часто применяют при исследовании данных, если их получали скорее как ранги, а не как чистые значения, или же при тести ровании значения заменяются на ранги из-за опасений по поводу распределения сырых данных. Ранговые данные, по определению, являются порядковыми, что обсуждается в главе 1, и их нельзя анализировать методами, предназначенными для интервальных или характеризующих отношения данных. Знакомым приме ром может служить ранжирование класса по баллам2: учеников в школе можно ранжировать по баллам, и хотя мы можем быть уверены в порядке их следования ii списке (студент № 1 всегда имеет более высокий балл, чем студент № 2), мы не можем быть уверены в промежутке между рангами (эти студенты могут иметь как и почти идентичный балл, так и сильно различающийся). Если ваше исследование предполагает использование определенной парамет рической статистики, но данные не подходят под ее требования, то часто можно Потому что они используют оценки параметров наперед .'заданного распределения. - Прим. пер. 2 В Америке п других западных странах нахождение в вершине списка класса - очень важное дости жение при, например, поступлении в университет, поэтому всем знакомо ранжирование учеников но баллам. - Прим. пер. Независимые выборки 333 применить непараметрический аналог. Существует множество непараметричес ких статистик, кроме нескольких, описанных в этой главе, и учебник Вилльяма Коновера (William Conover) «Практическая непараметрическая статистика» (Practical Nonparametric Statistics), упомянутый в приложении С, включает схе му, помогающую выбрать непараметрический тест для вашей комбинации данных и статистической задачи. Кроме того, вы можете найти такую схему и в Интернете; ссылка на ее вариант от министерства здравоохранения (Department of Health) Великобритании при ведена в приложении С. В этой главе представлены медианный критерий, U-критсрий М анна-Уит ни (M ann-W hitney U test), ранговый парный критерий Вилкоксоиа (Wilcoxon matched pairs signed rank test), тест Краскелла-Уоллиса (Kraskal-W allis test) и тест Фридмана (Friedman test). Несколько непараметрических тестов приведены в гла ве 5, включая тест хи-квадрат (chi-square test), точный тест Фишера (Fisher’s exact test), тест МакНемара (McNemar’s test), фи (phi), V Крамера (Cramer’s V), корре ляция Спирмена (Spearman’s correlation), гамма Гудмана и Краскела (Goodman and Kruskal’s gamma), тау Кендалла (Kendall’s tau) и d Сомерса (Somers’s d). Ме диана и межквартильный размах, которые часто используют при отличном от нор мального распределении, обсуждаются в главе 4. Непараметрические методы более робастные, чем их параметрические аналоги, то есть на них слабее влияют отклонения от предположений модели или необычные значения в выборке (такие как выбросы), но обычно менее мощные, чем параметри ческие критерии. Из-за этого в том случае, если ваши данные подходят под парамет рический критерий, используйте его; если же это не так, то используйте непарамет рический метод (или преобразуйте данные, как описано в главе 3). Независимые выборки В этом разделе описаны некоторые часто использующиеся непараметрические критерии для сравнения независимых выборок, в общем основанные на ранговой сумме и ранговом среднем. Тест ранговой суммы Вилкоксона Для описания порядковых данных используют две основные статистики: ранго вая сумма и ранговое среднее. Рассмотрим следующий пример их использова ния. Отборочный комитет Олимпийских игр должен выбрать лучшую команду по тэквондо из двух штатов (Калифорния и Невада), чтобы она представляла Соединенные Штаты. Поскольку, кроме индивидуальных зачетов, будут и груп повые, к которым члены команд готовились вместе, команды нельзя перемеши вать, чтобы получить составную команду из самых лучших спортсменов; вместо этого необходимо выбрать одну или другую команду как целое. Каждый член ко манд получил общий балл за свое выступление, основанный на числе кирпичей, который он сумел разбить за пять минут тестирования. Результаты приведены в табл. 13.1. 334 Глава 13. Непараметрическая статистика О Таблица 13.1. Результаты членов команд по тэквондо из двух штатов Калифорния Невада 4 2 5 3 6 3 6 4 7 4 8 5 9 10 9 10 9 11 9 11 Более высокий балл указывает на более хорошие навыки (разбил больше кирпи чей). Попытка проанализировать результаты на глаз дается трудно; баллы членов команды Калифорнии более сходны и сгруппированы в более узком диапазоне, тог да как результаты невадцев более разбросаны и включают как очень высокие, так и очень низкие баллы. Поскольку четыре спортсмена с самыми высокими балла ми - выходцы из Невады, у вас может появиться соблазн выбора этой команды, но медиана для нее составляет всего лишь 4,5, тогда как у Калифорнии она равна 7,5. Нет никаких оснований предполагать, что данные происходят из нормально го распределения, а объем выборки в 10 человек не дает возможности применить центральную предельную теорему. Также мы не можем считать, что данные равно интервальные; хотя два кирпича - это однозначно больше, чем один, мы не можем быть уверены, что у сумевших разбить два кирпича навыки по тэквондо в два раза лучше. (На самом деле подобная интерпретация наверняка была бы неправиль ной.) Нам гораздо удобнее думать, что разбить два кирпича - лучше, чем один, без уточнения, насколько лучше. Самым подходящим способом описания таких данных являются ранги, а от нюдь не значения. Мы припишем ранг каждому испытуемому и просуммируем все ранги для каждой из команд. Для подсчета рангов обе команды объединяют, каждый член каждой команды нумеруется по возрастанию (более высокий ранг означает большее число разбитых кирпичей). Таблица 13.2 показывает, как про ходит этот процесс. Таблица 13.2. Ранжирование членов команд Калифорния Невада Ранг 2 1 3 2 3 4 3 4 4 5 4 6 335 Независимые выборки Калифорния Невада Ранг 7 5 5 8 6 9 6 10 7 11 8 12 9 13 9 14 9 15 16 9 10 17 10 18 11 19 11 20 А что с равными значениями? Везде, где мы их увидели, следует вместо обыч ного ранга подсчитать средний ранг как сумму рангов этих значений, деленную на число равных значений; например, равные второе и третье значения оба получат ранг 2,5. Таблица 13.3 показывает новые ранги с учетом равных значений. Таблица 13.3. Ранги для оценок выступления борцов тэквондо с учетом равных значений Калифорния Невада Ранг 2 1 3 2.5 3 2.5 5 4 4 4 5 5 7.5 5 5 7.5 6 9.5 6 9.5 7 11 8 12 9 14.5 9 14.5 9 14.5 14.5 9 10 17.5 10 17.5 11 19.5 11 19.5 336 Глава 13. Непараметрическая статистика L:’: Затем для каждой группы вычисляют сумму рангов, складывая соответствую щие ранги, как показано на рис. 13.1. 2 "(Калифорния) = 5 + 7.5 + 9.5 + 9.5 +11 +12 +14.5 +14.5 +14.5 +14.5 = 112.5 2 r (Невада) =1 + 2.5 + 2.5 + 5 + 5 + 7.5 + 17.5 + 17.5 + 19.5 + 19.5=97.5 Рис. 13.1. Расчет суммы рангов Если группы приблизительно равны, мы бы ожидали, что суммы рангов будут приблизительно одинаковы. Это сравнение честно только в том случае, когда у нас равны объемы выборок, как в данном примере. Кроме того, мы можем под считать средние рангов - более хорошая статистика для групп разных размеров, как показано на рис. 13.2. R {Калифорния) = —~ — = 11.25 97.5 R (Невада) = ------ = 9.75 ________________________ 10___________________________________ Рис. 13.2. Расчет средних рангов Сравнение средних рангов дает нам ответ, что команда Калифорнии высту пила лучше, чем команда из Невады. Таким образом, используя ранговые мето ды, отборочный комитет должен выбрать команду из Калифорнии, поскольку их средний ранг выше. Что же делать, если мы хотим проверить, достоверно ли отличие между командами? Мы можем использовать Z-критерий для определе ния, является ли различие между двумя группами достоверным на стандартном уровне значимости 0,05. По нулевой гипотезе у этих двух групп средние ранги равны, так что мы можем рассчитать ожидаемую сумму рангов, как показано на рис. 13.3: Рис. 13.3. Расчет ожидаемой суммы рангов где пЛи п2 - это объемы первой и второй выборок соответственно. Обратите внимание, что ожидаемая сумма рангов никак не зависит от зна чений элементов выборок, только от их числа; если у вас есть две группы по 10 образцов в каждой, то ожидаемая сумма рангов всегда будет 105. В последнем примере вы можете видеть, что у одной группы (Калифорния) сумма рангов выше ожидаемой, а у другой (Невада) - ниже. Z-критерий можно вычислить на основании среднего и стандартного отклонения W, как показано на рис. 13.4. Независимые выборки 337 W -fiw Рис. 13.4. Формула для расчета рангового Z-критерия В этой формуле W - это меньшая из двух сумм рангов, р ц/ - это ожидаемая сумма рангов, которую мы рассчитали ранее, a g w - это стандартная ошибка3, рас считываемая по формуле на рис. 13.5. °w = 1 п , п 2(и , + п 2 + 1) 10(10X10 + 10 + 1) 12 12 = 13.23 Рис. 13.5. Расчет оценки стандартного отклонения для рангов В этой формуле пх\ \ п2~ это объемы выборок в первой и второй группах соот ветственно, а 12 - это константа. Обратите внимание, что стандартное отклонение рангов зависит только от объемов выборок, но не от значений их элементов. Статистика Z-критерия для этих данных рассчитывается, как показано на рис. 13.6. 97.5-105 13.23 -0.57 Рис. 13.6. Расчет Z-критерия для рангов Используя стандартную таблицу значений нормального распределения (рис. D.3 в приложении D), мы видим, что у такого результата p -значение выше, чем 0,05; таким образом, мы не можем отвергнуть нулевую гипотезу. В данном случае мы использовали нормальное приближение для критерия сум мы рангов Вилкоксона, поскольку и п] > 10 и п2> 10. Для меньших объемов выбо рок следует рассчитывать суммы рангов для каждой группы, как мы это и делали, а затем сравнивать значения сумм с таблицей вероятностей различных значений Т. Такая таблица доступна здесь: http://bit.lv/TfK w oR. U-критерий Манна-Уитни, который выдаст ту же Z-статистику для заданного набора данных, тоже используется для такого типа данных. Оба критерия можно использовать вместо двухвыборочного ^-критерия, если нет уверенности в нор мальности данных. Критерий знаков Критерий знаков - это непараметрический аналог одновыборочного ^-критерия, и он используется для проверки, равняется ли медиана выборки заданному зна чению. Часто тест знаков использует ранги и биномиальное распределение для проверки гипотез о дихотомических данных, то есть данных только с двумя воз можными значениями. Значения данных делятся на две группы: выше (+) или з В принципе, стандартная ошибка и стандартное отклонение, как эго названо ранее и позднее, - это не одно и то же. - Прим. пер. Глава 13. Непараметрическая статистика 338 ниже (-) , чем предполагаемая медиана; число элементов со значением выше этой медианы - это я+, а со значением ниже - п -. По нулевой гипотезе выборка взята из распределения с заданной медианой; в таком случае эта классификация задает биномиальное распределение с я = 0,5; каждое значение рассматривается как по пытка, н результат - это + или - , а каждый из вариантов имеет вероятность 0,5. Обратите внимание, что я (греческая бука «пи») - это обозначение вероятности в генеральной совокупности, а р - вероятности в выборке. Тест знаков использует биномиальное распределение для нахождения вероятности наблюдаемого резуль тата в том случае, если нулевая гипотеза верна. Поставьте себя на место медика-исследователя, изучающего новое метаболи ческое заболевание, временно называемое диабет типа X. Похоже, что диабет ти па X проявляется позже (то есть возраст появления первого симптома у больного выше), чем у диабета второго типа; медианный возраст проявления у последнего составляет 35,5 лет. Ваша нулевая гипотеза состоит в том, что я < 0,50, то есть не более чем у 50% людей с диабетом типа X болезнь проявляется в возрасте 35,5 лет пли позднее; альтернативная гипотеза состоит в том, что я > 0,50, то есть более чем у 50% больных диабетом типа X болезнь проявляется после 35,5 лет. В исследуе мой выборке 40 пациентов с диабетом типа Х } у 36 болезнь проявилась в возрасте после 35,5 лет: п+ = 36. Вы используете нормальное приближение биномиального распределения с поправкой на непрерывность, чтобы узнать, насколько вероятен такой результат при уровне значимости 0,05 и верна ли нулевая гипотеза. Расчеты приведены на рис. 13.7. z ( X ±0.5) - п р ( 3 6 - 0 .5 ) -[(40X0.5)] 15.5 Vп р ( \ - р ) ^40(0.5X0.5) л/ш Рис. 13.7. Вычисление статистики теста знаков Здесь X - это число наблюдаемых величин выше медианы (и+), 0,5 - это по правка на непрерывность (отрицательная в данном случае, поскольку наша гипо теза говорит, что я > 0,5), пр - это медиана биномиального распределения (ожи даемое значение X, если верна нулевая гипотеза), ^пр{\ - р ) - это стандартное отклонение биномиального распределения, а п - объем выборки. Используя стандартную таблицу нормального распределения (рис. D.3 в при ложении D), вы видите, что вероятность такого результата составляет 0,00002, что гораздо меньше, чем уровень значимости 0,05, так что вы отвергаете нулевую ги потезу о том, что возраст проявления диабета типа X равен или ниже такового для диабета второго типа. Медианный критерий Дальнейшие исследования метаболизма в вашей лаборатории дают основания по лагать, что диабет типа X может быть поделен на два подтипа - тип Х ] и тип Х г и поднимают вопрос о том, не ассоциированы ли эти подтипы с возрастом проявле ния. Вы решили исследовать выборку из других 40 человек, 20 из которых предва- Независимые выборки 339 рительно получили диагноз подтипа^,, а другие 20 - Х 2. Вы решаете использовать медианный критерий, разделяющий испытуемых из обеих выборок на две груп пы - выше или ниже медианы для объединенной выборки (с испытуемыми из обе их групп). В данном случае медиана объединенной выборки составляет 36,4 года; вы решаете использовать уровень значимости 0,05 и провести двухсторонний тест, поскольку вам будет интересна разница в возрасте в обе стороны. В группе с подтипом X, у 12 испытуемых возраст выше медианного, а у 8 ниже. Из группы с подтипом Х 2 у 9 испытуемых возраст был выше медианного, а у 11 - ниже. Нулевая гипотеза состоит в том, что п у двух групп равны. Если у какого-то испытуемого возраст равен медианному, данные о нем не используются в анализе. В табл. 13.4 приведены все частоты. Таблица 13.4. Частоты встречаемости возрастов у больных диабетом типах, итипаХ2 Выше медианы Ниже медианы В сумме ТипХ1 12 8 20 Тип Х 2 9 11 20 21 19 40 В сумме Для проверки значимости различий в этих данных можно использовать тест хи-квадрат на независимость (обсуждается в главе 5). Можно применить форму лу для быстрого вычисления х2>в которой ячейки описываются как в табл. 13.5, а затем найти вероятность получившегося хи-квадрата при нулевой гипотезе о не зависимости (испытуемые из каждой совокупности с равной вероятностью имеют возраст ниже медианного). Таблица 13.5. Значения ячеек для теста хи-квадрат на независимость Тип Сумма по столбцам Выше медианы Ниже медианы Сумма по строкам а с b а +Ь d c + d а +с b +d п Так выглядит расчет хи-квадрата на основе этих данных: 2_ n ( a d - b c ) 2________________ 40[(12 х 11) - ( 8 х 9)]2 _ Q9Q2 Г (а + Ь)(с + d)(a + c)(b + d) (12 + 8)(9 + 1 1)(12 + 9)(8 + 11) Используя таблицу для распределения хи-квадрат (рис. D.l 1 в приложении D), находим, что при одной степени свободы наш результат (x2Q: = 0,902) можно по лучить с вероятностью больше 0,10. Таким образом, мы не можем отвергнуть ну левую гипотезу и заключаем, что наше исследование не дало оснований полагать разницу в возрасте проявления для диабета типа X, и типа Х г 340 Глава 13. Непараметрическая статистика t >J Н-критерий Краскела-Уоллиса Н-критсрий Краскела-Уоллиса - это непараметрический аналог однофакторного дисперсионного анализа. Также можно его считать расширением критерия суммы рангов Вилкоксона для более чем двух групп. Этот критерий проверяет гипоте зу о равенстве медианы нескольких групп и не требует одинакового объема всех выборок. Предположим, вы хотите сравнить успешность работы трех команд про давцов, одной - из шести человек, а двух - из пяти. Наша задача состоит в выборе лучшей команды на основании ее недавних успехов. Их продажи за последний квартал (в тысячах долларов) приведены в табл. 13.6. Таблица 13.6. Квартальные продажи в тысячах долларов Команда А Команда Б Команда В 10 8 6 10 8 8 12 9 10 13 9 14 14 14 15 15 Нашим первым шагом будут ранжирование индивидуальных суммарных про даж без учета принадлежности к группе и присвоение ранга в случаях равных зна чений, как показано в табл. 13.7. Таблица 13.7. Ранжированные квартальные продажи Команда А Команда Б Команда В Ранг 6 1 8 3 8 3 8 3 9 5.5 9 5.5 10 10 8 8 10 8 12 10 13 11 14 13 14 15 13 14 13 15 15.5 15.5 Зависимые выборки 341 Мы используем Н-критерий Краскела-Уоллиса с уровнем значимости 0,05, чтобы проверить, есть ли достоверные различия между работой этих грех групп. Формула для этого критерия приведена на рис. 13.8. Рис. 13.8. Формула для Н-критерия Краскела-Уоллиса В этой формуле N - это суммарный объем выборки (во всех трех выборках вместе), я. - это объем /-й выборки, Т - это сумма рангов i-й выборки, а 12 и 3 - это константы. Как рассчитать Т. для выборок, показано на рис. 13.9. 2 А 2 В 8 + 8 + 10 + 11 + 13 + 15.5 =65.5 3 + 3 + 5.5 + 5.5 + 13 = 30 2 С 1 + 3 + 8 + 13 + 15.5 = 40.5 Рис. 13.9. Расчет суммы рангов Подставим эти значения в формулу для Н-критерия Краскела-Уоллиса, как по казано на рис. 13.10. Я = 12 40.52 16(16 + 1) 5 -3 (1 6 + 1) = 2.96 Рис. 13.10. Расчет Н-критерия Краскела-Уоллиса Для проверки значимости полученного значения хи-квадрат мы сравниваем его со значением хи-квадрата с двумя степенями свободы (на один меньше числа групп) из приложения D. Наше значение ниже табличного (5,991) для уровня значимости 0,05 и df= 2, так что мы не можем отвергнуть нулевую гипотезу о равенстве медианы всех трех групп. Зависимые выборки В этом разделе мы рассмотрим несколько часто используемых непараметрических тестов для зависимых выборок. Парный критерий Вилкоксона Парный критерий Вилкоксона (Wilcoxon Signed Rank Test) можно использовать как непараметрический аналог парного ^-критерия. Он подходит для тех ситуа Глава 13. Непараметрическая статистика 342 ций, когда данные представлены как парные измерения, то есть, к примеру, до и после воздействия для одного и того же испытуемого или измерения братьев и сестер или мужей и жен. Нулевой гипотезой для этого теста обычно является то, что средняя разница между членами пары равна 0. Парный критерий Вилкоксона не предполагает нормальности, но для него необходимо хотя бы симметричное распределение, так что нельзя применять его в случае очень асимметричных рас пределений. Положим, нас интересует влияние упражнений на умственную деятельность и настроение. У нас есть выборка из 40 малоподвижных взрослых, которые добро вольно участвуют в программе упражнений и проходят через набор физиологи ческих тестов до начала программы и после ее завершения. В данном конкретном исследовании нас интересует 100-балльная шкала настроения, в котором 0 соот ветствует апатии, а 100 - сильному эмоциональному переживанию. Мы анализи руем настроение членов выборки до начала программы и после нее. Мы проведем двухсторонний тест с нулевой гипотезой об отсутствии разницы между настрое нием до и после упражнений с уровнем значимости 0,05. В табл. 13.8 мы приводим выдержку из данных этого исследования для иллюст рации процесса расчета этого критерия. (Процесс довольно механистичен и вклю чает процедуру ранжирования, обсужденную ранее.) Для каждой пары значений мы рассчитываем разницу и ее абсолютное значение. Мы ранжируем абсолютные значения разницы, а затем уже снова приписываем им знак. Если для какого-то испытуемого разница равна 0, то он исключается из исследования, а если есть оди наковые значения разностей, то им будет соответствовать средний ранг (то есть если у испытуемых с рангами 3, 4 и 5 значения разностей равны, то мы припишем им всем ранг 4). Таблица 13.8. Упражнения и настроение Испытуемый До упраж После Разница Модуль нений упражнений (после - до) разницы 1 60 68 Ранг модуля разницы Ранг со знаком 5 8 8 5 2 65 70 5 5 3 3 3 52 50 -2 2 1 -1 4 74 85 11 11 6 6 5 65 60 -5 5 3 -3 40 70 77 7 7 4 4 В пяти случаях разница равнялась 0, так что после удаления этих испытуе мых п = 35, что является достаточно большой выборкой (эмпирическое правило: п > 25), чтобы использовать приближение парного теста Вилкоксона для больших выборок для получения Z-значения, вероятность которого мы можем определить, используя стандартную таблицу нормальных значений. Сумма положительных рангов равняется 380. Зависимые выборки 343 После удаления пар равных значений у нас есть 35 пар, так что мы рассчитыва ем нормальное приближение парного критерия Вилкоксона, используя формулу с рис. 13.11. Рис. 13.11. Парный критерий Вилкоксона для больших выборок В данной формуле Т* - это сумма положительных рангов, п - это число пар, а 4 и 24 - константы. Обратите внимание на сходство с Z-статистикой: п(п + 1) --------------это ожидаемая сумма рангов, а //?(л! -+- 1)(2лг +1) - это стандартная ошибка, так что эта формула сравнивает значения, которые мы получили из нашей выборки, с ожида емым (аналогичным математическому ожиданию генераль ной совокупности) и делит разницу на меру разброса. Использование наших значений дает результат, показанный на рис. 13.12. 24 т+ , оп 35(35 + 1) 380 - — ---------4 |35(35 + 1)(70 + 1) п ( п + 1) 4 п(п + 1)(2 п +1) z — i 24 ll i об 24 Рис. 13.12. Расчет парного критерия Вилкоксона для больших выборок с подставленными значениями Используя стандартную таблицу значений нормального распределения (рис. D.3 в приложении D), мы находим вероятность получить такое значение, как 0,28914, и оно значительно выше нашего уровня значимости в 0,05, так что мы не можем отвергнуть нулевую гипотезу. Если бы у нас был меньший набор данных (п < 25), то мы бы использовали вариант парного критерия Вилкоксона для малых выборок. Для него вам надо так же, как и в случае критерия для больших выборок, присвоить каждой паре зна чений ранг со знаком, а затем рассчитать сумму как положительных рангов ( F ), так и отрицательных (Г ). Затем вам надо будет сравнить эти значения с таблицей критических значений для парного критерия Вилкоксона. (Такая таблица есть в статье Вилкоксона [1957], процитированной в приложении С, а ее версии доступ ны в книгах по статистике и в Интернете: http://facultyweb.berrv.edu/vbissonnette/ Глава 13. Непараметрическая статистика 344 tablesAvilcox_t.pdf.) В случае двухстороннего теста вы отвергаете нулевую гипо тезу в том случае, если Т или Т ниже критического значения, приведенного в таблице для вашего объема выборки. Тест Фридмана Тест Фридмана - это расширение парного теста Вилкоксона для нескольких свя занных выборок; также можно его воспринимать как непараметрический ана лог дисперсионного анализа для зависимых выборок. Положим, нас попросили оцепить уровень физической подготовки команды борцов тэквондо. Заставляет задуматься следующая вещь: поскольку на соревнованиях спортсменам может потребоваться выступить много раз за несколько часов, необходимо исследовать, способны ли они сохранять высокий уровень своего выступления на протяжении длительного времени. Мы проводим тренировочное соревнование и оцениваем качество выступления каждого спортсмена по десятибалльной шкале (10 - это ве ликолепное выступление, а 0 - провальное) после одного часа соревнований, двух часов и трех часов. Мы считаем, что такая шкала порядковая (9 - это выше, чем 8), по не равпоинтервальная или абсолютная. (Мы не знаем, одинаково ли отличие между 8 и 9 и между 7 и 8 и в два ли раза лучше выступление с оценкой 8, чем с оценкой 4.) Таким образом, мы будем проводить тест Фридмана для исследования изменений в уровне мастерства спортсменов за три периода времени. Наша нуле вая гипотеза состоит в том, что они выступают одинаково хорошо в течение всех трех часов, и мы проводим двухсторонний тест с уровнем значимости 0,05. Данные этого исследования приведены в табл. 13.9. Таблица 13.9. Выступление спортсменов на спарринге в ходе трех часовых периодов Спортсмен 1 час 2 часа 3 часа 1 9 8 7 2 9 7 8 3 6 8 7 4 8 7 6 5 8 7 6 6 9 8 7 7 9 8 7 8 7 5 6 Первым действием должно быть ранжирование выступлений каждого атлета; например, для спортсмена 1: самый низкий балл он получил после третьего часа, средний - после второго, а самый высокий после первого. Эти ранги приведены в табл. 13.10. Кроме того, обратите внимание на последнюю строку, содержащую суммы рангов для каждого временного промежутка. Зависимые выборки 345 Таблица 13.10. Ранжирование выступлений каждого спортсмена после трех периодов по часу Спортсмен 1 час 2 часа 3 часа 1 3 2 1 2 3 1 2 3 1 3 2 4 3 2 1 5 3 2 1 6 3 2 1 7 3 2 1 8 3 1 2 Сумма рангов 22 15 11 Формула для расчета критерия Фридмана приведена на рис. 13.13. Рис. 13.13. Формула критерия Фридмана В этой формуле b - объем выборки, t - это число измерений каждого испытуе мого, s. - это сумма рангов для каждого периода, а 12 и 3 - константы. В нашем примере b = 8, t = 3, а значения для s. - это 22, 25 и 11. Подставив эти значения в формулу, получаем результат, показанный на рис. 13.14. Рис. 13.14. Расчет критерия Фридмана Эта статистика имеет распределение хи-квадрат с двумя степенями свободы (df= t - 1 = 2 ) . Используя рис. D.11 из приложения D, видим, что критическое значение для такого распределения с уровнем значимости 0,05 составляет 5,991; наша статистика превосходит это число, так что мы отвергаем нулевую гипотезу об отсутствии отличий между выступлениями в разные промежутки времени. Судя по исходным данным, качество выступлений со временем падает у большинства спортсменов, это значит, что им следует уделить больше времени тренировкам. Использование теста Фридмана не ограничивается измерениями, разделен ными временем, его также можно применять для оценки влияния лекарств или в любой другой экспериментальной ситуации, где необходим непараметрический подход. Глава 13. Непараметрическая статистика 346 Упражнения Вот несколько упражнений, чтобы вспомнить темы, обсужденные в этой главе. Задача Положим, вы хотите провести тест Фридмана, но обнаруживаете, что в данных есть совпадающие значения. К примеру, некоторые спортсмены из примера про выступление команды по тэквондо в трех промежутках времени получили по вторяющиеся баллы. В таком случае у вас появилась необходимость использовать средние ранги для этих испытуемых. В табл. 13.11 приведены результаты 8 спорт сменов по шкале, обозначающей успешность выступления; измерения были сдела ны после одного, двух и трех часов тренировочного соревнования. Проведите тест Фридмана для этих данных, используя нулевую гипотезу о постоянстве качества выступления спортсменов в течение этих трех часов с уровнем значимости 0,05, и решите, принять нулевую гипотезу или отвергнуть. Для равных значений задайте средний ранг; то есть для баллов (6, 6, 5) ранги будут (2,5, 2,5, 1). Таблица 13.11. Успешность выступления спортсменов на спарринге в трех промежутках времени (с равными значениями) Спортсмен 1 час 2 часа 3 часа 1 8 8 6 2 6 6 7 3 7 6 8 4 8 7 6 5 9 9 7 6 9 8 7 7 8 7 6 8 8 7 7 Решение В табл. 13.12 приведены рассчитанные ранги и суммы рангов. Таблица 13.12. Ранги успешности выступления на спарринге в трех часовых промежутках времени (с равными значениями) Спортсмен 1 час 2 часа 3 часа 1 2.5 2.5 1 2 1.5 1.5 3 3 1 3 2 4 3 2 1 5 2.5 2.5 1 6 3 2 1 Упражнения 347 Спортсмен 1 час 2 часа 3 часа 7 3 2 1 8 3 1.5 1.5 Сумма рангов 19.5 17 11.5 Расчет критерия Фридмана показан па рис. 13.15. Рис. 1 3 .1 5 . Расчет критерия Фридмана с равными значениями Есть две степени свободы (d f = t - 1). Из таблицы значений распределения хи-квадрат (рис. D.11 в приложении D) мы видим, что критическое значение для уровня значимости 0,05 при df= 2 составляет 5,991; наша статистика меньше этой величины, так что мы не можем отвергнуть нулевую гипотезу. Задача Маркетолог интересуется сбором информации о демографии фанатов различ ных футбольных команд. Поскольку часто разрабатывают специальные марке тинговые кампании для разных возрастных групп, важным является определение медианного возраста болельщика определенной команды. Вы отвечаете за статис тику в этом проекте, и вы набираете случайную выборку членов клуба фанатов одной из двух команд (Л и Б)\ вы собираете по телефону данные об этих людях, включая их возраст. Вы определили, что общий медианный возраст (в обеих груп пах вместе) равен 27,5 года, и разделяете болельщиков на старшую и младшую половины, проведя границу по медиане. Ваши данные приведены в табл. 13.13. Если вы проводите исследование с нулевой гипотезой об отсутствии различий в медианном возрасте между двумя группами с уровнем значимости 0,01, каково будет ваше решение? Таблица 1 3 .1 3 . Сравнение возрастов болельщиков двух футбольных команд Команда Выше медианы Ниже медианы Сумма по строкам А 30 70 100 Б 60 40 100 Сумма по столбцам 90 110 200 Решение Вы решили использовать медианный тест, поэтому рассчитали значение хиквадрата для данных, проверяя нулевую гипотезу о независимости (поскольку ра венство медиан возрастов болельщиков обеих команд означает, что возраст не свя зан с тем, за какую команду человек болеет). Вы используете быструю расчетную Глава 13. Непараметрическая статистика 348 формулу для вычисления х2, использованную в разделе этой главы про медианный тест, и сравниваете ваши результаты с критическим значением распределения хиквадрат. Расчеты приведены на рис. 13.16. , ________ n ( a d - b c ) 2________ 200[(30 х 40) - (70 х 60)]2 * ~ (a + b)(c + d )(a + c)(b + d) ~ Р ис. 1 3 .1 6 . (100)(100)(90)(110) Расчет хи-квадрата для медианного критерия Из таблицы значений хи-квадратов (рис. D.11 в приложении D) вы видите, что значение для d f = 1 и уровня значимости 0,01 составляет 9,210. Ваша статистика теста больше, чем это число, так что вы отвергаете нулевую гипотезу о равенстве медиан возрастов болельщиков двух команд. Результат: х2 = 18,18, р < 0,01. Пос мотрев на таблицу с данными, вы видите, что фанаты команды А в целом, видимо, моложе, чем болельщики команды Б, поскольку только 30% фанатов команды А старше медианного возраста, в отличие от 60% более старших болельщиков ко манды Б. ГЛАВА 14. Статистика для бизнеса и контроля качества Многие статистические методы, используемые в бизнесе и контроле качества, ос нованы на базовых приемах, включая тест хи-квадрат (обсуждаемый в главе 5), тест Стыодента (глава 6), регрессию и дисперсионный анализ (главы с 8 по 11). Однако для достижения специфических целей бизнеса и контроля качества раз работаны другие методы, которые станут предметом обсуждения в этой главе. Индексы Индексы часто используются в бизнесе, чтобы измерить изменения во времени количества или цены определенного товара или набора товаров и услуг. Один ши роко известный пример - это индекс потребительских цеп (ИПЦ), который равен средней цене определенного количества товаров и услуг, которое считается ти пичным для американской семьи. В США этот индекс вычисляется ежемесячно статистическим управлением министерства труда; этот показатель используется для оценки уровня инфляции и расчета прибавок к заработной плате и пенсии. Хотя ИПЦ много критикуется, он оказался весьма эффективным в качестве обоб щенного показателя средней стоимости жизни и позволяет сравнивать этот по казатель в разные эпохи и в разных регионах. ИПЦ или сходный индекс также вычисляется в Канаде, Китае, Израиле, Новой Зеландии, Австралии и многих ев ропейских странах. Вычисление индексов может быть очень простым (если индекс отражает изме нение цены или количества товара) или очень сложным (когда индекс отражает взвешенное среднее для ряда товаров и услуг, как это происходит в случае ИПЦ). Простой числовой индекс выражает изменение во времени цены или количества одного товара, такого как число телевизоров, проданных за одну унцию золота. Для вычисления простых индексов нужно выбрать базисный период, который используется для сравнения. Индекс будет характеризовать изменения цепы или количества по отношению к этому базисному периоду. При вычислении простого индекса необходимы три этапа: 1. Узнать цену или количество товара в интересующий нас отрезок времени. гн 350 Глава 14. Статистика для бизнеса и контроля качества 2. Выбрать базовый период и узнать цепу или количество для того года. 3. Вычислить значение индекса для каждого периода времени, используя формулу, приведенную на рис. 14.1. Рис. 1 4 .1 . Формула для вычисления простого индекса Здесь 1( = индекс в момент времени t, Y( = цена пли количество в момент времени t, а Y{) = цена или количество в базисный период. Предположим, мы хотим провести мониторинг состояния автомобильной про мышленности в США за последние 20 лет. В рамках этого исследования мы можем создать индекс, который отражает число собираемых за год автомобилей, по срав нению с первым годом. Если у нас есть данные за 1986-2005 годы, то 1986 год бу дет базисным, а число автомобилей, произведенных в этом году, будет обозначено как У(). Рассмотрите табл. 14.1, в которой приведены малые вымышленные числа для иллюстрации вычисления простого индекса. Таблица 1 4 .1 . Данные для вычисления простого индекса Год Число выпущенных автомобилей 1985 5 000 2005 4 000 Вычисление индекса для этих данных показано на рис. 14.2. Р и с. 1 4 .2 . Вычисление простого индекса Индекс, равный 100, свидетельствует о том же количестве или цене, как в ба зовый период. Индекс, превышающий 100, говорит о снижении количества или цены, а индекс больше 100 означает увеличение количества или цены, по сравне нию с базовым периодом. Одно из существенных преимуществ индексов состоит в том, что они позволяют сравнивать характеристики, выраженные в разных ве личинах и с разным размахом величин. Например, используя индексы, мы можем легко сравнить относительное снижение или увеличение продукции автомобилей, мотоциклов и велосипедов за определенный период времени. Составной индекс совмещает информацию о цепе или количестве нескольких ти пов товаров или услуг. Например, мы можем подсчитать количество пива, продавае мого в Шотландии тремя крупнейшими пивоваренными компаниями, как сумму количества нива, проданного каждым изготовителем. Если мы будем производить эти подсчеты в течение нескольких лет и выберем один год в качестве базового 351 Индексы периода, мы может вычислить значение индекса для каждого года, так же, как мы делали для простого индекса в предыдущем примере. Этот тип индекса называется простой составной индекс, поскольку он вычисляется путем объединения информа ции из разных источников без использования какого-либо способа взвешивания. Если при вычислении индекса мы используем некоторый тип взвешивания, такой индекс называется взвешенным сложным. Индексы цен часто взвешены, например в соответствии с количеством проданных товаров. Есть несколько спо собов проведения взвешивания, поскольку количество купленных товаров может меняться в зависимости от выбранного периода времени, и выбор весов может су щественно повлиять на вычисленное значение индекса. Однако как только прави ла взвешивания определены, вычисления становятся очень простыми. Для каждо го периода времени рассчитывается общая цена, и индексы для каждого периода времени вычисляются аналогично простым индексам. При вычислении индекса Ласпейреса (Laspeyres) значения параметров в тече ние базового периода используются в качестве весов, так что инфляция или де фляция измеряется для заданной корзины товаров или услуг. ИПЦ - это пример индекса Ласпейреса; величины, используемые для определения весов, основаны на исследованиях покупок более чем 30 000 семей с 1982 по 1984 год. Этапы вы числения Ласпейреса таковы: 1. Собрать информацию о ценах (P lf, Р2/, ..., Pkf) для каждого периода времени для каждого наименования товара (с 1 по k), которые будут включены в индекс. 2. Собрать информацию об объемах покупок (Q ,,, Q.2(, ..., Qk( ) для базового периода для каждого наименования товаров, которые входят в индекс. 3. Выбрать базовый период 4. Вычислить взвешенные суммы для каждого временного периода при помо щи формулы, приведенной на рис. 14.3. к Рис. 14.3. Формула для вычисления взвешенной суммы для определенного периода времени 5. Вычисление индекса Ласпейреса, 1(, посредством деления взвешенной сум мы для каждого периода времени на взвешенное среднее для базового пе риода и умножения на 100, как показано на рис. 14.4. к It к -------- хЮО Рис. 14.4. Формула для вычисления индекса Ласпейреса 352 Глава 14. Статистика для бизнеса и контроля качества В табл. 14.2 приведен простой пример вычисления индекса Ласпейреса для по требительской корзины, содержащей всего два типа товаров. Таблица 14.2. Пример вычисления индекса Ласпейреса Продукт Базовое количество (2 0 0 0 год) Цена в 2 0 0 0 году Цена в 2 0 0 5 году Хлеб 10 1.00 1.50 Молоко 20 2.00 4.00 Взвешенное среднее для 2000 года составляет: (10 х 1,00)+ (20 x 2,00) = 50,00. Для 2005 года взвешенное среднее равно: (10 х 1,50)+ (20 x 4,00) = 95,00. Индекс Ласпейреса для этой потребительской корзины в 2005 году при исполь зовании 2000 года в качестве базового периода вычисляется так, как показано на рис. 14.5. 72005 = 50 = 190 Рис. 14.5. Вычисление индекса Ласпейреса При вычислении индекса цеп Паате (Paasche) используются взвешенные суммы с учетом количества товаров, приобретенных в каждый период времени. Преимущество такого подхода заключается в возможности учесть изменения в покупательских предпочтениях. Например, если цена товара возрастает, то люди начинают реже его покупать и переключаются на менее дорогие аналоги. Напри мер, если цена говядины растет быстрее, чем цена курятины, то люди будут чаще покупать курицу, а не говядину. Это изменение в предпочтениях покупателей не может быть отражено в индексе Ласпейреса, но учитывается индексом Пааше. Действия при вычислении индекса Пааше сходны с таковыми при вычислении индекса Ласпейреса. Основное различие заключается в том, что нужно собрать информацию об объеме покупок в каждый период времени, и эта информация используется при вычислении взвешенных средних. Для вычисления индекса Пааше необходимо: 1. Собрать информацию о ценах (Ри, Р2(, ..., Pk() для каждого периода времени и каждого наименования (от 1 до k), которые входят в состав индекса. 2. Собрать информацию об объемах покупок для каждого временного отрезка (Q lt, Q2, ..., Qkt) для каждого наименования, входящего в индекс. 3. Выбрать базисный период (£()). 4. Вычислить взвешенные суммы для каждого отрезка времени, используя формулу, приведенную на рис. 14.6. 353 Индексы ia .n z=i Рис. 14.6. Формула для вычисления взвешенных сумм для одного периода времени при помощи индекса Пааше 5. Вычислить индекс Пааше - 10 путем деления взвешенной суммы для каж дого временного отрезка на взвешенную сумму для базового периода и ум ножения на 100, как показано на рис. 14.7. Для вычисления индекса Пааше мы используем данные, приведенные в табл. 14.3. Таблица 14.3. Вычисление индекса Пааше Продукт Количество в 2 0 0 0 году Цена в 2 0 0 0 году Количество в 2 0 0 5 году Цена в 2 0 0 5 году Хлеб 10 1.00 15 1.50 Молоко 20 2.00 15 4.00 Взвешенная сумма для 2000 года составляет: (10 х 1,00)+ (20 x 2,00) = 50,00. В 2005 году взвешенная сумма равна (15 х 1,50) + 15 x4,00) = 82,50. Индекс Пааше для этой корзины товаров в 2005 году с использованием 2000 года в качестве базового периода вычисляется так, как это показано на рис. 14.8. 82 5 / 200с = — “ х ЮО = 165.0 2005 50.0 Рис. 14.8. Вычисление индекса Пааше Обратите внимание на то, что хотя цены в обоих примерах были одинаковыми, разные методы взвешивания привели к значительным различиям в двух значени ях индекса (190 и 165). Преимущество индекса Пааше заключается в возможнос ти сравнивать цены для корзины товаров с учетом объемов их продаж в каждый из временных периодов. Недостаток состоит в том, что нам нужно собирать эту 354 Глава 14. Статистика для бизнеса и контроля качества информацию (количество приобретенных товаров) для каждого отрезка време ни, что может быть недопустимо дорого. Другой недостаток индекса Пааше - по скольку и цены, и востребованность товаров меняются с течением времени, труд но сравнивать индекс Пааше для любых двух временных периодов, если один из них не является базовым. Критика в адрес индекса потребительских цен (ИПЦ) в США ИПЦ - это основной показатель динамики цен в США, который рассчитывается в неко тором виде статистическим управлением министерства труда с 1919 года. Он исполь зуется во многих целях, включая характеристику инфляции и расчет социального посо бия, пенсии и пособия по безработице. Неудивительно, что индекс, используемый для многих целей, подвергается разносторонней критике. К принципиальным возражениям, которые приводят к растущему игнорированию ИПЦ, относят следующие. И з м е н е н и е ка ч е с т в а и и с к а ж е н и е п о к а з а т е л е й и з - з а н е д а в н о п о я в и в ш и х с я товаров ИПЦ не учитывает улучшение качества некоторых товаров, таких как электронные уст ройства. DVD-плеер, который стоит $150 в 2005 году, может быть существенно более качественным и, значит, более ценным для потребителя, чем тот, который стоил $100 в 2000 году, однако это повышение качества не отражено в ИПЦ. Аналогично, посколь ку используется фиксированная потребительская корзина, новые новые товары свое временно не включаются в ее состав в ее состав. В результате снижение цены на на чальной стадии (обычное для новых электронных устройств) не регистрируется этим индексом. С м е щ е н и е результ ат ов в результ ат е з а м е н ы п р о д укт а Использование фиксированной потребительской корзины (весй корректируются один раз в 10 лет) не позволяет зарегистрировать изменение покупательских предпочтений вследствие колебаний цен. Например, если цена мяса растет быстрее, чем цена другой белковой пищи, такой как птица или яйца, покупатели могут в основном перейти на эти продукты, однако такой сдвиг не отразится на значениях ИПЦ. С м е щ е н и е в результ ат е и с п о л ь з о в а н и я к р у п н ы х м а г а з и н о в Поскольку информация о ценах собирается при анализе продаж в обычных универма гах, новые способы продаж, такие как гипермаркеты или интернет-магазины, не доста точно учтены при вычислении ИПЦ. Временное ряды Временные ряды часто используются в бизнес-статистике для отображения из менения величин во времени. Строго говоря, временной ряд - это последователь ность измерений некоторой величины, сделанных в разные моменты времени. Приведенный выше пример с числом автомобилей, произведенных в каждый год с 1986 по 2005, подходит под это определение, так же как и измерения, которые позже обсуждаются в этой главе в разделе, посвященном контрольным картам. Временные ряды могут быть использованы в целях описания или формулировки статистических выводов; последнее включает прогнозирование или предсказание величин для предстоящих периодов времени. Однако читатель должен помнить, Временные ряды 355 что анализ временных рядов - это сложная тема со многими специализированны ми приемами и что в этом разделе у нас есть возможность ввести лииль некоторые термины, проиллюстрировав их несколькими простыми примерами. Всем, кто планирует работать в этой области, следует ознакомиться с учебником по данной теме, такими как книга Роберта С. Шамвэя «Временные ряды и их использование с примерами на языке R» (Robert S. Shumway “Time Series and Its Applications: With R Examples”, изд-во Springer). Учтите, что некоторые авторы, например Та бачник (Tabachnick) и Фидель (Fidell), считают, что правильное использование анализа временных рядов возможно, если у вас есть как минимум 50 точек. Одно из свойств временных рядов заключается в том, что данные во времен ной последовательности не независимы друг от друга, как это ожидается в стан дартной обобщенной линейной модели, для них характерна автокорреляция. Эго значит, что значение величины в данный момент времени связано со значениями, которые идут перед и после нее, а возможно, и с более удаленными значениями этого временного ряда. Считается, что данные временных рядов - стационарные,этозначит, что их свойст ва, такие как среднее, дисперсия и автокорреляционная структура, постоянны на всем протяжении временного ряда. Для достижения стационарности данные перед обработкой иногда подвергаются дифференцированию; это значит, что значение для данного момента времени вычитается из значения для какого-то предшествующего момента времени. Период времени между двумя соседними наблюдениями называ ется лаг. Методы, необходимые для определения нужного типа дифференцирова ния и его автоматизированного проведения, входят в состав статистических паке тов, предназначенных для анализа временных рядов. Для стабилизации дисперсии перед началом анализа могут быть проведены другие преобразования данных, такие как извлечение квадратного корня или логарифмирование. Для описания составляющих временного ряда часто используются аддитивные модели, такие как Y r T . + C' + S' + R ,. В этой модели к составляющим тренда Y( относятся: Т( - долговременный тренд, общий тренд за все время исследований; Ct - циклический эффект, колебания вокруг долговременного тренда из-за со стояния бизнеса или экономики, такие как периоды общей рецессии или экспан сии экономики; S{ - сезонный эффект, колебания из-за времени года (например, различия меж ду зимними и летними месяцами); R( - остаточный, или ошибочный эффект, который остается после того, как уч тены долговременный, циклический и сезонный эффекты; может отражать как случайные события, так и редкие, такие как ураганы или эпидемии. Значительная часть анализа временных рядов посвящена объяснению измен чивости этих составляющих во времени. Идея похожа на разбиение дисперсии на составляющие в моделях дисперсионного анализа, однако в основе лежат иные математические приемы. 356 Глава 14. Статистика для бизнеса и контроля качества Точные значения регистрируемых на протяжении отрезка времени перемен ных, также известные как нескорректированные («сырые») временные ряды, почти всегда характеризуются значительной изменчивостью. Она может скрыть основные тренды, которые используются для объяснения закономерностей и точ ного прогнозирования. Для борьбы с этой проблемой разработаны разные методы сглаживания. Они могут быть разделены на две основные группы: методы сколь зящего среднего, при которых для ряда последовательных точек вычисляется опре деленны]! тип среднего, и это среднее вычитается из исходных значений, и экспоненцирование, при котором для взвешивания исходных значений используются показательные ряды. Для вычисления простого скользящего среднего (ПСС) нужно взять невзве шенное среднее определенного числа точек (п) перед нужным моментом времени. Число п часто называют окном из-за представления о том, что для вычисления скользящего среднего используется окно, включающее п точек (окно шириной п). По мере продвижения по временному ряду окно перемещается таким образом, что в него попадают разные точки ряда, и среднее для определенного момента време ни рассчитывается для попавших в окно точек. Например, при вычислении ПСС по пяти точкам среднее будет вычисляться по данному значению и предыдущим четырем. ПСС для каждой новой точки включает одно новое значение и исключает одно старое, снижая тем самым флуктуации. От этого свойства и происходит название «скользящее среднее» - поскольку самое старое значение «ускользает», будучи «вытесненным» новым. Сходные приемы применяются при определении рейтинга профессиональных игроков в теннис, хотя в этом случае вычисляют скорее общую сумму баллов, а не среднее. Баллы каждого игрока в данную неделю - это сумма его баллов, набранных за предыдущие 52 недели, а каждую неделю эта сумма пере считывается, поскольку результаты самой давней недели удаляются, а результаты последней недели добавляются. Чем больше ширина окна, используемого для ПСС, тем сильнее сглаживаются колебания, поскольку каждая новая точка имеет относительно мало влияния, по сравнению со всеми использующими при усреднении точками. В какой-то момент данные могут стать настолько сглаженными, что важная информация об имею щихся закономерностях будет утеряна. Кроме того, чем шире окно, тем больше данных придется выкинуть (поскольку понадобится больше точек для вычисле ния каждого среднего значения). Это видно на примере, приведенном на рис. 14.9 и в табл. 14.4. Как и ожидалось, наибольшие колебания наблюдаются для исходных данных, меньше колебаний - для усреднения с окном шириной в два наблюдения, и очень мало - с окном шириной в четыре наблюдения. Когда используется окно шириной в два наблюдения, то нужно выбросить всего одно наблюдение (поскольку перед ним нет никакого наблюдения, необходимого для вычисления среднего). При использовании окна шириной в четыре наблю дения нужно выкинуть первые три точки, поскольку ни у одной из них нет трех предшествующих наблюдений, чтобы посчитать среднее. Это не такая большая Временные ряды 357 проблема, если у нас есть много наблюдений, но для набора данных из всего 10 наблюдений это приводит к заметной потере информации. Ф исходные данные 1 2 3 4 5 6 7 8 9 —* - п=2 - п=4 а - 10 Время Р ис. 1 4 .9 . Т а б л и ц а 1 4 .4 . Исходные данные и скользящие средние с л = 2 и л = 4 Простое скользящее среднее для окон разной ширины 1 2 3 4 5 6 7 8 9 10 Исходные данные 5 6 3 7 4 6 8 5 2 6 5.5 4.5 5 5.5 5 7 6.5 3.5 4 5.25 5 5 6.25 5.75 5.25 5.25 а и го Время п =4 Центрированное скользящее среднее (ЦСС) сходно с ПСС, однако используе мое для усреднения окно включает и предыдущие, и последующие наблюдения. Например, для ЦСС с шириной в три наблюдения среднее для второго наблюде ния составит 4,67, или (5 + 6 + 3)/3. Учтите, что последующие наблюдения - это результаты измерений, а не предсказанные значения; они последующие только в том смысле, что получены позже, чем центральное значение при вычислении дан ного ЦСС. Пример приведен в табл. 14.5. Таблица 1 4 .5 . Центральное скользящее среднее (л = 3) для приведенных выше данных 3 4 5 6 7 8 9 Исходные данные 5 6 3 7 4 6 8 5 2 4.67 5.33 4.67 5.67 6.00 6.33 5.00 II 2 со 1 с Время Взвешенное скользящее среднее (ВСС) учитывает значения, попадающие в окно заданной ширины, однако более близкие к рассматриваемому наблюдению зна чения получают больший вес. По умолчанию используются веса из арифмети ческой, а не экспоненциальной последовательности. Обычно рассматриваемому значению присваивают вес п, где п - это ширина окна. Каждое следующее наблю дение, используемое при подсчете ВСС, имеет все меньший вес по мере удаления 358 Глава 14. Статистика для бизнеса и контроля качества от анализируемого значения. Используя эту систему для вычисления ВСС для пяти дней, анализируемому дню будет присвоен вес 5, предыдущему дню - 4 и так далее до пятого дня с весом в 1. Эта взвешенная сумма делится на сумму весовых множителей, которая будет равна [п (п - 1)]/2. ВСС уместна в любой ситуации, когда предполагается, что идущие подряд значения будут наиболее тесно связаны, и эта связь убывает с увеличением расстояния между точками. Экспоненциальное скользящее среднее (ЭСС) также придает больше веса близ ко расположенным наблюдениям, однако веса, присваиваемые отстоящим дальше наблюдениям, убывают не в арифметической, а в экспоненциальной последова тельности. Для вычисления ЭСС определяется константа экспоненциального сглаживания а, находящаяся в интервале от 0 до 1. Эта константа связана с шири ной окна, п, согласно формуле, приведенной на рис. 14.10. 2 а = ------ п+1 Р ис. 1 4 .1 0 . Формула для вычисления константы для экспоненциального скользящего среднего В данном случае а = 0,2 соответствует п = 9, поскольку 2/10 = 0,2. Затем а ис пользуется согласно формуле на рис. 14.11, в которую включаются новые члены, пока они нс станут такими маленькими, что ими можно пренебречь. А + (1 - <*)Рг + 0 ~ <*)2Рз + С ~ « ) У 4 + 1+ ( 1 - а ) + ( 1 - а ) 2 +... Р ис. 1 4 .1 1 . Формула для вычисления экспоненциального скользящего среднего В приведенной выше формуле р { - это измерение в тот момент времени, для которого вычисляется ЭСС, р 2 - предыдущее измерение, p.s - предпредыдущее измерение и так далее. Знаменатель стремится к 1/а по мере увеличения чис ла включенных в вычисление наблюдений, и 86% веса присваивается первым п наблюдениям. В данном случае п - это не ширина окна при вычислении ЭСС, как это было при вычислении ПСС и ВСС; последняя точка определяется значением а и представлением исследователя о величине значения, которым можно пренеб речь. Анализ решений Мы принимаем решения ежедневно, однако как мы приходим к принятию наилуч шего решения, особенно в ситуациях, когда многое (например, большая сумма де нег) поставлено на кон? Анализ решений - это набор специальных приемов, мето дологий и теорий, которые используются для систематизации процесса принятия решений с целью повышения его качества. В рамках теории принятия решений существует много направлений, и каждое может быть полезным в определенной ситуации. Этот раздел посвящен нескольким наиболее распространенным мето Анализ решений 359 дам анализа решений, которые помогут получить представление о его составляю щих, а также помогут разобраться в реальных случаях принятия решений. Про цесс анализа решений будет описан на примере финансовых убытков и прибылей, однако также может быть использован для других показателей (например, личной удовлетворенности или улучшения качества жизни), если их можно измерить. При анализе решений процесс принятия решения обычно выполняется в виде последовательности этапов, что не так уж и отличается от действий, предприни маемых для проверки гипотез. Анализ решений также весьма похож - за исклю чением выбора и применения математической модели (шаги 5 и 6) - на обычный процесс принятия решений, в который мы вовлечены ежедневно. Помимо воз можности принятия лучшего решения, выполнение описанных ниже шагов (а так же их обоснование) должно облегчить объяснение причин принятия какого-либо решения человеку, который не принимал в этом участия. Вот основные этапы: 1. Охарактеризуйте ситуацию, включая внешние обстоятельства (любые процессы реального мира, которые могут повлиять на результат). Внешние обстоятельства должны быть изложены как взаимно исключающие и ис черпывающие события, например высокий/средний/низкий спрос пли аномальное/нормальное количество осадков. 2. Перечислите возможные варианты, то есть альтернативные решения, кото рые могут быть приняты, они называются действия. 3. Укажите возможные исходы или последствия. 4. Выявите выгоды и затраты, связанные со всеми возможными сочетаниями решений и исходов. 5. Выберите подходящую математическую модель. 6. Примените модель, используя информацию из пунктов 2-4. 7. Примите решение, основываясь на лучшем ожидаемом, согласно предска заниям модели, исходе. Выбор методологии анализа решений зависит частично от количества инфор мации о ситуации. Есть три типа контекстов, в которых можно использовать тео рию принятия решений: • принятие решений в условиях определенности; • принятие решений в условиях неопределенности; • принятие решений в условиях риска. Принятие решений вусловиях определенности предполагает, что внешн ие обстоя тельства в будущем известны, так что для принятия решения необходимо лишь указать возможные варианты и их выгоды, чтобы сделать выбор, который неми нуемо приведет к оптимальному решению. Эту ситуацию мы не будем обсуждать далее, поскольку она не требует математического моделирования, и тут не может быть никаких сомнений о том, что является лучшим выбором. Принятие решений в условиях неопределенности - это более распространен ная ситуация; мы не знаем вероятность разных внешних обстоятельств и долж ны принять решение, основываясь только на анализе выгод и затрат, сопряжен ных с разными действиями при разных внешних обстоятельствах. Например, 360 Глава 14. Статистика для бизнеса и контроля качества если мы решаем, в каком городе открыть ресторан, успех этого действия за висит частично от экономического климата в том городе, где мы откроем рес торан, однако мы можем не располагать оценками экономического климата в разных городах в будущем. Аналогично, если мы решаем, какой сорт растений посадить, наш урожай будет частично зависеть от количества осадков за веге тационный период, однако у нас может быть недостаточно знаний, чтобы пред сказать, сколько выпадет осадков. Принимая решения в условиях риска, мы знаем вероятности каждого исхода (или имеем разумные оценки этих вероятностей) и можем сочетать эти знания с информацией об ожидаемых выгодах для выбора оптимального решения. Минимакс, максимакс и максимин Информацию, необходимую для принятия решения в условиях неопределен ности, можно обобщить в виде таблицы результатов, где строки соответствуют действиям, которые можно предпринять, а столбцы - внешним обстоятельствам. Предположим, что мы раздумываем, куда стоит вложить деньги, в организацию большого мероприятия на открытом воздухе, в устройство меньшего мероприятия в помещении, или вообще не организовывать ничего. Допустим, что дело происхо дит в климатической зоне, где в это время года обычны ураганы с ливнем, и мы нс можем с должной степенью уверенности сказать, какова вероятность такого урага на в день мероприятия. Организация мероприятия будет стоить $50 000. Таблица результатов может выглядеть как табл. 14.6. Таблица 14.6. Таблица результатов для вклада денег в организацию события Погода Дождь Мероприятие на открытом воздухе Действия -$ 5 0 000 Нет дождя $500 000 Мероприятие в помещ ении $200 000 $200 000 Не вкладывать деньги в организацию мероприятия $0 $0 На мероприятие на открытом воздухе придет больше людей, чем в помещение, так что если в тот вечер не будет дождя, то мы получим больше денег (прибыль $500 000). Если будет идти дождь, то мероприятие отменится, и мы потеряем день ги, ничего не получив взамен (убыток $50 000). С другой стороны, мероприятие в помещении принесет одинаковую прибыль ($200 000) вне зависимости от того, будет ли идти дождь: меньше, чем мероприятие на открытом воздухе в хорошую погоду, но больше, чем оно же под дождем. Наконец, мы можем решить, что вкла дывать деньги в театрализованное мероприятие слишком рискованно, и найти им другое применение. Мы можем создать таблицу потерь вследствие неиспользования благоприятных возможностей (упущенных выгод), в которой будут указано, сколько мы упусти ли возможность заработать, выбрав тот или иной образ действий. Для нашей гипо 361 Анализ решений тетической схемы «вложений в организацию мероприятия в дождливой стране» эта таблица будет выглядеть как табл. 14.7. Таблица 14.7. Таблица упущенных выгод для вклада денег в организацию события Погода Дождь Действия Нет дождя М ероприятие на открытом воздухе $250 000 $0 М ероприятие в помещ ении $0 $300 000 Не вкладывать деньги в организацию мероприятия $200 000 $500 000 Обратите внимание, что в этой таблице нет отрицательных значений. Лучшим действием при данных погодных условиях будет то, при котором упущенная вы года будет равна $0, тогда как для остальных действий указана сумма, которая упущена из-за неоптимальной стратегии действий при данных погодных усло виях. Для принятия решений в условиях неопределенности разработаны три алго ритма - минилшкСу максимакс и максимин. Алгоритм мипимакс позволяет выбрать действие так, чтобы минимизировать упущенную выгоду. Для принятия решения по этому алгоритму нужно проанализировать таблицу упущенных выгод, чтобы найти максимальную упущенную выгоду для каждого действия и выбрать дейст вие, для которого это значение минимально. В этом примере: наибольшая упущенная выгода (на открытом воздухе) = $250 000; наибольшая упущенная выгода (в помещении) = $300 000; наибольшая упущенная выгода (не вкладывать деньги) = $500 000. Согласно алгоритму мипимакс, мы решим вложить деньги в организацию ме роприятия на открытом воздухе, поскольку в этом случае упущенная выгода будет минимальной из трех рассмотренных вариантов действий. Стратегия максимин подразумевает выбор действия с наибольшей минималь ной прибылью. Эту стратегию называют выбором пессимистов, поскольку в дан ном случае отдают предпочтение варианту с наибольшей минимальной прибылью или наименьшими потерями - лучший выбор при неблагоприятных условиях. В этом примере: наибольшая упущенная выгода (на открытом воздухе) = -$50 000; наибольшая упущенная выгода (в помещении) = $200 000; наибольшая упущенная выгода (не вкладывать деньги) = $0. Используя стратегию максимин, мы проведем мероприятие в помещении, поскольку самое плохое, что может произойти в этом случае, - мы заработаем $200 000 вне зависимости от погодных условий. Стратегия максимакс предполагает выбор действия, которое характеризуется наиболее высокой максимальной выгодой. По этой причине максимакс может 362 Глава 14. Статистика для бизнеса и контроля качества быть назван алгоритмом для оптимистов, поскольку в данном случае выбор де лается в пользу оптимального действия при наиболее благоприятном состоянии внешних факторов. В нашем примере: наибольшая упущенная выгода (на открытом воздухе) = $500 000; наибольшая упущенная выгода (в помещении) = $200 000; наибольшая упущенная выгода (не вкладывать деньги) = $0. Согласно алгоритму максимакс, мы выберем мероприятие па свежем воздухе, поскольку в данном случае мы получим наибольшую максимальную выгоду Принятие решений в условиях риска Если вероятности разных внешних обстоятельств известны или могут быть до статочно аккуратно оценены, мы находимся в ситуации принятия решений в ус ловиях риска. Допустим, что в предыдущем примере мы знали вероятность дождя в тот вечер, па который было назначено мероприятие. Если вероятность дождя составляет 0,6, то вероятность отсутствия дождя - 0,4, поскольку это взаимно ис ключающие события. Мы добавим эту информацию в табл. 14.8. Таблица 14.8. Таблица результатов разных действий при данных вероятностях разной погоды Погода Дождь Нет дождя 0.6 0.4 Вероятность Действия Мероприятие на открытом воздухе -$ 5 0 000 Ожидаемый результат $500 000 $170 000 Мероприятие в помещ ении $200 000 $200 000 $200 000 Не вкладывать деньги в организацию мероприятия $0 $0 $0 Ожидаемый результат вычисляется путем умножения результата при каждом сочетании действий и погодных условий на вероятность данной погоды. Напри мер, для проведения мероприятия на открытом воздухе Е(резулыпат) = (0,6)(-50 000) + (0,4)(500 000) = -3 0 000 + 200 000 = 170 000. Мы выбираем вариант с наилучшим ожидаемым результатом. В данном случае мы бы организовали мероприятие в помещении. Для применения этого метода нужно иметь разумные оценки вероятности разных внешних условий. Если бы вероятнос ти в приведенном выше примере поменялись местами, то наилучший ожидаемый результат был бы достигнут при проведении мероприятия на открытом воздухе. Деревья решений Если вероятность разных результатов при данных действиях известна, то можно построить дерево решений, которое иллюстрирует возможные действия и их ре зультаты при разных внешних условиях и может быть использовано для попима- 363 Улучшение качества ния результатов при разных комбинациях действий и внешних условий. Дерево решений, содержащее ту же информацию, что приведена в табл. 14.8, показано на рис. 14.12. Внешние условия Действия Результат ------- $50,000 Мероприятие / Дождь (0.6) на открытом ^ воздухе 44 Нет дождя (0.4) -------- ----- $500,000 у Дождь (0.6) $200,000 Мероприятие * в помещении > \ Нет дождя (0.4) -------- ----- $200,000 / Дождь (0.6) ----- $0 Нет вложений ^ Нет дождя (0.4) -------- ----- $0 Рис. 14.12. Дерево решений для примера с выбором места проведения мероприятия Улучшение качества Концепция улучшения качества (УК) родилась в 1920-х годах, когда Вальтер Шеварт (Walter Shewhart) начал разработку статистического подхода к исследова нию изменчивости в промышленности. Интерес к УК резко возрос в 1950-х годах после публикации работы В. Эдвардса Деминга (W. Edwards Deming), который разработал статистический метод, основываясь на результатах Шеварта. По иро нии судьбы, метод Деминга был сначала не признан на его родине (США), но с энтузиазмом воспринят в Японии, где технологии УК были использованы на про изводстве с таким успехом, что японские компании смогли поспорить за превос ходство, а некоторых случаях и одержать верх над американской промышленно стью. В ответ на это американские компании стали использовать технологии УК в 1980-х годах; «Моторола» и «Дженерал Электрик» - одни из наиболее известных пионеров применения этих методов. Существует много подходов к УК, включая распространенную программу, из вестную под названием «Шесть сигм» (6а), которая является частью общего под хода, называемого комплексное управление качеством. Этот раздел книги сфоку сирован на основах УК, общих для многих таких программ, и не содержит жаргона и акронимов, специфичных для любой конкретной программы. Он также посвя щен статистической методологии, используемой при УК, хотя читатель должен помнить о том, что большинство программ УК имеет много аспектов и включают психологические и организационные подходы наряду с методами измерения и статистического анализа. Хотя идея УК зародилась в производственном секторе, сейчас ее применяют в других областях, включая здравоохранение и образование. «Качество», наверное, 364 Глава 14. Статистика для бизнеса и контроля качества стало модным словом в наш век, так что рассмотрение основных аспектов изме рения и улучшения качества может оказаться полезным для людей, которые ра ботают в самых разных областях. Всюду, где качество может быть определено и измерено, концепция УК может предложить полезные инструменты. Первый шаг нрн измерении чего-либо - определить эту характеристику. Ка чество в контексте УК обычно определяется с позиции покупателя; высококачест венный продукт удовлетворяет потребительским нуждам и предпочтениям. В про изводстве это может означать детали механизмов с определенными промерами и сроком службы. В здравоохранении это может означать визит к доктору, который удовлетворит жалобы пациента и не будет подразумевать долгого ожидания или других вызывающих отвращение моментов. Запросы и предпочтения потребите ля нужно перевести в характеристики продукта, которые можно измерить. Если взять пример со здравоохранением, «отсутствие чрезмерного времени ожидания» можно онерационализировать как «время ожидания составляет не более 10 ми нут». Это позволит оценить, удовлетворяет ли стандартам каждый визит. Анало гичным образом можно задать конкретные промеры для деталей механизмов и оценивать, выдерживаются ли промеры данных деталей в рамках диапазона, оп ределенного заказчиком. Язык УК характерен для промышленности, в нем часто упоминаются продук ты, которые создаются в результате процессов, являющихся частью системы. Например, компания может изготавливать болты (продукт) при помощи серии процессов (таких как разрезание, штамповка и полировка), и это является частью системы, которая преобразует сырье (такое как металл) в продукт (болты). Ха рактеристики любого процесса - это переменные. Например, не любой изготов ленный болт будет обладать заданными параметрами. УК во многом имеет дело с определением допустимых пределов изменчивости, регистрируя изменчивость в ходе процесса, выявляя причины и находя решения, если продукт выходит за пределы допустимой изменчивости. Схемы прогона и контрольные карты Контрольные карты, разработанные Вальтером Шевартом в 1920-х годах, - это ос новной графический прием, позволяющий отслеживать вариации. Схема прогона это улучшение базовой версии контрольной карты, которая представляет собой гра фик временного ряда, на котором отображена некоторая характеристика продукта по оси у и время или порядковый номер продукта по оси х. Часто изображенные на графике точки являются статистиками, такими как среднее, вычисленными для небольших выборок продукта, а не отдельными значениями. Отображая на графике выборочные средние, мы можем вспомнить теорему о цент ральном пределе и подразумевать нормальное распределение значений на графике вне зависимости от типа распределения отдельных значений в генеральной совокуп ности. Это важно при использовании правил для определения, вышел ли процесс из-под статистического контроля. Если на графике приведены исходные значения, то эти правила можно использовать только при нормальном распределении данных, Улучшение качества 365 однако отображение сырых значений может быть полезным для визуального анализа имеющихся вариаций во времени. Мы ожидаем обнаружить изменчивость продукта, созданного при любом про цессе, однако мы не предполагаем, что распределение данных изменится, как по положению (среднее или медиана), так и по разбросу данных (стандартное откло нение или размах). Если распределение характеристик процесса не меняется во времени, мы говорим, что процесс находится под статистическим контролем пли просто под контролем. Если распределение характеристик меняется с течением времени, мы говорим, что процесс вышел из-под статистического контроля или просто вышел из-под контроля. Мониторинг источников вариации и борьба с ними с целью удержания процесса под контролем или обретения этого контроля назы вается статистическое управление технологическим процессом. В любом процессе существуют два основных источника общей изменчивости: общие причины и специальные, или определимые, причины. Общие причины измен чивости связаны с организацией всего процесса и влияют на все его результаты. В производстве к общим причинам можно отнести освещение на заводе, качество сырья и квалификацию рабочих. Если общими причинами объясняется слишком большая доля изменчивости, организация процесса должна претерпеть измене ния. Возможно, освещение можно улучшить, рабочих - больше обучать, задания разбить на более мелкие этапы, чтобы повысить аккуратность выполнения или найти более подходящий источник сырья. Этот тип корректировки процесса в целом относится к сфере ответственности руководства и не вовлечен в тот тип анализа данных, который обсуждается в этом разделе. Для наших задач процесс, у которого есть только общие причины вариации, считается находящимся под контролем. Напротив, мы сосредоточимся на специаль ных причинах вариации - действиях или событиях, которые не являются составной частью организации производственного процесса. Специальные причины обычно действуют ограниченное время и влияют лишь на малую часть процесса. Рабочий может утомиться и не быть способным выполнять работу аккуратно, или могут сбиться настройки станка, который начнет производить детали с параметрами, выходящими за пределы допустимых значений. Контрольные карты используют ся для выявления момента выхода процесса из-под статистического контроля и могут помочь в обнаружении специальных причин вариации. На контрольные карты обычно помещают осевую линию, проходящую через среднее или медианное значение исследуемой характеристики. Осевая линия слу жит точкой отсчета для оценки отдельных значений, например для оценки того, насколько сильно отличаются отдельные значения от центрального. Положение этой осевой линии обычно определяется заранее аналитиком и представляет со бой скорее ожидаемое значение, характеризующее процесс, который находится под контролем (протекает правильно, обеспечивает выработку приемлемой про дукции), а не среднее по всем данным. Также на контрольных картах принято со единять соседние точки отрезками, что позволяет легче видеть закономерности в последовательности измерений. Оба этих момента продемонстрированы на гипо тетической схеме прогона (рис. 14.13). Глава 14. Статистика для бизнеса и контроля качества Р и с . 1 4 . 1 3 . Контрольная карта веса 40 болтов, выраженного в унциях (отдельные значения), с осевой линией, проведенной через значение 3 Эта контрольная карта отображает вес 40 последовательно изготовленных в ходе воображаемого производственного процесса болтов. По оси у отложен вес каждого болта в унциях, ось х соответствует порядковому номеру изделия, а осевая линия проведена через среднее значение 3. Таким образом, мы можем заметить, что первые три болта были немного легче среднего, четвертый - тяжелее и т. д. Мы также можем видеть, что изменчивость случайна, и вес болтов колеблется вокруг среднего, а самый долгий период (последовательные значения, изменяющиеся в одном направлении) состоит из четырех значений (с 29 по 32). В представленных на рис. 14.3 данных не прослеживается никакой закономер ности (неудивительно, ведь они были созданы при помощи генератора случайных чисел!) - это один из признаков того, что процесс находится под контролем. Конт рольные карты на рис. 14.14-14.19 демонстрируют некоторые закономерности, которые можно выявить при помощи схем прогона, и это может говорить о необходимости дальнейших исследований. Р ис. 1 4 .1 4 . Контрольная карта с восходящим трендом Обратите внимание, что на этой стадии, поскольку мы рассматриваем отдельные значения, мы ищем общие закономерности, а не проводим статистические тесты. Вскоре мы обсудим более строгие правила для определения закономерностей в данных, которые не могут быть объяснены случайной изменчивостью, а должны быть исследованы как доказательство выхода процесса из-под контроля. Улучшение качества Р ис. 1 4 .1 7 . 367 Контрольная карта с увеличением вариации Рис. 14.18. Контрольная карта с выбросом (единичное экстремальное значение) 368 Глава 14. Статистика для бизнеса и контроля качества Рис. 14.19. Контрольная карта с изменением уровня (сдвиг среднего значения вверх) Если контрольные карты основаны на средних значениях, то благодаря теореме о центральном пределе мы можем использовать нормальное распределение для выявления значений или закономерностей, которые будут чрезвычайно нехарак терны для процесса, находящегося под статистическим контролем. Для выявле ния процесса, вышедшего из-под контроля, разработан ряд правил, основанных на распределении значений, ожидаемом, если бы они происходили из выборок с нормальным распределением со средним и дисперсией, наблюдающимися в про цессе, когда он находится под контролем. Использование стандартного отклонения для определения допустимых границ изменчивости продукта послужило источником названия программы «Шесть сигм», поскольку сигма (а) используется для обозначения стандартного откло нения. Идея, которая лежит в основе программы «Шесть сигм», заключается в достаточном снижении вариации, так чтобы продукт, параметры которого укла дываются в диапазон ±3а, все еще удовлетворял покупателя. Как обсуждалось в третьей главе, при нормальном распределении данных ве роятность попадания данных в определенный диапазон значений известна. Доля данных из нормального распределения, которая попадает в различные диапазоны, заданные числом стандартных отклонений по отношению к среднему, показана на рис. 14.20. Рис. 14.20. Вероятность попадания данных в определенные диапазоны нормального распределения 369 Улучшение качества Как было описано в третьей главе, из этого рисунка ясно, что при нормальном распределении в пределах одного стандартного отклонения от среднего находит ся 68,2% значений. Вероятность того, что наблюдение попадет в интервал между одним и двумя стандартными отклонениями больше или меньше среднего, состав ляет около 27,2%, вероятность попадания в интервал между двумя и тремя стан дартными отклонениями больше или меньше среднего и равна примерно 4,2%, а вероятность нахождения за пределами трех стандартных отклонений больше или меньше среднего - около 0,2%. Иначе говоря, в повторных выборках из гене ральной совокупности с нормальным распределением значений мы ожидаем, что около 68% выборочных средних будет находится в пределах одного стандартного отклонения от среднего, около 95% - в пределах двух стандартных отклонений и около 99% - в пределах трех стандартных отклонений. Контрольная карта с добавлением контрольных пределов интерпретирует эту информацию так, что распределение точек отложено на оси г/, а по оси х идет время или порядок отбора образцов. Разные диапазоны обычно снабжены подписями, как показано на рис. 14.21. На этой контрольной карте: 1. Зона Л, или зона трех сигм, - это диапазон между двумя и тремя о от осевой линии. 2. Зона 5, или зона двух сигм, - это диапазон между одной и двумя о от осевой линии. 3. Зона С, или зона одной сигмы, - это значения в пределах одной а от осевой линии. +3(7 +2а В +1сг С Осевая линия С -1а в -2а -За Порядковый номер наблюдения Рис. 1 4 .2 1 . Контрольная карта с диапазонами, выраженными в сигмах Эти зоны используются совместно с правилами анализа закономерностей для определения, находится ли процесс под контролем. Поскольку для определения, находится ли процесс под контролем, важны и среднее значение, и изменчивость выборок, контрольные карты обычно изготав 370 Глава 14. Статистика для бизнеса и контроля качества ливаются парами - на одной отображаются средние значения для выборок, а на другой - изменчивость. Для анализа среднего значения непрерывных данных ис пользуется карта х (называемая так, потому что х , которое произносится как «х с чертой», используется в статистике для обозначения среднего). Изменчивость иллюстрируется либо s-картой, отражающей стандартное отклонение выборок1, либо г-картой, на которой показан размах2 значений. Перечисленные ниже правила анализа закономерностей применяются для интерпретации данных с карт средних значений, однако эти правила можно ис пользовать и для анализа других типов контрольных карт. Этот перечень - соче тание нескольких наборов правил, включая правила Вестерн Электрик (Western Electric), разработанные для одноименной компании (теперь вошедшей в состав «Американ телефон энд телеграф» - AT&T) и опубликованные впервые в 1956 году, и правила Нельсона, разработанные Ллойдом С. Нельсоном (Lloyd S. Nelson) и впервые опубликованные в 1984 году. Признаки, при проявлении которых процесс считается вышедшим из-под кон троля согласно правилу анализа закономерностей, следующие: 1. Любое значение попадает вне зоны А (дальше от осевой линии). 2. 9 последовательных значений попадают в зону С или кнаружи от неё по одну сторону от осевой линии. 3. 6 последовательных значений уклоняются в одном направлении, то есть параметр постоянно увеличивается или уменьшается. 4. 14 последовательных значений «скачут» попеременно то вверх, то вниз. 5. 2 из 3 последовательных значений попадают в зону А или кнаружи от нее с одной и той же стороны от осевой линии. 6. 4 из 5 последовательных значений попадают в зону В или кнаружи от нее по одну сторону от осевой линии. 7. 15 значений подряд попадают в зону С. 8. 11 последовательных значений попадают в зону В или кнаружи от нее. Если данные бинарные, а не непрерывные (например, если объекты просто классифицируются как бракованные или приемлемые), вместо контрольных карт для средних значений можно строить р-карты или пр-карты, основанные на биномиальном распределении. Учтите, что биномиальные данные в сфере контроля качества называются данными по относительному распределению. Если вас интересует число дефектов, а не число бракованных деталей (когда у детали может быть несколько дефектов), вместо контрольных карт для средних значений создаются с-карты и и-карты. Поскольку все они обычно создаются при помощи компьютерных программ, мы не будем здесь подробно обсуждать эти карты. Самое главное, что правила их интерпретации сходы с правилами для контрольных карт со средними значениями. Приведенный ниже набор правил поможет разобраться, какой тип контрольной карты нужно использовать для разных типов данных: 1 От англ, standard deviation - стандартное отклонение. - Прим. пер. 2 От англ, range - ра.шах. - Прим. пер. Упражнения 1) 2) 3) 4) 5) 371 выборочные средние для непрерывных данных (картах); число бракованных деталей в выборках равного размера (яр-карта); доля бракованных деталей в выборках разного размера (р-карта); среднее число дефектов на деталь для выборок равного размера (с-карта); среднее число дефектов на деталь для выборок разного размера (м-карта). В. Эдвардс Деминг и Япония Япония не всегда была промышленным центром, каким мы знаем ее сейчас. В первую половину XX века в Японии производились в основном недорогие товары, а промышлен ная инфраструктура страны сильно пострадала во время Второй мировой войны. Однако после войны победившие союзники отрядили группу инженеров, чтобы помочь Японии возродить ее экономику. Одной из составляющих мероприятий по возрождению было обучение японских про изводителей статистическим методам контроля качества. В 1950 году при содействии японского союза ученых и инженеров В. Эдвардса Деминга (1990-1993), статистика, ко торый учился вместе с Вальтером Шевартом, пригласили прочесть курс лекций о конт роле качества. Во время своего визита Деминг также встретился с руководством многих ведущих японских компаний. Деминг произвел такое впечатление на глав японских промышленных компаний, что они учредили две ежегодные награды за успехи в области улучшения качества его имени: приз Деминга для отдельных лиц (присуждается людям, которые внесли важный вклад в исследования, разработку методологии, распространение идей в области комплексного управления качеством) и приз за применение идей Деминга для компаний (присуждает ся за выдающееся улучшение результата при помощи применения идей комплексного управления качеством). Дальнейшую информацию об этих наградах можно найти на сай те института Деминга (http://demina.orab Упражнения Вот краткое повторение тем, затронутых в этой главе. Задача Рассчитайте простой индекс для 2000 года, используя каждый из приведенных в табл. 14.9 годов в качестве базового. Что вы узнали из этих результатов о влия нии выбора базового периода? Таблица 14.9. Данные для вычисления индекса с использованием различных базовых периодов Год Цена 1970 1000 1980 1500 1990 2000 2000 1500 372 Глава 14. Статистика для бизнеса и контроля качества Решение 12[Ш= 150, если принять за базовый 1970 год, 100 - если сравнивать с 1980 годом, и 75, если базовый год - 1990. Это показывает важность выбора базового периода при вычислении индекса. Отсюда ясно также, почему важно не позволить полити ческим или иным посторонним соображениям повлиять на этот выбор. Индекс для 1970 года как базового вычисляется следующим образом: / 2(КЮ= (1 500/1 000) х 100 = 150; для 1980 года как базового: / 2()()() = (1 500/1 500) х 100= 100; для 1990 года как базового: / 2()()0 = (1 500/2 000) х ЮО = 75. Задача Вычислите индексы Ласиейреса и Пааше для 2000 года, используя данные из табл. 14.10 и выбрав 1990 год в качестве базового. Почему эти индексы различа ются? Таблица 14.10. Данные для сравнения индексов Ласпейреса и Пааше Продукт Количество в 19 9 0 году Цена в 1 9 9 0 году Количество в 2 0 0 0 году Цена в 2 0 0 0 году Говядина 100 фунтов $3 /фунт 50 фунтов $5 /фунт Курица 100 фунтов $3 /фунт 150 фунтов $ 3 .5 /фунт Решение Индекс Ласпейреса равен 141,67, индекс Пааше составляет 87,5. Наблюдаемая разница обусловливается разными правилами присвоения весов: при расчете ин декса Ласпейреса используются веса базового года, а для индекса Пааше - веса индексного года. В данном случае в 1990 и 2000 годах общее количество мяса было равным, однако в 2000 году покупали меньше говядины и больше курицы, по срав нению с 1990. Оценка инфляции на основании индекса Ласпейреса не отражает этого изменения в поведении потребителей. Ход вычисления индекса Ласпейреса показан на рис. 14.22, а индекс Пааше вы числяется так, как показано на рис. 14.23. (1 0 0 x 5 .0 0 )+ (1 0 0 x 3 .5 0 ) -------------------------------------х 100 = 141.67 (1 0 0 x 3 .0 0 )+ (1 0 0 x 3 .0 0 ) Рис. 14.22. Вычисление индекса Ласпейреса (5 0 x 5 .0 0 )+ (1 5 0 x 3 .5 0 ) ---------------— -------------- -- х 100 = 129.17 (1 0 0 x 3 .0 0 )+ (1 0 0 x 3 .0 0 ) Рис. 14.23. Вычисление индекса Пааше Упражнения 373 Задача Вычислите простое (ПСС) и центрированное (ЦСС) скользящее среднее для п = 3 и п = 5 для шестого наблюдения из табл. 14.11. Таблица 14.11. Данные для вычисления ПСС и ЦСС Время 1 2 3 4 5 6 7 8 9 Исходные данные 3 5 2 7 6 4 8 7 9 Решение ПСС(п = 3) = (7 + 6 + 4)/3 = 5,7. ПСС(и = 5) = (5 + 2 + 7 + 6 + 4)/5 = 4,8. Ц СС(п = 3) = (6 + 4 + 8)/3 = 6,0. ЦСС(п = 5) = (7 + 6 + 4 + 8 + 7)/5 = 6,4. Обратите внимание на го, что поскольку в этих данных есть восходящий тренд, оценки ЦСС выше, особенно при более широком окне. Задача Допустим, вы думаете, где открыть канцелярский магазин, в большом или ма леньком городе. В большом городе потенциальный заработок будет выше, однако выше будут и убытки (из-за больших организационных расходов). Успех магази на будет во многом зависеть от экономической ситуации в момент его открытия. Если торговля в городе расширяется, у вас есть хороший шанс заработать, но если дела ухудшаются, вы можете с трудом вернуть затраченные деньги. В табл. 14.12 приведены исходы дела в двух возможных ситуациях. Примите решения, пользуясь критериями минимакс, максимакс и максимин. Таблица 14.12. Данные для сравнения разных мест открытия канцелярского магазина Экономическая ситуация Размещ ение Хорошая Плохая Крупный город $200 000 $10 000 Маленький город $100 000 $20 000 Решение Для применения алгоритма минимакс нужно составить таблицу упущенных выгод вроде табл. 14.13. Таблица 14.13. Таблица упущенных выгод при возможных сценариях открытия канцелярского магазина Экономическая ситуация Хорошая Размещ ение Плохая Крупный город $0 $10 000 Маленький город $100 000 $0 374 Глава 14. Статистика для бизнеса и контроля качества Решение по алгоритму мииимакс - это действия, минимизирующие упущен ную выгоду; в данном случае мы решим разместить свой магазин в большом го роде. Решение по алгоритму максимакс - это действия, при которых максимальный доход будет наибольшим, в данном случае мы опять решим разместить свой мага зин в большом городе. Решение по алгоритму максимин - это действия, характеризующиеся самым большим минимальным доходом, так что в данном случае мы решим разместить свой магазин в маленьком городе. Задача Какие правила расположения точек закономерностей нарушены, судя по конт рольной карте на рис. 14.24? Рис. 14.24. Контрольная карта с нарушениями закономерностей Имейте в виду, что в данном случае среднее равно 3, а стандартное отклонение 0,5, так что осевая линия проходит через значение 3, диапазон трех сигм находится между 1,5 и 4,5, двух сигм - между 4,0 и 2,0, и одной сигмы - между 3,5 и 2,5. Решение Все нарушения обозначены на рис. 14.25 и перечислены ниже. UCL = 4.5 4 3.5 Х=3 2.5 2 LCL =1.5 Рис. 14.25. Контрольная карта с обозначенными нарушениями закономерностей Упражнения 375 1. Девять точек подряд находятся по одну сторону от осевой линии (прави ло 2). 2. Одна точка находится вне диапазона трех сигм, то есть кнаружи от зоны А (правило 1). 3. Шесть точек подряд «идут» в одном направлении (правило 3). 4. Четыре из пяти последовательных точек находятся вне диапазона одной сигмы (зона В или дальше от осевой линии) по одну сторону от осевой линии (правило 6). ГЛАВА 15* Статистика в медицине и эпидемиологии Многие статистические показатели, используемые в медицине и эпидемиоло гии, включая тест Стыодента (обсуждается в главе 6), коэффициент корреляции (глава 7) и разные типы регрессии и дисперсионного анализа (главы с 8 по 11), применяются также в других областях пауки. Однако некоторые статистические показатели (такие как вероятность успешного исхода) были специально разра ботаны для нужд медицины и эпидемиологии, а другие (например, определение мощности и объема выборки), хотя и используются в других областях, так часто применяются в медицине и эпидемиологии, что рассматриваются именно в этой главе. Показатели заболеваемости Прежде чем перейти к специализированным показателям заболеваемости, стоит обсудить значения нескольких терминов, с которыми часто возникает путаница при использовании в повседневной речи. Мы всегда можем выразить частоту за болеваемости в числе случаев. Например, в прошлом году в городе Л зарегистриро вано 256 случаев туберкулеза, а в городе В - 471. Исходные числа полезны людям, которые распределяют средства в настоящее время и планируют их распределение в будущем, поскольку им нужно знать, сколько случаев туберкулеза (и других за болеваний) ожидается в следующем году, чтобы соответственно распределить ре сурсы. Однако для исследовательских задач и для планирования на национальном и международном уровне заболеваемость полезнее выражать в относительных, а не абсолютных величинах, поскольку нам часто хочется посмотреть па тенден ции во времени или в разных регионах с разной численностью населения. Напри мер, приведенные выше гипотетические исходные значения позволяют предполо жить, что ситуация в городе В хуже, чем в городе А, ио если численность жителей города В в пять раз превышает численность жителей города А, то это утверждение выполняется с точностью до наоборот. Аналогичным образом число заболеваний может расти из-за роста численности населения, так что для проведения сравне ний нам нередко нужно перевести число случаев в другие показатели. Показатели заболеваемости 377 Отношения, до ли и частоты Три связанных показателя - это отношения, доли и частоты. Отношение (ratio) выражает величину одной переменной по сравнению с величиной другой пере менной, эти числа не должны обладать какими-то определенными свойствами или относиться к одному объекту. Отношения могут быть выражены в виде Л:В или Л на Б и обычно приводятся к стандартным единицам, чтобы облегчить срав нение, таким как 1:В или Л на 10 000. Нас может интересовать отношение числа мужчин со СПИДом к числу женщин со СПИДом в США. Согласно данным цент ров по контролю и профилактике заболеваний, в 2005 году в США жило 769 635 мужчин и 186 383 женщины со СПИДом. Таким образом, отношение больных мужчин к больным женщинам составляет 769 635:186 383, что также можно за писать как 4,13:1. Вторая формулировка яснее демонстрирует, что в США в 2005 году число мужчин со СПИДом более чем вчетверо превосходило число женщин со СПИДом. В эпидемиологии и здравоохранении обычно используют два типа отношений это отношения рисков и отношения благоприятгшх исходов, которые обсуждаются позже в этой главе. Для вычисления отношений сравниваемые характеристики не обязательно должны быть выражены в одинаковых единицах измерения; широко использующийся показатель для сравнения доступности медицинской помощи в разных странах - это отношение числа больничных коек к численности населе ния. Этот показатель часто выражается в числе коек на 10 000 человек. Соглас но данным Всемирной организации здравоохранения, в 2005 году в Англии было 39 коек на 10 000 человек, в Судане - 7, а в Перу - 11, из чего можно сделать вывод, что стационарное лечение более доступно в Англии, чем в двух других странах. Такой тип отношений часто называется частотой (rate), хотя он не соответствует строгому определению частоты (обсуждается ниже), поскольку в знаменатель не входят единицы измерения времени. Доля (proportion) - это частный случай отношения, в котором все объекты, вхо дящие в числитель, также входят и в знаменатель. Возвращаясь к предыдущему примеру, если мы захотели узнать долю мужчин среди всех больных СПИДом в США, мы бы разделили число мужчин на общее число случаев заболевания (чис ло больных мужчин плюс число больных женщин), как это показано на рис. 15.1. 769 635 769 635 + 186 383 0.805 Рис. 15.1. Вычисление доли Доли часто выражаются в процентах, что означает буквально на сотню (cent на латыни - это 100). Для перевода в проценты доли нужно умножить на 100: 0,805 х 100 = 80,5%. Долю мужчин от всех жителей США со СПИДом можно также выразить как 80,5 процента, или 80,5%. Глава 15. Статистика в медицине и эпидемиологии 378 Частота (rate), строго говоря, - это доля, в знаменатель которой входят ха рактеристики времени. Например, мы нередко измеряем частоту сердцебиения в ударах в минуту и частоту заболеваний или увечий в числе случаев за неделю, месяц или год. Показатели заболеваемости или смертности часто приводят в виде частоты, умноженной на 1000 или 100 000 на единицу времени, поскольку легче сравнивать такие числа, как 3,57 и 12,9 за год на 100 000 человек, чем 0,0000357 и 0,0000129 в год на одного человека. Преобразование частот в стандартные единицы измерения облегчает сравнения популяций разного размера. Например, поданным центров по контролю и профи лактике заболеваний, смертность в США в 2004 году составила 816,5 на 100 000 человек в сравнении с 1076,4 на 100 000 человек в 1940 году и 954,7 на 100 000 человек в 1960 году. В 2004 году умерло больше человек, чем в оба других года (2 397 615 человек в 2004 году, 1 417 269 человек в 1940 году и 1 711 982 челове ка в 1960 году), по поскольку численность населения США также увеличивается, ежегодная смертность в расчете на 100 000 человек уменьшается. Это продемонстрировано на простом примере с использованием вымышлен ных данных (табл. 15.1). Таблица 1 5 .1 . Показатели численности населения и смертности в течение нескольких лет Год Число смертей Численность населения Число смертей на 100 ООО человек 1940 75 50 000 150.0 1950 95 60 000 158.3 1960 110 75 000 146.7 1970 125 90 000 138.9 Можно видеть, что хотя число смертей ежегодно увеличивается, численность населения растет еще быстрее, поэтому смертность в расчете на 100 000 человек уменьшается в каждый из годов, по которым у нас есть данные. Для вычисления смертности (частоты смертей) на 100 000 человек используйте формулу, приве денную на рис. 15.2. число смертей -------------------------- х 100 000 численность населения Рис. 15.2. Вычисление смертности на 100 000 человек Таким образом, используя данные из табл. 15.1, смертность на 100 000 человек в 1940 году рассчитывается так, как показано на рис. 15.3. 75 50,000 х 100 000 Рис. 15.3. Вычисление смертности на 100 000 человеке 1940 году Показатели заболеваемости 379 Один вопрос, возникающий при вычислении частоты для долгого периода вре мени, такого как год, заключается в выборе числа, которое будет стоять в знаме нателе, поскольку численность населения в течение этого периода нельзя считать постоянной. Одно из распространенных решений - использовать численность на селения в середине этого периода (например, года). Существует несколько других проблем, связанных с выражением заболевае мости. Одна - приводить ли данные о числе заболевших людей или о числе забо леваний. Например, если бы вы изучали гигиену ротовой полости, вы могли бы интересоваться разрушениями зубов, однако у одного человека может быть боль ше одной дырки. Вас будет интересовать число людей, у которых есть хотя бы одна дырка в зубах, или общее число дырок? Сходный вопрос возникает при изучении переходных состояний. Допустим, если вы изучаете бездомных, интересуетесь ли вы, сколько людей были бездом ными хотя бы один раз за определенный период времени, или будете ли вы счи тать каждый случай бездомности, понимая, что каждый человек мог лишиться дома в данный период времени более одного раза. Это проблемы выбора единицы анализа, то есть вы должны решить, что вы изучаете (человека, у которого может быть одна или несколько дырок в зубах, или число отдельных зубов, в каждом пз которых может образоваться дырка), и собирать данные, помня о своем решении. Единицы анализа обсуждаются подробнее в главе 3. Распространенность заболевания и заболеваемость Когда мы говорим о числе случаев заболевания в эпидемиологии и медицине, мы сразу должны решить, считаем ли мы все существующие случаи болезни или толь ко новые случаи. Обычному человеку это может показаться несущественными тонкостями, но для людей, работающих в медицине и эпидемиологии, это разли чие существенно, поскольку нам часто бывает нужно отделить вновь возникшие случаи заболевания от уже существующих. Например, в этом случае мы можем определить эффективность мер по ликвидации антисанитарии для предотвраще ния новых случаев заболевания. Мы отделяем вновь возникшие случаи заболева ния от уже существующих, измеряя два показателя частоты заболеваний: распро страненность заболевания и заболеваемость. Распространенность заболевания характеризует число случаев заболевания, которые отмечены в данной популяции в определенный момент времени. Рас пространенность заболевания характеризует подверженность популяции забо леванию, не делая различий между новыми и уже существующими случаями; диабетик, выявленный в день проведения исследования, фиксируется так же, как диабетик, живущий с этим диагнозом 20 лет. Распространенность заболевания особенно полезна для тех, кто занимается распределением ресурсов, поскольку им нужно знать размер проблемы наряду с прогнозом на будущее. Распростра ненность заболевания становится все более важным показателем, поскольку вни мание эпидемиологов в индустриальную эпоху переместилось с инфекционных 380 Глава 15. Статистика в медицине и эпидемиологии заболеваний на хронические. Это происходит потому, что хронические заболева ния и состояния часто неизлечимы, но и не приводят к быстрому смертельному исходу, так что человек может жить с таким заболеванием или состоянием годы, если ему оказывают правильную медицинскую помощь. Распространенность заболевания определяется как доля людей в популяции с определенным заболеванием в данный момент времени и вычисляется, как пока зано на рис. 15.4. число случаев заболевания Р = -----------------------------------численность населения Рис. 15.4. Определение распространенности заболевания Если в результате исследования выяснили, что из 150 000 жителей одного го рода 671 - диабетики, то распространенность диабета в том городе на момент исследования составит 671 человек на 150 000, или 447,3 на 100 000. Принятые единицы, такие как число людей на 100 000, обычно используются при изложе нии результатов для простоты сравнения. Поскольку распространенность заболе вания свидетельствует о состоянии популяции в определенный момент времени, ее иногда называют точечной распространенностью. Учтите, что «точка» может быть календарной единицей времени, такой как день, или периодом в жизненном цикле или другой последовательности событий, такой как начало менопаузы или первый день после операции. Распространенность иногда называют частотой рас пространения:, особенно когда речь идет о длительных периодах времени, таких как год, хотя, строго говоря, это неправильно, поскольку в знаменателе не стоят единицы измерения времени. Заболеваемость вычислить сложнее, поскольку для этого нужно определить три се составляющие. Заболеваемость характеризует число новых случаев заболе вания или состояния, развившихся в группе риска за определенный интервал вре мени. Группой риска считаются люди, у которых данное состояние может возник нуть. Например, мужчины не могут забеременеть, так что они не входят в «группу риска» по беременности. Аналогичным образом, если человек уже заразился ВИЧ (вирусом, который вызывается СПИД), то он не может заразиться им еще раз (и не может выздороветь, насколько нам известно), так что в популяцию, подвер женную риску заражения ВИЧ, входят только ВИЧ-отрицательные люди. И рас пространенность заболеваний, и заболеваемость используются не только для ха рактеристики заболеваний и состояний, но и образа жизни; например, мы можем говорить о распространении курильщиков в Мексике или о начавших курить в 2005 году учениках определенной школы. Существует два типа заболеваемости: кумулятивная заболеваемость и плот ность заболеваемости. Кумулятивная заболеваемость (К З) вычисляется как доля заболевших людей за определенный отрезок времени (рис. 15.5). Показатели заболеваемости 381 число случаев заболевания КЗ = ------------------------------------- за определенный период численность населения Рис. 15.5. Формула для вычисления кумулятивной заболеваемости КЗ используется для оценки вероятности того, что у находящегося в группе риска человека за данный отрезок времени разовьется определенное заболевание или состояние, так что важно определить протяженность этого отрезка времени. КЗ для возникновения рака груди у женщин за один год после начала приема оральных контрацептивов и за 10 лет различается. Формула для вычисления КЗ подразумевает, что всю группу риска можно об следовать на протяжении всего заданного периода; это значит, что по умолчанию заболеваемость - это доля. Если состав группы риска меняется на протяжении заданного периода, то вместо этого нужно вычислять плотность заболеваемости (incidence density), также известную как частоту заболеваемости. Этот показа тель используется, если люди включаются в исследование после его начала пли выбывают до его завершения. Для вычисления плотности заболеваемости необ ходимо выразить знаменатель в единицах человеко-времени, что показывает, как долго наблюдали каждого человека. Время наблюдения каждого человека часто называют его временным вкладом в исследование. Подсчет единиц человеко-времени показан на примере данных из табл. 15.2. В ней представлены вымышленные данные по частоте послеоперационного ин фицирования в двух больницах. Поскольку в этих больницах находится разное число пациентов, а пациенты пребывают там разное время, нам нужно вычислить плотность заболеваемости, используя единицы человеко-времени в качестве зна менателя. Мы будем анализировать частоту осложнений в перерасчете на 100 нациенто-дней. Каждый пациенто-день можно рассматривать как возможность для инфицирования, так что использование этой величины в качестве знаменателя позволяет учесть разницу в возможности для заражения. Таблица 15.2. Данные о послеоперационном инфицировании в двух больницах Больница Порядковый номер пациента Число дней в больнице Была ли инфекция? 1 1 30 Нет 1 2 25 Да 1 3 Всего для первой больницы 15 Нет 70 1 2 1 45 Да 2 2 30 Нет 2 3 50 Нет 2 4 75 Да 200 2 Всего для второй больницы Глава 15. Статистика в медицине и эпидемиологии 382 Частота инфекций в перерасчете на 100 пациенто-дней вычисляется так, как показано па рис. 15.6. число инфекций ------------------------- ---------х 100 число пациенто-дней в исследовании Р и с. 1 5 .6 . Вычисление частоты инфекций в перерасчете на 100 пациенто-дней Так, для этого примера вычисление частоты заболеваний для первой больницы приведено на рис. 15.7, а для второй - па рис. 15.8. -X 100 = 1.43 на 100 Р и с. 1 5 .7 . Вычисление частоты инфекций в перерасчете на 100 пациенто-дней для первой больницы Р и с. 1 5 .8 . Вычисление частоты инфекций в перерасчете на 100 пациенто-дней для второй больницы Хотя во второй больнице отмечено больше случаев послеоперационных ин фекций, они произошли за пропорционально большее число человеко-дней, так что частота послеоперационных инфекций ниже во второй больнице, чем в пер вой. Связь между распространенностью определенного заболевания и заболевае мостью им сильно зависит от его длительности. Если это кратковременное за болевание (такое как обычный насморк), то для него распространенность будет ниже заболеваемости. Напротив, если данное заболевание длится долго (типич но для многих хронических болезней типа диабета), то распространенность пре высит заболеваемость. Изменения распространенности заболевания с течением времени связаны с изменениями или заболеваемости, или длительности заболе вания. Например, частота заболевания смертельным недугом может снизиться, но его распространенность может увеличиться из-за появления новых методов лечения, которые позволяют людям с таким заболеванием дольше жить (увели чение средней длительности такого заболевания). Аналогично заболеваемость может увеличиться, но распространенность этого заболевания при этом может снизиться из-за появления новых методов лечения, которые позволяют быстрее победить недуг. Распространенность заболевания можно математически выразить как произве дение заболеваемости и продолжительности болезни, как показано на рис. 15.9. П о к а з а те л и з а б о ле в а е м о сти Р =I х D Связь между распространенностью заболевания (Р), заболеваемостью (/) и продолжительностью болезни (D) Р ис. 1 5 .9 . Если две эти характеристики известны, можно вычислить третью. Например, если заболеваемость составляет 75 человек на 100 000, а средняя годовая распро страненность заболевания - 45 человек на 100 000, то среднюю продолжитель ность заболевания можно вычислить, как показано на рис. 15.10. - Р I Рис. 1 5 .1 0 . 45/100 000________ 45 75/100 000/гоЭ 7 5 /год = 0.6 года Вычисление средней продолжительности недуга при известных заболеваемости и распространенности заболевания При этом подразумевается постоянство условий на всем протяжении исследо ваний и отсутствие значительных изменений заболеваемости или продолжитель ности болезни. Эту формулу также можно использовать для оценки изменений распространенности заболевания при других значениях заболеваемости или про должительности болезни. Например, если заболеваемость определенным недугом будет оставаться на уровне 125 человек на 100 000, но продолжительность этой болезни снизится с 0,6 лет до 0,1, то ее распространенность упадет с 75 до 12,5 случаев на 100 000 человек за год. Аналогично если продолжительность болезни увеличивается, то ее распространенность возрастает. Если заболеваемость будет равна 200 случаям на 100 000 человек в год, но продолжительность болезни уве личится с 0,5 года до 2 лет, распространенность увеличится с 100 до 400 случаев на 100 000 человек за год. Общие, категоризированные и стандартизованные частоты По умолчанию термин частота обычно означает общую частоту. Общая часто та - это частота для всей исследуемой генеральной совокупности, без взвешива ния или поправок. Распространенный пример - это общая смертность. По данным центра конт роля заболеваний, общая смертность от рака в США в 2003 году составляла 195,5 человек на 100 000. В общих частотах нет ничего плохого, но иногда нам необходима более подробная информация, или нужно внести поправки в частоты, чтобы сравнивать их более осмысленно. К примеру, общая смертность от рака в США в 2003 году была неодинаковой в разных этнических и возрастных груп пах, для людей разного пола и для разного типа рака. Изучение этих различий может представлять интерес для исследователей, и в этом случае им захочется посмотреть на категоризированные частоты, в которых и числитель, и знамена тель характеризуют определенную часть популяции или один тип заболевания. 384 Глава 15. Статистика в медицине и эпидемиологии В 2003 году в США смертность от рака у мужчин составила 201,4/100 000, а для женщин - 182,0/100 000. В тот же год общая смертность от рака легких составила 76,9/100 000, а от меланомы - 2,7/100 000. Для американцев европейского происхождения общая смертность от рака со ставила 203,8/100 000; для афроамериканцев - 164,3/100 000, результат, который может показаться парадоксальным, если не сообразить, что возросшая ожидаемая продолжительность жизни часто связана с ростом смертности от рака. Умираю щий в младенчестве, скорее всего, умирает не от рака, но человек, разменявший восьмой десяток, имеет гораздо большую вероятность связанной с раком смерти. Это справедливо и для смертности вообще. Как правило, вероятность смерти в следующем году гораздо выше у 90-летнего человека по сравнению с 12-летним. По этой причине при сравнении смертности у разных популяций или в разные периоды времени обычно делают поправку на возраст, а также могут делать стан дартизацию по категориям, таким как этническая принадлежность или пол. Важность поправки на возраст можно увидеть при сравнении общей смерт ности от рака и смертности от рака с поправкой на возраст в США в 2003 году (табл. 15.3). Таблица 15.3. Общая смертность от рака и смертность от рака с поправкой на возраст (на 100 000 человек) в США в 2003 году Общая смертность Смертность с поправкой на возраст Всего 191.5 190.1 Европейцы 203.8 188.3 Афроамериканцы 164.3 234.5 Азиаты /жители тихоокеанских островов 79.4 114.3 Индейцы /исконные жители Аляски 69.3 121.0 Испанцы 60.3 127.4 Отсюда становится ясно, что хотя общая смертность от рака максимальна у аме риканцев европейского происхождения, это отчасти объясняется их более высокой ожидаемой продолжительностью жизни. Большая ожидаемая продолжительность жизни означает существование большого числа американцев преклонного возрас та, когда смертность от рака увеличивается. После введения поправки на возраст смер тность от рака оказывается самой высокой у афроамериканцев. Существуют два типа стандартизации - прямая и непрямая. Оба используются для сравнения уровня заболеваемости и смертности в разных популяциях после избавления от влияния других характеристик популяции - таких как возрастная или половая структура. При прямой стандартизации одна из популяций исполь зуется в качестве эталона для сравнения, и характеристики популяций с поправка ми, которые нужно сравнивать, вычисляются с использованием весов, полученных для «эталонной популяции». Рассмотрим гипотетический пример распространен ности артрита среди людей с разным статусом занятости (табл. 15.4). Показатели заболеваемости 385 Таблица 15.4. Распространенность артрита у людей с разным статусом занятости Численность населения Число человек с артритом Частота больных на 10 0 0 человек Работающий 10 000 387 38.7 Безработный 5 000 892 178.4 Статус занятости Судя по этим данным, частота (на самом деле доля) артрита более чем вдвое выше у безработных, чем у работающих людей. Может ли это объясняться тем, что людей с тяжелым артритом «выкидывали» с рынка труда? Помогает ли работа обуздать артрит? Обе идеи имеют право на существование, однако более логичное объяснение заключается в том, что люди старше 65 лет с большей вероятностью и не работают, и страдают артритом. Для проверки влияния возраста на различия в распространении артрита у людей с разным статусом занятости нужно вычислить частоты артрита с поправкой на возраст, используя «эталонную» популяцию. Вопервых, нужно оценить распространенность заболевания у работающих и нерабо тающих людей разных возрастных групп, как это сделано в табл. 15.5. Таблица 15.5. Распространенность заболевания у работающих и неработающих людей разных возрастных групп Работающие Неработаю щ ие Доля людей Число страдаю щ их людей, артритом, страдаю щ их на 10 0 0 артритом человек Доля людей Число страдаю щ их людей, артритом, страдаю щ их на 1 0 00 артритом человек Возрастная группа Чис лен ность 1 8 -4 4 5 000 127 25.4 1 000 32 32.0 4 5 -6 4 4 500 260 57.7 1 500 100 66.7 500 105 210.0 2 500 760 304.0 10 000 387 38.7 5 000 892 178.4 65+ Всего Чис лен ность Глядя на заболеваемость артритом в отдельных возрастных группах работаю щих и неработающих людей, мы видим, что в каждой возрастной группе частота артрита немного выше среди неработающих людей, чем среди работающих (при анализе данных по всем возрастным категориям вместе наблюдалась противопо ложная закономерность). Также можно видеть, что, как мы и подозревали, среди людей старше 65 лет, среди которых артрит наиболее широко распространен, го раздо больше неработающих (50%), чем работающих (5%). Учтите, что в этой таблице для простоты расчетов мы использовали очень ши рокие возрастные границы (соответствующие молодым и пожилым работающим взрослым, а также пенсионерам). Чаще используют более узкие категории, напри мер с интервалом в 10 лет. Можно использовать частоты для отдельных возрастных групп для вычисле ния ожидаемого числа людей с артритом для работающих и неработающих людей, 1: 386 Глава 15. Статистика в медицине и эпидемиологии анализируя возрастную структуру «эталонной» популяции. Обычно в качестве «эталонной» популяции для подобных вычислений используют данные из авто ритетного источника, такого как данные американского бюро переписи населения о населении США в 2000 году. Ожидаемое число людей с артритом приведено в табл. 15.6. Таблица 15.6. Ожидаемое число людей с артритом в разных возрастных категориях и с разным статусом занятости Эталонная популяция Возрастная группа Неработающ ие Работающие Численность Частота (на 10 00 человек) О жидаемое число больных Частота (на 10 00 человек) О жидаемое число больных 1 8 -4 4 100 000 25.4 2540 32.0 3200 4 5 -6 4 70 000 57.7 4039 66.7 4669 65+ 30 000 210.0 6300 304.0 Всего 200 000 12 879 9120 16 989 Ожидаемое число больных было подсчитано для каждой возрастной группы работающих и неработающих людей при помощи умножения соответствующих частот заболевания на число людей в данной возрастной категории в «эталонной» популяции. Это можно рассматривать как один из типов взвешивания, и это то же самое, что оценить ожидаемое число больных в популяции при условии, что ее возрастная структура будет такой же, как в «эталонной» популяции. Например, для работающих людей в возрасте 18-44 лет ожидаемое число больных вычисля ется, как показано на рис. 15.11. Е = частота * человек - х 100 000 = 2 540 J000 Рис. 15.11. Ожидаемое число больных среди работающих людей в возрасте 18-44 лет Для неработающих людей старше 65 лет ожидаемое число больных вычисляет ся, как показано на рис. 15.12. Е = частота х = ж 30 000 = 9 120 Рис. 15.12. Ожидаемое число больных среди неработающих людей старше 65 лет Общее число ожидаемых больных для работающих и неработающих людей рассчитывается путем сложения результатов для каждой возрастной группы. Можно видеть, что если бы у двух групп людей возрастная структура была оди наковой, то среди работающих ожидалось бы меньше больных артритом (12 879), Показатели заболеваемости 387 чем среди неработающих (16 989). Мы можем развить это наблюдение, вычис лив частоту артрита для каждой группы, разделив ожидаемое число больных па общую численность группы и затем умножив на 1000 (чтобы получить частоту в расчете на 1000 человек). Для работающих людей это вычисляется, как показано на рис. 15.13. ---------- х 1000 = 64.4 на 1000 200 000 Рис. 15.13. Частота встречаемости артрита среди работающих людей с поправкой на возраст Для неработающих людей частота артрита с поправкой на возраст составит 84,9 человека на 1000. Сравнение этих величин свидетельствует, что частота ар трита выше у неработающих людей по сравнению с работающими, по эта раз ница намного меньше, чем та, что указана в табл. 15.5. Учтите, что частоты с поправкой на возраст, вычисленные при помощи прямой стандартизации, не яв ляются реальными частотами для любой группы людей; они дают представление об ожидаемых частотах в одной или нескольких группах, если бы их возрастная структура совпадала с возрастной структурой «эталонной» группы. Непрямая стандартизация подразумевает противоположный подход. В этом случае категоризованные частоты для некоторой «эталонной» популяции при меняются к категориям двух и более групп. Применив непрямую стандарти зацию к нашему примеру с артритом, мы можем рассчитать ожидаемое число больных, если возрастной состав больных в обеих группах будет одинаковым и сохранится реальная возрастная структура. Частоты (вымышленные) приведе ны в табл. 15.7. Таблица 15.7. Непрямой метод стандартизации Возрастная группа Частота заболевания в «эталонной» популяции (на 10 0 0 человек) Работающие Неработаю щ ие Числен Числен О жидаемое ность число больных ность О жидаемое число больных 1 8 -4 4 30 5000 150 1000 30 4 5 -6 4 60 4500 270 1500 90 65+ 200 500 100 2500 500 10 000 520 5000 620 Всего Можно использовать эти значения для вычисления стандартизованного пока зателя заболеваемости (СПЗ), разделив число зарегистрированных заболеваний (из табл. 15.5) на ожидаемое число заболеваний (из табл. 15.7). Расчет этого пока зателя для работающих людей показан на рис. 15.14. Глава 15. Статистика в медицине и эпидемиологии 388 СПЗ н а б л ю д а е м о е число заб ол ев ани й 387 о ж и д а е м о е ч и сл о заб ол ев ани й 520 0 .7 4 4 , или! А .4% Рис. 15.14. Стандартизованный показатель заболеваемости для работающих людей Для неработающих людей стандартизованный показатель заболеваемости равен 0,695, или 69,5%. Если этот показатель равен единице, то у нас наблюдаемое число заболеваний равно ожидаемому. В нашем примере стандартизованный показатель заболеваемости и для работающих людей, и для неработающих меньше единицы, это значит, что зарегистрировано меньше заболеваний, чем ожидалось. Стандар тизованный показатель заболеваемости превосходит единицу, если регистрируют больше заболеваний, чем ожидали. Если мы имеем дело со смертями, а не с заболеванием артритом, то можно ис пользовать тот же прием для вычисления стандартизованного показателя смерт ности, часто используемого для сравнения смертности в разных группах людей; разница состоит в том, что мы подсчитываем случаи смерти, а не заболевания. Отношение рисков Во многих медицинских и эпидемиологических исследованиях анализируют связь между двумя дихотомическими переменными. Распространенный пример, - это подверженность какому-либо фактору риска (такому как контакт с асбестом или курение табака) и развитие какого-либо заболевания или состояния (асбестоза или рака легких). Фактор может быть наследственным, таким как пол или этни ческая принадлежность, и не обязательно негативным; например, регулярная фи зическая активность положительно действует на здоровье. Связь между двумя дихотомическими переменными часто представляют в виде таблицы сопряженности, также называемой таблицей 2><2, или два на два, из-за ее размерности (две строки и два столбца). Таблицы сопряженности также обсуж даются в пятой главе, и здесь применимы те же принципы. Однако в эпидемио логических исследованиях существует стандартный способ построения таблиц сопряженности, продемонстрированный в табл. 15.8. Таблица 15.8. Таблица 2x2 Заболевание Всего Есть Нет Есть а b a +b Нет с d c +d а +с b + d a+b+c+d Воздействие Всего Расположение (строки - Воздействия, столбцы - Заболевания) и порядок (сна чала - Есть (наличие), потом - Нет (отсутствие)) групп приняты для многих эпи Отношение рисков 389 демиологических исследовании, так что разумно следовать этим правилам, если у вас нет причины поступить по-иному. Объекты исследования распределяются по группам согласно их подверженности воздействию и наличию заболевания, и ячейки, обозначенные буквами а, b, с, d, содержат частоты для каждого сочетания воздействия и болезни. Например, в ячейке а указана частота подверженных воз действию больных, а в ячейке d - частота не подверженных воздействию здоро вых. Частоты в ячейках а, Ь, с, d иногда называют комбинированными (joint frequen cies), поскольку люди в этих ячейках разделены с учетом наличия и воздействия, и заболевания. По краям таблицы приведены суммы по строкам и столбцам, час то называемые краевыми частотами (marginal frequencies). Например, а + b - эго число подверженных воздействию людей вне зависимости от их здоровья. Общее число исследованных людей выражается как а + b + с + d. Отношение рисков (ОР), также называемое относительным риском, - это оцен ка вероятности развития заболевания у людей, подверженных воздействию, по сравнению с не подверженными воздействию. Это отношение доли подверженных воздействию больных к доле не подверженных воздействию больных. Отношение рисков вычисляется, как показано на рис. 15.15. О Р . ^ ± с /(с + d) Рис. 15.15. Формула для расчета отношения рисков Отношение рисков можно также трактовать как отношение частоты заболева ний в подверженной воздействию группе ( З и) к частоте заболеваний в не подвер женной воздействию (3 0) группе (рис. 15.16). заболеваемость в подверженной воздействию группе ' заболеваемость в не подверженной воздействию группе Зи 3 0 Рис. 15.16. Выражение отношения рисков через частоту заболеваний Для исследований, в которых знаменатель выражен в единицах человеко-времени, проводятся аналогичные вычисления, только вместо частоты заболеваний используется плотность заболеваний (П З), как показано на рис. 15.17. ОР ПЗ и ПЗ о Рис. 15.17. Выражение отношения рисков через плотность заболеваний Давайте рассмотрим данные вымышленного исследования, организованного с целью проверить, есть ли связь между потреблением пищи с высоким содержани ем жира (воздействие) и диабетом II типа (заболевание). Данные представлены в табл. 15.9. Глава 15. Статистика в медицине и эпидемиологии 390 Таблица 15.9. Связь между потреблением пищи с высоким содержанием жира и диабетом II типа Есть заболевание Нет заболевания Всего Есть воздействие 350 1200 1550 Нет воздействия 200 1900 2100 Всего 550 3100 3650 Риск диабета II типа при употреблении пищи с высоким содержанием жира вычисляется, как показано на рис. 15.18. а 350 а+Ь 1 550 0 .2 2 6 Рис. 15.18. Риск для подвергающейся воздействию группы Это число больных людей, подвергающихся воздействию (те, кто ел жирную пищу и болел диабетом II типа), деленное на общее число подвергавшихся воз действию людей (всех, кто ел жирную пищу, вне зависимости от их здоровья). Риск заболеть диабетом II типа, не будучи подверженным воздействию (не по требляя жирную пищу), - показан на рис. 15.19. с 200 с+d 2100 = 0 .0 9 5 Рис. 15.19. Риск для не подвергающейся воздействию группы Относительный риск заболевания диабетом у тех, кто ел жирную пищу, по срав нению с теми, кто ее не ел - это отношение этих двух типов риска (отсюда и тер мин - отношение рисков), как показано на рис. 15.20. пр ОР„ а1(а + Ъ) 0.226 ОР,, сЦс + d) 0.095 Рис. 15.20. Отношение рисков для подвергавшихся воздействию людей по сравнению с неподвергавшимися Относительный риск больше единицы значит, что воздействие увеличивает риск заболевания. Если между воздействием и заболеванием пет связи, то отно сительный риск равен единице, а если воздействие благотворно (ассоциировано с уменьшением риска заболевания), то относительный риск будет меньше единицы. В данном случае мы бы сказали, что у людей, употребляющих пищу с высоким содержанием жира, риск заболеть диабетом II типа в 2,38 раза выше, чем у тех, чей рацион содержит нормальное или пониженное количество жиров. Отношение рисков 391 Как и многие другие статистические параметры, значения отношения рисков приводят с доверительными интервалами (ДИ). При вычислении этих довери тельных интервалов нужно учитывать, что распределение отношения рисков смещено вправо, поскольку его значения снизу ограничены нулем, а сверху не ог раничены. Чтобы избавиться от этой асимметрии, нужно взять натуральный ло гарифм (In) отношения рисков, что приблизит их распределение к нормальному. При вычислении доверительных интервалов для отношения рисков необходимо взять натуральный логарифм отношения рисков, вычислить для него доверитель ный интервал, а затем взять натуральный антилогарифм значений доверитель ного интервала, чтобы вернуться к исходным единицам измерения. Учтите, что статистики иногда записывают ех как ехр(х). Существует несколько способов вычисления доверительного интервала для от ношения рисков, самое простое - это использовать компьютерную программу. Тем не менее эти вычисления можно провести и вручную, в общем случае при помощи формулы с рис. 15.21. ДИ = (O P ) e x p [ ± z - \ I V a r ( \ n ( O P ))] Рис. 1 5 .2 1 . Общая формула для вычисления доверительного интервала (ДИ) для отношения рисков (ОР) В этой формуле 2 - это значение стандартного нормального распределения, со ответствующее нужному уровню доверительного интервала; чаще всего это зна чение составляет 1,96, что соответствует двустороннему 95%-му доверительному интервалу. Если отношение рисков оценивается при помощи отношения шансов (обсуждается ниже) по данным исследования случай-контроль, то доверитель ный интервал можно вычислять, используя значения из таблицы 2x2. ДИ =(ad/bc)exT p[±z^(l/si + 1/b + 1/с + Ш)] Рис. 15.22. Формула для вычисления доверительного интервала для отношения рисков, оцененного через отношение шансов При использовании значений из табл. 15.9 для 95%-го доверительного интерва ла эта формула применяется, как показано на рис. 15.23. Д И = 35Q ( 19QQ) 200(1200) (± 1 9 6 л /1 / 3 5 0 + 1/1200 + 1/200 + 1/1900) н = (2.77)ехр(±0.19) = (2.30,3.35) Рис. 15.23. Вычисление доверительного интервала с использованием формулы для отношения шансов 392 Глава 15. Статистика в медицине и эпидемиологии Поскольку полученный доверительный интервал не включает единицу, мы за ключили, что связь между диабетом II типа и потреблением пищи с высоким со держанием жира значима. Для интерпретации относительного риска важен период времени, в течение которого собирали данные. Риск развития многих хронических заболеваний воз растает но мере увеличения продолжительности воздействия, например следует ожидать, что риск рациона с высоким содержанием жиров для развития диабета II типа будет выше в исследовании длительностью 10 лет, чем при сборе данных в течение одного года. Это особенно актуально при изучении смертности, посколь ку в достаточно длительном исследовании вероятность смерти всех объектов со ставляет 100%! Атрибутивный риск, атрибутивная до ля риска и число лю дей, которых нужно лечить Поскольку у нс подвергающихся воздействию людей тоже есть определенный риск заболеть, в эпидемиологии также используется понятие атрибутивного рис ка (АР) (attributable risk). Это абсолютный эффект воздействия на возникновение заболевания, то есть риск заболевания в подверженной воздействию группе, по сравнению с неподверженной. Атрибутивный риск полезен в качестве показате ля пользы или вреда некоторого воздействия для охраны здоровья, поскольку из подверженной воздействию группы удаляют те случаи заболеваний, которые, как предполагают, случились бы даже без воздействия. АР также можно использовать для оценки эффекта от предотвращения определенного воздействия, вычисляя число заболеваний, которые удалось бы избежать, избавившись от данного воз действия. Атрибутивный риск вычисляется путем вычитания частоты заболе ваний в не подверженной воздействию группе (3 0) из частоты заболеваний для подверженной воздействию группы ( 3 [}). В нашем примере с жирной пищей и диа бетом II типа это будет выглядеть, как показано на рис. 15.24. А Р = 3 И- 3 0 = 0 . 2 2 6 - 0 . 0 9 5 = 0 . 1 3 1 Рис. 15.24. Вычисление атрибутивного риска (АР) Таким образом, употребление большого количества жиров увеличивает забо леваемость диабетом второго типа на 131 случай из 1000 людей. Если между воз действием и заболеванием не существует связи, то в подверженной воздействию группе не будет дополнительных случаев заболеваний и атрибутивный риск будет равен нулю. Доля атрибутивного риска (АР%, также называемая этиологической долей) это доля случаев в подвергающейся воздействию группе, которую можно объ яснить наличием этого воздействия и можно предотвратить, устранив воздейст вие. Для нашего примера этот показатель можно вычислить, как показано на рис. 15.25. Отношение шансов 393 АР 3 -3 0 .2 2 6 -0 .0 9 5 АР% = — х 1 0 0 = — — - х 1 0 0 = х 1 0 0 = 5 8 .0 % 3„ 3., 0 .2 2 6 Рис. 15.25. Вычисление доли атрибутивного риска (АР%) Мы интерпретировали бы это, сказав, что воздействие было виной 58% заболе ваний в подверженной ему группе. Долю атрибутивного риска можно также вычислить через отношение рисков, как показано на рис. 15.26. О Р -1 2 .3 8 -1 А Р % ------------ х 1 0 0 = ----------- х 1 0 0 = 5 8 . 0 % ОР 2 .3 8 Рис. 15.26. Вычисление доли атрибутивного риска через отношение рисков Число нуждающихся в лечении больных - это число пациентов, которых нужно подвергнуть специальному лечению (в противоположность стандартному лече нию или плацебо) или оградить от воздействия, чтобы уменьшить число больных людей в группе на одного. Этот показатель полезен для оценки ожидаемой выгоды от нового лечения в будущем, он обратно пропорционален атрибутивному риску. В нашем примере атрибутивный риск составил 0,131, поэтому число нуждающих ся в лечении больных равно 1/0,131 = 7,6. Этот показатель обычно округляют до целых чисел (пожалуйста, никаких частей больных!), так что в нашем случае мож но сказать, что восьми людям нужно воздержаться от избыточного употребления жиров, для того чтобы в дайной группе стало одним диабетиком меньше. Отношение шансов Представление об отношении шансов было разработано в исследованиях случайконтроль, методологии, которая применяется в эпидемиологии для упрощения исследования редких или медленно развивающихся заболеваний, так что обыч ные перспективные исследования было бы трудно осуществить. В исследованиях случай-контроль людей выбирают на основании наличия заболевания - случаи больны, а контроли здоровы. Эти две группы затем сравнивают по подверженнос ти воздействию. В подобных исследованиях нельзя вычислять отношение рисков, поскольку оно чувствительно к числу контролей (здоровых людей), а это число в исследованиях случай-контроль определяют, исходя из плана, а не частоты забо левания в популяции. Как будет показано далее, отношение шансов имеет преиму щество, поскольку, в отличие от отношения рисков, оно нечувствительно к числу контролей (здоровых людей). Отношение шансов (ОШ ) (odds ratio) (вероятность успешного исхода) - это отношение вероятности воздействия в опытной группе к вероятности воздействия в контрольной группе. Это математически эквивалентно отношению вероятности заболевания в подверженной воздействию группе к вероятности не подверженной воздействию группе, так что вы можете встретить другое определение этого тер- Глава 15. Статистика в медицине и эпидемиологии 394 мина. В таблице 2><2 вероятность воздействия при наличии заболевания равна а /с, а вероятность воздействия в отсутствие заболевания - b/d. Отношение шансов вычисляется по формуле, приведенной на рис. 15.27. вероятность воздействия при наличии заболевания a le ad ОШ вероятность воздействия ~ b id be при отсутствии заболевания Рис. 15.27. Формула для вычисления отношения шансов (ОШ) Предположим, у нас есть исследование случай-контроль влияния курения на возникновение рака легких. В табл. 15.10 приведены вымышленные данные. Таблица 15.10. Связь между курением и раком легких Есть в о зд ей ст в и е Есть за б о л ев а н и е Нет забол еван и я В сего 50 2000 2050 Нет воздей стви я 25 1900 1925 В сего 75 3900 3975 Отношение шансов может быть вычислено, как показано на рис. 15.28. 5 0 /2 5 О Ш ------------------------- 1.90 2 0 0 0 /1 9 0 0 Рис. 15.28. Вычисление отношения шансов Обратите внимание, что отношение рисков для этих данных примерно такое же (рис. 15.29). 5 0 /2 0 5 0 О Р --------------------- 1.88 2 5 /1 9 2 5 Рис. 15.29. Вычисление отношения рисков Если заболевание или состояние редки (практическое правило заключается в том, что частота заболевания должна быть меньше 10% во всех группах), то от ношение шансов - это хороший способ оценки отношения рисков. Причина тре бований «редкости заболевания» заключается в том, что как только заболевание становится более частым, отношение шансов начинает сильнее отличаться от от ношения рисков. Это показано на примере данных вымышленного исследования случай-контроль курения и рака легких (табл. 15.11). Таблица 15.11. Курение и рак легких Есть за б о л ев а н и е Нет забол еван и я В сего Есть в о зд ей ст в и е 50 50 100 Нет воздей стви я 20 100 120 В сего 70 125 195 Отношение шансов 395 Ha этот раз заболевание широко распространено и среди подверженных воздейст вию объектов, и среди неподверженных; рак легких есть у 50% курильщиков и у 16,5% некурящих. Отношение шансов для этих данных вычислено на рис. 15.30, а отношение рисков - на рис. 15.31. I 2 0 (5 0 ) I 1 00 0 Рис. 15.30. Вычисление отношения шансов ОР 5 0 /1 0 0 20/120 = 3 .0 Рис. 15.31 . Вычисление отношения рисков Разница между 5,0 и 3,0 существенна и связана с тем, что «правило 10%» нару шено; для таких данных отношение шансов - плохая оценка отношения рисков. Отношение рисков, в отличие от отношения шансов, также чувствительно к числу контролей. Предположим, что поскольку контроли легче найти, чем слу чаи, мы увеличили число контролей в десять раз (маловероятно, поскольку умень шение эффективности исследования наблюдается при соотношении контролей и случаев 4:1, но полезно в демонстрационных целях). Тогда мы получим данные, представленные в табл. 15.12. Таблица 15.12. Курение и рак легких при десятикратном увеличении числа контролей Есть за б о л ев а н и е Нет забол еван и я В сего Есть в оздей ств и е 50 500 550 Нет воздействия 20 1000 1020 В сего 70 1500 1570 Отношение шансов не отличается от того, что было вычислено для данных из табл. 15.11, как показано на рис. 15.32, но отношение рисков отличается (рис. 15.33). 50(10 00 ) 5 000 О Ш ------- ---------- ----------- = 5.0 2 0 (5 0 0 ) 1000 Рис. 15.32. Отношение шансов не меняется при увеличении числа контролей ОР 5 0 /5 5 0 20/1020 = 4 .6 4 Рис. 15.33. Отношение рисков меняется при увеличении числа контролей Доверительный интервал для отношения шансов можно вычислить при помо щи метода, описанного в предыдущем разделе «Отношение рисков» (стр. 388). Глава 15. Статистика в медицине и эпидемиологии 396 Шансы Отношение шансов - важный показатель в медицинских и статистических исследова ниях, однако он основывается на понятии, незнакомом или непонятном на интуитивном уровне большинству людей: это шансы. Шансы некоторого события - это просто другой способ выражения его правдоподобности, сходный с вероятностью; разница заключа ется в том, что вероятность вычисляется при помощи деления числа событий на общее число испытаний, а шансы вычисляются как отношение числа событий к числу не-со бытий. Если рассматривать пример из эпидемиологии, то шансы курильщика заболеть раком легких вычисляются путем деления числа курильщиков с раком легких на число курильщиков без рака легких (а/Ь из нашей таблицы сопряженности). Вероятность рака легких у курильщиков вычисляется посредством деления числа курильщиков с раком легких на общее число курильщиков (а/(а + Ь )). Поскольку и шансы, и вероятность используют одни и те же величины, вы можете пре образовать один показатель в другой при помощи следующих формул: Ш ансы = в е р о я тн о с ть /(1 - в е р о я тн о с ть ), В е р о я тн о с ть = ш ансы (1 + ш ансы ). Предположим,что Р {А ) = 0.5,или50%.Тогдашансы4составят0.5/1 - 0.5 = 1.0.Этодолжно иметь смысл на интуитивном уровне: вероятность 50% значит равные шансы наступ ления и ненаступления события, то же самое означают и шансы, равные 1.0. Рассмотрев обратную ситуацию, если шансы составляют 1, то вероятность равна 1/(1+1) = 0.5. Отношение шансов - это просто частное двух шансов, например шансов рака легких у курильщиков и шанса рака легких у некурящих (математически тождественное отно шению шансов курения у больных раком легких и здоровых). Отношение шансов можно вычислить, подставив вероятности в приведенную на рис. 15.34 формулу (где ш а нсы , и ш ансы 2 - это шансы исхода при двух условиях, а р 1 и р2 - это вероятности исхода при двух условиях). ОШ = Ша"СЫ' = шапсы2 р 2(1 _ р 2) Рис. 15.34. Вычисление отношения шансов с использованием вероятностей Искажение, послойный анализ и коэффициент Мантеля-Гензеля Искажение - это ситуация, в которой наблюдаемая статистическая связь объясня ется, хотя бы отчасти, неизученными различиями исследованных групп. Искаже ние иногда называют проблемой «третьей переменной»; связь между двумя пере менными, например воздействием и заболеванием, маскируется или искажается третье]! переменной, связанной с первыми двумя. Искажение может быть внесено более чем одной переменной, но для простоты мы расскажем о методах работы с одним искажающим фактором. При работе в области эпидемиологии нужно знать о возможности искажения данных, особенно при наблюдениях, когда принадлежность объекта к группе не определяется исследователем. Например, при исследованиях эффектов от куре И скажение, послойный анализ и коэффициент М антеля-Гензеля 397 ния нужно учитывать, что курение - это добровольное дело (люди сами решают, курить им или нет), а курильщики могут отличаться от некурящих людей по мно гим признакам (таким как употребление алкоголя, рацион питания или уровень образования). По возможности лучше избавляться от искажающих факторов при планировании исследования. Рандомизация - это метод выбора объектов в экспериментальных ис следованиях, поскольку теоретически она позволяет избавиться от всех возможных искажающих факторов одновременно. Это происходит потому, что, как правило, случайное распределение объектов по группам должно привести к примерно одина ковому распределению любых возможных искажающих факторов в каждой группе, включая те факторы, о существовании которых исследователь не подозревает. Два других метода, которые можно использовать при наблюдениях для мини мизации действия известных или предполагаемых искажающих факторов, - это ограничение и сопоставление. Недостаток обоих методов - это обретение контроля только над теми искажающими факторами, которые были включены в исследова ние. При использовании ограничения исследователь анализирует только часть ге неральной совокупности, выбранную по значениям потенциального искажающего фактора. Например, в медицинских исследованиях часто используют только муж чин или только женщин, чтобы избежать влияния пола на связь между воздейст вием или заболеванием. Недостаток этого подхода - ограничение применимости результатов исследования; если для определенной группы мужчин будет выявле на связь между употреблением алкоголя и психопатологией, немедленное распро странение этой закономерности на женщин будет неоправданным, поскольку они не участвовали в исследовании. Сопоставление - это другой прием для обретения некоторого контроля над из вестными искажающими факторами. В этом случае анализируются все уровни искажающего фактора, но объекты распределяются по группам таким образом, чтобы искажающие факторы были равномерно рассредоточены по этим группам. Сопоставление часто используется в исследованиях случай-контроль, в которых контроли подбирают так, чтобы они соответствовали вошедшим в выборку случа ям. Существуют разные методы сопоставления, но все они основаны на сходном распределении значений искажающих факторов по группам. Существуют два способа проведения сопоставления. При прямом сопостав лении объекты сравниваются по одному. При частотном сопоставлении распре деление объектов по группам организуют так, что в каждой группе присутствует равное количество искажений. Если искажающие факторы - это пол и возрастная группа, то при прямом сопоставлении женщинам возраста 60-70 лет в экспери ментальной группе будут соответствовать женщины этого же возраста в контроль ной группе. При частотном сопоставлении руководитель проекта позаботится о том, чтобы в опытную и контрольную группы было включено равное число жен щин и людей из разных возрастных категорий. Частотное сопоставление иногда называют сопоставлением по группам, поскольку вы можете думать о группах, оп ределенных разными комбинациями признаков (например, мужчины в возрасте 20-29 лет, мужчины в возрасте 30-39 лет и так далее). Частотное сопоставление 398 Глава 15. Статистика в медицине и эпидемиологии особенно популярно в исследованиях случай-контроль, поскольку часто сначала выбирают случаи, а потом подыскивают соответствующие им контроли. Посколь ку вы знаете, как распределены параметры случаев, то можете подобрать контроли со сходным распределением признаков. Если от влияния искажающих факторов нельзя избавиться при планировании исследования, этим можно заняться во время анализа данных. Для этого сущест вует множество статистических методов, включая многомерный анализ, который может быть довольно сложным. Однако в эпидемиологии от искажений избавля ются более простыми методами, особенно в исследованиях с одним воздействием и одним заболеванием. Ниже описан один из наиболее распространенных методов для оценки и контроля искажения: вычисление и сравнение простого коэффици ента несогласия и коэффициента несогласия Мантеля-Гензеля. При определении переменной как искажающего фактора не предполагают при чинной связи; на самом деле считается, что многие наиболее обычные искажаю щие факторы лишь связаны с другими параметрами. Переменная считается иска жающим фактором при выполнении трех условий: 1. Она должна быть связана с воздействием. 2. Она должна быть связана с заболеванием независимо от ее связи с воздейст вием. 3. Она не должна находиться посередине логической цепочки, связывающей воздействие и заболевание. Четвертое, скорее практическое, чем теоретическое, требование заключается в том, что значения искажающего фактора должны быть неравномерно распределе ны между исследуемыми группами. Например, если мы знаем, что возраст может быть искажающим фактором для смертности, но в определенном исследовании возрастная структура всех исследуемых групп сходна, то в данном случае воз раст - это не искажающий фактор. Давайте в качестве примера рассмотрим исследование благотворного эффекта добровольной физической активности в свободное время (воздействие) на возник новение сердечных приступов (инфаркт миокарда или ИМ, заболевание); мы пола гаем, что эта связь может искажаться возрастом. Все три требования выполнены: 1. Возраст связан с физической активностью (в среднем молодые люди зани маются спортом больше, чем пожилые). 2. Возраст - это фактор риска для ИМ вне зависимости от физической актив ности (в среднем вероятность ИМ выше у пожилых людей). 3. Возраст не находится посредине логической цепочки, связывающей фи зическую активность и ИМ (нет такого механизма, при помощи которого физическая активность влияла бы на возраст человека, а возраст - на веро ятность ИМ). Один из способов обретения контроля над искажающим фактором - это ис пользование послойного анализа, при котором исследуемые группы разделяют на слои или подгруппы согласно значениям искажающего фактора. Стратификация по возрастным группам - это обычный случай. Как обсуждалось в предшествую Искажение, послойный анализ и коэффициент М антеля-Гензеля 399 щем разделе, посвященном стандартизованным частотам, население разных стран характеризуется разной возрастной структурой; в некоторых странах больше мо лодых людей, а в других - больше пожилых. Возраст связан со смертностью и распространенностью многих болезней. По этим причинам при сравнении смерт ности и заболеваемости между разными странами обычно проводят разделение по возрастным категориям, а затем стандартизацию, так чтобы распределение воз растов в сравниваемых группах было сопоставимым. Вот пример, демонстрирующий необходимость оценки искажающего фактора. В 2007 году смертность в США составляла 8,26 смерти на 1000, а в Эквадоре - 4,21 смерти на 1000. Следует ли это интерпретировать как свидетельство в пользу бо лее здорового образа жизни эквадорцев по сравнению с американцами? Это ин тересная гипотеза, однако она не подтверждается при исследовании более под робных таблиц продолжительности жизни, которые показывают, что смертность эквадорцев выше смертности американцев в каждой отдельно взятой возрастной категории. Например, для возрастной группы 45-49 лет вероятность смерти у американцев составляет 0,00341, а у эквадорцев - 0,00513. Разница в смертности наблюдается из-за различий в возрастной структуре этих двух популяций. В Эквадоре, как и в большинстве развивающихся стран, высока доля молодых людей. В США, как и в большинстве промышленно развитых стран, больше пожилых людей, у которых вероятность смерти выше. Это различие было бы упущено при анализе только общих показателей смертности, но становится ясным, когда послойный анализ позволяет избавиться от влияния искажающего фактора (возраста) на результат (смертность). Не существует четкого теста на искажение, но есть способы исследовать дейст вие потенциальных искажающих факторов на интересующую нас связь и на осно вании этого решить, существуют ли искажающие факторы. Стандартные действия при определении искажающих факторов следующие: 1. Вычислить показатель связи без учета искажающего фактора. 2. Разделить исследуемую группу на основе искажающего фактора, то есть разделить ее на подгруппы по значениям искажающей переменной. 3. Вычислить показатель связи с поправкой. 4. Сравнить исходный показатель связи со скорректированным показателем; разница более чем в 10% обычно считается свидетельством в пользу иска жения. Подходящий показатель связи зависит от плана исследования; мы рассмотрим послойный анализ с использованием исходных значений отношения шансов н значений с поправкой Мантеля-Гензеля (Mantel-Haenszel). Учтите, что исполь зование этой поправки требует соблюдения двух условий: общий объем выборки должен быть большим, а показатель связи между воздействием и результатом дол жен варьировать от 0,5 до 2,5. Оценка Мантеля-Гензеля отношения шансов при послойном анализе позволя ет объединять информацию из нескольких таблиц сопряженности с использова нием формулы, приведенной на рис. 15.35. : 400 Глава 15. Статистика в медицине и эпидемиологии Рис. 15.35. Формула для вычисления отношения шансов с поправкой Мантеля-Гензеля В этой формуле: к - это число таблиц сопряженности, i - это одна из таблиц («слоев», на которые разделена выборка), п - число объектов в слое, ar Ьг с. и dj - это значения ячеек в этой таблице сопряженности. Предположим, нас интересует связь между курением и заболеваниями печени. Известно, что курильщики в среднем чаще употребляют алкоголь, а употребление алкоголя - это независимый от курения фактор риска для болезней печени, который не находится в логической цепочке посередине между курением и заболеваниями печени. Таким образом, употребление алкоголя - это потенциальный искажающий эффект, наличие которого мы проверяем, разделив выборку по употреблению ал коголя (как дихотомической переменной: употребляющие алкоголь люди и непью щие) и сравнив исходное и скорректированное значения отношения шансов. Исходные данные представлены в табл. 15.13. Таблица 15.13. Курение и заболевания печени до разделения выборки на группы Есть заболевание Нет заболевания Всего Есть воздействие 50 100 150 Нет воздействия 30 120 150 Всего 80 220 300 Отношение шансов для этих данных вычислено на рис. 15.36. ad ОПГ = — Ьс 5 0 (1 2 0 ) = 2.00 3 0 (1 0 0 ) Рис. 15.36. Вычисление отношения шансов для исходных данных Высокое положительное значение отношения шансов свидетельствует о поло жительной связи курения с заболеваниями печени: у курильщиков вероятность таких заболеваний вдвое выше по сравнению с некурящими людьми. Чтобы узнать, является ли потребление алкоголя искажающим фактором, мы построили отдельные таблицы сопряженности для людей, употребляющих и не употребляю щих алкоголь (табл. 15.14 и 15.15). Искажение, послойный анализ и коэффициент М антеля-Гензеля Таблица 1 5 .1 4 , H B E Курение и заболевания печени у не употребляющих алкоголя людей Есть заболевание Нет заболевания Всего Есть воздействие 40 35 75 Нет воздействия 30 45 75 Всего 70 80 150 Таблица 1 5 .1 5 . S 4 0O1 Курение и заболевания печени для употребляющих алкоголь людей Есть заболевание Нет заболевания Всего Есть воздействие 60 15 75 Нет воздействия 50 25 75 Всего 110 40 150 Для этих данных мы можем вычислить отношение шансов с поправкой Манте ля-Гензеля, как это показано на рис. 15.37. (4 0 x 4 5 )7 1 5 0 о ш м, Р ис. 1 5 .3 7 . (6 0 x 2 5 )7 1 5 0 (30 х 35)7150 + (50x15)7150 Вычисление отношения шансов с поправкой Мантеля-Гензеля Поскольку разница между исходным и скорректированным значениями от ношения шансов превышает 10% от исходного значения 2,0, мы заключаем, что употребление алкоголя - это искажающий фактор для связи между курением и заболеваниями печени, который нужно учитывать в подобных исследованиях. Анализ мощности В этом разделе речь пойдет о теоретических аспектах мощности и размера выбор ки, и будут представлены несколько простых примеров. Вычисления необходи мого размера выборки и мощности часто просты, но они также имеют свою спе цифику; разные планы исследований требуют использования разных формул, и их незачем перечислять, поскольку все они приведены в справочниках. Для тех, кто работает в области медицины и эпидемиологии, мы особенно рекомендуем главу, посвященную вычислениям объема выборки, из «Руководства по эпидемио логии» (Handbook of Epidemiology, Springer). Во многих компьютерных програм мах, таких как SAS и Minitab, есть встроенные процедуры для проведения анализа мощности и вычисления нужного размера выборки, калькуляторы этих величин также есть в Сети; хорошую коллекцию ссылок на онлайн-калькуляторы можно найти здесь: http://statpages.org. 402 Глава 15. Статистика в медицине и эпидемиологии При статистическом выводе всегда есть вероятность принять неверное реше ние, поскольку статистический вывод о генеральной совокупности опирается на вычисления, сделанные на основе выборки. Как обсуждалось в третьей главе, при статистическом выводе возможны два обычных типа ошибок: 1) . статистическая ошибка первого рода (а), когда вы ошибочно отвергаете ну левую гипотезу; 2) . статистическая ошибка второго рода (Р), когда вы не можете отвергнуть пулевую гипотезу, в то время как она неверна. Иными словами при ошибке I рода вы находите закономерность, где ее нет, а при ошибке II рода - пропускаете существующую закономерность. Мощность - это вероятность отвергнуть нулевую гипотезу, когда она неверна (1 - Р). Нам бы всем хотелось, чтобы мощность была все время высокой, одна ко практические соображения, в особенности финансовые затраты и доступность объектов, вынуждают нас идти на компромисс. Принято, чтобы мощность состав ляла хотя бы 80%, то есть вероятность обнаружить в вашей выборке существую щую в генеральной совокупности закономерность составляло бы 80%. Это значит, что в 20% случаев вы не найдете закономерность там, где вы должны были это сделать. Также часто используется стандартное значение мощности, равное 90%. На мощность влияют четыре основных фактора: 1. Уровень а, то есть Р (ошибки I рода): более высокая а увеличивает мощ ность. 2. Различия в результате между группами (мощность выше при больших различиях). 3. Изменчивость (при маленькой изменчивости мощность выше). 4. Размер выборки (мощность выше при большей выборке). Изменение любого из этих параметров при постоянных значениях остальных переменных приведет к изменению мощности в указанную сторону. Уровень а обычно выбирают равным 0,05 или менее (например, 0,01); увеличение а дает бо лее высокую мощность. Увеличение межгрупповой разницы в результатах также увеличивает мощность. Эту разницу можно повысить, оптимизировав воздейст вие, так чтобы оно имело более выраженный эффект, или выбрав такие группы объектов, для которых ожидаемые различия в результатах были бы выше. Умень шение изменчивости также повышает мощность. Уменьшить изменчивость иногда можно путем оптимизации измерений или выбора исследуемых объектов (напри мер, уменьшив диапазон возраста или дохода). Однако наша способность контро лировать эти параметры обычно незначительна. Таким образом, нам остается только размер выборки - единственный фактор, который находится под контролем исследователя при планировании проекта. При прочих равных условиях больше объектов = больше мощности. Однако обсле дование большего числа объектов обычно требует больших средств и усилий со стороны исследовательской группы. Цель анализа мощности - найти разумный компромисс, при котором была бы достигнута приемлемая мощность, а вы бы не обанкротились и нс набрали бы больше данных, чем нужно. Анализ мощности Понятие мощности наряду с ошибками I и II рода можно прояснить, рассмотрев рис. 15.38. Рис. 15.38. Диаграмма мощности для двух генеральных совокупностей с нормальным распределением значений На рис. 15.38 проиллюстрировано вычисление мощности, при котором нулевая гипотеза заключается в том, что среднее значение для генеральной совокупности равно 100, а альтернативная гипотеза - в том, что оно равно 115. Считается, что распределение значений обеих генеральных совокупностей близко к нормальному. На этом рисунке левая кривая распределения (светло-серая) соответствует нулевой гипотезе. Правая кривая (темно-серая) соответствует альтернативной гипотезе. Вычисления мощности всегда проводят для конкретной альтернативной гипо тезы. В этом случае альтернативная гипотеза заключается не просто в том, что среднее значение превышает 100, а в том, что оно равно 115. Обратите внимание на то, что при проверке гипотез речь идет о средних значениях для генеральной совокупности, хотя при этом используются средние значения, вычисленные для выборок. Для простоты изложения в этом примере обе генеральные совокупности характеризуются одинаковым стандартным отклонением, равным 15. В данном случае тестируется односторонняя гипотеза, поэтому определено единственное граничное или критическое значение, обозначенное пунктиром. Если выборочное среднее превышает это значение, то нулевая гипотеза должна быть отвергнута. Если выборочное среднее меньше критического значения, то ну левую гипотезу не отвергают. Критическое значение 112,5 было выбрано на осно вании генеральной совокупности, соответствующей нулевой гипотезе, у которой среднее равно 100, а стандартное отклонение - 15; это критическое значение для а = 0,05, поскольку 95% значений этой генеральной совокупности находится слева от 112,5, а 5% - справа. Площадь под кривой распределения значений, соответствующей нулевой ги потезе, справа от критического значения представляет вероятность ошибки I рода или вероятность отвергнуть нулевую гипотезу, когда она справедлива. В нашем примере эта вероятность равна 0,05. Площадь под кривой распределения значений, соответствующей альтернатив ной гипотезе, слева от критического значения - это вероятность ошибки II рода, если верна альтернативная гипотеза (среднее значение генеральной совокупности равно 115). Это вероятность того, что если настоящее среднее равно 115, выбороч ное среднее будет меньше критического значения 112,5. 404 Глава 15. Статистика в медицине и эпидемиологии Площадь этой кривой справа от критического значения - это мощность теста для дайной нулевой гипотезы. Она соответствует вероятности того, что если верна альтернативная гипотеза (среднее для генеральной совокупности равно 115), то выборочное среднее будет больше критического значения 112,5, и мы решим, что среднее в генеральной совокупности больше 100. Давайте на нашем примере рассмотрим, как каждый из указанных выше четы рех факторов может увеличить мощность, считая, что факторы могут меняться только по одному. 1. Если увеличить а до 0,1, то критическое значение было бы меньше (смес тилось влево), и мощность бы увеличилась, тогда как вероятность ошибки II рода уменьшилась бы (площадь под кривой левее критического значе ния стала бы меньше). 2. Если бы увеличилась величина эффекта, например среднее значение для «альтернативной» генеральной совокупности было бы 120, а не 115, то рас пределение этой генеральной совокупности сместилось бы вверх. В резуль тате снизилась бы вероятность ошибки II рода и увеличилась мощность. 3. Если уменьшилось бы стандартное отклонение, то распределения этих двух генеральных совокупностей были бы более узкими (сильнее сгруппи рованными вокруг среднего), таким образом, они бы меньше пересекались. Это бы привело к снижению вероятности ошибки II рода и увеличению мощности. 4. Если бы объем выборки увеличился, то эффект был бы сходен с уменьше нием стандартного отклонения, что привело бы к снижению вероятности ошибки II рода и увеличению мощности. Один из хороших способов познакомиться с влиянием разных факторов на мощность - это поэкспериментировать с графическим калькулятором мощности; в качестве примера такого калькулятора можно привести «Приложение для вы числения мощности» (Statistical Power Applet, http://wise.cgu.edu/power_applet/ powcr.asp), созданное Клсрмоитским университетом (Claremont Graduate Univer sity). Вычисление размера выборки Как было упомянуто выше, каждый тин вычислений мощности или необходимо го размера выборки требует использования подходящей формулы. Однако если попять принципы планирования научных исследований и анализа мощности, то найти нужную формулу будет несложно. Здесь приведены два простых примера вычисления объема выборки, поскольку они хорошо иллюстрируют принципы этого процесса и могут быть выполнены при помощи ручного калькулятора. Доверительный интервал д л я процентов Одна из распространенных задач - это определение размера выборки, необходи мой для вычисления процентов с приемлемой точностью. Например, вы можете Вычисление разм ера выборки 405 вычислять степень согласия между разными сотрудниками, которые анализи руют медицинские карты, в процентах с точностью до 5%. Или же вы проводите анализ доли взрослых людей в популяции, которые сделали прививку от гриппа, и хотите оценить долю иммунизированных людей с точностью до 10%. В этом случае анализ мощности не проводится, поскольку нет гипотезы, которую нуж но проверять, однако размеры выборки вычисляются, потому что нужно опре делить минимальный размер выборки, необходимый для получения заданного уровня точности. Формула, используемая для вычисления двустороннего доверительного интер вала, приведена на рис. 15.39. Рис. 15.39. Формула для вычисления объема выборки для двустороннего доверительного интервала заданного уровня точности для процентного соотношения В этой формуле: п - это необходимый объем выборки, л (греческая буква «пи») - предполагаемое процентное соотношение в гене ральной совокупности, Z - значение стандартного нормального распределения, соответствующее по ловине уровня а, со (греческая буква «омега») - половина ширины нужного доверительного ин тервала (если мы используем доверительный интервал в 10%, то половина его ши рины - это 5%). Мы хотим вычислить двусторонний доверительный интервал для а = 0,05, так что Z = 1,96. Мы считаем, что л = 0,8, и нам нужен доверительный интервал в 10% (0,10), так что со = 0,05. Подстановка этих значений в уравнение даст результат, приведенный на рис. 15.40. Рис. 15.40. Вычисление объема выборки для двустороннего доверительного интервала заданного уровня точности для процентного соотношения Мы округляем эту оценку до 246, поскольку обычно долей объектов не сущест вует! Так что нам нужно исследовать 246 объектов, при условии что наша оценка значения л верна, чтобы получить 95%-ный доверительный интервал шириной в 0,10 (0,05 меньше оценочного значения и 0,05 больше него). Глава 15. Статистика в медицине и эпидемиологии 406 Мощность д л я теста на различие между двумя выборочными средними (тест Стьюдента д ля независимых выборок) В качестве простого примера вычисления мощности давайте рассмотрим расчет числа объектов в группе, которое нужно, чтобы провести двусторонний тест Стыодепта для независимых групп с приемлемой мощностью. Формула представлена на рис. 15.41, 5 - это величина эффекта, расчет которой приведен на рис. 15.42. 2(^1-а/2 + Z ,.,) " ------------- 52------*— Рис. 15.41. Формула для расчета числа объектов в тесте Стьюдента для независимых выборок О Рис. 15.42. Вычисление величины эффекта в тесте Стьюдента для независимых выборок В данном случае значение а определяется при помощи любого подходящего для рассматриваемых данных метода, который используется для вычисления стандартного отклонения в тесте Стьюдента (подробное объяснение см. в гла ве 6). Для применения этой формулы нам нужны Z-значения и для а, и для р. Мы по-нрежнему будем использовать 95%-ный доверительный интервал для двусто роннего теста, так что Z-зпачение для (1 - а /2 ) будет равно 1,96. Мы вычислим объем выборки, нужный для достижения 80%-ной мощности, так что Z-зпачение для 1 - р будет равно 0,84. Учтите, что если бы мы проводили односторонний тест, Zn было бы равно 1,645, а если бы вычисляли 90%-ную мощность, то Z, было бы равно 1,28. Как было указано ранее, величина эффекта - это различие между двумя гене ральными совокупностями, деленное на подходящий показатель дисперсии. Если р, =25, р2 = 20, а а = 10, то размер эффекта составит 0,5. Мы можем подставить полученные значения в формулу для вычисления объема выборки, как это пока зано па рис. 15.43. п= 2 (1 .96 + 0 .8 4 ) 2 = 6 2 .7 2 0 .5 2 Рис. 15.43. Расчет необходимого числа объектов в тесте Стьюдента для независимых выборок Мы округлили полученный результат до целого числа, так что нам нужно по меньшей мерс 63 объекта в каждой группе, чтобы с вероятностью 80% найти зна чимое различие между двумя группами при величине эффекта, равной 0,5. Упражнения 407 Как лгать при помощи процентов? Вы не можете проработать в области статистики достаточно долго без того, чтобы кто-то не показал свою образованность, процитировав в какой-нибудь форме афоризм, приписываемый английскому политику Бенджамину Дизраэли (Benjamin Disraeli) и попу ляризированный в США Марком Твеном, о том, что существует три вида лжецов: лжецы, отъявленные лжецы и статистики. Существует даже популярная книга Даррелла Хуфа (Darrell Huff) «Как лгать при помощи статистики» («How to Lie with Statistics» (Norton)), ко торую иногда называют самой востребованной книгой по статистике в мире. Одна из целей книги Хуфа, так же как и этой, - не научить вас лгать при помощи статистики, а помочь уличить других людей во лжи. Один из наиболее простых способов солгать (или ввести кого-либо в заблуждение, если вы предпочитаете такую формулировку) при помощи статистики - это привести проценты без указания исходных данных, технология, полюбившаяся политикам, но не только им. Например, если вы услышите, что частота заболеваний холерой в США уве личилась на 100%, вы можете считать это поводом для беспокойства, пока не узнаете, что речь идет об увеличении с одного случая до двух. Аналогичным образом 50%-ное увеличение риска возникновения рака от какого-либо редкого воздействия (влияюще го, скажем, лишь на 15 человек во всей стране) не так значимо для здоровья нации, как 5%-ное увеличение риска для обычного воздействия (которое может повлиять на миллионы людей). Проценты также могут вводить в заблуждение, поскольку люди часто забывают о том, что увеличение и уменьшение процентов несимметрично. Если число выпускников определенного колледжа в один год увеличится на 10%, а в следующий год уменьшит ся на 10%, число выпускников не будет равно исходному. Предположим, изначально у нас было 100 000 выпускников. Увеличение их числа на 10% даст нам 110 000 человек. Уменьшение этого числа на 10% даст нам 99 000 (110 000 * 0,9) человек, это меньше исходного значения. Упражнения Вот ряд вопросов, которые помогут вам освежить в памяти темы, затронутые в этой главе. Задача Классический пример использования таблиц сопряженности в эпидемиоло гии - это исследование вспышки пищевых отравлений. Если много людей от равилось после посещения ресторана, департамент здравоохранения организует исследование с целью выявить пищу, которая послужила причиной отравления. Это осложняется тем, что заболевшие люди, возможно, ели несколько блюд, а не которые люди, которые ели то же самое, остались здоровыми. Один из подходов к этой проблеме - эго опросить потребителей о том, что они ели и были ли у них симптомы отравления. Затем данные представляют в виде серии таблиц сопря женности, таких как табл. 15.16 и 15.17, в которых в роли воздействия выступает определенный тип пищи, а в роли болезни - пищевое отравление. Вычислите от ношение рисков для двух указанных блюд и обоснуйте свое решение о том, какое из этих блюд, скорее всего, послужило причиной отравления. Глава 15. Статистика в медицине и эпидемиологии 408 Таблица сопряженности для употребления ростбифа и пищевого отравления Таблица 1 5 .1 6 . Есть заболевание Нет заболевания Есть воздействие 15 85 Нет воздействия 20 80 Таблица сопряженности для употребления салата из цыпленка и пищевого отравления Таблица 1 5 .1 7 . Есть заболевание Нет заболевания Есть воздействие 80 20 Нет воздействия 20 80 Решение Отношение рисков для ростбифа вычислено на рис. 15.44. ог Р ис. 1 5 .4 4 . а Ц а + Ь) 15/100 c/(c + d) 20/100 Вычисление отношения рисков для употребления ростбифа и пищевого отравления Отношение рисков для салата из цыпленка вычислено на рис. 15.45. ОР Р ис. 1 5 .4 5 . «/(* + *) c/(c + d) 80/Ю0 20/100 40 Вычисление отношения рисков для употребления салата из цыпленка и пищевого отравления Если рассматривать только эти два блюда, то, похоже, виновником отравления был салат из цыпленка, поскольку люди, которые его ели, в четыре раза чаще ис пытывали симптомы пищевого отравления, чем те, кто не притрагивался к салату. Ростбиф оказывал слабый благотворный эффект, возможно, поскольку те, кто ел ростбиф, с меньшей вероятностью ели еще и салат из цыпленка. Шансы отравле ния у тех, кто ел ротбиф, были на три четверти ниже, чем у тех, кто не ел его. Задача Вычислите отношение шансов и доверительный интервал для данных исследо вания случай-контроль о связи использования оральных контрацептивов и рака легких (табл. 15.18). Таблица сопряженности для употребления оральных контрацептивов и рака легких Таблица 1 5 .1 8 . Есть заболевание Нет заболевания Есть воздействие 30 70 Нет воздействия 20 80 Упражнения Решение Отношение шансов вычисляется, как показано на рис. 15.46. ОШ Рис. 15.46. Вычисление отношения шансов для использования оральных контрацептивов и рака легких Чтобы проверить, отличается ли это отношение шансов от единицы, вычислим 95%-ный доверительный интервал, как показано на рис. 15.47. (0 .8 9 ,3 .2 8 ) Рис. 15.47. Вычисление 95%-го доверительного интервала для отношения шансов для использования оральных контрацептивов и рака легких Доверительный интервал (0,89, 3,28) включает единицу, так что это исследова ние не демонстрирует значимой связи между употреблением оральных контра цептивов и раком легких. Задача Вычислите и интерпретируйте значения атрибутивного риска, доли атрибу тивного риска и числа нуждающихся в лечении больных, используя следующую информацию: • заболеваемость у подверженных воздействию людей = 0,05; • заболеваемость у не подверженных воздействию людей = 0,02. Решение Необходимые вычисления представлены на рис. 15.48. А Р = 1е - 1 0 = 0 . 0 5 - 0 . 0 3 = 0 .0 2 0.02 АР% = ------- х 100 = 0 .4 0 0 .0 5 Число 1 нуждающихся = ------- = 5 0 в лечении больных 0 .0 2 Рис. 15.48. Вычисление атрибутивного риска, доли атрибутивного риска и числа нуждающихся в лечении больных Глава 15. Статистика в медицине и эпидемиологии Увеличение заболеваемости при появлении воздействия составляет 0,02, или 20 человек на 1000. С воздействием связано 40% заболеваний, и нужно будет устра нить воздействие на 50 человек, чтобы стало одним случаем заболевания меньше. Задача Вычислите размер выборки, достаточный для оценки процентного соотноше ния с 95%-пым доверительным интервалом шириной в 10%, если предполагаемое значение равно 0,7. Решение Используйте формулу для нахождения размера выборки для процентных соот ношений и подставьте в нее нужные числа: Z| u/2=1,96; со = 0,10; я = 0,70. Вычисления (рис. 15.49) показали, что выборка должен состоять из 81 объек та. Рис. 15.49. Вычисление объема выборки, нужной для оценки процентного соотношения Задача Вычислите размер выборки, необходимый для теста на различие средних, при помощи одностороннего теста Стыодента для независимых выборок с мощностью 90% и величиной эффекта 0,4. Решение Подставьте в нужную формулу указанные числа: Z = 1,645; Z. (X ’ I - р =1,28;1 5 = 0,4 1 ’ Вычисления (рис. 15.50) показали, что в каждую группу должно войти 107 объс кто в. п = Рис. 15.50. Вычисление объема выборки, нужной для теста Стьюдента с независимыми выборками ГЛАВА 16. Статистика в образовании и психологии Многие статистические методы, используемые в образовании и психологии, обыч ны в других областях исследований, к ним относится тест Стыодента (разобран в главе 6), различные регрессионные модели и дисперсионный анализ (обсуждают ся в главах 8-11) и тест хи-квадрат (предмет главы 5). Обсуждение теории из мерений, приведенное в первой главе, также полезно, поскольку в большинстве исследований в области образования и психологии задействованы конструкты, которые не могут быть измерены напрямую и не имеют очевидных единиц измере ния. Примерами таких конструктов служат предрасположенность к техническим специальностям, самоэффективность1 и устойчивость к переменам. В этой главе акцент сделан на статистические методы, используемые в психометрике, которая имеет дело с созданием, оценкой валидности и применением тестов и измерений человеческого интеллекта, знаний, умений и психологических характеристик, та ких как личные качества. Первый вопрос, который у вас может возникнуть в связи с использованием ста тистики в образовании и психологии, - зачем это вообще нужно. В конце кон цов, разве каждый из нас - не уникальная личность, и разве смысл образования и психологии не заключается в том, чтобы принимать каждого человека во всем богатстве его индивидуальности вместо сведения его к набору чисел или сравне ния с остальными людьми? Это ценное соображение, которое учитывает то, что уже знают все, кто работает с людьми: исследование людей во многих отношениях значительно сложнее, чем работа в точных науках или на производстве, поскольку люди бесконечно разно образнее химических молекул или орехов2. Изменчивость и индивидуальность людей особенно затрудняет связанные с ними исследования. Верно также, что хотя некоторые исследования в области образования и психологии проводятся для формулировки общих суждений о группах людей, значительная часть этих исследований направлена на понимание и помощь отдельным индивидуумам, каждый из которых характеризуется своими социальными особенностями, семей1 Вера и эффективность собственных действий. - Прим. пер. 2 Автор явно недооценивает сложность других живых систем. - Прим. пер. 412 Глава 16. Статистика в образовании и психологии ными историями и другими контекстуальными сложностями, что сильно затруд няет сравнение одного человека с другим. Однако стандартные статистические процедуры могут быть полезны даже при весьма специфических обстоятельствах, таких как разработка подходящего обра зовательного плана для одного студента или психотерапевтического режима для одного пациента. Принимать подобные решения сложно, но это было бы еще слож нее без использования стандартных образовательных или психологических тес тов, позволяющих получить числовые значения, которые можно сравнивать с соот ветствующими значениями для других людей. Никто не предлагает в подобных ситуациях руководствоваться лишь формальными стандартизованными тестами и анкетами; в образовании и психологии большую роль также играют интервью и наблюдения. Однако к преимуществам использования формальных процедур тестирования и стандартизованных тестов относятся следующие соображения: 1. Объективные сравнения облегчаются при использовании нормативной группы. Например, испытывает ли данный восстанавливающийся после травмы пациент больше побочных эффектов, чем это обычно наблюдается у людей, восстанавливающихся после подобной травмы? Сравнимы ли на выки чтения данного ученика с навыками других учеников его возраста и года обучения? 2. Стандартизированное тестирование позволяет быстро получить результа ты; не нужно ждать конца учебного года, чтобы выяснить, какие ученики испытывают проблемы из-за плохого владения языком, и незачем устраи вать продолжительные интервью или обследования, чтобы понять, что па циент страдает от серьезных проблем с памятью. 3. Стандартизированные тесты предъявляются в определенных условиях и могут считаться объективными, так что единственный параметр, который оценивается, - это способности ученика или пациента, а не его внешность, коммуникабельность (если она не имеет отношения к исследуемому пара метру) или прочие не относящиеся к делу факторы. 4. Многие стандартизированные тесты не требуют высокой квалификации для их проведения (в отличие, например, от клинических интервью) и мо гут быть предъявлены нескольким людям одновременно, что делает тесты особенно полезными в скрининговых исследованиях. Перцентили Во многих странах школьников оценивают при помощи тестов, результаты кото рых выражаются в перцентилях', один школьник может характеризоваться 70-м перцентилем по чтению и 85-м перцентилем по математике, тогда как другой школьник имеет 80-й перцентиль по чтению и 95-й - по математике. Перценти ли - это вид соотнесенной с нормой оценки, называемой так, поскольку индиви дуальный балл помещен в контекст нормальной группы, то есть людей, сходных с тем, кто выполняет тест. Для школьников это обычно другие дети, которые учатся в этом классе в данной стране. Соотнесенная с нормой оценка используется при Перцентили 413 любом тестировании, в котором относительный результат человека (по сравне нию с определенной группой) важнее абсолютного. Перцентили для результата отдельного человека - это доля людей в нормаль ной группе, которые имели более низкий результат, так что перцентиль 90 озна чает, что 90% нормальной группы показали худший результат. Здесь на примере мы кратко объясним, как найти перцентили для результатов экзамена, который сдавали 100 студентов. (На экзаменах национального масштаба нормальная груп па будет намного больше, а изменчивость результатов будет выше, но этот пример иллюстрирует саму идею.) Первый шаг - это перевод исходных результатов в перцентили для создания час тотной таблицы, в которую входит столбец с суммарным процентом, как показано в табл. 16.1. Для нахождения перцентиля для отдельного результата используйте суммарный процент для ближайшего предыдущего результата (расположенного в таблице на строку выше). В данном примере человек, получивший 96 баллов на экзамене, характеризуется 75-м перцентилем (это значит, что 75% студентов полу чили баллы ниже 96), а человек с 85 баллами характеризуется 25-м перцентилем. Сотого перцентиля нет, поскольку, рассуждая логически, 100% человек, выпол нявших тест, не могли получить баллы ниже тех, что вошли в таблицу. Однако ну левой перцентиль присутствует; он соответствует человеку, набравшему 53 балла, поскольку никто не получил более низкого балла. Т а б л и ц а 1 6 . 1 . Баллы, полученные 100 студентами за экзамен Балл Частота Процент Суммарный процент 53 1 1.0% 1.0% 55 2 2.0% 3.0% 58 1 1.0% 4.0% 61 2 2.0% 6.0% 65 3 3.0% 9.0% 67 1 1.0% 10.0% 70 2 2.0% 12.0% 71 3 3.0% 15.0% 78 2 2.0% 17.0% 80 4 4.0% 21.0% 82 2 2.0% 23.0% 84 2 2.0% 25.0% 85 5 5.0% 30.0% 86 4 4.0% 34.0% 88 3 3.0% 37.0% 90 5 5.0% 42.0% 91 7 7.0% 49.0% Глава 16. Статистика в образовании и психологии 414 Частота Процент Суммарный процент 92 8 8.0% 57.0% 93 7 7.0% 64.0% 94 5 5.0% 69.0% Балл 95 6 6.0% 75.0% 96 4 4.0% 79.0% 97 3 3.0% 82.0% 98 7 7.0% 89.0% 99 6 6.0% 95.0% 100 5 5.0% 100.0% При использовании стандартизированных тестов на национальном уровне нор мальная группа, используемая для определения перцентилей, гораздо больше, и, как правило, вычислять перцентили для отдельных студентов не требуется. Вмес то этого разработчик теста обычно предоставляет шкалу для перевода исходных баллов в перцентили. Стандартизированные баллы Стандартизированные баллы, также называемые нормализованными баллами, или Z -значеннем, выражают исходные баллы в числе стандартных отклонений выше или ниже среднего. Это преобразует исходные баллы так, что их можно оценить, соотнося со стандартным нормальным распределением, которое подробно обсуж дается в третьей главе. Стандартизированные баллы часто используются в обра зовании п психологии, поскольку они помещают результаты в общий контекст, и, таким образом, их можно считать разновидностью соотнесенной с нормой оценки. Для часто используемых шкал, таких как шкала Вичслера для оценки интеллек та взрослых людей (Wechsler Adult Intelligence Scale, WAIS), средние значения и стандартные отклонения известны и могут быть использованы при вычислениях; для этой шкалы среднее равно 100, а стандартное отклонение - 15. Для преобра зования исходных баллов в стандартизированные используйте формулу, приве денную па рис. 16.1. а Рис. 16.1. Формула для вычисления Z-значения В этой формуле: X - это исходное значение, р - это среднее значение для генеральной совокупности, а а - это стандартное отклонение для генеральной совокупности. Преобразование в Z-зпачения позволяет разместить все результаты на общей шкале, у которой в случае стандартного нормального распределения среднее Стандартизированные баллы 415 равно 0, а дисперсия - 1. Кроме того, распределение Z-значений имеет извест ные свойства нормального распределения. (Например, около 66% значений будут находиться в пределах одного стандартного отклонения от среднего.) Мы можем преобразовать исходное значение шкалы WAIS, равное 115, в Z-зпачение, как по казано на рис. 16.2. Z= 115 -1 0 0 = 15 1.00 Рис. 16.2. Вычисление Z-значения Используя таблицу для стандартного нормального распределения (Z-pacnpeделения), приведенную на рис. D.3 из приложения D, мы видим, что Z-значение 1 свидетельствует о том, что 84,1% участников получили такие же или меньшие баллы, как данный испытуемый. Для примера давайте представим, что мы также проводим тест на математические способности, который характеризуется средним значением 50 и стандартным отклонением 5. Если какой-то человек получил 105 баллов по тесту WAIS (рис. 16.3) и 60 - по тесту на математические способности (рис. 16.4), мы можем легко сравнить эти результаты, используя Z-значения. Z= 1 0 5 -1 0 0 0 .3 3 15 Рис. 16.3. Вычисление Z-значения (тест WAIS) Рис. 16.4. Вычисление Z-значения (тест на математические способности) Эти Z-значения свидетельствуют, что интеллект тестируемого немного выше среднего, а его математические способности заметно превышают средние. Некоторым кажется, что стандартизированные баллы сбивают с толку, в част ности потому, что человек может иметь нулевое или отрицательное значение (а в стандартном нормальном распределении половина значений меньше среднего и поэтому отрицательные). Поэтому Z-значения иногда конвертируют в Т-значения с использованием более интуитивно понятной шкалы, со средним значением 50 и стандартным отклонением 10. Преобразование Z-значений в Т-значения можно выполнить при помощи следующей формулы: Т= Z(10) + 50. Если у человека Z-значение равно 2,0 (что означает, что его или ее результат на два стандартных отклонения выше среднего), его можно преобразовать в Т-значение следующим образом: Т= (2,0 х 10)+ 50 = 70. Аналогичным образом Z-значение -2,0 соответствует Т-значению 30. По скольку вряд ли чей-нибудь результат будет на пять или более стандартных от- Глава 16. Статистика в образовании и психологии 416 кломений меньше среднего, Т-значсния почти всегда положительны, что делает их более простыми для понимания многих людей. Например, результаты клини ческих тикал второй версии минесотского многофазного исследования личности (Minnesota Multiphase Personality Inventory-II, M M PI-II), часто используемые для выявления и оценки тяжести психиатрических состояний, выражаются в Т-зиачсниях. Станайн*- это еще один метод перевода исходных значений в значения стан дартного нормального распределения. Станайиы делят значения на 9 категорий (1-9), каждая из которых соответствует половине стандартного отклонения стан дартного нормального распределения. Среднее шкалы станайнов равно 5, и в эту среднюю категорию попадают значения, которые соответствуют Z-зпачениям от -0,25 до 0,25 (четверть стандартного отклонения выше и ниже среднего). Ос новное преимущество станайнов перед Z- или Т-значениями заключается в том, что представление результатов в виде принадлежности к категории, а не точных значений помогает противостоять человеческой привычке придавать значение не большим различиям в полученных результатах. Поскольку для нормального распределения более характерны расположенные вокруг среднего, а не сильно уклоняющиеся значения, станайиы, близкие к цент ральному значению 5, более обычны, чем значения, близкие к 1 или 9. Обратите внимание также па то, что распределение станайнов симметрично, так же как и распределение значений стандартного нормального распределения, так что станайн 1 так же часто встречается, как и станайн 9, станайн 2 так же распространен, как и станайн 8, и так далее. Иллюстрация этих двух принципов представлена в табл. 16.2, в которой указаны значения станайнов, соответствующие значения стандартных Z-значений и доля значений, приходящихся на каждую категорию дсвятибалльной шкалы. Таблица 16.2. Станайиы Станайн ’ Д иапазон Z -значений 1 Z < -1 .7 5 Доля подобных значений в выборке 4% 2 -1 .7 5 < Z <= -1 .2 5 7% 3 -1 .2 5 < Z < = -0 .7 5 12% 4 -0 .7 5 < Z < = -0 .2 5 17% 5 -0 .2 5 < Z < = 0.25 20% 6 0.25 < Z < = 0.75 17% 7 0.75 < Z < = 1.25 12% 8 1.25 < Z < = 1.75 7% 9 Z > 1.75 4% Этот термин означает оценку по девятибалльной шкале п происходит от сокращения английских слон standard nine (стандартная девятка) - stanine. Общепринятый перевод термина па русский явык отсутствует. - Прим. пер. Разработка тестов 417 Станайны можно вычислить, зная Z-значения, по следующей формуле: Стаиайн = (2 х Z) + 5. Значения станайнов округляют до ближайшего целого числа; половинные зна чения округляют в меньшую сторону. Предположим, у нас есть Z-значение -1,60. Его преобразуют в стаиайн 2, как показано ниже: Стаиайн = (2 х -1,60) + 5 = 1,8. Ближайшее целое число - это 2, и это соответствует значению станайна, приве денному в табл. 16.2 для Z-значения -1,60. Z-значение 1,60 соответствует станайну 8, поскольку: Стаиайн = 2(1,60) + 5 = 8,2. Ближайшее целое число 8, и это значение станайна соответствует приведенно му в табл. 16.2 для Z-значения 1,60. Разработка тестов Многие тесты в психологии и образовании используются для так называемого объект-центрированного измерения, задача которого - разместить индивидуумов в континууме, руководствуясь определенными характеристиками, такими как способ ность к изучению языков или ревность. Создание и валидация теста - это огромный объем работы. (Когда я училась в магистратуре, студентам запрещали писать дис сертацию, для которой нужно было создавать и апробировать новый тест, поскольку боялись, что в таком случае они никогда не защитятся.) Бремя по убеждению всех коллег в осмысленности результатов теста полностью лежит на его создателе. Таким образом, первый шаг для любого человека, который начинает работать в новой для него области, - проверить, не подходят ли ему уже существующие и апробирован ные тесты. Однако, особенно если вы работаете в новой области или с группой, ко торой до этого пренебрегали, для ваших задач может не существовать подходящего теста. В этом случае единственный выход - создать и опробовать новый тест. Тесты могут быть соотнесенными с нормой и соотнесенными с критерием. Со отнесенные с нормой тесты мы уже обсудили; их цель - поместить индивидуума в контекст определенной группы. Напротив, цель соотнесенного с критерием тес та - сравнить индивидуума с некоторым абсолютным стандартом, скажем, чтобы понять, приобрел ли он минимальную заранее заданную компетентность по учеб ному предмету. В соотнесенных с критерием тестах каждый выполнивший тест может получить высший балл, или же все могут получить низший балл, поскольку испытуемых оценивают путем сравнения с некоторым заранее заданным стандар том, а не друг с другом. Хотя результаты соотнесенных с критерием тестов могут быть непрерывной переменной (например, число в диапазоне от 1 до 100), часто также определяют пороговое значение (одно число), так что каждый, кто получил пороговое или более высокое число баллов, считается прошедшим испытание, а получившие меньше баллов - нет. Глав а 16. С та ти с ти к а в о б р а з о в а н и и и п с и хо ло ги и Большинство тестов состоит из множества отдельных пунктов (обычно пись менных вопросов), которые комбинируют (часто просто суммируя), чтобы полу чить общий балл за тест. Например, тест на владение языком может состоять из 100 вопросов, за правильный ответ на каждый из которых начисляется 1 балл, а за неправильный - 0. Общий балл за тест для каждого человека можно вычис лить, просуммировав баллы за правильные ответы. Во многих статистических процедурах, используемых для анализа тестов, приходится иметь дело со связью между отдельными вопросами и связью между отдельными вопросами и общим баллом. Хотя общие баллы за тесты широко используются, они могут сбивать с тол ку при оценке способностей или достижений. Одна трудность заключается в том, что обычно все вопросы имеют одинаковый вес по отношению к общему баллу, хотя не все они могут быть одинаково сложными. Различие между человеком, ко торый проваливает некоторые простые вопросы, но правильно отвечает на более сложные, и человеком, верно отвечающим на простые вопросы и пасующим перед сложными, теряется, если общий балл получают простым суммированием баллов за разнородные вопросы. Среднее значение и дисперсия для дихотомических вопросов (на которые мож но ответить верно или неверно) вычисляются с использованием значения слож ности вопроса, обозначаемого как р. Сложность вопроса - это доля испытуемых, правильно ответивших на него. Если группа, используемая для оценки сложности вопроса, состоит из N человек,/? вычисляется для одного вопроса (/), как показано па рис. 16.5. число людей, правильно ответивших на вопрос j N Рис. 16.5. Формула для вычисления сложности вопроса Если ответы на дихотомические вопросы оцениваются как 0 или 1 (0 - невер ный ответ, 1 - верный), то среднее - это то же самое, что и доля людей, правильно ответивших на вопрос (рис. 16.6). п Рис. 16.6. Формула для вычисления сложности дихотомических вопросов В этой формуле X. - это отдельные вопросы, a N - число испытуемых. Дисперсию для отдельного дихотомического вопроса можно вычислить, как показано на рис. 16.7. o]= Pj(l-Pj) Рис. 16.7. Формула для дисперсии дихотомического вопроса Разработка тестов 419 Коэффициент корреляции между двумя дихотомическими вопросами, называе мый также фи-коэффициентом, обсуждается в главе 5. Вычисление дисперсии общего балла требует знания и дисперсии для каждого вопроса и их ковариации. Если условие нулевой или отрицательной корреляции между всеми парами переменных не выполняется, то дисперсия общего балла всег да будет больше, чем сумма дисперсий для отдельных вопросов. Хотя дисперсия общего балла обычно вычисляется при помощи компьютерных программ, полезно знать ее формулу, поскольку она характеризует связь между соответствующими величинами. Ковариацию для пары характеристик j и k (не важно, дихотомичес ких или непрерывных) можно вычислить, как показано на рис. 16.8. a jk “ P jk °ja k Рис. 16.8. Формула для вычисления ковариации пары вопросов В этой формуле: ojk - ковариация двух вопросов, pjk - корреляция двух вопросов, а сг и ak - дисперсии этих вопросов. Часто нас интересует дисперсия общего балла, такого как балл Y за тест, состоя щий из множества вопросов. Поскольку для каждой пары вопросов существуют две идентичные ковариации (ковариация j с k и ковариация k с Д ковариацию общего балла Y можно вычислить, как показано на рис. 16.9. Рис. 16.9. Формула для вычисления ковариации общего балла Условие i <j в приведенной выше формуле обеспечивает учет лишь неповторяю щихся ковариаций. Затем для получения нужного числа ковариаций мы умножа ем каждую уникальную ковариацию на два. Число ковариаций растет быстрее числа добавляемых в тест вопросов. Напри мер, если мы добавим пять вопросов в тест, в котором уже есть столько вопросов, то число дисперсий увеличится с 5 до 10, а число ковариаций - с 20 до 90. Чис ло ковариаций для п вопросов рассчитывается как п(п - 1); так что для теста с пятью вопросами 5 есть 5(4) = 20 ковариаций. Тест с 10 вопросами характеризу ется 10(9) = 90 ковариациями. Число уникальных ковариаций равно [п(п - 1)]/2, так что пяти вопросам соответствуют 10 уникальных ковариаций, а 10 вопро сам - 45. В большинстве случаев суммирование баллов за отдельные вопросы для по лучения общего балла увеличивает дисперсию последнего, поскольку дисперсия общего балла увеличивается за счет дисперсий отдельных вопросов, а также их ковариаций со всеми вопросами теста. Относительные масштабы роста диспер сии выше, если вопросы добавляют в короткий тест, а не длинный, и дисперсия максимальна, если ответы на разные вопросы высоко скоррелированы, поскольку 420 Глава 16. Статистика в образовании и психологии это приводит к большим ковариациям между ними. При прочих равных условиях более высокая дисперсия возникает при средней сложности вопросов (р = 0,5), сильно скоррелированных между собой. Классическая теория тестов: модель истинных баллов В идеальном мире все тесты были бы абсолютно надежными. Это значит, что если одинаковых людей несколько раз протестировать при одинаковых условиях на предмет какой-либо устойчивой характеристики, то они каждый раз получили бы одинаковые баллы, а систематическая ошибка (се определение дано позже) при определении баллов отсутствовала бы. В таком случае мы могли бы с уверен ностью утверждать, что наблюдаемые баллы идентичны истинным баллам и что наблюдаемые баллы адекватно отражают реальные показатели человека, вне зави симости от того, какую характеристику оценивает данный тест. Однако в реальном мире наблюдаемые баллы зависят от многих факторов, и повторяющиеся тесты, выполненные одним и тем же человеком, часто дают разные результаты. По этой причине мы должны осознавать различие между истинными и наблюдаемыми баллами. Мы делаем это, вводя понятие ошибки измерения, которая соответствует разнице между наблюдаемым и истинным результатами. Ошибка измерения может быть случайной или систематической. Случайная ошибка измерений - это результат случайных обстоятельств, таких как температу ра в комнате, различия в процедуре проведения теста или колебания настроения или внимательности испытуемого. Мы не ожидаем, что случайная ошибка будет смещать результаты теста в том или ином направлении. Случайная ошибка делает измерения менее точными, но не изменяет результатов определенным образом, поскольку ожидается, что она увеличивает значения в одном случае и уменьшает в другом, таким образом, самоуничтожаясь при достаточно большом числе испыта ний. Из-за существования большого числа потенциальных источников случайной ошибки мы не можем надеяться на полное избавление от нес, но нам требуется уменьшить ее, насколько это возможно, чтобы повысить точность наших измере ний. С другой стороны, систематическая ошибка измерений смещает результаты в определенном направлении, но не имеет ничего общего с исследуемым конструк том. В качестве примера можно привести ошибку измерений во время экзамена по математике, вызванную плохим знанием языка, в результате чего экзаменуемый не смог правильно прочесть указания по выполнению заданий. Систематическая ошибка - это источник искажения результата, и от нее при тестировании нужно но возможности избавляться. Психолог Чарльз Спирмен (Charles Spearman) сформулировал классические понятия истинных и наблюдаемых значений в начале XX века. Спирмен опи сал наблюдаемое значение X (результат, который реально получает испытуемый при тестировании), которое состоит из истинной составляющей (7) и случайной ошибки (Е): Надежность теста 421 Х =Г+Е Подразумевается, что при бесконечно большом числе испытаний случайный компонент самоуничтожается, так что среднее или ожидаемое значение наблюдае мых результатов становится равным истинному результату. Для испытуемогоj это можно записать в таком виде: ТГ Е ( Х р - ^ где Т. - истинное значение для испытуемого у, £(Х.) - ожидаемое значение для этого испытуемого, наблюдаемое при бесконечно большом числе испытаний, а рЛ, - среднее наблюдаемое значение для этого испытуемого при тех же условиях. Таким образом, ошибка - это разница между наблюдаемым и истинным значения ми для испытуемого: Еj = Хj - Т) . Ожидаемое значение ошибки для одного испытуемого при бесконечно боль шом числе тестирований равно 0. Поскольку в этом определении «ошибка» озна чает только случайную ошибку, считается, что истинное значение и ошибка имеют следующие свойства: • для генеральной совокупности испытуемых среднее значение ошибки рав но 0; • для генеральной совокупности испытуемых корреляция между истинным значением и ошибкой равна 0; • корреляция между ошибками для двух случайно выбранных испытуемых, выполняющих два варианта одного и того же теста или проходящих неза висимо одно и то же тестирование, равна 0. Надежность теста Когда мы предъявляем тест определенному человеку, мы беспокоимся и о том, на сколько полученный результат отражает истинный результат этого человека. Ис пользуя принятую у теоретиков терминологию, нас интересует индекс надежности, который рассчитывается как отношение стандартного отклонения для истинных значений к стандартному отклонению наблюдаемых значений (рис. 16.10). Рис. 16.10. Формула для вычисления индекса надежности В этой формуле сту. - это стандартное отклонение для истинных значений в ге неральной совокупности экзаменуемых, a g y - это стандартное отклонение для полученных ими баллов. Надежность теста иногда описывают как долю общей изменчивости результа тов теста, которую можно объяснить истинной изменчивостью (противопостав ленной ошибке). 422 Глава 16. Статистика в образовании и психологии На практике истинные баллы неизвестны, так что индекс надежности нужно оценивать ттрн помощи наблюдаемых баллов. Один способ сделать это - провести два параллельных теста для одной и той же группы экзаменуемых и использовать корреляцию между результатами по двум вариантам теста, называемую коэффици ентом надежности, как оценку индекса надежности. Параллельные тесты должны удовлетворять двум условиям: одинаковая сложность и одинаковая изменчивость. Коэффициент надежности - это оценка отношения дисперсии истинных зна чений к наблюдаемой дисперсии значений, его можно интерпретировать просто как коэффициент детерминации (г*) обобщенной линейной модели. Если тест ха рактеризуется коэффициентом надежности 0,88, мы можем интерпретировать это как то, что 88% дисперсии наблюдаемых значений объясняются изменчивостью истинных значений, а оставшиеся 0,12 или 12% должны быть отнесены на счет случайной ошибки. Для вычисления корреляции между истинными и наблюдае мыми результатами этого теста нужно извлечь квадратный корень из коэффици ента надежности, так что для данного теста корреляцию между истинными и на блюдаемыми баллами можно оценить как -0,88 или 0,938. Коэффициент надежности можно оценить несколькими способами. Если мы оцениваем коэффициент надежности, предъявляя один и тот же тест тем же эк заменуемым дважды, это называется методом повторного тестирования, а кор реляция между значениями теста в этом случае называется коэффициентом устойчивости. Мы также можем оценить коэффициент надежности, предложив два эквивалентных варианта теста тем же самым испытуемым в той же ситуации; это метод альтернативной формы, а коэффициент корреляции между результата ми называется коэффициент эквивалентности теста (коэффициент надежности альтернативных форм). Если используются и разные варианты теста, и разные условия, то корреляцию между результатами в этом случае называют коэффици ентом устойчивости и эквивалентности. Поскольку этот коэффициент имеет два источника ошибок, варианты теста и условия тестирования, в целом для данной группы испытуемых его значения должны быть ниже и коэффициента устойчи вости, и коэффициента эквивалентности. Показатели внутренней непротиворечивости Другой подход к оценке надежности - это использование показателей внутренней непротиворечивости, которые можно вычислить после однократного применения теста одной группе испытуемых. Показатели непротиворечивости используются для оценки надежности, поскольку в составные тесты входит несколько вопросов, выбранных из множества возможных вопросов. Оценка внутренней непротиворе чивости - это предсказание, насколько сходными будут результаты одного чело века, если он ответит на другие вопросы из того же множества. Рассмотрим задачу по разработке теста для проверки знаний ученика по курсу алгебры за среднюю школу. Первый шаг при разработке такого теста - это решить, Показатели внутренней непротиворечивости 423 какие темы включить в него. Затем будет составлен перечень вопросов, которые позволят оценить знания ученика по этим темам. Часть этих вопросов будет ис пользована в окончательном варианте теста. Цель такого экзамена - не просто по нять, насколько хорошо ученик справляется с вошедшими в тест заданиями, по и как он в целом освоил всю программу по алгебре за курс средней школы. Если вошедшие в тест вопросы представляют адекватную выборку из содержания курса, то результат тестирования будет надежным показателем овладения материалом учениками. Однородность вопросов - это также ценная характеристика такого рода теста, поскольку это показатель того, что все вопросы проверяют одинаковое содержание и не имеют технических недостатков, таких как неудачная формули ровка или неверный учет результатов, вследствие чего успех выполнения данного задания будет не связан с успехами в алгебре. «Натаскивание» на тесты В некоторых ситуациях ученикам нужно выполнять ряд тестов (так называемых итого вых, или ключевых, тестов), которые используются для определения, можно ли им пе рейти на следующую ступень обучения в школе (например, перейти из пятого класса в шестой) или закончить этап обучения (например, среднюю школу). Поскольку ясно, что администрация и учителя заботятся, чтобы их ученики хорошо справились с тестами, некоторые школы выделяют часть учебного времени специально для подготовки к экза менам. (Помимо беспокойства за качество образования учеников, учителей и админис трацию также могут оценивать по результатам выполнения этих тестов их учениками.) Если задача заключается в том, чтобы добиться более высоких успехов при выполнении теста, а не улучшить свои знания и умения по предмету, то это часто называется «натас киванием» на тест. Например, ученики могут посвящать свое время выполнению заданий именно в том формате, который будет использован в предстоящем тесте, или свести свое обучение к известному кругу задач или информации, которые войдут в тест, вместо изучения разнообразных тем и применения умений многими способами. Что же не так с «натаскиванием» на тест? Проблема заключается в том, что проверяю щие учебные достижения тесты основаны на допущении, что входящие в них вопросы представляют случайную выборку из всех возможных вопросов по предмету и что успеш ность выполнения предъявленных заданий данного теста - хороший показатель общего овладения материалом. Если это допущение выполняется, то результаты ученика для другой выборки вопросов будут сходными. Это допущение не выполняется, если уче ники и учителя знают заранее, какие вопросы войдут в тест, и готовятся только к ним; в этом случае по результатам теста невозможно судить об овладении всем материалом по теме. Предположим, что мы проверяем знания учеников по математике. Одна из тем - это доказательства в геометрии; студенты должны уметь формулировать двурядные дока зательства данной теоремы. Если ученикам преподавали общий метод формулировки доказательств, то их знания в равной степени применимы ко всем заданиям на доказа тельства в данном тесте, так что их результаты выполнения теста должны быть хорошим показателем их общих успехов в данном разделе математики. Однако если их учитель заметил, что из года в год на экзаменах спрашивают только несколько типов доказа тельств, он может просто добиваться, чтобы ученики запомнили, как формулировать данные типы доказательств. Это пример «натаскивания» на тест. В данном случае спо собность учеников формулировать те доказательства, которые они запомнили, не обя зательно связана со способностью формулировать другие типы доказательств. Таким образом, невозможно по результатам данного теста судить об их общей способности формулировать доказательства. Глава 16. Статистика в образовании и психологии 424 Методы расщепления совокупности надвое Для измерения внутренней непротиворечивости методами растепления совокуп ности надвое (split-half methods) нужно разделить тест па две части, или вариан та, обычно две половины равной длины, которые считаются сходными. Каждый испытуемый выполняет тест целиком. Разделение теста проводят несколькими способами, включая попеременное распределение (четные номера вопросов идут в один вариант, нечетные - в другой), учет соответствия содержимого или случай ное распределение. Какой бы метод не использовали, если исходный тест состоит из 100 вопросов, в каждую из двух половин войдут 50 вопросов. Коэффициент корреляции между результатами выполнения двух частей называется коэффици ентом эквивалентности. Этот коэффициент недооценивает надежность исходно го теста, поскольку длинные тесты обычно надежнее коротких. Для оценки на дежности исходного теста по коэффициенту эквивалентности его двух половин можно использовать прогностическую формулу Спирмана-Брауна (SpearmanBrown prophecy formula), приведенную на рис. 16.11. 2 Рлв Рхх* = 1 + Р ав Рис. 16.11 . Прогностическая формула Спирмана-Брауна (для коэффициента эквивалетности) В этой формуле: р ху - это оценка надежности исходного теста, а р лп - это наблюдаемая корреляция, то есть коэффициент эквивалентности, между этими двумя половинами тестов. Для корректного применения этой формулы две половины теста должны в точности соответствовать друг другу. Если коэффициент эквивалентности двух половин теста равен 0,5, надежность теста рассчитывается, как показано на рис. 16.12. 2(0-5) РхХ' ~ 1+0.5 = 0.67 Рис. 16.12. Вычисление коэффициента эквивалентности Второй метод оценки надежности исходного теста при помощи его разделения надвое - это вычисление разницы между результатами выполнения каждой из двух половин для каждого испытуемого. Дисперсия полученных различий - это оценка дисперсии ошибок для надежности, так что 1 минус отношение дисперсии ошибок к общей дисперсии также можно использовать как показатель изменчи вости. На рис. 16.3 приведена формула для применения этого второго метода. Рхх' ~ 1 Рис. 16.13. Еще одна формула для вычисления коэффициента эквивалентности Показатели внутренней непротиворечивости 425 Здесь а2п - это дисперсия разницы результатов, a o 2v - это дисперсия наблюдае мых значений. Оценки надежности этими методами совпадут, если дисперсия для двух по ловин теста будет одинаковой. Чем сильнее различаются дисперсии для двух половин, тем сильнее будет оценка по формуле Спермана-Брауна превышать оценку, сделанную при помощи метода разницы значений. Оценка надежности любым из методов будет зависеть от способа распределения заданий по поло винам теста, поскольку при разном распределении заданий корреляции между половинами теста и набор значений разницы дисперсий будут разными. Коэффициент альфа Есть несколько методов оценки надежности с использованием ковариации меж ду ответами на отдельные вопросы, которые позволяют обойти проблему мно жественных вариантов разделения теста надвое; ниже представлены три таких метода. Альфу Кронбаха (Cronbach’s alpha) можно использовать для вопросов с двумя или более вариантами ответа, тогда как две формулы Кюдера-Ричардсона (Kuder-Richardson) подходят только для вопросов с двумя вариантами ответа. Показатель внутренней непротиворечивости, рассчитанный при помощи любого из этих методов, обычно называется коэффициент альфа, он эквивалентен усред ненному значению коэффициентов согласия при разделении теста надвое всеми возможными способами. Строго говоря, коэффициент альфа - это оценка не ко эффициента надежности, а его нижней границы (иногда называемой коэффициен том точности). Однако часто при интерпретации результатов на эту тонкость не обращают внимания, и коэффициент альфа обычно приводят без обсуждения. Учтите, что вычисление коэффициента альфа для сколь-нибудь длинного теста утомительно, и поэтому обычно производится при помощи компьютерных про грамм. Тем не менее все равно полезно знать формулу и применить ее для простых вычислений, чтобы понимать, какие факторы влияют на коэффициент альфа. Альфа Кронбаха - наиболее обычный метод вычисления коэффициента аль фа и так часто называется коэффициент альфа в компьютерных программах, соз данных для анализа надежности. Этот коэффициент рассчитывается по формуле, приведенной на рис. 16.14. Рис. 16.14. Формула для вычисления альфы Кронбаха Здесь k - это число вопросов, б 2. - дисперсия для i-ro вопроса, a 2v - общая дис персия для всего теста. Предположим, что у нас есть тест из пяти вопросов с общей дисперсией 100 и дис персиями для отдельных вопросов 10; 5; 6,5; 7,5 и 13. Вычисление альфы Кронбаха для этих данных показано на рис. 16.15. Глава 16. Статистика в образовании и психологии 426 Рис. 16.15. Вычисление альфы Кронбаха Для вычисления коэффициента альфа существует несколько формул Кюдера-Ричардсона; две из них, которые разумно использовать для дихотомических вопросов, приведены ниже. Обратите внимание на то, что формула KR-21 - эго упрощенный вариант формулы KR-20; она подразумевает, что все задания имеют одинаковую сложность. KR-20 и KR-21 дают идентичные результаты при одина ковой сложности заданий; если это не так, то KR-21 дает более низкие результаты по сравнению с KR-20. Формула KR-20 приведена на рис, 16.16. \ Рис. 16.16. Формула Кюдера-Ричардсона, вариант KR-20 Здесь к - это число вопросов,;; - сложность данного задания, 6 2х - общая дис персия для всего теста. Обратите внимание на то, что формула KR-20 идентична формуле для вычисле ния альфы Кронбаха, за исключением того, что дисперсия для отдельного задания выражена по-другому, чтобы учесть тот факт, что KR-20 используется для дихо томических вопросов. Формулу KR-20 можно упростить, допустив, что все вопросы имеют одинако вую сложность, так что не нужно вычислять дисперсии для отдельных вопросов, а затем суммировать их. Такое упрощение позволяет получить формулу KR-21 (рис. 16.17). Рис. 16.17. Формула Кюдера-Ричардсона, вариант KR-21 Здесь к - это число вопросов, Д - сложность данного задания (часто оценивает ся как X ), а 2у - общая дисперсия для всего теста (часто оценивается как s \) . Анализ заданий При подготовке тестов часто создают большой пул заданий, проверяют их на ис пытуемых, сходных с теми, для кого этот тест предназначен, и формируют оконча тельный набор заданий, которые вносят наибольший вклад в валидность и надеж ность теста. Анализ заданий - это набор процедур, используемых для проведения тестов и описания ответов испытуемых на рассматриваемые вопросы, включая распределение ответов на каждый вопрос и связь между ответами на каждый во прос и другими критериями. Анализ заданий 427 Прежде всего при анализе заданий рассчитываются среднее и дисперсия для каждого задания. Для дихотомических заданий среднее - это также доля испы туемых, правильно ответивших на вопрос, она называется сложностью задания, или р, как говорилось выше. Общий результат за тест для одного испытуемого это сумма сложностей всех заданий, что равно сумме вопросов, па которые был дан правильный ответ. Среднее значение сложности задания - это сумма слож ностей всех заданий, деленная на число заданий, как показано на рис. 16.18. Рис. 16.18. Формула для вычисления средней сложности заданий В этой формуле pi - сложность i-ro задания, a k - общее число заданий. Поскольку сложность задания - это пропорция, дисперсия для отдельного за дания вычисляется как Ъ2Г Р ,0 - р ) Часто выбирают задания с наибольшей дисперсией, чтобы увеличить эффек тивность теста для разграничения людей с разными способностями. Дисперсия максимальна, когдар = 0,5, в чем вы можете удостовериться, вычислив дисперсию для некоторых других значений р: Если р = 0,50, сг: = 0,5(0,5) = 0,2500. Еслир = 0,49, с) = 0,49(0,51) = 0,2499. Еслир = 0,48, о' = 0,48(0,52) = 0,2496. Если р = 0,40, а] = 0,40(0,60) = 0,2400. Учтите, что дисперсия для р = 0,49 и р = 0,51 одинакова, так же как и дисперсия для р = 0,48 и р = 0,52, и так далее. Во многих обычных форматах тестирования, особенно с множественным выбо ром, испытуемые могут улучшать свои результаты, пытаясь угадать ответ, если не знают его. Это значит, что значение р для вопроса будет выше, чем доля экзаменуе мых, которые действительно знают проверяемый вопросом материал. Иначе го воря, наблюдаемые значения постоянно будут выше реальных, поскольку наблю даемые значения завышаются при успешном угадывании. Поэтому, когда формат задания позволяет угадывать (например, в случае вопросов со многими вариан тами ответа, когда неправильные ответы не штрафуются), при расчете наблюдае мой сложности задания необходим дополнительный шаг для максимизации дис персии. Это достигают путем прибавления к сложности задания величины 0,5/т, где т - это число вариантов ответа на данный вопрос. Эта формула подразумевает, что все варианты ответа имеют равную вероятность быть выбранными, если экза менуемый не знает правильного ответа. Наблюдаемая сложность задания /;(), при которой предполагается, что истинная сложность равна 0,5 (половина экзаменуе- Глава 16. Статистика в образовании и психологии 428 мых знает правильный ответ без угадывания), для разных значений т будет такой, как указано в табл. 16.3. Таблица 1 6 .3 . Сложность заданий с поправкой на угадывание Число вариантов ответа Ро 2 0.5 + 0.5/2 = 0.75 3 0.5 + 0.5/3 = 0.67 4 0.5 + 0.5/4 = 0.625 Дифференцирующий потенциал задания описывает, насколько хорошо оно раз деляет экзаменуемых с большим и малым количеством тестируемой характеристи ки, будь то знания географии, музыкальные способности или депрессия. Обычно составитель теста выбирает положительно дифференцирующие задания, это значит, что на них с высокой вероятностью ответят правильно или положительно люди с большим количеством определенной характеристики, а люди с малым количест вом данной характеристики ответят неправильно или отрицательно. Например, если вы проверяете математические способности, на положительно дифференци рующие вопросы с большей вероятностью ответят ученики с высокими математи ческими способностями, в противоположность ученикам с низкими математичес кими способностями, которые, скорее всего, ответят неверно. Противоположное свойство - это отрицательная дифференциация; продолжая наш пример, отри цательно дифференцирующее задание будет с большей вероятностью выполнено верно учеником с низкими знаниями, по сравнению с много знающим учеником. Отрицательная дифференциация обычно является основанием для исключения вопроса из теста, если только оно не используется для выявления людей, которые лукавят при ответе (например, в исследовании психического здоровья). В этом разделе описаны четыре индекса дискриминирующего потенциала зада ния, затем обсуждается индекс дискриминирующего потенциала, который можно связать либо с общими баллами за тест, либо с внешним критерием. Если все во просы имеют умеренную сложность (что характерно для многих тестов), все пять индексов дадут сходные результаты. Индекс дискриминации применяется только к дихотомическим вопросам; он позволяет сравнить долю правильно ответивших экзаменуемых в двух группах. Эти две группы часто формируются, используя баллы за весь тест; например, 50% лучших экзаменуемых часто сравнивают с 50% худших экзаменуемых или 30% лучших сравнивают с 30% худших. Для вычисления индекса дискриминации (D) применяется следующая формула: D=Pu ~Pr где ри - это доля лучших испытуемых, которые справились с заданием, а р{ - доля худших испытуемых, которые справились с заданием. Если 80% лучших экзаменуемых правильно выполнили задание, и этого же до билось только 30% худших экзаменуемых, то индекс дискриминации будет равен Анализ заданий 429 D = 0,8 - 0,3 = 0,5. D варьирует в диапазоне (-1 , +1). D = 1,0 значит, что каждый из лучших экза менуемых выполнил задание верно, и с ним не справился никто из слабой группы, так что это задание имеет очень высокий дискриминирующий потенциал; D = 0,0 означает, что задание выполнили равные доли испытуемых из сильной и слабой групп, так что это задание вообще не имеет дискриминационного потенциала. На индекс дискриминации влияет алгоритм формирования групп; например, если сильная группа составлена из 20% экзаменуемых, показавших лучшие результаты, а слабая - из 20% экзаменуемых с худшими результатами, мы ожидаем получить более высокий индекс дискриминации. Для индекса дискриминации не существует тестов на значимость и абсолют ных правил для определения приемлемого значения. Эмпирическое правило, предложенное Эбелем (Ebel, 1965; полная ссылка приведена в приложении С), гласит, что D > 0,4 - это приемлемое значение (задание можно использовать), D < 0,2 - неприемлемое значение (от задания можно отказаться), а промежуточ ные значения свидетельствуют о том, что задание нужно доработать так, чтобы D превысил 0,4. Точечный коэффициент бисериальной корреляции, обсуждаемый в главе 5, - это мера связи между дихотомической и непрерывной переменными; его можно ис пользовать для измерения корреляции между отдельным дихотомическим зада нием (за которое можно получить либо 0, либо 1 балл) и общим баллом за тест (подразумевая, что в тесте содержится достаточно заданий, чтобы считать общий балл непрерывной переменной). Коэффициент бисериальной корреляции можно вычислять для дихотомических заданий, если подразумевается, что качество выполнения задания обусловлено скрытой переменной с нормальным распределением. Формула для вычисления коэффициента бисериальной корреляции приведена на рис. 16.19. Я - Рх P b is - °х Рис. 16.19. Формула для вычисления коэффициента бисериальной корреляции Здесь р+ - усредненный общий балл за тест для экзаменуемых, которые пра вильно ответили на данный вопрос, рх - это усредненный общий балл за тест для всех экзаменуемых, ах - стандартное отклонение для общего балла за тест для всех экзаменуемых, р - сложность задания, У - Y-координата (высота кривой) для стандартного нормального распределе ния сложности заданий (взятая, например, с рис. D.3 в приложении D). Предположим, что для данного вопроса р+ = 80, p v = 78, стА.= 5 и р = 0,5. Расчет коэффициента бисериальной корреляции для него показан на рис. 16.20. Глава 16. Статистика в образовании и психологии 430 80 - 78 V 0.5000 P his = 5 Д0.3989 = 0.5014 Рис. 16.20. Расчет коэффициента бисериальной корреляции Бисериальпая корреляция всегда выше, чем точечная бисериальная корре ляция, вычисленная для тех же данных, и эти различия особенно заметны, если р < 0,25 пли р > 0,75. Коэффициент бисериальной корреляции более предпочтите лен в качестве показателя сложности задания, когда подразумевается, что в основе дихотомических результатов выполнения задания лежит нормальное распределе ние, и задача состоит в выборе очень легких или очень сложных вопросов, или тест будет использован для экзаменуемых с очень разными способностями. Разобранный в главе 5 коэффициент фи отражает связь между двумя дихото мическими переменными. Если переменные исходно не были дихотомическими, а были получены посредством преобразования непрерывной переменной с нормаль ным распределением значений (например, результат в виде сдал/не сдал, получен ный при использовании порогового значения для непрерывной переменной), для них более предпочтителен коэффициент тетрахорической корреляции, поскольку диапазон фи ограничен при разной сложности заданий. Тетрахорические корре ляции также используются при факторном анализе и моделировании структур ных уравнений. Коэффициент тетрахорической корреляции редко рассчитывают вручную, но его вычисление предусмотрено в некоторых стандартных компьютер ных программах для статистической обработки данных, включая SAS и R. Современная теория тестирования Хотя классическая теория тестирования до сих пор применяется в разных облас тях, современная теория тестирования (СТТ) (item response theory)'1- это важ ный альтернативный подход. Каждый работающий в области психометрики дол жен быть знаком с СТТ, которая используется сейчас все шире, от медицины до криминологии. СТТ в дальнейшем, возможно, будет использоваться еще более ак тивно, поскольку возможности ее применения предусмотрены в наиболее распро страненных статистических программах. СТТ - это сложная тема, которую здесь можно лишь кратко описать; те, кто хочет познакомиться с ней подробнее, долж ны прочесть учебник (например, Hambleton, Swaminathan, Rogers, 1991). Список компьютерных программ для применения СТТ приведен на http://winstcps.com / rasch.htm. СТТ избавлена от некоторых недостатков классической теории тестирования, главный из которых заключается в том, что методы классической теории не поз воляют отделить характеристики экзаменуемого от характеристик теста. В рамках классической теории способности экзаменуемого выражаются в терминах конк ретного теста, а сложность данного теста определяется при помощи отдельной 1 Общепринятый перевод этого термина на русский язык отсутствует. Иногда встречается название «теория текстовых заданий». - Прим. пер. Современная теория тестирования 431 группы испытуемых. Это происходит потому, что в классической теории слож ность задания определяется как доля экзаменуемых, выполнивших это задание верно; для одной группы испытуемых данное задание может быть классифициро вано как сложное, поскольку лишь несколько человек выполнили его верно, а для другой группы оно будет интерпретировано как легкое, потому что с ним справит ся большинство. Аналогичным образом по результатам одного теста экзаменуемая может считаться хорошо освоившей материал, поскольку она получила высокие баллы, а другой тест, явно основанный на том же материале, покажет, что она пло хо овладела материалом, поскольку получила низкий балл. Из того, что оценки сложности задания и способностей экзаменуемого в класси ческой теории тестирования переплетены, вытекает сложность адекватной оценки способностей экзаменуемых, которые выполнили разные тесты, или ранжирова ния заданий тестов, выполненных разными группами испытуемых, по сложности. В классической теории тестирования проводились попытки устранения этих проб лем разными способами, такими как включение набора общих заданий в разные варианты теста, однако основная проблема остается. • Результаты выполнения определенного задания экзаменуемым можно объяснить теми его способностями, на проверку которых направлен тест, и способности считаются латентной, ненаблюдаемой переменной. • Связь между результатами выполнения определенного задания группой ис пытуемых и их способностями можно выразить при помощи характеризую щей задание кривой (ХЗК) (item characteristic curve). Способности обычно обозначают греческой буквой «тета» (0), а сложность за дания выражают числом от 0 до 1. ХЗК изображают в виде сглаженной линии на графике, где по вертикальной оси отражают вероятность правильного ответа на вопрос, а по горизонтальной - способности экзаменуемого по такой шкале, где 0 имеет среднее значение 0 и стандартное отклонение 1. ХЗК - это возрастающая функция, так что для более способных экзаменуемых (с высоким значением 0) предсказанное значение вероятности правильного ответа на вопрос будет всегда выше. Это показано на теоретической ХЗК (рис. 16.21). Модели СТТ обладают следующими достоинствами, по сравнению с классичес кой теорией тестирования: 1. Модели СТТ фальсифицируемы, соответствие этих моделей данным можно оценить и определить, насколько конкретная модель подходит для опреде ленных данных. 2. Оценка способностей экзаменуемого не зависит от теста; она проводится на основании общего показателя, что позволяет сравнивать испытуемых, выполнявших разные тесты. 3. Оценка сложности задания не зависит от экзаменуемого; она проводится на основании общего показателя, что позволяет сравнивать задания, вы полнявшиеся разными группами. 4. В рамках СТТ для результатов каждого испытуемого вычисляются стан дартные ошибки, а не предполагается (как в классической теории тестиро 432 Глава 16. Статистика в образовании и психологии вания), что стандартные ошибки одинаковы для результатов всех испытуе мых. 5. В рамках СТТ при оценке способностей экзаменуемого учитывается сложность заданий, так что два человека, справившихся с одинаковым числом заданий, могут иметь разные оценки способностей, если один выполнил более сложные задания, чем другой. Одно из следствий, вытекающее из пунктов 2 и 3, состоит в том, что в СТТ оцен ки способностей испытуемого и сложностей задания инвариантны. Это значит, что, если не брать в расчет ошибку измерения, любые два экзаменуемых со сходными способностями имеют равную вероятность правильно ответить на данный вопрос, а вероятность правильного ответа экзаменуемого на два задания сравнимой сложности одинакова. Лежащая в основе латентная переменная (0) Рис. 16.21. Теоретическая кривая, характеризующая задание Обратите внимание на то, что хотя в этом обсуждении мы предполагаем, что за дание можно выполнить или верно, или неверно (отсюда и такие формулировки, как «вероятность правильного выполнения задания»), СТТ можно применять в случаях, где нет верного или неверного ответа. Например, в психологической ан кете, направленной на выявление установок, сложность задания можно выразить как «вероятность согласия с утверждением», а 0 - это степень или выраженность измеряемого качества (такого как положительное отношение к гражданской ак тивности). Несколько широко используемых в СТТ моделей различаются по характерис тикам заданий, которые они учитывают. Для всех моделей СТТ свойственны сле дующие допущения. Одномерность Задания в тесте оценивают только одно качество; на практике это объяс няется требованием того, чтобы результаты выполнения теста можно было объяснить одним основным фактором. Современная теория тестирования 433 Локальная независимость Если способности экзаменуемого остаются неизменными, то зависимость между его ответами на разные вопросы отсутствует; то есть результаты вы полнения разных заданий не зависят друг от друга. Простейшая модель СТТ включает только одну характеристику заданий сложность задания, обозначаемую Ь.. Это логистическая модель с одним парамет ром, называемая также моделью Раша, поскольку она была создана датским мате матиком Георгом Рашем (Georg Rasch). ХЗК для этой модели вычисляется при помощи следующей формулы: J-b, Р№ = 0-Ь: \ +е где Р.(0) - вероятность правильного ответа на вопрос i для экзаменуемого со спо собностями 0, а 6. - сложность задания i. Сложность задания определяется как точка на шкале способностей (ось х), для которой вероятность правильного выполнения задания равна 0,5. Более слож ные задания может выполнить половина экзаменуемых, если их общий уровень достаточно высок, а для простых заданий достаточно более низких способностей экзаменуемых в целом, чтобы половина из них справилась с заданием. В модели Раша ХЗК для вопросов разной сложности имеют одинаковую форму и различа ются только положением. Это видно па рис. 16.22, на котором показаны ХЗК для нескольких заданий разной сложности, но с одинаковым дифференцирующим по тенциалом. 0 Рис. 16.22. Кривые, характеризующие задания разной сложности, но с одинаковым дифференцирующим потенциалом: задание А - самое сложное, задание В - самое простое Помня о том, что 0 - это мера способностей экзаменуемого, можно видеть, что для правильного выполнения задания А с 50%-ной вероятностью нужно больше способностей, по сравнению с другими заданиями, кривые для которых располо жены левее. Также ясно, что для представленных на графике заданий наименьшее количество 0 нужно для 50%-ной вероятности правильного ответа на вопрос В. Так что можно сказать, что вопрос В - самый простой, а вопрос А - самый сложный. Вы Глава 16. Статистика в образовании и психологии 434 можете лучше понять это, если проведете на графике горизонтальную линию у = 0,5, а затем из точки пересечения этой линии с каждой кривой опустите перпендикуляр на ось х. Точка пересечения такого перпендикуляра с осью х - это значение 0, необ ходимое для того, чтобы правильно ответить на вопрос с 50%-ной вероятностью, и это количество явно больше для задания А, по сравнению с заданием В. Модель СТТ с двумя параметрами включает дифференцирующий потенциал задания, аг Этот параметр обусловливает разный наклон кривых, характеризую щих задания. Вопросы, для которых характерны более крутые кривые, эффектив нее для дифференциации экзаменуемых со сходными знаниями, чем вопросы, для которых характерны более пологие кривые, поскольку в первом случае вероят ность успешного ответа на вопрос быстрее меняется, по сравнению с изменением способностей испытуемого. Сложность задания пропорциональна углу наклона кривой в точке, где 6. = 0,5, то есть когда ожидается, что половина экзаменуемых выполнит задание верно. Обыч но а. колеблется в диапазоне (0,2), поскольку от отрицательно дифференцирующих заданий (на которые с большей вероятностью ответит более слабый экзаменуемый) обычно отказываются и поскольку на практике дифференцирующий потенциал задания редко превышает 2. В логистическую модель с двумя параметрами обыч но входит коэффициент масштабирования Д который добавляют, чтобы добиться максимально возможного соответствия логистической функции кумулятивному Iюрмал ы юму распределению. ХЗК для логистической модели с двумя параметрами вычисляется при помощи следую щс й фо рмул ы: Daê-bi) = l + e Da[(e-bi) ' Кривые для двух заданий, различающихся и по сложности, и по дифференци рующему потенциалу, показаны на рис. 16.23. 0 Рис. 16.23. Кривые, характеризующие задания, которые различаются и по сложности, и по дифференцирующему потенциалу Трсхфакторпая логистическая модель включает дополнительный параметр, с , который специалисты называют параметр уровня псевдослучайности. Это нижняя Упражнения 435 асимптота для ХЗК, которая показывает вероятность случайно выполнить задание правильно экзаменуемыми с низкими способностями. Этот параметр часто назы вают параметром угадывания, поскольку для слабых экзаменуемых единственный способ ответить правильно на сложный вопрос - это угадать ответ. Однако часто с. меньше, чем ожидается при случайном угадывании, поскольку составители тестов умеют придумывать неправильные ответы, которые покажутся верными слабым ученикам. ХЗК для логистической модели с тремя параметрами вычисляется при помощи следующей формулы: Da^Q-bi) Р ,(0 )-с ,+ (1 -с ,) DaÔ-bj) 1+ е Модель с тремя параметрами изображена на рис. 16.24; в нее включен достаточ но высокий параметр угадывания, на что указывает тот факт, что кривая пересека ет ось у в районе значения 0,2. Это значит, что человек с очень низким 0 примерно с 20%-ной вероятностью выполнит задание верно. 0 Рис. 16.24. Кривая, характеризующая задание с достаточно высоким значением параметра угадывания Упражнения Здесь представлен ряд вопросов для повторения тем, рассмотренных в этой гла ве. Задача Для данных, представленных в табл. 16.1: 1. Каков перцентиль для 80 баллов? 2. Какой балл имеет 75-й перцентиль? Решение Перцентиль можно найти, посмотрев на кумулятивную вероятность для сле дующего по величине балла (выше интересующего вас). Для нахождения балла, соответствующего заданному перцентилю, выполните обратное действие. Глава 16. Статистика в образовании и психологии 436 1. Балл 80 соответствует 17-му перцентилю. 2. Балл 96 соответствует 96-му перцентилю. Задача Представьте себе, что вы работаете с опубликованным тестом со средним баллом 100 и дисперсией 400. Преобразуйте следующие баллы, полученные отдельными людьми, в Z-значения, Т-значения и станайны. 1. 70. 2. 105. Решение 1. Для 70: Z = - l,5 , Т= 35, а станайн = 2. 2. Для 105: Z = 0,25, Т = 52,5, а станайн = 5. Необходимые вычисления для значения 70 приведены на рис. 16.25 и ниже. Рис. 16.25. Вычисление Z-значения Т= -1,5(10) + 50 = 35. Станайн = 2(—1,5) + 5 = 2,0. Необходимые вычисления для значения 105 приведены на рис. 16.26 и ниже. Рис. 16.26. Вычисление Z-значения Т= 0,25(10) + 50 = 52,5. Станайн = 0,25(2) + 5 = 5,5; округляется вниз до 5. ГЛАВА 17. Управление данными Вы могли бы задаться вопросом, что делает глава об управлении данными в книге по статистике. Вот объяснение: использование статистики обычно подразумевает анализ данных, а надежность статистических результатов во многом зависит от надежности проанализированных данных, так что если вы будете использовать статистику, вам нужно знать что-то об управлении данными вне зависимости от того, будете ли вы заниматься этим сами или поручите кому-то другому. Довольно странно, что об управлении данными редко говорят па занятиях по статистике, так же как и во многих офисах и лабораториях; некоторые профессора и руководители проектов, похоже, верят, что данные волшебным образом преоб разуются в подходящий вид без вмешательства человека. Однако люди, которые ежедневно работают с данными, имеют совсем другое мнение на этот счет. Многие описывают соотношение между управлением данными и их анализом при помощи правила 80/20, которое означает, что в среднем 80% времени, затраченного на рабо ту с данными, уходит на их подготовку к анализу, и лишь 20% времени посвящено самому анализу данных. С моей точки зрения, управление данными обеспечива ется как общим знанием проблемы, так и умением выполнить ряд специфических задач. Оба этих аспекта можно преподать и выучить, и, хотя некоторые люди дейст вительно способны получить эти знания неформальным способом (методом проб и ошибок, так сказать), это не может быть хорошим обоснованием для того, чтобы пустить все на самотек. Напротив, более разумно - отнестись к управлению дан ными как к умению, которое, как и все прочие умения, можно приобрести, и нет никаких оснований пренебрегать коллективной мудростью, накопленной до вас. Качество анализа частично зависит от качества данных, факт, блестяще сфор мулированный программистами: «мусор на входе - мусор на выходе» (garbage in, garbage out, GIGO). Эта же концепция применима и к статистике; самый лучший статистик не может получить надежные результаты из данных, которые представ ляют собой кашу. Процесс сбора данных хаотичен по своей природе, и данные ред ко попадают к вам в идеальном виде готовыми к анализу. Это значит, что когда-то между сбором и анализом данных кто-то должен проделать грязную работу с са мим файлом данных - проверку, реорганизацию и прочие действия по подготовке данных к анализу. Как правило, этот процесс не покрыт завесой тайны, однако он требует систематичного подхода, руководимого знанием свойств данных и спо- 438 Глава 17. Управление данными собой их дальнейшего использования, наряду с заинтересованным отношением, сопряженным со здравым смыслом. У аббревиатуры GIGO есть и другая расшифровка: «мусор на входе - убежде ния на выходе». Эта фраза отражает огорчительную склонность некоторых людей верить в то, что все, что выдает компьютер, верно, что можно расширить до столь же огорчительного убеждения о том, что любые результаты, полученные при по мощи статистических методов, должны быть истинными. К сожалению, в обоих случаях мы не можем избавиться от необходимости рассуждать; и компьютеры, и статистические методы могут давать бессмысленные результаты, если они осно ваны на неправильных данных. Простейшим примером является следующее: тот факт, что вы можете вычислить среднее и дисперсию для любого набора чисел (даже если они представляют собой номинальные или порядковые данные, напри мер), не значит, что эти числа имеют смысл, не говоря уже о том, представляют ли они надежную общую характеристику данных. Использовать корректные данные и выбрать правильный метод их обработки - это задача аналитика, поскольку ста тистическая программа просто выполняет заданные вами операции и не может оцепить ни качество данных, пи адекватность применяемой процедуры. Если ваш интерес ограничен изучением статистических процедур, вы можете захотеть пропустить эту главу. Аналогичным образом, если у вас нет практическо го опыта работы с данными, эта глава может показаться полностью абстрактной, и вам может захотеться лишь бегло ознакомиться с пей или отложить ее прочте ние до того момента, когда вам придется реально иметь дело с данными. С другой стороны, при любых обстоятельствах вам может все равно показаться полезным понимать па базовом уровне, что происходит при управлении данными, и знать, что может произойти, если это не сделано правильно. Кроме того, всегда хорошо знать больше, чем это требуется при данных обстоятельствах, особенно учиты вая, что смена специальности свойственна для современной жизни. Вы никогда не сможете предугадать, когда представление об управлении данными даст вам пре имущество мри поступлении на должность, а чтение этой главы должно помочь вам уверенно говорить на эту тему, возвышая вас над конкурентами. Кроме того, если управление данных войдет в круг ваших будущих обязанностей, сведения из этой главы помогут вам на базовом уровне понять, почему управление данными важно и как оно осуществляется. Общий подход, а не набор методов Поскольку для сбора, хранения и анализа данных используется множество мето дов и компьютерных программ, в одной главе невозможно дать инструкции по управлению данными, которые работали бы в любых обстоятельствах. Поэтому в данной главе мы сосредоточимся на общих подходах к управлению данными, включая рассмотрение общих для многих ситуаций вопросов наряду с обидим опи санием процесса приведения исходных данных к пригодному для анализа виду. Если бы мне нужно было дать одип-единствепиый совет по управлению дан ными, он бы прозвучал так: ни па что не надейтесь. Не надейтесь, что файл с дан Кодификатор 439 ными, который был вам предоставлен, - это именно тот файл, который вы долж ны анализировать. Не надейтесь, что все переменные были перенесены из одной программы в другую без потерь. (На одну только эту тему могут быть написаны целые тома, и каждая версия программы, похоже, несет новый набор проблем.) Не надейтесь, что качество ввода данных контролировалось или что кто-нибудь еще проверял данные на наличие логически невозможных значений. Не надейтесь на то, что человек, который поручил вам этот проект, знает, что значения важной переменной отсутствуют в 50% случаев или что другая переменная не была зако дирована так, как было указано в инструкции. Сбор данных и их ввод в компью тер производится людьми, которые то и дело совершают ошибки. Большая часть процесса управления данными заключается в обнаружении этих ошибок и или их исправлении, или изобретении способа обойти их, чтобы данные можно было нормально обработать. Иерархия Не увлекаясь слишком сильно армейскими аналогиями, можно отметить, что для эффективного управления данными в ходе крупного проекта необходимо опре делить структуру, или иерархию, людей, которые отвечают за разные части про цесса. Столь же важно, чтобы каждый участник проекта знал, кто уполномочен принимать определенные решения, так что, когда проблема появляется, ее можно разрешить быстро и разумно. Это может звучать как размышления, основанные на здравом смысле, однако на самом деле данные условия не всегда выполняются на практике. Если вводящий данные в компьютер сотрудник обнаружил, что в по ступающих к нему данных многие переменные имеют пропущенные значения, он должен точно знать, кому доложить об этой проблеме, чтобы исправить ситуацию, пока проект еще находится на стадии сбора данных. Если аналитик во время пред варительного исследования файла данных обнаружил неправдоподобные значе ния, он должен знать, кто уполномочен принять решение о том, что следует делать с такими данными, так что они могут быть исправлены или перекодированы до начала основного анализа. Если такие вопросы сложно решать, сотрудники, ско рее всего, будут самостоятельно принимать решения или отказываться что-либо делать, оставляя вас с данными неясного качества. Кодификатор Кодификатор (codebook - лабораторный журнал) - это классический инструмент, который применяется в любом проекте, сопряженном со сбором и анализом дан ных. Кодификатор - это просто способ сбора и организации важной информации о проекте. Иногда кодификатор - это физический объект, такой как блокнот на спирали или скоросшиватель с тремя кольцами, а иногда это электронный файл (или набор файлов), который хранится на компьютере. В некоторых проектах используется комбинация этих способов, когда большая часть информации хра 440 Глава 17. Управление данными нится в электронном виде, однако что-то или все распечатывается и хранится в скоросшивателе. В сущности, не важно, какой метод вы выберете, главное, чтобы основная информация о проекте и наборе данных была надежно записана и сохра нена для дальнейшего использования. Кодификатор должен содержать информацию как минимум по следующим те мам: • информация о проекте и методы сбора данных; • методы ввода данных в компьютер; • решения, принятые относительно данных; • процедуры кодировки. Информация о проекте включает его цели, график, финансирование и сведе ния о команде (исходный состав и все изменения, обязанности каждого человека). К информации о методах сбора данных относятся сведения о времени и способах их сбора, о том, был ли использован какой-либо контроль, и о том, кто на самом деле собирал данные. Если была использована какая-либо форма вроде анкеты, ее копию нужно включить в кодификатор вместе с инструкциями, которыми руко водствовались сборщики данных. Решения, принятые относительно данных, - это такие вопросы, как определение выбросов (значений, которые находятся слишком далеко от всех остальных значений) или других необычных данных, подробная информация о любых объектах, которые были исключены из анализа, и о причи нах этого, а также указание процедур замещения пропущенных данных или других манипуляций с такими данными. Информация о процедурах кодировки содержит расшифровку значений переменных, способы и причины их перекодировки, а так же коды и их обозначения. Информация о вводе данных особенно важна, когда данные собирают в одном виде, например как распечатанные на бумаге анкеты, а анализируют в другом, та ком как электронный файл. Однако даже если используется компьютерная систе ма телефонного опроса или другой метод сбора данных в электронном виде, коди фикатор должен содержать информацию о процессе получения отдельных файлов и их преобразованиях. Часто, но не всегда преобразование электронных файлов проходит успешно, но при каждом преобразовании файла есть вероятность его повреждения. При обнаружении повреждения файла может понадобиться про следить историю его преобразований, чтобы выяснить, что произошло, и приду мать, как исправить это. Сведения об обучении людей, которые вводят данные, и о любых использованных методах контроля качества (например, повторный ввод части данных) также должны быть зафиксированы. По моему опыту, компании, данные которых представляют собой протоко лы ежедневных деловых операций, лучше документируют процесс, чем ученые и другие люди, работающие над малыми проектами, когда данные собираются отдельно для каждого проекта. Этому есть несколько причин. Во-первых, если сбор и сохранение данных продолжаются, относительно легко установить набор стандартов и следовать им. Во-вторых, в крупных компаниях, которые постоян но имеют дело с данными, работают люди, занимающиеся только управлением Кодификатор 441 данными, и эти люди проходят специальное обучение, соответствующее их зада чам. В академических учреждениях дело, как правило, обстоит противоположным образом; в лаборатории может выполняться много проектов, в каждом из которых задействованы разные наборы данных, каждый со своими особенностями. Дело часто осложняется тем, что обязанность сбора и упорядочивания данных может лежать на студентах с минимальным опытом и квалификацией или на людях с учеными степенями, которые являются экспертами в своем деле, однако незна комы с базовыми аспектами управления данными (и, возможно, не интересуются ими). Главная причина, по которой вам нужен кодификатор или его аналог, - это не обходимость хранения информации о каждом проекте и его данных, так чтобы те, кто присоединялся к проекту или анализировал данные по истечении значи тельного времени после окончания их сбора, знали, что это за данные и как их ин терпретировать. Существование падежного кодификатора также полезно для тех, кто участвовал в проекте с самого начала, поскольку ничья память не абсолютна, и легко забыть о том, какое решение было примято шесть месяцев или два года назад. Легкодоступная информация из кодификатора также значительно сэконо мит время, когда наступит черед описания результатов или когда вам потребуется объяснить суть проекта новому аналитику. Данные редко анализируются точно в том виде, в котором они были собраны. Перед началом анализа кому-то нужно изучить файл данных и решить, что делать с такими проблемами, как наличие неправдоподобных и пропущенных значений. Все эти решения должны быть записаны наряду с местом нахождения каждой версии файла. Заархивированную версию исходного файла следует сохранить где-нибудь, так чтобы ее нельзя было изменить и чтобы можно было позже пере кодировать данные по-другому или заменить поврежденную более позднюю вер сию файла. Также неплохо сохранять все версии файла после каждого серьезного редактирования для того случая, если вы решите, что действия на этапах 1, 2, 3 и 5 были верными, а на этапе 4 - нет. Возможность вернуться к версии 3 убережет вас от необходимости возвращаться к исходной черновой версии. Также нужно записать число переменных и объектов в каждой версии файла и структуру файла. При каждом преобразовании файла нужно убедиться, что в новой версии осталось верное число переменных и объектов, а знание структуры файла пригодится, если нужно будет использовать не названия, а порядок переменных (например, если последняя переменная не уцелела в ходе преобразований файла). Если исполь зуется какой-либо метод работы с пропущенными данными, нужно указать его подробные характеристики и характер преобразования файла. Записи об использованных в проекте процедурах кодировки, возможно, зай мут больше всего места в кодификаторе. В данном случае нужно зафиксировать информацию об исходных названиях переменных, подписях, добавленных к пере менным и их значениям, обозначениях, пропущенных при применении этих дан ных. Здесь также нужно привести список новых переменных и описание способа их получения (например, преобразование существующих переменных или пере кодировка непрерывной переменной в категориальную). Глава 17. Управление данными 442 Прямоугольный файл данных Существует много способов хранить данные в электронном виде, но наиболее рас пространенный формат - это прямоугольный файл данных. Этот формат должен быть знаком каждому, кто использовал электронные таблицы типа Microsoft Excel. Хотя статистические пакеты, такие как SAS или SPSS, могут читать данные, хра нящиеся в разных форматах, прямоугольные файлы данных используются часто, поскольку это облегчает обмен данными между разными программами. Самая важная характеристика прямоугольного файла данных - это то, как он организован. В предназначенных для статистического анализа данных принято, чтобы строки соответствовали объектам, а столбцы - признакам. Определение объекта частично зависит от типа планируемого анализа и затрагивает концеп цию, которая известна как единица анализа (обсуждается подробнее в одноимен ной врезке на стр. 444). Поскольку иногда данные об одном объекте записываются на нескольких строках или данные о нескольких объектах могут содержаться в одной строке, некоторые предпочитают говорить, что одна строка соответствует одной записи, а не одному объекту. На рис. 17.1 показана небольшая часть данных национального исследования об щественного мнения (General Social Survey) 1993 года, проводимого Националь ным центром изучения общественного мнения (National Opinion Research Center) при университете г. Чикаго практически ежегодно, начиная с 1972 года. В каждой строчке содержатся данные об одном человеке, обозначенном при помощи пе ременной id (первый столбец). В каждом столбце даны значения соответствую щей характеристики. Например, второй столбец содержит значения переменной wrkstat, в которой закодирован ответ человека на вопрос о форме занятости, а в третьем столбце указаны значения переменной marital, соответствующие ответу респондента на вопрос о его семейном статусе. А ! В Iwrkstat 1 (к Г 2 : 1 3 I 4 | ....... .. ^ ........ 5 : 4 6 | 7 ! 5! 6 7 2 ..8 .. Г " 9 To | и 8! 9 ! гс; 121 13 : 14; 11: 12 13 14 15 I 16 Т Л .... 18 ; 19 ! 20 Г 21 2 2 ] .... 23 • 24 ; И 4 15 ..... 16 ........ 17; 18; 19 20 21 22 23; ► м \ GSS93 / С marital 1 1 D agewed Е F... :child s sibs 3: 5; 20 0 3 1; 3 25 2! 5: 5: SI 5 1! 5: .. 1 :....... 1; .... Г ........ l! 0 0 25 2 4 11 0 43 0; 0 45 2 2 78 83; 22 24 2 2 55; 3j 2 75; 3 22 5; 0 1! I ] ....... 1 5; 0 1; 1 1 5! Г 0 .... О!..... 2 ....5 ....... 4 ....1:........ 7 1 1 ' 1; ...з ....... 4 5 5 5 Г ...... 1; 1 \ 1 31 24 0 ....0 ....... 0 22 32 24 24 ....2 ........ 2 V 23 0 5 2 25 2 3 10; 11! .... 7]........ ' 11 99: ..... ....... 7 12; ' 7 ; .... 9; 4 ..... 16 16 15 17 11 1 2 ............ 12 18 2 18 23: 10; 15 61! 63; 99- 8! 99 3; Vi 12 4 3i ... i i ........ 33; 36: 3; 11 12! 8 10 14 41 0; 1] 39! 55 55: 34 3; 1 12: 10; 9 4 7 2 8 15 16 36 44 6 8! 2 .... 2 ....... 3 2 M To .....6 ... 1 80 ...1 ' 5:....... .... 3! 5: 2| V~ d e g re e ^ 11 29; 1: 4 i! 2 5 8 2 99; ....... ieduc 2 12 3 ol 98! 9 5i 3; 4 0; 0 0; О! 4i ..3 1 ........ 54; J zodiac birthmo 43 44 2 I H :..........G age 1 0 18 16 14 18 18 ^ Рис. 17.1. Прямоугольный файл данных в программе Excel >1Г Прямоугольный файл данных 443 На рис. 17.2 приведен тот же фрагмент файла данных в SPSS. Основное раз личие заключается в том, что файле Excel названия переменных (id, wrkstat) за писаны в первой строке, тогда как в файле SPSS названия переменных связаны с данными, но не образуют отдельную строку. Это различие в формате приводит к тому, что при преобразовании данных из Excel в SPSS вам будет казаться, что одна строка пропала, но на самом деле это связано с тем, что строка с названиями пере менных используется в Excel, но не в SPSS. Перенос данных из одного формата в другой часто сопряжен с такими странностями, так что полезно знать что-то о том, как каждая система или программа поступит с разными типами данных. id 1 2 3 4 5 6 I 1| 2| 3] 4j ......5 Г 6 7 7 8 10 ; 9| Ю: 11 111 12 12; 13 13; 14 14 15 15! 16 16; 17 17} 9 18 19 20 21 22 8 18: | w rkstat 1 1 .....i t ... щ ......б] 5} ...... 1].. 5 ......г г 2| ...... 1[.. 1Г if 5j 4 1| ..... 7 ... 1 ! .. ....i f if ...... зГ ! 2! 19 20 21 22 ! | 3 5j ...... f t .. 5; ...... 5. marital 1 ...... ГГ if ...... зГ" 5} ...... 5 Г 5j 1 4 ...... 5} 5] ...... s f ' 1i ..“ i f " if ...... i f 1 | aqew ed 20; I 0: ...... 0 ] 0 ....... 2 i.. 4 ...... r f .. 2! ...... .. 3! ...... i t .. 1: ...... 1 ] .. 2\ 0! ...... 3 1 } 24! 0; ol .......61 22 ! ...... 32 24! 24! ch ild s E 1! 3: 2 0 ...... 251 0: ...... of 25: ...... 2 2 ; 24 ....... 22: 23 s ib s ...... 0 ” 3; 4 o| ....... 98 ! 9 ..“ i f 2! 5 0 ! o| ...... 6 ;... 0! 0 2 2 2 ! : ...... 2 ].. 0 ......Oj... 0! ...... Г 4! ......f l .. ...... 1 j 4; ol ...... Г Г ..... 2 ] ( 43; 44 ....... 43 Г 45! 78: age birthmo | 5; 8: 2T 99! ...... 16 Г 83: ft 16 ] ...... 3 1 T 54: ...... 29! 23! .......6 i T 63; ....... 33! 36! ...... 3 9 T 9 12: 4 ...... i s ..... 3 10: 44: ...... 2] .. 8; 99; з| 3 11 ! ..... f j 1 36 18 12; ...... 4 ! .......эТ 3! ......16.............. 15 17.... 11! ...... 1 2 ..... 7 55! 2; degree 11 16 11 ] ...... 5 5 . 34! 6! ......i i .. 99! 7 'f 12: ...... 7!.. | ed u c 2 ......55: 75: | zo d iac 4! ...... 6! 8 ; 99 1j 12 ...... 1 8 ............. 151.... .......1 2 ..... 4 ......io t.... 8 14 ...... 12 f 10 2 ...... 8 15 ; ...... 7].. ! ... 16 1..... 16: 3 14 5; 18 Рис. 17.2. Прямоугольный файл данных в программе SPSS Хотя данные в электронных таблицах могут быть организованы по-другому, на пример признакам могут соответствовать строки, а объектам - столбцы, эти под ходы обычно не используются, если данные предназначены для импорта в статис тическую программу. Кроме того, хотя электронные таблицы позволяют хранить другие типы информации, помимо данных и названий переменных (такие как за головки и формулы), эту информацию нужно удалить перед импортом данных в статистическую программу. При определении структуры хранения данных в электронном виде вы должны руководствоваться основным критерием - облегчением их планируемой обработки. В частности, помните, что какую бы программу вы бы не собирались использовать для анализа данных (Minitab, SPSS, SAS или R), у нее есть свои специфические требования к формату данных, и от вас требуется предоставить данные в таком фор мате, который используется выбранной программой. К счастью, многие программы для статистического анализа данных имеют встроенные процедуры, которые поз воляют преобразовать данные из одного формата в другой, однако это не избавляет ответственного за управление данными и/или их анализ от необходимости опреде лить, какой формат данных требуется для конкретной процедуры, и преобразовать данные в этот формат перед началом анализа. 444 Глава 17. Управление данными Единица анализа Е д и н и ц а а н а ли за в исследовательском проекте - это основная единица, которая представляет интерес при данном виде анализа данных. Например, при исследовании школьной успеваемости единицей анализа может быть ученик, класс, школа, район или город. В медицинских исследованиях единицей анализа может быть визит к врачу, па циент, врач, отделение больницы или вся больница. Мы говорим о единице а н а л и з а , поскольку одни и те же данные можно обработать с использованием разных единиц ана лиза. Например, при одной обработке данных нас может интересовать успеваемость от дельных учеников, при другой - уровень образования, достигнутый разными школами, а при третьей - различия в уровне обученности школьников в ряде городов. Данные, специфичные для одной единицы анализа, часто называют принадлежащими к определенному уровню. В примере с данными о школах характеристики отдельных уче ников (возраст, пол и т. д.) будут называться данными индивидуального уровня, а харак теристики школ (такие как тип финансирования) называются данными школьного уровня. Хотя в некоторых областях науки по-прежнему допускается смешивать данные разных уровней при статистическом анализе, это может привести к сбивающим с толку результа там. Напротив, все чаще ожидают, что при объединении данных разных уровней в одном статистическом анализе будут использоваться специализированные приемы, такие как многоуровневое моделирование. Электронные таблицы и реляционные базы данных Даже если данные, собранные в ходе проекта, будут в конечном итоге проанализи рованы при помощи специализированной статистической программы, обычно их собирают п/или вводят в компьютер в другой программе, такой как Excel, Micro soft Access или FileMaker. Вводить данные может быть проще в этих программах, чем в любом статистическом пакете, и у многих людей они уже стоят па компьюте ре (в особенности Excel), снижая число лицензий на специализированные статис тические программы, которые нужно покупать. Excel - это электронная таблица, a Access и FileMaker - это реляционные базы данных (базы данных с поддержкой соединения отдельных записей). Все три программы могут открывать электрон ные файлы, созданные в других программах, и сохранять файлы в разных форма тах, что делает их полезными при переносе данных из одной программы в другую. Кроме того, все три можно использовать для просмотра данных и вычисления нростейших статистик. Электронные таблицы полностью подходят для ввода простых наборов данных в малых проектах. Преимущество электронных таблиц - это их простота; вы мо жете создать новый файл данных, просто открыв новую электронную таблицу и вводя данные в окно, и весь набор данных будет содержаться в одном документе. Новичкам несложно пользоваться электронными таблицами, их формат побужда ет вводить данные в виде прямоугольной таблицы, облегчая обмен данными меж ду разными программами. Реляционные базы данных могут быть более предпочтительными для более крупных плп сложных проектов. Реляционная база данных состоит из ряда от Проверка нового файла данных 445 дельных таблиц, каждая из которых выглядит похоже па отдельную страницу электронной таблицы. В хорошо разработанной базе данных каждая таблица со держит определенный тип данных, а таблицы связаны при помощи ключевых пе ременных. Это значит, что внутри базы данные для одного объекта (например, для одного человека) могут содержаться во многих отдельных специализированных таблицах. База данных для учеников может содержать одну таблицу для их до машних адресов, другую - для дат их рождения, еще одну - для дат поступления и так далее. Если данные нужно перенести в другую программу для анализа, запись прямоугольного файла данных, содержащего всю нужную информацию в одной таблице, можно осуществить в программе для работы с реляционными базами данных. Главное преимущество реляционной базы данных - это эффективность; данные никогда не бывает нужно вводить более одного раза, а для одних и тех же данных могут быть сделаны разные записи. Для примера со школой эго означает, что по одному адресу могут проживать несколько братьев и сестер, однако в элект ронной таблице информацию об адресе нужно вводить отдельно для каждого ре бенка, увеличивая вероятность опечаток или неправильного написания. Проверка нового файла данных Предположим, что вам только что прислали новый файл данных для анализа. Вы прочитали сопроводительную информацию о проекте и знаете, какой тип анализа необходимо провести, однако, прежде чем начать, вам нужно убедиться, что файл находится в порядке. В большинстве случаев перед началом анализа вам понадо бится ответить на приведенные ниже вопросы (как минимум). Чтобы ответить на них, вы должны открыть файл данных и, в некоторых случаях, провести неко торые простые процедуры, такие как создание частотных таблиц (обсуждаются в главе 4). В некоторых статистических программах есть специальные процедуры, которые помогают проверить новый файл данных, однако основные необходи мые процедуры можно провести в любом статистическом пакете. Тем не менее вы можете также захотеть справиться в одном из специализированных руководств о конкретных методах проверки данных и устранения в них ошибок, реализованных в определенных статистических пакетах; некоторые из таких книг упомянуты в приложении С. Вот некоторые из основных вопросов, на которые нужно ответить при начале работы с новым файлом: 1. Сколько в нем наблюдений? 2. Сколько в нем переменных? 3. Есть ли повторяющиеся наблюдения (допущенные непреднамеренно)? 4. Верно ли преобразованы значения переменных, названия и подписи? 5. В разумных ли пределах варьируют данные? 6. Сколько данных отсутствует и есть ли в этом какая-либо закономерность? Вы должны знать, сколько наблюдений должно быть в полученном вами файле данных. Если это не согласуется с реальным числом наблюдений в файле, воз 446 Глава 17. Управление данными можно, нам прислали не тот файл (что не так редко случается) или файл был поврежден в ходе преобразований (тоже не редкость). Если число наблюдений в вашем файле не соответствует вашим ожиданиям, вам нужно вновь обратиться к источнику данных и получить правильный неповрежденный файл, перед тем как продолжать его анализ. Если число наблюдений верно, нужно также убедиться в правильности числа переменных в файле. Причиной неправильного числа переменных может быть не только не тот файл данных, но и те же самые повреждения файла при переносе из одной программы в другую. В особенности нужно иметь в виду то, что некото рые программы накладывают ограничения на число переменных, если это так, вам нужно найти другой способ преобразования полного файла. Если это невозможно, отберите часть переменных, которые вы будете использовать при анализе (при ус ловии, что вы не собираетесь анализировать все переменные исходного файла), и просто преобразуйте этот меньший файл. Третий вариант - преобразовать файл по частям, а мотом объединить их. Если у вас есть файл с правильным числом строк и столбцов, вы хотите узнать, пет ли в нем непредумышленно повторенных записей. Для этого нужно связаться с кем-нибудь, кто был вовлечен в сбор данных по проекту, чтобы узнать, что пред ставляют собой повторяющиеся наблюдения и есть лив файле данных ключевая пе ременная, содержащая уникальные идентификаторы (если вам незнаком этот тер мин, см. размещенную милее врезку «Уникальные идентификаторы»). Определение повторяющегося наблюдения зависит от единицы анализа. Например, если едини ца анализа - это визит в больницу, нормально, если один человек имеет несколько записей в файле (поскольку он мог посетить больницу несколько раз). С другой сто роны, в случае файла, где указаны смертные случаи, вы будете ожидать, что одному человеку соответствовует одна запись. Для обнаружения повторяющихся записей существуют разные методы в зависимости от используемого программного обеспе чения и специфики набора данных. Иногда для этого нужно просто убедиться в том, что пи один уникальный идентификатор (например, идентификационный номер) нс встречается чаще одного раза, тогда как в других случаях вам может понадобить ся искать повторяющиеся записи, которые имеют одинаковые значения нескольких пли всех переменных. Уникальные идентификаторы Идея уникальных идентификаторов чрезвычайно важна для управления данными и зна кома тем, кто работает с базами данных, но может быть новой для тех, кто никогда не создавал базы данных или не был иным образом задействован в управлении данными. Идентификатор - это код, обычно числовой, который обозначает наблюдения в наборе данных. Уникальный идентификатор - это код, который имеет уникальные значения для каждого наблюдения. Простейший способ присвоить уникальные идентификаторы каж дому случаю - это использовать идентификационные номера (такие как регистрацион ный номер пациента в системе здравоохранения). Даже если уникальные обозначения уже имелись, простые последовательные идентификационные номера обычно предпоч тительнее, поскольку это позволяет бороться с нарушением конфиденциальности. Проверка нового файла данных 447 В большинстве наборов данных нужен как минимум один уникальный идентификатор для каждой потенциальной единицы анализа. Например, если данные о медицинской клинике можно анализировать или на уровне пациентов, или на уровне отдельных ви зитов, то нужно, чтобы один идентификатор был уникальным для каждого пациента, но общим для всех записей о данном пациенте, а другой идентификатор должен обозначать все записи, относящиеся к одному визиту (диаграммы, анализы крови и т. д.). Уникаль ный идентификатор полезен для того, чтобы подтвердить отсутствие повторяющихся записей, выявить общие записи для одной единицы исследования (например, все посе щения больницы одним человеком) и предотвратить перемешивание записей для разных людей. В большом файле могут фигурировать, например, несколько Петров Ивановых1, и вы бы не хотели, чтобы записи о них смешались. Аналогичным образом данный Петр Иванов мог приходить в больницу пять раз за год; просматривая его историю болезни, вы хотите легко выявить все относящиеся к нему записи. Проверка того, что все значения, названия переменных и подписи верны, - это следующий этап обследования файла. Сохранение правильных значений наиболее важно, поскольку названия и подписи можно создать заново, однако сами данные должны быть правильными, а в процессе преобразования файла может случиться много неожиданностей. К вещам, за которыми нужно следить, относятся правиль ный тип переменных (иногда числовые переменные неожиданно преобразуются в текстовые, или наоборот; см. следующий раздел о числовых и текстовых пере менных), длина значений текстовых переменных (которые часто обрезаются или заполняются незначащими символами во время преобразований) и правильность значений, особенно дат. Во многих статистических пакетах можно вывести на экран информацию о типе, длине и подписях каждой переменной, и эту возможность нуж но использовать, чтобы убедиться в том, что все преобразовано, как ожидалось. Названия переменных во время преобразования файла могут неожиданно ме няться, поскольку у разных программ есть разные требования к допустимым на званиям переменных. Например, в Excel название переменной может начинаться с числа, а в SAS и SPSS2 - нет. В некоторых программах длина названий столбцов может достигать 64 знаков, а некоторые - обрезают названия до 8 знаков, э го огра ничение может привести к повторяющимся названиям переменных или замене на формальные названия, такие как varP. Хотя данные обычно можно анализи ровать вне зависимости от того, как названы отдельные переменные, странные п бессмысленные названия доставляют дополнительные неудобства пользователю и могут снизить эффективность анализа. Если данные предполагается открывать в нескольких программах, нужно спланировать это заранее. В частности, нужно предусмотреть ограничения, накладываемые на названия переменных каждой из программ, которые предполагается использовать, и создать совместимые со всеми этими программами названия переменных. Подписи переменных и их значений очень удобны при работе с файлом данных, однако они часто вызывают проблемы при переносе файлов из одной программы 1 В оригинале Bill Smith. - Прим. пер. 2 И в R. - Прим. пер. * От англ, variable - перемен пая. - Прим. пер. 448 Глава 17. Управление данными пли платформы в другую. Подписи переменных - это сопряженные с переменной текстовые предложения, которые являются одним из способов обойти ограниче ния длины названий. Например, переменной wrkstat из примера с национальным опросом общественного мнения можно присвоить подпись «Форма занятости в предыдущие шесть месяцев», которая гораздо лучше отражает содержание этой переменной. Подписи значений сходны с подписями переменных, однако они от носятся к значениям каждой переменной. Продолжая рассматривать наш пример, мы можем присвоить подпись «Полная занятость» значению 1 переменной wrkstat, «Частичная занятость» значению 2 и так далее. Как бы не были удобны подписи переменных и значений, они часто неправильно переносятся из одной программы в другую, поскольку в каждой программе такая информация хранится по-разному. Одно из решений может быть следующим: если вы знаете, что данные будут ана лизироваться в нескольких программах п/или платформах, используйте простые названия переменных, такие как v\ и v2, и простые числовые коды для значений (О, 1,2 и т. д.), а затем напишите команды (короткую компьютерную программу), которые можно запустить в каждой программе пли платформе, присваивающие подписи переменным и их значениям. Следующий этап - проанализировать сами значения набора данных и понять, правдоподобны ли они. Некоторые простые статистические процедуры (такие как вычисление среднего и дисперсии числовых переменных) помогают убедиться, что значения не изменились при преобразованиях (при условии, что вы знаете значения среднего и дисперсии данных до их преобразования). Даты нужно про верять особенно аккуратно, поскольку они являются особенно частым источником проблем из-за того, что в разных программах даты представлены в разных форма тах. Обычно даты хранятся в виде числа единиц измерения времени (дней или секунд), прошедшего после определенной точки отсчета. К сожалению, кажется, каждая программа использует свою точку отсчета, и некоторые программы также измеряют время в разных единицах, вследствие чего даты часто переводятся из одной программы в другую неверно. Если вы не можете правильно преобразовать даты, сохраните их как текстовую переменную, которую потом можно использо вать для повторного создания дат в новой программе. Даже если вы убедились, что данные преобразованы верно, с ними все равно могут возникнуть проблемы. Одна вещь, которую нужно проверять, - это нали чие неправдоподобных или лежащих вне диапазона значений. Это можно легко сделать, посмотрев на частоты значений (или на минимум и максимум, если у пе ременной много значений), чтобы убедиться, что они осмысленны и согласуются с тем, как была закодирована переменная. (Частотные таблицы обсуждаются в гла ве 4.) Если файл данных маленький, также возможно просто отсортировать зна чения каждой переменной и посмотреть па наименьшие и наибольшие значения. Третий вариант, если вы используете Excel, - использовать фильтр данных, чтобы выявить все возможные значения определенной переменной. Обычные проблемы, которые приходится выявлять, - это лежащие вне диапазона значения (человек в возрасте 150 лет), недопустимые значения (3 для переменной, которая может принимать только значения 0 и 1) и несовместимые значения (новорожденный Текстовые и числовые данные 449 младенец, который записан как выпускник). Если вы обнаружили необычные зна чения или очевидные ошибки после того, как убедились, что файл преобразован правильно, кому-то нужно решить, как поступить в этом случае, поскольку как только вы начнете статистический анализ, программа будет использовать все пре доставленные данные как верные. Последний шаг перед началом анализа - это оценить количество пропущенных данных и их закономерности. Ваша первая задача - это выявить распространен ность пропущенных данных, это можно сделать при помощи анализа частот зна чений. Вторая задача - изучение закономерностей пропуска данных во многих переменных. Например, есть ли такие переменные, значения которых отсутству ют чаще всего? Есть ли строки, в которых много пропущенных данных, тогда как остальные полностью или в основном заполнены? Есть ли в файле информация о причинах пропуска данных (например, отказался ли человек отвечать па вопрос или его просто не спрашивали), и если да, то как закодирована эта информация? Наконец, нужно решить, как поступить с пропущенными данными - тема, которая обсуждается позже в этой главе. Текстовые и числовые данные В большинстве программ хранения данных и их статистической обработки есть существенное различие между текстовыми и числовыми переменными, хотя они могут называться по-разному. Значения текстовых переменных, которые называ ются также строковыми или буквенно-числовыми, могут включать буквы, числа, пробелы и символы, такие как #. (Допустимые специальные символы различаются в разных программах.) Текстовые переменные хранятся в виде последовательнос ти закодированных значений; наиболее часто используются такие системы коди ровки, как EBCDIC (extended binary coded decimal interchange code, расширенный двоично-десятичный код обмена информацией) и ASCII (american standard code for information interchange, американский стандартный код обмена информаци ей). Поскольку текстовые переменные хранятся в виде последовательностей ко дов, каждый с определенной позицией внутри переменной, положение символов можно определять при помощи специальных процедур. Например, многие языки программирования позволяют выделить первые три символа текстовой перемен ной и сохранить их в виде новой текстовой переменной. Числовые переменные хранятся скорее в виде значений, а не символов, исполь зуемых для записи этих значений. Их, в отличие от текстовых переменных, можно использовать в математических и статистических операциях, таких как сложение и вычитание. В некоторых системах для числовых переменных также допусти мы определенные символы, такие как десятичный разделитель в виде точки или запятой и знак доллара. Есть одна вещь, о которой нужно помнить, - значения текстовых переменных, закодированные при помощи ведущих нулей (0003), при преобразовании в числовые переменные потеряют эти нули (3). Способ хранения значений числовых переменных и их точность различаются в зависимости от платформы и программы. Вы должны помнить, что при преобра 450 Глава 17. Управление данными зовании электронного файла из одной системы в другую может поменяться тип переменной, или определенные значения, которые были прочитаны как допусти мые в одной системе, могут быть закодированы как пропущенные в другой. Эту проблему нужно решать отдельно для каждого конкретного файла; проблемы, ха рактерные для переноса файла из Excel в SPSS, например, могут отличаться от тех, что происходят при переносе файлов из Access в SAS. Пропущенные данные Пропущенные данные - это обычная проблема для анализа данных. Несмотря на их повсеместное распространение, не всегда существует простой способ справить ся с этой проблемой. Вместо этого есть разнообразные процедуры и ухищрения, а аналитикам нужно решать, какой подход использовать и сколько ресурсов они мо гут позволить себе затратить на решение проблемы пропущенных данных. В этом обсуждении мы лишь затронем основные вопросы, связанные с пропущенными данными, и дадим несколько практических советов. Для более глубокого и науч ного обсуждения проблемы прочтите классическое руководство «Статистический анализ с пропущенными данными» (“Statistical analysis with missing data”), ссылка па которое приведена в приложении С. Данные могут отсутствовать по многим причинам, и хорошо, если эти причины указаны в самом наборе данных. Часто программы позволяют использовать раз ные обозначения для разных типов пропущенных данных, используя для этого такие значения, которые не могли встретиться в наборе данных. Человек во время анкетирования мог отказаться отвечать на определенный вопрос, мог не распола гать соответствующей информацией, или же вопрос мог быть просто ему не задан. Эти варианты можно закодировать по-разному (например, -7, -8 и -9), а значе ние этих кодов можно записать в кодификаторе. В некоторых программах можно также указать значение этих кодов при помощи подписей значений. Различать разные причины пропущенных данных необходимо для использования этой ин формации при анализе данных. Вы можете захотеть выяснить, отличались ли те, кто отказался отвечать на определенный вопрос, от тех, кто нс знал на него ответа, но полу или возрасту. Пропущенные данные создают две основные проблемы. Они уменьшают число случаев, пригодных для анализа, снижая таким образом статистическую мощность (вероятность нахождения реальных закономерностей в данных, это подробно об суждается в главе 15), а также они могут быть источником систематической ошиб ки. Первое соображение основано на том, что при прочих равных статистическая мощность возрастает с ростом числа наблюдений, так что любая потеря данных может привести к снижению мощности. Для обоснования второго соображения нужно обратиться к теории пропущенных данных. Пропущенные данные обычно делят на три типа: полностью случайные пропус ки, случайные пропуски и неслучайные пропуски. Полная случайность пропусков означает, что пропуск фрагмента данных не связан со значениями этих данных или со значениями других переменных. С пропущенными данными такого типа Пропущенные данные 451 работать проще всего, поскольку полные наблюдения можно рассматривать как случайную выборку из всего набора данных. К сожалению, полностью случайные пропуски редко встречаются на практике. Случайные пропуски не зависят от зна чений отсутствующих данных, но связаны со значениями других задействованных в анализе переменных. Неспособность ответить на вопрос о семейном доходе мо жет быть связана с уровнем образования. Неслучайные пропуски - это, к сожале нию, наиболее частый случай, который с наибольшей вероятностью внесет систе матическую ошибку в статистический анализ. Пропуски этих данных связаны с их собственными значениями. Например, слишком полные люди могут отказаться отвечать на вопрос об их весе, а люди с непрестижной работой с меньшей вероят ностью расскажут о своей должности. Это обсуждение может показаться несколько теоретическим; как вы можете узнать, к какому типу нужно отнести пропущенные данные, если вы, по опреде лению, не знаете, какие значения были пропущены. Ответ состоит в том, что вы должны принять решение, основываясь на знании генеральной совокупности и своем опыте в данной области исследований. Поскольку большая часть методов статистического анализа подразумевает, что у вас есть полные лишенные сис тематических ошибок данные, если значительная часть данных пропущена, вам (или тому, кто уполномочен принимать такие решения) нужно придумать, как поступить с ними. Применение некоторых из предлагаемых ниже способов может потребовать советов консультанта по статистике или использования программ, специально разработанных для работы с пропущенными данными, так что бюд жет вашей организации наряду с доступностью таких экспертов и программ также сыграет роль при принятии решения. Здесь перечислены некоторые возможные пути решения проблемы. Наиболее предпочтителен первый, хотя такое решение не всегда можно исполнить (и даже если попытки предпринимаются, они могут быть неудачными). Третий вариант находится на втором месте по предпочтитель ности в большинстве случаев. Варианты с пятого по седьмой редко бывают оправ даны со статистической точки зрения, однако иногда применяются на практике. 1. Приложить дополнительные усилия для восполнения пропущенных дан ных, выяснив причину их отсутствия. 2. Применить другой способ анализа данных, такой как многоуровневая мо дель, вместо классической модели повторных измерений. 3. Восстановить пропущенные значения при помощи методов наибольшего правдоподобия вроде тех, что доступны в модуле MVA программы SPSS, или использовать методы множественного замещения пропущенных зна чений, реализованные в таких программах, как SAS PROC MI, для иссле дования распределения пропущенных значений1. В ходе восстановления пропущенных данных они замещаются на значения, основанные на сущест вующих данных, в результате чего мы получаем полный набор данных. 1 Множество современных методов работы с пропущенными данными реализовано в программе R. Подробные инструкции по их применению приведены, например, в книге Роберта Кабакова «R в действии» (издательство «ДМК Пресс», 2014). - Прим. пер. 452 Глава 17. Управление данными 4. Создать дополнительную переменную (0, 1) для обозначения пропущен ных данных наряду с замещением пропущенных данных. 5. Удалить строки или столбцы с большим количеством пропущенных дан ных. (Это допустимо, только если проблема заключается в небольшом чис ле строк и/или столбцов, которые не очень важны для вашего анализа, и это может послужить источником систематической ошибки, если данные пропущены не полностью случайно.) 6. Использовать замещение при условии, замещая пропущенные значения на имеющиеся (нс рекомендуется, поскольку может привести к занижению дисперсии). 7. Использовать простое замещение, заменив пропущенные значения, напри мер, средним значением (не рекомендуется, поскольку почти всегда приво дит к сильной недооценке дисперсии). ГЛАВА 18. Планирование исследования Часто одна из обязанностей статистика - это планирование исследований. Что бы хорошо справиться с этой задачей, нужно знать основные типы организации исследований, представлять себе их сильные и слабые стороны и быть в состоя нии применить это знание для разработки планов исследований, которые поз воляют ответить па разные вопросы. Вы также должны знать традиции в той области науки, на которой вы специализируетесь, а именно какой тип исследо ваний обычно используется для анализа определенного типа данных или для ответа на конкретный вопрос. Планирование исследований - это слишком об ширная тема, чтобы ее можно было обсудить в одной главе, так что здесь мы только затронем основные проблемы планирования исследований и рассмотрим самые распространенные типы этих планов. Обычно планирование исследова ний представляет собой компромисс между тем, что ученый хотел бы получить в идеале, и тем, чего можно достичь. При выборе и разработке плана исследования следует руководствоваться наиболее важными задачами, а также традициями в данной области науки. Нам бы всем хотелось выполнить исследование, которое бы находилось под полным контролем (это значит, что экспериментатор мог бы манипулировать всеми важными для исследования факторами пли как-то иначе контролировать их) и при этом проходило бы в полностью естественных усло виях (то есть все измеряемые явления были бы точно такими, как в реальном мире). Однако контроль и естественность часто противоречат друг другу, и одни из признаков компетентного исследователя - это умение решить, насколько можно пожертвовать одним ради другого. Один из факторов, влияющий на то, какое решение будет принято, - это цель исследования. Это выявление факто ров, лежащих в основе какого-то явления, как часто бывает в фундаментальной науке, или оптимизация выхода либо результата определенного процесса с ми нимизацией затрат и усилий, что характерно для исследований в бизнесе и тех нологии? Практические и этические соображения также часто играют роль - не которые планы исследований просто невозможно реализовать, поскольку они недопустимо дороги или считаются неэтичными, а исследователь должен быть в курсе этических норм выполнения экспериментов, бытующих в обществе и нау ке. 454 Глава 1 8. Планирование исследования Словарь основных терминов Планы исследований могут быть разделены на три типа: экспериментальный, квазиэксперименталъиый и наблюдение. В экспериментальных исследованиях объек ты распределяются по группам или категориям случайным образом. Классический пример эксперимента - это рандомизированное исследование с контролем, про водимое в медицине, в котором пациенты случайно разделяются на эксперимен тальную и контрольную группы, подвергаемые определенному лечению, и резуль тат регистрируется для обеих групп. Эксперимент с контролем считается самым «сильным» типом исследования, с точки зрения достоверности выводов на основе результатов (на самом деле некоторые считают результаты экспериментов с кон тролем эталоном доказательства), однако провести такое исследование не всегда возможно или практично. Исследования следующего уровня качества - квазиэксиеримснтальныс, в которых есть некоторая группа для контроля или сравнения, по объекты попадают в опытную и контрольную группы неслучайно. При наблю дениях исследователь не разделяет объекты на группы, а отмечает связь разных факторов и результатов в том виде, в котором они существуют в реальном мире. Хотя эксперименты предпочтительнее, поскольку они снижают систематическую ошибку (тема, обсуждаемая в главе 1), преимущество квазиэкспериментов и на блюдений заключается в минимизации влияния экспериментатора на естествен ный ход событий. Это особенно важно при исследовании людей, поскольку их по ведение во многом зависит от ситуации, и поведение испытуемого в лаборатории, когда он знает, что за ним наблюдают, может сильно отличаться от его поведения в повседневной жизни. Опять же, решения о нужном типе исследования зависят от приоритетов исследователя и его возможностей с практической и этической позиций. Фактор - это независимая переменная в научном исследовании, то есть счита ется, что эта переменная как-то влияет на значение зависимой (результирующей) переменной. Часто план эксперимента подразумевает наличие нескольких факто ров. Если вы изучаете детское ожирение, в свое исследование вы можете включить ожирение у родителей, бедность, рацион, уровень физической активности, пол и возраст. Некоторые ученые называют любой план исследования, который включа ет более одного фактора, факторным планом; другие относят это название только к таким планам, в которых реализованы все возможные сочетания значений фак торов, называемым также полными факторными (перекрестными) планами. Вас может интересовать влияние каждого фактора по отдельности (главный эффект) и их совместное влияние (эффект взаимодействия). Вы можете считать, что раци он влияет на развитие детского ожирения (главный эффект), но влияние рациона зависит от пола ребенка (эффект взаимодействия). Исследования также можно классифицировать по соотношению между време нем событий п временем сбора информации о них. В перспективных исследовани ях данные собирают, начиная с момента старта исследования. Группа, объединен ная общей временной характеристикой, будь то время включения в исследование пли год рождения, называется когортой, так что в перспективном исследовании Словарь основных терминов 455 когорт собирают информацию о группах люден (или других объектов) иа протя жении времени. В противоположность этому в ретроспективных исследованиях собирают информацию о событиях, которые произошли за некоторое время до начала исследования. Что касается типов данных, то исследователи часто делят их на первичные и вторичные. Первичные данные собирают и анализируют в рам ках конкретного исследовательского проекта, тогда как вторичные данные соби рают с одной целью, а впоследствии анализируют с другой целью. У каждого типа данных есть свои достоинства и недостатки, некоторые исследователи работают только с одним типом данных, а некоторые - с обоими. Основное достоинство первичных данных - их специфичность; поскольку их собирают в рамках того же проекта, в котором и анализируют, такие данные отвечают конкретным задачам данного проекта. Кроме того, те, кто анализирует первичные данные, скорее всего, хорошо знают, когда и как они были собраны. С другой стороны, поскольку сбор данных дорог, объем данных, собранных одним ученым или исследовательской группой, ограничен. Самое главное достоинство вторичных данных - их количест во. Поскольку вторичные данные часто собирают государственные учреждения или крупные научные организации, такие как Национальный центр исследования общественного мнения (базирующийся в Чикаго), они часто имеют националь ный или международный масштаб и могут собираться в течение многих лет, до стигая такой широты покрытия, о которой отдельные исследователи могут только мечтать. К недостаткам вторичных данных относится то, что вам приходится ис пользовать их в том виде, в каком они представлены, что они могут не соответст вовать в точности целям вашего исследования, и что могут быть ограничения в характере использования данных. (Например, требования конфиденциальности могут заключаться в недоступности данных для отдельных людей.) Последняя деталь - единицы анализа. Единица анализа (обсуждается подроб нее в главе 17) - основной предмет исследования. В социологии единица анализа обычно отдельный человек, однако ей также может быть группа людей, входящая в состав более крупной совокупности, такой как школа, завод или страна. Иссле дования, единицей которых является не один организм, а популяция, называются популяционными. Хотя популяционные исследования могут быть полезными для определения потенциальных направлений исследований (связь между рационом с высоким содержанием жиров и сердечными заболеваниями) и они относительно дешевы, поскольку в основном используют вторичные данные, к выводам, полу ченным в ходе этих исследований, нужно относиться с осторожностью, так как для них свойственно заблуждение генерализации. Заблуждение генерализации возни кает, когда считается, что связи, проявляющиеся на одном уровне (скажем, нацио нальном), также сохраняются на другом уровне (индивидуальном). На самом деле сила и/или направление связей, выявленных для одной единицы анализа, может значительно измениться при изучении другой единицы анализа. В классической работе В. С. Робинсона (W. S. Robinson), ссылка на которую приведена в прило жении С, содержатся примеры заблуждений генерализации в серии исследований связи между расовой принадлежностью и грамотностью в США при группировке данных по географическим регионам разного уровня. Глава 1 8. Планирование исследования 456 Система обозначений Кука и Кампбелла Томас Д. Кук (Thomas D. Cook) и Дональд Т Кэмпбелл (Donald Т. Campbell) разработа ли способ обозначений разных планов исследований, который использовали и видоиз меняли многие ученые. Основные элементы такого условного обозначения - это О для наблюдения1 (сбора данных), Хдля воздействия, Я для рандомизации2, пунктирная ли ния для обозначения групп, созданных без рандомизации, и подстрочные индексы для обозначения последовательности наблюдений и воздействий. Рандомизированный план исследований со снятием показателей до и после воздействия с экспериментальной и контрольной группами, согласно Куку и Кэмпбеллу, будет обозначен так, как показано на рис. 18.1. 1 О] X О, R 0, 02 Рис. 1 8 .1 . Рандомизированный план исследования со снятием показателей до и после воздействия Эта схема означает, что объекты были случайно распределены в экспериментальную и контрольную группы, обе группы были сначала обследованы, потом на эксперименталь ную, но не на контрольную группу, оказали воздействие, затем обе группы были вновь обследованы. Этот план эксперимента обычен для медицинских исследований, где эк спериментальное воздействие - это лекарство или другой тип лечения; контрольная группа не получает этого лечения, а подвергается стандартному лечению или вообще лишается его. В последнем случае такая контрольная группа иногда называется группой плацебо. Квазиэкспериментальный план со снятием показателей до и после воздействия обо значается, как показано на рис. 18.2. 0, 0, X ог % Рис. 1 8 .2 . Квазаэкспериментальный план исследования со снятием показателей до и после воздействия Квазиэкспериментальный план отличается тем, что распределение объектов по груп пам не случайно. Часто при этом плане исследования используют уже существующие группы, такие как класс или школа; группа, на которую не оказывали воздействия, назы вается группой для сравнения. Простота и гибкость обозначений Кука и Кампбелла объяснюет их неослабевающую популярность. Эти ученые также многое сделали для привлечения внимания к исполь зованию неудачных планов экспериментов в образовательных и социальных исследова ниях и для выявления проблем, возникающих при попытках формулировки выводов на основе данных, полученных в ходе таких экспериментов. Их список факторов, ставящих под угрозу достоверность и надежность результатов, замечательно служит ученым как напоминание о множестве аспектов, которые могут поставить под вопрос выводы даже хорошо спланированных исследований. Классический учебник Кука и Кампбелла по пла нированию исследований обновлен Вильямом Шадишем (William Shadish) и упомянут в приложении С. i 2 От англ, obseivation - наблюдение. - Прим. пер. От англ, randomization - рандомизация. - Прим. пер. Наблюдения 457 Наблюдения Наблюдения обычно проводят, если пег возможности провести эксперимент или если сбор информации об объектах в естественной среде обитания важнее наличия контроля, который возможен только в эксперименте. В качестве примера первой причины рассмотрим исследование влияния курения на здоровье человека. Такое исследование можно провести только в виде наблюдения, поскольку велеть неко торым людям курить неэтично, ведь известно, что это вредит здоровью. Вместо этого мы наблюдаем за людьми, которые решили курить, и сравниваем показатели состояния их здоровья с некурящими. В качестве иллюстрации второй причины рассмотрим исследование асоциального поведения учеников начальной шко лы. Поскольку такое поведение может быть вызвано определенными аспектами школьной жизни, исследователи могут решить обследовать учеников в обычных классах, а не привозить их в лабораторию. Один хорошо известный тип наблюдений - это план с контролем и случая ми, часто используемый в медицине, чтобы исследовать болезни, которые редко встречаются или медленно проявляются. В данном случае применять перспектив ное исследование когорт непрактично, поскольку вам понадобится наблюдать за очень большой когортой, чтобы иметь шанс наблюдать необходимое число испы туемых с таким заболеванием, а исследование должно продолжаться 20 или 30 лет (или дольше), пока у членов когорты начнет проявляться это заболевание. План с контрольными случаями позволяет избежать подобных затруднений, поскольку исследование начинается с группы больных людей (случаи), затем составляется еще одна группа людей (контроль), которые не имеют данного заболевания, но по всем остальным параметрам сходны с представителями первой группы. Подобные исследования обычно нацелены на обнаружение факторов (рацион, контакт с хи мическими веществами на производстве, курение, употребление прописанных ле карств), которые позволяют различить случаи и контроля, в надежде обнаружить ключевой(ые) фактор(ы), объясняющий(е), почему у случаев есть заболевание, а у коптролей - нет. Некоторые отнесли бы план с контролем и случаями к квази экспериментам, поскольку он включает контрольную группу, однако термин «ква зиэксперимент» чаще используется для описания перспективных экспериментов, в которых группы формируют и наблюдают за ними в течение времени. Мощность плана с контролем и случаями во многом зависит от степени сходст ва между случаями и контролями; в идеале, контроли должны быть во всем иден тичны случаям, за исключением отсутствия заболевания. На практике наиболее часто соответствия достигают всего лишь по нескольким переменным, которые считаются важными, с точки зрения риска возникновения заболевания, такие как возраст, пол, наличие сопутствующих заболеваний и стиль курения. Недав но был разработан метод улучшения соответствий - баллы предрасположеннос ти, который, используя разные факторы, позволяет оценить вероятность данного испытуемого быть случаем или контролем. Этот метод впервые предложили ис пользовать Дональд Рабин (Donald Rubin) и Пол Розенбаум (Paul Rosenbaum), в приложении С процитирована статья, в которой они описывают данный метод. 458 Глава 1 8. Планирование исследования Перекрестный план подразумевает однократное наблюдение; наиболее рас пространенный пример - это сбор данных при помощи анкеты или интервью. Собранные при этом данные представляют собой «моментальный снимок» со стояния людей в данный момент. Хотя перекрестные исследования могут быть чрезвычайно полезными для отслеживания трендов в популяциях и для сбора разнообразной информации для большого числа людей, они менее полезны для установления причинно-следственной связи из-за отсутствия временной после довательности данных. Например, в ходе перекрестного анкетирования можно выяснить, сколько часов в день человек смотрит телевизор и каковы его рост и вес. Используя эту информацию, исследователь может вычислить индекс массы тела (индикатор ожирения) для всех обследованных людей и исследовать связь между проведенным у телевизора временем и тучностью. Однако исследователь не может утверждать, что просмотр телепрограмм вызывает ожирение, посколь ку все данные были собраны для одного момента времени. Иначе говоря, даже если данные покажут, что тучные люди в среднем дольше смотрят телевизор, чем худые, это не поможет вам узнать, толстеют ли люди от просмотра телепередач или они сначала становятся толстыми, а потом начинают проводить больше вре мени у телевизора, поскольку более активное времяпрепровождение становится затруд и итсл ь ным. Исследование когорт в некоторых случаях также можно отнести к наблюде нию. Хороший пример - это знаменитое фрамингамское исследование сердечной деятельности, при котором в 1948 году начали наблюдать когорту из более чем 5000 мужчин, живших во Фрамингаме (Framingham, Массачусетс, США), чтобы выявить факторы, связанные с кардиоваскулярными заболеваниями (болезнями сердца). Мужчины, участвовавшие в исследовании, изначально были в возрасте от 30 до 62 лет и не имели симптомов кардиоваскулярных заболеваний. Каждые два года они посещали исследователей, чтобы те могли собрать данные об их здоровье на основе лабораторных анализов, тестов на физическое развитие и истории забо леваний. Это исследование продолжается по сей день, включив две последующие когорты, в том числе супругов, детей и внуков первоначальных участников. Это исследование внесло важный вклад в установление основных факторов, увеличи вающих риск сердечных заболеваний (высокое кровяное давление, курение, диа бет, высокий уровень холестерина и отсутствие физической активности), наряду с выявлением связи между заболеваниями сердца и такими факторами, как возраст, триглицериды в крови и психосоциальные аспекты. Основная критика в адрес наблюдений - это трудность, если не невозможность разделить влияние разных переменных. Например, некоторые наблюдения пока зали, что умеренное потребление вина сопряжено с лучшим состоянием здоровья, по сравнению с полным отказом от алкоголя, однако невозможно установить, объясняется ли этот эффект употреблением вина или другими характеристика ми любителе]'! вина. Например, те, кто пьет вино, могут в целом иметь более здо ровый рацион, по сравнению с непьющими, или, возможно, эти люди могут пить вино, потому что их здоровье крепче. (К примеру, алкоголь противопоказан при лечении от определенных заболеваний.) Чтобы попытаться исключить подобные Квазиэкспериментальные исследования 459 альтернативные объяснения, исследователи часто собирают данные о разных фак торах, которые не имеют первоочередной важности для данной темы, н включают эти дополнительные факторы в статистическую модель. Такие переменные, ко торые не являются ни результирующими, ни основными независимыми, называ ются контролирующими, поскольку они включены в уравнение для контроля их действия на результат. Такие переменные, как возраст, пол, социоэкономнческпй статус, расовая/этническая принадлежность, часто включаются в медицинские и социологические исследования, хотя они не являются ключевыми, поскольку ученых интересует влияние основных независимых переменных па результирую щую, после того как будет учтено влияние этих контрольных переменных. Однако подобные поправки, сделанные постфактум, всегда несовершенны, поскольку вы никогда не можете знать обо всех переменных, которые способны повлиять на ре зультат, и существуют практические ограничения количества данных, которые вы способны собрать и включить в любой анализ. Хотя наблюдения с позиции статистической мощности в целом считаются бо лее слабыми, у них есть одна важная особенность: результирующие переменные (такие как человеческое поведение) можно наблюдать в естественных условиях, увеличивая их экологическую достоверность, или степень, в которой наблюдае мые параметры не созданы искусственно в узких рамках эксперимента. Более того, некоторые наблюдения подразумевают участие исследователя в изучаемом процессе. Если это участие скрыто от испытуемых, в связи с подобной хитрос тью могут возникнуть этические соображения, так что нужно позаботиться о том, чтобы экспериментальные процедуры не принесли непреднамеренного вре да испытуемым. Квазиэкспериментальные исследования Квазиэкспериментальные исследования сходны с экспериментальными исполь зованием контрольной группы или группы для сравнения, но отличаются тем, что участники распределяются по группам не случайно. Квазиэкспериментальные ис следования часто используются в полевых исследованиях (когда данные собирают в естественных условиях, а не в лаборатории или другой очевидно искусственной обстановке) и особенно популярны в образовательных и социологических иссле дованиях, где экспериментальный план часто будет неосуществимым. Например, если вы хотите исследовать эффективность нового способа обучения математике, вы можете обучать один класс по-старому, а другой - по-новому; в конце учебно го года вы сравните достижения учеников в обоих классах. Это не эксперимент, поскольку ученики не распределялись случайно в экспериментальную группу (новый метод) и контрольную (старый метод), но в школьных реалиях настоя щий эксперимент был бы невозможен. Вместо этого выбирают сходную группу учеников для сопоставления с учениками из экспериментальной группы (которых Глава 1 8. Планирование исследования 460 будут обучать по-новому) - компромиссное решение, которое лучше, чем полное отсутствие группы для сравнения. Польза от квазиэкспсриментального метода будет яснее, если мы сравним его с некоторыми более слабыми методами, применение которых часто нерационально. Терминология и условные обозначения, используемые в этом разделе, разработа ны Томасом Д. Куком и Дональдом Т. Кампбеллом (см. врезку «Система обозначе ний Кука и Кампбелла» на стр. 456 и ссылку на работу Шадиша в приложении С) и широко распространились среди ученых. Три особенно слабых, но до сих пор широко распространенных плана - это исследование одной группы только после оказания воздействия, исследование неравноценных групп только после оказания воздействия и исследование одной группы до и после воздействия. Как отмечают Кук и Кампбелл, результаты исследований, проведенных по таким схемам, могут объясняться таким множеством факторов, помимо тех, что интересовали ученых, что из них сложно сделать какой-либо вывод. При исследовании одной группы только после оказания воздействия па одну группу оказывают экспериментальное воздействие, а затем собирают данные об этой группе, как это показано на рис. 18.3. X О Рис. 18.3. План исследования одной группы только после оказания воздействия Этот план так же прост, как он выглядит; вы оказываете на группу воздействие, а затем однократно обследуете ее членов. Это может быть полезным, если у вас есть полученная из других источников информация о состоянии эксперимен тальной группы до оказания воздействия. Такой подход можно использовать на начальных этапах исследования для сбора описательной информации, которую затем можно использовать для разработки более аккуратного плана основного ис следования. Однако вне контекста подобное исследование значит немногим боль ше, чем «мы что-то сделали, а затем что-то измерили». Если честно, что значат полученные данные? Очень сложно, если не невозможно обосновать заключения о причинно-следственных связях, сделанные но результатам подобного исследо вания, поскольку на все результаты могло влиять множество факторов, помимо экспериментального воздействия. Без точного знания состояния группы до экспе риментального воздействия сложно сказать что-то о том, как изменились ее чле ны, а без контрольной группы невозможно утверждать, что изменения произошли из-за воздействия. Другие возможные объяснения наблюдаемых изменений - это случайность, влияние внешних событий, созревание (естественные процессы роста; эта причина особенно актуальна при исследованиях детей и подростков) и влияние внимания исследователя. Исследование неравноценных групп только после оказания воздействия имеет одно достоинство, по сравнению с описанным выше планом: сравнение с группой, которая не испытывала экспериментального воздействия, но была обследована одновременно с экспериментальной группой, как показано на рис. 18.4. Квазиэкспериментальные исследования 461 X о о Рис. 18.4. План исследования неравноценных групп только после оказания воздействия Этот план исследования может быть полезен для получения предварительных описательных данных, если из других источников известно изначальное состоя ние обеих групп, а использование группы для сравнения (в идеале настолько сходной с экспериментальной, насколько это возможно, такой как параллельный класс в той же школе) дает некоторую информацию, которая помогает поместить наблюдения в контекст. Данные о контрольной группе помогают отбросить неко торые альтернативные объяснения, такие как созревание (подразумевается, что обе группы имели одинаковый возраст и сопоставимые значения измеряемых па раметров). Однако различия между экспериментальной и контрольной группами могут быть вызваны их изначальным несходством, а не вмешательством, а отказ от случайного распределения наряду с отсутствием информации об исходном со стоянии групп не позволяет отбросить это объяснение для любых межгрупповых различий. Исследование одной группы до и после воздействия обозначается так, как по казано на рис. 18.5. О, х о2 Рис. 18.5. План исследования одной группы до и после воздействия Хотя сбор информации об экспериментальной группе до экспериментального воздействия определенно полезен, в данном случае на основе данных, получен ных в ходе данного исследования, по-прежнему невозможно прийти к причинноследственным заключениям. Это происходит из-за существования множества аль тернативных объяснений наблюдаемых результатов. Помимо очевидных вещей, таких как созревание и влияние внешних факторов, при подобном плане исследо вания нужно всегда помнить о возврате в среднее состояние, в особенности если экспериментальная группа была выбрана из-за высоких или низких показателей некоторой величины, связанной с предметом исследования. Предположим, неко торую группу детей, которая характеризовалась плохими навыками чтения (тес тирование до воздействия), дополнительно тренировали в чтении (воздействие). Они могли показать заметно лучшие результаты при тестировании после воздейст вия, чем до него, однако описание данных различий как результата воздействия не может быть доказано результатами исследований, поскольку все измерения содер жат случайную ошибку. (Это подробно обсуждается в главе 16.) Например, каж дый ученик из нашего воображаемого исследования характеризуется истинными навыками чтения, однако каждое конкретное измерение этих навыков (результат Глава 1 8. Планирование исследования 462 теста на чтение) содержит некоторую ошибку измерения, которая может завы сить или занизить реальные навыки этого ученика. Таким образом, ученик, кото рый показал плохие навыки чтения на одном испытании, может показать лучшие навыки на следующем просто из-за случайной ошибки измерения, тогда как его реальные навыки чтения остались неизменными. Если фокусная группа выбрана из-за их выдающихся результатов (например, дети, которые плохо справились с тестом на чтение), вероятность возврата к норме, которая выражается в более вы соких баллах во втором тестировании, повышается. Кук п Кампбелл приводят много квазиэкспериментальных планов, которые более предпочтительны, чем три описанных выше (см. ссылку на книгу Shadish, Cook, Campbell в приложении С, для получения дальнейшей информации по этой теме); все они представляют попытки улучшить контроль в тех ситуациях, где невозможно случайным образом разделить объекты на группы. Один простой пример - это план с обследованием до и после воздействия и контрольной группой, проиллюстрированный на рис. 18.6. X 0, I I I I 1 0, 0, Рис. 18.6. План с обследованием до и после воздействия и контрольной группой 0, 0, 1 1° 1 1J=> При таком плане выбирают сходную с экспериментальной контрольную груп пу, однако объекты не распределяются по группам случайно; вместо этого чаще всего используются уже существующие группы. Измерения проводят для обеих групп, потом на экспериментальную группу оказывают воздействие, затем изме рения вновь проводят для обеих групп. Основной недостаток этого эксперимента заключается в том, что без случайного распределения объектов эти группы могут оказаться несравнимыми в полной мере; рассмотрение результатов первого обсле дования обеих групп помогает преодолеть это затруднение, но не полностью. Еще одна проблема такого плана - сам факт любого вмешательства может повлиять на результат (поэтому на контрольную группу иногда оказывают другое воздействие, которое, как считается, не повлияет на результат), также эти две группы могут иметь разные свойства, выходящие за рамки эксперимента. У разных классов мо гут быть разные учителя; разные города могут характеризоваться разной экономи ческой ситуацией и так далее. Прерванные временные ряды, проиллюстрированные на рис. 18.7 и 18.18, - это квазиэксперимент, который может включать, а может и не включать контрольную группу. os X о6 0, 0» 0, ог 0з 0, °s 06 07 0, 0, Рис. 18.7. Прерванные временные ряды с контрольной группой 463 Квазиэкспериментальные исследования 01 0 2 0 3 0 40 5 X vо6 о7 о8 о9 Рис. 18.8. Прерванный временной ряд (без контрольной группы) Число наблюдений может варьировать в зависимости от исследования, однако основная идея состоит в том, что в течение некоторого времени проводят ряд из мерений, затем оказывают воздействие, и ряд измерений продолжается. Этот план часто используют для оценки судебной или социальной политики, которая влияет на большие группы людей, такой как закон, обязывающий водителей пристегивать ся, или повышение платы домовладельцев за вывоз мусора. Несколько измерений проводят до воздействия, чтобы установить линию отсчета, и после воздействия, чтобы определить новый уровень. Многократные измерения нужны, чтобы учесть естественные колебания изучаемой величины. Например, даже без всякого изме нения законодательства число дорожно-транспортных происшествий варьирует от месяца к месяцу. В идеале значения линии отсчета должны колебаться вокруг какой-то величины, и измерения после воздействия должны колебаться вокруг нового значения, изменившегося в ожидаемую сторону. Добавление контрольной группы в этот план увеличивает уверенность исследователя при формулировке заключений, поскольку это позволяет учитывать внешние воздействия, которые могут повлиять на результат. (Массовая природоохранная акция может заставить людей перерабатывать и компостировать отходы вне зависимости от увеличения платы за вывоз мусора.) Предположим, правительство штата озабочено высокой смертностью при ДТП и решает снизить предельно допустимую скорость на шоссе, ожидается, что это решение приведет к снижению смертности. Поскольку снижение мак симально допустимой скорости повлияет на всех водителей этого штата, у нас нет возможности взять контрольную группу; в качестве такой группы можно использовать соседний штат со сходной демографической ситуацией и смерт ностью на дорогах. Данные, полученные в ходе данного исследования, представ лены на рис. 18.9. Черная линия отражает число смертей в ДТП в опытном штате, серая линия - в контрольном; вертикальная пунктирная линия обозначает время вмешательства (введения ограничения скорости). Можно увидеть, что в двух штатах смертность в ДТП в течение пяти месяцев до вмешательства была сравнимой; затем смертность снизилась в опытном штате и стабилизировалась на новом, более низком уровне, как и ожидалось в случае, если закон будет эффективным для снижения смертнос ти в ДТП. Такого эффекта не было обнаружено в контрольном штате (на самом деле она, скорее, немного увеличилась). Это укрепляет уверенность в том, что при нятый закон, а не другой фактор привел к наблюдаемому снижению смертности в ДТП. Конечно, также следует провести статистический анализ, чтобы убедиться в значимости этих изменений, однако график показывает, что вмешательство дейст вительно имело нужный эффект. 464 Глава 1 8. Планирование исследования Рис. 18.9. Влияние ограничения максимально допустимой скорости на смертность в результате ДТП Действительно ли «Спорте Иллюстрайтед» приносит несчастье? Вы могли слышать о несчастье, приносимом «Спорте Иллюстрайтед»3, - мнение о том, что спортсмены, попадающие на обложку этого журнала, подвержены какому-либо про клятию, что приводит впоследствии к плохим результатам в спорте или другим несчасть ям. Те, кто верит в это, могут привести множество примеров в поддержку своей теории. Бен Хоган (Ben Hogan) - один из величайших игроков в гольф своего времени - появился на обложке «Спорте Иллюстратед» 10 января 1949 года только для того, чтобы через не сколько недель получить не совместимые с карьерой травмы в автокатастрофе. Бело русский гимнаст Иван Иванков на обложке сентябрьского номера журнала в 2000 году был назван лучшим спортсменом мира, а вскоре после этого не допущен до соревнова ния за медали Олимпийских летних игр 2000 года. Каждый знает, что отдельные случаи - это не доказательство, так что три корреспонден та «Спорте Иллюстрайтед» проследили судьбы спортсменов более чем с 2000 обложек журнала. Вот их заключение: более чем треть (37.2%) людей с обложки пострадали от несчастных случаев вскоре после публикации, при этом несчастным случаем называли все - от снижения личных или командных результатов до увечья или смерти. Конечно, для того чтобы проверить этот результат на статистическую значимость, нам нужно гораздо больше информации, включая частоту несчастных случаев для каждого спортсмена на протяжении его карьеры; поскольку сбор таких данных был бы чрезвычайно трудоемким, если не невозможным, эта задача, возможно, останется нерешенной. Однако у нас есть гораздо более простое объяснение: в о з в р а т в с р е д н е е с о сто я н и е . Спортсмены, которых выбирали для обложки «Спорте Иллюстрайтед», обычно показыва ли наивысшие результаты в их виде спорта на тот момент, а поскольку результаты любого человека меняются, легко понять, что их результаты не всегда будут оставаться на том высоком уровне. Суеверные люди могут с легкостью трактовать это снижение результа тов как злой рок, а не естественную изменчивость. Более подробная информация на эту тему представлена в статье Александра Вольфа (Alexander Wolff) с соавторами, проци тированной в приложении С. Sports Illustrated - еженедельный иллюстрированны!! спортивный журнал, крупнейшее н самое популярное спортивное издание СШ А. - Прим. пер. Эксперименты 465 Эксперименты Экспериментальные исследования дают самое строгое доказательство причинноследственной связи, поскольку в хорошо спланированном эксперименте влияние многих источников изменчивости контролируется или уничтожается, что позволяет нам с большей уверенностью считать, что наблюдаемые эффекты объясняются экс периментальным воздействием, а не иными причинами. Есть три элемента любого эксперимента, а их план может варьировать от очень простого до очень сложного: • Единицы эксперимента - исследуемые объекты. При экспериментах с людь ми единицами принято называть участников, при условии что они активно вовлечены в процесс эксперимента. • Комбинации условий эксперимента - воздействия, оказываемые на каждую единицу эксперимента. • Отклики - данные, собранные после экспериментальных воздействий, на основе которых будет оценен эффект от воздействия. Кроме условий, изучение которых является частью эксперимента, может счи таться, что другие переменные могут повлиять на отклик. Некоторые из них - это характеристики объектов; в случае людей они могут включать такие параметры, как пол и возраст. Эти характеристики могут интересовать исследователей (мож но предположить, что условия больше действуют на мужчин, чем на женщин), или это могут быть помехи или управляющие переменные, которые маскируют связь между воздействием и откликом. Вам хочется нейтрализовать воздействие этих переменных на отклик, и обычно это делается при помощи примерно равного присутствия ключевых помех и управляющих переменных в экспериментальной и контрольной группе. Как правило, случайное распределение объектов делает распределение признаков в каждой группе, таких как пол и возраст, примерно одинаковым; если этого недостаточно, то можно использовать приведение в соот ветствие или объединение в блоки, как это описано ниже. В некоторых экспериментальных планах проводится сравнение между базис ным значением для каждого объекта до воздействия и его измерением после воз действия. В этом случае говорят о зависимых выборках (within-subjects design), такой план дает высокую степень контроля, поскольку участники служат конт ролем самим себе. Пример теста Стыодента для приведенных в соответствие нар объектов, описанный в главе 6, - это пример плана с зависимыми выборками. При плане с независимыми выборками (between-subjects design) сравниваются разные объекты, и часто эти объекты приводятся в соответствие по одной или более ха рактеристикам, чтобы обеспечить наиболее четкое сравнение объектов из конт рольной и экспериментальной групп. Характеристики хорошего экспериментального плана Задача эксперимента - определить эффект от экспериментального воздействия; он часто выражается в виде различий между значениями переменной-отклика 466 7* '; Глава 1 8. Планирование исследования для экспериментальной и контрольной групп. Важно корректно распределить объекты между этими группами; ведь способ распределения объектов - это ос новное различие между экспериментом и наблюдением. Основная задача любо го экспериментального плана - минимизировать систематические ошибки при сборе данных или (еще лучше) избавиться от них. По многим причинам - вклю чая этические и экономические соображения - количество собранных данных должно быть минимально достаточным для ответа на определенный вопрос, стоящий перед исследователем. Использование эффективных способов созда ния выборки и вычисления мощности (тема, подробно обсуждаемая в главе 16) позволяет убедиться, что в эксперимент вовлечено минимально возможное чис ло объектов и что результат может быть достигнут с минимальными затратами средств и усилий. Эффективный исследовательский план значительно облегчает последующий анализ данных. Например, если вы организуете эксперимент так, чтобы не пропус кать значения, вам не нужно будет думать о кодировании пропущенных данных и о каких-либо ограничениях в интерпретации результатов, которые могут впо следствии возникнуть (это предмет главы 17), включая систематические ошибки, которые могут сопутствовать неслучайно пропущенным данным. Теория статистики гибка в том смысле, что многие сложные планы экспери ментов можно проанализировать, однако на практике большинство статистик (а следовательно, экспериментальных планов) основано на требованиях обоб щенной линейной модели. Это упрощает анализ, поскольку многие методы, такие как корреляция и регрессия, основаны на этой модели. Однако, чтобы корректно использовать обобщенную линейную модель, эксперимент должен быть сплани рован с учетом нескольких важных факторов, включая сбалансированность и ор тогональность. Сбалансированность означает, что разным комбинациям условий подвергнуто одинаковое число объектов в рамках каждого экспериментального блока. Сбалан сированные планы характеризуются большей мощностью, чем несбалансированные планы с тем же числом объектов, несбалансированный план также может отражать сбой в процессе распределения объектов по группам. Случайное распределение по группам, слепые методы и выявление систематических ошибок - механизмы, кото рые используются, чтобы убедиться, что сбалансированность сохраняется; все это обсуждается ниже в этой главе. Ортогональность означает, что эффекты от разных воздействий можно неза висимо оценить, и они не взаимодействуют. К примеру, если у вас есть два типа экспериментальных воздействий и вы строите экспериментальную модель, кото рая объясняет их действие на объекты, то можно убрать любое из воздействий из модели и получить тот же ответ для оставшегося воздействия. Ни одна из этих вещей не так сложна, как кажется на первый взгляд, и если вы будете следовать некоторым широко известным правилам и шаблонам мно гофакторного плана, вам не придется беспокоиться о более редких исключе ниях. Сбор экспериментальных данных 467 Сбор экспериментальных данных Итак, вы хотите начать эксперимент, но как это сделать? В этом разделе приведена общая схема исследовательского процесса, примерно в той последовательности, в которой нужно выполнять эти действия, однако в своем плане вы должны учиты вать, как эксперименты вроде того, который вы собираетесь провести, организу ются в вашей области исследований. Иными словами, стойте на плечах гигантов; если вы проводите научные эксперименты, посмотрите некоторые статьи из науч ных журналов вашего профиля и убедитесь в том, что организация экспериментов и анализ данных, которые вы проводите, согласуются с теми, что обычно проводят в вашей области науки. Процесс рецензирования, хотя и не безупречный, удос товеряет, что методология, использованная в статье, одобрена по меньшей мере двумя экспертами. Если у вас есть консультант или руководитель, вы можете также посоветоваться с ним - нет смысла изобретать колесо. В производстве или промышленности найти образец может быть труднее, однако технические отче ты данной компании и проводимый ранее анализ должны послужить в качестве примера - даже если они не проходили рецензирования, - который вы можете использовать в качестве руководства. Нужно сказать, что вы будете удивлены, насколько вариации и городская ми фология влияют на план эксперимента, так что давайте перечислим все этапы по порядку: 1. Выделите объекты, которые вы хотите измерить. 2. Определите воздействия, которые вы хотите оказать, контрольные пере менные; которые вы будет использовать. 3. Назначьте уровни воздействий. 4. Определите результирующие переменные, которые вы будете измерять у объектов. 5. Сформулируйте верифицируемую гипотезу, которая предсказывает эффект от воздействия на результирующие переменные. 6. Проведите эксперимент. 7. Проанализируйте результаты. План (шаги 1-5) может казаться простым, когда он бегло упомянут, однако да вайте рассмотрим подробнее каждый этап, чтобы понять, что на самом деле про исходит. Определение задействованных в эксперименте объектов Вспомните, что статистики вычисляются для выборок и являются оценкой для параметров генеральной совокупности, из которой происходят выборки. Чтобы быть уверенным, что эти оценки аккуратны, большинство статистических проце дур предполагает, что объекты были выбраны из генеральной совокупности слу чайным образом. (Планы с сопоставлением наблюдений и зависимыми выборка ми - очевидное исключение из этого правила.) Систематическая ошибка может 468 Глава 1 8. Планирование исследования легко вкрасться в план на этой начальной стадии, и вдобавок обстоятельства могут сложиться так, что этой ошибки непросто избежать. Например, многие психологические исследования используют в качестве подо пытных студентов-психологов. Это делается для выполнения двух задач. Во-пер вых, во время курсовой работы студенты знакомятся с разными планами экспери ментов и нз первых рук получают знания о постановке эксперимента; во-вторых, такие участники доступны для исследования. В некотором смысле гомогенность студентов как объектов является чем-то вроде контроля, поскольку в этом случае участники имеют сходный возраст, распределение по полам, географическое проис хождение, культурные традиции и так далее. Однако они не представляют собой случайную выборку из генеральной совокупности, и это может ограничивать при менимость выводов из ваших данных. Научные статьи, основанные на выборке студентов, могут больше сказать нам о поведении студентов, чем о генеральной совокупности в целом; значимость этого уточнения зависит от типа проведенного исследования. Эта проблема не ограничивается психологией; несмотря на ожидае мый случайный отбор объектов, на практике исследователи многих специаль ностей выбирают свои объекты неслучайным образом. Например, медицинские исследования часто проводятся на пациентах определенной больницы или кли ники, тогда как результаты распространяются на всю генеральную совокупность; оправданием этому служит независимость биологических закономерностей от места проведения исследования, так что результаты, полученные на одном наборе пациентов, должны распространяться и на другой сходный набор пациентов. Важ но знать, какие ожидания и традиции относительно составления выборки и кор ректности генерализации результатов существуют в вашей области исследований, поскольку ни одно из правил не затрагивает всех областей науки. Что означает случайный отбор в этом контексте? Представьте себе лотерею, в которой каждый горожанин вытаскивает билетик. Все билетики помещены в большую коробку и перемешаны вращением во многих направлениях. Затем по мощника просят выбрать один билетик, запустив в коробку руку и выбрав пер вый билетик, к которому он прикоснулся. В этом случае у всех билетиков равный шанс быть выбранным. Если вам нужно 100 человек для контрольной группы и 100 - для экспериментальной, вы можете выбрать их при помощи этой процеду ры, когда первые 100 билетиков будут соответствовать контрольной группе, а сле дующие 100 - экспериментальной. Конечно, вы можете чередовать билетики, так чтобы первый соответствовал контрольной группе, второй - экспериментальной н так далее. Если выбор по-настоящему случаен, эти два подхода будут равнознач ными. Для абсолютно случайного выбора важно, чтобы выбор каждого отдельного участника не зависел от выбора любого другого. Разные способы составления выборок подробно описаны в главе 3. Основная вещь, которую нужно помнить, - в реальном мире получение случайной выборки из генеральной совокупности часто невозможно или нерационально, и практи ческие соображения заставляют вас составлять выборку на основе меньшей ге неральной совокупности, чем та, на которую вы хотите распространить выводы (к которой, как вы считаете, применимы ваши результаты). Это не проблема, если Сбор экспериментальных данных 469 вам ясно, когда и где выборка была получена. Представьте себе, что вы микробио лог, который хочет изучить бактерии, живущие в больницах. Если вы используете фильтр с порами диаметром 1 мкм (микрометр), все более мелкие бактерии не попадут в исследуемую генеральную совокупность. Это ограничение при сборе материала внесет систематическую ошибку в исследование; однако, до тех пор, пока вы будете отдавать себе отчет в том, что генеральная совокупность, о которой вы делаете выводы, - это бактерии крупнее 1 мкм, и ничего, кроме этого, ваши ре зультаты будут корректными. В реальности мы часто хотим распространить свои результаты на большую генеральную совокупность, чем та, из которой происходит выборка, и наши возможности в этой области зависят от ряда факторов. В медицинских или биологических исследованиях распространение резуль татов за пределы генеральной совокупности, из которой происходит выборка, обычно, поскольку считается, что основные биологические процессы одинаковы у всех людей. Поэтому предполагается, что результаты медицинского исследова ния, проведенного в одной больнице, имеют отношение к пациентам всего мира. (Конечно, это касается не любого медицинского исследования.) Также нужно помнить о том, что исчерпывающее описание ограничений вашей выборки поз воляет получить корректные результаты, которые пополнят общий объем знаний. Поскольку многие подобные исследования проводятся в определенной области науки, их результаты могут быть распространены на генеральную совокупность. Например, проведение тестов на время реакции на английские слова может быть использовано для формулировки заключений о восприятии и познавательной дея тельности англоговорящих людей. Последующие эксперименты, нацеленные на расширение применимости результатов, могут быть такими же, но использовать немецкие слова и говорящих по-немецки людей, французские слова и говорящих по-французски людей и так далее. Действительно, так и получают более общие результаты в науке. Определение воздействий и контроля Воздействия - это манипуляции или вмешательства, которые вы желаете провес ти для достижения экспериментального эффекта. Предположим, что фармацевти ческая компания потратила миллионы долларов на разработку нового лекарства от глупости и после многих лет лабораторных испытаний его действие требуется проверить на практике. Компания организует клиническое испытание, в котором 1000 участников отбираются случайно по фамилиям, указанным в националь ной телефонной базе, составив по-настоящему случайную выборку из генераль ной совокупности по таким значимым параметрам, как возраст, пол и так далее. К счастью, все выбранные участники согласились участвовать в эксперименте (каждый хочет стать умнее, верно?), так что компании не пришлось беспокоиться о том, что кто-то отказался или выбыл из эксперимента (оба этих события могут внести систематическую ошибку в результаты). Все участники были исследованы в один и тот же день при одинаковых условиях (расположение, температура, осве щение, стул, стол и так далее). В 9 утра участники прошли тест на интеллект при 470 Глава 1 8. Планирование исследования помощи компьютера; в полдень они приняли дозу лекарства от глупости, запив его водой; и в три часа дня они выполнили тот же самый тест на интеллект. Их результат в среднем улучшился на 15%! Персонал компании пришел в экстаз, они послали результаты эксперимента на лондонскую фондовую биржу, что привело к росту акций этой компании. Но что же было не так с этим экспериментом? Во-первых, поскольку каждый проходил тест точно в том же месте и при тех же условиях, результат нельзя автоматически распространить на другие места и условия. Если бы участники выполняли тест при другой температуре, результаты могли бы различаться. Кроме того, некоторые составляющие экспериментальной обстановки могли оказать воздействие на результат - скажем, использовавшие ся стул или стол или содержание кислорода в помещении, - и эти осложняющие факторы сложно исключить. Во-вторых, тот факт, что начальное и экспериментальное испытания всегда проводили в одинаковом порядке, используя дважды один и тот же тест, почти точно внес вклад в повышение интеллекта на 15%. Есть основания предположить, что первое выполнение теста оказало обучающий эффект, учитывая, что вопросы во второй раз были в точности те же самые (или даже если они были заданы в той же форме). В-третьих, нет никакого способа проверить, не сыграла ли роль какая-либо посторонняя переменная, поскольку данный эксперимент был проведен без конт роля; например, питье воды в полдень (в этой ситуации) могло оказать какой-то физиологический эффект на уровень интеллекта во второй половине дня. Наконец, участники могли испытать эффект плацебо, при котором они ожида ли, что их интеллектуальные способности после приема лекарства улучшатся. Это широко известное явление в психологии, его проверка требует создания допол нительной контрольной группы, которая будет исследована при таких же обстоя тельствах, но с «пустышкой» вместо настоящего лекарства. К экспериментальному плану можно сделать множество критических замеча ний, но, к счастью, есть четко описанные способы улучшения эксперимента при помощи контроля. Например, если половина случайно отобранных объектов бу дет случайно определена в контрольную группу, а другая половина - в экспери ментальную, тогда контрольной группе можно дать «пустышку», а эксперимен тальной - лекарство от глупости. В этом случае обучающий эффект от двойного прохождения теста, а также эффект от самого участия в эксперименте можно оце нить на контрольной группе, а любые различия в результатах двух групп могут быть проверены статистически. Конечно, настоящие клинические испытания лекарств устроены иначе, эти ис пытания проводятся поэтапно с четкими задачами на каждом этапе, начиная с вы явления эффекта от широкого диапазона доз, проверки токсичности и так далее с постоянным наличием контрольной группы, пока не будет найдена оптимальная и безопасная доза, которая дает нужный медицинский эффект. Участников почти никогда не выбирают случайно из генеральной совокупности, но вместо этого их проверяют на соответствие набору определенных требований (возраст, здоровье и так далее). Однако после создания выборки объекты, как правило, случайно рас Сбор экспериментальных данных 471 пределяются между экспериментальной и контрольной группами - это важный аспект экспериментального плана, который позволяет избежать систематической ошибки, уравняв опытную и контрольные группы, насколько это возможно. Определение уровней воздействий На практике вас может не интересовать именно выделение факторов, влияющих на результат эксперимента, - вы можете хотеть просто исключить все возникаю щие систематические ошибки. Этого часто можно достичь при помощи сбалан сированного плана, при котором равное число участников подвергаются разным комбинациям воздействий. К примеру, если вы интересуетесь, повышает ли ле карство от глупости интеллект у всех людей, в вашу выборку должно войти равное число мужчин и женщин, тест нужно предъявлять разное число раз и так далее. Однако если вам нужно определить, влияет ли пол или частота приема лекарства на эффект от него, эти переменные нужно в явном виде включить в число фак торов и указать их уровни в плане. Для категориальных переменных, таких как пол, задать уровни или категории (мужской и женский) легко. Однако для непре рывных переменных (таких как время суток) легче приурочить уровни к целым часам (в данном случае 24 уровня) или просто выделить утро, день и вечер (три уровня). Выделение уровней и экспериментальных эффектов зависит от цели ис следования. Уравновешивание баланса и рандомизация также могут быть исполь зованы для избавления от систематической ошибки. Разумеется, воспроизведение результатов на расширенной выборке или в других пространственно-временных рамках важно для оценки возможности генерализации результата. После определения уровней воздействий исследователи обычно говорят о воздействиях и их уровнях как о формализованном факторном плане вида А {(пх) х А 2( п 2) х ... А х(пх), где Л, ... А х - это воздействия, a n t ... пх - это уровни каж дого воздействия. Например, если вы хотите обозначить эффект от пола и времени суток на действие лекарства на интеллект и у вас есть контрольная и эксперимен тальная группы, то у вас будет три воздействия со следующими уровнями: ПОЛ: мужской/женский ВРЕМЯ СУТОК: утро/день/вечер ПРЕПАРАТ: лекарство/плацебо Таким образом, план можно записать как ПОЛ(2) х ВРЕМЯ СУТОК(З) х ПРЕ ПАРАТ^), что можно прочесть как план 2 на 3 на 2. Анализ главных эффектов для каждого воздействия и взаимодействия между ними обсуждается в главах, посвя щенных анализу данных. Воздействия или характеристики? В естественных и гуманитарных науках существует одно важное различие в опреде лении воздействия. Слово «воздействие» (treatment) относится к активному использо ванию какого-либо действия, интенсивность которого может меняться, например доза лекарства от глупости. Однако в социологии воздействием часто называют фиксирован ную величину, такую как пол. Стбит такую характеристику называть воздействием, ведь 472 Глава 1 8. Планирование исследования она не меняется? Как называть планы, использующие подобные характеристики, - эк спериментальными, квазиэкспериментальными или просто наблюдениями? Ключевой момент здесь - продемонстрировать причинную связь между воздействиями и откли ками, поскольку использование воздействия постоянной силы оставляет открытым вопрос о том, какие именно характеристики экспериментальных единиц на самом деле отвечают за разницу между уровнями воздействия. Поэтому некоторые исследователи предпочитают называть независимые переменные, такие как пол, характеристиками, а не воздействиями, а некоторые используют название «независимые переменные» для всех переменных, которые, как считается, влияют на результаты. В конечном счете по добные соображения накладывают ограничения на заключения, которые можно сделать из результатов эксперимента. В технологии цель эксперимента может быть более конк ретной, например установить величину эффекта, определить оптимальные комбинации и пропорции разных воздействий и их уровней, которые позволят максимизировать пе ременную-отклик. Определение результирующих переменных Иногда результирующая переменная очевидна, но в других случаях бывает нуж но измерить более одной переменной, в зависимости от точности, с которой пе ременная операционализируст некоторое абстрактное понятие. Интеллект - это хороший пример; это абстрактное понятие может показаться простым для неспе циалиста, однако не существует способа измерить интеллект напрямую. Вместо этого в качестве результирующих переменных измеряется много показателей ин теллекта в разных сферах (числовой, аналитический и т. д.), которые можно объ единить в одно число (коэффициент умственного развития, IQ), выявив скрытую структуру в связанных результирующих переменных. Существуют сложные мето дики (описанные в главе 12), которые помогают организовать и сократить число результирующих переменных в меньший, более осмысленный (с позиции интер претации) набор признаков. Лучшим подходом при работе со сложным неоднозначным понятием, таким как интеллект, могут быть использование набора приемов для получения результиру ющих переменных и последующее определение качества их согласования друг с другом. Конечно, способы определения согласованности результирующих пере менных играют важную роль при оценке адекватности экспериментальных пла нов. Существуют три типа результирующих переменных: основные, отклики и про межуточные. В предыдущем разделе мы видели, как основной показатель интел лекта был использован для определения прямого экспериментального воздейст вия на псрсмспиую-отклик (ум). Промежуточная переменная используется для объяснения связи между воздействием и результирующей переменной, когда эта связь непрямая, но контролируемая. Если вы хотите определить причинноследственные связи как часть объяснительной модели, вам точно нужно знать обо всех вовлеченных в процесс переменных. В некоторых исследовательских планах различие между воздействиями и про межуточными переменными может быть неважным. Например, если вы химик и Сбор экспериментальных данных 473 интересуетесь химическими свойствами воды, вы более охотно будете работать на уровне частиц атома (протоны, нейтроны, электроны), чем на субатомном уровне. В психологии, напротив, промежуточным переменным часто уделяется гораздо больше внимания, особенно если цель исследования - определить, как протекает некий психологический процесс. В очень сложных системах непредвиденные вмешательства (или ненаблюдае мые промежуточные переменные) могут повлиять на результат, особенно если та кие переменные сильно скоррелированы с воздействием или влияют на проведе ние эксперимента, изменяя наблюдаемое поведение. Таким образом, может быть трудно понять, обусловлено ли наблюдаемое изменение результатов именно ока зываемым воздействием. Другая общая закономерность - тем больше промежуток времени между оказываемым воздействием и наблюдаемым ответом, чем больше вероятность того, что некоторые промежуточные факторы повлияют на результат и, возможно, приведут к сомнительным заключениям. Например, сезонные фак торы, такие как температура, влажность и так далее, оказывают очень сильный эффект на характеристики сельскохозяйственной продукции, и этот эффект мо жет быть более выраженным, чем воздействие (новый тип удобрений), которое является предметом исследования. Проверка гипотез в сравнении с добычей информации из данных Учитывая, что уровень достоверности р < 0.05 значит, что 1 из 20 экспериментов при ведет к статистической ошибке первого рода, на исследователе лежит ответственность так организовать эксперимент, чтобы он согласовался с явлениями, соответствующими модели или теории, или пытался объяснить их. Однако у некоторых исследователей есть привычка собирать большой объем данных для многих результирующих переменных и пытаться связать их с определенными воздействиями на выборку. Этот подход, приме няемый в широком масштабе, называется д о б ы ч а и н ф о р м а ц и и и з д а н н ы х (data mining). Эта форма вторичного анализа данных чрезвычайно полезна для исследования больших наборов данных, часто собранных посредством наблюдений или полученных из разных источников. В простейшем виде цель добычи информации из данных состоит в опре делении корреляций между многими переменными, что может впоследствии послужить основанием для разработки плана эксперимента. В качестве альтернативы в условиях промышленности добыча информации из данных может использоваться для создания алгоритмов принятия решений на производстве, основываясь на обнаруженных связях. Например, анализ банковской базы данных может выявить, что клиенты с доходом более $100 000 и живущие по одному адресу более трех лет никогда не отказываются выпла чивать внутренний заем. Таким образом, банк может решить выдавать заем только тем клиентам, которые соответствуют этим требованиям и пока не имеют займа. Однако в данном случае не устанавливают никаких общих причинных связей; правила принятия решений по своей природе сугубо утилитарны. Добыча информации из данных чаще критикуется при традиционном эксперимен тальном подходе; считается недопустимым отказываться от процесса формулировки гипотез и их проверки, а проведение многих статистических тестов в надежде на то, что ч т о -т о будет статистически значимым, называется выуживанием результатов. Причина этого заключается в том, что значения р корректны для одного теста, а не для множества сходных тестов, проведенных для одних и тех же данных. При множественных тестах в 474 Глава 1 8. Планирование исследования пределах одного эксперимента частота статистических ошибок первого рода почти точ но выше, чем для одного теста (за исключением полностью независимых тестов). Для корректировки значений р при множественных тестах разработано несколько статисти ческих процедур, включая поправки Гринхауса-Гейсера (Greenhouse-Geisser) и Бонферрони (Bonferroni). Слепой метод Вы, возможно, слышали об эффекте плацебо, когда члены контрольной группы проявляли некоторые свойства, характерные для экспериментальной группы. Этот эффект обусловлен многими аспектами, включая эффект ожидания (по скольку при испытаниях лекарств, например, действующее вещество и его извест ные эффекты и риски известны пациентам), наряду с систематической ошибкой, вызванной поведением экспериментаторов, дающих лекарство или собирающих результаты. К примеру, если экспериментатор знает, что испытуемый получает на стоящее лекарство, он может относиться к пациенту более внимательно, чем если он выдает «пустышку». Соответственно, на собирающего данные эксперимента тора также может подействовать коллективное знание об опытной и контрольной группах. Использование одинарного, двойного или тройного слепых методов помогает эффективно контролировать подобные источники ошибок. Одинарный слепой метод Участник эксперимента не знает, в какой группе он находится - опытной или экспериментальной. Двойной слепой метод Нн участник эксперимента, ни сотрудник, выдающий ему лекарство, не знают, в какой группе находится участник эксперимента. Тройной слепой метод Ни участник эксперимента, ни сотрудник, выдающий ему лекарство, ни сотрудник, собирающий данные, не знают, в какой группе находится участ ник эксперимента. В маленьких лабораториях один и тот же человек может и выдавать лекарство, и собирать данные; так что тройной слепой метод часто так же просто применять, как и двойной. Хотя применение слепого метода весьма необходимо, это не всег да можно сделать на одном или нескольких уровнях. Например, многие взрослые люди знакомы с физиологическим эффектом от выпивки, так что использование плацебо для имитации эффекта от алкоголя, не влияющего при этом на время реакции, при исследовании влияния алкоголя на время реакции будет затруд нительным. (А если плацебо повлияет на время реакции, то его нельзя будет использовать в качестве эффективного контроля.) В других случаях бывает воз можно создать эффективное плацебо, так что участники эксперимента не будут знать, в какую группу они попали. Основной принцип таков - в экспериментах нужно использовать слепой метод везде, где это возможно; это составляющая об Сбор экспериментальных данных 475 щих усилий по отделению эффекта от нахождения в экспериментальной группе от эффекта по воздействию и удалению внешних факторов, которые запутывают картину Ретроспективная поправка В предыдущем разделе мы упомянули систематическую ошибку, которая может произойти в результате информированности сборщика информации о статусе ис пытуемого. Еще один потенциальный источник ошибки возникает при наличии нескольких сборщиков информации или разных инструментов для ее получения, что приводит к плохо сравнимым суждениям о результатах контрольной и опыт ной групп. Хорошая тренировка сборщиков информации может уменьшить зна чимость этого источника ошибки, для ее уменьшения можно использовать другие способы. Например, результаты нескольких сборщиков информации можно усред нить для достижения консенсусного значения. Другая возможность - исследова ние всего массива результатов, полученных одним сборщиком, и попытка ретрос пективной поправки обнаруженной систематической ошибки. Объединение в блоки и латинский квадрат Цель объединения в блоки - это постановка экспериментов таким образом, чтобы сравнимые (и желательно идентичные) ответы были получены при одном и том же воздействии. Идея заключается в том, чтобы использовать как можно больше априорной информации об экспериментальных единицах для объединения их в экспериментальные блоки так, чтобы все объекты данного блока одинаково реа гировали на воздействие. Наверное, наиболее знаменитый пример объединения в блоки - это использование в психологических исследованиях однояйцевых близ нецов для изучения эффекта наследственности и воспитания, поскольку однояй цевые близнецы имеют идентичный генотип. Если близнецы, например, разлуча ются при рождении или посещают разные школы, воздействие внешних факторов можно определить, держа генетику «под контролем». Преимущество объединения в блоки однояйцевых близнецов заключается в том, что изменчивость из-за од ного фактора

Сара Бослаф - Статистика для всех

Products

Support

Сара Бослаф - Статистика для всех

Add this document to collection(s)

Add this document to saved

Suggest us how to improve StudyLib