22.17 С 28 УДК 519.2 Севастьянов Б. А. Курс теории вероятностей и математи- ческой статистики.—М.: Наука. Главная редакция физико-математи- ческой литературы, 1982.—256 с. В основу книги положен годовой курс лекций, читавшихся авто- ром в течение ряда лет на отделении математики механико-матема- тического факультета МГУ. Основные понятия и факты теории веро- ятностей вводятся первоначально для конечной схемы. Математиче- ское ожидание в общем случае определяется так же, как интеграл Лебега, однако у читателя не предполагается знание никаких пред- варительных сведений об интегрировании по Лебегу. В книге содержатся следующие разделы: независимые испытания и цепи Маркова, предельные теоремы Муавра—Лапласа и Пуассона, случайные величины, характеристические и производящие функции, закон больших чисел, центральная предельная теорема, основные по- нятия математической статистики, проверка статистических гипотез, статистические оценки, доверительные интервалы. Для студентов младших курсов университетов и втузов, изу- чающих теорию вероятностей. ^ 1702060000-143 с 053(02)-82——12-82 Издательство «Наука», Главная редакция физико-математической литературы, 1982 ОГЛАВЛЕНИЕ Предисловие . ................... ' Глава 1, Вероятностное пространство ........ 9 § 1. Предмет теории вероятностей . . . . . .... 9 § 2. События . ................. 12 § 3. Вероятностное пространство . ..... .... 16 § 4. Конечное вероятностное пространство. Классическое определение вероятности . . . . . . . . . . . • 19 § 5 Геометрические вероятности . . . . . . . . . . 23 Задачи . . . . . . . . . . • - . • . ...... 24 Глава 2. Условные вероятности. Независимость . . , . 26 § 6. Условные вероятности . . . . . . . . . . . . . 25 § 7д Формула полной вероятности . . . . . . . . . . 28 § 8. Формулы Байеса . . . . . . . . . . . . . . . 29 § 9. Независимость событий . . . . . . . . . . . . 30 § 10. Независимость разбиений, алгебр и а-алгебр . . . . 33 § 11. Независимые испытания . . . . . . . . . . . . 35 Задачи . . . . . . . . . . . . . . . . . . . . . 39 Глава 3. Случайные величины (конечная схема) . . . . 41 § 12. Случайные величины. Индикаторы . . . . . . . 41 § 13. Математическое ожидание . . . . . . . . . . . 45 § 14. Многомерные законы распределения . . . . . . . 50 § 15. Независимость случайных величин . . . . . . . . 53 § 16. Евклидово пространство случайных величин . . . . 5й § 17. Условные математические ожидания . . . . . . . 59 § 18. Неравенство Чебышева. Закон больших чисел . . . . 61 Задачи . . . . . . . . . . . . . . . . . . . • • 64 Глава 4. Предельные теоремы в схеме Бернулли . . . . 65 § 19, Биномиальное распределение . . . . . . . . . . 65 § 20. Теорема Пуассона . . . . . . . . . . . . . 66 § 21. Локальная предельная теорема Муавра—Лапласа . . 70 4 ОГЛАВЛЕНИЕ § 22. Интегральная предельная теорема Муавра — Лапласа 71 § 23. Применения предельных теорем ......... 73 Задачи . ..........•••.•••••• 76 Глава б. Цепи Маркова ............. 77 § 24. Марковская зависимость испытаний ....... 77 § 25. Переходные вероятности ............ 78 § 26. Теорема о предельных вероятностях ....... 80 Задачи . ............•.•.•••• 83 Глава 6. Случайные величины (общий случай) ..... 84 § 27. Случайные величины и их распределения ..... 84 § 28. Многомерные распределения . ......... 92 § 29. Независимость случайных величин ........ 96 Задачи . ................ .... 98 Глава 7. Математическое ожидание ......... 100 § 30. Определение математического ожидания ..... 100 § 31. Формулы для вычисления математического ожидания 108 Задачи , .................... 115 Глава 8. Производящие функции .......... 117 § 32. Целочисленные случайные величины и их производя- щие функции ................ 117 § 33. Факториальные моменты ............ 118 § 34. Мультипликативное свойство . ......... 120 § 35. Теорема непрерывности . ........... 123 § 36. Ветвящиеся процессы . ............ 125 Задачи . .................... 127 Глава 9. Характеристические функции ........ 129 § 37. Определение и простейшие свойства характеристиче- ских функций . ............... 129 § 38. Формулы обращения для характеристических функций 136 § 39. Теорема о непрерывном соответствии между множе- ством характеристических функций и множеством функций распределения . ........... 140 Задачи . ...... .............. 145 Глава 10. Центральная предельная теорема ...... 146 § 40. Центральная предельная теорема для одинаково рас- пределенных независимых слагаемых ....... 146 § 41. Теорема Ляпунова .............. 147 § 42. Применения центральной предельной теоремы .... 150 Задачи . .................... 153 Глава 11. Многомерные характеристические функции . . .154 § 43. Определение и простейшие свойства ....... 154 § 44. Формула обращения ............. 158 § 45. Предельные теоремы для характеристических функций 159 § 46. Многомерное нормальное распределение и связанные с ним распределения . ............. 164 Задачи . .................... 173 Глава 12. Усиленный закон больших чисел ....... 174 § 47. Лемма Бореля—Кантелли. Закон «О или I» Колмо- горова . .................. 174 § 48 Различные виды сходимости случайных величин . . . 177 § 49. Усиленный закон больших чисел ......... 181 Задачи . .................... 188 Глава 13. Статистические данные .......... 189 § 50. Основные задачи математической статистики . . . .189 § 51. Выборочный метод . ............. 190 Задачи. . .................... 194 Глава 14. Статистические критерии .......... 195 § 52. Статистические гипотезы ............ 195 § 53. Уровень значимости и мощность критерия ..... 197 § '54. Оптимальный критерий Неймана — Пирсона .... 199 § 55. Оптимальные критерии для проверки гипотез о пара- метрах нормального и биномиального распределений 201 § 56. Критерии для проверки сложных гипотез . . . . . 234 § 57. Непараметрические критерии . ......... 206 Задачи . .................... 211 Глава 15. Оценки параметров ............ 213 § 58. Статистические оценки и их свойства ....... 213 § 59. Условные законы распределения ......... 216 § 60. Достаточные статистики ............ 220 § 61. Эффективность оценок ............. 223 § 62. Методы нахождения оценок .......... 228 Задачи , .................... 232 6 ОГЛАВЛЕНИЕ Глава 16. Доверительные интервалы .......••• 234 § 63. Определение доверительных интервалов ...... 234 § 64. Доверительные интервалы для параметров нормаль- ного распределения . ............. 236 § 65. Доверительные интервалы для вероятности успеха в схеме Бернулли ..,...,...••••• 240 Задачи . ..........•••••••••• 2"4 Ответы к задачам ............•••••• 245 Таблицы нормального распределения ... ........ 251 „ очч Литература . .....,........•••••• ''"•-' Предметный указатель . ..........••.•• 254 f ПРЕДИСЛОВИЕ Первоначальный курс теории вероятностей и мате- матической статистики должен удовлетворять двум ус- ловиям. С одной стороны, он должен помогать развитию теоретико-вероятностной интуиции, т. е. умения строить математические модели, правильно отражающие те или иные стороны реальных случайных явлений. При этом надо иметь в виду, что теория вероятностей и матема- тическая статистика тесно связаны с различными при- ложениями, с некоторыми из которых выпускникам ма- тематических отделений университетов с большой ве- роятностью придется столкнуться в своей работе. С дру- гой стороны, теория вероятностей должна развиваться как математическая наука, построенная на точных оп- ределениях и аксиомах. Однако многие существующие руководства по теории вероятностей придерживаются одной из двух крайностей. В одних курсах, нацеленных на приложения, нет четкого разделения реальных слу- чайных явлений и их математических моделей. В част- ности, важное в теории вероятностей понятие независи- мости молчаливо смешивается с причинной независи- мостью реальных явлений. Другие курсы посвящены, главным образом,, строгому изложению математических основ теории вероятностей, поэтому они либо очень ве- лики по объему, либо в значительной степени опи- раются на такие понятия функционального анализа, как мера и интеграл Лебега, и поэтому не могут быть ис- пользованы при обучении студентов младших курсов. Содержание данного учебника соответствует годо- вому курсу теории вероятностей и математической ста- тистики, который автор читал в течение ряда лет на механико-математическом факультете Московского го- сударственного университета студентам-математикам 4-го и 5-го семестров. Для преодоления указанные выше трудностей автор придерживается некоторого компромиссного направления. Первоначально многие ПРЕДИСЛОВИЕ теоретико-вероятностные понятия введены в простом случае конечного вероятностного пространства. Приве- ден ряд примеров, в которых указана связь вводимых математических понятий с теми или иными свойствами реальных явлений. Общий случай основан на способе из- ложения, который связан с введением интеграла Лебега без теории меры. На 4-м семестре, когда студенты еще не знакомы с соответствующими понятиями функцио- нального анализа, аксиоматически вводится понятие ве- роятностной меры и на ее основе определяется матема- тическое ожидание как интеграл Лебега. Теорема Кара- теодори о продолжении меры формулируется без дока- зательства. Понятия условного распределения вероят- ностей и условного математического ожидания даны не в полном объеме, а лишь в простых случаях дискретных и абсолютно непрерывных распределений. В основном автор старался опираться лишь на знание студентами классического математического анализа. Главы 1—5 связаны в основном с конечными ве- роятностными пространствами. В этих главах введены основные понятия вероятности, математического ожида- ния, независимости, случайной величины. Распростране- ние этих понятий на общий случай дано в главах 6—12. Главы 13—16 посвящены некоторым задачам математи- ческой статистики. Каждая глава сопровождается не- большим количеством задач. Однако автор предпола- гает, что читатель использует какой-нибудь задачник (например, Севастьянов Б. А., Чистяков В. П., Зубков А. М. Сборник задач по теории вероят- ностей.—М.: Наука, 1980). Москва, май 1981 г. Б. А. Севастьянов Глава 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО § 1. Предмет теории вероятностей Сочетание слов «теория вероятностей» на неискушен- ного человека производит несколько странное впечатле- ние. В самом деле, слово «теория» связывается с нау- кой, а наука изучает закономерные явления; слово «ве- роятность» в обычном языке связывается с чем-то не< определенным, случайным, незакономерным. Поэтому люди, знающие о существовании теории вероятностей только понаслышке, говорят о ней часто иронически. Однако теория вероятностей—это большой, интенсивно развивающийся раздел математики, изучающий случай- ные явления. Так в чем же тут дело? Как разрешить это противоречие между тем, что теория вероятностей—• это наука, а ее предмет—случайность, которая, каза- лось бы, не поддается никакому научному предсказа- нию? Как мы увидим ниже, противоречие здесь только кажущееся, так как теория вероятностей изучает закб- номерности случайных явлений. Математика, как и любая другая наука, изучает закономерные явления реального мира. Связь между математикой и объектом''исследования можно изобра- зить схематически следующим образом (см. рис. 1). Классическим примером такой схемы является меха- ника, созданная Ньютоном. На основе многовековых наблюдений движений небесных тел, а также практиче- ской деятельности людей, связанной со строительством и производством, Ньютон сформулировал несколько простых законов механики в виде аксиом и закон все- мирного тяготения, из которых дедуктивными рассуж- Дениями можно было объяснить все явления, которые наблюдались ранее, а также предсказать многие новые факты. Построение математических моделей реальных механических и физических процессов привело к созда- нию математического анализа, 10 ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО Объект ЦвслеВоВмия 1 1 i-53о \.S? § i- 1 ^ 1 ^•^ 1 ^ ' HstmSfiarnwecKQJT мчдем Закономерное событие—это событие, которое всегда осуществляется, как только создаются определенные ус- ловия. Закономерное явление—это система закономер- ных событий. Роль математики, в частности теории дифференциальных уравнений, при изучении реальных закономерных явлений общеизвестна. Но наряду с за- кономерными мы все время сталкиваемся в практической деятельности с событиями незакономерными или, иначе, случайными. Это события, которые при одних и тех же условиях иногда происходят, а иногда—нет. Например, чело' век, заболевший гриппом в пе- риод эпидемии, может выздо- -s? §? роветь, может получить те или g §> иные тяжелые осложнения, § ^ или умереть. Таким образом, исход заболевания гриппом случаен. Казалось бы, что там, где мы имеем дело со случайными Рис. 1. событиями, науке, в частности математике, делать нечего. Ведь наука открывает научные законы, которые помо- гают предсказывать течение того или иного процесса или явления, а случайное явление—это как раз та- кое явление, предсказать исход которого невозможно. Однако и случайные события подчиняются некоторым закономерностям, которые мы назовем вероятностными закономерностями. Прежде всего условимся, что мы бу- дем иметь дело не со всякими случайными событиями, а с массовыми случайными событиями, т. е. мы будем предполагать, что в принципе возможно создать много раз одни и те же условия, при каждом из которых мо- жет произойти или нет некоторое случайное событие. Пусть при осуществлении некоторых условий N раз слу- чайное событие А осуществляется N(A) раз. Число М[А) называется частотой события Л, а отношение N{A)/N— относительной частотой события А. Оказывается, при больших N относительная частота 'N(A)/N для случай- ных массовых событий обладает так называемым свой- ством устойчивости, которое состоит в том, что в не- скольких сериях из достаточно больших N\, N^ ..., Ns § Г. ПРЕДМЕТ ТЕОРИИ ВЕРОЯТНОСТЕЙ 11 наблюдений события Л в одних и тех же условиях мы обычно имеем приближенные равенства Л?,(A) N,(А) У^ л, Л/, Таким образом, относительная частота события Л ко- леблется около одного и того же числа, которое харак- теризует данное случайное событие Л. Это число Р(Л) в соответствующей математической модели мы будем называть вероятностью события Л. Например, мы мо- жем много раз подбрасывать одну и ту же монету. Пусть случайное событие Л — это выпадение герба при одном бросании. В случае бросания «правильной» (сим- метричной, однородной) монеты Р (Л) == 1/2. Статистика рождений показывает, что мальчиков рождается не- сколько больше, чем девочек, причем наблюдаемая доля рождений мальчиков равна 0,51—0,52 (в разные перио- ды, в разных странах могут быть колебания). Медицин- ская статистика свидетельствует о том, что смертность от гриппа имеет малую, но ненулевую вероятность (по- этому в условиях массовой эпидемии число смертных случаев от гриппа становится заметным). Устойчивость частот — это объективное свойство мас- совых случайных явлений реального мира. Отсутствие устойчивости частот в сериях испытаний свидетельствует о том, что условия, при которых производятся испыта- ния, претерпевают значительные изменения. Теория ве- роятностей—это математическая наука, которая изу- чает математические модели случайных явлений. Если говорить более подробно, то теория вероятностей уста- навливает такие связи между вероятностями случайных событий в математических моделях, которые позволяют вычислять вероятности сложных событий по вероят- ностям более простых событий. В теории вероятностей используются результаты и методы многих областей математики (комбинаторики, математического анализа, алгебры, логики и т. п.). Од- нако теория вероятностей обладает некоторым своеоб- разием, поскольку она очень тесно связана с различ- ными приложениями, причем приложения эти не столь привычны, как, например, приложения дифференциаль- ных уравнений. Поэтому овладеть теорией вероятностей 12 ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО может лишь тот, кто решает много задач (эти задачи часто имеют нематематическую постановку, и надо уметь построить соответствующую математическую мо- дель) и приобретает, таким образом, теоретико-верояг- ностную интуицию. / § 2. События Одним из основных понятий теории вероятностей яв- ляется случайное событие или, как мы будем чаще го- ворить, просто событие. В реальном мире случайное событие—это исход (какого-либо испытания, наблюде- ния, эксперимента), который может произойти (насту- пить, осуществиться) или не произойти (не наступит?!, не осуществиться). Пример 1. При бросании игральной кости') мо- жет выпасть число очков, равное какому-либо числу из множества чисел 1, 2, 3, 4, 5, 6. Событиями в этом случае будут, например, А == {выпадает четное число очков}, 5== {выпадает число очков, не большее трех}. В математической модели можно принять понятие события как первоначальное, которому не дается опре- деления и которое характеризуется лишь своими свой- ствами. Исходя из реального смысла понятия события, мы можем определить следующие частные случаи поня- тия события и следующие операции над событиями. В тех случаях, когда мы одновременно рассматриваем несколько событий, мы всегда будем предполагать, что эти события могут произойти или не произойти при од- ном и том же испытании (т. е. при осуществлении од- них и тех же условий). Достоверным событием будем называть событие, ко- торое всегда происходит, и будем его обозначать и. Не- возможным событием назовем событие, которое никогда не происхвдит. Обозначать невозможное событие будем 0. Событие Л назовем событием, противоположным Л, ') Игральной костью называется кубик, сделанный из однород- ного материала, грани которого занумерованы цифрами 1, 2, 3, 4, 5, 6. Число очков, выпавшее при бросании игральной кости, — эта цифра на верхней грани кубика. S 2. СОБЫТИЯ 13 д лг А\В. если оно происходит тогда и только тогда, когда не происходит А. Суммой или объединением событий А и В назовем событие, обозначаемое Л U В или А + В, ко- торое происходит тогда и только тогда, когда происхо. дят или Л, или В (или оба вместе). Произведением или пересечением событий А и В назовем событие, обозначаемое Л fl В или АВ, которое про- исходит тогда и толь- ко тогда, когда проис- ходят и Л и В вместе. Разностью А\В собы- тий Л и б назовем со- бытие, которое проис- ходит тогда и только тогда, когда происхо- дит Л и не происходит В. События Л и В на- зовем несовместными, если АВ == 0. Мы бу- дем писать Л = В и Рис. 2. Сумма, произведение, разность событий Л и В; событие А противо- положно А. говорить, что событие Л влечет за собой со- бытие В, если из на- ступления события Л следует наступление события В. Если Л = В и В = Л. то мы будем говорить, что события Л и В равносильны, и писать Л = В. В примере 1 с бросанием игральной кости имеем следующие события: Л U В = {выпадает число очков, отличное от пяти}, Л П В= {выпадает число очков, равное двум}, Л \ В = {выпадает число очков, равное 4 или 6}, Л == {выпадает нечетное число очков}. Пример 2. На квадрат случайно бросается частица (см. рис. 2); событие Л = {частица попадает в круг Л}, событие В == {частица попадает в треугольник В}. 14 ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО События А[]В, А^\В, А\В и Л в этом случае—это попадание частицы в области, получаемые объедине- нием, пересечением, разностью областей Л и В и допол- нением Л в квадрате (на рис. 2 соответствующие об- ласти заштрихованы). В настоящее время в теории вероятностей наиболее распространенным является подход, в котором событие определяется через неопределяемое понятие элементар- ного события. Наиболее употребительная теоретико-ве- роятностная модель в простых случаях — это урновая модель. Пусть имеется урна с п одинаковыми шарами. Испытание состоит в том, что мы случайно выбираем из урны один шар. Обозначим И == {(fli, (1)2, •••> Юч} множество шаров в урне. Если из урны при испытании мы вынимаем шар й);еЛ, где А—некоторое подмно- жество множества шаров Q, то мы будем говорить, что произошло событие Л; если же (о,^Л, то мы будем говорить, что событие А не произошло. В данном слу- чае событие Л отождествляется с подмножеством А множества всех возможных исходов или, как мы будем " далее говорить, элементарных событий. В общем случае мы будем в каждой теоретико-ве- роятностной модели рассматривать некоторое основное множество Q == (а»}. Будем называть его элементы (д элементарными событиями, само множество О—про- странством элементарных событий, а некоторые его подмножества As О—событиями. Операции над со- бытиями—это операции над подмножествами. При этом в теории вероятностей употребляется своя терминоло- гия, связь которой с теоретико-множественной термино- логией отражена в таблице 1. Операции суммы и произведения событий можно распространить на любое конечное или бесконечное множество событий IJ Лд, П ^а- Обычные свойства опе- d a раций над множествами переносятся на операции над событиями, например, ТГл^ПДх, ТГ^-Ша, л=л. а а а а Л==Й\Л, '0==Q, Й==0, § 2. СОБЫТИЯ 15 Л \ В == Л \ АВ === АВ, А \ (А \ В) == АВ, ЛЕ;В==>Я<=:Л и т. д. Иногда придерживаются следующего соглаше- ния: если A), As, ,.., An попарно несовместны, то п п вместо U A;==AiUA2U ••• U An пишут Z'4t•==A^+ «•=•! t=l +Лз+ ... +Л„. В общем случае бесконечного пространства Q мы рассматриваем не все подмножества О, а лишь некото- рые классы этих подмножеств, называемые алгебрами и ст-алгебрами множеств. Таблица 1 Обозначение Терминология в теории множеств Терминология в теории вероятностей Q пространство (основное множество) пространство элементарных событий, достоверное событие со, (о е Q элемент пространства та элементарное событие м Л,Л=0 множество Л событие Л ли в,А+В сумма или объединение множеств Лий сумма событий Л и 5 АЦВ.АВ пересечение множеств А я В произведение событий Л и В А\В разность множеств А » В разность событий Л и В 0 пустое множество невозможное событие Л дополнительное множество Л противоположное Л событие ЛВ=0 Л и В не пересекаются Л и В несовместны ASB Л есть подмножество В Л влечет событие В А==В Л и В равны Лий равносильны 16 ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО Определение 1. Назовем класс si- подмножеств пространства Q алгеброй множеств, если 1) 0 е^, Qe^; 2) из Л е ^ следует Л <= sf-; 3) из Л, B(=?i следует Л U В е a?, A[\B^=?^. Определение 2. Алгебру множеств si назовем о-алгеброй, если из Л„ е sf-, уг==1, 2, ..., следует 00 00 U Л„е^, П A»e^. n°l "=1 U, Л„е^, Q, ^s^. § 3. Вероятностное пространство Определение 3. Тройку (Q, ^, Р), где Q—про- странство элементарных событий, si- — ст-алгебра под- множеств О, называемых событиями, Р — числовая функция, определенная на событиях и называемая ве- роятностью, будем называть вероятностным простран- ством, если выполнены следующие аксиомы: 1°. Р (Л) ^ 0 для всех Л s si (неотрицательность Р); 2°. Р (Q) == 1 (нормированность Р); 3°. Р (Л + В) == Р (Л) + Р (В), если АВ =- 0 (аддитив- ность Р); 00 4°. Если Л,4 0, т. е.Л1ЭЛ2=2... и П^==0> >г=1 то liin Р (Л„) = 0 (непрерывность Р). П-»00 Из этих аксиом вытекают следующие свойства ве- роятности. 1) Если Л SB, то Р(В\Л)=Р(Й)-Р(Л). Так как В==А+(В\А) и ЛП(В\Л)==0, то по аксиоме 3° Р(В)=Р(Л)+Р(Й\Л). (1) 2) Если А = В, то Р (Л)< Р (5). Следует из (1). 3) Для любого A s s4- 0<Р(Л)<1. Следует из 2), так как 0 s Л s Q. § 3. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО 17 4) Р(Л)==1-Р(Л). Следует из аксиомы 3°, так как Л + Л = Q, ЛЛ == 0. 5) Р(0)=0. Следует из 4) и аксиомы 2°. 6) Имеет место конечная аддитивность'. если AiA, == 0 для любых i Ф J, то Р (Л, + А, + ... + Л„) = JE Р (^). (2) Следует из аксиомы 3°. Доказывается по индукции. 7) Для любых событий Ль ..., An /• п \ п (u^) ... и П 5„==0, то п=1 по аксиоме 4° имеем Р (В„) ^ 0. Отсюда вытекает счет- ная аддитивность (4). Пусть теперь выполнены аксиомы 1°, 2°, 3*, и пусть Вц[0. Обозначим Л„ == В„ \ .B„.n, "•==1, 2, ... Собы- тия An. попарно несовместны и 00 00 в\ = 2-. An., Вп = 2-1 ^4> ^i~i й-=га 00 поэтому по аксиоме З* ряд Р (Bi) == 1^ Р (Л„) сходится, п=1 00 и сумма остатка этого ряда P(BJ= ^ Р(Лй)->0. Тео- й-га пема доказана. Система аксиом 1°, 2°, 3°, 4° или 1°, 2°, З* опреде- ляет вероятностную меру на о-алгебре s^ пространства. И. Эта система аксиом предложена А. Н. Колмого- ровым. Происхождение аксиом 1°, 2°, 3° можно объяснить, исходя из свойства статистической устойчивости частот. Пусть Л и В—несовместные события, N(A)/N и N{B)/N—их относительные частоты в какой-либо длин- ной серии наблюдений. Так как Л^^^О.то N(A)/N~^ ^ 0, следовательно, то число Р(Л), к которому близко отношение N(A)/N, должно быть неотрицательным, 5 4. КОНЕЧНОЕ ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО 19 Для достоверного события N{Q}==N, поэтому надо по- требовать Р(й)==1. Для несовместных событий N(A 4- 4- В) == N (Л)i-f- N {В), откуда N(A) . N(B) N ' N N{A+B) _ N(A N ~ N что и приводит к аксиоме 3°. Рис. 3. Аксиома 4° (или 3*) имеет несколько другое проис- хождение, связанное не с реальным свойством устой- чивости частот, а с нуждами развиваемой на основе аксио- матики математической тео- рии. Поясним сказанное на примере. Пусть на единичный квадрат бросается случайно частица, причем вероятность попадания в любой внутрен- ний квадрат со сторонами, па- раллельными сторонам основ- ного квадрата, равна площади меньшего квадрата. С по- мощью аксиомы 3° отсюда можно получить вероятность попадания в любую фигуру, составленную из суммы конечного числа квадратов. Но нам хотелось бы иметь также возможность находить вероятность попадания в более сложные фигуры, напри- мер, в круг. Это можно сделать с помощью аксиомы 3*, приближая круг фигурами, составленными из конечных сумм таких квадратов (см. рис. 3). § 4. Конечное вероятностное пространство. Классическое определение вероятности Рассмотрим простой случай конечного вероятност- ного пространства. В этом случае Q ={<в}— конечное пространство, s4- — алгебра всех подмножеств множе- ства Q (ввиду конечности ^ эта алгебра автоматически представляет собой о-алгебру). Вероятность Р(Л) для любого подмножества Л из и в этом случае можно за- дать следующим образом. Пусть заданы неотрицатель- ные числа ро, такие, что S Рв= 1- Вероятность Р(Л) tud-2 20 ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО определим как сумму Р(Л)== S^co. О) 55 Л (5) Легко видеть, что так определенная вероятность (вместе с Р(0)==0) удовлетворяет всем аксиомам. Обозначим \А\ число элементов в множестве Л. Частным случаем определения вероятности (5) будет так называемое классическое определение вероятности, когда все ру равны друг другу. Так как 1 == ^ ра == ра>!Q 1> т0 в щеа этом случае Ра^-тт и Р(Л)=-^-. (6) Модель вероятностного пространства, приводящая к классическому определению вероятности, используется , в тех случаях, когда элементарные события обладают свойством «симметрии» в том смысле, что все элемен- тарные события находятся в одинаковом отношении к тем условиям, которые определяют характер испытания. Например, бросание игральной кости или монеты обла-^ дает свойством «симметрии» по отношению к выпадо- нию того или иного числа очков на кости или той или иной стороны монеты, если, конечно, при броске они были достаточно высоко от горизонтальной поверхности и им было придано в начале броска вращательное дви- жение (но не вокруг оси симметрии), Таким же свой- ством симметрии обладают правильно организованная жеребьевка и тираж лотереи. При нахождении вероятностей в схеме классического определения широко используется комбинаторика. Мы "асто будем использовать комбинаторные понятия раз' мещения, перестановки и сочетания. Будем исходить из конечного множества X=={x\,x'i, ..., ^,v}> состоящего из N элементов х,. Пусть 1 ^ п ^ N. Размещением из N элементов множества Х по п элементам (коротко. размещением из N по п) назовем любой упорядочен' • ный набор (х. , х. , ..., х, ') элементов множества X. Два размещения (^, ^."..., ^) и (^. ^, ..., ^) § 4. КОНЕЧНОЕ ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО 21 равны тогда и только тогда, когда все xi^ == x,^ k==\,... . .. , п. Число всех различных размещений из N эле- ментов по п обозначается Л^г и равно N (N — 1) ... {N— —/г+1). Последнее произведение мы иногда будем обозначать как обобщенную степень Л^"!. Таким обра- зом, для числа всех размещений из N элементов по п мы имеем формулу A'к=NW==N{N- 1) ... (N-n+l}. (7) В дальнейшем будем полагать Л°у = Л^101 == 1 при любом целом N ^ 1. Формула (7) легко доказывается по ин- дукции. Частный случай размещения при N == п назы- вается перестановкой из N элементов. Число всех пере' становок из N элементов равно A^N^^NiN-l) ...2-l=N\ (8) Из (7) и (8) следует также формула ^-w^w- (9) Сочетанием из N элементов множества Х по п назы- вается любое подмножество [х., .... х, \ мощности п, 1/1 'п> 41 множества X. Общее число всех сочетаний из N по п обозначается С"ц и равно m (10) п! — п\ (N — »)! • Из (10) имеем соотношение С'м==С'м ". В дальнейшем будем полагать 0!=1, С^==1 и С^==0, если и—целое и k < 0 или k > N. Пример 3. Выборка без возвращения. Пусть имеет- ся урна с N шарами, которые мы занумеруем числами 1. 2, ..., N. Предположим, что шары с номерами 1, 2. ..., M белого цвета, остальные—черного. Выборка без возвращения состоит в том, что мы наугад вынп-. маем из урны последовательно п шаров, не возвращая" их обратно. В этом случае за пространство элементар- ных событий ffl=={(o} естественно принять множество всех упорядоченных наборов co==(ai, Ct2, ..., а„) (11) 22 ГЛ. 1. ВЕРОЯТНОСТНОЙ ПРОСТРАНСТВО чисел ссг, Is^Kt^A?, не разных друг другу. Мощность множества О равна в этом случае \Q\^N{N-\} ... {N-n+^^N1^ (12) •—числу размещений N элементов по п. Вычислим вероятность события Am, состоящего в том, что среди выбранных п шаров имеется ровно т белых. Для этого подсчитаем \А,п\: lA^I^C^M^^-A-n'"""1. (I3) В самом деле, число элементарных событий (11), у ко- торых ровно в т случаях 1 ^ а, ^ Л'1, определяется как произведение: C"t — числа способов выбора m коорди- нат из общего количества их п, на которые мы поме- щаем Is^ajs^M; Л!^"]— числа различных наборов 1 ^ а, s$ M, попадающих на отмеченные m мест; {N — M) I"-"11 — числа различных наборов M + 1 s$ к/ s$ ^ N, попадающих на остальные места. Из (12) и (13) получаем С^М'"11 (N - М)1"""1 Р (Ащ) == -^]• Пользуясь (10), мы можем вероятность Р(Ат) выра- зить в следующих эквивалентных видах: С it /^''1 N ^N (14) Пример 4. Выборка с возвращением. Пусть имеется та же урна, но выборка п шаров из нее проис- ходит последовательно по одному шару, и при этом каждый раз фиксируется номер шара, а сам шар воз- вращается обратно в урну. В этом случае пространство элементарных событий состоит из всевозможных век- торов (11), у которых координаты не имеют никаких дополнительных ограничений, кроме 1 sS; «/ ss; N. В этом случае |Q|==^, а вероятность события Am, вычисляемая аналогичным способом, равна р/л ^ ^J^^^il^l-r'^^^h -W' (15^ P(Am)==Cn—————^д—————- Cn \JJ-^ ^1 —-Л-) • Vl°^ § 5. ГЕОМЕТРИЧЕСКИЕ ВЕРОЯТНОСТИ 23 § 5. Геометрические вероятности Еще один важный класс моделей вероятностных про- странств дают так называемые геометрические вероят' ности. Пусть Q =={<э}—область евклидова п-мерного пространства с конечным га-мерным объемом. Собы- тиями назовем подмножества Q, для которых можно определить га-мерный объем. За множество событий можно принять так называемую о-алгебру S6 борелев- ских подмножеств И (подробнее об этом см. гл. 6, §27). За вероятность события Лей? примем ^//////////л____<У/^У//////А Р(Л)=^, (16) ' l/3 2l/s t где |У| означает га-мерный объ- Рис.4. ем множества V. Понимая под га-мерным объемом соответствующую меру Лебега, мы получаем вероятностное пространство (Q, iS, P), где вероятность р определена равенством (16). Это ве- роятностное пространство служит моделью задач, в ко- торых частица случайно бросается в область Q. Предпо- лагается, что ее положение равномерно распределено в этой области, т. е. вероятность попасть частице в об- ласть Л пропорциональна п-мерному объему этой об- ласти. Пример 5. Стержень разламывается на две части в случайной точке, равномерно распределенной подлине стержня. Найти вероятность того, что меньший обломок имеет длину, не превосходящую одной трети длины стержня. Обозначим длину стержня /, а расстояние точ- ки разлома от одного (фиксированного) конца стерж- * ня — х. Тогда описанное событие произойдет тогда и только тогда, когда либо х ^ 1/3, либо х ^ 21/3. Иско- мая вероятность равна отношению (1/3 + 1/3): I == 2/3 (см.рис. 4). Пример -6. Задача Бюффона. На плоскость, рас- черченную параллельными прямыми, находящимися на расстоянии а друг от друга, случайно брошена игла длины I <: а. Найти вероятность пересечения иглы с ка- кой-нибудь из параллельных прямых. Обозначим у рас- стояние от середины иглы до ближайшей прямой, х— острый угол между иглой и перпендикуляром к парал- 24 ГЛ. 1. ВБРОЯТНОСТНОЕ ПР®СТРАНСТВО дельным прямым (рис. 5). Координаты (х,у), опреде- ляющие положение иглы относительно параллельных прямых, удовлетворяют условиям 0 ^ х ^ л/2, 0 ^ у -S^ ^ 1/2. На плоскости {х, у) они образуют прямоуголь- ник О. Попадание точки {х, у) в заштрихованную об- ласть А (см. рис. 6) приводит к пересечению иглы с Рис. 5. Рис. 6. одной из параллельных прямых. По формуле (16) иско- мая вероятность равна Л/2 — cos х dx |a| 'all • nil 21 ал Задачи 1. События Л и В несовместны. Доказать, что В == А тогда и только тогда, когда А + В == Q. 2. Известно, что Л f| -В === 0 и Л (") .В = 0. Доказать, что в этом случае В = Л. ___ 3. Доказать, что события ~АВ U Л и В \ А равносильны. 4. Доказать, что А \ (А \ В) == АВ. 5. Доказать, что: а) АВ = В тогда и только тогда, когда В s Л; б) Л U В == В тогда и только тогда, когда Л s В. 6. На карточке спортлото из 49 клеток отмечено шесть. Ка- кова вероятность того, что ровно три из. отмеченных клеток выпадут в очередном тираже? (В тираже производится случайная выборка шести элементов без возвращения из множества 49 клеток карточ- ' ки спортлото.) 7. Трехзначное число случайно и равновероятно выбирается из всего множества трехзначных чисел. Найти вероятность того, что они делится: а) на 3; б) на 5. 8. Деталь с вероятностью 0,01 имеет дефект Л, с вероятностью 0,02 имеет дефект 5 и с вероятностью 0,005 имеет оба дефекта. Найти вероятность того, что деталь имеет хотя бы один дефект, ЗАДАЧИ 25 9. При жеребьевке N человек тянут билеты с номерами 1, 2, ..., N. Первые три человека вытянули номера Xi, Хг, Хз. Какова вероятность того, что min (л-i, Хг) <Ху < тах (л:1, ^а)? 10. Из кармана, в котором находится 10 монет достоинством 20 коп. и 10 монет достоинством 3 коп., вынимается пригоршня из 10 случайно взятых монет. Ка- кова вероятность того, что в кармане осталась сумма денег, не меньшая тон, что вынута? 11. Из 10" чисел 0000, 0001, 0002, ..., 9999 случайно и рав- новероятно выбирается число. Какова вероятность того, что в выбранном числе: а) все циф- ры разные; б) имеются только 3 разные цифры; в) имеются только 2 разные цифры; г) все цифры одинаковые? Рис. 7. 12. На бесконечную шах- матную доску со стороной квад- рата а бросается наудачу моне- та радиуса г, 1г <; а. Найти вероятность pi, того, что монета будет иметь общие точки с k квадратами, k = 1,2,3,4.' 13. На паркет, изображенный на рис. 7, случайно падает монета радиуса г, 2г <. а. Найти вероятность того, что монета целиком окажется внутри маленького квадрата. 14. На квадрат случайно с равномерным распределением бро- сается частица. Найти вероятность того, что она удалена от вершин квадрата на расстояние, не меньшее половины длины стороны квад- рата. Г л а в а 2. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ § 6. Условные вероятности Пусть при N испытаниях события Л, В и АВ про- изошли с частотами N(A}, N{B) и N{AB}. Назовем от- ношение N(AB)/N(B) условной относительной часто- той события Л при условии, что произошло событие В. Если имеет место устойчивость частот N(A) N Р(А), Л' (В) N PW, N (АВ} N Р(ЛВ) и Р(В)>0, то относительная частота N(AB)/N(B} то нее устойчива: JV (АВ} __ N (AB)/N _ Р (АВУ ,.. Л'(В) — N(B)/N ~ Р(Д) • \ / Соотношение (1) приводит к следующему естествен- ному определению. Определение 1. Пусть Р(В)>0. Условной ве- роятностью Р(Л|В) события Л при условии, что про- изошло событие В (или просто: при условии В}, назо- вем отношение Р(Л|5)==-^-. (2) Для условной вероятности Р (Л В) применяется также обозначгние Рд(Л). Если В фиксировано, а Л s „^ из некоторого веро- ятностного пространства (Q, «s^, P), то условная веро- ятность Рд(Л), рассматриваемая как функция Рд от события Л s ^, определяет новое вероятностное про- странство (Q, «^, Рд). Для того чтобы это установить, надо проверить, что Рд удовлетворяет аксиомам 1°—4°. Это легко делается, так как в силу (2): D (Л\ p_(ABl~~>f). Р 1П\ Р С^ — 1 . РдИ)==-р^->0, Рв(0)==-р^--1, § 6. УСЛОВНЫЕ ВЕРОЯТНОСТИ 27 если Л1Л2—0, то (AiB)n(A2.B)=0 и о ( ^ -L Л ^ — Р (АлВ + А..В) _ Р (Л, В] Р (А,В) __ РВ U4 -I- ^-1 — ———р^Й)——— — Р(В) -г Р(В) — =Рд(Л,)+Рв(Л2); и, наконец, из А^[0 следует В An \ 0, поэтому р м ^—-p-(вd^- 1 п •Д V1;^ —— р 1Ц\ ^ \!- Переписывая (2) в форме Р(Л5)=Р(5)Рз(Л), (3) мы получаем равенство, которое называют теоремой умножения. Если исходить из определения (2), то со- держательность теоремы умножения (3) представляет- ся весьма невысокой. Однако в применениях мы часто условную вероятность Рд(Л) будем вычислять, исходя не из формулы (2), а из каких-либо других соображе- ний. В этом случае формула (3) уже определяет Р(ЛВ) с помощью Р(В) и Р(Д|Л), а не наоборот. Пример 1. В урне находится М белых и N—М черных шаров. По схеме выборки без возвращения по- следовательно выбираются два шара. Найдем вероят- ность того, что оба шара будут белыми. Эту вероят< ность-можно найти с помощью теоремы'умножения (3), Обозначим события Л == {первый вынутый шар — бе< лый}, В = {второй вынутый шар—белый}. Тогда вы- числение вероятностей Р (Л) = -_- и Рд (В) == „ _ . сво- дится к более простым задачам о вынимании белого шара из урны, содержащей М белых и N—М черных Шаров (соответственно во втором случае М — 1 белых и N—М черных шаров). Имеем окончательно Р(АВ)== °РМ)Рл№°^^Г. С помощью (3) по индукции легко доказывается бо- лее общая Теорема 1. (Теорема умножения.) Пусть события "i. ..., Л„ таковы., что Р (AI ... Ап-\) > 0. Тогда ^г-Л,,)- - Р (Ai) Рл, (А) РАЛ (Лз) ... Рл,... л„_, (Л„). (4) 28 ГЛ. 2. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ Доказательство. Из условия теорема вытекает, что существуют все условные вероятности в (4). Для доказательства (4) по индукции обозначим В = А\ ... ... Лп-ь А = An и применим (3) и индукционное пред- положение о справедливости (4), когда п заменяется на га—1. Справедливость (4) при п == 2 также следует из (3). Формулы типа (3) и (4) показывают, что на одном и том же пространстве элементарных событий О с о-ал- геброй ?4' удобно рассматривать, наряду с вероятностью Р, условные вероятности Рд. § 7. Формула полной вероятности Определение 2. Систему событий Ль Лз, ..., An будем называть конечным разбиением (в дальнейшем — просто разбиением}, если они попарно несовместны и Л1+Л2+ ... +Л„==0. (5) Теорема 2. (Формула полной вероятности.) Если А\, ..., An—разбиение и все Р (Л^) > 0, то для любого события В имеет место формула Р(В)=ЕР(Лй)Р(5|Л,), (6) ft=l называемая формулой полной вероятности. Доказательство. Из (5) следует разложение В на сумму B==BQ==BAi+BA2+ ... +5Л„ попарно несовместных событий, поэтому Р(В): -ЕР(5Л,). k=l теорему умножения, Применяя к слагаемым Р(ВЛ^) получаем (6). Пример 2. Вычислим в урновой схеме примера 1 вероятность события В = {второй вынутый шар — бе- лый}. Из классического определения вероятности имеем -м. piM-^i-l^L Р(Л): Р(Л)=- - JV • '(А'— N ' РЛ^-^Г. РЛ^-Т^Т М—1 п /гл М § 8. ФОРМУЛЫ БАИЕСА 29 По формуле полной вероятности р (В) = Р (Л) Р^ (В) + Р (Л) Р^ (В) __М М ~ N N- At М N N — 1 Af N ' т. е. Р(Л)== Р(В). Аналогично можно установить, что вынимая последовательно без возвращения шары, мы получаем одну и ту же вероятность вынуть белый шар на любом месте. Таким образом, при правильно орга- низованной жеребьевке шансы всех участников одина- ковы, независимо от того, в какой очередности они тя- нут жребий. Эту же задачу можно интерпретировать как вычисление вероятности вытащить белый шар из урны, из которой был случайно утерян один или не- сколько шаров. § 8. Формулы Байеса Теорема 3. Если выполнены условия теоремы 2 и Р (В) > 0, то имеют место формулы Р(Л,|В) (7) называемые формулами Байеса. Доказательство. По теореме умножения Р (Л,В) = Р (Л,) Р (В | Ли) = Р (В) Р (Ли ] В), откуда имеем Р(Л,|В)== Р(^)Р(Д1^) Р(В) Применяя к знаменателю Р(В) формулу полной ве- роятности (6), получаем (7). Формулы Байеса можно интерпретировать следую- щим образом. Назовем события Л^ гипотезами. Пусть событие В — результат некоторого эксперимента. Ве- роятности Р {Ak) — это априорные вероятности гипотез, вычисляемые до произведения опыта, а условные ве- роятности Р (Л& | В)—это апостериорные вероятности гипотез, вычисляемые после того, как стал известен 80 ГЛ. 2, УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ исход эксперимента В. Формулы Байеса позволяют по априорным вероятностям гипотез и по условным ве- роятностям события В при гипотезах Лд вычислять апостериорные вероятности Р (Л<; | В). Пример 3. Пусть имеются две урны, в каждой из которых по N шаров, причем в первой урне Mi белых шаров, а во второй урне Ms белых шаров. Проводимый эксперимент состоит в том, что мы сначала с вероят- ностью 1/2 выбираем первую или вторую урну, а затем из выбранной урны случайно вынимаем (с возвраще- нием) п шаров. Пусть событие В состоит в том, что все вынутые шары—белые. В этом случае имеем две гипо- тезы: Ai—выбор первой урны и Да—выбор второй урны. По условиям задачи априорные вероятности равны друг другу: P(Ai)==P(A2)== 1/2. Далее, легко вычис- ляются условные вероятности р(в ]Ль) =(-^-) мулы Байеса дают нам априорные вероятности: k 1/М,у -2 \-fT) _ < P(Ak\B}== , { Mi\" ^(J^Y ~ Al"+Al!, Если М^ < М^ то при п --> со Р (AI | В) == •ч^г таким образом, знание исхода В эксперимента в этом случае дает нам возможность существенным образом изменить наши априорные сведения о гипотезах А\ и Ач,. § 9. Независимость событий Понятие независимости относится к одному из ос- новных в теории вероятностей. Если события Л и В таковы, что Р(В)>0, то существует условная вероят- ность Р (Л | В). В случае, когда Р (Л | и) == Р (Л), мы говорим, что событие А не зависит от события В. Если и Р (Л) > 0, то в этом случае Р^)-^-^^-^ и из независимости Л от В следует независимость В от А, т, е. понятие независимости А \\ В симметрично. Из Фор- -1, 2. § 9. НЕЗАВИСИМОСТЬ СОБЫТИЙ 81 теоремы умножения вероятностей (3) следует, что для независимых событий А и В имеет место равенство Р(ЛВ)= Р (Л) Р(б). Это приводит нас к следующему определению независимости. Определение 3. События Л и В называются не- зависимыми, если Р(ЛВ)==Р(Л)Р(Д). (8) Если равенство (8) не выполняется, то события будем называть зависимыми. Это определение уже не содержит ограничений типа Р(Л)>0. В частности, если Р(Л)==0, то из АВ S Л следует, что и Р(ЛЙ)==0, а тогда, в силу (8), Л и В независимы. Из определения (8) следует Р(Л)=Р(Л|5) и Р (В) = Р (В | Л), если эти условные вероятности су- ществуют (т. е. Р(5)>0 и Р(Л)>0 соответственно). Обычно независимость Л и В, которую иногда назы- вают теоретико-вероятностной, или статистической, не- зависимостью (в отличие от причинной независимости реальных явлений), не устанавливается с помощью ра- венства (8), а постулируется на основе каких-либо внешних соображений. С помощью же равенства (8) мы вычисляем вероятность Р(Л5), зная вероятности Р(Л) и Р(В) двух независимых событий. При установ- лении независимости событий Л и В часто используют следующий принцип: события А и В, реальные прооб- разы. которых А и В причинно независимы, независимы в теоретико-вероятностном смысле. Реальный смысл этого принципа можно связать со свойством устойчи- вости частот. Пусть при Л^ наблюдениях N{A), N (В), N (АВ} — частоты событий Л, чивости частот следует В и АВ. Так как из устой- N(A) N Р(Л), N(B) N Р(В), N(AB} N(AB) N Р(АВ) Р(ЛВ), N(B} ' • ' Р(Д) то из независимости событий Л и В, т. е. из Р(Л1В)= := Р(Л), вытекает N{AB} N(A) N (В) ~ N 32 ГЛ. 2. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ или, что равносильно, N (Ли) N N_W__N_(B)_ N N (9) Свойство (9) для причинно независимых реальных со- бытий Л и В установлено многовековой практикой че- ловека. Это и позволяет нам сформулировать приве- денный выше принцип. Надо отметить, что этот принцип ни в коем случай не является теоремой. Так как он сформулирован не в терминах математической модели, то он и не может быть теоремой. И, конечно, из теоретико-вероятностной независимости событий Л и В не следует причинная независимость их реальных прообразов Л и В. Сле- дующий пример показывает, что независимость может исчезнуть, если незначительно изменить вероятностную модель. Пример 4. Из колоды в 52 карты (состоящей из 13 карт каждой из четырех мастей) случайно вынимаег- ся карта. Рассмотрим события Л == {вынут туз} и В ==. == {вынута карта бубновой масти}. Тогда событие ЛВ ==. == {вынут туз бубновой масти}. Поскольку в этом слу- чае р (Л) ==4/52 =1/13, Р (В) =13/52 =1/4, Р (ЛВ) == 1/52 = Р (Л) Р (В), то события Л и В независимы. Если же колода карт со- держит еще и джокер, то Л и В станут зависимыми, так как Р (Л) =4/53, Р (В) =13/53, Р(ЛВ)=1/53 и Р(ЛВ)^Р(Л)Р(В). Понятие независимости двух событий распростра- няется на случай нескольких событий. Определение 4. События А\, Лг, ...,Л„ назы- ваются независимыми, если для любых 1 ^ fi < 12 < ••• .. . !s все различны, вероятность Р (Ai^Ai ... Л, ) > 0, то Р(Л/,...Л^ Л^...Л^)=Р(Л/,...Л,,). (11) Доказательство. Из независимости событий Ль .:., Лд следует Р(Л,...Л,^=Р(Л,)...Р(Л^), Р(Л,,...Л,,)=Р(Л/,)...Р(Л^ и Р(Л,....Л^Л/,...Л^)= =Р(Л,)...Р(Л^)Р(Л/,)...Р(Л,,), поэтому Р (Л Х ^ (Л/^ . . . Л/ ), а отсюда вытекает (11). § 10. Независимость разбиений, алгебр и о-алгебр Определение 5. Пусть у—некоторая система множеств. Наименьшая алгебра множеств J^(v), содеп жащая у, называется алгеброй, порожденной системой у. 2 Б. А. Севастьянов л^пл/, ... Л^)=Р(Л,, ... л^)х 84 ГЛ. 2. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ § П. НЕЗАВИСИМЫЕ ИСПЫТАНИЯ 35 Аналогично определяется о-алгебра, порожденная у, как наименьшая о-алгебра, содержащая у. Если мы за систему множеств ос возьмем разбиение А\, Аг, ..., An, т. е. такие множества Л„ что Ai+' -т- А;+ ... +Ап == Q и ЛИ/ = 0 при f ^ /', то нетрудно видеть, что алгебра ^(сх), порожденная разбиением а, является конечной (т. е. в нее входит лишь конечное число множеств) и состоит только из пустого множе- ства и множеств вида Л.,+^+ ... +А^. Имеет место обратное свойство. Теорема 5. Каждая конечная алгебра множеств порождается некоторым разбиением. Доказательство. Пусть 06—конечная алгебра событий. Обозначим ^щ совокупность всех BG.SS, для которых ю s В. Для каждого cos Q введем Вщ== П ^' Вейщ Покажем, что для двух со ^ с/ либо Вщ = йщ', либо д^ П 5(о' == 0 • Для любых © е Q и 5 е Я имеет место следующее свойство: если со е 5, то йщ s В. Пусть теперь со s 5щ'; тогда Да s Вд/. Далее, если со' е Ва' то 5 о's Да и, следовательно, Вщ'==Вш. Случай о/еДв невозможен, так как приводит к противоречию Вц,' ^ Дд (а мы уже доказали, что Вщ с Вщ'). Выберем среди By, разные множества В\, By,, ..., Вг. Они образуют раз- биение, так как Bi + ••• +Br=Q и 5,В, == 0 при t =7^ /• Поскольку любое 5 е ^ представимо в виде .6= J B(O, то это разбиение порождает алгебру ^, йеВ что и требовалось доказать. П р и м е р 6. Разбиение Л + Л == Q порождает алгебру ^={0,0, Л, Л}. Пример 7. Разбиение Л1+Л2+Лз==й порождает алгебру ^ == {0, Q, Ai, Лг, Лз, Л, + Ла, Ai + Лз, Лз + ^з)' Определение 6. Разбиения cife: Лй1+Ли+ ... ^-^-^й. fe= 1> •••> "> называются независимыми, если для любых /и, 1 ^ ^ 1й ^ rk, k = 1, . . . , П, Р (Л1,,Л„, ... Л„,„) - Р (Л„.) Р (Л^) ... Р (Л^). Определение 7. Алгебры (или а-алгебры) собь'- тий s^\, ^2, •••, •^-п называются независимыми, если для любых Лге ^, РИА... Л„)=Р(Л1)Р(Л2)...Р(Л„). Теорема 6. Конечные алгебры s^\, sS"i, ..., sin независимы тогда и только тогда, когда независимы по- рождающие их разбиения cci, 0,2, • • • > Стп. Доказательство. Так как порождающее &Ф,. разбиение к; есть подсистема ^г, т. е. к, S sf-i, то ш независимости ^i, ..., st-n следует независимое iti ffli, ..., ttn. Каждое А е. sf'i есть сумма попарно не- совместных событий из кг, поэтому обратное заключе- ние получаем из следующей леммы. Лемма 1. 1°. Если события А и В независимы, то события А и В также независимы. 2°. Если А^ и В неза- висимы и Ач и В независимы, а А\А^==0, то Ai4-/''2 и В независимы. Р (ВЛ) == Р (В \ АВ) =P(6)-P(A)P(fi) Доказательство. 1°. Из независимости Л и В следует Р (В) - Р (АВ) == Р(В)(1~Р(Л))==Р(5)Р(Л), т. е. В и Л также независимы. 2°. Из независимости Л; и В имеем Р(Л;В)== Р(Л;)Р(В), откуда вытекает Р((Л,+Л2)В)==Р(Л,8)+Р(Л2В)=Р(Л,)Р(В)+Р(Л2)Х ХР(В)==(Р(Л1)+Р(Л2))Р(Д)=Р(Л,+Л2)Р(5), т. е. "1 + Лг и В независимы. Следствие. Каждое событие Л порождает раз- биение Л + А === Q, которое в свою очередь порождает алгебру ^(Л). Из леммы I вытекает, что независимое i л событий А), ..., An и независимость порожденных ими алгебр sf-(A^, ..., ^-(Ап) эквивалентны. § 11. Независимые испытания Под испытанием мы будем понимать некоторый экс- леримент, исходами которого служат те или иные слу- ^йные события. В принятой нами аксиоматике испытi- ние — это некоторое вероятностное пространство. Пусть 2* 35 ГЛ. 2. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ даны п испытаний, т. е. даны вероятностные простран- ства (Ql, ^i, Р,), ..., (0„, ^п, Рп). (12) Если эти вероятностные пространства есть модели не- которых причинно независимых испытаний, то ст-алгеб- ры si\, sii, ..., s4-n должны быть независимыми. Но для того чтобы иметь возможность говорить о теоре- тико-вероятностной независимости, мы должны рассмат- ривать ?4-i как о-подалгебры о-алгебры si одного об- щего вероятностного пространства (Q, si, P). Такое ве- роятностное пространство всегда можно построить. Мы проделаем это построение в частном случае, когда ве- роятностные пространства (12) конечны. Итак, пусть (Q„ J^„ Р<)—конечное вероятностное пространство, и, =={©;}, sl-i состоит из всех подмно- жеств QI, а вероятность Р, (Л) === ^ pi (со,) задается и, е Л с помощью вероятностей элементарных событий p,(fi)(), и; е Qi. Построим прямое произведение вероятностных пространств (12) (Q, si, Р), полагая Q=Q|X^2X • • • ... X Q„, точки которого о <= Q есть векторы а == ===((0i, Юг, ..., е»„) с компонентами со, е Q,, г==1, ...,п, ?4-— алгебра всех подмножеств Q, Р (») = Pi (®i) .. • Рп ^п), Р (А) = Z /? И. (13) шеЛ Построенная так вероятность Р называется прямым произведением вероятностей Р» и обозначается Р == == PI X • • • Х Рп- Аналогично в этом случае si-= =-= sf-i X • • • Х ^га есть прямое произведение алгебр. В построенном вероятностном пространстве выделим класс событий Л, называемых прямоугольниками, оп- ределяемый следующим образом. Пусть Л, г s^i, i = ==1, ..., п. Прямоугольник (14) состоит из тех и только тех co==(coi,(02, ••-, (On), для которых а», е Л,, t == 1, ..., п. Из определения вероят- ности (13) следует, что вероятность прямоугольника (14) § II. НЕЗАВИСИМЫЕ ИСПЫТАНИЯ 37 равна Р(Л)- Е^(»)= Z M»l)... ? Лг^)- ше Л (в, е Л, -ПР.Ш. (15) k-\ Обозначим ?4-'k подалгебру алгебры si, состоящую из всех тех прямоугольников (14), у которых AI=Q( для t Ф k. Нетрудно видеть, что между событиями A'i=. Qi X ... Х Q.-I Х Ai Х й.+i X ... Х и» е ^ и Л^ е si-^ устанавливается естественный изоморфизм А\ ~ А^, поэтому вместо событий Л^ из вероятностного пространства (и,, •^«•> Р») можно рассматривать изо- морфные события А\ из подалгебры s4-[ вероятностного пространства (Q, «^, Р), Из определения вероятности (15) следует Р(Л;)= Р^(Л,). Так как A==Ai X • •. Х Л^== п ("] Л^, то из (15) получаем для любых A^s^ &=i Р (га \ га Д/О-ПР(Л,), г. е. алгебры .s^, ..., ^независимы. Схема Бернулли. Частный случай независимых испы- таний, с двумя исходами в каждом из испытаний, стро- ится следующим образом. Пусть вероятностные прост- ранства в (12) таковы, что Q, == {О, 1}, ^ = {0, {0},"{!}, и;}, р(0)==р, p{l)=q, /^^^l. Тогда в прямом про- изведении (Q, si, Р) имеем Q ={<»}, й==(со;, ю,, ..., и ), ^==0, 1, (16) i-i Построенная схема независимых испытаний называется схемой Бернулли. Обычно она трактуется следующим °бразом. Пусть некоторый исход Л, который мы будем называть успехом, может произойти при каждом испы- тании с одной и той же вероятностью р; противополож- ный исход л {неуспех) может произойти при каждом 38 ГЛ. 2. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ испытании с дополнительной вероятностью q == 1 — р. В элементарном событии со = (coi, ..., ©я) имеем со, = 1, если при t-м испытании произошел успех, и ог = О в противоположном случае. Обозначим Bk =={о): (DI -J- ... ... + (On == ^} событие, состоящее в том, что при п не- зависимых испытаниях в схеме Бернулли произошло ровно k успехов. Поскольку из (16) следует, что при ю г Bk p((й}=pkqn-k, то Р {Ви)== pkc^n~kX (число эле- ментарных событий to e Bk). Итак имеем, P(Bk}=Ckгpkqn~k, k=0,l,...,n. (17) Вероятности (17) называются биномиальным распреде- лением. Примерами, в которых появляется биномиаль- ное распределение, служат: выборка с возвращением (§ 4, формула (15)), выпадение шестерки т раз при п бросаниях игральной кости (вероятность этого события (1 ^ ОТ / е < ft— Ш\ ^•т т) ("к') )' ро^^1116 /" мальчиков при реги- страции п рождений (если вероятность рождения маль- чика р=0,51, то вероятность рождения т мальчиков при регистрации п рождений равна СТ (0, 51)'"'(0, 49)""'"; обширный статистический материал, собранный в раз- ное время и в разных странах, свидетельствует о том, что вероятность р >• 1/2 и примерно равна 0,51—0,52). Полиномиальная схема. Более сложная схема п не- зависимых испытаний получается, когда при каждом испытании возможно появление одного из г попарно не- совместных исходов. Пусть f-e испытание связано с вероятностным пространством (Qi, sf-i. Pi}, где Qs == =={1, 2, ..., г} состоит из номеров 1, 2, ..., г исходов. Пусть pi, .,., рг—вероятности этих исходов, pi + ••• ... -\-pr=\, a s4-i состоит из всех подмножеств Qi. В прямом произведении вероятностных пространств (Q, s^, Р) элементарное событие ю s О равно <в == ==((ui, ..., й)„), где цц—номер исхода при г-м испыта- нии. Полагая р (со) == р^ р^ ... р^ , вычислим вероятность события ' 2 " Д»,...п =={в п независимых испытаниях произошло ровно по tils k-\ исходов}^ "1 + "2 + • • • + Пг = П, ЗАДАЧИ 39 Так как для любого (о е Вд Р^)-~П.Р?, 6=1 п,! ...Пг\ ' p^•••^--^гlL^^•••Pnrr^ /!i+ •• • +Пг=П. а количество точек в Вщ---щ. равно полиномиальному коэффициенту ^, " ^, , то »' "• -"- (18) Распределение (18) называется полиномиальным; опи- санная схема независимых испытаний с г исходами также называется полиномиальной. При г == 2 эта схе- ма превращается в биномиальную схему Бернулли. Задачи 1. Из множества чисел 000, 001, .... 999 равновероятно выби- рается одно число. Какова вероятность того, что это число не со- держит цифру 1, если все. его цифры различны? 2. Из урны. содержащей М белых и N — М черных шаров, случайно последовательно по схеме выборки без возвращения извле- каются три шара. С помощью теоремы умноже- ния найти вероятность того, что появится после- довательность шаров: белый, черный, белый. 3. Показать, что любая конечная алгебра' со- бытий состоит из 2* событий, где k — натураль- ное число. Рис. 8. 4. Плоскость расчерчена параллельными пря- мыми, расстояния между соседними прямыми, че- редуясь, равны а и Ъ. На эту плоскость случайно бросается игла длины / < min{a, Ь}. Пользуясь решением задачи Бюффона и формулой полно» вероятности, найти вероятность того, что игла пересечет одну из этих прямых. 5. На бесконечную шахматную доску с длиной стороны квад- рата а. случайно бросается монета радиуса г < о/2. Найти вероят- ность того, что монета пересечет сторону какого-либо квадрата. 6. В последовательности п независимых испытаний с вероят- ностью р успеха в каждом из испытаний произошел ровно один Успех. Какова вероятность того, что успех произошел при втором испытании? J- В схеме испытании задачи б произошло ровно два успеха. Найти вероятность того, что успехи произошли в соседних испы- таниях. 8. На паркет, составленный из прямоугольников со сторонами a I1., Ь, а < Ь, случайно бросается монета радиуса г, 2г <: min{o, &}. "аити вероятность того, что монета заденет меньшую сторону 40 ГЛ. 2. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ какого-нибудь прямоугольника, если известно, что она какую-то сто- рону задела. 9. Для перехода улицы пешеходу нужно три секунды. Каждую секунду с вероятностью р по улице проезжает автомобиль и с ве- роятностью q = 1 — р улица свободна. Будем считать время дис- кретным (по секундам), а наличие или отсутствие автомобиля на улице в разные моменты времени независимыми испытаниями. Пе- шеход начинает переходить улицу лишь в том случае, если в тече- ние трех секунд она будет свободна от автомобилей на переходе. Найти вероятность того, что пешеходу придется ждать перехода а) больше двух секунд; б) больше трех секунд. 10. Бросаются две игральные кости. Какова вероятность того, что на первой кости выпала 1, если известно, что на второй кости выпало число очков больше, чем на первой? (Применить формулу Байеса.) 11. В единичный квадрат со вписанным в него кругом независи- мо с равномерным распределением случайно бросается 6 частиц. Найти вероятность того, что ни одна из пяти частей квадрата не будет свободна от частиц (см. рис. 8). Глава 3. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ (КОНЕЧНАЯ СХЕМА) § 12. Случайные величины. Индикаторы Рассмотрим конечное вероятностное пространство (Q, si, Р). Числовую функцию от элементарного собы- тия g==^(co), © е Q, назовем случайной величиной. Мы будем обычно обозначать случайные величины грече- скими буквами i, т], t,, (A, v, ... и т. п. (в англо-амери- канской литературе и иногда у нас случайные величины обозначаются прописными латинскими буквами X, Y, Z и т. п.). Пример 1. В схеме независимых испытаний Бер- нулли в § 11 множество и состоит из элементарные событий о ==((»i, к>2, ..., (йп), где (йг=1, если при г-м испытании произошел успех, и со, == 0 в случае неуспеха. Случайная величина (^i=,=(i((i))==(0i+(02+ ••• +®п равйа числу успехов при п испытаниях в схеме Бер- нулли. Пример 2. Рассмотрим следующую урновую схему. Пусть в урне имеется N шаров, из них М белых, осталь- ные — черные. По схеме выборки без возвращения из Урны извлекаются п шаров (см. § 4, пример 3). Пере- нумеруем все N шаров числами 1, 2, ..., N так, чтобы белые шары получили номера 1, 2, ..., М. Тогда мно- жество и можно составить из элементарных событий, состоящих из подмножеств (0=={г'1,г'2, •••, in}, ii <• "< t'2 <; ... •< in, мощности п множества целых чисел {1,2, ..., N}. Элементарное событие (0={t'i,i2, •••, in} соответствует выборке, в которую вошли шары с номе- рами i^ ;2, ..., in. Случайная величина t, равная числу белых шаров в выборке, определяется как функция от и следующим образом: S;=^((O)=/H, если в ©=={ti, ... . •, in}, i,n s^ M < t'm+i при 1 ^ m < n; g(co) = 0, если т < t'i; Е;(ю) == /г, если in •Ss M. 42 ГЛ. 3. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ (КОНЕЧНАЯ СХЕМА; Пусть g(x\, ..., Xr)—числовая функция от число- вых аргументов xi, ... , Xr, a gi, ..., ^r—случайные ве- личины. Тогда сложная функция T) = T]((O)== g(|i((o), i2((i)), ..., Sr(o>)) также будет случайной величиной. В частности, так определяются случайные величины, г г равные сумме ^ ^ и произведению H^fc случайных ^-=i *=i величин. С каждым событием А <=. sf- можно связать случай- ную величину Г 1, если «»<= Л, /Л^ЛН-^ ^ „^ называемую индикатором события Л. Индикаторы удов- летворяют следующим легко проверяемым свойствам: /0sa0, /a si, /лв==/л/а, /^ = 1 -/л. (1) Если события Л], ..., Л„ попарно несовместны, то нетрудно установить, что / " == S /л,. Г .4. *°1 It Выведем формулу для индикатора объединения |) Аь __ ft-i любых событий. Так как U Лд== f] Ль, то учитывая ft k свойства (1), мы имеем / =1-/——=1-/ ^ rt и л* А=1 я U -^ fc-1 B П ^й *-1 " -1-11^=1-^1-^). fc-1 " t-1 \ "" fc-1 откуда следует 1 п U л^ *-i ~ + 2-1 ^ЛьЛ, + 1со §о '"•' о ^8 ^ г^ о" т— «о СП со о 00. о '"•' о 00о я 00 о 00 о" '""' 10 § 9 о 0>. о' '"'* g 1-» о" ст ю g 3. 1—1 о CN" о S (N о со о" м § 00ю ^ о ю. о"