Проблемы теории вероятности

МИНОБРНАУКИ РОССИИ

Государственное образовательное учреждение высшего профессионального образования «Челябинский государственный университет»

Реферат

Теория вероятности

Выполнил: Орлов Е.А., аспирант кафедры теории управления и оптимизации, специальность: 051318 «математическое моделирование, численные методы и комплексы программ»

Научный руководитель: д.т.н., проф. Тырсин А.Н.

Челябинск, 2012

Оглавление

Введение              3

Развитие теории вероятностей              4

Понятие субъективной вероятности.              13

Условная вероятность, независимость и теорема Байеса              16

Теория информации              19

Заключение              21

Список литературы              22

Введение

Несмотря на то, что теория вероятностей лежит в основе обыденных вещей, это, пожалуй, единственный раздел математики, где можно столь легко допустить ошибку. Помимо широкого поля для софизмов, эта наука обладает и большим количеством парадоксов.

Философские вопросы в теории вероятностей возникают в основном при попытках истолкования теории на практике, анализе исходных понятий или благодаря анализу парадоксов. Поле практического применения теории вероятностей огромно в связи с возникновением на ее основе теории информации, существованием математической статистики, теории случайных процессов.

Классическая на данный момент аксиоматика теории вероятности была предложена А.Н. Колмогоровым в 1933 году. Это была третья и самая успешная попытка аксиоматизации после Р. фон Мизеса (1914) и С.Н. Бернштейна (1917), когда классическое понятие вероятности основывалось на равновозможности событий. Это понимание вероятности, трактуемое сейчас как элементарное, равно как и развитие понятия вероятности события, подробно рассматриваются в следующем разделе.

Основным понятием, благодаря которому в современной математике теория вероятностей считается отделенной от теории меры и интеграла, является независимость случайных событий или случайных величин. Попытки математизации понятия вероятности вынудили ученых к более глубокому осмыслению понятий независимости и причинных связей.

Аппарат аксиоматизированной теории вероятностей привел к появлению математической статистики как самостоятельной математической дисциплины. Если задачи теории вероятностей состоят в выводе свойств, основанных на заданной вероятностной модели, то задачи математической статистики заключаются в нахождении вероятностных моделей, с которыми бы лучше всего согласовывались статистические свойства наблюдаемых эмпирических данных.

Развитие теории вероятностей

Задачи и проблемы, которые оказали существенное влияние на зарождение и первоначальное развитие теории вероятности, возникали при обработке статистических данных и результатов наблюдений в различных науках, из практики страховых обществ, а так же в связи с отвлеченными задачами на темы азартных игр. Разработка таких вопросов была тесно связана с комбинаторикой, с развитием взглядов на случайность и необходимость в философии.

Первоначальные вопросы вероятностного характера, возникавшие в самых различных сферах деятельности человека, со временем начали выкристаллизовываться в понятие и методы теории вероятностей. А первые серьезные попытки анализа закономерностей случайных событий возникли в конце эпохи Возрождения. С XVI по начало XIX века такие известные деятели науки как Кардано, Паскаль, Ферма, Гюйгенс, Бернулли, Муавр, Лаплас, Байес, Гаусс и Пуассон получили важные для науки результаты, основываясь на понятии элементарной вероятности случайного события как отношения числа возможных исходов опыта, благоприятствующих событию, к общему числу мыслимых равновозможных исключающих исходов опыта.

Одним из самых важных результатов был полученный Яковом Бернулли в 1713 году закон больших чисел (в упрощенной форме): если один из результатов опыта имеет вероятность , a является маленьким положительным числом, то вероятность того события, что при проведении n опытов результат будет наблюдаться от до раз, становится сколь угодно близкой к единице при выборе достаточно большого числа . Так, несмотря на хаос в большом количестве не связанных между собой явлений, в среднем могут возникать вполне четкие закономерности. Таким образом была выявлена важность рассмотрения бесконечных последовательностей повторных испытаний, предела относительной частоты появления того или иного события в этих испытаниях, выявлено различие между понятием вероятности события и частоты его появления в конечном числе испытаний, а также возможность приближенного определения неизвестной вероятности события по его относительной частоте при большом количестве испытаний.

Муавром была открыта закономерность в поведении отклонений результатов последовательности опытов от среднего значения, впоследствии получившая название центральной предельной теоремы теории вероятностей. Вследствие нее, а также вследствие закона, открытого Гауссом для поведения суммы большого числа независимых ошибок, было открыто нормальное или гауссовское распределение значений случайной величины в нынешнем понимании этих терминов. Но в то время оно рассматривалось только как некоторое предельное образование.

Примерно в то же время Ж. Бюффоном была рассмотрена ставшая классической задача об игле. На плоскость, разграфленную параллельными прямыми, отстоящими друг от друга на расстоянии , наудачу бросается игла длиною , причем . Какова вероятность того, что игла пересечет одну из проведенных параллелей? Решение этой задачи потребовало рассмотрение другого понятия вероятности - геометрического. Положение иглы определяется двумя числами: - расстоянием от центра иглы до ближайшей прямой, и - острым углом между перпендикуляром к этой прямой и иглой. При этом лежит в промежутке между и , a - между и . Предполагается, что имеет одинаковую возможность оказаться любой точкой прямоугольника , и величина не зависима от величины . Тогда искомая вероятность определяется как отношение площадей, соответствующих благоприятствующим и всем возможным исходам, и равна . Эта задача послужила основой для экспериментальной проверки закона больших чисел, с помощью нее также можно найти приближенное значения числа . Таким образом задачу Бюффона можно считать одной из первых, показавших применимость теории вероятностей нетривиальным образом для решения детерминистических задач.

Одним из способов определения равновозможности был принцип безразличия, согласно которому равновозможность есть либо невозможность предпочесть один исход другому, либо симметричность возможностей получить тот или иной исход. Если у правильной игральной кости стереть маркировку граней, то их станет невозможно различить. Ясно, что определение того, в какой мере высказывание относительно реальной равновозможности исходов соответствует действительности, возможно только опытным путем при наблюдении относительных частот результатов опыта в сериях испытаний. Неравновозможность исходов испытания становится препятствием к применению понятия элементарной вероятности.

Иллюстрацией этого может быть рассуждение типа парадокса Бертрана. С целью упрощения предположим, что мы имеем емкость, случайным образом наполненную концентратом сока и водой. Объем концентрата не меньше объема воды, и не больше двукратного объема воды. В силу принципа безразличия или симметрии, мы должны заключить, что с вероятностью 1/2 объем концентрата не превосходит полуторного объема воды, и с той же вероятностью его объем лежит между полуторным и двукратным объемом воды. С другой стороны об отношении объемов воды и концентрата нам известно только лишь, что оно лежит между 1/2 и 1, и по тому же принципу, с вероятностью 1/2 находится между 1/2 и 3/4, т.е. с вероятностью 1/2 соотношение объемов концентрата и воды лежит между 4/3 и 2, что является противоречием.

Открытие в 19 веке феномена случайного Броуновского движения и радиоактивного распада также вынуждали пересмотреть сложившуюся концепцию вероятности. Одним из выходов из этой ситуации могло быть определение вероятности, исходя из относительных частот. В 1905 году Э. Борель в упрощенном виде доказал усиленный закон больших чисел, а именно, что относительные частоты стремятся к значению вероятности с вероятностью 1, или почти наверное.

В середине XIX века Курно предложил свой взгляд на понятия причины и случайности. Согласно Курно в мире есть ряды явлений, связанных причинно-следственной зависимостью. Есть ряды явлений, связанные зависимостью, и независимые ряды явлений. Независимые ряды явлений существуют, по крайней мере потому, что связь между отдаленными явлениями (например взмахом крыльев бабочки в ПУНКе и тайфуном в тихом океане) невозможно рассчитать, и потому даже если связь есть, то ни в чем заметном она проявляться не будет, так что на практике естественно предполагать ее отсутствие. События, возникшие по причине комбинации явлений, принадлежащих независимым рядам событий, называются случайными. Курно отграничивает понятие случайности в определенном им смысле от обыденного словоупотребления, когда охотнее называют случайными события, которые редки и удивительны. Целью статистического анализа данных Курно считает исключение случайных причин видимых закономерностей и изучение постоянных, закономерно действующих причин во всем спектре наук о природе и обществе. Математическая вероятность есть мера физической возможности осуществления события, которое может осуществляться или не осуществляться в зависимости от переменных сочетаний случайных причин. Оценивать ее можно рассматривая относительные частоты осуществления события при существенно одинаковых условиях. Курно вводит термин физической невозможности явления. Физическими невозможными считаются явления с нулевой вероятностью, как например, равновесие конуса, поставленного на вершину. Невозможность физическая отлична от невозможности математической или метафизической. Есть единственная возможность того, что конус, поставленный на вершину будет стоять, но эта возможность не может оказаться в предпочтении перед бесконечным числом других возможностей поставить конус на вершину, во всех из которых он упадет.

В 1914 году Р. фон Мизес предложил частотный подход для аксиоматизации теории вероятностей, положив в основу ту идею, что вероятностные концепции могут применяться только к так называемым коллективам, т.е. бесконечным упорядоченным последовательностям, обладающих некоторым свойством случайности их образования. Пусть имеется некоторое пространство исходов эксперимента и предполагается возможность проведения бесконечного числа испытаний, приводящих к последовательности , где - результат исхода -го эксперимента. Для некоторого подмножества в множестве исходов экспериментов можно рассматривать относительную частоту появления в первых испытаниях. Последовательность называется коллективом, если для опытов существует предел относительных частот при , который и называется вероятностью события , и этот предел должен оставаться неизменным, если относительные частоты рассчитывать исходя из подпоследовательности , полученной с помощью некоторой заранее оговариваемой системы (алгоритма) правил выбора номеров членов первоначальной последовательности . Эвристически этот принцип называется принципом иррегулярности, или принципом невозможности системы игры.

Основные возражения против практической интерпретации концепции фон Мизеса заключались в том, что в реальности мы имеем дело с конечными, а не бесконечными последовательностями. Тем самым в реальности невозможно определить, существует ли предел относительных частот, и меняется ли он при переходе к подпоследовательности. Однако на практике было замечено, что относительные частоты многих массовых явлений имеют тенденцию к устойчивости. Оставалась неясность в способе образования подпоследовательностей, при котором предел должен был оставаться инвариантным. В самом деле, если рассмотреть последовательность чередующихся нулей и единиц, то предел относительной частоты нулей будет 1/2. Однако можно выбрать подпоследовательность, состоящую только из нулей, для которой предел будет равным 1. Отсюда можно заключить, что не существует нетривиальных коллективов с пределами относительных частот, инвариантными относительно всех способов образования подпоследовательностей. Ж. Вилль доказал, что теорияМизеса не позволяет доказать закон повторного логарифма, что указывало на ограниченность потенциальных возможностей теории, а потому было аргументом против ее широкого использования.

У С.Н. Бернштейна основным объектом аксиоматики было понятие случайного события, система аксиом была основана на понятии качественного сравнения событий по степени их большего или меньшего правдоподобия. Само же численное значение вероятности появлялось как некоторое производное понятие. Ввиду сложности с интерпретацией аксиом эта теория развития не получила. Впоследствии весьма сходный подход, основанный на субъективных качественных суждениях, был развит известным итальянским ученым Бруно де Финетти (см. раздел 3).

В классической теории вероятностей неопределяемыми являются понятия случайного события и численного значения его вероятности. Неопределяемыми они являются в том смысле, что их свойства описываются через аксиомы. Так как эти понятия являются наиболее фундаментальными, то их аксиоматизация обеспечила возможность глубокого развития теории, не зависимого от возможных приложений, и в силу этого обеспечила ее большую эвристическую мощность.

Рассматриваются 3 объекта, обозначаемые . является некоторым непустым множеством, и называется опытом, а его элементы возможными исходами опыта. состоит из некоторых подмножеств , среди которых обязательно есть пустое множество и само . Любое множество из называется событием, состоящим из всех принадлежащих ему исходов опыта. Множества из совокупности называются наблюдаемыми событиями, в то время как подмножества , не входящие в - ненаблюдаемыми событиями. Мера , определенная на всех множествах из совокупности и принимающая значения от 0 до 1, и называется вероятностью. Мера пустого множества 0, мера . Аналогами меры являются длина на прямой, площадь на плоскости или объем в пространстве. Вероятность ненаблюдаемых событий однозначно не определена. Если какое-то событие наблюдаемо, то и противоположное ему событие также должно быть наблюдаемо. Если наблюдаемы два события, то и событие, состоящее из исходов, принадлежащих хотя бы одному из этих двух событий, тоже наблюдаемо. С точки зрения математики этими рассуждениями на накладывается определенное ограничение - это семейство множеств должно образовывать алгебру. В классической аксиоматике требуется даже несколько больше, чтобы было замкнуто относительно счетных объединений множеств. В своей книге «Основные понятия теории вероятностей» Колмогоров, описывая схему условий, по которой теория может применяться к реальным экспериментам, во многом следует фон Мизесу. Предполагается, что имеется некоторый комплекс условий, дающий возможность проведения неограниченного количества экспериментов. Еще предполагается, что событию может быть приписано число , такое что практически можно быть уверенным в том, что относительная частота события в экспериментах при больших будет мало отличаться от . Если близко к 0, то практически можно быть уверенным, что в единичном эксперименте события не произойдет.

Определенное отношение к проблеме малых вероятностей имеет и Петербургский парадокс, известный с начала 18 века. Речь идет о бросании правильной монеты до тех пор, пока не выпадет решка; если это событие произойдет при -ом бросании, то игрок получает из банка рублей. Вопрос в том, какова должна быть плата за участие в игре, чтобы игра стала безобидной, т.е. среднее значение (при проведении многих игр) чистого выигрыша равнялось 0. Парадокс возникает после подсчета полного математического ожидания выигрыша игрока. Очевидно, что игрок может продать свои права на выигрыш на -ом шаге различным лицам, и справедливая цена этого есть вероятность окончания игры на -ом шаге , умноженная на получаемый при этом выигрыш . Таким образом полное математическое ожидание представляет собой сумму неограниченного числа единиц, т.е. бесконечно. Таким образом игра выгодна при любой плате за участие в ней. С другой стороны разумный и имеющий опыт в игре человек не согласится заплатить и 100 рублей за участие в этой игре. Есть несколько объяснений этого парадокса. Объяснение, предложенное Бюффоном и Крамером, вводит в расчет количество денег, которыми располагает банк. Объяснение, предложенное Феллером ([10]) привязывает вступительный взнос к количеству игр, в котором готов участвовать игрок. В объяснении, предложенным Э. Борелем, делается замечание о том, что права на выигрыш на 1000 и последующих шагах будет не продать из-за маленькой вероятности астрономического выигрыша. «Чтобы иметь сколько-нибудь значительные шансы получить этот выигрыш, необходимо было бы бросать монету каждую секунду в течение миллиардов веков в каждом кубическом сантиметре вселенной» . И выплата выигрыша была бы проблематичной - необходим бы был объем золота размером с шар с центром в Солнце и радиусом, равным расстоянию до альфы Центавра.