
Тео́рия вероя́тностей — раздел математики, изучающий случайные события, случайные величины, их свойства и операции над ними.

Вероя́тность — степень возможности наступления некоторого события. Когда основания для того, чтобы какое-нибудь возможное событие произошло в действительности, перевешивают противоположные основания, то это событие называют вероятным, в противном случае — маловероятным или невероятным. Перевес положительных оснований над отрицательными, и наоборот, может быть в различной степени, вследствие чего вероятность бывает большей либо меньшей. Поэтому часто вероятность оценивается на качественном уровне, особенно в тех случаях, когда более или менее точная количественная оценка невозможна или крайне затруднена. Возможны различные градации «уровней» вероятности.

Андре́й Никола́евич Колмого́ров — советский математик, один из крупнейших математиков XX века. Один из основоположников современной теории вероятностей, им получены фундаментальные результаты в топологии, геометрии, математической логике, классической механике, теории турбулентности, теории сложности алгоритмов, теории информации, теории функций, теории тригонометрических рядов, теории меры, теории приближения функций, теории множеств, теории дифференциальных уравнений, теории динамических систем, функциональном анализе и в ряде других областей математики и её приложений. Автор новаторских работ по философии, истории, методологии и преподаванию математики, известны его работы в статистической физике.

Бори́с Влади́мирович Гнеде́нко — советский математик, специалист по теории вероятностей, математической статистике, вероятностным и статистическим методам, член-корреспондент (1945) и академик (1948) АН УССР.

Пал Э́рдёш — венгерский математик, один из наиболее продуктивных математиков XX века. Работал в самых разных областях современной математики: комбинаторика, теория графов, теория чисел, математический анализ, теория приближений, теория множеств и теория вероятностей. Лауреат множества математических наград, включая премию Вольфа (1983/1984). Основатель премии Эрдёша.

Алекса́ндр Я́ковлевич Хи́нчин — советский математик, профессор МГУ, один из наиболее значимых учёных в советской школе теории вероятностей. Член-корреспондент АН СССР (1939), действительный член АПН РСФСР (1944). Лауреат Сталинской премии второй степени за работы по теории вероятностей.
Хронология событий, связанных с
теорией информации,
сжатием данных,
кодами коррекции ошибок и смежных дисциплин:
- 1872
— Людвиг Больцман представляет свою H-теорему, а вместе с этим формулу Σpi log pi для энтропии одной частицы газа. - 1878
— Джозайя Уиллард Гиббс, определяет энтропию Гиббса: вероятности в формуле энтропии теперь взяты как вероятности состояния целой системы. - 1924
— Гарри Найквист рассуждает о квантификации «Интеллекта» и скорости, на которой это может быть передано системой коммуникации. - 1927
— Джон фон Нейман определяет фон Неймановскую энтропию, расширяя Гиббсовскую энтропию в квантовой механике. - 1928
— Ральф Хартли представляет формулу Хартли как логарифм числа возможных сообщений, с информацией, передаваемой, когда приёмник может отличить одну последовательность символов от любой другой. - 1929
— Лео Силард анализирует демона Максвелла, показывают, как двигатель Szilard может иногда преобразовывать информацию в извлечение полезной работы. - 1940
— Алан Тьюринг представляет deciban как единицу измерения информации в немецкой машине Энигма с настройками, зашифрованными процессом Banburismus. - 1944
— теория информации Клода Шеннона в основном завершена. - 1947
— Ричард Хемминг изобретает Код Хемминга для обнаружения ошибок и их исправления, но не публикует их до 1950 года. - 1948
— Клод Шеннон публикует Математическую теорию связи - 1949
— Клод Шеннон публикует Передачу Информации в виде шумов, в которой описаны Теорема отсчётов и Теорема Шеннона — Хартли. - 1949
— Рассекречена Теория связи в секретных системах Клода Шеннона. - 1949
— Роберт Фано опубликовал отчет, в котором независимо от Клода Шеннона описан Алгоритм Шеннона — Фано. - 1949
— опубликовано Неравенство Крафта — Макмиллана. - 1949
— Марсель Голей вводит коды Голея для исправления ошибок методом упреждения. - 1950
— Ричард Хемминг публикует коды Хемминга для исправления ошибок методом упреждения. - 1951
— Соломон Кульбак и Ричард Лейблер вводят понятие расстояния Кульбака-Лейблера. - 1951
— Дэвид Хаффман изобретает кодирование Хаффмана, метод нахождения оптимальных префиксных кодов для сжатия данных без потерь. - 1953
— опубликован Sardinas–Patterson algorithm. - 1954
— Ирвинг Рид и Дэвид E. Мюллер вводит коды Рида-Мюллера. - 1955
— Питер Элиас вводит свёрточные коды. - 1957
— Юджин Прандж первый обсуждает циклический избыточный код. - 1959
— Алексис Хоквингем, и самостоятельно в следующем году Радж Чандра Боуз и Двайджендра Камар Рей-Чоудхури, представляют коды Боуза-Чоудхури-Хоквингема (БЧХ-коды). - 1960
— Ирвинг Рид и Густав Соломон вводят коды Рида-Соломона. - 1962
— Роберт Галлагер предлагает код с малой плотностью проверок на чётность; их не использовали в течение 30 лет из-за технических ограничений. - 1966
— опубликована статья Дэвида Форнея Concatenated error correction code. - 1967
— Эндрю Витерби открывает алгоритм Витерби, делающий возможным декодирование свёрточных кодов. - 1968
— Элвин Берлекэмп изобретает алгоритм Берлекэмпа — Мэсси; его применение к расшифровке БЧХ-кодов и кода Рида-Соломона, указанный Джеймсом Мэсси в последующем году. - 1968
— Крис Уоллис и Дэвид М. Бутон издают первый из многих докладов о Сообщениях минимальной длины (СМД) — их статистический и индуктивный вывод. - 1972
— опубликована статья о Justesen code. - 1973
— Дэвид Слепиан и Джек Волф открывают и доказывают Код Слепиана-Вольфа, кодирующего пределы распределённого источника кодирования. - 1976
— Готфрид Унгербоэк публикует первую статью о Треллис-модуляции. - 1976
— Йорма Риссанен разрабатывает и позднее патентует арифметическое кодирование для IBM. - 1977
— Абрахам Лемпель и Яаков Зив разрабатывают алгоритм сжатия Лемпеля-Зива (LZ77) - 1982
— Готфрид Унгербоэк публикует более подробное описание Треллис-модуляции, что приводит к увеличению скорости аналогового модема старой обычной телефонной службы от 9.6 кбит/сек до 36 кбит/сек. - 1989
— Фил Кац создаёт .zip формат, включая формат сжатия DEFLATE ; позже это становится наиболее широко используемым алгоритмом сжатия без потерь. - 1993
— Клод Берроу, Алэйн Главиукс и Punya Thitimajshima вводят понятие Турбо-кодов. - 1994
— Майкл Барроуз и Дэвид Уилер публикуют теорию преобразования Барроуза-Уилера, которая далее найдет своё применение в bzip2. - 1995
— Benjamin Schumacher предложил термин Кубит. - 1998
— предложен Fountain code. - 2001
— описан алгоритм Statistical Lempel–Ziv. - 2008
— Erdal Arıkan предложил Полярные коды.

Пи́тер Дэ́вид Лакс — американский математик, лауреат премии Вольфа 1987 года.

Ласло Ловас — венгерский математик, известный работами по комбинаторике, за которые он был награждён многими престижными премиями.

Эндре Семереди — венгерский и американский математик, работающий в областях комбинаторики и теоретической информатики. Лауреат Абелевской премии 2012 года «за фундаментальный вклад в дискретную математику и теорию информатики, и в знак признания глубокого и долгосрочного вклада в аддитивную теорию чисел и эргодическую теорию». Имеет число Эрдёша, равное 1.

Дьёрдь Се́кереш — венгерский и австралийский математик, кавалер ордена Австралии.

История теории вероятностей отмечена многими уникальными особенностями. Прежде всего, в отличие от появившихся примерно в то же время других разделов математики, у теории вероятностей по существу не было античных или средневековых предшественников, она целиком — создание Нового времени. Долгое время теория вероятностей считалась чисто опытной наукой и «не совсем математикой», её строгое обоснование было разработано только в 1929 году, то есть даже позже, чем аксиоматика теории множеств (1922). В наши дни теория вероятностей занимает одно из первых мест в прикладных науках по широте своей области применения; «нет почти ни одной естественной науки, в которой так или иначе не применялись бы вероятностные методы».

Пал Туран — венгерский математик, основатель экстремальной теории графов.

Ласло Фейеш Тот — венгерский математик. Наряду с Коксетером и Эрдёшем, Фейеш Тот считается родоначальником комбинаторной геометрии.

Наука в Венгрии активно развивается с XIX века. К началу XXI века крупнейшим научным центром является Будапешт, там расположены ведущие научные учреждения Венгрии: Венгерская академия наук и Академия литературы и искусств имени Ф. Сеченьи. В состав Венгерской академии наук входит ряд институтов: центральный физический, центральный химический, математический, технической физики, биологический, биохимии, ботаники, генетики, экспериментальной медицины, автоматизации, истории, государства и права, языкознания, географии, экономики, философии и другие. В 2004 году в стране было 18 государственных университетов, 5 церковных университетов, 1 частный университет. К числу крупнейших университетов относятся расположенные в Будапеште Университет имени Лоранда Этвёша, Медицинский университет имени И. Ф. Земмельвейса, Университет технологии и экономики, Университет экономических наук и публичного администрирования, Университет театра и кино, Университет графики и дизайна, Университет прикладных наук имени Ф. Сеченьи. Крупные университеты расположены также в городах Печ, Дебрецен, Мишкольц, Сегед и других. Среди крупнейших библиотек — расположенные в Будапеште Национальная библиотека им. Ф. Сеченьи, библиотеки Венгерской академии наук, Венгерского парламента, а также библиотеки университетов, музеев и т.п. 13 представителей Венгрии стали лауреатами Нобелевской премии.

Вера Туран Шош — венгерский математик, специализировалась на теории чисел и комбинаторике. Эмерит-профессор Института математики Венгерской АН, её академик, член Европейской академии (2013), член-корреспондент Австрийской академии наук с 1995 года.

Альфред Хаар — венгерский математик. Учился в Гёттингенском университете. Докторскую диссертацию писал под руководством Давида Гильберта. С 1912 по 1919 год преподавал в Коложварском университете. Впоследствии работал в Сегедском университете, который был создан после Трианонского договора. Вместе с Фридьешем Рисом Хаар превратил этот университет в один из ведущих математических центров Европы и основал журнал Acta Scientiarum Mathematicarum.

Имре Чисар — венгерский математик, который внёс значительный вклад в развитие теории информации и теории вероятностей.
Модель Эрдёша — Реньи — это одна из двух тесно связанных моделей генерации случайных графов. Модели названы именами математиков Пала Эрдёша и Альфреда Реньи, которые первыми представили одну из моделей в 1959 году, в то время как Эдгар Гильберт предложил другую модель одновременно и независимо от Эрдёша и Реньи. В модели Эрдёша и Реньи все графы с фиксированным набором вершин и фиксированным набором рёбер одинаково вероятны. В модели, предложенной Гильбертом, каждое ребро имеет фиксированную вероятность присутствия или отсутствия, независимую от других рёбер. Эти модели можно использовать в вероятностном методе для доказательства существования графов, удовлетворяющих различным свойствам или для обеспечения точного определения, это для свойства понимается, что оно выполняется для почти всех графов.

Янош Пах — венгерский математик и специалист по информатике, комбинаторике, комбинаторной и вычислительной геометрии.