GIAN-CARLO ROTA. Editor ENCYCLOPEDIA OF MATHEMATICS AND ITS APPLICATIONS Volume 12 Section: Real Variables James K. Brooks. Section Editor Mathematical Theory of Entropy Nathaniel F. G. Martin University of Virginia Charlottesville, Virginia James W. England Swarthmore College Swarthmore, Pennsylvania Foreword by James K. Brooks University of Florida, Gainesville Л 1981 Addison-Wesley Publishing Company Advanced Book Program Reading, Massachusetts London -Amsterdam' Don Mills, Ontario-Sydney-Tokyo Н.Мартин, Дж.Инглевд МАТЕМАТИЧЕСКАЯ ТЕОРИЯ ЭНТРОПИИ Перевод с английского В. А. Каймановича под редакцией А. М. Вершина <@$У Москва «Мир» 1988 ББК 22.171 М29 УДК 519.24 Мартин Н., Ингленд Дж. М29 Математическая теория энтропии: Пер. с англ.—М.: Мир, 1988.—350 с., ил. ISBN 5-03-000005-4 Пос-юдовательное и полное изложение математической теории энтропии, на- писанное известными американскими математиками. Краткое содержание: введе- ние энтропия и информация, теорема Шеннона, связь с динамическими системами. применения в топологической динамике и в статистической механике. Книга удачно дополняет имеющуюся на русском языке литературу по данной тематике. Для математиков-прикладников, физиков-теоретиков, аспирантов и студентов математических специальностей. м 1702070000—314 041(01)—88 37—88, ч. 1 ББК 22.171 Редакция литературы по математическим наукам ISBN 5-03-000005-4 (оусск.) ISBN 0-521-30232-3 (англ.) © Cambridge University Press 1984 This book was originally published in the English language by Cambridge University Press of Cambridge, England © перевод на русский язык, с дополнениями, «Мир», 1988 ПРЕДИСЛОВИЕ РЕДАКТОРА ПЕРЕВОДА Создание математической теории энтропии—одно из замеча- тельных достижений математики нашего века. Точные понятия энтропии и информации, появившиеся в конце 40-х годов и утвердившиеся вначале в прикладных областяях, а именно в теории связи (К. Шеннон) и кибернетике (Н. Винер), сразу же подверглись тщательной математической проработке и получили развитие в нескольких новых областях математики. Быстрое, почти мгновенное проникновение этих понятий в различные раз- делы математики было обусловлено тем, что соответствующий математический аппарат для их анализа был уже подготовлен, и, главное, имелись задачи, словно ожидавшие понятия энтропии в той или иной форме и решенные вскоре с его помощью. Предлагаемая читателю монография Мартина и Ингленда является достаточно полным и последовательным изложением тех разделов математической теории энтропии, которые связаны с кодированием, динамическими системами, инвариантной мерой, топологической динамикой и др. или коротко—с энтропийной теорией динамических систем. Книга восполняет пробел в оте- чественной литературе: хотя, как хорошо известно, именно со- ветским математикам принадлежит заслуга создания и разра- ботки собственно математической теории энтропии в различных ее аспектах, и хотя в разное время ими опубликованы глубокие итоговые обзоры в журналах и специальных изданиях (см. да- лее), монографий, посвященных этой теме на русском языке, к сожалению, не было. Математическая теория энтропии, в основу которой легли фундаментальные работы Клода Шеннона, была создана тру- дами выдающихся современных математиков, в первую очередь А. Н. Колмогорова (см. Колмогоров [1987]), а также А. Я. Хин- чина, И. М. Гельфанда и их последователей. Эта теория дает замечательный пример плодотворного воздействия прикладных областей на фундаментальные направления математики. В са- мой же математике она сыграла объединяющую роль и дала толчок развитию того, что следовало бы назвать «энтропийным б Предисловие редактора перевода мышлением», пронизывающим многие области нашей науки. Под этим мы имеем в виду исследование характеристик и инва- риантов экспоненциального роста — в самых различных ситуа- циях. Разумеется, в математике и ранее было немало наблюде- ний и фактов, свойственных такому мышлению, и даже понятие энтропии лишь с натяжкой можно было считать новым, однако нет сомнений, что именно работы К. Шеннона и А. Н. Колмого- рова и их продолжателей сформировали единый энтропийный подход к различным задачам. В качестве примеров широкого последующего распростра- нения понятия энтропии можно привести циклы работ: по е-эн- тропии компактов в функциональных пространствах и связан- ные с этим работы по аппроксимации, табулированию, суперпо- зициям функций, поперечникам и т. д. (А. Н. Колмогоров, В. И. Арнольд, А. Г. Витушкин, В. И. Тихомиров и др.), по теории информации (А. Н. Колмогоров, И. М. Гельфанд, А. М. Яглом, Р. Л. Добрушин, М. С. Пинскер и др.), по энтро- пии в теории сложности и логической теории информации (А. Н. Колмогоров, В. А. Успенский, П. Мартин-Лёф, Л. А. Ле- вин, А. К. Звонкий и др.), и, может быть, наиболее сущест- венный—цикл по энтропийной теории динамических систем, чему в основном посвящена настоящая книга и о чем мы скажем далее чуть подробнее (А. Н. Колмогоров, В. А. Рох- лин, Я. Г. Синай, Д. Орнстейн и др.). В последнее время отчет- ливо видно, как «энтропийное мышление» проникает в тополо- гическую динамику, общую алгебру, теорию представлений, ком- бинаторную математику, теорию сложности, статистическую и квантовую физику и др. Следует также заметить, что сама энтропийная теория клас- сических систем к настоящему времени тесно переплелась с другими мощными теориями, появившимися почти одновремен- но—КАМ-теорией, гиперболической теорией Аносова—Смейла и вместе с ними полностью изменила лицо всей классической динамики, поставив ее на одно из центральных мест в современ- ной математике. В теорию динамических систем энтропия вошла как метри- ческий инвариант преобразований, сохраняющих меру, опреде- ленный в основополагающей работе Колмогорова [1958]. В од- ном из предшествующих обзоров, характеризуя работы К. Шен- нона, А. Н. Колмогоров писал [1956а]: «Во всяком крупном открытии имеются элементы неожиданности. Этим крупное от- крытие и отличается от постепенного накапливания результатов текущей научной работы. Подчеркну... качественно новое и не- ожиданное, что содержится... в теории информации. 1. По перво- начальному замыслу «информация» не есть скалярная величина. Различные виды информации могут быть чрезвычайно разно- Предисловие редактора перевода 7 образны,... было совершенно неясно, можно ли качественно раз- личные информации... считать эквивалентными... Оказалось, что такая «правильная» по преимуществу мера количества инфор- мации существует и позволяет решить до конца широкий класс задач...». Хотя это высказывание относилось к .шедноновской теории передачи информации, оно едва ли не в большей степени применимо к колмогоровскому понятию энтропии динамической системы, появившемуся годом позже. В самом деле, в начале 30-х годов в фундаментальных работах Купмана и фон Неймана были построены основы спектральной теории динамических систем и определены спектральные инварианты—объекты весь- ма тонкие, неустойчивые, сложно вычисляемые. После 25 лет успешного развития спектральной теории было трудно предполо- жить, что появится грубый числовой инвариант, позволяющий столь радикально переустроить всю теорию. Именно таким ин- вариантом оказалась энтропия. Отметим, что после работ Шен- нона идея введения энтропии динамических систем высказыва- лась некоторыми авторами (фон Нейманом по свидетельству С. Какутани, студентом Д. 3. Аровым—см. работу А. Н. Кол- могорова [69]), однако для проведения ее в жизнь требовался развитый аппарат, который им не был известен и который фактически был использован Колмогоровым. Речь идет о теории измеримых разбиений, разработанной В. А.Рохлиным в 40-х го- дах, Дело в том, что основным инструментом энтропийной тео- рии является условная энтропия относительно некоторого раз- биения, а также последовательности измеримых разбиений; на этом понятии в значительной степени основан технический аппа- рат и вычисления энтропии. Вообще, как неоднократно подчер- кивалось, понятие условной энтропии, или количества информа- ции в одном объекте о другом, важнее, чем понятия безусловной энтропии и информации. Поэтому использование аппарата условных мер здесь неизбежно. В первой работе Колмогорова [1958] содержалась неболь- шая неточность, указанная Рохлиным и относящаяся как раз к вычислению энтропии; она оказалась в конце концов несущест- венной в силу теорем об образующих, доказанных позже, однако во второй работе Колмогорова [69] определение было по необ- ходимости изменено. Наиболее употребительная форма опреде- ления энтропии динамических систем была тут же предложена Я. Г. Синаем [142]. Последовавшие затем работы (В. А. Рох- лин, Я. Г. Синай, Л. М. Абрамов, М. С. Пинскер и др.) были посвящены свойствам энтропии автоморфизмов и потоков, фор- мулам для энтропии конкретных автоморфизмов и конструк- ций, аксиоматике энтропии, связям со спектральной теорией и др. В работах Я. Г. Синая энтропийная теория применялась к проблеме слабого изоморфизма, к классической и статисти- 8 Предисловие редактора перевода ческой механике, теории геодезических потоков и т. д. В обзо- рах Рохлина [1960, 1967], Синая [1963а] был подведен итог первому этапу развития энтропийной теории. Читатель может обратиться к более поздним обзорам Вершика — Юзвинского [1969], Катка—Синая—Стёпина [1976], книге Перри (Parry [1969]), где можно найти сведения о многих результатах, полу- ченных позже; большая часть из них вошла в настоящую книгу. Очень скоро стало понятно, что важна не только сама по себе энтропия динамической системы, а классы автоморфизмов, выделяемые ею. В частности, после работ Пинскера [117], Рох- лина—Синая [128] выяснилось, что класс преобразований, для которых энтропия любого нетривиального факторпреобразова- ния положительна, совпадает с классом /(-автоморфизмов (ква- зирегулярных, как их назвал Колмогоров, или колмогоровских по нынешней терминологии). Сформировавшееся разделение ди- намических систем на /(-системы и на преобразования с нуле- вой энтропией отражает в инвариантной форме популярное, но расплывчатое разделение на «стохастические» и «детерминиро- ванные» системы, принятое в приложениях к механике, физике и др. Спектральные инварианты не могли различить сдвиги, по- рожденные схемами Бернулли, поскольку все они имеют один и тот же счетнократный лебеговский спектр; Колмогоров доказал, что энтропия схемы Бернулли равна энтропии соответствующего сдвига и потому является инвариантом динамической системы. Это было первым успешным применением понятия энтропии к давно стоявшей проблеме. Тогда же было понято, что сама по себе проблема метрического изоморфизма динамических систем может рассматриваться как проблема кодирования (вообще го- воря, не являющегося «односторонним», т. е. физически осущест- вимым). Вскоре Мешалкин [1959], Блюм и Хансон (Blurry Hanson [1963]), Лившиц [1974] построили нетривиальные при- меры кодирования схем Бернулли с одинаковой энтропией. Но оставался открытым вопрос о полной метрической классифика- ции сдвигов Бернулли и их месте в классе /(-систем. Оба во- проса были решены в замечательном цикле работ американского математика Д. Орнстейна в начале 70-х годов. С его именем можно связать следующий этап развития метрической теории динамических систем. Этот этап, как и одновременные исследо- вания ряда авторов по аппроксимации, являлся по преимуществу уже комбинаторным, а не вероятностным, однако без энтропий- ной теории он был бы неосуществим. Основные результаты Д. Орнстейна и его последователей приведены в данной книге (см. также монографию Орнстейна [1978]). Наиболее важным оказался результат Орнстейна о том, что в классе автоморфиз- мов Бернулли энтропия является единственным инвариантом; Предисловие редактора перевода 9 тем самым получена классическая по простоте и весьма глубо- кая теорема Колмогорова—Орнстейна: два сдвига Бернулли метрически изоморфны тогда и только тогда, когда их энтропии совпадают. К сожалению, до сих пор не найдено достаточно простой конструкции этого изоморфизма и нет условий, гаран- тирующих существование физически осуществимого изомор- физма. Следующий результат Орнстейна состоял в инвариантном описании сдвигов Бернулли с помощью понятия «очень слабой бернуллиевости» и так называемой й-метрики. Класс «очень слабо бернуллиевских» (ОСБ) процессов оказался новым в теории вероятностей'). Он образует инвариантное относительно любых перекодирований множество стационарных процессов, включающее последовательности независимых одинаково рас- пределенных случайных величин. Иначе говоря, Орнстейном по- лучено инвариантное описание предмета классической теории вероятностей—схем Бернулли. Уместно заметить, что d-метрика есть частный случай транспортной метрики: Канторович [1942], Канторович, Рубинштейн [1958] (см. также Канторович, Акилов [1977]), которая была впервые применена в эргодической теории в работах Вершика [1970, 1976] об убывающих последователь- ностях измеримых разбиений. Эта метрика неоднократно пере- открывалась; ее использование в теории стационарных процес- сов приводит к нескольким новым понятиям перемешивания; она интенсивно используется в статистике, статистической фи- зике и др. Орнстейн доказал также, что бернуллиевские сдвиги далеко не исчерпывают всех /С-автоморфизмов. Соответствующие при- меры не встречались в теории динамических систем ранее и вна- чале были довольно искусственными. Позже, однако, Каликов (Kalikow [1982]) нашел естественные примеры такого рода. В настоящее время эти вопросы далеко продвинуты в работах Орнстейна, Рудольфа, Вейса (Ornstein, Rudolph, Weiss [1982]). Логическое развитие этих идей привело к новым классам дина- мических систем, в частности к LB (loosely Bernoulli)-системам (см. разд. 4.9). Они возникли в результате обобщения рассмо- трении Орнстейна, в которых ОСБ-системы описывались с по- мощью метрики Хемминга и построенной по ней метрики Кан- торовича (т. е. й-метрики). Если заменить метрику Хемминга на другую, более слабую, то эта программа приведет нас к /.й-системам вместо ОСБ-систем. Это сделано в работах Фельд- ') Этот термин следовало бы заменить более коротким термином «слабая бернуллиевость», поскольку последний, в том смысле как его ввел Орнстейн, излишен: он равнозначен тому, что в теории случайных процессов называют «абсолютной регулярностью» (см. Ибрагимов, Линник [19651, Ибрагимов, Ро- занов [1970]). 10 Предисловие редактора перевода мана [38] и Катка [62]. Еще один вариант такой метрики при- веден в работе Вершика [1970], он использован для классифи- кации убывающих последовательностей измеримых разбиений и вытекающего из нее разделения классов автоморфизмов по характеру аппроксимации (см. Вершик [1973]). Естественный пример автоморфизма, не принадлежащего классу LB, построен у Ратнер (Ratner [1979])—это квадрат потока орициклов. Вернемся к развитию энтропийной темы. Наиболее важное направление исследований в 60—70 гг. было связано с вычис- лениями и явными формулами для энтропии классических и близких к ним динамических систем. Эта тема почти не отра- жена в книге Мартина и Ингленда. Первое замечание было сде- лано А. Г. Кушниренко [1965], показавшим, что энтропия глад- кой динамической системы с гладким интегральным инвариан- том конечна. К тому времени в серии работ Синая, Рохлина, Арова, Юзвинского был завершен подсчет энтропии алгебраиче- ских автоморфизмов компактных групп. Особенно важными для всей этой проблематики оказались формулы для энтропии авто- морфизмов торов, настолько, что хотелось бы о них вкратце здесь упомянуть. Пусть Т" — /г-мерный тор, А — его алгебраи- ческий автоморфизм, тогда энтропия этого автоморфизма как преобразования Т" с инвариантной нормированной мерой Хаара равна ^ In [^i |, где сумма берется по всем собственным числам автоморфизма Л, превосходящим по абсолютной величине еди- ницу. Отсюда следует, что энтропия положительна для всякого гиперболического автоморфизма тора. Долгий путь связывает эту формулу с общим выражением для энтропии диффеоморфиз- мов через показатели Ляпунова: (*) /г(Г)== ^ ^ ^(x)dm(x), М X, >0 где Г—гладкий диффеоморфизм компактного многообразия М, m — гладкая инвариантная мера, ^ (х) — характеристические показатели (показатели Ляпунова) диффеоморфизма Т в точке х — всевозможные значения (с учетом кратностей) пределов lim„-^oo—In || (о!Г") (х) v |[, где v пробегает единичную сферу ка- сательного пространства в точке х, а й?Г" (х)—дифференциал диффеоморфизма Г" в точке х. Существование и конечность множества возможных значений показателей составляет в ос- новном содержание теоремы Оселедца—Миллионщикова (см. Песин [1977]). Формула для энтропии (s-)—наиболее интерес- ный и важный факт гладкой энтропийной теории, она была пред- ложена Г. А. Маргулисом и в полном объеме доказана Я. Б. Песи- ным [1977]. Вообще же связь с теорией показателей и геометрией многообразии изучалась многими авторами (Песин [1981], Ка- Предисловие редактора перевода 11 tok [1980a], Ledrappier [1984], Ledrappier, Young [1984, 1985], Lyapunov exponents [1986]). Из формул видно, что энтропия служит мерой экспоненциальной скорости сближения (или раз- бегания траекторий динамической системы. Само по себе это явление было известно давно, но энтропийная теория дала но- вый количественный и качественный подход к его анализу. Фак- тическое вычисление энтропии и, в частности, выделение классов диффеоморфизмов, для которых она положительна, еще далеко от завершения. Давно известно, что энтропия положительна для гиперболических систем, в частности, для геодезических потоков на многообразиях неположительной кривизны. Менее ясна си- туация с геодезическими потоками на многообразиях неотрица- тельной кривизны. Показатели Ляпунова в этом случае в от- дельных точках могут быть больше нуля, и тем самым тополо- гическая энтропия может быть положительной (Мэннинг [1981с]). Неизвестно, однако, может ли быть метрическая эн- тропия положительной (см. Бураго [1988]). В теории биллиард- ных потоков (геодезические потоки на многообразиях с краем, газ твердых сфер) формулы для энтропии исследовались Си- наем, Бунимовичем, Черновым (Синай, Чернов [1982, 1987]) и др. Совсем в ином направлении формула для энтропии обобщена в недавно доказанной «гипотезе об энтропии» (речь идет о то- пологической энтропии диффеоморфизма — см. статьи в сбор- нике «Гладкие динамические системы».—М.: Мир, 1974). Ее доказал Иомдин (см. lomdin [1986], Gromov [1987]): MA>lnrad/„ где f есть (^"""-отображение компактного многообразия в себя, /,—индуцированный им эндоморфизм вещественных гомологии, rad—спектральный радиус. Основная идея доказательства этой формулы состоит в том, что энтропия диффеоморфизма может быть оценена через е-энтропию графиков итераций диффеомор- физма. Такой путь возвращает нас к общим истокам различных понятий энтропии. Имеются связи формул для энтропии с асимптотикой числа периодических точек, с так называемой е-энтропией мер и др. Топологическая энтропия голоморфных отображений римановой сферы вычислена независимо Громовым (Gromov [1980]) и Лю- бичем (Ljubich [1983]). Энтропия тесно связана с хаусдорфовой размерностью. Уместно напомнить, что еще в 30—40 годах, в период тщатель- ного изучения понятия топологической размерности были даны определения размерности через е-энтропию (например, см. [20]). В работах Мэннинга, Ледраппье, Юнг, Песина (Manning [1981с], Ledrappier [1981], Young [1982, 1984], Pesin [1984]) показатели Ляпунова и энтропия связываются с хаусдорфовой 12 Предисловие редактора переводи размерностью носителя инвариантной меры или, как принято говорить, с размерностью меры (см. Бунимович, Песин, Синай, Якобсон [1985]). Упомянем теперь несколько обобщений понятия энтропии для общих динамических систем и близких объектов. Понятие энтропии группы, действующей с инвариантной мерой, парал- лельное определению Синая для групп Z и R, было введено Кирилловым [67]. Содержательным оно оказалось лишь для аменабельных групп; для более общих групп инвариантом яв- ляется не энтропия, а факт ее равенства нулю, ненулевому поло- жительному числу или бесконечности. Для аменабельных групп имеется ряд результатов—см. Kieffer [!975], Пицкель, Стёпин [1971], Пицкель [1975], Сафонов [1983]. Общее определение Кириллова привело Кушниречко [73] к понятию Л-энтропии для действия группы Z («последовательностная энтропия»)— см. разд. 2.13. В последние годы этот инвариант интенсивно ис- пользуется для изучения авгоморфизмов, близких к автомор- физмам с дискретным спектром, типа знаменитого примера Морса (см. Dekking [1980], Lemanczyk [1985]). Заметим по- путно, что анализ примера Морса привел к развитию теории так называемых подстановочных систем, которая нашла применения в теории автоматов, статистической физике, теории квазикри- сталлов и др. (см. Mendes France [1983]); этот класс совпадает с классом стационарных адических сдвигов (Вершик [1981, 1982, 1986] и Лившиц [1987]). В другом направлении Вершик [1970, 1971, 1973] и незави- симо иным способом Стёпин [1971] определили энтропию убы- вающих последовательностей однородных измеримых разбиений, которая является метрическим инвариантом последовательности и используется в траекторией и ограниченной траекторией тео- рии динамических систем (Rudolph [1985b]). Отметим еще эн- тропию случайных блужданий (Avez [1976a], Вершик, Кайма- нович [1979], Kaimanovich, Vershik [1983], Derriennic [1986]), тесно связанную с теорией границ марковских процессов. В этих работах энтропия измеряет экспоненциальную скорость роста числа состояний (слов), которые может достичь типичная траек- тория за данное время, а равенство энтропии нулю равносильно тривиальности границы-выход марковского процесса, т. е. от- сутствию нетривиальных ограниченных гармонических функций (лиувиллевость). Помимо случайных блужданий на группах эта теория при- менима ко всем «достаточно однородным» марковским процес- сам, например, к броуновскому движению на накрывающих многообразиях или на слоениях компактных многообразии (Кай- манович [1986, 1988]). Энтропия броуновского движения на уни- версальном накрывающем пространстве компактных многообра- Предисловие редактора перевода 13 зий отрицательной кривизны тесно связана с топологической и метрической энтропией геодезического потока. Заметим, что в этой теории большую роль играет энтропийное расстояние Кульбака—Лейблера, применяемое в математической стати- стике (Кульбак [1967], Ченцов [1972], Ибрагимов, Хасьмин- ский [1979]). В самое последнее время наметились применения энтропий- ной теории к теории клеточных автоматов (Sinai [1985], Milnor [1986], Wolfram [1986]). Энтропия появляется в вероятностной теории представлений, где выступает в духе теоремы Шеннона— Макмиллана — Бреймана как характеристика скорости убыва- ния вероятностей представлений той или иной группы при стремлении порядка к бесконечности (Вершик, Керов [1985]» Вершик [1987]). Нельзя не упомянуть о нескольких «энтропиях», относящихся к теории некоммутативных динамических систем. В работе Кон- на и Штёрмера (Connes, Stermer [1975]) по образцу Колмого- рова—Синая определена энтропия автоморфизма фактора типа Hi. В последующих работах это определение было перенесено на общие факторы, впрочем, достаточно убедительные примене- ния этого понятия появились лишь недавно. Конн доказал не- изоморфность некоммутативных сдвигов Бернулли с разной эн- тропией, т. е. бесконечных двусторонних тензорных произведе- ний алгебр матриц с продакт-состояниями. Вопрос о связи классической и квантово-физической энтропии с математиче- скими понятиями энтропии все еще не прояснен в достаточной степени (см. Стёпин, Шухов [1982], Besson [1981], Connes [1985], Connes, Narnhofer, Thirring [1987]). Читателю книги следует иметь в виду, что в ней содержатся не все существенные результаты энтропийной теории динамиче- ских систем. О некоторых из них мы говорили выше, другие были получены уже после выхода в свет английского оригинала книги. Я попросил переводчика составить дополнительный спи- сок литературы. Этот список, содержащий около 500 названий, служит отличным доказательством высокой математической ак- тивности в этой области и показывает, насколько трудно было бы сейчас дать сколько-нибудь полный обзор современной тео- рии энтропии. Ссылки на этот список и ряд комментариев со- держатся в примечаниях переводчика (при ссылках на литера- туру из дополнительного списка в квадратных скобках указы- вается год выхода работы). В заключение я хотел бы поблагодарить авторов, любезно приславших исправления специально для русского перевода; ряд неточностей и опечаток был исправлен переводчиком. Июль 1987 г. А. М. Вершик ОТ РЕДАКТОРА ЭНЦИКЛОПЕДИИ Математика состоит главным образом из фактов, которые мож- но представить и описать подобно любому явлению природы. Эти факты, сформулированные явно в виде теорем или упоми- наемые по ходу доказательств, составляют основную часть при- ложений математики и будут существовать всегда, несмотря на изменчивость направлений и интересов в данной науке. Цель настоящей энциклопедии—постараться осветить все области математики. Непременным требованием к автору яв- ляются ясность и четкость изложения материала, доступность для широкого круга читателей, а также наличие подробной библиографии. Тома энциклопедии объединяются в серии, кото- рые соответствуют различным областям современной матема- тики; порядок выхода книг в отдельных сериях не устанавли- вается. Число томов и серий время от времени будет пересма- триваться и корректироваться. Мы надеемся, что наше смелое предприятие будет способ- ствовать еще более широкому применению математики не толь- ко там, где без нее нельзя обойтись, но даже в тех областях, где ее следовало бы применять и где из-за недостатка информации это пока не делается. Джан-Карло Рота ПРЕДИСЛОВИЕ РЕДАКТОРА СЕРИИ Энтропия—понятие, сыгравшее центральную роль в ряде об- ластей науки, в частности в статистической механике и теории информации. Использование аппарата теории вероятностей по- зволило в последние годы прояснить связи между различными применениями энтропии. Сейчас стало возможным увидеть в казавшихся ранее изолированными результатах из различных дисциплин элементы более общей математической теории эн- тропии. Настоящая книга содержит замкнутое изложение математи- ческой теории энтропии. В нее включены сведения из теории вероятностей, необходимые для понимания основных вопросов, связанных с энтропией. Кроме того, тщательно отобранные при- меры расположены так, что читатель, опустив доказательства некоторых теорем, тем не менее сможет получить представление об этих теоремах из разбора примеров. В последних четырех главах дается описание тех разделов теории информации, эргодической теории, статистической меха- ники и топологической динамики, на которые понятие энтропии оказало наиболее сильное влияние. Эти главы можно читать не- зависимо друг от друга. Примеры показывают, как идеи, возник- шие в одной области, воздействовали на другие области. Гла- ва 3 содержит краткое описание роли энтропии в теории инфор- мации как меры потока информации и служит дополнением к первой части«Теории информации и кодирования» Р. Дж. Ма- келиса (том 3 настоящей энциклопедии). Недавние применения энтропии в статистической механике и топологической динамике приводятся в гл. 5 и 6. Эти две главы представляют собой хоро- шее введение к «Термодинамическому формализму» Д. Рюэля (том 5 энциклопедии). В главе 4, посвященной эргодической теории, описывается развитие принадлежащей Колмогорову идеи .применения энтропии Шеннона к изучению автоморфизмов пространств с конечной мерой. Кульминацией этой деятельности явилось приведенное в этой главе доказательство теоремы Кол- могорова—Орнстейна об изоморфизме. 16 Предисловие редактора серии Представленное в книге математическое изложение основ- ных свойств энтропии и приведенные разнообразные приложения делают этот том ценным вкладом в энциклопедию. Джеймс К. Брукс, Главный редактор серии «Теория функций вещественной переменной» Нашим женам: Джо Мартин и Мери Ингленд ПРЕДИСЛОВИЕ АВТОРОВ Тридцать лет назад Клод Шеннон опубликовал статью под названием «Математическая теория связи». В ней он ввел ко- личественную меру неопределенности, связанной со случайными событиями, и назвал ее энтропией. Влияние этой работы на состояние как теории, так и практики связи все еще ощущается; сама же энтропия Шеннона была с большим успехом использо- вана в ряде областей математики. В частности, применение ее к динамическим системам А. Н. Колмогоровым и Я. Г. Синаем привело к полному решению долгое время остававшейся откры- той проблемы эргодической теории, к введению нового инва- рианта гладких динамических систем и к уточнению некоторых положений классической статистической механики. В этой книге мы стремились дать достаточно полное и замк- нутое изложение теории энтропии и ее обобщений, доступное читателю, знакомому ,со стандартным курсом абстрактной тео- рии меры, и хотели показать применения энтропии в теории ин- формации, эргодической теории и топологической динамике. Мы не делали попытки описать современное состояние этих дисцип- лин; напротив, скорее ограничились лишь теми областями, на которые оказали влияние понятие энтропии Шеннона и ее раз- витие Колмогоровым и Синаем. Таким образом, наша цель двояка: во-первых, дать замкнутое изложение всех основных свойств энтропии и ее модификаций с достаточно подробными доказательствами; во-вторых, представить картину применений энтропии в тех областях математики, где она успешно исполь- зовалась. Основное внимание мы уделяем эргодической теории, поскольку именно здесь были получены наиболее впечатляющие результаты. Слово «энтропия» было впервые использовано в 1864 г. Ру- дольфом Клаузиусом в его книге «Abhandlungen liber die War- metheorie» («Сочинения по теории теплоты») для названия ве- личины, характеризующей процессы перехода тепловой энергии в механическую, и в термодинамике оно сохранило именно это значение. Связь между энтропией как мерой неопределенности 2 Зак. 882 18 Предисловие авторов и термодинамической энтропией оставалась неясной на протя- жении ряда лет. С введением мер на бесконечных системах, названных гиббсовскими состояниями, эта связь прояснилась. Мы обсуждаем ее в последней главе на примере классических решетчатых систем. По этому поводу трудно удержаться от повторения замеча- ния, сделанного Шенноном Майрону Трибусу и приведенного в статье Трибуса и Эдварда Макирвина «Энергия и информа- ция» (Scientific American, 1971). В беседе о введенной им мере неопределенности Шеннон сказал: «Меня больше всего беспо- коило, как назвать эту величину. Я думал назвать ее «информа- цией», но это слово слишком перегружено, поэтому я решил остановиться на «неопределенности». Когда я обсуждал все это с Джоном фон Нейманом, тот предложил лучшую идею. Фон Нейман сказал мне: «Вам следует назвать ее энтропией по двум причинам. Во-первых, ваша функция неопределенности исполь- зовалась в статистической механике под этим названием, так что у нее уже есть имя. Во-вторых, и это важнее, никто не знает, что же такое эта энтропия на самом деле, поэтому в споре преимущество всегда будет на вашей стороне». Мы на- деемся, что читатель также сможет пользоваться этим преиму- ществом, после того как прочитает нашу книгу. Подготовка рукописи была бы куда более трудной без щед- рой поддержки отделений математики университета Виргинии и колледжа Суортмор, а также без точной и аккуратной маши- нописи Беверли Уотсон. Мы с особой благодарностью отмечаем ее внимание и терпение при перепечатке основной части ру- кописи, равно как и ее способность к правильному пониманию крошечных, часто неразборчивых каракулей первого автора. Мы благодарим также Дженис Бэббит, Барбару Смит и Джо Филдс, печатавших отрывки из первой главы, и Мэри Браун, печатав- шую исправления. Наконец, мы признательны Алану Салески за внимательное прочтение первых трех глав. Натаниель Ф. Дж. Мартин Джеймс У. Ингленд УКАЗАТЕЛЬ ОБОЗНАЧЕНИЙ Символ Значение Раздел (Q, У', Р) Вероятностное пространство 1.1 } I d (^) — с? (т]) Расстояние по распределению меж- 4.4 ду разбиениями ^ и T) • | 5 — Ч I Расстояние в метрике разбиений 4.4 между g и т) /? (g, т]) Расстояние Рохлина между i и т} 4.4 d d-метрика 4.5 Ham Метрика Хемминга 4.5 Ng Проекция на факторпрострапство по 1.3 разбиению ^ N^, ^ Проекция факторпрострапства по 1.3 разбиению S, на факторпростран- ство по разбиению t, М^ (!) п-имя точки I относительно разбие- 4.5 ния i; Р\ Ограничение конфигураций на мно- 6.4 жестпо Л Р\,\, Ограничение конфигураций из й^ 6.4 на множество А] Е (х) Математическое ожидание случайной 1.4 величины х Р (• | Л) Условная вероятность относительно 1.5 события А Указатель обозначений 21 Символ Значение Раздел Р^ (• \ с) или Р^ (со, •) Каноническое семейство условных 1.5 мер разбиения Е; ?5 (х | с) или Е^ (х) Условное математическое ожидание 1.6 случайной величины х относитель- но разбиения | d (g) Дискретный вероятностный вектор, 4.4 отвечающий упорядоченному раз- биению t, ! (g) Информационная функция разбие- 2.2 ния ^ Н (^) Энтропия разбиения S, 2.2 / (g/^) Условная информация разбиения ^ 2.4; 2.6» относительно разбиения t, Н (^/^) Условная энтропия разбиения g отно- 2.4; 2.6. сительно разбиения ', / (?; yi) Взаимная информация разбиений 'c, и 2.5 т] друг относительно друга fi (т, ?) Энтропия преобразования Т относи- 2.7 тельно разбиения ^, или скорость создания информации /г (Т) или им (Т) Энтропия преобразования Т 2.8 Я (^) Энтропия открытого покрытия s4- 5.2 h (T, s4-) Топологическая энтропия отображе- 5.2 ния Т относительно открытого по- крытия sf- h (Т, К) Топологическая энтропия по Боуэпу 5.4 отображения Т относительно ком- пакта Л' fi (Т) Топологическая энтропия по Боуэну 5.4 отображения Т 5 (Р) Энтропия состояния Р 6.3 5 (и) Средняя энтропия трансляционно- 6.5 инвариантного состояния и Р (Т, •} Давление непрерывного отображе- 5.4 ния Т Р (<р) Давление трансляционно-инвариант- 6.5 иого взаимодействия (р у, (qp) Энергия взаимодействия ф для со- 6.5 стояния ц U , Функционал энергии 6.4 W ^ ^ Взаимодействие между множествами 6.4 Л, И Л2 Si у ((р) Статистическая сумма 6.4 С (Р) Пропускная способность канала 3.4 R (ц, Р) Скорость передачи информации по 3.4 каналу Глава 1 СВЕДЕНИЯ ИЗ ТЕОРИИ ВЕРОЯТНОСТЕЙ В этой вводной главе будут изложены некоторые сведения из теории вероятностей, которые необходимы для понимания и применения определения и свойств энтропии. Мы старались написать главу так, чтобы читатель, здакомый с теорией меры по книгам Эша [15], Халмоша [55] или любому другому стан- дартному учебнику теории меры1), мог следить за рассужде- ниями и понимать примеры. Вводятся только те понятия теории вероятностей, которые используются в последующих главах; их смысл разъясняется на очень простых примерах. Помимо этого, мы ограничиваемся рассмотрением только «достаточно хоро- ших» вероятностных пространств, так что определения услов- ного математического ожидания и условной вероятности стано- вятся более прозрачными и доступными для понимания. Эти «хорошие» пространства также позволяют использовать разбие- .ния как математическую модель случайных испытаний (вклю- чая и испытания, полученные предельным переходом). 1.1. ВЕРОЯТНОСТНЫЕ ПРОСТРАНСТВА Энтропия является количественной мерой неопределенности, связанной со случайными явлениями. Для того чтобы дать точ- ное определение этой величины, необходимо иметь некоторую математическую модель случайных явлений, которая была бы достаточно общей, чтобы описывать разнообразные физические ситуации, и которая в то же время обладала бы достаточно богатой внутренней структурой, чтобы давать возможность ма- тематическими средствами получать ответы на вопросы об этих явлениях. Такой моделью служит математическая структура, назы- ваемая вероятностным пространством. Это не что иное, как ') См. также книги Лоэва [81], Неве [91] или Партасарати [109]. Особенно важна статья В. А. Рохлина [122], постоянно используемая в эргодической теории как основополагающая работа по теории пространств Лебега и их из- .меримых разбиений.—Прим. перев. 1.1. Вероятностные пространства 23. пространство с мерой единичной полной массы. Таким образом,. вероятностным пространством называется тройка (и, ST, Р), где Q—множество, У—некоторая совокупность подмножеств и, а Р—определенная на У неотрицательная вещественнознач- ная функция, причем С1. Совокупность 9~ является о-алгеброй '), г. е. она содер- жит Q и замкнута относительно операций дополнения и счетного объединения. С2. функция Р — счетно-аддитивная мера, т. е. если {?„} — счетный набор попарно непересекающихся множеств из Э~, то' ^(U?„)=E^(?„). СЗ. P(Q)=\. В тройке (Q, ST, Р) множество и называется выборочным. пространством или пространством исходов, его элементы назы- ваются исходами, множества Э~—событиями, а Р—вероят- ностью. Такие случайные испытания, как бросание монеты или извле- чение шара из урны, могут быть математически представлены с помощью соответствующих вероятностных пространств. Для примера рассмотрим испытание, заключающееся в извлечении шара из урны, содержащей 3 красных шара, 2 белых и 5 синих,. причем единственным различающим шары признаком является их цвет. Исходом испытания будет тогда только цвет извлечен- ного шара, так что пространство исходов может быть представ- лено как множество Q'= {/-, w, b], где исход т- означает «был извлечен красный шар», аналогично для w и б2). Если повторять это испытание очень долго, каждый раз от- мечая цвет извлеченного шара и возвращая его после этого обратно в урну, то отношение числа извлечений шаров данного цвета к общему числу извлечений будет приближаться к неко- торому предельному значению. Это значение и принимается за вероятность или правдоподобность получения при любом извле- чении шара этого цвета. Для описанного выше испытания эти значения составят 0,3 для красного цвета, 0,2 для белого и 0,5 для синего. Иначе говоря, в конечном счете шар красного цвета будет извлечен в 30% случаев, белого—в 20% случаев и си- него—в 50% случаев. Этого следовало ожидать, поскольку 30% шаров в урне—красные и т. д.3). ') В оригинале — cr-field. Мы используем более привычный для русского читателя термин „сг-алгебра". — Прим. перев. 2) По первым буквам английских слов red, white и blue соответственно.— Прим. перев. 3) То, что среднее число успехов в достаточно продолжительной серии- независимых повторений некоторого испытания должно быть близко к доле- 302 Гл. 6. Статистическая механика Для рассматриваемых нами взаимодействий предел в этом определении существует. Подробности см. в [162], [131] или [133]. Определение 6.19. Пусть ф—трасляционно-инвариантное взаимодействие, а ц — трансляционно-инвариантное состояние на пространстве (Q, У). Энергия этого взаимодействия для состояния ц обозначается ц (qp) и определяется формулой (Ф)--11"1 та- ? ^(^л», П->оо 1 '•••П (l)E Л, где Рл'—дискретное вероятностное распределение на мно- жестве QA , индуцированное состоянием ц, а А„ = {О, 1, 2, .., ..., п.- \У. Теорема 6.20. Для любого трансляционно-инвариантного взаимодействия (р р (<р) = max {S (ст) — а (ф): о- s ^•}, г<3е ST — множество трансляционно-инвариантных состояний на пространстве Q. Доказательство этой теоремы можно найти в [35], [162] или [133]. В несколько более общей постановке аналогичная теорема была доказана Рюэлем [132] и Уолтерсом [162]. Определение 6.21. Равновесным состоянием 'для взаимодей- ствия ф называется любое состояние из множества °Г', для которого достигается максимум в теореме 6.20. Основной результат в этой области статистической механики заключается в том, что при заданном взаимодействии qp на Q инвариантное состояние является равновесным для qp тогда и только тогда, когда оно является гиббсовским состоянием для ф. Доказательство см. в [35] и [130]. Один из доводов в пользу справедливости этого утверждения—то, что согласно теореме 6.2 для любого конечного множества А с: Zл'', выполнено равенство (в принятых нами сейчас обозначениях) log ZA (ф) = max {5 (Р) - Р (С/л): Р—дискретное вероятностное распределение на Q\}, где Р(^А}= Е Р (ю) ^v И. ЙЕ Q^ причем этот максимум достигается, когда Р—ансамбль Гиббса. ЛИТЕРАТУРА 1. Абрамов Л. М- Энтропия производного автоморфизма. — ДАН СССР, 1959, 128, № 4, с. 647—650. 2. Абрамов Л. М. Об энтропии потока.—ДАН СССР, 1959, 128, № 5, с. 873—875. 3. Абрамов Л. М., Рохлин В. А. Энтропия косого произведения преобразо- ваний с инвариантной мерой.—Вестник ЛГУ, 1962, № 7, с. 5—13. 4. Aczel J. D., Daroczy Z. On Measures of Inlormation and their Characte- rizations.—New York: Academic Press, 1975. 5. Adier R. A. A note on the entropy of skew product transformations. — Proc. Amer. Math. Soc., 14 (1963), p. 665—669. 6. Adier R. A., Goodwyn L. W., Weiss B. Equivalence of topological Markov shifts. — Israel J. Math., 27 (1971), p. 49—63. 7. Adier R. A., Konheim A., McAndrew М. Topological entropy. — Trans. Amer. Math. Soc., 114 (1965), p. 309—319. 8. Adier R. A., Marcus B. Topological entropy and equivalence of dynamical systems. — Memoirs Amer. Math. Soc., 20 (1979), no. 219. 9. Aizenman M., Goldstein S., Lebowitz J. L. Conditional equilibrium and the equivalence of microcanonical and grand canonical ensembles in the thermodynamic limit.—Comm. Math. Physics, 62 (1978), p. 279—302. 10. Ambrose W. Representations of ergodic flows.—Annals of Math., 42 (1941), p. 723—739. 11. Андронов А. А., Понтрягин Л. С. Грубые системы.—ДАН СССР, 1937, 14, № 5, с. 247—250. 12. Anzai H. Ergodic skew product transformations on the torus. — Osaka Math. J., 3 (1951), p. 83—99. 13. Aoki N., Totoki H. Ergodic automorphisms of 7'°° are Bernoulli transfor- mations. — Pub. Research Inst. Math. Sci. Kyoto Univ., 10 (1975). p. 535— 544. 14. Ash R. Information Theory.—New York: Interscience Publishers, Wiley, 1965, 15. Ash R. Measure Integration and Functional Analysis.—New York: Aca- demic Press, 1972. 16. Белинская Р. М. Разбиения пространства Лебега на траектории, опре- деляемые метрическими автоморфизмами. — Функц. анализ и его прило- жения, 1968, 2, № 3, с. 4—16. 17. Berg K. Entropy of torus automorphisms.—In: Topological Dynamics (Symposium, Colorado State University, Ft. Collins, Colorado). New York: Benjamin, 1967, p. 67—79. 18. Berger Т. Rate Distortion Theory.—Englewood Cliffs, New Jersey: Pren- tice-Hall, 1971. 19. Birkhoff G. D. Dynamical Systems.—Amer. Math. Soc. Colloquium Publs. Vol. 9. Providence, R. I.: Amer. Math. Society, 1927. [Имеется перевод: Биркгоф Дж. Д. Динамические системы.—М. — Л.: Гостехиздат, 1941.] 304 Литература 20. Billingsley P. Ergodic Theory and Information.—New York: Wiley, 1965. [Имеется перевод: Биллингслей П. Эргодическая теория и информация. — М.: Мир, 1969.} 21. Blasburg J., Van Blerkom R. Message compression.—I. R. E. Trans. Spa- ce Electronics and Telemetry, SET-8 (1962), p. 228—238. 22. Bowen R. Topological entropy and Axiom A.—Global Analysis, Amer. Math. Soc. Proc. Symposia Pure Math., 14 (1968), p. 23—41. 23. Bowen R. Entropv for group endomorphisms and homogeneous spaces. — Trans. Amer. Soc.', 153 (1970), p. 401—414. 24 Bowen R. Entropy-expansive maps.—Trans. Amer. Math. Soc., 164 (1972), p. 323—331. 25. Bowen R. Equilibrium States and the Ergodic Theory of Anosov Diffeo- morphisms. — Lecture Notes in Math. No. 470. New York: Springer-Verlag, 1975. [Имеется перевод: Равновесные состояния и Эргодическая теория диффеоморфизмов Аносова. — В кн.: Боуэн Р. Методы символической динамики. М.: Мир, 1979, с. 9—91.] 26. Breiman L. The inidividual ergodic theorem of information theory. — Ann. Math. Statist., 28 (1957), p. 809—811; 31 (I960), р. 809—810. 27. Brown J. R. Ergodic Theory and Topological Dynamics. — New York: Aca- demic Press, 1976. 28. Callen H. B. Thermodynamics, — New York: Wiley, 1960. 29. Chacon R. V. Change of velocity in flows. — J. Math. Mech., 16 (1966), p. 417—431. 30. Chu H. Some results on affine transformations of compact groups. — In- ventiones Math., 28 (1975), p. 161—183. 31. Chung К. L. A note on the ergodic theorem of information theory.— Ann. Math. Statist., 32 (1961), p. 612—614. 32. del Junco A. Bernoulli shifts induced by /(-automorphisms — Adv in Math., 25 (1977), p. 35—41. 33. Denker M. Finite generators for ergodic measure preserving transforma- tions. — Z. Wahrscheinlichkeitstheorie Verw. Gebiete, 29 (1974), p. 45—55. 34. Denker M., Grillenberger C., Sigmund К. Ergodic Theory on Compact Spaces. — Lecture Notes in Math. No 527. Berlin: Springer-Verlag, 1976. 35. Добрушин Р. Л. Гиббсовские случайные поля для решетчатых систем с попарным взаимодействием. — Функц. анализ и его приложения, 1968, 2, № 4, с. 31—43. 36. Doob J. L. Stochastic Processes.—New York: Wiley, 1953. [Имеется пере- вод: Дуб Дж. Л. Вероятностные процессы.—М.: ИЛ, 1956.] 37. Feinstein A. Foundations of Information Theory.—New York: McGraw— Hill, 1958. [Имеется перевод: Файнстейн А. Основы теории информа- ции,—М.: ИЛ, I960.] 38. Feldman J. New ^-automorphisms and a problem of Kakutani. — Israel J. Math., 24 (1976), p. 16—38. 39. Feldman J. r-entropy, equipartition, and Ornstein's isomorphism theorem in ^".—Israel J. Math., 36 (1980), p. 321—345. 40. Friedman N. A. Introduction to Ergodic Theory.—Van Nostrand Reinhold Mathematical Studies. No. 29. New York: Van Noslrand Reinhold, 1970. 41. Friedman N. A., Ornstein D. S. On isomorphisms of weak Bernoulli trans- formations. — Adv. in Math., 5 (1970), p. 365—394. 42. Friedman N. A., Ornstein D. S. Ergodic transformations induce mixing transformations.—Adv. in Math., 10 (1973), p. 147—163. 43. Gallager R. G. Information Theory and Reliable Communication. — New York: Wiley, 1968. [Имеется перевод: Галлагер Р. Дж. Теория информа- ции и надежная связь. — М.: Сов. радио, 1974.] 44. Gallavotti G., Miracle-Sole S. Statistical mechanics of lattice systems. — Comm. Math. Physics, 5 (1967), p. 317—323, Литература 305 45. Goodman Т. N. Т. Relating topological entropy and measure entropy. — Bull. London Math. Soc., 3 (1971), p. 176—180. 46. Goodwyn L. W. Topological entropy bounds measure-theoretic entropy. — Proc. Amer. Math. Soc., 23 (1969), p. 679—688. 47. Goodwyn L. W. Comparing topological entropy with measure-theoretic entropy. — Amer. J. Math., 94 (1972), p. 366—388. 48. Гантмахер Ф. Р. Теория матриц. Изд. 3-е.—М.: Наука, 1967. 49. Gray R. M. Sliding-block source coding. — IEEE Trans. Information Theo- ry, IT-21 (1975), p. 357—368. 50. Gray R. M., Neuhoff D. L., Ornstein D. S. Non-block source coding with a fidelity criterion. — Annals of Prob., 3 (1975), p. 478—491. 51. Gray R. M., Neuhoff D. L., Ornura J. K. Process definition of distortion- rate functions and source coding theorems. — IEEE Trans. Information Theory, IT-21 (1975), p. 524—532. 52. Gray R. M., Neuhoff D. L., Schields P. C. A generalization of Ornstein's 3-distance with applications to information theory.—Annals of Prob., 3 (1975), p. 315—328. 53. Gray R. M., Ornstein D. S. Sliding-block joint source/noisy-channel coding theorems. — IEEE Trans. Information Theory, IT-22 (1976), p. 682—690. 54. Hall M. Combinatorial Theory. — Waltham, Mass.: Blaisdell, 1967. [Имеет- ся перевод: Холл М. Комбинаторика.—М.: Мир, 1970.] 55. Halmos P. R. Measure Theory. — University Sereis in Higher Mathema- tics. New York: Van Nostrand, 1950. [Имеется перевод: Халмош П. Теория меры.—М.: ИЛ, 1953.] 56. Halmos P. R. Lectures on Ergodic Theory.—Tokyo: The Mathematical Society of Japan, 1956. [Имеется перевод: Халмош П. Р. Лекции по эрго- дической теории.—М.: ИЛ, 1959.] 57. Halmos P. R., von Neumann J. Operator methods in classical analysis. II.—Ann. of Math., 43 (1942), p. 332—350. [Имеется перевод в кн.: фон Нейман Дж. Избранные труды по функциональному анализу. Т. 1.— М.: Наука, 1987.] 58. Hartman S. Quelques proprietes ergodiques des fractions continues. — Studia Math., 12 (1951), p. 271—278. 59. Kac M. On the notion of recurrence in discrete stochastic processes. — Bull. Amer. Math. Soc., 53 (1947), p. 1002—1010. 60. Kakutani S. Induced measure preserving transformations. — Proc. Imp Acad. Tokyo, 19 (1943), p. 635—641. 61. Kaplan W. Regular curve families filling the plane. I, II.—Duke Math. J., 7 (1940), p. 154—185; 8 (1941), р. 11—46. 62. Каток А. Б. Монотонная эквивалентность в эргодической теории. — Изв. АН СССР. Сер. Мат., 1977, 41, № 1, с. 104—157. 63. Katznelson Y. Ergodic automorphisms of Г" are Bernoulli shifts. — Israel J. Math., 10 (1971), p. 186—195. 64. Katznelson Y., Weiss B. Commuting measure preserving transformations.— Israel J. Math., 12 (1972), p. 161—173. 65. Keane M., Smorodinsky M. A class of finitary codes. — Israel J. Math., 26 (1977), p. 352—371. 66. Хинчин А. Я. Математические основания статистической механики. — М.— Л.: Гостехиздат, 1943. 67. Кириллов А. А. Динамические системы, факторы и представления групп.— Усп. мат. наук, 1967, 22, № 5, с. 67—80. 68. Kneser H. Kurvenscharen auf den Ringflachen.—Math. Ann., 91 (1924), p. 135—154, 69. Колмогоров А. H. Об энтропии на единицу времени как метрическом ин- варианте автоморфизмов.—ДАН СССР, 1959, 124, № 4, с. 754—755. 70. Koopman В. О. Hamiltonian systems and transformations in Hilbert spa- ce. — Proc. Nat. Acad. Sci. USA, 17 (1931), p. 315—318. 20 Зяк. 882 306 Литература 71. Krieger W. On entropy and generators of measure preserving transforma- tions. — Trans. Amer. Math. Soc., 149 (1970), p. 453—464. 72. Krieger W. On generators in ergodic theory.—In: Proc. Internat. Cong- ress of Math. (Vancouver, 1974) Vol. 2. Canadian Mathematical Congress, 1974, p. 303—308. 73. Кушниренко А. Г. О метрических инвариантах типа энтропии.—Усп. мат. наук, 1967, 22, № 5, с. 57—65. 74. Kwiatkowski J., Maniakowski F. On_ the transportation problem used in the definition of Ornstein's distance d. — Societe Math. de France, Asteris- que, 50 (1977), p. 223-238. 75. Lanford О. Е. Ill Entropy and equilibrium states in classical statistical mechanics.—In: Statistical Mechanics and Mathematical Problems. Lec- ture Notes in Physics. No. 20. New York: Springer-Verlag, 1971. 76. Landford 0. E. Ill, Ruelle D. Observables at infinity and states with short range correlations in statistical mechanics.—Comm. Math. Physics, 13 (1969), p. 194—215. 77. Lefschetz S. Differential Equations: Geometric Theory. 2nd edition. — New York: Interscience, Wiley, 1963. [Имеется перевод первого издания: Лефшец С. Геометрическая теория дифференциальных уравнений. — М.: ИЛ, 1961.] 78. Lind D. A. Ergodic automorphisms of the infinite torus are Bernoulli. — Israel J. Math., 17 (1974), p. 162—168. 79. Lind D. A. Locally compact measure preserving flows. — Adv. in Math., 15 (1975), p. 175—193. 80. Lind D. A. The structure of skew products with ergodic group automor- phisms. — Israel J. Math., 28 (1977), p. 205—248. 81. Loeve M. Probability Theory.—University Series in Higher Mathematics. Princeton, N. Y.: Van Nostrand, 1960. [Имеется перевод: Лоэв М. Теория вероятностей.—М.: ИЛ, 1962.] 82. Martin N. F. G. On the classification of some metric automorphisms de- fined by Standish.—J. Math. Anal. and Appl., 62 (1978), p. 356—367. 83. Miles G., Thomas R. К. The breakdown of automorphisms of compact to- pological groups.—In: Studies in Probability and Ergodic Theory, Adv. in Math. Suppl. Studies. Vol. 2. New York: Academic Press, 1978, p. 207—218. 84. Miles G., Thomas P. K. On the polynomial uniformity of translations of the ra-torus. — In: Studies in Probability and Ergodic Theory, Adv. in Math. Suppl. Studies. Vol. 2. New York: Academic Press, 1978, p. 219—229. 85. Miles G., Thomas R. K. Generalized torus automorphisms are Bernoul- lian. — In: Studies in Probability and Ergodic Theory, Adv. in Math. Suppl. Studies. Vol. 2. New York: Academic Press, 1978, p. 231—249. 86. McEliece R. J. The Theory of Information and Coding. — Encyclopedia ol Mathematics and Its Applications. Vol. 3. Advanced Book Program. Rea- ding, Mass.: Addison—Wesley, 1977. 87. McMillan В. The basic theorems of information theory. — Ann. Math. Sta- tist., 24 (1953), p. 196—219. 88. Newton D. On the entropy of certain classes of skew product transfor- mations. — Proc. Amer. Math. Soc., 21 (1969), p. 722—726. 89. Newton D. On sequence entropy. I.—Math. Systems Theory, 4 (1970). p. 119—125. 90. Newton D. On sequence entropy. II.—Math. Systems Theory, 4 (1970) p. 126—128. 91. Neveu J. Mathematical Foundations of the Calculus of Probabilities.— Holden-Day Series in Probalibity and Statistics. San Francisco: Holden- Day, 1965. [Имеется перевод французского оригинала: Неве Ж. Мате- матические основы теории вероятностей.—М.: Мир, 1969.] 92. Neveu J. Sur les generateurs d'un automorphisme d'un espace de probabi- lite.—C. R. Acad. Sci. Paris, 263 (1966), p. 83—85. Литература 307 93. Ornstein D. Bernoulli shifts with the same entropy are isomorphic. — Adv. in Math., 4 (1970), p. 337—352. [Имеется перевод: Орнштейн Д. Сдвиги Бернулли с равной энтропией изоморфны.— Математика. Сб. пер., 1971, 15, № 1, с. 114—130.] 94. Ornstein D. Two Bernoulli shifts with infinite entropy are isomorphic. — Adv. in Math., 5 (1970), p. 339—348. 95. Ornstein D Factors of Bernoulli shifts are Bernoulli shifts.—Adv. in Math., 5 (1970), p. 349—364. 96. Ornstein D. Imbedding Bernoulli shifts in flows.—Contrib. to Ergodic Theory and Prob. (Proc. Conference Ohio State Univ., Columbus, Ohio). Lecture Notes in Math. No. 160. Berlin: Springer-Verlag, 1970, p. 178— 218. [Имеется перевод: Орнштейн Д. Включение сдвигов Бернулли в потоки. — Математика. Сб. пер., 1971, 15, № 6, с. 114—136.] 97. Ornstein D. An example of a .^-automorphism that is not a Bernoulli shift—Adv. in Math., 10 (1973), p. 49—62. 98 Ornstein D A /(-automorphism with no square root and Pinsker's conjec- ture. — Adv. in Math., 10 (1973), p. 89—102. 99 Ornstein D. A mixing transformation for which Pinsker's conjecture fa- ils.—Adv. in Math., 10 (1973), p. 103—127. 100. Ornstein D. The isomorphism theorem-for Bernoulli flows.—Adv. in Math., 10 (1973), p. 124—142. 101. Ornstein D. An application of ergodic theory to probability theory.—Ann. of Prob., 1 (1973), p. 43—65. [Имеется сокращенный перевод: Орн- штейн Д Применения эргодической теории к теории вероятностей. — Усп. мат. наук, 1975, 30, № 3, с. 125—146; 1977, 32, № 1, с. 268.] 102. Ornstein D. Factors of Bernoulli shifts. — Israel J. Math., 21 (1975). p. 145—153. 103. Ornstein D., Shields P. С. An uncountable family of /('-automorphisms.— Adv. in Math., 10 (1973), p. 63—88. [Имеется перевод: Орнштейн Д., Шилдс И Об одном несчетном семействе /^-автоморфизмов. — Матема- тика. Сб. пер., 1974, 18, № 2, с. 123—142.] 104. Ornstein D. S., Smorodinsky M., Ergodic flows of positive entropy can be time changed to become /C-flows. — Israel J. Math., 26 (1977), p'. 75—83 105 Ornstein D S Weiss В. Finitely determined implies very weak Bernoul- li.—Israel J. Math., 17 (1974), p. 94—104. 106. Osikawa M. Ergodic measure preserving transformations and equivalence in a local sense. — Mem. Fac. Sci. Kyushu Univ. A, 26 (1972), p. 193— 199. 107. Osteyee D. В., Good I. J. Information, Weight of Evidence, the Singula- rity Between Probability Measures and Signal Detection. — Lecture No- tes in Math., No. 376. New York: Springer-Verlag, 1974. 108. Palais J., Pligh C. C. Fifty problems in dynamical systems.—In: Dynami- cal Systems—Warwick 1974. Lecture Notes in Math., No. 468. New York; Springer-Verlag, 1975, p. 345—353. 109. Parthasarathy K. R. Probability Measures on Metric Spaces. — New York: Academic Press, 1967. [Имеется перевод: Партасарати К. Введение в тео- рию вероятностей и теорию меры. — М.: Мир, 1983.] 110 Parry W Representations for real numbers. — Acta Math. Acad. Sci. Hun- gar., 15 (1964), p. 95—105. 111 Parry W On Rohlin's formula for entropy.—Acta Math. Acad. Sci. Hun- gar., 15 (1964), p. 107—113. 112 Parry W Generators and strong generators in ergodic theory.—Bull, Amer. Math. Soc., 72 (1966), p. 294—296. 113 Parry W Principal partitions and generators.—Bull. Amer. Math. Soc., 73 (1967), p. 307—309. 114. Перри В. Образующие для совершенных разбиений.—ДАН СССР, 1967, 173, № 2, с. 264—266. 20* 308 Литература 115. Parry W. Aperiodic transformations and generators.—J. London Math. Soc„ 43 (1968), p. 191—194. 116. Parry W. Entropy and Generators in Ergodic Theory.—Mathematical Lec- ture Notes. Series. New York: Benjamin, 1969. 117. Пинскер М. С. Динамические системы с вполне положительной и нулевой энтропией.—ДАН СССР, 1960, 133, № 5, с. 1025—1026. 118. Poincare H. Les Methodes Nouvelles de la Mecanique Celeste.—3 vols.— Paris: Gauthier-Villars, 1899. [Имеется перевод: Пуанкаре А. Новые ме- тоды в небесной механике.—В кн.: Избранные труды. Т. 1, 2.—М.: Наука, 1971—1972.] 119. Posner Е. С., Rodemich E. R., Rumsev H. Jr. Epsilon entropy of stochas- tic processes.—Annals Math. Statist.," 38 (1967), p. 1000—1020. 120. Renyi A. Representations lor real numbers and their ergodic properties.— Acta Math. Acad. Sci. Hungar., 8 (1957), p. 477—493. 121. Robinson D. W.. Ruelle D. Mean entropy of states in classical statistical mechanics, — Comm. Math, Physics, 5 (1967), p. 288—300. 122. Рохлин В. А. Об основных понятиях теории меры.—Мат. Сб., 1949, 25, № 1, с. 107—150. 123. Рохлин В. А. Об энтропии метрического автоморфизма.—ДАН СССР, 1959, 124, № 5, с. 980—983. 124. Рохлин В. А. Избранные вопросы метрической теории динамических си- стем.—Усп. мат. наук, 1949, 4, № 2, с. 57—128. 125. Рохлин В. А. Точные эндоморфизмы пространства Лебега.—Изв. АН СССР. Сер. мат., 1961, 25, № 4, с. 499—530. 126. Рохлин В. А. Образующие в эргодической теории. I.—Вестник ЛГУ, 1963, № 1, с. 26—32. 127. Рохлин В. А. Образующие в эргодической теории. II.—Вестник ЛГУ, 1965, № 13, с. 68—72. 128. Рохлин В. А., Синай Я. Г. Построение и свойства инвариантных измери- мых разбиений—ДАН СССР, 1961, 141, № 5, с. 1038—1041. 129. Rudolf D. Non-equivalence of Measure Preserving Transformations.— Lecture Notes, Inst. for Adv. Studies. Jerusalem: Hebrew Univ., 1976. 130. Ruelle D. A variational formulation of equilibrium statistical mechanics and the Gibbs phase rule. — Comm. Math. Physics, 5 (1967), p. 324—329. 131. Ruelle D. Statistical Mechanics: Rigorous Results.—Advanced Book Pro- gram. Reading Mass.: Benjamin, 1969; 3rd printing with corrections, 1979. [Имеется перевод первого издания: Рюэль Д. Статистическая механика. Строгие результаты.—М.: Мир, 1971.] 132. Ruelle D. Statistical mechanics on a compact set with Zv action satisfying expansiveness and specification.—Trans. Amer. Math. Soc., 185 (1973), p. 237—251. 133. Ruelle D. Thermodynamic Formalism.—Encyclopedia of Mathematics and Its Applications. Vol. 5. Advanced Book Program. Reading, Mass.: Addi- son-Wesley, 1978. 134. Saleski A. On induced transformations of Bernoulli shifts.—Math. Sys- tems Theory, 7 (1973), p. 83—96. 135. Saleski A Sequence entropy and mixing.—J. Math. Anal. and AppL, 60 (1977), p. 58—66. 136. Saleski A. On mixing and entropy.—J. Math. Anal. and AppL, 67 (1979), p. 426—430. 137. Сатаев Е. А. Инвариант монотонной эквивалентности, определяющий факторы от автоморфизмов, монотонно эквивалентных сдвигу Бернул- ли.—Изв. АН СССР. Сер. мат., 1977, 41, № 1, с. 158—181. 138. Shannon С. A mathematical theory of communication.—Bell System Tech, J., 27 (1948), p. 379—423, 623—656. [Имеется перевод: Математическая теория связи. — В кн.: Шеннон К. Работы по теории информации и ки- бернетике. М.: ИЛ, 1963, с. 243-332.] Литература 309 139. Shields P. С. The Theory of Bernoulli Shifts.—Chicago Lectures in Mat- hematics. Chicago: Univ. of Chicago Press, 1973. 140. Shields P. C., Neuhoff D. L. Block and sliding-block source coding.— IEEE Trans. in Information Theory, IT-23 (1977), p. 211—215. 141. Shub M. Topological entropy and stability.—In: Dynamical Systems— Warwick 1974. Lecture Notes in Math. No. 468. New York: Springer-Ver- lag, 1975, p. 39—40. 142. Синай Я. Г. О понятии энтропии динамической системы. — ДАН СССР,. 1959, 124, № 4, с. 768—771. 143. Синай Я. Г. Слабый изоморфизм преобразований с инвариантной ме- рой.—ДАН СССР, 1962, 147, № 4, с. 797—800. 144. Синай Я. Г. О слабом изоморфизме преобразований с инвариантной ме- рой. — Мат. Сб., 1964, 63, № 1, с. 23—42. 145. Smale S. On dynamical systems.—Bol. Soc. Mat. Mexicana, 5 (1960), p. 195—198. 146. Smale S. Dynamical systems and the topological conjugacy problem for diffeomorphisms.—Proc. Internat. Congress of Mathematicians (Stock- holm, 1962). Uppsala: Almquist and Wiksell, 1963, p. 490—496. [Имеется перевод: Смейл С. Динамические системы и проблема топологической сопряженности диффеоморфизмов.—Математика. Сб. пер., 1967, 11, №4, с. 69—78.) 147. Smorodinsky M. A partition on a Bernoulli shift which is not weakly Bernoulli,—Math. Systems Theory, 5 (1971), p. 201—203. 148. Smorodinsky M. Ergodic Theory, Entropy.—Lecture Notes in Math. No.. 214. New York: Springer-Verlag, 1971. 149. Standish С. A class of measure preserving transformations.—Pacific J. Math,, 6 (1936), p. 553—564. 150. Sucheston L. On mixing and the zero-one law.—J. Math. Anal. AppL, 6 (1963), p. 447—456. 151. Sucheston L. Remarks on Kolmogorov automorphisms.—In: Ergodic Theo- ry (Proc. Internat. Symposium, Tulane Univ., New Orleans, 1961). New- York: Academic Press, 1963, p. 251—258. 152. Swanson L. Bernoulli shifts and induced automorphisms.—Adv. in Math.,, 33 (1979), p. 93—108. 153. Swanson L. Generators of factors of Bernoulli shifts.—Pacific J. Math.,. 71 (1977), p. 213—220. 154. Thompson C. J. Mathematical Statistical Mechanics.—New York: Mac- millan, 1972. 155. Thouvenot J. P. Convergence en moyenne de 1'information pour 1'action de Z2—г. Wahrscheinlichkeitstheorie und Verw. Geb., 24 (1972), p. 135— 137. 156. Thouvenot J. P. Quelques proprietes des systemes dynamiques qui se de- composent en un produit de deux systemes dont 1'un est un schema de Bernoulli.—Israel J. Math., 21 (1975), p. 177—207. 157. Thouvenot J. P. Remarques sur les systemes dynamiques donnes avec plu- sieurs facteurs. — Israel J. Math., 21 (1975), p. 215—232. 158. Thouvenot J. P. On the stability of the weak Pinsker property.—Israel L Math., 27 (1977), p. 150—162. 159. Uhlenbeck G. E., Ford G. W. Lectures in Statistical Mechanics.—Provi- dence, R. I.: Amer. Math. Soc., 1963. [Имеется перевод: Уленбек Дж., Форд Дж. Лекции по статистической механике.—М.: Мир, 1965.] 160. Utz W. R. Unstable homeomorphisms.—Proc. Amer. Math. Soc., 1 (1950), p. 769—774, 161. Walters P. Some invariant a-algebras for measure preserving transforma- tions. — Trans. Amer. Matli. Soc., 163 (1972), p. 357—368. 162. Walters P. A variational principle for the pressure of a continious trans- formation. — Amer. ,). Math., 97 (1974), p. 937—971. 310 Дополнительная литератора 163. Weiss B. Equivalence of Measure Preserving Transformations. — Lecture Notes, Inst. for Adv. Studies. Jerusalem: Hebrew Univ., 1976. 164 Weiss В. Lectures presented at Regional Conf. Ergodic Theory, SUNY, Albany, N. Y., June 1979. • .ДОПОЛНИТЕЛЬНАЯ ЛИТЕРАТУРА Абрамов Л. М. [1959] Энгропия автоморфизма соленоидальной группы.—Теория вероятн. и ос прим., 4, № 3, 249—254. [1963] Реферат работы А. Л. Гениса «Метрические свойства эндоморфизмов га-мерного тора». — РЖ Математика, ЗБ439. Алексеев В. М., Якобсон М. В. [1979] Символическая динамика и гиперболические динамические системы.— В кн.: БОУЭН Р. Методы символической динамики. М.: Мир, 196— 240. Аносов Д. В. [1967] Геодезические потоки на замкнутых римановых многобразиях отри- цательной кривизны.—Труды МИАН, 90 Аносов Д. В., Арансон С. X., Бронштейн И. У., Гринес В. 3. [1985] Гладкие динамические системы. — Итоги науки и техники. Современ- ные проблемы математики. Фундаментальные направления, 1, 151— 242. М.: ВИНИТИ. .Аносов Д. В., Синай Я. Г. [1967] Некоторые гладкие эргодические системы.—Успехи мат. наук, 22, № 5, 107—172. Арансон С. X., Гринес В. 3. [1981] Гомеоморфизмы с минимальной энтропией на двумерных многооб- разиях. — Успехи мат. наук, 36, № 2, 175—176. Аров Д. 3. [1964] Вычисление энтропии для одного класса групповых эндоморфизмов.— Уч. зап. Харьковского ун-та, 138, 48—69. Белинская Р. М. [1973] Энтропия косого произведения.—Изв. ВУЗов. Математика, № 1, 3—14. [1974] Энтропия кусочно-степенного косого произведения.—Изв. ВУЗов. Математика, № 3, 12—17. Боуэн Р. [1979] Методы символической динамики.—М.: Мир. Бриллюэн Л. [1966] Научная неопределенность и информация.—М.: Мир. Брин М. И. [1974] Оценки снизу энтропии гладкой динамической системы. — Функц. анализ и его прил., 8, № 3, 71—72. Брудно А. А. [1974а]Об одном свойстве топологической энтропии.— Успехи мат. наук, 29, № 1, 160. [19746] Топологическая энтропия и сложность по Колмогорову.—Успехи мат. наук, 29, № 6, 157—158. [1977] Символическая динамика и энтропия.—Успехи мат. наук, 32, № 3, 180.- [1978] О сложности траекторий динамической системы.—Успехи мат. наук, 33, № 1, 207—208. [1982] Энтропия и сложность траекторий динамической системы.—Труды Моск. мат. об-ва, 44, 124—149. Бунимович Л. А. [1973] Включение сдвигов Бернулли в некоторые специальные потоки. — Успехи мат. наук, 28, № 3, 171—172. Дополнительная литература 311- '[1974а]0б одном классе специальных потоков. — Изв. АН СССР. Сер. мат 38, № 1, 213—227. [19746] О бильярдах, близких к рассеивающим. — Мат. сб., 95, № 1, 49—73. Бунимович Л. А., Песин Я. Б., Синай Я. Г., Якобсон М. В. [1985] Эргодическая теория гладких динамических систем.—Итоги науки и техники. Современные проблемы математики. Фундаментальные на- правления, 2, 113—231. М.: ВИНИТИ. Бунимович Л. А., Сипай Я. Г. [1973] Об основной теореме теории рассеивающих бильярдов —Мат сб, 90, № 3, 415—431. Бураго Д. Ю. [1988] Новый подход к вычислению энтропии геодезического потока к близких динамических систем. — Докл. АН СССР, 299, № 5. Вершик А. М. [1970] Убывающие последовательности измеримых разбиений и их прило- жения.—Докл. АН СССР, 193, № 4, 748—751. [1971] Континуум попарно неизоморфных диадических последовательно- стей. — Функц. анализ и его прил., 5, № 3, 19—21. [1973] Четыре определения шкалы автоморфизма. — Функц. анализ и его- прил., 7, № 3, 1—17. [1974] Убывающие последовательности сг-алгебр и эргодические теоремы. — Теория вероятн. и ее прим., 19, № 3, 657—658. [1976] О работах Д. Орнштейна, условиях слабой зависимости и о клас- сах стационарных мер.—Теория вероятн. и ее прим., 21, № 3, 673— 675. [1981] Равномерная алгебраическая аппроксимация операторов сдвига и умножения. — Докл. АН СССР, 259, № 3, 526—529. [1982] Теорема о периодической марковской аппроксимации и эргодиче- ской теории.—Зап. научн. семин. ЛОМИ, 115, 72—82. [1987] Статистическая сумма, связанная с диаграммами Юнга. — Зап. на- учн. семин. ЛОМИ, 164, 20—29. Вершик А. М., Кайманович В. А. [1979] Случайные блуждания на группах: граница, энтропия, равномерное распределение. — Докл. АН СССР, 249, № 1, 15—18. Вершик А. М., Керов С. В. [1985] Асимптотика максимальной и типичной размерностей неприводимых представлений симметрической группы. — Функц. анализ и его прил.,. 19, № 1, 25—36. Вершик А. М., Корнфельд И. П., Синай Я. Г. [1985] Общая Эргодическая теория групп преобразований с инвариантной мерой. — Итоги науки и техники. Современные проблемы матема- тики. Фундаментальные направления, 2, 5—111. М.: ВИНИТИ. Вершик А. М., Юзвинский С. А. [1969] Динамические системы с инвариантной мерой.—Итоги науки и тех- ники. Математический анализ. 1967, 133—187. М.: ВИНИТИ. Вирцер А. Д. [1983] О простоте спектра характеристических показателей Ляпунова про- изведения случайных матриц.—Теория вероятн. и ее прим., 28, №1, 115-127. Возенкрафт Дж., Джекобс И. I1966] Теоретические основы техники связи.—М.: Мир. Волковысский К. Л., Синай Я. Г. [1971] Эргодические свойства идеального газа с бесконечным числом сте- пеней свободы. — Функц. анализ и его прил., 5, № 3, 19—21. Вольфовиц Дж. [1967] Теоремы кодирования теории информации.—М.: Мир. 312 Дополнительная литература Гальперин Г. А. [1981] Об одной энтропийной характеристике однородных сред с локаль- ным взаимодействием. — Успехи мат. наук, 36, № 6, 207—208. Гельфанд И. М., Колмогоров А. Н., Яглом А. М. [1956] К общему определению количества информации.—Докл. АН СССР, 111, № 4, 745—748. .Гельфанд И. М., Яглом А. М. [1957] О вычислении количества информации о случайной функции, содер- жащегося в другой такой функции.—Успехи мат. наук, 12, № 3, 3—52. Генис А. Л. [1961] Метрические свойства эндоморфизмов п-мерного тора. — Докл. АН СССР, 138, № 5, 991—993. Гиббс Дж. В. [1946] Основные принципы статистической механики.—М.: Гостехтеориз- дат. Гольдшейд И. Я., Маргулис Г. А. [1987] Условие простоты спектра показателей Ляпунова.—Докл. АН СССР, 293, № 2, 297—301. Тольдштейн М. Ш. [1980] Эргодические теоремы и энтропия автоморфизмов алгебр Нейма- на.—Докл. АН СССР, 253, № 4, 781—785. Григорчук Р. И. [1985] Связь между алгоритмическими проблемами и энтропийными харак- теристиками" групп. — Докл. АН СССР, 284, № 1, 24—29. Туревич Б. М. [1961] Энтропия потоков орициклов.—Докл. АН СССР, 136, К" 4, 768— 770. [1963] Об одном классе специальных автоморфизмов и специальных пото- ков.—Докл. АН СССР, 153, № 4, 754—757. [1969] Топологическая энтропия счетной цепи Маркова.—Докл. АН СССР, 187, № 4, 715—718. [1970а] Энтропия сдвига и марковские меры в пространстве путей счетного графа.—Докл. АН СССР, 192, № 5, 963—965. [19706] Об инвариантной мере с максимальной энтропией для У-диффеомор- физма.—Функц. анализ и его прил., 4, № 4, 21—30. [1972] Единственность меры с максимальной энтропией для символических динамических систем, близких к марковским. — Докл. АН СССР, 204, № 1, 15—17. Туревич Б. М., Синай Я. Г. [1969] Алгебраические автоморфизмы тора и цепи Маркова. — В кн.: Бил- лингслей П. Эргодическая теория и информация. М.: Мир, 205—233. Гусева О. В. [1964] Инварианты типа энтропии автоморфизмов пространств Лебега.— Вест. ЛГУ, № 1, 36—41. Динабург Е. И. [1968] Один пример вычисления топологической энтропии.—Успехи мат, наук, 23, № 4, 249—250. [1971] Связь между различными энтропийными характеристиками динами- ческих систем.—Изв. АН СССР. Сер. мат., 35, № 2, 324—366. .Добрушин Р. Л. [1959] Общая формулировка основной теоремы Шеннона в теории инфор- мации.—Успехи мат. наук, 14, № 6, 3—104. -Добрушин Р. Л., Маслова Н. Б., Синай Я. Г., Сухов Ю. М. [1985] Динамические системы статистической механики и кинетические урав- нения. — Итоги науки и техники. Современные проблемы математики. Фундаментальные направления, 2, 233—307. М.: ВИНИТИ. Дополнительная литература 313. Жиров А, Ю., Устинов Ю. И. [1973] Топологическая энтропия одномерных соленоидов Вильямса.—Мат. заметки, 14, № 6, 859—866. Захарович М. И. [1978] Характеристические показатели и векторная Эргодическая теорема.— Вест. ЛГУ, № 7, 28—34. Звонкий А. К., Левин Л. А. • [1970] Сложность конечных объектов и обоснование понятий информации и. случайности с помощью теории алгоритмов. — Успехи мат. наук, 25„ № 6, 85—127. Ибрагимов И. А., Линник Ю. В. [1965] Независимые и стационарно связанные величины.—М.: Наука. Ибрагимов И. А., Розанов Ю. А. [1970] Гауссовские случайные процессы.—М.: Наука. Ибрагимов И. А., Хасьминский Р. 3. [1979] Асимптотическая теория оценивания.—М.: Наука. Кайманович В. А. [1983] Дифференциальная энтропия границы случайного блуждания на группе.—Успехи мат. наук, 38, № 5, 187—188. [1985а] Энтропийный критерий максимальности границы случайных блу- жданий на дискретных группах.—Докл. АН СССР, 280, № 5, 1051— 1054. [19856] Полное описание хвостовой о-алгебры случайных блужданий и близкие вопросы.—Теория вероятн. и ее прим., 30, № 1, 189— 190. [1986] Броуновское движение и гармонические функции на накрывающих многообразиях. Энтропийный подход. — Докл. АН СССР, 288, № 5, 1045—1049. [1987] Показатели Ляпунова, симметрические пространства и мультипли- кативная Эргодическая теорема для полупростых групп Ли. — Зап. научн. семин. ЛОМИ, 164, 30—46. [1988] Броуновское движение на слоениях компактных многообразии, эн- тропия и инвариантные меры. — Функц. анализ и его прил., 22. Канторович Л. В. [1942] О перемещении масс.—Докл. АН СССР, 37, № 7—8, 227—229. Канторович Л. В., Акилов Г. П. [1977] Функциональный анализ.—М.: Наука. Канторович Л. В., Рубинштейн Г. Ш. [1958] Об одном пространстве вполне аддитивных функций.—Вест. ЛГУ,. № 7, 52—59. Каток А. Б. [1967] Энтропия и аппроксимация динамических систем периодическими пре- образованиями.—Функц. анализ и его нрил., 1, № 1, 75—85. [1977] Гипотеза об энтропии.—В кн.: Гладкие динамические системы. М.: Мир, 181—203. Каток А. Б., Синай Я. Г., Стенин А. М. [1975] Теория динамических систем и общих групп преобразований с ин- вариантной мерой. — Итоги науки и техники. Математический ана- лиз, 13, 129—262. М.: ВИНИТИ. Каток А. Б., Стёпин А. М. [1967] Аппроксимации в эргодической теории.—Успехи мат. наук, 22, .№ 5, 81—106. Колмогоров А. Н. [1956а] Теория передачи информации.—М.: АН СССР. [19566]О некоторых асимптотических характеристиках вполне ограниченных метрических пространств.—Докл. АН СССР, 108, № 3, 385— 388. 314 Дополнительная литература [1958] Новый метрический инвариант транзитивных автоморфизмов про- странств Лебега. — Докл. АН СССР, 119, № 5, 861—864. [1965] Три подхода к определению понятия «количество информации». — Проблемы передачи информации, 1, № 1, 3—7. [1987] Теория информации и теория алгоритмов.—М.: Наука. Колмогоров А. Н., Тихомиров В. М. [1959] е-энтропия и е-емкость множеств в функциональных пространствах.— Успехи мат. наук, 14, № 2, 3—86. Корнфельд И. П. [1972] Об инвариантных мерах минимальных динамических систем.—Докл. АН СССР, 202, № 2, 280—283. Корнфельд И. П., Синай Я. Г., Фомин С. В. [1980] Эргодическая теория.—М.: Наука. .Крылов Н. С. [1950] Работы по обоснованию статистической физики.—М.: АН СССР. Кульбак С. [1967] Теория информации и статистика.—М.: Наука. .Кушпиренко А. Г. [1965] Оценка сверху энтропии классической динамической системы — Докл. АН СССР, 161, № 1, 37—38. Лившиц А. Н. [1973] Образующие автоморфизмов с конечной энтропией.—Вест. ЛГУ, № 1, 32—36. [1974] К проблеме изоморфизма схем Бернулли.—Теория вероятн и ее прим., 19, № 2, 409—416. [1987] О спектрах адических преобразований марковских компактов.—Ус- пехи мат. наук, 42, № 3, 189—190. -Линник Ю. В. [1959] Теоретико-информационное доказательство центральной предельной теоремы в условиях Линдеберга. — Теория вероятн, и ее примеч 4 №3,311-321. .Любич М. Ю, [1981] Энтропия аналитических эндоморфизмов сферы Римана.—Функц. анализ и его прил., 15, № 4, 90—91. [1982] О мере максимальной энтропии рационального эндоморфизма сферы Римана. — Функц. анализ и его прил., 16, № 4, 78—79. .Маргулис Г. А. [1969] О некоторых применениях эргодической теории к изучению многооб- разии отрицательной кривизны. — Функц. анализ и его прил, 3 № 4 89—90. [1970] О некоторых мерах, связанных с У-потоками на компактных много- образиях. — Функц. анализ и его прил., 4, № 1, 62—76 .Мельцер М. М., Рубштейн Б. А., Шварц П. С. [1970] Вычисление топологической энтропии некоторых диффеоморфизмов. — Научи, труды Ташкентского ун-та, 394, 102—107. .Мешалкин Л. Д. [1959] Один случай изоморфизма схем Бернулли. — Докл. АН СССР 128 № 1, 41—44. Миллионщиков В. М. [1969] Критерий устойчивости вероятного спектра линейных систем диффе- ренциальных уравнений с рекуррентными коэффициентами и крите- рий почти приводимости систем с почти периодическими коэффициен- тами. —Мат. сб., 78, № 2, 79—201. •Орнштейн Д. С. [1978] Эргодическая теория, случайность и динамические системы — М • Мир. Дополнительная литература 315 Оселедец В. И. [1965] Марковские цепи, косые произведения и эргодические теоремы для «общих» динамических систем. —Теория вероятн. и ее прим., 10, № 3, 551—557. [1968] Мультипликативная Эргодическая теорема. Характеристические по- казатели Ляпунова динамических систем. — Труды Моск. мат. об-ва, 19, 179—210. Песин Я. Б. [1976а] Семейства инвариантных многообразии динамических систем с не- нулевыми характеристическими показателями Ляпунова. — Изв. АН СССР. Сер. мат., 40, № 6, 1332—1379. [19766] Геодезические потоки на замкнутых римановых многообразиях без фокальных точек.—Изв. АН СССР. Сер. мат., 41, № 6, 1252— 1288. [1977] Характеристические показатели Ляпунова и гладкая Эргодическая теория.—Успехи мат. наук, 32, № 4, 55—111. [1978] Формулы для энтропии геодезического потока на компактном ри- мановом многообразии без сопряженных точек. — Мат. заметки, 24, № 4, 553-570. [1981] Геодезические потоки с гиперболическим поведением траекторий и связанные с ними объекты.—Успехи мат. наук, 36, № 4, 3—51. Песин Я. Б., Пицкель Б. С. [1984] Топологическое давление и вариационный принцип для некомпакт- ных множеств. — Функц. анализ и его прил., 18, № 4, 50—63. Пинскер М. С. [1960а] Информация и информационная устойчивость случайных величин и процессов.—М.: АН СССР. [19606] Информация и информационная устойчивость гауссовских случай- ных величин и процессов. — Докл. АН СССР, 133, № 1, 28—30. [1960в] Энтропия, скорость создания энтропии и энтропийная устойчивость. гауссовских случайных величин и процессов.—Докл. АН СССР, 133, № 3, 531—534. Пирс Дж. [1967] Символы, сигналы, шумы.—М.: Мир. Пицкель Б. С. [1969] Некоторые свойства А-энтропии.—Мат. заметки, 5, № 3, 327—334. [1971] Несколько замечаний об индивидуальной эргодической теореме тео- рии информации.—Мат. заметки, 9, № 1, 93—103. [1975] Об информационных будущих аменабелькых групп.—Докл. АН СССР, 223, № 5, 1067—1070. [1978] Энтропия случайных полей, однородных относительно коммутативной группы преобразований. — Мат. заметки, 23, № 3, 447—462. [1980] Теорема Шеннона—Макмиллана—Бреймана для стационарных про- цессов, однородных по пространству.—Успехи мат. наук, 35, № 4, 203—204. Пицкель Б. С., Стёпин А. М. [1971] О свойстве равнораспределенности энтропии коммутативных групп метрических автоморфизмов.—Докл. АН СССР, 198, № 5, 1021— 1024. Пригожий И. [1985] От существующего к возникающему.—М.: Наука. Рачев С. Т. [1984] Задача Монжа—Канторовича о перемещении масс и ее применения' в стохастике. — Теория вероятн. и ее прим., 29, № 4, 625—653. Розенблат-Рот М. [1957] Энтропия стохастических процессов.—Докл. АН СССР, 112, № 1„ 16-19. 316 Дополнительная литература [1964] Понятие энтропии в теории вероятностей и его применение в теории передачи информации по каналам связи.—Теория вероятн. и ее прим., 9, № 2, 238—260. Рохлин В. А. [1949] О разложении динамической системы на транзитивные компонен- ты. — Мат. сб., 67, № 2, 235—249. [1960] Новый прогресс в теории преобразований с инвариантной мерой.— Успехи мат. наук, 15, № 4, 3—26. [1961] Об энтропии автоморфизма компактной коммутативной группы. — Теория вероятн. и ее прим., 6, № 3, 351—352. [1963] Аксиоматическое определение энтропии преобразования с инвариант- ной мерой.—Докл. АН СССР, 148, № 4, 779—781. [1964] Метрические свойства эндоморфизмов компактных коммутативных групп. — Изв. АН СССР. Сер. мат., 28, № 4, 867—874. [1967] Лекции по энтропийной теории преобразований с инвариантной ме- рой. — Успехи мат. наук, 22, № 5, 3—56. Сафонов А. В. [1983] Информационные прошлые в группах.—Изв. АН СССР. Сер. мат.. 47, № 2, 421—426. Симонов А. А. [1980] Меры с максимальной энтропией для кусочно-монотонных преобра- зований интервала. — Успехи мат. наук, 35, № 5, 243—244. •Синай Я. Г. [1959] О потоках с конечной энтропией.—Докл. АН СССР, 125, № 6, 1200—1202. [1963а] Вероятностные идеи в эргодической теории. — Proc. Int. Congr. Math. 1962. Djursholm— Uppsala, 540—559. [19636] Об одной «физической» системе, имеющей положительную «энтро- пию».—Веет. МГУ, № 5, 6—12. [1966] Асимптотика числа замкнутых геодезических на компактных много- образиях отрицательной кривизны. — Изв. АН СССР. Сер. мат., 30, № 6, 1275—1296, [1968] Марковские разбиения и У-диффеоморфизмы. — Функц. анализ и его прил., 2, № 1, 64—89. [1972] Гиббсовские меры в эргодической теории.—Успехи мат. наук, 27, № 4, 21—64. [1973] Введение в эргодическую теорию.—Ереван: Изд. Ерев. ун-та. [1979] Эргодические свойства газа Лоренца.—Функц. анализ и его прил., 13, № 3, 46—59. [1980] Теория фазовых переходов.—М.: Наука. •Синай Я. Г., Чернов Н. И. [1982] Энтропия газа твердых сфер по отношению к группе пространствен- но-временных сдвигов.—Труды семин. им. И. Г. Петровского, 8, 218—238. [1987] Эргодические свойства некоторых систем двумерных дисков и трех- мерных шаров.—Успехи мат. наук, 42, № 3, 153—174. •Софман Л. Б. [1981] Об асимптотическом поведении е,о-энтропии и 8,0-размерности одно- родного гауссовского поля.—Успехи мат. наук, 36, № 6, 231— 232. [1984] Асимптотическое поведение е,о-энтропии системы гауссовских мер в R'1. — Успехи мат. наук, 39, № 3, 243—244. ^Стёпин А. М. [1971] Об энтропийном инварианте убывающих последовательностей изме- римых разбиений. — Функц. анализ и его прил., 5, № 3, 80—84. [1975] Сдвиги Бернулли на группах. — Докл. АН СССР, 223, № 2, 300— 302. Дополнительная литература 317 Стёпин А. М., Таги-Заде А. Т. [1978] Равнораспределенность энтропии аменабельных групп преобразова- ний. — Докл. АН Азерб. ССР, 34, № 9, 3—7. [1980] Вариационная характеризация топологического давления аменабель- ных групп преобразований. — Докл. АН СССР, 254, № 3, 545—549. Стёпин А. М., Шухов А. Г. [1982] О централизаторах диагонализируемых состояний и энтропии авто- морфизмов 1^*-алгебр. — Изв. ВУЗов. Математика, № 8, 52—60. Таги-Заде А. Т. [1978а] Энтропия действий аменабельных групп.—Докл. АН Азерб. ССР, 34, № 6, 18—22. [19786] Об энтропийных характеристиках аменабельных групп —Докл АН Азерб. ССР, 34, № 8, 11—14. Темпельмап А. А. [1986] Эргодические теоремы на группах. — Вильнюс: Мокслас. Фаддеев Д. К. [1956] К понятию энтропии конечной вероятностной схемы.—Успехи мат. наук, 11, № 1, 227—231. •Фано Р. [1965] Передача информации. Статистическая теория связи.—М.: Мир. Хинчин А. Я. [1953] Понятие энтропии в теории вероятностей.—Успехи мат. наук, 8, № 3, 3—20. [1956] Об основных теоремах теории информации.—Успехи мат. наук, 11, № 1, 17-75. Хопф Э. [1949] Статистика геодезических линий на многообразиях отрицательной кривизны.—Успехи мат. наук, 4, № 2, 129—170 Ченцов Н. Н. [1972] Статистические решающие правила и оптимальные выводы.—М.: Наука. Чисар И., Кернер Я. [1985] Теория информации. Теоремы кодирования для дискретных систем без памяти.—М„: Мир. Штильман М. С. [1971] О числе инвариантных мер с максимальной энтропией для сдвига в пространстве последовательностей.—Мат. заметки, 9, № 3, 291— 302. Шухов А. Г. [1980] Об энтропии диагонализируемых состояний неймановских алгебр. — Функц. анализ и его прил., 14, № 2, 95—96. [1981] Об энтропийном инварианте автоморфизмов 1У*-алгебр. — Функц. анализ и его прил., 15, № 2, 94—95. Юзвинский С. А. [19б7а] Метрические свойства эндоморфизмов локально-компактных групп.— Успехи мат. наук, 22, № 5, 51—54. [19676] Вычисление энтропии группового эндоморфизма.—Сиб мат журн 8, № 1, 230—239. [1972] Об энтропии последовательности разбиений, порожденной эндомор- физмом. — Функц. анализ и его прил., 6, № 3, 87—88. Яглом А. М., Яглом И. М. [1973] Вероятность и информация.—М.: Наука. * * * Aaronson J. [1978] Ergodic theory for inner functions on the upper half plane.—Ann. Inst. H. Poincare Sect. B, 14, № 3, 233—253. 318 Дополнительная литература Ackoglu M. A., del Junco A., Rahe M. [1979] Finitary codes between Markov processes.—Z. Wahrscheinlichkeits- theorie und Verw. Geb., 47, № 3, 305—314. Adier R. L. [1973] f-expansions revisited.—Lecture Notes in Math., 318, 1—5. Berlin: Springer. Adier R. L., Coppersmith D., Hassner M. [1983] Algorithms for sliding block codes. An application of symbolic dyna- mics to information theory.—IEEE Trans. Inf. Cheory, 29, № 1, 5— 22. Adier R. L., Kitchens В., Marcus В. Н. [1985] Finite group actions on shifts of finite type.—Ergod. Theory and Dyn. Syst., 5, № 1, 1—25. Adier R. L., Marcus В. Н. [1978] Finitistic coding for shifts of finite type. — Lecture Notes in Math., 668. Berlin: Springer. Adier R. L., Weiss B. [1967] Entropy is a complete metric invariant for automorphisms of the to- rus. — Proc. Nat. Acad. Sci. USA, 57, № 6, 1573—1576. Aisenman R., Goldstein S., Leibowitz J. L. [1975] Ergodic properties of infinite systems.—Lecture Notes in Physics, 38, 112—143. Berlin: Springer. Aldous D. J. [1981] On d-convergence of Markov chains.—Math. Proc. Cambridge Phil. Soc., 90, № 2, 331—333. Alufohai I. C. [1981] A class of weak Bernoulli transformations associated with representa- tions of real numbers. — Journ. London Math. Soc., 23, № 2, 295— 302. [1984] Number theoretical weak Bernoulli transformations on the unit inter- val. — Math. Japon., 29, № 2, 229—235. Ambrose W., Kakutani S. [1942] Structure and continuity of measurable flows.—Duke Math. Journ., 9, № 1, 25—42. Aoki N. [1969] On zero entropy and quasi-discrete spectrum for automorphisms. — Proc. Japan. Acad., 45, № 1, 20—24, [1971] Topological entropy of distal affine transformations on compact abe- lian groups.—Journ. Math. Soc. Jap., 23, № 1, 11—17. [1981 a] A simple proof of the Bernoullicity of ergodic automorphisms on com- pact abelian groups. — Israel Journ. Math., 38, № 3, 189—198. [1981b] A group automorphism is a factor of a direct product of a zero en- tropy automorphism and a Bernoulli automorphism. — Fund. Math., 114, № 2, 159—171. Arnold V., Avez A. [1967] Problemes ergodiques de la mecanique classique.—Paris: Gauthier- Villars. Avez A. [1972] Entropie des grouoes de type fini.—C. R. Acad. Sci. Paris, ser. A., 275, № 18, 1363—1366. [1974] Theoreme de Choquet—Deny pour les groupes a croissance non-ex- ponentielle. — C. R. Acad. Sci. Paris, ser. A, 279, № 1, 25—28. [1976a] Croissance des groupes de type fini et fonctions harmoniques.— | Harmonic tunctions on groups. — in: UUten lativity, 27—32. Dordrecht—Holland: Reidel. Lecture Notes in Math., 532, 35—49. Berlin: Springer. [1976b] Harmonic functions on groups.—In: Differential Geometry and Re- Дополнительная литература 319 .Baba Y. [1973] Entropy and Hausdorff dimension of a sequence of coordinate func- tions in base. r expansions. — Lecture Notes in Math., 330, 1—6. Ber- lin: Springer. .Barren A. R. [1986] Entropy and the central limit theorem. — Ann. Prob., 14, № 1, 336— 342. Batle N., Trillas E. [1979] Entropy and fuzzy integral. — Journ. Math. Anal. Appl., 69, № 2, 469—474. Bellow A., Furstenberg Н. [1979] An application of number theory to ergodic theory and the construc- tion of uniquely ergodic models. — Israel Journ. Math., 33, № 3—4, 231—240. Benettin G., Froeschle C., Scheidecker J.—P. [1979] Kolmogorov entropy of a dynamical system with an increasing num- ber of degrees of freedom. — Phys. Rev. A (3), 19, № 6, 2454— 2460. Berg К. R. [1969] Convolution of invariant measures, maximal entropy.—Math. Syst. Theory, 3, № 2, 146—150. Bernhardt С. [1983] Periodic points and topological entropy of maps of the circle. — Proc. Amer, Math. Soc., 87, № 3, 516—518. Bertrand-Mathis A. [1985] Application de la notion d'entropie au developement d'un nombre reel dans une base de Pisot.—Ann. Inst. Fourier, 35, № 3, 1—32. Besson О. [1981] On the entropy in Hi von Neumann algebras.—Ergod. Theory and Dyn. Syst., 1, № 4, 419—429. Bialynicki-Birula I. [1984] Entropie uncertainty relations, — Phys. Lett. A, 103, № 5, 253— 254. Bialynicki-Birula I., Madajczyk J. L. [1985] Entropie uncertainty relations for angular distributions.—Phys. Lett. A, 108, № 8, 384—386. Binkowska M. [1984] Weak mixing finitary shifts are Bernoulli.—Bull. Pol. Acad. Sci. Ser. Sci. Math., 32, № 3—4, 185—191. Birkhoff G. D. [1931] Proof of the ergodic theorem. — Proc. Nat. Acad. Sci. USA, 17, 656— 660. Black L., Coven E. M., Nitecki Z. [1981] Minimizing topological entropy for maps of the circle.—Ergod. Theo- ry and Dyn. Syst., 1, № 2, 145—149. Black L., Cuckenheimer J., Misiurewicz M., Young L.-S. [1980] Periodic points and entropy of one-dimensional maps.—Lecture Notes in Math., 819, 18—34. Berlin: Springer. Blanchard F. [1976] Partitions extremales de flot d'entropie infinie.—Z. Wahrscheinlich- keitstheorie verw. Geb., 36, № 2. 129—136. Blum J., Hanson D. [1963] On the isomorphism problem for Bernoulli schemes.—Bull. Amer. Math. Soc., 69, № 2, 221—223. Bougerol P., Lacroix J. [1985] Products of random matrices with appications to Schrodinger opera- tors.—Progress in Probability and Statistics, 8. Boston: Birkhauser. 320 Дополнительная литература Bowen R. [1970] Markov partitions for axiom A diffeomorphisms.—Amer. Journ. Math., 92, № 3, 725—747. [1972a] Entropy-expansive maps. — Trans. Amer. Math. Soc., 164, 323--331. [1972b]The equidistribution of closed geodesies.—Amer. Journ. Math., 94, № 2, 413—423 [1974a] Entropy versus homology for certain diffeomorphisms.—Topology, 13, № 1, 61—67. [1974b] Maximizing entropy for a hyperbolic flow.—Math. Syst. Theory, 7, 300—303. [1977] Entropy for maps of the interval.—Topology, 16, 465—467. [1978] Entropy and the fundamental group.—Lecture Notes in Math., 668, 21—29. Berlin: Springer. [1979] Hausdorff dimension of quasi-circles. — Publ. Math. IHES, 50, 11— 25. Boyle M. [1983] Lower entropy factors of sofic systems.—Ergod. Theory and Dyn. Syst, 3, № 4, 541—557. Boyle M., Tuncel S. [1984] Infinite-to-one codes and Markov measures.—Trans. Amer. Math. Soc., 285, № 2, 657—684. Bradley R. С. [1981] On the strong mixing and weak Bernoulli conditions.—Z. Wahrschein- lichkeitstheorie verw. Geb., 51, № 1, 49—54. [1984] On a very weak Bernoulli condition.—Stochastics, 13, № 1—2, 61—81. Brin M. [1981] Bernoulli diffeomorphisms with n—1 non-zero exponents.—Ergod. Theory and Dyn. Syst., 1, № 1, 1—7. Brin M., Feldman J., Katok A. [1981] Bernoulli diffeomorphisms and group extensions of dynamical sys- tems with non-zero characteristic exponents.—Ann. Math., 113, № 1, 159—179. Brin M., Katok A. [1983] On local entropy. — Lecture Notes in Math., 1007, 30—38. Berlin: Springer. Brossard J., Carmona R. [1986] Can one hear the dimension of a fractal?—Comm. Math. Phys., 104, № 1, 103—122. Broudiscou С., Gillot С., Gillot G. [1985] Variations d'entropie topologique d'une familie de transformations de 1'intervalle unite, unimodales et lineaires par morceaux. — C. R. Acad. Sci. Paris, ser. 1, 300, № 16, 585—588. Brown J. R. [1972] Inverse limits, entropy and weak isomorphism for discrete dynamical systems.—Trans. Amer. Math. Soc., 164, 55—66. Bunimovich L. A. [1982] Some new advancements in the physical applications of ergodic theo- ry.—Math. Researches, 12, 27—33. Berlin: Akademie-Verlag. Burton R. M. [1979] An asymptotic definition of K-groups of automorphisms and a non- Bernoulli counter-example. — Z. Wahrscheinlichkeitstheorie verw. Geb., 47, № 2, 205—212, [1980] A non-Bernoulli skew product which is loosely Bernoulli.—Israel Journ. Math., 35, № 4, 339—348 Burton R. M., Shields P. C. [1983] A mixing Т for which T, T-1 is Bernoulli, — Monatsh. Math., 95, № 2, 89—98. Дополнительная литература 321 Butler R., Schmidt К. [1985] An information cocycle for groups of non-singular transformations. — Z. Warscheinlichkeitstheorie verw. Geb., 69, № 3, 347—360. Cabane R. [1979] Sur les transformations lineaires modulo um.—Ann. Inst. H. Poin- care. Sect. B, 15, № 2, 187—193. Cajar H. [1981] Billingsley dimension in probability spaces.—Lecture Notes in Math., 892. Berlin: Springer. Carverhill A. P. [1985] Flows of stochastic dynamical systems: ergodic theory.—Stochastics, 14, 273—317. [1986] Survey: Lyapunov exponents for stochastic flows on manifolds. — Lec- ture Notes in Math., 1186, 292—307. Berlin: Springer. Carverhill A. P., Elworthy K. D. [1986] Lyapunov exponents for a stochastic analogue of geodesic flow.— Trans. Amer. Math. Soc., 295, № 1, 85—106. Chassaing P., Letac G., Mora M. [1984] Brocot sequences and random walks on S1(2,R).—Lecture Notes in Math., 1064, 36—48. Berlin: Springer. Chen S. S. [1981] Entropy of geodesic flow and exponent of convergence of some Di- richlet series. — Math. Ann., 255, № 1, 97—103. Cohen J. E., Newman C. M. [1984] The stability of large random matrices and their products. — Ann. Prob., 12, № 2, 283—310. Collet P., Crutchfield J. P., Eckmann J.-P. [1983] Computing the topological entropv of maps.—Comm. Math. Phvs., 88, № 2, 257—262. Connes A. [1985] Entropie de Kolmogoroff—Sinai et mecanique statistique quantique.— C. R. Acad. Sci. Paris, ser. I, 301, № 1, 1—6. Connes A., Feldman J., Weiss B. [1981] An amenable equivalence relation is generated by a single transfor- mation.—Ergod. Theory and Dyn. Syst., 1, № 4, 431—450. Connes A., Narnliofer H., Thirring W. [1987] Dynamical Enthropy of C*-algebras and von Neumann algebras. Pre- print IHES, Febr. 1987. Connes A., Stermer E. [1975] Entropy or automorphisms of Hi von Neumann algebras.—Acta Math., 134, 289—306. Conze J. P. [1969] Entropie des flots et de transformations affines sur les espaces homo- genes compacts.—C. R. Acad. Sci. Paris, ser. A, 268, 1369—1372. [1972] Entropie d'une groupe abelien de transformations.—Z. Wahrschein- lichkeitstheorie verw. Geb., 25, № 1, 11—30. Couot J. [1979] Invariant measures and topological entropy of complex stationary sta- tes of dynamical systems defined by piecewise monotonic endomorp- hisms of [0, I].—Proc. VIII Int. Conf. on Nonlinear Oscillations, 1, 205—210. Prague: Academia. Curry J. H. [1981] On computing the entropv of the Henon attractor.—Journ. Statist. Phys., 26, № 4, 683—695. Dani S. G. [1977] Sequential entropy of generalized horocycles.—Journ. Indian Math. Soc., 41, № 1—2, 17—25. 21 Зак. 882 348 Предметный указатель Х.аара (Нааг) мера 143, 273 характеристические показатели 10 Хемминга (Hamming) метрика 9, 151, 234, 239 Холла лемма (Hall's matching lem- ma) 241 Число Лебега (Lebesgue number) 281 Шеннона — Макмиллана — Бреймана (Shannon — McMillan — Breiman) теорема 13, 132, 228, 280 Шеннона — Фано (Shannon—Fano) код 88 шум (noise) 154, 166 Эквивалентность (equivalence) клас- сических динамических систем 266 — монотонная 258, 260 — по Какутани 258—260, 264 — случайных процессов 65, 126 — спектральная 190 — унитарная 190 элемент разбиения (atom) 25 эндоморфизм (endomorphism) гипер- болический 277 — группы 274 — метрический 66 — производный 142 — эргодический 71 энергия (energy) 119 — взаимодействия 302 — кинетическая (kinetic) 287 — потенциальная 284, 287, 292 — свободная (free) 291, 293 энтропия (entropy) 17 — автоморфизма 7, 121 — — тора 10, 144, 273 — S-автоморфизма 146 — броуновского движения 12 — геодезического потока 11, 13 — голоморфного отображения 11 — гомеоморфизма 278 — действия 12. 299 энтропия (entropy) действия относи- тельно разбиения 299 — динамической системы 7, 121 — дискретного вероятностного рас- пределения 137, 301 —диффеоморфизма 10, 11, 227 — источника 157 — косого произведения 141 — математическая теория 5 — меры 139 — метрическая 11, 121 — некоммутативной динамической системы 13 — отображения 268—284 — — относительно компактного мно- жества 280 — — — покрытия 268 — покрытия 267 — потока 7, 141 — преобразования Гаусса 148 — /-преобразования 149 — производного эндоморфизма 142 — прямого произведения 140 — равновесного состояния 285 — разбиения 85, 99 — — относительно эндоморфизма 112, 113 — — условная 91, 99 — сдвига Бернулли. 122, 145 — — Маркова 145 — случайного блуждания 12 — топологическая (topological) 11, 266, 268, 280 — — относительно компактного мно- жества 280 — трансляционно-инвариантного со- стояния средняя 301 — убывающей последовательности измеримых разбиений 12 — условная 7, 91, 99 — эндоморфизма Л-энтропия 12, 150 r-энтропия 152 е-энтропия 6, 11, 280 (е, г)-энтропия 151, 152 эргодичность сильная (strong ergodi- city) 149 ОГЛАВЛЕНИЕ . Предисловие редактора перевода ................ 5 От редактора энциклопедии ............... ... 14 Предисловие редактора серии ................. 15 Предисловие авторов .................... 17 Указатель обозначений ................... 19 Глава 1. Сведения из теории вероятностей ............ 22 1.1. Вероятностные пространства ............ . . 22 1.2. Измеримые разбиения и пространства Лебега ........ 25 1.3. Решетка измеримых разбиений .... ......... 35 1.4. Случайные величины ................. 40 1.5. Условная вероятность и независимость ........ ... 42 1.6. Условное математическое ожидание случайных величин .... 57 1.7. Случайные процессы и динамические системы ..... ... 62 1.8. Эргодическая теорема и теорема о сходимости мартингалов . . 70 Глава 2. Энтропия и информация ............... 83 2.1. Информация и неопределенность событий ........ 83 2.2. Информационная функция испытания и энтропия ...... 84 2.3. Пример ...................... 87 2.4. Условная информация и условная энтропия ......... 91 2.5. Свойства энтропии и условной энтропии .......... 92 2.6. Энтропия произвольных измеримых разбиений и теоремы о пре- дельном переходе ................... 99 2.7. Скорость создания информации . . ........... Ill 2.8. Энтропия динамических систем ............. 118 2.9. Факторавтоморфизмы и факторсистемы .......... 124 2.10. Теорема Шеннона и свойство равномерной распределенности . . 130 2.11. Энтропия как функция распределений ........... 136 2.12. Примеры ..... ................ 140 2.12.1. Прямые произведения .............. 140 2.12.2. Косые произведения ....... ....... 140 2.12.3. Степени эндоморфизмов .......... ... 141 2.12.4. Потоки ....... ............ 141 2.12.5. Производные эндоморфизмы ... ........ 142 2.12.6. Периодические автоморфизмы ........... 142 2.12.7. Повороты окружности ... ........... 143 2.12.8. Эргодические автоморфизмы компактных абелевых групп 143 2.12.9. Сдвиги Бернулли .............. .145 350 Оглавление 2.12.10. Сдвиги Маркова .................. 145 2.12.11. S-автоморфизмы .............. . 146 2.12.12. Односторонние сдвиги .............. 147 2.12.13. Преобразования непрерывных дробей ........ 148 2.12.14. /-преобразования ...... ......... 148 2.13. Л-энтропия и г-энтропия . . ............. 150 Глава З. Теория информации ................. 153 3.1. Модель системы передачи информации ....... ... 153 3.2. Источник ..................... 155 3.3. Кодирование . . .................. 158 3.4. Канал .................... ... 159 3.5. Теорема кодирования для канала с шумом . . ....... 166 3.6. Кодирование источника ................. 168 Глава 4. Эргодическая теория . . .............. 188 4.1. Введение ...... ............... 188 4.2. Унитарный оператор системы и сдвиги Бернулли ....... 189 4.3. К-системы и л-автоморфизмы ..... ......... 192 4.4. Пространства упорядоченных разбиений, слабая независимость и слабая зависимость ............ ...... 208 4.5. Кодирование и основная лемма Орнстейна ..... .... 218 4.6. Теорема об изоморфизме систем Бернулли ......... 243 4.7. Характеризация систем Бернулли . . . ........ 247 4.8. Относительный изоморфизм ............... 251 4.9. Специальные потоки и теория эквивалентности ....... 256 Глава 5. Топологическая динамика ............... 265 5.1. Введение .......... ........... 265 5.2. Определение и основные свойства топологической энтропии . . 267 5.3. Связь топологической и метрической энтропии ..... 272 5.4. Другое определение топологической энтропии ........ 277 Глава 6. Статистическая механика ............... 285 6.1. Введение .... ................. 285 6.2. Классические непрерывные системы ............ 286 6.3. Классические решетчатые системы ........ .... 291 6.4. Гиббсовские состояния для решетчатых систем ....... 293 6.5. Равновесные состояния и понятия энтропии и давления .... 298 Литература ........................ 303 Именной указатель . .................... 338 Предметный указатель .................... 341 УВАЖАЕМЫЙ ЧИТАТЕЛЬ! Ваши замечания о содержании книги, ее оформлении, каче- стве перевода и другие просим присылать по адресу 129820 Москва, И-110, ГСП, 1-й Рижский пер„ д. 2, издательство «Мир»' Научное издание Натаниель ф. Дж., Мартин Джеймс У. Ингленд МАТЕМАТИЧЕСКАЯ ТЕОРИЯ ЭНТРОПИИ Зав. редакцией доктор физ.-мат. наук профессор | Б. В. Шабат | Зам. зав. редакцией А. С. Попов Ст. науч. редактор А. А. Бряндинская Мл. научи, редакторы Т. А. Денисова, Р. И. Пяткина Художник Н. Я. Вовк Художественный редактор В. И. Шаповалов Технический редактор И. П. Гаврилина Корректор В. И. Киселева ИБ № 6395 Сдано в набор 28.09.87. Подписано к печати 27.06.88. Фор- мат 60X90'/i«. Бумага кн. журн. сыкт. Печать высокая. Гарнитура литературная. Объем 11.00 бум. л. Усл. печ. л. 22,00. Усл. кр.-отт. 22.00. Уч.-изд. л. 22.18. Изд. № 1/5334. Тираж 5000 экз. Зак. 882. Цена 3 р. 70 к. ИЗДАТЕЛЬСТВО «МИР» 129820, ГСП, Москва, И-110, 1-й Рижский пер., 2 Ленинградская типография № 1 головное предприятие ордена Трудового Красного Знамени Ленинградского объединения «Техническая книга» им. Евгении Соколо- вой Союзполиграфпрома при Государственном комите- те СССР по делам издательств, полиграфии и книжной торговли. 198052, г. Ленинград, Л-52, Измайловский проспект, 29. Отпечатано с набора в Ленинградской типографии JM» 4 ордена Трудового Красного Знамени Ленинградского объединения «Техническая книга» им. Евгении Соколовой Союзполиграфпрома при Государственном комитете СССР по делам издательств, полиграфии и книжной торговли. 190000, Ленинград, Прачечный переулок, 6. Зак. 452.