Энтропия в синергетике

адиабата – непереходимый
Адиабаты для данного газа не могут пересекаться, т.к. пересечение противоречило бы второму началу термодинамики.
В равновесных адиабатических процессах постоянна энтропия, поэтому адиабат. процессы называются изоэнтропии.
Адиабатический процесс – при котором физ. система не получает теплоты извне и не отдает (т.е. физическая система окружена теплоизолирующей оболочкой)

Согласно первому началу термодинамики δQ=du+pdv, т.е. сообщаемое системе количество теплоты равно сумме приращений внутренней энергии du и совершаемой системой элементарной работы pdv.
С учетом первого начала термодинамики дифференциальное определение энтропии принимает вид:
dS=T-1(du+pdv).
Из этого следует, что энтропия – потенциал термодинамический при выборе в качестве независимых переменных внутренней энергии U и объема V.
Частные производные энтропии связаны с T и p соотношениями, которые определяют уравнение состояний

Для необратимых (неравновесных) процессов интеграл от приведенной теплоты по замкнутому контуру всегда отрицателен
. Энтропия адиабатически изолированной системы при необратимых процессах может только возрасти.
Термодинамическому равновесию адиабат. с-мы соответствует состояние с максимумом энтропии. Энтропия может иметь не один, а несколько максимумов, т.е. система будет иметь несколько состояний равновесия. Равновесие, которому соответствует наибольший максимум энтропии – абсолютно устойчивое.
Из условия максимальности энтропии адиабатической системы в состоянии равновесия вытекает важное следствие: температуры всех частей системы в состоянии равновесия одинаковы.
Термодинамика неравновесных процессов позволяет более детально исследовать процесс возрастания энтропии.

Термодинамика – наука о наиболее общих свойствах макроскопических физических систем, находящихся в состоянии термодинамического равновесия и о процессах перехода между этими состояниями.
Обоснование законов термодинамики и связь с законами движения отдельных частиц, из которых построены тела дается статистической физикой.
1 начало утверждает, что если система совершает термодинамический цикл, то полное количество теплоты, сообщаемое системе равно совершенной ею работе, т.е. интерпретация закона сохранения энергии.
2 начало. Существует функция состояния системы – ее энтропия S, приращение которой dS при обратимом сообщении системе теплоты равно dS = δQ/T; при реальных (необратимых) адиабатических процессах dS>0, т.е. энтропия возрастает достигая максимума значения в состоянии равновесия

Б) Статистическая физика связывает энтропию с вероятностью осуществления данного макроскопического состояния системы. Определяется через логарифм статистического веса Ω данного равновесного состояния
S = k lnΩ(ε,N)
Ω(ε,N) – число квантомеханических уровней в узком интервале энергии Δε вблизи значения энергии ε системы из N частиц.
В классической статистической физике Ω – величина объема в фазовом пространстве системы при заданных ε и N.
Впервые связь энтропии с вероятностью состояния системы была установлена авст. физиком Л.Больцманом в 1872 г. Возрастание энтропии системы обусловлено ее переходом из менее вероятного состояния в более вероятное.
Постоянная Больцмана – одна из фундаментальных физических констант равна отношению газовой постоянной R к числу Авогадро NA .
Число Авогадро – число структурных элементов (атомов, молекул…) в одном моле (в ед. количества вещества)
NA=6,02*1023 моль-1

В уравнении состояния идеального газа постоянная Больцмана связывает энтропию физического состояния системы с ее термодинамической вероятностью
k = 1,3806…*10-23 дж/к
Больцмана распределение – статистически равновесная функция распределения по импульсам p и координатам r идеального газа, молекулы которого движутся по законам классической механики во внешнем потенциальном поле
f(p,r) = A exp{-[p2/2m+u(r)]/kT}

В отличие от термодинамики, статистическая физика рассматривает особый класс процессов – флуктуации, при которых система переходит из более вероятного состояния в менее вероятное и ее энтропия уменьшается. Наличие флуктуаций показывает, что закон возрастания энтропии выполняется только в среднем для большого промежутка времени
В) Мера неопределенности
х1,х2,…хn
p1,p2,…pn ∑npi=1
H = - ∑npi log2pi

Энтропия в информатике

Определение
entropia – (греч.) поворот, превращение
В теории информации энтропия – количество случайности, мера хаотичности информации, мера неопределенности
Предложена Клодом Шенноном в 1948 в работе «Математическая теория информации»

Энтропия
энтропия испытания Бернулли как функция вероятности успеха

Информационная энтропия
для независимых случайных событий x с n
возможными состояниями (от 1 до n)
рассчитывается по формуле:

Определение энтропии сделано на основе следующих предположений:
Мера должна быть непрерывной; т. е. изменение значения величины вероятности на малую величину должно вызывать малое результирующее изменение энтропии;
В случае, когда все варианты равновероятны, увеличение количества вариантов должно всегда увеличивать полную энтропию;
Должна быть возможность сделать выбор в два шага, в которых энтропия конечного результата должна будет являться суммой энтропий промежуточных результатов.

Оценка энтропии текста (модель Маркова)
Двоичная энтропия:
Для Марковской модели первого порядка:
Для Марковской модели второго порядка:
Для Марковской модели порядка b :

Вывод шенноновской энтропии
, где
– число возможных комбинаций исходов (событий), соответствующее данному распределению
– число возможных комбинаций исходов для группы событий P.

Заменим Ax на px = Ax/P и P на 1

- уравнение Больцмана для энтропии в термодинамике
Таким образом, энтропия по Шеннону является решением уравнения:

Понятие энтропии в статистической физике

Предмет статистической физики
Статистическая физика - раздел физики, задача которого выразить свойства макроскопических тел, т. е. систем, состоящих из очень большого числа одинаковых частиц, через свойства этих частиц и взаимодействие между ними.
Исторически возникла в конце XIX века из попыток провести механистическое обоснование законов термодинамики в работах Дж.Максвелла и Л.Больцмана. Практически полное завершение формальный аппарат статистической механики получил в фундаментальном труде Дж.В.Гиббса, появившимся в самом начале XX века.
Традиционно подразумевается, что статистическая физика рассматривает системы, состоящие из большого числа частиц.
В настоящее время статистическая физика вышла далеко за рамки первоначальных задач обоснования термодинамики и ее методы и идеология пронизывают, фактически, все основные разделы современной теоретической физики.

Статистический подход
Если в какой-то момент времени заданы координаты и скорости всех частиц тела и известен закон их взаимодействия, то, решая уравнения механики, можно было бы найти эти координаты и скорости в любой последующий момент времени и тем самым полностью определить состояние исследуемого тела.
в 1 см3 газа при температуре 0 °С и давлении в 1 атм содержится примерно молекул.
Однако именно большое число частиц в макроскопических телах приводит к появлению новых , статистических, закономерностей в поведении таких тел.
Задачей теории должно являться вычисление не точных значений различных физических величин для макроскопических тел, а средних значений этих величин по времени.

Движение в фазовом пространстве
Рассмотрим систему из N одинаковых взаимодействующих частиц, находящихся в конечном, но макроскопически достаточно большом объеме V.
Состояние k-ой частицы задается значениями ее координат qk и импульса pk, а со­стояние всей системы — заданием значений всех координат q1, q2,..., qN и импуль­сов p1, p2, ...,pN.
Таким образом, состояние системы может быть описано заданием точки в 6N-мерном фазовом пространстве: (q1, q2,..., qN, p1, p2,..., pN) — фазовой точки.
Гамильтониан системы:
Уравнения движения:

Движение в фазовом пространстве
Траектория фазовой точки в фазовом пространстве называется фазовой траекторией.
Для консервативных систем энергия сохраняется. Следовательно, фазовая траектория должна лежать на поверхности постоянной энергии в фазовом пространстве - эргодической поверхности

Статистические ансамбли
Статистический ансамбль - совокупность сколь угодно большого числа одинаковых физических систем многих частиц («копий» данной системы), находящихся в одинаковых макроскопических состояниях; при этом микроскопические состояния системы могут принимать все возможные значения, совместимые с заданными значениями макроскопических параметров, определяющих её макроскопическое состояние.
Неизвестно, где находится конкретно фазовая точка на эргодической поверхности в любой момент времени.
Статистический подход заключается в том, что мы можем попытаться определить вероятность реализации совокупности всех возможных микросостояний системы, отвечающих данному ее макросостоянию.

Статистические ансамбли
Статистический ансамбль задается функцией распределения ρ(p,q,t)
dw = ρ(p, q, t)dpdq Условие нормировки:
Минимальный размер фазовой ячейки для одномерного движения i-й частицы:
N! – число перестановок N тождественных частиц
Условие нормировки с учетом новых данных:

Микроканонический ансамбль
Функция распределения ρ(p, q) ансамбля постоянна в слое фазового пространства между двумя изоэнергетическими поверхностями, соответствующими энергиям E и E +Δ E (Δ E << E), и равна нулю вне этого слоя:
Распределение выражает принцип равновероятности микросостояний замкнутой равновесной системы, соответствующих данному макроскопическому состоянию.

Статистический вес
Константа Ω(E,N,V) называется статистическим весом и определяется из условия нормировки:
Физический смысл - число квантовых состояний в слое ΔE.

Энтропия
Логарифм функции распределения с обратным знаком:
Энтропия:

Статистический смысл энтропии
Пусть макроскопическое состояние системы, кроме значений E, N, V характеризуется какими-либо параметрами x или (x1,x2, ...,xn).
Вероятность реализации состояния (E, N, V, x):
В большинстве случаев наиболее вероятное значение x* и среднее значение
величины x совпадают друг с другом.
S(E, N, V, x*) = Max
Равновесное состояние является состоянием с максимальным статистическим весом, наиболее вероятным состоянием.