Путаница в отношении энтропии, запрос справочных документов

Для ясного изложения отношений между энтропией и информацией и основ неравновесной теории стоит просмотреть статьи Эдвина Джейнса. Вы можете найти его полную библиографию здесь . Вероятно, лучше всего начать с одной из его более поздних статей, так как они используют более педагогический подход. Я бы рекомендовал « Эволюцию принципа Карно » в качестве отправной точки, а затем, возможно, « Парадокс Гиббса ».

Теперь, чтобы ответить на некоторые из ваших более конкретных моментов.

1. Энтропию можно определить, по крайней мере для начала, сказав, что когда тело при температуре$T$получает сумму$Q$тепла, его энтропия увеличивается на$Q/T$. Таким образом, для данного количества тепла более высокая температура означает более низкую энтропию. Однако из этого не обязательно следует, что тела (или газы) с более высокой температурой всегда имеют более низкую энтропию, чем тела с более низкой температурой, потому что более горячие тела также обладают большей энергией. Обе цитаты верны, потому что первая говорит об энтропии на единицу энергии, а вторая говорит об энтропии на единицу объема.

Однако на самом деле важно не то, сколько энтропии имеет тело при данной температуре, а то, насколько изменится его энтропия, если оно получит или потеряет часть энергии. Если у вас есть изолированная система, состоящая из горячего тела (при температуре$T_H$) и холодный (при$T_C$), немного тепла$Q$будет течь от горячего тела к холодному. Энтропия горячего тела изменяется на$-Q/T_H$(т.е. его энтропия уменьшается ), но энтропия холодного тела увеличивается на$Q/T_C$, что больше, потому что$T_H>T_C$.

Полное изменение энтропии в этой системе равно$\frac{Q}{T_C}-\frac{Q}{T_H}$. Если две температуры равны, то энтропия максимальна, и дальнейшая передача тепла невозможна.

2.a Хороший способ думать о работе — думать о ней как об энергии без какой-либо связанной с ней энтропии. Это как тепло с бесконечной температурой, так что$Q/T$стремится к 0. Допустим, у нас есть тело при некоторой температуре$T$и мы хотим взять из него немного тепла и преобразовать его в некоторую работу$W$. Изменение энтропии этого преобразования равно

$$\text{entropy of the work}-\text{entropy of the heat}=0-W/T<0,$$ это означает, что невозможно выполнить это преобразование , если при этом мы не увеличим энтропию какой-либо другой системы на ту же величину ( $W/T$) или больше, так что общее изменение энтропии больше нуля.

В частности, если у нас есть два тела с разными температурами, мы можем увеличить энтропию холодного, передав ему часть тепла от горячего. Если положить сумму$Q$в холодное тело мы должны взять количество$Q+W$из горячего. (Это энергия, которую мы вкладываем в холодное тело, плюс количество, которое мы преобразуем в работу.) Теперь энтропия холодного тела увеличивается на$Q/T_C$а энтропия горячего тела уменьшается на$(Q+W)/T_H$. Таким образом, полное изменение энтропии равно

$$\frac{Q}{T_C}-\frac{Q+W}{T_H},$$ что положительно, пока $W<Q\left(1-\frac{T_C}{T_H}\right)$, который называется пределом Карно.

Повторим еще раз: дело в том, что работа — это энергия, не связанная с энтропией, и если вы хотите создать ее из тепла, вы должны сделать это, увеличив энтропию какой-либо другой системы, чтобы удовлетворить второму закону.

Но обратите внимание: ваша интуиция о связи между работой и энтропией была не совсем верна. Выполнение работы над системой может уменьшить ее энтропию (хотя оно также может увеличить ее за счет добавления энергии), но выполнение работы над системой — не единственный способ уменьшить ее энтропию . Вы также можете сделать это, сняв тепло, например, как я показал выше.

2.b Эта цитата верна. Если система обладает «негэнтропией» (этот термин используется не очень часто, но вполне разумно), то ее энтропия не максимальна, а это означает, что ее энтропию можно увеличить, чтобы преобразовать некоторое количество тепла в тепло. работа.

3.a Будьте осторожны — кажется, что вы приравниваете неопределенность к информации, но на самом деле это противоположности! Чем меньше у вас информации о чем-то, тем больше вы в этом не уверены. Энтропия — это неопределенность, в частности, это степень неопределенности относительно микроскопического состояния системы, если вы знаете ее макроскопические свойства (температуру, давление, объем и т. д.). Ее можно выразить в тех же единицах, что и информацию (например, в битах), но она имеет противоположный знак, поэтому увеличение энтропии означает потерю информации.

3.b Я не читал этот источник, поэтому не могу прокомментировать его симметричную часть, но идея о том, что максимальная энтропия равна минимуму информации, верна.

4. Неравновесная термодинамика в наши дни достаточно развита. Основная идея заключается в том, что вы берете материал, о котором я говорил выше, и вместо конечного количества тепла$Q$, вы рассматриваете поток тепла$dQ/dt$. Это приводит к постоянному изменению энтропии$dS/dt$, который должен быть положительным для изолированной системы. Математика не сильно отличается от равновесной термодинамики. Если у вас есть какие-то конкретные вопросы по этому поводу, я, вероятно, могу помочь ответить на них.

Энтропия — обширная тема, очень важная как для физики, так и для теории информации.

В общем случае энтропия — это мера незнания вещей. Таким образом, состояние высокой энтропии — это когда существует множество возможных последовательностей или множество возможных микросостояний физической системы.

В теории информации это

$$S(\{p_i\}_i) = - \sum_i p_i \log(p_i).$$ В частности, когда он высокий, это означает, что измерение точного $i$дает много информации.

В термодинамике это связано с объемом фазового пространства . Фактически это та же формула, что и в теории информации, но вы измеряете распределение вероятностей для частиц, находящихся в состоянии$(x_1,\ldots,x_n,p_1,\ldots,p_n)$, где$x_i$позиции и$p_i$- импульсы.

Когда дело доходит до энтропии-энергии, посмотрите на термодинамику. Для открытой системы энтропия может уменьшаться с температурой по мере разлета частиц.

Возможные чтения (поскольку на вопросы, которые вы задали, нельзя ответить в одном посте):

• Керсон Хуанг, Введение в статистическую физику
• TM Cover, JA Thomas, Элементы теории информации
• А. Верль, Общие свойства энтропии , Обзоры современной физики, 1978 г.

Что касается пункта 1, цитируемое утверждение в пункте 1а в худшем случае неверно, а в лучшем случае неполно (если из термина «высокая температура» сделать вывод, что также присутствует теплоотвод с более низкой температурой). Энергия «высокой температуры» полезна только в том случае, если присутствует такой радиатор с более низкой температурой, а общая энтропия этих двух резервуаров меньше, чем если бы им было позволено уравновеситься при той же температуре. Например, для двух резервуаров с идеальным газом равных объемов$V$и количество молекул$N$, один при температуре$T+\Delta T$а другой в$T-\Delta T$, общая энтропия двух равна (ссылка на лекции Фейнмана, том 1, лекция 44):

$$\begin{align} S &= 2a + Nk \left[ 2\ln(V) + \frac{1}{\gamma -1} \left[ \ln (T+\Delta T) +\ln (T-\Delta T) \right] \right]\\&= 2a + Nk \left[ 2\ln(V) + \frac{1}{\gamma -1} \ln (T^2-\Delta T^2) \right]\end{align}$$ поэтому энтропия максимальна, когда $\Delta T=0$(т.е. когда два резервуара имеют одинаковую температуру).

Утверждение в пункте 1b) верно: можно увеличить температуру предмета, добавив к нему тепла, тем самым увеличив его энтропию.

Что касается пункта 2, в контексте тех же двух резервуаров с идеальным газом, теперь при той же температуре, ваша идея о выполнении работы по уменьшению их энтропии может быть реализована путем подключения обратимой тепловой машины между ними и приведения этой машины в действие с работой для передавать тепло от одного резервуара к другому, охлаждая один и нагревая другой (например, тепловой насос или холодильник). Я не знаком с негэнтропией, но цитата Бриллюэна, кажется, обобщает приведенное выше обсуждение: для извлечения работы необходима разница между двумя частями системы.

Что касается пунктов 3 и 4, уравнение Шеннона для информационной энтропии (см. Ответ Петра Мигдала) использует по существу ту же форму, что и в статистической механике (именно поэтому Шеннон позаимствовал это имя). Мне нравится цитата из «Введения в теорию информации» Пирса: «Как только мы досконально поймем энтропию в том виде, в каком она используется в теории коммуникации, не будет никакого вреда в попытке связать ее с энтропией в физике, но литература указывает, что некоторые исследователи так и не оправились от путаницы, порожденной ранней смесью идей, касающихся энтропии физики и теории коммуникации». Выучите одно, потом другое...

Я бы порекомендовал упомянутую выше лекцию Фейнмана, а также последующие лекции по термодинамике в том же томе.