Измеряет ли энтропия извлекаемую работу?

У энтропии есть два определения, которые исходят из двух разных областей науки: термодинамики и теории информации. Тем не менее, считается, что они оба согласны. Это правда?

Энтропия, как видно из теории информации, измеряет наше незнание системы. Энтропия, как видно из термодинамики, измеряет количество извлекаемой работы. Один из них эпистемологический, другой онтологический. Тем не менее, они оба могут согласиться, если энтропия действительно измеряет количество извлекаемой работы, учитывая знания о системе.

Но так ли это? Выражает ли энтропия Шеннона, вычисленная на основе распределения вероятностей физической системы, количество работы, которую мы можем получить от нее? Как увеличение наших знаний увеличивает объем извлекаемой работы? Достаточно ли мощен принцип Ландауэра, чтобы установить связь?

Я нахожу совершенно разные ответы на этот вопрос немного сбивающими с толку. Я также думал, что два вида энтропии разные, но мне понравился ответ Джо, и я проголосовал за него. Может ли кто-нибудь согласовать разные ответы или указать, почему один (или несколько) из них неверен?
Одно примирение состоит в том, что «работа» имеет несколько значений. Обычно первое усвоенное значение — термодинамическое, но (как продемонстрировал Дирак) более общее значение сводится к следующему: для данного класса динамических процессов «работа» — это любая математически естественная мера того, что эти процессы выполняют.
Вы, наверное, хотите сказать, что термодинамическая энтропия говорит вам, какая часть энергии недоступна для работы! Я также соглашусь с ответом Мэтта, поскольку это имеет смысл только в том случае, если состояние находится в тепловом равновесии, тогда как энтропия Шеннона является более общей.
@Aaron: На самом деле, примирение заключается в том, что я ответил «да» на то, согласуются ли два определения энтропии. Я не имел в виду, что энтропия измеряет извлекаемую работу.

Ответы (3)

ОБНОВЛЕНИЕ: ниже я отвечаю «да» на первый вопрос в посте (одинаковы ли два вида энтропии с точностью до константы). Это привело к некоторой путанице, поскольку и Мэтт, и Джон ответили, что «ответ отрицательный», однако я полагаю, что они имеют в виду заголовок «Измеряет ли энтропия извлекаемую работу?». Хотя автор использует их взаимозаменяемо, сам вопрос содержит ложную предпосылку: а именно, что физическая энтропия является мерой извлекаемой работы («Энтропия, как видно из термодинамики, измеряет количество извлекаемой работы»). Это просто неверно в общем случае, хотя может быть верным для некоторых частных случаев, как показывает контрпример Мэтта. Конкретным случаем этого является мяч, помещенный в любом месте на ровной поверхности. Если мяч будет размещен случайным образом,


Ответ: да, два вида энтропии одинаковы с точностью до постоянного множителя к Б журнал 2 (что также является источником принципа Ландауэра). На пути к этому через демона Максвелла. В частности, с помощью двигателя Сциларда, идеализированного теплового двигателя, использующего газ из одной частицы. Затем вы вводите перегородку, которая эффективно разделяет газ на две области, только одна из которых содержит частицу. Теперь, если бы вы знали, с какой стороны перегородки находится частица, вы могли бы использовать разницу давлений для извлечения работы, а если нет, то и не сможете, поскольку не знаете, в какую сторону она будет толкаться.

Теперь связь с теорией информации возникает, когда мы измеряем, на какой стороне перегородки находится частица. От этого мы получаем определенное количество энтропии (и, следовательно, информации) в регистре, в котором хранится результат нашего измерения. Но обладание этой информацией снижает энтропию газа. И, следовательно, вы можете переключаться между информационной энтропией и физической энтропией.

По этому вопросу имеется довольно обширная литература, поэтому вместо того, чтобы пытаться дать вам список, я укажу вам на обзорную статью о Демоне Максвелла и теории информации, опубликованную несколько лет назад: arXiv:0707.3400 ,

Да я вижу. Но все же на примере двигателя Szilard я хотел бы пойти дальше. Если я знаю, с какой стороны частица si, я могу извлечь kT ln(2) работы. Если я не знаю, где находится частица, у меня не будет работы. Но что, если у меня есть частичные знания? Является ли энтропия Шеннона ответом?
@Javier: Да, вы можете использовать точно такой же трюк, но используйте измерение, которое возвращает 0, если частица находится в крайнем левом отсеке, и 1 с вероятностью п если частица находится в самом правом отсеке и 0 в противном случае, и продолжайте оттуда. Взгляните на газету, там много хорошего.
Более свежие результаты здесь arxiv.org/abs/0908.0424 и здесь arxiv.org/abs/1009.1630

Ответ - нет. Рассмотрим систему с вырожденным основным состоянием, так что матрица плотности представляет собой смесь двух собственных состояний основного состояния. Это имеет ненулевую энтропию Шеннона, но вы не можете извлечь из него никакой работы. В более общем смысле термодинамическая энтропия не совсем точно определена для неравновесных систем, в отличие от энтропии Шеннона.

Я считаю, что термодинамическая энтропия и энтропия Шеннона — две концептуально разные вещи. Они совпадают в самых разных обстоятельствах, но не всегда. Мне даже не ясно, являются ли случаи совпадения в классической и квантовой теории необходимыми совпадениями. Возможно, удастся разработать четко определенную физическую теорию, в которой они никогда не совпадают, например, в знаменитой работе выпуклых множеств для обобщенных вероятностных теорий, изучаемой в сообществе квантовых основ.

Отличный контрпример Мэтт! Я думал о том же, когда читал вопрос.
@Matt: Хороший ответ, и вы получаете от меня +1, но я не понимаю утверждения о том, что термодинамическая энтропия плохо определена для неравновесных систем. Это дано к Б я п я журнал п я куда п я это вероятность я т час микросостояние. Это, очевидно, определено как для неравновесных систем, так и для равновесных систем.
На самом деле я думаю, что проблема омрачена существованием альтернативных неэквивалентных определений энтропии.
@JoeFitzsimons Вы, вероятно, работали с этим со 2 октября 2011 года, но в случае, если вы этого не сделали, «экспериментальная» энтропия (вычисленная на основе свойств макросостояния) становится нечеткой, потому что такие вещи, как Т стать нечетким. Оно равно вашему выражению, когда я обозначает состояние составной частицы, а также глобальное микросостояние (если для первого вы умножаете на количество частиц), т.е. микросостояния составляющих частиц статистически независимы. Ваше выражение в общем равно энтропии Шеннона - при наличии корреляций вероятности микросостояний становятся....
@JoeFitzsimons ... невозможно получить доступ с помощью макроскопических измерений. Если вы еще не видели эту статью, она может оказаться вам полезной. ET Джейнс, "Гиббс против энтропий Больцмана", Am. Дж. Физ. 33, № 5, стр. 391-398, 1965, а также многие другие его работы в этой области . Кстати, у вас отличный вопрос.
@WetSavannaAnimalakaRodVance Конечно, но что-то вроде энтропии состояния фон Неймана всегда определено. Это не зависит от того, находится ли система в состоянии Гибба, и, следовательно, не требует определения температуры.
@JoeFitzsimons Хорошо определено, да, но все еще недоступно и не равно тому, что Джейнс называет экспериментальной энтропией. Не совсем понятно, что означает ответ - я думаю, что Джон, вероятно, имеет в виду недоступный, когда говорит «неопределенный».
@WetSavannaAnimalakaRodVance: Боюсь, я не понимаю, как это связано с вопросами или ответами. Я не верю, что кто-то из нас обсуждает возможность точного вывода энтропии из измерений, а скорее вопрос о том, эквивалентны ли три концепции (извлечение работы, теоретико-информационная энтропия и физическая энтропия).
@JoeFitzsimons Ну, я думаю, что короткий ответ таков: они не всегда таковы - Джейнс может многое сказать о различиях - и, как вы говорите, существует пугающее количество определений.
@JoeFitzsimons Кстати, чтобы было ясно, я согласен с вами, что к Б я п я журнал п я с я ранжирование по ансамблю всегда хорошо определено до тех пор, пока «ансамбль» хорошо определен и равен энтропии Шеннона.
@WetSavannaAnimalakaRodVance Большая часть работы по этой теме датируется более поздними статьями Джейн, поэтому они далеко не последнее слово по этому вопросу. Я не совсем понимаю, что вы имеете в виду под «четким определением ансамбля». Для любой квантовой системы п я определено корректно, так как они являются просто собственными значениями матрицы плотности.
@JoeFitzsimons Не беспокойтесь о том, что «ансамбль хорошо определен» = я просто педантичен - я немного скептически отношусь к тому, что у нас еще есть прочные основы вероятности, так что это вроде как опасаться наборов с большой кардинальностью.

Поскольку слово «работа» имеет несколько значений, в целом ответ будет «нет».

Обычно первое значение, которому обучают студентов, — термодинамическое, но (как продемонстрировал Дирак) обобщенное значение (включающее термодинамическую работу как частный случай) сводится к следующему:

Для класса динамических процессов «работа» — это любая потенциальная функция, которая естественным образом описывает то, что выполняет этот класс.

В частности, в контексте разделения изотопов Дирак установил, что рабочий потенциал В с что естественно связано с концентрацией изотопа с дан кем-то

В с ( с ) знак равно ( 2 с 1 ) журнал [ с 1 с ]

или, что то же самое, для спиновой поляризации п знак равно 2 с 1 функция значения Дирака В п связанный с сепаративным переносом спиновой поляризации

В п ( п ) знак равно В с ( с ) | с знак равно ( 1 + п ) / 2 знак равно п журнал [ 1 + п 1 п ]

Ключевым моментом является то, что функция ценности Дирака не пропорциональна разности энтропии (что очевидно, поскольку 0 В п ( п ) < в то время как энтропия на моль колеблется в конечном диапазоне).

Более того, работа Дирака, связанная с разделением, не может быть обращена в механическую работу, поскольку процесс разделения энтропийно необратим. Тем не менее, работа Дирака имеет значительную экономическую ценность и фактически определяет единицу стоимости глобального рынка в единицах работы разделения (ЕРР, произносится как «свууз»).

Вывод работы выхода Дирака см. в собственной (неопубликованной) технической заметке Дирака «Теория разделения изотопов статистическими методами» ( около 1940 г.), которая появляется в его Собрании сочинений , или, в качестве альтернативы, в обзорной статье Дональда Оландера «Техническая основа Газовая центрифуга» (1972), или вообще любой учебник по разделению изотопов.