?

Log in

No account? Create an account

Previous Entry | Next Entry

Энтропия держит цепко

Сади Карно первым понял, что не вся энергия может быть превращена в работу, а Рудольф Клаузиус придумал слово «энтропия» для обозначения этой неуловимой части. Количественно информация – это и есть изменение энтропии (с обратным знаком); по крайней мере, Шеннон с фон Нойманом именно так ее и определили.


Больше всего меня беспокоило подходящее имя. Сначала я хотел говорить об «информации», но это слово уж слишком затасканное, поэтому я склонялся в пользу «меры неопределенности». Когда я рассказал об этом Джону фон Нойману, у него возникла идея получше. Фон Нойман сказал мне: «Ты должен назвать это «энтропией», по двум причинам. Во-первых, твоя «мера неопределенности» уже была использована в статистической механике под тем самым именем. Во-вторых и в-главных, никто не знает, что такое на самом деле энтропия, так что в любом обсуждении преимущество будет на твоей стороне».

Недавняя работа японцев, подковавших блоху приручивших демона Максвелла, наделала много переполоху в популярной прессе. Но, как и во всяком вечном двигателе, процесс получения энергии из информации у них был сопряжен с потреблением гораздо большей энергии извне. Как заметил автор комментария, помещенного издателями вместе с оригинальной публикацией: «Этот эксперимент подобен производству крошечного количества энергии путем термоядерного синтеза в реакторе, требующем колоссального энергообеспечения».


Карикатура Арье Бен-Наима
на знаменитый разговор Шеннона и фон Ноймана (отсюда)

Posts from This Journal by “информация” Tag

Comments

egovoru
Nov. 9th, 2014 01:59 pm (UTC)
"не вижу никакого смысла в замене слова энтропия в данном контексте на информация"

Но ведь и автор этого вовсе не предлагает ;)
evgeniirudnyi
Nov. 9th, 2014 02:21 pm (UTC)
Вот например название его книги

A farewell to entropy: statistical thermodynamics based on information

Вопрос однако, что он предлагает остается открытым. Если вы узнаете, пожалуйста напишите.
egovoru
Nov. 9th, 2014 02:27 pm (UTC)
Ну, по одному заглавию, наверное, сложно судить? Не знаю, хватит ли моей любознательности на то, чтобы раздобыть ту книжку, из которой эта первая глава, и дочитать ее до конца - но она вроде как раз именно о том, что меня и заинтересовало. Если сподвигнусь, то обязательно напишу.
egovoru
Nov. 28th, 2014 03:32 pm (UTC)
Мне пока удалось раздобыть только предыдущую его книжку, по ссылке в моем последнем посте можно прочитать несколько глав из нее.

В последней из них есть раздел "The Association of Enthopy with Missing Information", из которого можно понять, что автор имеет здесь в виду, и его мысль показалась мне интересной.

Он пишет, что энтропия приобрела размерность только в результате исторического стечения обстоятельств, а именно, того, молекулярная теория тепла несколько запоздала. Если бы природа тепла выяснилась раньше, то температура, как мера средней кинетической энергии молекул, измерялась бы, как и подобает, в единицах энергии, и тогда отпала бы необходимость в константе Больцамана, а энтропия стала бы безразмерной. Это, по мнению автора, позволило бы полностью приравнять термодинамическую энтропию шенноновской не только по форме, но и по существу.
evgeniirudnyi
Nov. 28th, 2014 07:42 pm (UTC)
Можно рассмотреть S/R - это безразмерная величина. Безразмерность однако ничего не меняет. Я же по-моему приводил вам пример с энтропией в термодинамических таблицах, можно разделить энтропию на R - что это изменить? Попробуйте приравнять даже такую энтропию к информации.

Рассуждать можно сколько угодно. Однако ведь затем надо взять обычные задачки по химической термодинамике и их переделать. Любители порассуждать об энтропии и информации почему то это не делают.
egovoru
Nov. 29th, 2014 01:10 pm (UTC)
"Попробуйте приравнять даже такую энтропию к информации"

А как бы Вы сформулировали в одном предложении, чем, собственно, такая безразмерная больцмановская энтропия отличается от шенноновской?
evgeniirudnyi
Nov. 30th, 2014 07:22 pm (UTC)
В одной фразе: лично я не вижу между энтропией у Больцмана и энтропией у Шеннона ничего общего.
a_gorb
Nov. 30th, 2014 07:09 pm (UTC)
”как избежать этой сложности с температурой …”
Хм:) С температурой все еще сложнее, чем может показаться на первый взгляд, т.к. понятие температуры хорошо известно из быта.

”Если бы природа тепла выяснилась раньше, то температура, как мера средней кинетической энергии молекул, измерялась бы, как и подобает, в единицах энергии, …”
Во-первых, нередко температуру и измеряют в единицах энергии, я вот обычно для температуры пользуюсь электрон-вольтами.
Во-вторых, выбор единиц – это в каком-то смысле наш произвол. Можно пользоваться любыми единицами, которые по каким-то причинам являются более удобными и/или привычными.
Так что вопрос о единицах измерения, на мой взгляд, является второстепенным.

А вот само понятие температуры, точнее тот факт, что температура существует, мне представляется существенно более важным. В самом деле, средняя энергия молекул (или каких-то других частиц) существует всегда. Но не всегда существует температура! Когда температура существует, то она связана со средней энергией частиц (кстати, не одинаковым образом для частиц разных типов). Но возможна ситуация, когда нечто не имеет температуры. Вот когда и как можно ввести температуру и говорит нам понятие энтропии. Т.е. понять температуру можно (и нужно) через энтропию.

Факт существования температуры поистине удивителен. Ведь при этом утверждается что состояние молекул некой системы в среднем может быть описано одним параметром!
egovoru
Dec. 1st, 2014 12:07 am (UTC)
Мое понимание температуры крайне рудиментарно, ограничено пределами статистической механики - а в квантовой механике вроде бы даже можно говорить о негативной температуре?

Но вот то, что "состояние молекул некой системы в среднем может быть описано одним параметром" как раз не кажется мне удивительным: ведь температура описывает не состояние молекул, а состояние самого тела, т.е., это описание на макроуровне. В этом смысле, мне кажется, температура ничем не отличается от давления или, скажем, плотности?

Edited at 2014-12-01 12:08 am (UTC)
a_gorb
Dec. 1st, 2014 05:22 pm (UTC)
”ведь температура описывает не состояние молекул, а состояние самого тела,”
Вот это-то и удивительно. Эта характеристика тела как целого, но для описания молекул нужен только этот один параметр.

”температура ничем не отличается от давления или, скажем, плотности?”
Это только на первый взгляд не отличается. Давление или плотность можно понять чисто через механику, ни термодинамика, ни статфизика тут не нужны. С температурой это не так. Более того, возможны ситуации, когда давление, средняя энергия частиц, плотность существуют, а вот температуры просто нет. Это случай отсутствия термодинамического равновесия, даже локального. Газоразрядные лампы, кстати, обеспечивают более высокий КПД, чем лампы накаливания, в частности из-за отсутствия равновесия.
(Но это я уже оседлал своего любимого конька и уклонился от темы:))
egovoru
Dec. 2nd, 2014 03:12 am (UTC)
"возможны ситуации, когда давление, средняя энергия частиц, плотность существуют, а вот температуры просто нет"

Очень интересно, но непонятно: как это - средняя энергия частиц есть, а температуры нет?
a_gorb
Dec. 2nd, 2014 06:59 pm (UTC)
” как это - средняя энергия частиц есть, а температуры нет?”
Рассмотрим пару примеров.
1) Нагретое тело излучает так называемое чернотельное излучение (дается знаменитой формулой Планка, которая описывает сколько мощности излучается на различных длинах волн). Этому излучению вполне можно приписать некую температуру оно иначе называется равновесным. С помощью такого излучения нельзя сделать так, что бы более холодное тело нагрело более горячее, согласно второму закону термодинамики, он же – неуменьшение энтропии. В этом, кстати, основная проблема Гиперболоида инженера Гарина.
Но возьмем лазер. Он, грубо говоря, излучает на одной длине волны. С помощью лазерного излучения можно резать сталь (температура ~1500C), алмаз (~5000C), хотя при этом температура активной среды в лазере мало отличается от комнатной. Лазерное излучение неравновесное и про его температуру ничего сказать нельзя, но, разумеется, фотоны в лазерном луче имеют некую среднюю энергию.

2) Но фотоны в лазерном луче все одинаковые и нет ничего хаотичного. Поэтому рассмотрим второй пример: плазма в газоразрядных лампах. Там средняя энергия электронов ~ 10000C. Но распределения электронов по энергиям очень сильно отличается от равновесного (хотя и чем-то на него похоже), поэтому электронам нельзя приписать температуру. Нельзя приписать определенную температуру и всей плазме в целом, т.к. молекулы и ионы остаются почти при комнатной температуре, а между ними с существенно большими энергиями снуют электроны. Этот случай принципиально отличается от случая, когда у нас скажем есть вода, имеющая в разных точках разную температуру. В целом такой воде нельзя приписать какую-то температуру. Однако можно выбрать достаточно малый объем, о температуре которого можно говорить вполне определенно. С электронами в плазме не так: в любом малом объеме будет существенно разная энергия молекул и электронов. Это так называемая неравновесная плазма. Вот эта неравновесность приводит к тому, что электроны эффективно возбуждают (передают энергию) молекулы, которые в свою очередь излучают эту энергию в виде фотонов. И в результате получается, что такое неравновесное излучение более выгодно, чем равновесное (чернотельное) излучение ламп накаливания.
egovoru
Dec. 2nd, 2014 07:16 pm (UTC)
Второй пример мне более понятен, чем первый. Но, на мой взгляд, там существенно, что в системе присутствуют частицы принципиально разного рода - иными словами, они слишком уж резко распадаются на две группы по энергиям, в то время как распределение энергий молекул идеального газа, очевидно, нормальное. Понятно, что в случае наличия двух резко различающихся классов частиц разговоры об их средней энергии будут иметь мало смысла.

А вот все-таки почему температура может быть приписана только системе в равновесии, я так и не поняла :(

Edited at 2014-12-02 07:16 pm (UTC)
a_gorb
Dec. 4th, 2014 07:22 pm (UTC)
”Понятно, что в случае наличия двух резко различающихся классов частиц разговоры об их средней энергии будут иметь мало смысла.”
Не совсем так. Может быть и равновесная плазма, где частицы имеют одну температуру, например Солнце. В разрядной плазме лампочки принципиально то, что электроны получают энергию от внешнего электрического поля. Т.е. это стационарное состояние, но система неизолированная.

”А вот все-таки почему температура может быть приписана только системе в равновесии, я так и не поняла :(”
Во-первых, по определению:) «Температура – физич. величина, характеризующая состояние термодинамич. равновесия макроскопич. системы.» [Физическая энциклопедия]
Во-вторых, возьмем некую изолированную систему в неравновесном случае (заизолируем ранее неизолированную неравновесную:) ). В процессе перехода к равновесию ее энтропия будет возрастать, т.е. dS>0. Если мы припишем этой системе некую температуру T, то тогда мы уже не сможем записать формулу Q=TdS. В самом деле, ведь система изолированная и тепло не получает, Q=0. Т.е. формула dU = TdS – PdV, которая включает в себя температуру, может быть записана для равновесных процессов. Причем все остальные величины кроме T в этой формуле могут быть определены и для неравновесных условий.

Саму формулу Q=TdS можно (и даже скорее всего нужно) рассматривать как определение температуры.
egovoru
Dec. 5th, 2014 01:21 pm (UTC)
Очень интресно, спасибо за подробное объяснение! Я как-то не отдавала себе отчета, что температура настолько тесно связана с состоянием равновесия.

Надо сказать, у меня вообще сложилось, очевидно, совершенно неверное представление, что неравновесные процессы просто-напросто моделируются серией последовательных равновесных этапов, и все.
(no subject) - evgeniirudnyi - Dec. 5th, 2014 06:37 pm (UTC) - Expand
(no subject) - a_gorb - Dec. 6th, 2014 09:12 am (UTC) - Expand
(no subject) - evgeniirudnyi - Dec. 6th, 2014 10:15 am (UTC) - Expand
(no subject) - a_gorb - Dec. 6th, 2014 10:49 am (UTC) - Expand
(no subject) - egovoru - Dec. 6th, 2014 01:26 pm (UTC) - Expand
(no subject) - a_gorb - Dec. 6th, 2014 02:26 pm (UTC) - Expand
(no subject) - evgeniirudnyi - Dec. 6th, 2014 05:33 pm (UTC) - Expand
(no subject) - a_gorb - Dec. 8th, 2014 04:50 am (UTC) - Expand
(no subject) - evgeniirudnyi - Dec. 8th, 2014 08:36 pm (UTC) - Expand
(no subject) - a_gorb - Dec. 10th, 2014 08:02 pm (UTC) - Expand
(no subject) - evgeniirudnyi - Dec. 10th, 2014 08:26 pm (UTC) - Expand
(no subject) - a_gorb - Dec. 13th, 2014 10:57 am (UTC) - Expand
(no subject) - evgeniirudnyi - Dec. 13th, 2014 03:57 pm (UTC) - Expand
(no subject) - a_gorb - Dec. 14th, 2014 10:14 am (UTC) - Expand
(no subject) - evgeniirudnyi - Dec. 14th, 2014 10:58 am (UTC) - Expand
(no subject) - a_gorb - Dec. 14th, 2014 11:06 am (UTC) - Expand
(no subject) - evgeniirudnyi - Dec. 14th, 2014 02:22 pm (UTC) - Expand
(no subject) - a_gorb - Dec. 14th, 2014 05:34 pm (UTC) - Expand
(no subject) - egovoru - Dec. 14th, 2014 05:45 pm (UTC) - Expand
(no subject) - praeinant - Dec. 12th, 2014 10:12 am (UTC) - Expand
(no subject) - a_gorb - Dec. 12th, 2014 01:12 pm (UTC) - Expand