?

Log in

No account? Create an account

Previous Entry | Next Entry

Энтропия держит цепко

Сади Карно первым понял, что не вся энергия может быть превращена в работу, а Рудольф Клаузиус придумал слово «энтропия» для обозначения этой неуловимой части. Количественно информация – это и есть изменение энтропии (с обратным знаком); по крайней мере, Шеннон с фон Нойманом именно так ее и определили.


Больше всего меня беспокоило подходящее имя. Сначала я хотел говорить об «информации», но это слово уж слишком затасканное, поэтому я склонялся в пользу «меры неопределенности». Когда я рассказал об этом Джону фон Нойману, у него возникла идея получше. Фон Нойман сказал мне: «Ты должен назвать это «энтропией», по двум причинам. Во-первых, твоя «мера неопределенности» уже была использована в статистической механике под тем самым именем. Во-вторых и в-главных, никто не знает, что такое на самом деле энтропия, так что в любом обсуждении преимущество будет на твоей стороне».

Недавняя работа японцев, подковавших блоху приручивших демона Максвелла, наделала много переполоху в популярной прессе. Но, как и во всяком вечном двигателе, процесс получения энергии из информации у них был сопряжен с потреблением гораздо большей энергии извне. Как заметил автор комментария, помещенного издателями вместе с оригинальной публикацией: «Этот эксперимент подобен производству крошечного количества энергии путем термоядерного синтеза в реакторе, требующем колоссального энергообеспечения».


Карикатура Арье Бен-Наима
на знаменитый разговор Шеннона и фон Ноймана (отсюда)

Posts from This Journal by “информация” Tag

Comments

a_gorb
Nov. 6th, 2014 04:37 pm (UTC)
Эпиграф (не относящийся к делу, но забавный):
«… низко склонив голову над этим почтенным документом, я не без труда прочитал выцветший текст:
ТЕЛЕЦ ГАММА ПЛАНЕТ ДО ЧЕРТА НО СЛАВА БОГУ БЕЗЛЮДНЫХ В ПЕРИГЕЛИИ БОЛОТИСТЫЕ В АФЕЛИИ ОБЛЕДЕНЕЛЫЕ ВСЕ ЭТО ПАСКУДНАЯ ЭНТРОПИЯ И НИЧЕГО БОЛЬШЕ ТОЧКА

Я еще раз взглянул на архаический астротелекс, и словно пелена упала с моих глаз: я понял, что название ЭНТЕРОПИЯ возникло просто из «паскудной энтропии», перевранной каким-то делопроизводителем»
[Станислав Лем. Осмотр на месте]

”Рудольф Клаузиус придумал слово "энтропия" для обозначения этой неуловимой части.”
Не совсем так, но это не важно.
”Как заметил автор комментария, помещенного издателями вместе с оригинальной публикацией: "Этот эксперимент подобен производству крошечного количества энергии путем слияния ядер в реакторе, требующем колоссального энергообеспечения".”
Это камушек в огород не упомянутых японцев, а скорее в область исследований контролируемого термоядерного синтеза. Ну, или в обоих. Так, что замечательный многозначный комментарий.

Хотя мне вот лично не понятно, почему иногда так «носятся» с этой энтропией. Ведь штука очень простая. Вот бросили штук сто монет. Все упали орлами – энтропия минимальна. Примерно поровну орлами и решками – энтропия максимальна. Вот собственно и все содержание энтропии.


Edited at 2014-11-06 04:51 pm (UTC)
evgeniirudnyi
Nov. 7th, 2014 06:45 am (UTC)
В вашем пример с монетами термодинамическая энтропия не меняется.

1) Энтропия одной монеты не меняется при переходе из состояния орел в решка.

2) Энтропия системы является суммой энтропий подсистем. Энтропия, как и энергия являются аддитивными функциями.
verum_corpus
Nov. 7th, 2014 02:20 pm (UTC)
2) Если я правильно понимаю, в волновой (квантовой) механике это не так.
evgeniirudnyi
Nov. 7th, 2014 02:25 pm (UTC)
А что, в квантовой механике существует энтропия?

Или квантовая механика подходит к описанию коллекции монет в конфигурации орёл - решка?
verum_corpus
Nov. 7th, 2014 02:32 pm (UTC)
Ну можно представить, например, вместо монет спины электронов в атоме (?).
(no subject) - evgeniirudnyi - Nov. 7th, 2014 03:19 pm (UTC) - Expand
(no subject) - verum_corpus - Nov. 7th, 2014 04:05 pm (UTC) - Expand
(no subject) - evgeniirudnyi - Nov. 7th, 2014 04:14 pm (UTC) - Expand
a_gorb
Nov. 7th, 2014 08:43 pm (UTC)
”энтропия не меняется”
Меняется

”1) Энтропия одной монеты не меняется при переходе из состояния орел в решка.”
Да, энтропия состояния одной монеты орел или состояния решка будет одной и той же. Удобно ее принять равной нулю.

”2) Энтропия системы является суммой энтропий подсистем.”
Да. Если мы возьмем сто орлов, то по-прежнему будет энтропия ноль. Так же будет ноль, если мы возьмем сто решек.

”Энтропия, как и энергия являются аддитивными функциями.”
Да. Но аддитивность здесь надо понимать аккуратно, она может оказаться разной для энергии и энтропии.
evgeniirudnyi
Nov. 8th, 2014 08:38 am (UTC)
Если вы согласны с утверждениеями 1) и 2), то каким образом вы пришли к выводу, что энтропия меняется? Ваша логика осталась мне непонятной.
a_gorb
Nov. 8th, 2014 06:23 pm (UTC)
Сначала ответим на вопрос, что является макросостоянием. Я этого специально не оговорил из-за краткости и считая, что об этом можно догадаться из контекста.

Пусть макросостояние заключается том, что все монеты лежат орлами. Такое состояние реализуется одним способом. Любая подсистема системы из 100 монет также находится в этом же самом состоянии и тоже реализуемым одним способом. Т.е. сто орлов, как и один орел будут обладать нулевой энтропией.

Теперь пусть у нас макросостояние заключается в том, что примерно половина из 100 монет лежат орлами. Тут уже будет очень много возможных реализаций этого макросостояния. Соответственно, энтропия будет большой. Если мы разобьем 100 монет на подсистемы в том же самом макросостоянии, то число реализаций всей системы будет произведением числа реализаций подсистем, а энтропия, понятное дело, будет суммой.
---
Об аккуратном обращении с аддитивностью.
Рассмотрим еще такой пример, пусть 50 монет лежащих орлами и еще 50 монет лежащих поровну орлами и решками. Энтропия первой подсистемы ноль, второй – некая величина. Перемешаем монеты, получим состояние 25 монет из 100 лежат орлами. Останется ли число реализаций этого нового состояния таким же как и прежде?
(no subject) - evgeniirudnyi - Nov. 9th, 2014 08:44 am (UTC) - Expand
(no subject) - a_gorb - Nov. 9th, 2014 10:50 am (UTC) - Expand
(no subject) - evgeniirudnyi - Nov. 9th, 2014 11:08 am (UTC) - Expand
(no subject) - egovoru - Nov. 9th, 2014 02:14 pm (UTC) - Expand
(no subject) - evgeniirudnyi - Nov. 9th, 2014 02:26 pm (UTC) - Expand
(no subject) - a_gorb - Nov. 9th, 2014 04:04 pm (UTC) - Expand
(no subject) - evgeniirudnyi - Nov. 10th, 2014 07:59 pm (UTC) - Expand
egovoru
Nov. 7th, 2014 01:04 pm (UTC)
"ВСЕ ЭТО ПАСКУДНАЯ ЭНТРОПИЯ"

Действительно, едва ли какое другое понятие физики может похвастаться такой популярностью в народе ;) Тимур Кибиров вон даже целую поэму про нее написал - это оттуда я взяла свое заглавие ;)

"Не совсем так, но это не важно"

Если не так, то поправьте, пожалуйста - а то я, конечно, давно подзабыла и то немногое, что знала из физики. Я имела в виду просто вот это: dU = TdS - PdV.

"Это камушек в огород не упомянутых японцев"

Похоже, однако, что эта предосторожность редакции мало помогла: большинство анонсов этой работы в популярной прессе описывает ее, как изобретение вечного двигателя ;)

"Ведь штука очень простая"

Насколько я понимаю, фон Нойман именно это и имел в виду: что шенноновское определение энтропии интуитивно более понятно, чем больцмановское, и уж тем более чем макроскопическое (которое вовсе, на мой взгляд, непонятно).

"почему иногда так «носятся» с этой энтропией"

Этот мой текст - продолжение нашей беседы с уважаемым re_xor о том, лежат ли "биты" в основе мира. Это он рассказал мне про этих "демонических" японцев - в ответ на мое замечание, что информацию нельзя непосредственно обратить в энергию/массу, т.е., материю. Соответственно, я и решила припомнить - а почему, собственно, нельзя?




evgeniirudnyi
Nov. 7th, 2014 03:03 pm (UTC)
"фон Нойман именно это и имел в виду: что шенноновское определение энтропии интуитивно более понятно, чем больцмановское, и уж тем более чем макроскопическое (которое вовсе, на мой взгляд, непонятно)"

В этом состоит основная проблема с энтропией. Люди почему-то думают, что концепция энтропии в статистической механике более понятна, чем в классической термодинамике. Далее как следствие классическая термодинамика игнорируется, что в свою очередь приводит к крайне странным высказываниям, которые уже просто невозможно понять.

Нельзя забывать, что термодинамика была создана для решения практических задач. Попробуйте решить эти задачи, начав с уравнения Больцмана. Ведь ничего же не получится.

Простой пример - расслаивание раствора. Недавно я в ходе обсуждения с биосемиотиками написал Entropy and Miscibility Gap: Tutorial for Biologists, где есть все уравнения для крайне простого случая. Попробуйте решить эту задачу с использованием уравнения Больцмана. Тогда разговор будет более предметным.
egovoru
Nov. 8th, 2014 01:03 pm (UTC)
"Попробуйте решить эту задачу с использованием уравнения Больцмана"

Конечно, для решения разных задач требуются разные модели, и термодинамика здесь не исключение.

Здесь у меня задача - попытаться понять логику тех, кто считает, что в основе мира лежит информация. Перекинуть мостик от информации к циклу Карно как-то сложнее, чем к статистической механике.
evgeniirudnyi
Nov. 8th, 2014 01:11 pm (UTC)
"Перекинуть мостик от информации к циклу Карно как-то сложнее"

Если именно такой мостик не перекинуть, то ведь тогда все разговоры об информации и энтропии сведутся просто к сотрясению воздуха.
a_gorb
Nov. 7th, 2014 08:38 pm (UTC)
”Я имела в виду просто вот это: dU = TdS - PdV.”
Ок. Это я просто придирался, извините. Я же и сказал «не совсем так», а не «не так»:). Разница между энергией и работой, как вы справедливо написали, это TdS, а не dS.

”большинство анонсов этой работы в популярной прессе описывает ее, как изобретение вечного двигателя ;)”
Обычное дело со стороны журналистов.

”шенноновское определение энтропии интуитивно более понятно, чем больцмановское, и уж тем более чем макроскопическое (которое вовсе, на мой взгляд, непонятно).”
Ну кому что понятнее:)

”Этот мой текст - продолжение нашей беседы”
Тут я не про вас, а вообще …, т.е. имел в виду, что «едва ли какое другое понятие физики может похвастаться такой популярностью в народе». А вот почему это так, вопрос интересный.
egovoru
Nov. 8th, 2014 01:19 pm (UTC)
"А вот почему это так, вопрос интересный"

Возможно, все дело в той формулировке второго закона, которая гласит, что в замкнутой системе беспорядок может только возрастать - такая перспектива вызывает уж очень конкретную эмоциональную реакцию в приложении к обыденной жизни ;)
(no subject) - a_gorb - Nov. 8th, 2014 06:28 pm (UTC) - Expand
(no subject) - egovoru - Nov. 8th, 2014 06:31 pm (UTC) - Expand
(no subject) - a_gorb - Nov. 9th, 2014 10:59 am (UTC) - Expand
(no subject) - egovoru - Nov. 9th, 2014 02:12 pm (UTC) - Expand
egovoru
Nov. 29th, 2014 02:12 pm (UTC)
Кстати сказать, Бен-Наим предлагается в своей книжке разумное, на мой взгляд, решение, как избежать этой сложности с температурой, которую Вы отметили. Выше в комментарии другому собеседнику я рассказала об этом более подробно.

Edited at 2014-11-29 02:14 pm (UTC)