энтропия

Аватар пользователя gazlan

Тексты и оценки

Введенное Бенуа Мандельбротом в 1975 году понятие фрактала ("Фрактальная геометрия природы") позволило удачно объединить многие, ранее рассматривавшиеся отдельно явления.

Для классической модели термодинамики - идеального газа под поршнем - будем использовать термин "газовый фрактал" (чем он на самом деле и является).

Закон Клапейрона-Менделеева (1834) устанавливает связь между объемом газа V, его давлением P и абсолютной температурой Т (выбирая подходящим образом размерности):

Аватар пользователя gazlan

Энтропия и релятивизм

Странным образом, фундамент теории информации выстроен на заблуждении об аддитивности энтропии.

Между тем, ее неаддитивность прямо следует из существования энтропийного предела.

Рассмотрим, например, сложение двух сообщений с единичной энтропией. Неважно, как именно это будет реализовано. Например, симметричное шифрование можно рассматривать как сложение сообщения с ключом. Результирующая энтропия, разумеется, не может превышать единицу.

Аватар пользователя gazlan

Диакоптика трансформаторов текста

Все методы трансформации текста естественно распадаются на две группы: диссипативные, связанные с потерей информации (аннотирование, реферирование, компиляция, сжатие данных с потерями - lossy data compression) и консервативные, без потерь информации (перевод с одного языка на другой, шифрование, сжатие данных без потерь - lossless data compression) .

Аватар пользователя gazlan

Энтропия и парадокс Гиббса

Неаддитивность энтропии приводит, иногда, к "парадоксальным" ситуациям.

В термодинамике известен парадокс Гиббса, аналогичный "парадокс" может быть предложен для информационной энтропии.

Пусть M - произвольное сообщение длины L с энтропией H.

Аватар пользователя gazlan

Трансформатор Хаффмана. Мысью по древу

Однажды Ходжу Насреддина спросили: - Как строятся самые высокие минареты - Очень просто, - ответил тот. - Роют глубокий колодец, а потом выворачивают его наизнанку.

Аватар пользователя gazlan

Размышления. Миф об избыточности

В качестве провокации. Или информации к размышлению :-)

 

Неформально, устойчивость Текста к искажениям, то есть его пригодность к восстановлению, называется избыточностью.

По рзелульаттам илссеовадний одонго анлигйсокго унвиертисета, не иеемт занчнеия, в кокам пряокде рсапожолены бкувы в солве. Галвоне, чотбы преавя и пслоендяя бквуы блыи на мсете.

Аватар пользователя gazlan

Об Информации - без формул

В аксиоматике Альберта Вейника, вещество обладает качеством и количеством. Точнее, набором качеств, но это, пока, несущественно. Например, качеством может быть "иметь массу", а количеством - сама эта масса, выраженная в каких-либо единицах.

Далее Вейник вводит понятие Заряд - как нечто, что можно переместить в пространстве. Для заряда формулируется закон сохранения: если переместить заряд из одного места в другое, то в прежнем его уже не будет.

Аватар пользователя Царёв Павел

Функция в онтологии 2.

ФУНКЦИЯ в онтологии.

Мне грезится безвестная планета,

Где все идет иначе, чем у нас.

[1, с. 143]

В непознаваемом тумане

Возможны странные миры

Быть может, есть такие сочетанья,

Где прошлое — всегда доступный путь,

Где Время знает состраданье

И может каждый миг вернуть.

RSS-материал