Энтропия – где и как она применяется?

Понятие энтропии существенно используется в теории информации. В 1948 американский инженер Клод Шеннон ввел понятие энтропии как меру неупорядоченности в дискретных сообщениях, передаваемых по каналам связи. Для сообщения х, состоящего из n различных элементов, он определил энтропию H(x) следующим образом:

где p(i) - вероятность появления в сообщении i-того элемента. Логарифм по снованию 2 означает, что энтропия будет измеряться в битах. Тогда количество информации в сообщении есть такая величина, на которую уменьшится энтропия при получении этого сообщения.

В химии энтропия веществ применяется, например, для расчета его термодинамических характеристик при данной температуре. А это нужно для расчета многих величин, например, константы равновесия реакции. То есть как далеко она пройдет, каков максимально возможный теоретический выход продукта. Так что явное практическое применение.