Entropia
Le entropia es un mesura del disordine de un systema. Un systema tende a transformar se spontaneemente de un stato de ordine, o de basse entropia, ad un stato de maxime disordine, o de alte entropia. Le entropia de un systema es connexe al quantitate de information que illo contine. Un systema multo ordinate pote esser describite con minus de bits de information que un systema disordinate. Per exemplo, un serie continente dece 0s (zeros) pote esser describite usante un codice tanto simple como (0,10). Ma un serie de symbolos qualcunque, e.g. bits o typos, esserea plus difficile, si non impossibile, a comprimer de iste maniera. Per exemplo, un serie continente tres 1s e septe 0s requirerea additional etiquettas pro esser codificate, assi (0011001000) esserea codificate in (0,2,1,2,1,2,1,1,1,2) con nulle avantage. Isto es assi proque il ha solmente un combination pro le prime serie, e.g. (0000000000), ma il ha  = 120 combinationes pro le secunde serie, e.g. (1110000000), (1101000000), etc.

Le formula de Shannon

  

da le entropia  de un message  in bits, essente  le probabilitate del message . Assi, le probabilitate del message prime ' constituente de un serie de dece 0s es equal al unitate e . Le probabilitate del message  constituite de tres 1s e septe 0s es , e le entropia de iste message es .

In un verso traditional anglese, Humpty Dumpty es un ovo anthropomorphe que non pote esser restaurate a un stato de ordine post un cadita

Thermodynamica 
Le entropia thermodynamic , simplemente appellate “le entropia” in le contexto de chimia e thermodynamica, es un mesura del amonta de energia in un physic systema que non pote esser usate pro facer travalio. Illo es anque un mesura del disordine presente in le systema.

Rudolf Clausius, in 1865, introduceva le concepto de entropia. Ille definiva le cambio  in entropia de un thermodynamic systema, durante un processo reversibile

 

ubi  es le amonta de calor infinitesimal excambiate durante le tempore  in que le instantanee absolute temperatura es .

Clausius dava al quantitate  le nomine "entropia", ab le parola grec τρoπή, "transformation". Nota que iste equation involve solmente un cambio in entropia, dunque le entropia es solmente definite usque un constante additive. A sequer, un definition statistic alternative de entropia essera discutite que unicamente lo defini.

In 1877, Boltzmann realisava que le entropia de un systema pote esser connexe al numero de possibile "microstatos" (statos microscopic) consistente con su thermodynamic proprietates. Considera, per exemplo, un ideal gas in un receptaculo. Un microstato es specificate con le positiones e momentos de cata atomo constituente. Consistentia require considerar solmente ille microstatos proque (i) le positiones de omne le particulas son locate intra le volumine del receptaculo,(ii) le summa del energia cinetic del atomos es equal al energia total del gas, e assi in avante. Boltzmann alora postulava que

ubi  es cognoscite como le constante de Boltzmann e  es le numero de microstatos que son consistente con le date macroscopic stato. Iste postulato, que es cognoscite como le principio de Boltzmann, pote esser considerate como le fundamento del statistic mechanica, que describe systemas thermodynamic usante le comportamento statistic de su constituentes. Illo relata un proprietate microscopic del systema  con un de su proprietates thermodynamic, le entropia . Sub le definition de Boltzmann, le entropia es clarmente un function de stato. In plus, proque  es juste un numero natural(1,2,3,...), le entropia debe esser positive (isto es simplemente un proprietate del logarithmo.)

Nos pote vider  como un mesura de le disordine in un systema. Iste es rational, proque o que nos pensa como systemas "ordinate" tende a haber minus de possibilitates configurational, e systemas "disordinate" tende a haber plus de possibilitates configurational. Considera, per exemplo, un collection de 10 numismas, cata un de illos es o capites in alto o caudas in alto. Le plus "ordinate" macroscopic statos son 10 capites o 10 caudas; in ambe casos, il ha exactemente un configuration que pote producer le resultato. In contrasto, le plus "disordinate" stato consiste de 5 capites e 5 caudas, e ha =252 camminos pro producer iste resultato (vide analyses combinatori). Sub le definition statistic de entropia, le secunde lege del thermodynamica affirma que le disordine in un systema isolate tende a augmentar. Iste pote esser comprendite usante nostre exemplo con numismas. Suppone que nos initia con 10 capites, e jecta in aere un numisma al hasardo cata minuta. Si nos examina le systema post longe tempore, il es possibile que nos totevia videra 10 capites, o etiam 10 caudas, sed isto non es multo probabile; il es plus probabile que nos videra approximativemente tante capites como caudas.

Postea ille discoperiva le idea que le tendentia del disordine a augmentar ha essite le foco de un grande quantitate de pensamento, alicun de illos confuse. Un principal puncto de confusion es le facto de que le resultato  se applica solmente pro systemas isolate; notabilemente, le Terra non es un systema isolate proque illo recipe constantemente energia in le forma de lumine del sol. Nonobstante, il ha essite observate que le universo pote esser considerate un systema isolate, assi su disordine total deberea augmentar constantemente. Il ha essite speculate que le universo es destinate a un morte thermic in que omne le energia finirea como un distribution de energia thermic homogenee, dunque nulle additional travalio poterea esser extrahite ab alicun fonte.

Mathematica
Physica