Teorema de Shannon-Hartley

En teoria de l'informació, la teorema de Shannon-Hartley és una aplicació de la teorema de codificació per a canals en soroll. Un cas molt freqüent és el d'un canal de comunicació analògic continu en el temps que presenta un soroll gaussiano.

Ell establix la capacitat del canal de Shannon, una cota superior que establix la màxima cantitat de senyes digitals que poden ser transmesos o no sense error (açò és, informació) sobre dit enllaç de comunicacions en un ample de banda específic i que està somés a la presència de l'interferència del soroll.

En les hipòtesis de partida, per a la correcta aplicació de la teorema, s'assumix una llimitació en la potència de la senyal i, ademés, que el procés del soroll gaussiano és caracterisat per una potència coneguda o una densitat espectral de potència.

La llei deu el seu nom a Claude Shannon i Ralph Hartley.

Declaració de la teorema

Considerant totes les possibles tècniques de codificació de nivells múltiples i polifàsiques, la teorema de Shannon-Hartley indica que la capacitat del canal C és:

$C=B{\log }_2(1+\frac{S}{N})$

a on:

• $B$ és l'ample de banda del canal en Hertzios.
• $C$ és la capacitat del canal (taxa de bits d'informació bit/s)
• $S$ és la potència de la senyal útil, que pot estar expressada en vats, milivatios, etc., (W, mW, etc.)
• $N$ és la potència del soroll present en el canal, (mW, $\mu$W, etc.) que tracta d'emmaixquerar a la senyal útil.

Desenroll històric

A finals dels anys 20, Harry Nyquist i Ralph Hartley varen desenrollar una série d'idees fonamentals relacionades en la transmissió de l'informació, de manera particular, en el context del telégraf com a sistema de comunicacions. En aquells anys, estos conceptes eren alvanços de gran alcanç de caràcter individual, pero no formaven part del corpus d'una teoria exhaustiva.

Va ser en els anys 40, quan Claude Shannon va desenrollar el concepte de capacitat d'un canal basant-se, en part, en les idees que ya havien propost Nyquist i Hartley i formulant, despuix, una teoria completa sobre l'informació i la transmissió d'esta, a través de canals.

Taxa de Nyquist

Vore també: Taxa de Nyquist

En 1927, Nyquist va determinar que el número de polsos independents que podien passar a través d'un canal de telégraf, per unitat de temps, estava llimitat a dos voltes l'ample de banda del canal.

$f_p\ge 2B$

a on $f_p$ és la freqüència del pols (en polsos per segon) i $B$ és l'ample de banda (en hercios). La cantitat $2B$ es va cridar, més alvance, taxa de Nyquist, i transmetent a esta taxa de polsos llímit de $2B$ polsos per segon se li va denominar senyalisació a la taxa de Nyquist.

Nyquist va publicar els seus resultats en 1928 com a part del seu artícul "Certain topics in Telegraph Transmission Theory".

Llei de Hartley

Durant eixe mateix any, Hartley va formular una manera de quantificar l'informació i la seua taxa de transmissió a través d'un canal de comunicacions. Este método, conegut més alvance com a llei de Hartley, es va convertir en un important precursor per a la sofisticada noció de capacitat d'un canal, formulada per Shannon.

Hartley va indicar que el número màxim de polsos distints que es poden transmetre i rebre, de manera fiable, sobre un canal de comunicacions està llimitat pel ranc dinàmic de l'amplitut de la senyal i de la precisió en la qual el receptor pot distinguir distints nivells d'amplitut.

De manera específica, si l'amplitut de la senyal transmesa es restringix al ranc de $[-A\mathrm{...}+A]$ $voltios$, i la precisió del receptor és +/- $\Delta V$ $voltios$, llavors el número màxims de polsos distints M està donat per:

$M=1+\frac{A}{\Delta V}$

Prenent l'informació per a ser el logaritmo del número dels mensages distints que podrien ser enviats, Hartley despuix va construir una mida de l'informació proporcional a l'ample de banda del canal i a la duració del seu us. A voltes només es parla de dita proporcionalitat quan se cita a la llei de Hartley.

Posteriorment, Hartley va combinar l'observació de Nyquist, i la seua pròpia quantificació de la calitat o soroll d'un canal en térmens del número de nivells de pols que podien ser distinguits, de manera fiable i denotats per $M$, per a aplegar a una mida quantitativa de la taxa d'informació que es pot obtindre.

La llei de Hartley s'explica, cuantitativamente, de manera usual, com la taxa d'informació alcanzable de $R$ bits per segon, $(b/s)$:

$R=2B{\log }_2(M)$

Hartley no va resoldre, de manera precisa cóm el paràmetro $M$ deu dependre de les estadístiques de soroll del canal, o cóm la comunicació podia ser fiable inclús quan els polsos individuals corresponents a símbols no es pogueren distinguir, de manera fiable, dels nivells de $M$; en les estadístiques del soroll gaussiano.

Els dissenyadors de sistemes tenen que elegir un valor molt conservador de $M$ per a alcançar la mínima taxa d'error.

El concepte d'una capacitat lliure d'errors va aguardar fins que Claude Shannon va investigar sobre les observacions de Hartley sobre la mida logarítmica de l'informació i les observacions de Nyquist sobre l'efecte de les llimitacions de l'ample de banda del canal.

El resultat de la taxa de Hartley es pot vore com la capacitat d'un canal $M$ sense errors de $2B$ símbols per segon. Alguns autors es referixen a això com a capacitat. Pero eixe supost canal, lliure d'errors, és un canal ideal, i el resultat és, necessàriament, menor que la capacitat de Shannon d'un canal en soroll d'ample de banda $B$, que és el resultat Hartley-Shannon que es va estimar més alvance.

Teorema de codificació de canals en soroll i capacitat

El desenroll de la teoria de l'informació de Claude Shannon durant la Segona Guerra Mundial va estimular el següent gran pas per a entendre qué cantitat d'informació es podria comunicar, sense errors i de manera fiable, a través de canals en soroll gausiano de fondo.

Fonamentat sobre les idees de Hartley, la teorema de Shannon de la codificació de canals en soroll (1948) descriu la màxima eficiència possible dels métodos de correcció d'errors versus els nivells d'interferència de soroll i corrupció de senyes. La prova de la teorema mostra que un còdic corrector d'errors construït aleatoriamente és, essencialment, igual de bo que el millor còdic possible. La teorema es prova en l'estadística de tals còdics aleatoris.

La teorema de Shannon demostra cóm calcular la capacitat d'un canal sobre una descripció estadística del canal i establix que, donat un canal en soroll en capacitat $C$ i informació transmesa en una taxa $R$, llavors si

$R<C$

existix una tècnica de codificació que permet que la provabilitat d'error en el receptor es faça arbitrariamente menuda. Açò significa que, teòricament, és possible transmetre informació casi sense error fins a un llímit propenc a $C$ bits per segon.

L'invers també és important. Si

$R>C$

la provabilitat de l'error en el receptor s'incrementa sense llímit mentres s'aumente la taxa. D'esta manera no es pot transmetre cap informació útil per damunt de la capacitat del canal. La teorema no tracta la situació, poc freqüent, en que la taxa i la capacitat són iguals.

Teorema de Shannon-Hartley

La teorema de Shannon-Hartley establix quin és la capacitat del canal, per a un canal en ample de banda finito i una senyal contínua que sofrix un soroll gaussiano. Conecta el resultat de Hartley en la teorema de Shannon de la capacitat del canal en una forma que és equivalent a especificar la $M$ en la fòrmula de Hartley de la taxa d'informació en térmens de la relació senyal/soroll, pero alcançant fiabilitat a través de la codificació correctora d'errors, més fiable, que els nivells de pols distinguibles.

Si existira una cosa tal com un canal analògic en ample de banda infinit i sense soroll, un podria transmetre cantitats illimitades de senyes sense error, sobre est, per cada unitat de temps. No obstant, els canals de comunicació reals estan subjectes a les llimitacions impostes per l'ample de banda finito i el soroll.

Llavors, ¿cóm l'ample de banda i el soroll afecten a la taxa en la que l'informació pot ser transmesa sobre un canal analògic?

Encara que semble sorprenent, les llimitacions de l'ample de banda, per sí soles, no imponen restriccions sobre la taxa màxima d'informació. Açò és perque seguix sent possible, per a la senyal, prendre un número infinitament gran de valors distints de voltage per a cada pols de símbol, sent cada nivell lleument distint de l'anterior que representa a un determinat significat o seqüència de bits. No obstant, si combinem abdós factors, és dir, tant el soroll com les llimitacions de l'ample de banda, trobem un llímit a la cantitat d'informació que es pot transferir per una senyal de potència llimitada, aun cuando s'utilisen tècniques de codificació de nivells múltiples.

En el canal considerat per la teorema de Shannon-Hartley, el soroll i la senyal se sumen. És dir, el receptor medix una senyal que siga igual a la suma de la senyal que codifica l'informació desijada i una variable aleatòria contínua que represente el soroll. Esta suma crea incertitut sobre el valor de la senyal original.

Si el receptor té certa informació sobre el procés aleatori que genera el soroll, es pot, en principi, recuperar l'informació de la senyal original considerant tots els possibles estats del procés del soroll. En el cas de la teorema de Shannon-Hartley, s'assumix que el soroll és generat per un procés gaussiano en una varianza coneguda. ya que la varianza del procés gaussiano és equivalent a la seua potència, normalment es diu a esta varianza la potència de soroll.

Tal canal és cridat canal aditiu del soroll blanc gaussiano, perque el soroll gaussiano és afegit a la senyal; blanc significa igual cantitat de soroll en totes les freqüències dins de l'ample de banda del canal.