Fundamentos de la Teoría de la Información: Conceptos y Aplicaciones

Teoría de la Información (15/03/10)

Cantidad de información:

Probabilidad

Ejemplo:

• N.C.F: Número de casos favorables.
• N.C.P: Número de casos posibles.

+ Probabilidad - Información

SI:

• Valor mínimo de la cantidad de información: cero.
• Valor máximo de la cantidad de información: ?

17/03/10

*Nos importa que la función cumpla con la propiedad.

*Nunca toca el eje de coordenadas.

*Bits: es la unidad de medida de la cantidad de información.

Ejercicios Prácticos

Ejercicio n.º 1: Calcular la cantidad de información asociada al tiro de una moneda.

Ejercicio n.º 2: De un mazo de cartas españolas se extrae una. Si me informan que es de oro, ¿cuántos bits de información he recibido? ¿Qué información adicional se necesita para especificar la carta?

22/03/10

Ejercicio n.º 3: Calcular la información que aporta la aparición de una letra entre 32 equiprobables.

Ejercicio n.º 4: Supongamos que una fuente produce los símbolos a, b, c y d con probabilidades 1/2, 1/4, 1/8 y 1/8, respectivamente.

a) Calcular la información en cada caso.
b) Si los símbolos son independientes, calcular los bits de información del mensaje "ba", "ca".

Ejercicio n.º 5: Calcular la probabilidad de que aparezcan 3 caras consecutivas al tirar una moneda y, además, calcular la información asociada.

N.º 5:

*Dos posibilidades por la cantidad 2 al cubo igual a 8.

29/03/10

Ejercicio n.º 6: Hay un proverbio que dice: "Una imagen vale más que mil palabras". Verificarlo suponiendo que descomponemos el cuadro de imagen en un número discreto de píxeles, teniendo cada uno un nivel de brillo que varía en pasos desde el negro hasta el blanco. Para el estudio consideraremos una imagen compuesta por 400 líneas horizontales con 300 puntos discretos por línea y 8 niveles equiprobables fácilmente distinguibles de brillo. Además, supondremos un vocabulario de 100.000 palabras también equiprobables.

*IMAGEN

Palabras: 100.000

OTRA POSIBILIDAD

*