ENTROPIA LA MEDIDA DE LA INCERTIDUMBRE

1
ENTROPIALA MEDIDA DE LA INCERTIDUMBRE

• RICARDO ESTEBAN LIZASO

2
ENTROPIA

• PARA QUE SE USA
• VARIOS ESTADOS EQUIPROBABLES
• VARIAS VARIABLES
• PROBABILIDADES CONCENTRADAS
• FORMULA
• APLICACION

3
PARA QUE SE USA

• PARA MEDIR LA INCERTIDUMBRE.
• EN FUNCION DE LA CANTIDAD DE INFORMACION
  NECESARIA PARA ELIMINARLA.
• SE BASA SOLO EN LAS PROBABILIDADES DE LOS
  ESTADOS, NO EN LOS RESULTADOS.

4
VARIOS ESTADOS EQUIPROBABLES
5
VARIOS ESTADOS EQUIPROBABLES

• A MEDIDA QUE UNA VARIABLE NO CONTROLABLE POSEE
  MAS ESTADOS NATURALES, MAS INCIERTA SERÁ.

6
VARIAS VARIABLES
7
VARIAS VARIABLES
8
VARIAS VARIABLES

• A MEDIDA QUE EXISTAN MAS VARIABLES NO
  CONTROLABLES EN LA DECISION, MAS INCIERTA SERÁ LA
  SITUACIÓN.

9
PROBABILIDADES CONCENTRADAS
10
PROBABILIDADES CONCENTRADAS

• CUANDO ESTAMOS EN PRESENCIA DE UNA VARIABLE NO
  CONTROLABLE CON LA MISMA CANTIDAD DE ESTADOS,
  SERÁ MÁS INCIERTA EN LA MEDIDA QUE TODOS ESTOS
  TENGAN UNA PROBABILIDAD DE SUCEDER MAS PAREJA
  (MENOS CONCENTRADA).

11
FORMULA

• H - ? Pi log2 pi

12
Cálculo del logaritmo en base 2

• Log10 X
• Log2 X ----------------
• Log10 2

13
APLICACION

• UNA VARIABLE DE DOS ESTADOS EQUIPROBABLES

14
APLICACION

• H - 0,5 log2 0,5 0,5 log2 0,5
• H - 0,5 ( - 1) 0,5 ( - 1)
• H - - 0,5 - 0,5
• H - - 1
• H 1

15
APLICACION

• UNA VARIABLE DE TRES ESTADOS EQUIPROBABLES.

16
APLICACION

• H - 1/3 log2 1/3 1/3 log2 1/3 1/3
  log2 1/3
• H - 3 1/3 log2 1/3
• H - 3 1/3 1,5849625
• H - 1,5849625
• H 1,5849625

17
APLICACION

• SITUACION DE CERTEZA

18
APLICACION

• H - 1 log2 1
• H - 1 0
• H - 0
• H 0