Presentaci

1
Tema 5 Estimación de parámetros
2
ÍNDICE

• Introducción
• Regresión lineal
• Regresión lineal múltiple
• Regresión no lineal

3
1. Introducción
Problema Tenemos una serie de valores
(normalmente discretos) experimentales. Estos
valores relacionan una(s) variable(s) de entrada
y una(s) de salida. Queremos obtener un modelo
que nos permita saber los valores en cualquier
punto entre esos valores discretos de que
disponemos.
2 alternativas

• Regresión Una curva representa la tendencia
  general de los datos.
• Se emplea cuando los datos tienen bastante
  variabilidad.
• Interpolación Una curva pasa por todos los datos
  experimentales.
• Se emplea cuando los datos apenas tienen
  variabilidad.

4
Variablidad de los datos
Media
Desviación estándar
Varianza
Coeficiente de variación
5
2. Regresión lineal simple
Dados unos datos
y una relación lineal entre ellos
Encontrar unos valores para ?1 y ?0 tal que hagan
el error de la predicción mínimo.
El modelo escogido es
6
Queremos minimizar el error, es decir, la
diferencia entre el valor real y el modelo
Posibles criterios para obtener los parámetros.
Suma de errores
Suma del valor absoluto del error
Suma de los cuadrados de los errores
7
Ajuste por el método de Mínimos cuadrados
Minimizar la suma de los cuadrados de los
errores. Derivamos respecto de cada parámetro
Axb
Problema lineal
8
Ejemplo
9
Análisis de la estimación
Propiedades del estimador ?1
Suma de cuadrado de errores
Desviacion típica de los datos y
Desviacion típica residual
Coeficiente de correlación
10
Ejemplo Análisis de los resultados
Desviacion típica residual
Media de los errores -4.4409e-016
Coeficiente de correlación
Distribución de los errores
11
(No Transcript)
12
Estimación polinómica

• Polinomio de segundo orden
• Modelo
• Parámetros según mínimos cuadrados

Sistema de ecuaciones lineales
13

• Polinomio de orden m
• Modelo
• Parámetros según mínimos cuadrados

Sistema de ecuaciones lineales
14
3. Regresión lineal múltiple
Ahora tenemos múltiples variables x que explican
la variable y.
Encontrar unos valores para todos los ? tal que
hagan el error de la predicción mínimo.
El modelo escogido es
15
Ajuste por el método de Mínimos cuadrados
Minimizar la suma de los cuadrados de los
errores.
Derivamos respecto de cada parámetro
Poco robusto numéricamente
Formulación para resolución numérica
16
Análisis de la estimación
Matriz de varianzas y covarianzas
Propiedades de los estimadores ?i
Suma de cuadrado de errores
Desviacion típica residual
Coeficiente de determinación corregido
17
3. Regresión no lineal
Modelo NO lineal
Transformar el problema a uno de regresión lineal
Se transforma en

• Modelo exponencial
• Ecuación en potencias
• Fracciones

Se transforma en
Se transforma en
18
Resolver el problema NO lineal directamente

• Linealizar aproximando según desarrollo en serie
  de Taylor

• Ajuste por mínimos cuadrados

• Iteración de regresiones lineales- Gauss-Newton.

O emplear un algoritmo de optimización al
problema Levenberg-Marquadt