Hidden Markov Models

1
Hidden Markov Models

• Introductie
• Project
• 1. Initializatie
• 2. Training

2
HMM

• Voorbeeld
• 3 toestanden (silence, voiced, unvoiced sound)
• probabilities van transities, initial
  probabilities
  

a02
a22
0
2
a03
a01
a12
3
1
a31
a33
a11
3
HMM in spraak herkennen

• Bouwen van HMM gebaseerd op observation sequences
  Y en bijhorende state sequences S.
• Herkennen van spraak op basis van models T en
  actuele observatie.

S
Y
Recognition
Feature extraction
T
Y
Training
HMM
S
Y-feature vector of observations, S-sequence of
linguistic units Find the correct sequence of
linguistic units S for given Y.
4
Initializatie
Speech data
Initialization
Phoneme labels
HMM phoneme parameters
Speech data
Training
Phoneme labels
Initialization module computes the HMM parameters
first guess using preprocessed speech data, and
their associated phoneme labels.
5
Voor iedere phoneme moet een HMM model gemaakt
worden. Dat betekent dat aan elke toestand wordt
een probability density function P(y s i )
toegekend. P(y s i ) wordt beschreven als
mengsel van multidimensional Gaussian pdfs. De
parameters µi - mean, ci - gewicht, Ui -
covariance matrix moeten bepaald worden aan de
hand van acoustic labeled data (y,?), waar ? de
label van de phoneme is.
M 1
Initialization
MM
Initialization of MM1 Gaussian model
Initialization of one Gaussian HMM
no
Mfinal number of Gaussians
yes
µ1 U1
µ1... µM U1UM
(y,?)
Training
6
Berekenen van one Gaussian HMM model

• Functie Sectionate bepaalt de toestaand voor elke
  (y,?).
• In functie Calculate_One_Mixture_Codebook worden
  de pdf parameters bepaald.

Initialization module
(y,?)
(y,?)
(y,?,s)
Sectionate
Calculate_One Mixture_Codebook
(µ,U)
HMM models
(µ,U)
Training
HMM models
(y,?)
7
Training

• Training is implementatie van Baum-Welch
  algorithme. Gedurende initializatie hebben we een
  HMM phoneme model T van N toestanden en M
  Gaussians per toestand.
• Met Baum-Welch kunnen we een new model T vinden
  die beter hoort bij observation data y.