??????????? EM????????????

1
??????????? EM????????????
???? ?? ????????
URL http//chaosweb.complex.eng.hokudai.ac.jp/j
_inoue/ Email j_inoue_at_complex.eng.hokudai.ac.jp
????? ???? ??? ??????????
2
???????
???????????????????????? ????
??????????? ???????? EM???????????????? ????????
??????????????????????(?????????) ?
????????????????????????
3
????
?
?
???
????
4
???????(?????)?????
P(?)exp(ßs?ij ?i ?j )/Zs





?i
? 1

?
???????
?? ???
???
Ts (ßs)-1
????????
5
????(??????????????)
P(ti?i) A exp (ßtti?i )
?
????
?i
? ?i
?
p
with prob.
? ????
ßt (1/2) log(1?p / p)
????
P(t? ) exp( ßtSti?i )/Zt
?
ßt
??????
6
???????????????????
P(t s )P(s )
P(s t)
? s P(t s ) P(s )
???????
???????
???????? ? ????
Z ?s exp (J ?ij s is j h ?iti s i)
MAP ?? ???????????
H (s t) - J ?ij s is j ? h ?iti s i
???(????)???
7
????????(??????????)

?i
??????????????(????)
??
sgn( lt s igt) sgn ( ?s s i exp (? H (s
t) ) / Z)
????????????
H (s t) - J ?ij s is j ? h ?iti s i
? ?????????????MAP?????????????
Marroquin et al (1987)
8
Nishimori Wong (1999)
????????
M ( J, h ) ?i sgn( lt s igt) ?, t
? ???? ???
9
?????????
h
J
???? ?
?????
?
?
????????
(Geman McClure 1987)
EM ?????????????????
(Dempster et al 1977)
? Iba (1991) ??????????????????
?
?????????????????????????????????? ????????
10
??????
?????????
(? SK??????????????????????)
?????????????(???????)
??????????????????????
?????????????????????? ??????????
11
J, h ???????????
From microstates to macroscopic quantities
d pt(?)
?k pt (Fk?) wk (Fk?) ? pt (?) wk (?)
dt
wk (?) (1/2) 1 ? ? k tanh hk(?)
hk(?) (J/N) ?j ? j h ?k
?
Pt (m,a) ? ? pt (?) ? m?m(? ) ? a?a(? )
m (1/N) ?j ? j
a (1/N) ?j ? j ?j
12
J, h ??????? ? ???????
? K( J, h ) log(?s exp (J?ij si sj h?i ti sj
))
? log(?s exp (J?ij si sj ))
? log Zt
?????
???
? K ( J, h ) t?? ? ? K ( ßs , ßt) t? ?

????
? ? K ( J, h ) ? J ? h ???????
13
????????????
? K ( J, h ) t??
???????????
? ??????????????(??)???????
14
??????????? (??????????)
cJ (dJ/dt) ? ?K/?J, ch (dh/dt) ? ?K/?h
?s (?ij si sj) exp(J?ij si sj h?i ti si)
cJ (dJ/dt)
?s exp(J?ij si sj h?i ti si)
?s (?ij si sj) exp(J?ij si sj )
?

?s exp(J?ij si sj ) ?s (?iti si)
exp(J?ij si sj h?i ti si )
ch (dh/dt)
?s exp(J?ij si sj h?i ti si )
? Nt2h
15
??????????
cJ (dJ/dt) ??K/?J ?,t ch (dh/dt)
??K/?h ?,t
? ???????? ???
? ????????????
m(t), a(t), m1(t)
? J,h ????????
?????????????
? ???
M(m(t), a(t), m1(t), J(t), h(t))
16
????
? ???????????????????????? ????????
(????? Ozeki Okada ???????????????? ??????????
????????????)
17
?????????? EM??????
Q(J,h Jt , ht)
trs log Ph (t s )PJ (s )
PJt ,ht (s t)
E ???? Q(J,h Jt , ht) (???)???
M ????
Jt1 argmaxJ Q(J,h Jt , ht)
ht1 argmaxh Q(J,h Jt , ht)
? ??????????? J,h ???????????????
18
?????????????
?s (?ij si sj) exp(Jt ?ij si sj ht ?i ti si)
Q(J,h Jt , ht) J
?s exp(Jt ?ij si sj ht ?i ti si)
?s (?isi ti ) exp(Jt ?ij si sj ht ?i ti si)
h
?s exp(Jt ?ij si sj ht ?i ti si)
? log ?s exp (J ?ij si sj )
(Nt02 / 2t2) ? (Nt2h2 / 2)
? ?????????????????????? ???????????????????
19
????
? ???????????????????? ????????????(??????)
? ???????
20
????EM?????????
? EM????????????????????
????EM????????????????????? ???????
21
???EM??????
2??????EM?????????
(????)?????
?????? sij ???? ???????????? mi1 j lt sij
gt?????????
? ij Mij tanh(Jt1 Mij(1)) ? ij Mij tanh(Jt
Mij(1) ht tij)
ht1 tanh-1 (1/N)? ij tij tanh(Jt Mij ht
tij)
Mij mi1 j mi-1 j mi j1 mi j -1 ?
22
?????????
??? ???? ????
? ??????????????????????
? ????????????????????????? ????
23
???

• ?????EM???????????????????????????????????????
• ???????EM????????????????????2??????????????(?????
  ?)
• ???????????????(??????)
• ???? J. Inoue and K. Tanaka, Phys.Rev.E 65,
  016125 (2002)