Stochastic Differential Equations and Random Matrices

1
Stochastic Differential Equations and Random
Matrices

• Alan Edelman
• MIT Dept of Mathematics,
• Computer Science Artificial Intelligence
  Laboratory
• SIAM Applied Linear Algebra
• July 18, 2003

2
Subject Random Wow!

• Quantum Mechanics
• Statistical Mechanics
• Randomized Algorithms
• Random Variation Natural Selection
• Option Pricing Model
• Why not applied linear algebra????

3
Everyones Favorite Tridiagonal
-2 1
1 -2 1

1
1 -2





4
Everyones Favorite Tridiagonal
-2 1
1 -2 1

1
1 -2
G
G


G
1 (ßn)1/2







5
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
6
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
G G G G G G G
7
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
8
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
9
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
10
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
11
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
12
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
13
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
14
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
15
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
16
?7 G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
O G G G G G G
17
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
18
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
19
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
20
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
21
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
22
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
23
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
24
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
25
?7 G G G G G G
O ?6 G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
O O G G G G G
26
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
27
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
28
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
29
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
30
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
31
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
32
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
33
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O G G G G
O O O G G G G
O O O G G G G
O O O G G G G
34
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O G G G
O O O O G G G
O O O O G G G
35
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O G G G
O O O O G G G
O O O O G G G
36
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O G G G
O O O O G G G
O O O O G G G
37
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O G G G
O O O O G G G
O O O O G G G
38
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O G G G
O O O O G G G
O O O O G G G
39
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O G G G
O O O O G G G
O O O O G G G
40
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O G G G
O O O O G G G
O O O O G G G
41
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O G G
O O O O O G G
42
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O G G
O O O O O G G
43
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O G G
O O O O O G G
44
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O G G
O O O O O G G
45
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O G G
O O O O O G G
46
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O G G
O O O O O G G
47
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O ?2 G
O O O O O O G
48
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O ?2 G
O O O O O O G
49
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O ?2 G
O O O O O O G
50
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O ?2 G
O O O O O O G
51
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O ?2 G
O O O O O O G
52
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O ?2 G
O O O O O O ?1
53
?7 G G G G G G
O ?6 G G G G G
O O ?5 G G G G
O O O ?4 G G G
O O O O ?3 G G
O O O O O ?2 G
O O O O O O ?1
54
Same idea sym matrix to tridiagonal form
G ?6
?6 G ?5
?5 G ?4
?4 G ?3
?3 G ?2
?2 G ?1
?1 G
55
Same idea General beta
G ?6?
?6? G ?5?
?5? G ?4?
?4? G ?3?
?3? G ?2?
?2? G ??
?? G
beta 1 reals 2 complexes 4 quaternions
56
Stochastic Operator Limit



57
Largest Eigenvalue Plots
58
MATLAB

• beta1 n1e9 opts.disp0opts.issym1
• alpha10 kround(alphan(1/3)) cutoff
  parameters
• dsqrt(chi2rnd( beta(n-1(n-k-1))))'
• Hspdiags( d,1,k,k)spdiags(randn(k,1),0,k,k)
• H(HH')/sqrt(4nbeta)
• eigs(H,1,1,opts)

59
Tricks to get O(n9) speedup

• Sparse matrix storage (Only O(n) storage is used)
  
• Tridiagonal Ensemble Formulas (Any beta is
  available due to the tridiagonal ensemble)
• The Lanczos Algorithm for Eigenvalue Computation
  ( This allows the computation of the extreme
  eigenvalue faster than typical general purpose
  eigensolvers.)
• The shift-and-invert accelerator to Lanczos and
  Arnoldi (Since we know the eigenvalues are near
  1, we can accelerate the convergence of the
  largest eigenvalue)
• The ARPACK software package as made available
  seamlessly in MATLAB (The Arnoldi package
  contains state of the art data structures and
  numerical choices.)
• The observation that if k 10n1/3 , then the
  largest eigenvalue is determined numerically by
  the top k k segment of n. (This is an
  interesting mathematical statement related to the
  decay of the Airy function.)

60
Level Densities
61
Open Problems
The distribution for general beta Seems to be
governed by a convection-diffusion equation