??? ? ?? ???? ??(PE)?? ??? ?? ???(CU)? ?? ?? ????? ??. ?? ?? ?? ???? ??

1
?2?. ????? ?? ???? ??

• 2.1 ??? ??
• 2.2 ???? ??
• 2.3 ??????? ??

2
2.1 ??? ??

• 2.1.1 ?? ???? ??
• ??? ? ?? ???? ??(PE)?? ??? ?? ???(CU)? ?? ??
  ????? ??. ?? ?? ?? ???? ??
• PE (processing element)
• ALU? ?????? ???? ??? ??? ??
• CU (control unit)
• ???? ????, ??? ??? PE?? ???? ??
• ??? ??? (host computer)
• ????? ?????, CU? download??? ?? ?? ???

3
?? ????? ?? ??
4
PE? ?? ??

• ?? ?????
• Ri ?? ????
• Ai ?? ????
• Ii ??? ????
• Ti ??? ?? ????
• Fi ??? ???? 1 PE? ?? ? ?? 0 PE?
  ?? ??
• ALU

5
?? ????? ?? ??
6
????? (Interconnection Networks)

• ?? ????(Static network)
• ?? ??? ??
• 1?? ???? ??
• 2?? ???? ??, ??, ??, ??,???? ??
• 3?? ???? ?? ??, ?? ??, ??
• ?? ????(Dynamic network)
• ?? ?? ?? ?? ?? ?? ??
• ?? MIMD ???? ??

7
?? ???? ????
8
2.1.2 ????????? ??

• ??-???? ??? (shared-memory system)
• ??? ?? (tightly-coupled system)
• ?????? ?? ?????? ?? ??
• ??-???? ??? (distributed-memory system)
• ??? ??? (loosely-coupled system)
• ? ????? ????? ???? ??, ??? ?? ????(local memory)?
  ??? ??
• ???? ????? ?? ?????, ??-??????(multiple-computer
  system)??? ??

9
(1) ??-???? ??? ??

• ??
• ?? ????? ?? ????? ?? ? ??? ????? ?? ????? ???
• ????? ??????? ?? ??? ?? ? ???? ???? ??? ?
  ??? ?? ??
• ??
• ????? ??(?? ?????)? ??? ?? ? ???? ?? ?? ??
• ????(????, I/O ??)? ?? ??
• ? ?????? ???, ?? ????? ??, ???? ????

10
??-???? ???? ???? ??

• ??(bus)
• ???? ???(crossbar switch)
• ??? ?????(multistage interconnection network)

11
??-?? ?????????? ??
12
?? ?? (??)

• ?? ?? ??? ?? ??
• ?? ?? ???? ?? ?? ??
• ???? ????
• ?? ?? ?? ??
• ?? ???? ?? ? ?? ??? ?? ??
• ?? ? ?? ??-?? ???(multiple-bus system)
• UMA ??

13
???? ??? ?? ?????????? ??

• NUMA ??

14
???? ???? ??? ??? ??

• ?????? ????? ??? ?? ???(full connectivity)? ??
• ?? H/W ?? ? ?? ??
• ???? ? N ? N2 ?? ???? ??? ??

15
??? ?????

• MIN Multistage Interconnection Network
• ??? ???? ???? ?? ??? H/W ???? ??
• ? Multistage Cube Network

16
??? ????? (??)

• ??? ? ???? ?? ?? N? ?,
• ??? ??(stage)? ?, m log2N
• ? ??? ??? ?? ?, s N/2
• ?? ???

17
(2) ??-???? ??? ??

• ??? MIMD ???(loosely-coupled MIMD system)
• ?????? ??? ????? ??? ??? ?? ??
• ??-?????????? ??
• ???
• ?? ? ????? ????? ???? ?? ????? ?????, ????? ???
  ??
• ?? ??? ??(message-passing) ??? ???? ???, ?? ??
  ??
• ?????? ? ?????(hypercube)

18
?????? ?? ??
19
2.2 ???? ??

• ??????? ???? ????? ???(complexity)? ???? ??? ??,
  ? granularity? ?? ??
• ?? ??(grain)? ??? ???? ??? ??
• ? ??? ??? ?? ?? ? ??? ??? ???? ??
• ?? ??? ??? ??? ?? ? ?? ??? ??? ???? ??

20
??? ??? ?? ???? ??? ??

• ??? ??? ?? ???? ??
• ??-??? ???(fine-grain parallelism)
• ??-??? ???(medium-grain parallelism)
• ?-??? ???(coarse-grain parallelism)

21
?? ??? ????? ?? ???? ??

• ????? ?? ?? ??? ??
• ???? ????? ? ??, ???? ???, ?? ??-?? ?? ??
• ??? ???? ?? ??
• ?? ????? ??? ?? ? ?? ????? ??
• ?? ??? ???? ??? ???? ?
• Thinking Machine?? CM-1
• 4?? ?? ???? ???, ??? ? 1024?? ???? ??? ??
• ? ???? ??? 16?? PE?, ???? ? ??? ??? ??
• ?? PE ? 64K (65,536) ?
• MIT? J-machine, STARAN ???, MPP, ?

22
CM-1? ??? ??
23
CM-1? ???? ??
24
? ??? ????? ?? ???? ??

• ?? ??? ??? ?? ?? ??? ????? ?? ?? ???? ??? ??
  ?? ?? ??
• ?? ?? ??? ?? ????? ALU ??
• ?? ?? ?? ??? ?????? ??? ????? ??
• 20? ??? ??? ?????? ??
• CRAY Y-MP 16?? CRAY-1?? ??

25
CRAY-1? ?? ??
26
?? ??? ????? ?? ???? ??

• ?? ? ? ???? ?? ????, ?? ?? ??? ?? ??, ??
  ???(multi -user) ???? ? ??(job)?? ????(process)
  ??? ????
• CPU 32-?? ?? 64-?? ???????? ??
• ?? ?? ?? ?? ?????? ???? ??????????? ??
• ?? ?? ?????? ?? ??? ????(MPP) ??? ??
• ?? ??? SGI Origin ???, HP 9000 SuperDome,
  Intel iPSC ???, ?

27
2.2.2 ?????, VLIW, ???????

• ???? ?? ??? ??? ? ??? ?? ??? ? ??? ??? ??? ?? ??
• ???? ???
• ????? (superscalar)
• VLIW(Very Long Instruction Word)
• ???????(superpipeline)

28
(1) ????? (superscalar)

• ???? ?? ?????? ?? ???? ?? ? ?????, ? ??? ?? ? ?
  ??? ????? ??? ???? ?? ??

29
????? (??)

• ?? ??? ?? ?? ??? ???? ???? ?? ??? ???(data
  dependency)? ???? ??? ??
• ?? ?? (?, k ?? ?, N ??? ?)
• m ?????? ??(degree of superscalar) ??
  ???? ?
• m 1 ? ??, ??? N?? ?? ?? T(1, 1) k N
  1
• m m ? ??, ??? N?? ?? ?? T(m, 1) k (N
  - m) / m
• N ? 8, ??? ?? ???? ?? ??? ?? ???? ? m? ??
• ?? ?????? ??? ????? ??? ???, m 68? ???? ??

30
??? ????? ????? ??
31
(2) VLIW (Very Long Instruction Word)

• ??? ?? ??? ????(???)? ??? ? ???? ???(??)?? ??
  ???? ??

32
VLIW ????? ?? ???
33
VLIW (??)

• ??? ??? ?? ???? ? ?? (?? ?? ???) ???? ?? ?? ?? ?
  ???? ??? ??
• ??????? ???
• ??? ??? ??? ??? ???? ??? ??? ??? ??? ??? ??
  ?????, ? ??? ?? ???? ?? ?? ???(ALU)?? ???? ???
  ????? ?
• ? TRACE-7 ??? 7?? ?? ???, 256-??
  ???TRACE-28 ??? 28?? ?? ???, 1024-?? ???

34
(3) ??????? (superpipeline)

• ?????? ?? ??? ??(clock cycle time)? ??? ??
• ????????? ??(degree of superpipeline) n? ??
  ???? ?? ??? ?? 1/n
• ? n 2? ??? ???? ?? ???

35
??????? (??)

• ?? ?? (?, k ?? ?, N ??? ?)
• n ????????? ?? ?? ???? ???
• n 1 ? ??, ??? N?? ?? ?? T(1, 1) k N
  1
• n n ? ??, ??? N?? ?? ?? T(1, n) k
  (1/n) (N -1)
• N ? 8, ??? ?? ???? ?? ?? ??? n? ??
• ? CDC 7600, CRAY-1? ?? ?? ??? n 3

36
Superpipelined Superscalar ??

• ???????? ?????? ??? ??
• N ? 8 , ?? ?? Sp mn?

37
?? ???? ??? ???

• ????? ? VLIW
• ?? ?? ??? ??? ?? ???? ?? ??, ? ???-???
  ???(instruction-level parallelism)? ?? ??? ????
  ???? ???, ???? ??? ??? ?? ???
• ??????? ??
• ??? ???? ???? ??? ????? ??? ? ??? ?

38
2.3 ???? ??? ??

• ????? ?? ????????? ?? ?? ??
• ????? ????? ??? ??? ??? ??
• ???? ??(memory conflict)? ?? ?? ??-???? ??? ??
  ??????? ?? ?? ?????? ??? ?? ???? ??? ????? ??
• ? ?? ????(cache memory) ? ???? ????(memory
  interleaving) ??? ???? ?? ??

39
2.3.1 ?? ????

• ????? ??????? ?? ??? ???? ????? ?? ??? ??? ????
  ????? ????? ??? ????? ?? ??? ????
• ?? ?? gt ????? gt ??????
• ?? ?? gt ????? gt ??????
• ?? ?? lt ????? lt ??????

40
?? ???? ??? ??

• ?? ??(cache hit)
• ????? ??? ???? ?? ?? ?? ?
• ???(hit ratio) h
• ????? ???? ???(locality)? ?? ??
• ?? ??(cache miss)
• ????? ??? ???? ??? ?? ?
• ??? (1-h)
• ?? ???? ??? ??
• ?, tc ?? ??? ??, tm ????? ??? ??

41
??? ?? ?? ??

• ?? ???? ???
• ?? ??? ??? ???
• ?? ??? ?? ????? ???
• ?????? ???? ??? ??? ?? ? ?? ?? ????? ???

42
?? ??? ?? ?? ???

• (1) ??? ?? (cache size)
• ?? ?? ? ??? ??, ?? ??
• ?? ??? ?? 1 128 Kword
• (2) ?? ?? (fetch algorithm)
• ?? ?? (demand fetch)
• ??? (prefetch)
• ??? ??? ??? ? ??? ??? ?? ???? ?? ??
• ???? ?? ??? ???
• ?? ??? ?? 4 8 word

43
?? ??? ?? ?? ??? (??)

• (3) ?? ?? (mapping method)
• ?? ?? (direct mapping)
• ??
• ??? ??? ?? ???? ??? ??? ? ??? ?? ???? ??
• ?? ?? ?? (fully associative mapping)
• ?? ???(flexibility)
• ?? ?? ???? ?? ???? ?? ???? ?? ??? ?? ??
• ?? ?? ?? (set associative mapping)
• ??? ??? ?? ???? ??? ?? ??
• ?? ?? ?? 2-way, 4-way

44
?? ??? ?? ?? ??? (??)

• (4) ?? ?? (replacement algorithm)
• LRU (Least Recently Used) ? ?? ?? ???
• FIFO (First In First Out) ?? ??(circular
  buffer)
• LFU (Least Frequently Used) ???(counter)
• Random

45
?? ??? ?? ?? ??? (??)

• (5) ?? ?? (write policy)
• Write through ???? ??? ???? ??????? ??
• ???? ??? ??? ???? ?? ??? ??
• Write back ??? ??? ????? ????
• ?????? ?? ???? ?? ? ??? ?? ??? ??? ??

46
?? ??? ?? ?? ??? (??)

• ???????????? ??? ??? ??(data consistency problem)
  --- 4.4? ??

47
(6) ?? ??(multiple cache)

• ??? ??(hierarchical cache) 2-?? ?? 3-?? ?? (1?
  ??, 2? ??, 3? ??)? ????? ???? L1 lt L2 lt L3 lt M
• ?-? ??(on-chip cache) CPU ? ??? ???? ????, ???
  ??? ?? ??

48
?? ??? ??? ?? (2003? ??)

• ? ??? IV- ?-? (L1) ??? ?? 1 ns- ?-? (L1)
  ??? ?? 2 ns- L2 ?? 3.5 ns
• ? ?????- L1 ?-? ?? 2 ns- L2 ?-? ?? 6
  ns- L3 (??) ?? 21 ns

49
?? ?? (??)

• ??? ??? ?? ???????? ??? ?? L1 1? ??, L2 2?
  ?? H1 L1 ????, H2 L2 ? ??? TL1 L1? ???
  ??, TL2 L2? ??? ??, Tm ?????? ??? ???? ?
  ?,?? ???? ??? ?? Ta H1 x TL1 (H2 - H1) x
  TL2 (1 - H2) x Tm
• ?? 2-2 ??

50
?? ?? (??)

• ?? ??(split cache) 1? ??? ??? ??(instruction
  cache)? ??? ??(data cache)? ??
• ? PowerPC 620 ????

51
?? ?? (??)

• 3-?? ??? ? ?????(Itanium) ????

52
2.3.2 ???? ???? (memory interleaving)

• ??-???? ????? ???? ??? ?? ?? ??? ????? ?? ??
• ????? ?? ?? ???? ??? ???, ???? ??? ??? ??????,
  ????? ??? ???? ?? ????? ???? ???? ?? ????? ? ? ??
  ??? ??
• (1) ?? ??
• ?? ???? (high-order interleaving)
• ?? ???? (low-order interleaving)
• ?? ???? (high-low-order interleaving)

53
(?) ?? ????

• ???? ??? ???? ????? ???? ??
• ?? ??
• ???? ??? ?? ??? ?? ?? ??? ??
• ???? ??? ?? ??? ??? ?? ??? ??? ??

54
?? ????? ?

• 4 KByte ???? 1 Kbyte ???? ?? 4 ????
• ???? ?? 12 ??

55
(?) ?? ????

• ???? ??? ???? ?????? ???? ??
• ?? ??
• ???? ??? ?? ??? ?? ?? ??? ??
• ???? ??? ?? ??? ??? ?? ??? ??? ??

56
?? ????? ?

• 1 Kbyte x 4, ???? ?? 12??

57
(?) ?? ????

• ???? ??(memory bank) ?? ??? ??? ?? ????, ?? ??
  ??? ?? ?????? ?????? ??
• ???? ?? ???? ???? ????? ??

58
?? ????? ?

• 1 Kbyte x 4, ???? ?? 12??, ???? ?? 2 ?

59
(2) C-??? ? S-???

• C-???(Concurrent access) ? ???? ???? ??? ????
  ??? ??? ??
• ??? ?? T Ta (M x tb)
• Ta ???? ??? ??, tb ?? ??? ??, M ???? ??? ?

60
C-??? ? S-??? (??)

• S-???(Simultaneous access) ?? ???? ???? ???
  ???? ???? ??? ??? ????, ?? ????? ??? ??? ???
  ????, ??? ? ????? ????? ???? ??
• ???? ?? ??? ??? ??? ????? ???? ??
• ??? ??? C-???? ??
• ?? ?? ??? ??, ??? ?? ?? (burst ?? ??)

61
S-??? ???? ???? ??
62
S-???? ?????

• ??? ?? T Ta (M x tb)