An Introduction to Parallel Programming

Cover......Page 1
Foreword......Page 6
Contents......Page 7
1.1 Goal......Page 10
1.3 Example Program......Page 11
2.1 Single Instruction - Single Data (SISD)......Page 12
2.3 Multiple Instruction - Multiple Data (MIMD)......Page 14
2.4 Shared Memory......Page 15
2.5 DistributedMemory......Page 16
2.6 ccNUMA......Page 17
2.7 Cluster......Page 18
2.8 Multiple Instruction - Single Data (MISD)......Page 19
2.9.3 AMD Athlon 64 X2 & Opteron......Page 20
2.9.7 Cray XT3......Page 21
2.9.8 SGI Altix 3700......Page 22
3.1.2 Intel Fortran......Page 24
3.1.3 gfortran......Page 25
3.2.3 Intel MKL......Page 26
3.2.5 Goto BLAS......Page 27
3.3 MPI......Page 28
3.3.3 MVAPICH......Page 29
3.5 ScaLAPACK......Page 30
4.1 Timing......Page 32
4.3 Measuring Performance......Page 33
5.1 Spherical harmonic analysis......Page 36
5.2.1 Description......Page 38
5.2.3 Program analysis......Page 39
5.2.4 Parallelisation with OpenMP......Page 40
5.2.5 Parallelisation with MPI and ScaLAPACK......Page 42
5.3.1 Description......Page 49
5.3.3 Program analysis......Page 51
5.3.4 Parallelisation with OpenMP......Page 52
5.3.5 Parallelisation with MPI......Page 55
5.4 Conclusions......Page 57
Bibliography......Page 60
Index......Page 62
Cover......Page 63