CUDA w przykładach. Wprowadzenie do ogólnego programowania procesorów GPU

Contents......Page 8
Foreword......Page 14
Preface......Page 16
Acknowledgments......Page 18
About the Authors......Page 20
1 WHY CUDA? WHY NOW?......Page 22
1.2.1 Central Processing Units......Page 23
1.3.1 A Brief History of GPUs......Page 25
1.3.2 Early GPU Computing......Page 26
1.4 CUDA......Page 27
1.4.2 Using the CUDA Architecture......Page 28
1.5.1 Medical Imaging......Page 29
1.5.2 Computational Fluid Dynamics......Page 30
1.5.3 Environmental Science......Page 31
1.6 Chapter Review......Page 32
2 GETTING STARTED......Page 34
2.2.1 CUDA-Enabled Graphics Processors......Page 35
2.2.3 CUDA Development Toolkit......Page 37
2.2.4 Standard C Compiler......Page 39
2.3 Chapter Review......Page 40
3 INTRODUCTION TO CUDA C......Page 42
3.2.1 Hello, World!......Page 43
3.2.2 A Kernel Call......Page 44
3.2.3 Passing Parameters......Page 45
3.3 Querying Devices......Page 48
3.4 Using Device Properties......Page 54
3.5 Chapter Review......Page 56
4 PARALLEL PROGRAMMING IN CUDA C......Page 58
4.2.1 Summing Vectors......Page 59
4.2.2 A Fun Example......Page 67
4.3 Chapter Review......Page 78
5 THREAD COOPERAION......Page 80
5.2.1 Vector Sums: Redux......Page 81
5.2.2 GPU Ripple Using Threads......Page 90
5.3 Shared Memory and Synchronization......Page 96
5.3.1 Dot Product......Page 97
5.3.1 Dot Product Optimized (Incorrectly)......Page 108
5.3.2 Shared Memory Bitmap......Page 111
5.4 Chapter Review......Page 115
6 CONSTANT MEMORY AND EVENTS......Page 116
6.2.1 Ray Tracing Introduction......Page 117
6.2.2 Ray Tracing on the GPU......Page 119
6.2.3 Ray Tracing with Constant Memory......Page 125
6.2.4 Performance with Constant Memory......Page 127
6.3 Measuring Performance with Events......Page 129
6.3.1 Measuring Ray Tracer Performance......Page 131
6.4 Chapter Review......Page 135
7 TEXTURE MEMORY......Page 136
7.2 Texture Memory Overview......Page 137
7.3.1 simple Heating Model......Page 138
7.3.2 Computing temperature Updates......Page 140
7.3.3 Animating the simulation......Page 142
7.3.4 Using texture Memory......Page 146
7.3.5 Using two-Dimensional texture Memory......Page 152
7.4 Chapter Review......Page 158
8 GRAPHICS INTEROPERABILITY......Page 160
8.2 Graphics Interoperation......Page 161
8.3 GPU Ripple with Graphics Interoperability......Page 168
8.3.1 the GPUAnimBitmap structure......Page 169
8.3.2 GPU Ripple Redux......Page 173
8.4 Heat transfer with Graphics Interop......Page 175
8.5 DirectX Interoperability......Page 181
8.6 Chapter Review......Page 182
9 ATOMICS......Page 184
9.2.1 the Compute Capability of NVIDIA GPUs......Page 185
9.2.2 Compiling for a Minimum Compute Capability......Page 188
9.3 Atomic operations overview......Page 189
9.4 Computing Histograms......Page 191
9.4.1 CPU Histogram Computation......Page 192
9.4.2 GPU Histogram Computation......Page 194
9.5 Chapter Review......Page 204
10 STREAMS......Page 206
10.2 Page-Locked Host Memory......Page 207
10.4 Using a Single CUDA Stream......Page 213
10.5 Using Multiple CUDA Streams......Page 219
10.6 GPU Work Scheduling......Page 226
10.7 Using Multiple CUDA Streams Effectively......Page 229
10.8 Chapter Review......Page 232
11 CUDA C ON MULTIPLE GPUS......Page 234
11.2.1 Zero-Copy Dot Product......Page 235
11.2.2 Zero-Copy Performance......Page 243
11.3 Using Multiple GPUs......Page 245
11.4 Portable Pinned Memory......Page 251
11.5 Chapter Review......Page 256
12 THE FINAL COUNTDOWN......Page 258
12.2.1 CUDA Toolkit......Page 259
12.2.3 CUBLAS......Page 260
12.2.4 NVIDIA GPU Computing SDK......Page 261
12.2.6 Debugging CUDA C......Page 262
12.2.7 CUDA Visual Profiler......Page 264
12.3.1 Programming Massively Parallel Processors: A Hands-on Approach......Page 265
12.3.2 CUDA U......Page 266
12.4 Code Resources......Page 267
12.4.3 Language Wrappers......Page 268
12.5 Chapter Review......Page 269
A: ADVANCED ATOMICS......Page 270
A.1 Dot Product Revisited......Page 271
A.1.1 Atomic Locks......Page 272
A.1.2 Dot Product Redux: Atomic Locks......Page 275
A.2 Implementing a Hash table......Page 279
A.2.1 Hash table overview......Page 280
A.2.2 A CPU Hash table......Page 282
A.2.3 Multithreaded Hash table......Page 288
A.2.4 A GPU Hash table......Page 289
A.2.5 Hash table Performance......Page 297
A.3 Appendix Review......Page 298
B......Page 300
C......Page 301
D......Page 304
G......Page 305
H......Page 306
K......Page 307
O......Page 308
R......Page 309
T......Page 310
Z......Page 311