An Introduction to Statistical

Title page......Page 1
Contents......Page 7
Preface......Page 11
Glossary......Page 15
1. Introduction......Page 17
Organization of the Book......Page 22
2. Probability......Page 27
2.2 Flipping Coins......Page 31
2.3 Probability Spaces......Page 39
2.4 Discrete Probability Spaces......Page 61
2.5 Continuous Probability Spaces......Page 72
2.6 Independence......Page 86
2.7 Conditional Probability......Page 87
2.8 Exercises......Page 91
3. Random variables, processes......Page 101
3.2 Random Variables......Page 111
3.3 Distributions......Page 120
3.4 Random Processes......Page 131
3.5 Vector Distributions......Page 133
3.6 Independent Variables......Page 143
3.7 Conditional Distributions......Page 145
3.8 Statistical Detection......Page 150
3.9 Additive Noise......Page 153
3.10 Binary Detection......Page 160
3.11 Statistical Estimation......Page 162
3.12 Characteristic Functions......Page 163
3.13 Gaussian Vectors......Page 168
3.14 Example Random Processes......Page 170
3.15 Directly Given Processes......Page 173
3.16 Discrete Markov Processes......Page 175
3.17 *Conditional Probability......Page 184
3.18 Exercises......Page 186
4. Expectation and Averages......Page 203
4.2 Expectation......Page 206
4.4 Properties of Expectatin......Page 216
4.5.1 Correlation......Page 219
4.5.2 Covariance......Page 221
4.5.3 Covariance Matrices......Page 222
4.6 Conditional Expectation......Page 226
4.7 *Jointly Gaussian Vectors......Page 229
4.8 Expectation as Estimation......Page 232
4.9 *Implications for Estimation......Page 238
4.10 Correlation and Linear Estimation......Page 240
4.11 Correlation and Covariance......Page 247
4.12 *Central Limit Theorem......Page 251
4.13 Sample Averages......Page 253
4.14 Convergence of Random Variables......Page 255
4.15 Weak Law of Large No.s......Page 260
4.16 *Strong Law of Large No.s......Page 262
4.17 Stationarity......Page 267
4.18 Asymptotically Uncorrelation Processes......Page 272
4.19 Exercises......Page 275
5. Second-Order Moments......Page 297
5.1 Linear Filtering......Page 298
5.2 I/O Relations......Page 300
5.3 Power Spectral Densities......Page 305
5.4 Filtered Uncorrelated Processes......Page 308
5.5 Linear Modulation......Page 314
5.6 White Noise......Page 317
5.7 *Time Averages......Page 321
5.8 *Differentiating Random Processes......Page 325
5.9 *Linear Estimation, Filtering......Page 328
5.10 Exercises......Page 342
6. Menagerie of Processes......Page 359
6.1 Discrete Time Models......Page 360
6.2 Sums of IID Random Vars......Page 364
6.3 Stationary Increments......Page 366
6.4 *Moments of ISI Processes......Page 369
6.5 Continuous Time ISI Processes......Page 371
6.6 Moving-Average Processes......Page 374
6.7 Gauss-Markov Process......Page 376
6.9 *Poisson Counting Process......Page 377
6.10 Compound Processes......Page 380
6.11 *Exponential Modulation......Page 382
6.12 *Thermal Noise......Page 387
6.13 Ergodicity......Page 389
6.14 Exercises......Page 393
A: Set Theory, Mappings......Page 405
B: Sums and Integrals......Page 433
C: Common Distributions......Page 443
D: Supplementary Readings......Page 445
Bibliography......Page 451
A, B, C......Page 455
D, E......Page 456
F, G, H, I, J......Page 457
K, L, M, N, O, P......Page 458
Q, R, S......Page 459
T, U, V, W......Page 460