Digital Signal Processing: Signals, Systems, and Filters

Table of Contents......Page 11
Preface......Page 21
1.2 Signals......Page 27
1.3 Frequency-Domain Representation......Page 30
1.4 Notation......Page 33
1.5 Signal Processing......Page 34
1.6 Analog Filters......Page 41
1.7 Applications of Analog Filters......Page 42
1.8 Digital Filters......Page 45
1.9.1 Processing of EKG signals......Page 49
1.9.2 Processing of Stock-Exchange Data......Page 50
References......Page 52
2.2 Fourier Series......Page 55
2.2.1 Definition......Page 56
2.2.2 Particular Forms......Page 57
2.2.3 Theorems and Properties......Page 61
2.3 Fourier Transform......Page 72
2.3.1 Derivation......Page 73
2.3.2 Particular Forms......Page 76
2.3.3 Theorems and Properties......Page 83
Problems......Page 99
3.1 Introduction......Page 105
3.2 Definition of z Transform......Page 106
3.3 Convergence Properties......Page 107
3.4 The z Transform as a Laurent Series......Page 109
3.5 Inverse z Transform......Page 111
3.6 Theorems and Properties......Page 112
3.7 Elementary Discrete-Time Signals......Page 121
3.8 z-Transform Inversion Techniques......Page 127
3.8.1 Use of Binomial Series......Page 129
3.8.2 Use of Convolution Theorem......Page 134
3.8.3 Use of Long Division......Page 136
3.8.4 Use of Initial-Value Theorem......Page 139
3.8.5 Use of Partial Fractions......Page 141
3.9.1 Frequency Spectrum......Page 145
3.9.2 Periodicity of Frequency Spectrum......Page 146
3.9.3 Interrelations......Page 150
Problems......Page 152
4.1 Introduction......Page 157
4.2.1 Linearity......Page 158
4.2.2 Time Invariance......Page 160
4.2.3 Causality......Page 162
4.3.2 Recursive Systems......Page 166
4.4 Discrete-Time System Networks......Page 168
4.4.1 Network Analysis......Page 169
4.4.2 Implementation of Discrete-Time Systems......Page 172
4.4.3 Signal Flow-Graph Analysis......Page 173
4.5 Introduction to Time-Domain Analysis......Page 181
4.6 Convolution Summation......Page 189
4.6.1 Graphical Interpretation......Page 192
4.6.2 Alternative Classification......Page 195
4.7 Stability......Page 197
4.8 State-Space Representation......Page 200
4.8.1 Computability......Page 201
4.8.2 Characterization......Page 202
4.8.3 Time-Domain Analysis......Page 210
Problems......Page 212
5.1 Introduction......Page 227
5.2.1 Derivation of H(z) from Difference Equation......Page 228
5.2.2 Derivation of H(z) from System Network......Page 230
5.2.3 Derivation of H(z) from State-Space Characterization......Page 231
5.3.1 Constraint on Poles......Page 233
5.3.2 Constraint on Eigenvalues......Page 237
5.3.3 Stability Criteria......Page 240
5.3.4 Test for Common Factors......Page 241
5.3.5 Schur-Cohn Stability Criterion......Page 242
5.3.6 Schur-Cohn-Fujiwara Stability Criterion......Page 243
5.3.7 Jury-Marden Stability Criterion......Page 245
5.3.8 Lyapunov Stability Criterion......Page 248
5.4 Time-Domain Analysis......Page 249
5.5.1 Steady-State Sinusoidal Response......Page 250
5.5.2 Evaluation of Frequency Response......Page 253
5.5.3 Periodicity of Frequency Response......Page 254
5.5.4 Aliasing......Page 255
5.5.5 Frequency Response of Digital Filters......Page 258
5.6 Transfer Functions for Digital Filters......Page 271
5.6.2 Second-Order Transfer Functions......Page 272
5.7 Amplitude and Delay Distortion......Page 277
Problems......Page 280
6.1 Introduction......Page 287
6.2.1 Impulse Functions......Page 289
6.2.2 Periodic Signals......Page 298
6.2.4 Generalized Functions......Page 300
6.3 Interrelation Between the Fourier Series and the Fourier Transform......Page 304
6.4 Poisson's Summation Formula......Page 310
6.5 Impulse-Modulated Signals......Page 312
6.5.1 Interrelation Between the Fourier and z Transforms......Page 314
6.5.2 Spectral Relationship Between Discrete- and Continuous-Time Signals......Page 316
6.6 The Sampling Theorem......Page 320
6.7 Aliasing......Page 322
6.8 Graphical Representation of Interrelations......Page 323
6.9 Processing of Continuous-Time Signals Using Digital Filters......Page 324
6.10 Practical A/D and D/A Converters......Page 329
Problems......Page 337
7.1 Introduction......Page 347
7.3 Inverse DFT......Page 348
7.4.3 Symmetry......Page 349
7.5 Interrelation Between the DFT and the z Transform......Page 351
7.5.1 Frequency-Domain Sampling Theorem......Page 354
7.6 Interrelation Between the DFT and the CFT......Page 359
7.7 Interrelation Between the DFT and the Fourier Series......Page 361
7.8.1 Continuous-Time Windows......Page 363
7.8.2 Discrete-Time Windows......Page 376
7.8.3 Periodic Discrete-Time Windows......Page 378
7.8.4 Application of Window Technique......Page 380
7.10 Periodic Convolutions......Page 384
7.10.1 Time-Domain Periodic Convolution......Page 385
7.10.2 Frequency-Domain Periodic Convolution......Page 387
7.11.1 Decimation-in-Time Algorithm......Page 388
7.11.2 Decimation-in-Frequency Algorithm......Page 396
7.11.3 Inverse DFT......Page 401
7.12 Application of the FFT Approach to Signal Processing......Page 402
7.12.1 Overlap-and-Add Method......Page 403
7.12.2 Overlap-and-Save Method......Page 406
References......Page 408
Problems......Page 409
8.1 Introduction......Page 415
8.2 Realization......Page 417
8.2.1 Direct Realization......Page 418
8.2.2 Direct Canonic Realization......Page 421
8.2.3 State-Space Realization......Page 423
8.2.4 Lattice Realization......Page 427
8.2.5 Cascade Realization......Page 430
8.2.6 Parallel Realization......Page 433
8.2.7 Transposition......Page 436
8.3.2 Systolic Implementations......Page 438
Problems......Page 443
9.1 Introduction......Page 451
9.2.1 Impulse Response Symmetries......Page 452
9.2.2 Frequency Response......Page 454
9.2.3 Location of Zeros......Page 456
9.3 Design Using the Fourier Series......Page 457
9.4 Use of Window Functions......Page 460
9.4.1 Rectangular Window......Page 461
9.4.2 von Hann and Hamming Windows......Page 463
9.4.3 Blackman Window......Page 465
9.4.4 Dolph-Chebyshev Window......Page 466
9.4.6 Prescribed Filter Specifications......Page 471
9.5 Design Based on Numerical-Analysis Formulas......Page 479
References......Page 484
Problems......Page 485
10.1 Introduction......Page 489
10.2.2 Laplace Transform......Page 491
10.2.4 Time-Domain Response......Page 492
10.2.5 Frequency-Domain Analysis......Page 495
10.2.6 Ideal and Practical Filters......Page 497
10.2.7 Realizability Constraints......Page 500
10.3.1 Derivation......Page 501
10.3.2 Normalized Transfer Function......Page 502
10.3.3 Minimum Filter Order......Page 505
10.4.1 Derivation......Page 507
10.4.2 Zeros of Loss Function......Page 511
10.4.3 Normalized Transfer Function......Page 515
10.4.4 Minimum Filter Order......Page 516
10.5.1 Normalized Transfer Function......Page 519
10.5.2 Minimum Filter Order......Page 520
10.6.1 Fifth-Order Approximation......Page 523
10.6.3 Zeros and Poles of L(–s[sup(2)])......Page 530
10.6.4 Nth-Order Approximation (n Even)......Page 533
10.6.5 Specification Constraint......Page 534
10.6.6 Normalized Transfer Function......Page 535
10.7 Bessel-Thomson Approximation......Page 539
10.8.2 Lowpass-to-Bandpass Transformation......Page 542
References......Page 545
Problems......Page 546
11.1 Introduction......Page 555
11.3 Invariant Impulse-Response Method......Page 556
11.4 Modified Invariant Impulse-Response Method......Page 560
11.5 Matched-z Transformation Method......Page 564
11.6.1 Derivation......Page 567
11.6.2 Mapping Properties of Bilinear Transformation......Page 569
11.6.3 The Warping Effect......Page 571
11.7.1 General Transformation......Page 575
11.7.2 Lowpass-to-Lowpass Transformation......Page 577
11.7.3 Lowpass-to-Bandstop Transformation......Page 578
11.8 Comparison Between Recursive and Nonrecursive Designs......Page 580
References......Page 581
Problems......Page 582
12.1 Introduction......Page 589
12.2 Design Procedure......Page 590
12.3.1 Lowpass and Highpass Filters......Page 591
12.3.2 Bandpass and Bandstop Filters......Page 594
12.3.3 Butterworth Filters......Page 599
12.3.4 Chebyshev Filters......Page 601
12.3.6 Elliptic Filters......Page 602
12.4 Design Using the Formulas and Tables......Page 603
12.5.1 Delay Equalization......Page 612
12.5.2 Zero-Phase Filters......Page 613
Problems......Page 614
13.2 Random Variables......Page 619
13.2.5 Joint Distributions......Page 620
13.2.6 Mean Values and Moments......Page 621
13.3.1 Notation......Page 624
13.4 First- and Second-Order Statistics......Page 625
13.5 Moments and Autocorrelation......Page 628
13.7 Frequency-Domain Representation......Page 630
13.8 Discrete-Time Random Processes......Page 635
13.9 Filtering of Discrete-Time Random Signals......Page 636
Problems......Page 639
14.1 Introduction......Page 643
14.2.1 Binary System......Page 644
14.2.2 Fixed-Point Arithmetic......Page 646
14.2.3 Floating-Point Arithmetic......Page 649
14.2.4 Number Quantization......Page 651
14.3 Coefficient Quantization......Page 653
14.4 Low-Sensitivity Structures......Page 658
14.4.1 Case I......Page 661
14.4.2 Case II......Page 662
14.5 Product Quantization......Page 664
14.6.1 Method A......Page 666
14.6.2 Method B......Page 667
14.6.3 Types of Scaling......Page 669
14.6.4 Application of Scaling......Page 671
14.7 Minimization of Output Roundoff Noise......Page 673
14.8 Application of Error-Spectrum Shaping......Page 677
14.9.1 Quantization Limit Cycles......Page 680
14.9.2 Overflow Limit Cycles......Page 685
14.9.3 Elimination of Quantization Limit Cycles......Page 686
14.9.4 Elimination of Overflow Limit Cycles......Page 691
References......Page 693
Problems......Page 694
15.1 Introduction......Page 699
15.2 Problem Formulation......Page 700
15.2.1 Lowpass and Highpass Filters......Page 701
15.2.2 Bandpass and Bandstop Filters......Page 702
15.2.3 Alternation Theorem......Page 703
15.3 Remez Exchange Algorithm......Page 704
15.3.2 Location of Maxima of the Error Function......Page 705
15.3.3 Computation of |E(ω)| and P[sub(c)](ω)......Page 707
15.3.4 Rejection of Superfluous Potential Extremals......Page 708
15.4.1 Selective Step-by-Step Search......Page 709
15.4.2 Cubic Interpolation......Page 713
15.4.4 Improved Formulation......Page 715
15.5 Efficient Remez Exchange Algorithm......Page 717
15.6 Gradient Information......Page 720
15.6.3 Property 3......Page 721
15.6.5 Property 5......Page 722
15.7 Prescribed Specifications......Page 726
15.8.1 Antisymmetrical Impulse Response and Odd Filter Length......Page 729
15.8.2 Even Filter Length......Page 731
15.9.1 Problem Formulation......Page 733
15.9.3 Prescribed Specifications......Page 734
15.11 Multiband Filters......Page 738
References......Page 741
Problems......Page 742
16.1 Introduction......Page 745
16.2 Problem Formulation......Page 746
16.3 Newton's Method......Page 748
16.4.1 Basic Quasi-Newton Algorithm......Page 752
16.4.2 Updating Formulas for Matrix S[sub(k+1)]......Page 755
16.4.3 Inexact Line Searches......Page 756
16.4.4 Practical Quasi-Newton Algorithm......Page 760
16.5 Minimax Algorithms......Page 764
16.6 Improved Minimax Algorithms......Page 767
16.7.1 Objective Function......Page 771
16.7.4 Minimum Filter Order......Page 772
16.7.5 Use of Weighting......Page 773
16.8 Design of Recursive Delay Equalizers......Page 779
Additional References......Page 792
Problems......Page 793
17.1 Introduction......Page 799
17.2 Sensitivity Considerations......Page 800
17.3 Wave Network Characterization......Page 801
17.4 Element Realizations......Page 803
17.4.1 Impedances......Page 804
17.4.2 Voltage Sources......Page 805
17.4.3 Series Wire Interconnection......Page 806
17.4.4 Parallel Wire Interconnection......Page 808
17.4.5 2-Port Adaptors......Page 809
17.4.6 Transformers......Page 810
17.4.7 Unit Elements......Page 812
17.4.9 Resonant Circuits......Page 814
17.5.1 Analysis......Page 817
17.5.2 Alternative Lattice Configuration......Page 818
17.5.3 Digital Realization......Page 822
17.6 Ladder Wave Digital Filters......Page 824
17.7 Filters Satisfying Prescribed Specifications......Page 828
17.8 Frequency-Domain Analysis......Page 831
17.9 Scaling......Page 833
17.10 Elimination of Limit-Cycle Oscillations......Page 834
17.11 Related Synthesis Methods......Page 836
17.12.2 Analog G-CGIC Configuration......Page 837
17.12.3 Digital G-CGIC Configuration......Page 838
17.12.4 Cascade Synthesis......Page 840
17.12.5 Signal Scaling......Page 843
17.12.6 Output Noise......Page 844
17.13 Choice of Structure......Page 845
References......Page 846
Problems......Page 848
18.1 Introduction......Page 855
18.2.1 Decimators......Page 856
18.2.2 Interpolators......Page 859
18.3 Quadrature-Mirror-Image Filter Banks......Page 865
18.3.1 Operation......Page 866
18.3.2 Elimination of Aliasing Errors......Page 870
18.3.3 Design Considerations......Page 872
18.3.4 Perfect Reconstruction......Page 875
18.4 Hilbert Transformers......Page 877
18.4.1 Design of Hilbert Transformers......Page 880
18.4.2 Single-Sideband Modulation......Page 885
18.4.3 Sampling of Bandpassed Signals......Page 887
18.5 Adaptive Digital Filters......Page 888
18.5.1 Wiener Filters......Page 891
18.5.3 Steepest-Descent Algorithm......Page 893
18.5.4 Least-Mean-Square Algorithm......Page 896
18.5.5 Recursive Filters......Page 897
18.5.6 Applications......Page 898
18.6 Two-Dimensional Digital Filters......Page 900
18.6.3 Two-Dimensional Transfer Function......Page 901
18.6.4 Stability......Page 902
18.6.5 Frequency-Domain Analysis......Page 903
18.6.6 Types of 2-D Filters......Page 906
18.6.8 Applications......Page 907
References......Page 908
Problems......Page 910
A.1 Introduction......Page 917
A.2 Complex Numbers......Page 918
A.2.2 De Moivre's Theorem......Page 920
A.2.3 Euler's Formula......Page 921
A.2.4 Exponential Form......Page 922
A.2.5 Vector Representation......Page 923
A.2.6 Spherical Representation......Page 924
A.3.1 Polynomials......Page 925
A.3.3 Trigonometric Functions and Their Inverses......Page 926
A.3.4 Hyperbolic Functions and Their Inverses......Page 927
A.3.5 Multi-Valued Functions......Page 928
A.3.6 Periodic Functions......Page 930
A.3.7 Rational Algebraic Functions......Page 931
A.4.1 Limit......Page 932
A.4.3 Analyticity......Page 933
A.4.5 Singularities......Page 934
A.4.6 Zero-Pole Plots......Page 936
A.5 Series......Page 937
A.6 Laurent Theorem......Page 941
A.7 Residue Theorem......Page 945
A.8 Analytic Continuation......Page 946
A.9 Conformal Transformations......Page 947
References......Page 950
B.2 Elliptic Integral of the First Kind......Page 951
B.3 Elliptic Functions......Page 953
B.4 Imaginary Argument......Page 956
B.6 Periodicity......Page 958
B.7 Transformation......Page 960
B.8 Series Representation......Page 962
References......Page 963
A......Page 965
B......Page 967
C......Page 968
D......Page 971
E......Page 973
F......Page 974
G......Page 975
I......Page 976
L......Page 977
M......Page 978
N......Page 979
O......Page 981
P......Page 982
Q......Page 983
R......Page 984
S......Page 986
T......Page 988
W......Page 990
Z......Page 991