- 若内积空间中两向量的内积为0,则称它们是正交的。如果能够定义向量间的夹角,则正交可以直观地理解为垂直。
- 在线性代数中,一个内积空间的正交基(orthogonal basis)是元素两两正交的基。称基中的元素为基向量。假若,一个正交基的基向量的模长都是单位长度1,则称这正交基为标准正交基或"规范正交基"(Orthonormal basis)。
内积空间
内积空间(inner product space)是增添了某种运算的向量空间,这种运算叫作内积,它推广了原来欧几里德空间的点积,而从比较一般的角度看待向量的“夹角”、“长度”还有正交性。
下文中 F 有可能是实数系 R 或复数系 C。
V 是一個定義在域 (F,+,×) 上的向量空间,其向量加法記為「 ⊕ 」,且其标量乘法記為「 ⋅ 」。若它裝配了一個二元函数 f:V×V→F 滿足:(以下將 f(v,w) 簡寫為 ⟨v,w⟩ )
- 共轭对称:∀v,w∈V,有⟨v,w⟩=⟨w,v⟩
- 线性:∀a,v,w∈V,有⟨v⊕w,a⟩=⟨v,a⟩+⟨w,a⟩,同时∀v,w∈V,∀λ∈F,有⟨λ⋅v,w⟩=λ×⟨v,w⟩
- 非负性:∀v∈V,有⟨v,v⟩≥0
- 非退化:∀v∈V,有(v=0V)⇔(⟨v,v⟩=0)
在实数域下,有区间[a,b]上的函数f(x),g(x),则定义函数f(x)与函数g(x)的内积为:
⟨f(x),g(x)⟩=∫abf(x)g(x)dx
在复数域下,区间[a,b]上的函数f(x)和g(x)的内积为:
⟨f(x),g(x)⟩=∫abf(x)g(x)dx
其中g(x)为函数g(x)的共轭函数。
在常见的平面空间中,它的一组正交基可以是{(0,1),(1,0)},也可以是其它一组标准正交基{ex,ey}。
设一个向量v在{(0,1),(1,0)}正交基下,它的坐标是(λx,λy),这个坐标的每一个元素都可以看作是向量v在对应基向量上的投影:
λxλy=⟨v,(1,0)⟩=⟨v,(0,1)⟩
对应的在另一组标准正交基{ex,ey}下,向量v的坐标也可以同样的方式得出:
λex=⟨v,ex⟩λey=⟨v,ey⟩
因此,对于一组标准正交基{ek∣k∈N},向量v的第k个分量在该正交基上的坐标为:
vk=⟨v,ek⟩
从而得到向量v在这组正交基上的坐标为(v0,v1,…,vk,…)。
重要
对于一组非标准的正交基{ψk∣k∈R},要得到向量v在这组正交基上的坐标,需要另外除去正交基的模长:
vk=∥ψk∥2⟨v,ψk⟩=⟨ψk,ψk⟩⟨v,ψk⟩
定义在(−∞,+∞)上的两个可积函数f(x),g(x),它们的卷积按照如下定义:
(f⋆g)(x)=∫−∞∞f(x−ξ)g(ξ)dξ
要定义Lp空间与范数,首先需要构造等价类,然后限制积分收敛,才能得出Lp空间与范数的严格定义。
设测度空间(X,R,μ)中所有可测函数构成集合M,对于f∈M,p∈R+
首先定义等价关系:若f=g在X上几乎处处成立,即,则认为f与g等价,记为f=g a.e.⇔f∼g。
“几乎处处”是严格定义的
设空间(X,R,μ)是一个测度空间,若某个性质在X上除了一个测度为零的集合外均成立,则称该性质几乎处处成立,即存在一个可测集N∈R,满足μ(N)=0,∀x∈X∖N,此时某个性质成立。
其次定义商空间:将可测函数集合M按照等价关系∼划分等价类,记为M/∼。
验证是否保持非退化性:在商空间中,每个等价类要么是零类,要么是非零类。此时∥[f]∥p=0⇔[f]是零类。
然后要求以下积分收敛:
(∫X∣f∣pdμ)1/p<+∞
此时Lp(X)空间定义为:
Lp(X,R,μ)={[f]∈M/∼∥f∥p<+∞}
Lp范数被定义为:
∥f∥p=(∫X∣f∣pdμ)1/p
p→+∞
等价类构造方法同上,当p→+∞时,L∞空间有以下定义:
L∞(X,R,μ)={[f]∈M/∼∥f∥∞<+∞}
同时∥f∥∞有以下定义:
∥f∥∞=inf{M≥0∣f(x)∣≤M a.e.}
即∥f∥∞是函数f的最小上界。
- 若∥f∥∞<+∞,则称函数f本性有界,limp→+∞∥f(x)∥p=∥f∥∞
- 有限测度空间:若μ(X)<+∞,则 L∞(X)⊂Lp(X)对所有p≥1成立。
- 无限测度空间:若μ(X)=+∞,则 L∞(X)与Lp(X)无必然包含关系。
柯西不等式的一般形式:
V 是个复内积空间,则对所有的 v,w∈V 有:
- ∥v∥∥w∥≥∣⟨v,w⟩∣
- ∥v∥∥w∥=∣⟨v,w⟩∣⇔∃λ∈C,使v=λ⋅w
柯西不等式的积分形式:
对平方可积的复值函数,有
∫f(x)g(x)dx2≤∫∣f(x)∣2dx⋅∫∣g(x)∣2dx=∥f∥L22⋅∥g∥L22
这等价于
∫f(x)g(x)dx≤(∫∣f(x)∣2dx)1/2⋅(∫∣g(x)∣2dx)1/2=∥f∥L2⋅∥g∥L2
假设有开集 U⊂Rn,u,v是 U 上局部可积函数。给定多重指标 α,我们称 v 是 u 的 α 阶弱导数,是指对任意 ψ∈Cc∞(U),满足关系式:
∫UuDαϕdx=(−1)∣α∣∫Uvϕdx
我们记 v:=Dαu,有时在不引起混淆的情况下也记为Dαu。其中 ϕ 常称为测试函数(test function),是基本空间D(U)中的元素。
概念解释
- 赋距空间:
设M为集合,如果它装配了函数d:M×M→R,∀x,y,z∈M,满足三个性质: - 同一性:d(x,y)=0⇒x=y
- 对称性:d(x,y)=d(y,x)
- 三角不等式:d(x,z)≤d(x,y)+d(y,z)
则称d是M上的度量或距离函数,称(M,d)为度量空间。
- 开集、闭集、紧集:
- 在度量空间(M,d)中定义开球为:B(a,δ)={p∈Md(a,p)<δ},若U⊆M,∀p∈U,∃δ>0 使得 B(a,δ)⊆U,则称 U 是 M 的一个开集。
- 补集为开集的集合称为闭集。
- 若一个集合同时满足闭集和有界,则它被称为紧集。
注意:闭集不一定有界,如[a,+∞)是闭集,但它无界。
- 局部可积:在数学中,局部可积函数是指在定义域内的所有紧集上都可积的函数。
- 极限点:
在拓扑空间中,给定集合 A,如果点 x 满足以下条件:∀ε>0,(B(x,ϵ)∖x)∩A=∅
其中 B(x,ε) 是以点 x 为中心,半径为 ε 的开邻域。
此时称点 x 是集合 A 的一个极限点(或聚点)。 - 闭包:给定集合 A,其闭包 A 是包含 A 的所有极限点的最小闭集。换句话说,闭包由 A 本身及其所有极限点(即聚点)组成。
- 基本空间:
假设 U⊂Rn是一个开集(可以是全空间),Cc∞(U)表示 U 上所有满足以下条件的函数 f 的全体: - 在 U 的闭包 U 上有定义且连续
- 在 U 上无穷可微
- 具有紧支集,即 ∃Uf⊂U 使得 Uf:={x∈Uff(x)=0} 的闭包 Uf 在 U 中是紧集。
下文关于导函数的变换中,导函数均指本小节的弱导数。
由欧拉公式可得
eikx=cos(kx)+isin(kx):=ψk(x)
断言该空间下的{ψk∣k∈R}是一组正交基,原因如下:
<ψj,ψk>=∫−ππeijx⋅e−ikxdx=∫−ππei(j−k)xdx=⎩⎨⎧2πi(j−k)1[ei(j−k)x]−ππififj=kj=k
注意到ei(j−k)x在−π和π两处的值相同(详见欧拉公式的几何意义),可得i(j−k)1[ei(j−k)x]−ππ=0,即
<ψj,ψk>={2π0ififj=kj=k
故称{ψk∣k∈R}是该空间下的一组正交基。
现在不妨先假设在复数域C上有以2π为周期的函数f(x),有
f(x)=k=−∞∑+∞ckeikx,其中若f(x)为实函数,则ck=c−k。
提示
该公式源自于一个最朴素的想法:将f(x)看作一个无穷维向量,它在不同标准正交基下的坐标不同,而{ψk∣k∈R}下f(x)有对应坐标c=[c0,c1,…,ck,…],因而f(x)可以写成c的分量ck与f(x)和对应正交基向量内积之和的形式,即:
ck=⟨f(x),ψk⟩
进一步地,令x=Tπξ,则有f(Tπξ)=∑k=−∞+∞ckeik⋅Tπξ:=g(ξ)
这样,便得到了新的以2T为周期的f(x),使得下式成立:
f(x)=k=−∞∑+∞ckexpTikπx
实数域下三角形式的傅里叶级数
On building...
由上节得知以2T为周期的f(x)满足:
f(x)=k=−∞∑+∞ckexpTikπx易得 ck=⟨ψk,ψk⟩⟨f(x),ψk⟩=∫−TTψk(x)ψk(x)dx⟨f(x),ψk⟩=2T1⟨f(x),ψk⟩
为了导出积分的形式,我们定义ωk:=Tkπ:=k⋅Δω,Δω=Tπ,这个Δω可看作基频,其它频率ωk是Δω的k倍。
将ck代入f(x)中,得:
f(x)===T→∞时,f(x)=T=Δωπω=kΔω=k=−∞∑+∞2T1⟨f(x),ψk⟩expTikπxk=−∞∑+∞2T1∫−TTf(ξ)⋅ψkdξexpTikπxk=−∞∑+∞2T1∫−TTf(ξ)⋅exp(−Tikπξ)dξexpTikπxT→∞limk=−∞∑+∞2T1∫−TTf(ξ)⋅exp(−Tikπξ)dξexpTikπxΔω→0limk=−∞∑+∞2πΔω∫−π/Δωπ/Δωf(ξ)⋅exp(−ikΔωξ)dξexp(ikΔωx)2π1∫−∞+∞∫−∞+∞f(ξ)e−iωξdξ⋅eiωxdω
观察f(x)=2π1∫−∞+∞∫−∞+∞f(ξ)e−iωξdξ⋅eiωxdω,不难发现,等式右侧中∫−∞+∞f(ξ)e−iωξdξ是一个关于ω的函数,因此可以定义:
f^(ω):=∫−∞+∞f(ξ)e−iωξdξ
那么就有
f(x)=2π1∫−∞+∞f^(ω)eiωxdω
至此我们已经得出了傅立叶变换对:
⎩⎨⎧f^(ω)f(x)=∫−∞+∞f(x)e−iωxdx=2π1∫−∞+∞f^(ω)eiωxdω
f^(ω)是f(x)经过变换后得到的傅立叶系数。
傅立叶级数使用条件
傅立叶级数要求函数具有周期性,对于函数f(x)的不同情况:
- 当函数f(x)满足周期性时(假设以2T为周期),该函数可以直接展开为傅立叶级数。
- 当函数f(x)不满足周期性,但定义在有限区间上时,需要对该函数使用周期延拓、奇延拓或偶延拓等方法进行处理,使得延拓后的函数满足周期性。
注意:这种延拓可能导致延拓后的函数在区间端点处出现不连续性(即使原函数连续),从而引发吉布斯现象(Gibbs phenomenon)。
傅立叶级数还要求函数满足狄利克雷条件:
- 在一个周期内绝对可积:∫−TT∣f(x)∣dx<∞
- 有限个极值点:函数在周期内只有有限个极大值和极小值。
- 有限个第一类间断点:函数在周期内仅有有限个跳跃不连续点。
傅立叶变换使用条件
傅立叶变换要求函数:
- ∀f:Rn→C∈L1(Rn),如果函数f(x)绝对可积,即
∫−∞+∞∣f(x)∣dx<∞
- ∀f:Rn→C∈L2(Rn),如果函数f(x)平方可积,即
∫−∞+∞∣f(x)∣2dx<∞
满足以上条件之一,则可以对该函数使用傅立叶变换。
上一节我们推导出了傅立叶变换对,更常见的写法如下:
⎩⎨⎧F(f(x))F−1(f^(ω))=∫−∞+∞f(x)e−iωxdx=2π1∫−∞+∞f^(ω)eiωxdω
其中F(⋅)是傅立叶变换,F−1(⋅)是它的逆变换。
F(⋅)是一种线性变换,要证明这一点,我们只需要证明它满足可加性和一次齐次性即可:
∀fa,fb∈(L1(Rn)∪L2(Rn)),有:
F(fa+fb)=∫−∞+∞(fa+fb)e−iωxdx=∫−∞+∞fae−iωx+fbe−iωxdx=∫−∞+∞fae−iωxdx+∫−∞+∞fbe−iωxdx=F(fa)+F(fb)
∴F(⋅)满足可加性。
∀f∈(L1(Rn)∪L2(Rn)),∀λ∈R,有:
F(λf)=∫−∞+∞λf⋅e−iωxdx=λ∫−∞+∞f⋅e−iωxdx=λF(f)
∴F(⋅)满足一次齐次性。
综上所述,F(⋅)是一种线性变换。
∀f∈(L1(R)∪L2(R)),f有导函数dxdf∈(L1(R)∪L2(R)),那么有:
F(dxdf)=∫−∞+∞dxdf⋅e−iωxdx=∫−∞+∞e−iωxd[f(x)]=[f(x)e−iωx]−∞+∞−∫−∞+∞f(x)d[e−iωx]=[f(x)e−iωx]−∞+∞+iω∫−∞+∞f(x)⋅e−iωxdx=[f(x)e−iωx]−∞+∞+iωF(f(x))=iωf^(ω)
从中我们得到了傅立叶变换的一个很重要的等式:F(dxdf(x))=iωf^(ω)
[f(x)e−iωx]−∞+∞为什么是0?
[f(x)e−iωx]−∞+∞=0是由条件∀f,dxdf∈(L1(R)∪L2(R))保证的。
[f(x)e−iωx]−∞+∞=x→+∞limf(x)e−iωx−x→−∞limf(x)e−iωx
应当注意到,当x→±∞时,e−iωx是一个有界量,因为eiωx=cos(ωx)+isin(ωx),而且eiωx的模长为1。所以现在需要关注函数f(x)是否无穷小,若f(x)→0成立,则limx→±∞f(x)e−iωx=0成立,那么现在需要分情况讨论:
- f′∈L1(R)时
由牛顿-莱布尼茨公式可知,f(x)=f(0)+∫0xf′(t)dt∵f′∈L1(R)⇒∫−∞+∞∣f′(t)∣dt 收敛∴x→+∞lim∫0xf′(t)dt=C+,x→−∞lim∫0xf′(t)dt=C− (C+, C−∈R)即 x→+∞limf(x)=f(0)+C+,x→−∞limf(x)=f(0)+C−
设 C=f(0)+C+( C=f(0)+C− 同理),则假设 ∣x∣→∞ 时,∣f(x)∣→∣C∣=0∵∀ ε>0,∃ N∈R,当∣x∣>N时,使得0<∣f(x)−C∣<ε对于ε=2∣C∣,有∣f(x)−C∣<2∣C∣由三角不等式得∣f(x)∣≥∣C∣−∣f(x)−C∣>∣C∣−2∣C∣=2∣C∣∴∫−∞+∞∣f(x)∣pdx>∫−∞+∞(2∣C∣)pdx显然∫−∞+∞(2∣C∣)pdx发散,与f∈Lp(R)矛盾。∴C=0 即x→±∞limf(x)=0⇒x→±∞limf(x)e−iωx=0
- f′∈L2(R)时
首先需要讨论函数f的连续性问题,根据牛顿-莱布尼茨公式以及弱导数的定义,可得:f(x)−f(y)=∫yxf′(t)dt
考虑到:−∣f′(t)∣≤f′(t)≤∣f′(t)∣⇒−∫yx∣f′(t)∣dt≤∫yxf′(t)dt≤∫yx∣f′(t)∣dt
那么有f(x)−f(y)=∫yxf′(t)dt≤∫yx∣f′(t)∣dt
对∫yx∣f′(t)∣dt使用柯西-施瓦茨不等式可得:∫yx∣f′(t)∣dt≤(∫yx12dt)1/2⋅(∫yx∣f′(t)∣2dt)1/2=∣x−y∣⋅∥f′∥L2
根据 Ho¨lder 连续条件:∣f(x)−f(y)∣≤C∣x−y∣α,α=21,C=∥f′∥L2
可知函数f是 Ho¨lder 连续的。
断言 Ho¨lder 连续必一致连续,因为:
假设函数f满足 Ho¨lder 条件,但不一致连续,则∃ε>0,∀δ>0 使得∀n∈N,∃xn,yn∈Df,使得 ∣xn−yn∣<δ,∣f(xn)−f(yn)∣≥ε不妨设δ=(Cε)2 则有∣xn−yn∣<C2ε2⇒∣xn−yn∣1/2<Cε 即 C∣xn−yn∣1/2<ε∴∣f(xn)−f(yn)∣≤C∣xn−yn∣<ε (Ho¨lder条件)与 ∣f(xn)−f(yn)∣≥ε 即函数f不一致连续矛盾
∴ 得证 Ho¨lder 连续必一致连续,所以函数f在R上连续【一致连续必连续】。
其次需要说明函数f在无穷远处必衰减至 0:
假设 x→∞ 时,f(x)→0,那么∀n∈N,∃ xn→+∞,∣f(xn)∣≥ε>0∵f在R上连续⇒∃N∈N,当n>N时∣f(xn)∣≥ε又∵∃δ>0,使得x∈[xn−δ,xn+δ]时∣f(x)∣≥ε0=2ε∴∫xn−δxn+δ∣f(x)∣2dx≥∫xn−δxn+δ(2ε)2dx=2ε2δ=0
取 xn+1−δ≥xn+δ,则∫−∞+∞∣f(x)∣2dx≥n=1∑∞∫xn−δxn+δ∣f(x)∣2dx≥n=1∑∞2ε2δ=+∞
与函数f∈L2(R) 矛盾,所以x→∞时f(x)→0,即limx→∞f(x)=0
综上所述,有:
∀f∈(L1(R)∪L2(R)),x→∞limf(x)=0⇒x→±∞limf(x)e−iωx=0⇒[f(x)e−iωx]−∞+∞=0
傅立叶变换能化简卷积运算,因为下列等式成立:
F(f⋆g)(x)=f^⋅g^
证明:
F−1(f^⋅g^)=2π1∫−∞+∞f^g^⋅eiωxdω=2π1∫−∞+∞f^∫−∞+∞g(ξ)e−iωξdξ⋅eiωxdω=2π1∫−∞+∞∫−∞+∞f^⋅g(ξ)eiω(x−ξ)dωdξ=∫−∞+∞[2π1∫−∞+∞f^eiω(x−ξ)dω]⋅g(ξ)dξ=∫−∞+∞f(x−ξ)g(ξ)dξ∴F−1(f^⋅g^)=(f⋆g)(x)
对两侧进行傅立叶变换得:
F(f⋆g)(x)=f^⋅g^
∀f∈(L1(Rn)∪L2(Rn)),有∫−∞+∞∣f^(ω)∣2dω=2π∫−∞+∞∣f(x)∣2dx
上式被称作帕塞瓦尔定理,这一定理表明信号的能量在时域和频域相等,同时也揭示了一件事:使用傅立叶变换去拟合函数时,对于其中傅立叶系数绝对值非常小的各分量,即使直接忽略掉这些分量,对拟合函数的过程影响也非常小。
推导证明:
∫−∞+∞∣f(x)∣2dx=∫−∞+∞[f(x)]2dx=∫−∞+∞f(x)⋅[2π1∫−∞+∞f^(ω)eiωxdω]dx=2π1∫−∞+∞f^(ω)⋅[∫−∞+∞f(x)eiωxdx]dω=2π1∫−∞+∞f^(ω)⋅[∫−∞+∞f(x)e−i(−ω)xdx]dω=2π1∫−∞+∞f^(ω)⋅f^(−ω)dω=2π1∫−∞+∞∣f^(ω)∣2dω∴∫−∞+∞∣f^(ω)∣2dω=2π∫−∞+∞∣f(x)∣2dx
F[f](−ω)=F[f](ω)?
F[f](−ω)=∫−∞+∞f(x)e−i(−ω)xdx=∫−∞+∞f(x)eiωxdxF[f](ω)=∫−∞+∞f(x)e−iωxdx=∫−∞+∞f(x)e−iωxdx=∫−∞+∞f(x)⋅e−iωxdx=∫−∞+∞f(x)⋅eiωxdx∵f∈(L1(Rn)∪L2(Rn))⇒f(x)=f(x)∴F[f](ω)=∫−∞+∞f(x)eiωxdx∴F[f](−ω)=F[f](ω)
类似地,对于两个不同的信号f1,f2∈(L1(Rn)∪L2(Rn)),有以下等式成立:
∫−∞+∞f1f2dt=2π1∫−∞+∞f^1f^2∗dω
推导证明:
∫−∞+∞f1f2dt=∫−∞+∞f2[2π1∫−∞+∞f^1eiωtdω]dt=2π1∫−∞+∞f^1[∫−∞+∞f2eiωtdt]dω=2π1∫−∞+∞f^1[∫−∞+∞f2e−i(−ω)tdt]dω=2π1∫−∞+∞f^1(ω)f^2(−ω)dω=2π1∫−∞+∞f^1f^2∗dω(=2π1∫−∞+∞f^1∗f^2dω)∴∫−∞+∞f1f2dt=2π1∫−∞+∞f^1f^2∗dω
有一系列数据f=[f0,f1,f2,…,fn]T,其中fk(k∈N)是f的第k个值。对于这种离散值,我们通常使用以下变换对来做离散傅立叶变换:
⎩⎨⎧f^(k)fk=j=0∑n−1fjexp(−ni⋅2πjk)=n1j=0∑n−1fj^expni⋅2πjk
其中设ω:=exp(−n2πi)为基频。
那么利用这个变换对在对f进行离散傅立叶变换时可以该写成矩阵乘法的形式表示:
f^=Wf
其中
W:=111⋮11ωω2⋮ωn−11ω2ω4⋮ω2(n−1)⋯⋯⋯⋱⋯1ωn−1ω2(n−1)⋮ω(n−1)2
W 是一个范德蒙矩阵 (Vandermonde Matrix),同时也是一个酉矩阵 (Unitary Matrix)。
实际场景下一般使用快速傅立叶变换 (FFT),DFS 本身运行效率偏低,时间复杂度可达 O(n2),这里写出来是为了便于理解对数据的傅立叶变换这一过程。
定义以下等式:
G[f(t)]=fg^(t,ω)=∫−∞+∞f(τ)e−iωτ⋅Gauss(t−τ)dτ
其中 Gauss(⋅) 是高斯函数,高斯函数的定义如下:
∀a,b,c∈R,a>0,Gauss(x)=aexp[2c2−(x−b)2]
c2=2 的高斯函数是傅立叶变换的特征函数。这就意味着高斯函数的傅立叶变换不仅仅是另一个高斯函数,而且是进行傅立叶变换的函数的标量倍。
通过定义可以看出,Gabor 变换是窗函数为高斯函数时的短时距傅立叶变换。该变换可以同时兼顾时间轴和频率轴的分辨率。
一般地,加窗傅立叶变换可以同时兼顾时域和频域的精度,选择高斯函数的原因是:
由海森堡测不准原理(Heisenberg Uncertainty Principle)可知,
对于一个信号 x(t),当 ∣t∣→∞,若 tx(t)=0,则σtσf≥1/4π,其中
⎩⎨⎧σt2μtPx(t)=∫(t−μt)2Px(t)dt,=∫tPx(t)dt,=∫∣x(t)∣2dt∣x(t)∣2⎩⎨⎧σf2μfPX(f)=∫(f−μf)2PX(f)df=∫fPX(f)df=∫∣X(f)∣2df∣X(f)∣2
由于两者标准差相乘有下限,这个定理说明了我们没有办法同时精准量测时间和频率,其中一者标准差下降(分辨率上升),另一者标准差就上升(分辨率下降)。
特别地,当信号函数 x(t) 为高斯函数时
x(t)=e−πt2,X(f)=e−πf2
此时 μt=∫tPx(t)dt=0,因此得出
σt2=∫∣x(t)∣2dt∫t2∣x(t)∣2dt=∫e−2πt2dt∫t2e−2πt2dt
对于高斯积分,可以利用双重积分来计算,设S=∫e−at2dt,则
S2=====(∫e−at2dt)2=(∫e−au2du)⋅(∫e−av2dv)∬R2e−a(u2+v2)dudv{u=rcosθv=rsinθdudv=rdrdθ∫02π∫0+∞re−ar2drdθ∫02πdθ∫0+∞re−ar2drπ∫0+∞e−ar2d(r2)π[−ae−ar2]0+∞=aπ∴S=∫e−at2dt=aπ
同时设T=∫t2e−at2dt,则有
T2====φ=2θ,dφ=2dθx=r2,dx=d(r2)====(∫t2e−at2dt)2=(∫u2e−au2du)⋅(∫v2e−av2dv)∬R2(uv)2e−a(u2+v2)dudv{u=rcosθv=rsinθdudv=rdrdθ∬R2(r2sinθcosθ)2e−ar2rdrdθ∫02πsin2θcos2θdθ⋅∫0+∞r5e−ar2dr(41∫02πsin2(2θ)dθ)(21∫0+∞r4e−ar2d(r2))(81∫04πsin2φdφ)(21∫0+∞x2e−axdx)(81∫04π21−cos(2φ)dφ)(−2a1∫0+∞x2d(e−ax))81[2φ−4sin(2φ)]04π(a1∫0+∞xe−axdx)4π⋅(−a21∫0+∞xd(e−ax))=4π⋅a21∫0+∞e−axdx4π⋅a21[ae−ax]+∞0=4π⋅a21⋅a1=4a3π∴T=∫t2e−at2dt=2a3/2π
经过上面的计算可知
当 a=2π 时,S=21,T=8π2,
∴σt2=∫e−2πt2dt∫t2e−2πt2dt=4π1即σt=2π1
同理可得 σf=2π1,所以
σtσf=4π1,σt2σf2=16π21
可见,窗函数选取高斯函数时,它可以达到测不准原理的下界,因此认为高斯函数是同时兼顾时域与频域的最优窗函数。
傅立叶变换的不确定性原理
σt2σf2≥16π21,即(∫−∞+∞t2∣f(t)∣2dt)(∫−∞+∞ω2∣f^(ω)∣2dω)≥16π21
Wavelets,即小波分析,是傅立叶变换的延伸。它基于一个朴素的想法:低频信号随时间变化较慢,因而对时间的精度要求低。利用这一点,小波分析可以比经典傅立叶变换更精确全面地分析信号。
首先定义母小波 (Mother Wavelet) ψ(t),则可以定义以下的含参形式:
ψa,b(t)=a1ψ(at−b)
参数a用于提高或降低信号层级(用以分离高低频信号);参数b用于平移信号波,将母小波函数作为窗口左右滑动,分析信号。
定义母小波时需要保证每一基向量ψa,b彼此之间是正交的。
那么可以用小波变换来对信号f(t)进行分析:
W[f](a,b)=⟨f(t),ψa,b(t)⟩
母小波的类型
- Haar
- Davbechies
- Mexizan Hat
- Coiflet
- ……
通常傅立叶变换处理的函数是一元函数,即函数 f 定义在 R 上。如果函数 f 定义在 Rn 上,傅立叶变换的计算方法应为:
FRn[f](ξ)=∫Rnf(x)e−iωxdξ
其中 ξ=[x1,x2,…,xn]T,x 是 ξ 的分量,且各分量相互独立。这种计算表示对 ξ 的每一个分量依次进行傅立叶变换,具体展开可用符号表示如下:
F1∘F2∘⋯∘Fn{f(ξ)},其中Fj{f(ξ)}=∫−∞+∞f(xj)e−iωjxjdxj
变换后得到傅立叶系数 f^(ξ^),其中 ξ^=[ω1,ω2,…,ωn]T。
观察积分表达式显然可知,对各分量进行傅立叶变换的先后顺序不影响结果(积分运算保证)。
特别地,当 n=2 时,有
FR2[f](u,v)=∫−∞+∞[∫−∞+∞f(u,v)e−iωuudu]e−iωvvdv=∫−∞+∞f^(ωu,v)e−iωvvdv=f^(ωu,ωv)
这种情况在计算机中,通常用于对灰度图像或者彩色图像每一个通道上的灰度图进行傅立叶变换。
当 n=3 时,有
FR3[f](x,y,z)=∫−∞+∞{∫−∞+∞[∫−∞+∞f(x,y,z)e−iωxxdx]e−iωyydy}e−iωzzdz=∫−∞+∞[∫−∞+∞f^(ωx,y,z)e−iωyydy]e−iωzzdz=∫−∞+∞f^(ωx,ωy,z)e−iωzzdz=f^(ωx,ωy,ωz)
这种情况在计算机中,通常用于处理具有三维空间结构的数据(如 CT 扫描的体素数据等)或有时间序列的二维空间结构的数据(如视频等)。
由于傅里叶变换要求函数在无穷远处衰减为0,即f∈(L1(Rn)∪L2(Rn)),对于一些性质不是很好的函数就无法使用傅立叶变换,为了也能够处理这样的函数,一般使用拉普拉斯变换。
对于函数f(t),构造函数F(t):
F(t)=f(t)e−γtH(t),其中γ为足够大的常数
Heaviside 函数H(t)有如下定义:
H(t)={01t<0t≥0
这时对函数F(t)进行傅立叶变换:
F^(ω)===s:=γ+iω=∫−∞+∞F(t)e−iωtdt∫0+∞f(t)e−γt⋅e−iωtdt∫0+∞f(t)e−(γ+iω)tdt∫0+∞f(t)e−stdtf(s)
其中s被称作拉普拉斯变量 (Laplace Variable),
s=γ+iω⇒ds=idω⇒dω=i1ds
对于逆变换,作如下推导:
∵F(t)=f(t)e−γt⇒f(t)=eγtF(t)(t≥0)f(t)=eγt⋅2π1∫−∞+∞F^(ω)eiωtdω=2π1∫−∞+∞f(s)e(γ+iω)tdω=2πi1∫γ−i∞γ+i∞f(s)estds
综上所述,得到拉普拉斯变换对:
⎩⎨⎧f(s)f(t)=∫0+∞f(t)e−stdt=2πi1∫γ−i∞γ+i∞f(s)estds
更常见的写法是:
⎩⎨⎧L(f(t))L−1(f(s))=∫0+∞f(t)e−stdt=2πi1∫γ−i∞γ+i∞f(s)estds
Laplace 变换的条件
Laplace 变换要求广义积分∫0+∞f(t)e−stdt存在且收敛,满足这个要求的几类函数如下:
- 分段连续条件:函数 f(t) 在 t≥0 的每个有限区间内必须是分段连续的,即在任意区间 [a,b] 上,f(t)至多有有限个不连续点,而且每个不连续点的跳跃值有限。
- 指数阶条件:∃M>0,α∈R,T≥0,∀t>T 使得 ∣f(t)∣≤Meαt,此时称函数 f(t) 是指数阶为 α 的函数,当 ℜ(s)=Re(s)>α 时,拉普拉斯积分绝对收敛。
- 绝对可积性条件:对于 ∫0+∞∣f(t)e−st∣dt=∫0+∞∣f(t)∣e−ℜ(s)tdt,如果 $ \exist, \lambda$ 使得 ℜ(s)>λ 时积分收敛
注意:以上条件均为充分不必要条件,目前没有充要条件可以简洁描述函数的性质。
双边 Laplace 变换
更广义地,对于定义于整个实轴上的实值函数或复值函数 f(t),其双边拉普拉斯变换为
B[f](s)=∫−∞+∞f(t)e−stdt
L(⋅)是一种线性变换,要证明这一点,我们只需要证明它满足可加性和一次齐次性即可:
∀fa,fb∈(L1(Rn)∪L2(Rn)),有:
L(fa+fb)=∫0+∞(fa+fb)e−stdt=∫0+∞fae−st+fbe−stdt=∫0+∞fae−stdt+∫0+∞fbe−stdt=L(fa)+L(fb)
∴L(⋅)满足可加性。
∀f∈(L1(Rn)∪L2(Rn)),∀λ∈R,有:
L(λf)=∫0+∞λf⋅e−stdt=λ∫0+∞f⋅e−stdt=λL(f)
∴L(⋅)满足一次齐次性。
综上所述,L(⋅)是一种线性变换。
L(dtdf)∴L(=∫0+∞dtdf⋅e−stdt=∫0+∞e−stdf=[f(t)e−st]0+∞+s∫0+∞f(t)e−stdt=−f(0)+sf(s)dtdf)=−f(0)+sf(s)
同理,也可计算得:
L(dt2d2f)=−sf(0)−f′(0)+s2f(s)
那么对于 n 阶可导的函数 f(t),对其 n 阶导函数 (dtd)nf 进行拉普拉斯变换可得:
L[(dtd)nf]=snf(s)−k=0∑n−1skf(n−1−k)(0)=sn∫0+∞f(t)e−stdt−k=0∑n−1sk(dtd)n−1−kf(0)
证明:
注意到这样的递推关系:
L[(dtd)nf]=∫0+∞(dtd)nfe−stdt=∫0+∞e−std[dtn−1dn−1f]=[dtn−1dn−1f⋅e−st]0+∞+s∫0+∞dtn−1dn−1fe−stdt=sL[(dtd)n−1f]−f(n−1)(0)
根据数学归纳法,当 n=1 时,有下列等式成立
L(dtdf)=sf(s)−f(0)
假设 n=λ≥1 时,下式成立:
L[(dtd)λf]=sλf(s)−k=0∑λ−1skf(λ−1−k)(0)
当 n=λ+1时,
L[(dtd)λ+1f]==c=k−1==sλ+1f(s)−k=0∑(λ+1)−1skf((λ+1)−1−k)(0)=sλ+1f(s)−k=0∑λskf(λ−k)(0)sλ+1f(s)−f(λ)(0)−k=1∑λskf(λ−k)(0)sλ+1f(s)−f(λ)(0)−sc=0∑λ−1scf(λ−1−c)(0)s⋅(sλf(s)−c=0∑λ−1scf(λ−1−c)(0))−f(λ)(0)s⋅L[(dtd)λf]−f(λ)(0)即n=λ+1成立。
∴综上所述,L[(dtd)nf]=snf(s)−k=0∑n−1skf(n−1−k)(0)
L[f⋆g](t)=L[f](t)⋅L[g](t)=f(s)⋅g(s)
证明:
单边 Laplace 变换的情况下,即
L[f]=∫0+∞f(t)e−stdt
设 f(t),g(t) 是因果信号,即当 t<0 时,f(t)=0,g(t)=0。此时卷积退化为以下形式:
(f⋆g)(t)=∫0tf(t−τ)g(τ)dτ
对 (f⋆g)(t) 作 Laplace 变换,得:
L[f⋆g](t)=交换t,τ积分顺序u=t−τdu=dt==∫0+∞[∫0tf(t−τ)g(τ)dτ]e−stdt∫0+∞[∫τ+∞f(t−τ)e−stdt]g(τ)dτ∫0+∞[∫0+∞f(u)e−s(u+τ)du]g(τ)dτ(∫0+∞f(u)e−sudu)(∫0+∞g(τ)e−sτdτ)L[f](t)⋅L[g](t)=f(s)⋅g(s)
双边 Laplace 变换的情况下,即
B[f]=∫−∞+∞f(t)e−stdt
设 ∃s∈C 使得
- B[f] 的收敛域包含 ℜ(s)>σf
- B[g] 的收敛域包含 ℜ(s)>σg
- ℜ(s)>max(σf,σg)
其中 σf,σg 分别是函数 f,g 双边拉普拉斯变换的收敛横坐标。收敛横坐标是指使得积分收敛的最小实部值。
Laplace 变换收敛域问题
对于单边 Laplace 变换,一般采用以下步骤:
- 计算拉普拉斯变换 L[f](s)(通常通过积分或查表)。
- 找出 L[f](s) 的所有极点(使分母为零的 s 值)。
- ROC 是复平面上所有实部 ℜ(s)>σ0 的区域,其中 σ0 是最右边的极点【 ROC 内不能包含任何极点 】。
对于双边 Laplace 变换,一般要这样计算:
- 将 f(t) 分为右边信号 f+(t) 和左边信号 f−(t),其中
f+(t)f−(t)=f(t)u(t)=f(t)u(−t)
- 分别计算 L[f+] 和 L[f−] 的收敛域
- 右边信号 f+ 的 ROC 为 ℜ(s)>σ+
- 左边信号 f− 的 ROC 为 ℜ(s)<σ−
- 求两边信号收敛域的交集
u(t) 是单位阶跃函数,数学定义为:
u(t)={01t<0,t≥0.
同时积分换序合法(绝对可积):
∬R2∣f(t−τ)g(τ)e−st∣dtdτ<∞
对 (f⋆g)(t) 作 Laplace 变换,得:
L[f⋆g](t)=交换t,τ积分顺序u=t−τdu=dt==∫−∞+∞[∫−∞+∞f(t−τ)g(τ)dτ]e−stdt∫−∞+∞[∫−∞+∞f(t−τ)e−stdt]g(τ)dτ∫−∞+∞[∫−∞+∞f(u)e−s(u+τ)du]g(τ)dτ(∫−∞+∞f(u)e−sudu)(∫−∞+∞g(τ)e−sτdτ)L[f](t)⋅L[g](t)=f(s)⋅g(s)
综上所述,
L[f⋆g](t)=L[f](t)⋅L[g](t)=f(s)⋅g(s)