第一課:什麽是卷積,卷積有什麽用,什麽是傅利葉變換,什麽是拉普拉斯變換?

很多朋友和我一樣,工科電子類專業,學了一堆信號方麵的課,什麽都沒學懂,背了公式考了試,然後畢業了。

先說”卷積有什麽用”這個問題。(有人搶答,”卷積”是為了學習”信號與係統”這門課的後續章節而存在的。我大吼一聲,把他拖出去…)

講一個故事:

張三剛剛應聘到了一個電子產品公司做測試人員,他沒有學過”信號與係統”這門課程。一天,他拿到了一個產品,開發人員告訴他,產品有一個輸入端,有一個輸出端,有限的輸入信號隻會產生有限的輸出。

然後,經理讓張三測試當輸入sin(t)(t<1秒)信號的時候(有信號發生器),該產品輸出什麽樣的波形。張三照做了,花了一個波形圖。

“很好!”經理說。然後經理給了張三一疊A4紙: “這裏有幾千種信號,都用公式說明了,輸入信號的持續時間也是確定的。你分別測試以下性爱网產品的輸出波形是什麽吧!”

這下張三懵了,他在心理想”上帝,幫幫我把,我怎麽畫出這些波形圖呢?”

於是上帝出現了: “張三,你隻要做一次測試,就能用數學的方法,畫出所有輸入波形對應的輸出波形”。

上帝接著說:”給產品一個脈衝信號,能量是1焦耳,輸出的波形圖畫出來!”

張三照辦了,”然後呢?”

上帝又說,”對於某個輸入波形,你想象把它微分成無數個小的脈衝,輸入給產品,疊加出來的結果就是你的輸出波形。你可以想象這些小脈衝排著隊進入你的產品,每個產生一個小的輸出,你畫出時序圖的時候,輸入信號的波形好像是反過來進入係統的。”

張三領悟了:” 哦,輸出的結果就積分出來啦!感謝上帝。這個方法叫什麽名字呢?”

上帝說:”叫卷積!”

從此,張三的工作輕鬆多了。每次經理讓他測試一些信號的輸出結果,張三都隻需要在A4紙上做微積分就是提交任務了!

張三愉快地工作著,直到有一天,平靜的生活被打破。

經理拿來了一個小的電子設備,接到示波器上麵,對張三說: “看,這個小設備產生的波形根本沒法用一個簡單的函數來說明,而且,它連續不斷的發出信號!不過幸好,這個連續信號是每隔一段時間就重複一次的。張三,你來測試以下,連到性爱网的設備上,會產生什麽輸出波形!”

張三擺擺手:”輸入信號是無限時長的,難道我要測試無限長的時間才能得到一個穩定的,重複的波形輸出嗎?”

經理怒了:”反正你給我搞定,否則炒魷魚!”

張三心想:”這次輸入信號連公式都給出出來,一個很混亂的波形;時間又是無限長的,卷積也不行了,怎麽辦呢?”

及時地,上帝又出現了:”把混亂的時間域信號映射到另外一個數學域上麵,計算完成以後再映射回來,宇宙的每一個原子都在旋轉和震蕩,你可以把時間信號看成若幹個震蕩疊加的效果,也就是若幹個可以確定的,有固定頻率特性的東西。

我給你一個數學函數f,時間域無限的輸入信號在f域有限的。時間域波形混亂的輸入信號在f域是整齊的容易看清楚的。這樣你就可以計算了。

同時,時間域的卷積在f域是簡單的相乘關係,我可以證明給你看看。

計算完有限的程序以後,取f(-1)反變換回時間域,你就得到了一個輸出波形,剩下的就是你的數學計算了!

張三謝過了上帝,保住了他的工作。後來他知道了,f域的變換有一個名字,叫做傅利葉,什麽什麽… …

—————————————-

再後來,公司開發了一種新的電子產品,輸出信號是無限時間長度的。這次,張三開始學拉普拉斯了……

後記:

不是性爱网學的不好,是因為教材不好,老師講的也不好。

很欣賞Google的麵試題: 用3句話像老太太講清楚什麽是數據庫。這樣的命題非常好,因為沒有深入的理解一個命題,沒有仔細的思考一個東西的設計哲學,性爱网就會陷入細節的泥沼: 背公式,數學推導,積分,做題;而沒有時間來回答”為什麽要這樣”。做大學老師的做不到”把厚書讀薄”這一點,講不出哲學層麵的道理,一味背書和翻講 ppt,做著枯燥的數學證明,然後責怪”現在的學生一代不如一代”,有什麽意義嗎?

第二課:到底什麽是頻率什麽是係統?

這一篇,我展開的說一下傅立葉變換F。注意,傅立葉變換的名字F可以表示頻率的概念(freqence),也可以包括其他任何概念,因為它隻是一個概念模型,為了解決計算的問題而構造出來的(例如時域無限長的輸入信號,怎麽得到輸出信號)。性爱网把傅立葉變換看一個C語言的函數,信號的輸出輸出問題看為IO 的問題,然後任何難以求解的x->y的問題都可以用x->f(x)->f-1(x)->y來得到。

1. 到底什麽是頻率?

一個基本的假設: 任何信息都具有頻率方麵的特性,音頻信號的聲音高低,光的頻譜,電子震蕩的周期,等等,性爱网抽象出一個件諧振動的概念,數學名稱就叫做頻率。想象在x-y 平麵上有一個原子圍繞原點做半徑為1勻速圓周運動,把x軸想象成時間,那麽該圓周運動在y軸上的投影就是一個sin(t)的波形。相信中學生都能理解這個。

那麽,不同的頻率模型其實就對應了不同的圓周運動速度。圓周運動的速度越快,sin(t)的波形越窄。頻率的縮放有兩種模式

(a) 老式的收音機都是用磁帶作為音樂介質的,當性爱网快放的時候,性爱网會感覺歌唱的聲音變得怪怪的,調子很高,那是因為”圓周運動”的速度增倍了,每一個聲音分量的sin(t)輸出變成了sin(nt)。

(b) 在CD/計算機上麵快放或滿放感覺歌手快唱或者慢唱,不會出現音調變高的現象:因為快放的時候采用了時域采樣的方法,丟棄了一些波形,但是承載了信息的輸出波形不會有寬窄的變化;滿放時相反,時域信號填充拉長就可以了。

2. F變換得到的結果有負數/複數部分,有什麽物理意義嗎?

解釋: F變換是個數學工具,不具有直接的物理意義,負數/複數的存在隻是為了計算的完整性。

3. 信號與係統這們課的基本主旨是什麽?

對於通信和電子類的學生來說,很多情況下性爱网的工作是設計或者OSI七層模型當中的物理層技術,這種技術的複雜性首先在於你必須確立傳輸介質的電氣特性,通常不同傳輸介質對於不同頻率段的信號有不同的處理能力。以太網線處理基帶信號,廣域網光線傳出高頻調製信號,移動通信,2G和3G分別需要有不同的載頻特性。那麽這些介質(空氣,電線,光纖等)對於某種頻率的輸入是否能夠在傳輸了一定的距離之後得到基本不變的輸入呢? 那麽性爱网就要建立介質的頻率相應數學模型。同時,知道了介質的頻率特性,如何設計在它上麵傳輸的信號才能大到理論上的最大傳輸速率?—-這就是信號與係統這們課帶領性爱网進入的一個世界。

當然,信號與係統的應用不止這些,和香農的信息理論掛鉤,它還可以用於信息處理(聲音,圖像),模式識別,智能控製等領域。如果說,計算機專業的課程是數據表達的邏輯模型,那麽信號與係統建立的就是更底層的,代表了某種物理意義的數學模型。數據結構的知識能解決邏輯信息的編碼和糾錯,而信號的知識能幫性爱网設計出碼流的物理載體(如果接受到的信號波形是混亂的,那我依據什麽來判斷這個是1還是0? 邏輯上的糾錯就失去了意義)。在工業控製領域,計算機的應用前提是各種數模轉換,那麽各種物理現象產生的連續模擬信號(溫度,電阻,大小,壓力,速度等) 如何被一個特定設備轉換為有意義的數字信號,首先性爱网就要設計一個可用的數學轉換模型。

4. 如何設計係統?

設計物理上的係統函數(連續的或離散的狀態),有輸入,有輸出,而中間的處理過程和具體的物理實現相關,不是這們課關心的重點(電子電路設計?)。信號與係統歸根到底就是為了特定的需求來設計一個係統函數。設計出係統函數的前提是把輸入和輸出都用函數來表示(例如sin(t))。分析的方法就是把一個複雜的信號分解為若幹個簡單的信號累加,具體的過程就是一大堆微積分的東西,具體的數學運算不是這門課的中心思想。

那麽係統有那些種類呢?

(a) 按功能分類: 調製解調(信號抽樣和重構),疊加,濾波,功放,相位調整,信號時鍾同步,負反饋鎖相環,以及若幹子係統組成的一個更為複雜的係統—-你可以畫出係統流程圖,是不是很接近編寫程序的邏輯流程圖? 確實在符號的空間裏它們沒有區別。還有就是離散狀態的數字信號處理(後續課程)。

(b) 按係統類別劃分,無狀態係統,有限狀態機,線性係統等。而物理層的連續係統函數,是一種複雜的線性係統。

5. 最好的教材?

符號係統的核心是集合論,不是微積分,沒有集合論構造出來的係統,實現用到的微積分便毫無意義—-你甚至不知道運算了半天到底是要作什麽。以計算機的觀點來學習信號與係統,最好的教材之一就是<<Structure and Interpretationof Signals and Systems>>, 作者是UC Berkeley的Edward A.Leeand Pravin Varaiya—-先定義再實現,符合人類的思維習慣。國內的教材通篇都是數學推導,就是不肯說這些推導是為了什麽目的來做的,用來得到什麽,建設什麽,防止什麽;不去從認識論和需求上討論,通篇都是看不出目的的方法論,本末倒置了。

第三課:抽樣定理是幹什麽的?

1. 舉個例子,打電話的時候,電話機發出的信號是PAM脈衝調幅,在電話線路上傳的不是話音,而是話音通過信道編碼轉換後的脈衝序列,在收端恢複語音波形。那麽對於連續的說話人語音信號,如何轉化成為一些列脈衝才能保證基本不失真,可以傳輸呢? 很明顯,性爱网想到的就是取樣,每隔M毫秒對話音采樣一次看看電信號振幅,把振幅轉換為脈衝編碼,傳輸出去,在收端按某種規則重新生成語言。

那麽,問題來了,每M毫秒采樣一次,M多小是足夠的? 在收端怎麽才能恢複語言波形呢?

對於第一個問題,性爱网考慮,語音信號是個時間頻率信號(所以對應的F變換就表示時間頻率)把語音信號分解為若幹個不同頻率的單音混合體(周期函數的複利葉級數展開,非周期的區間函數,可以看成補齊以後的周期信號展開,效果一樣),對於最高頻率的信號分量,如果抽樣方式能否保證恢複這個分量,那麽其他的低頻率分量也就能通過抽樣的方式使得信息得以保存。如果人的聲音高頻限製在3000Hz,那麽高頻分量性爱网看成sin(3000t),這個sin函數要通過抽樣保存信息,可以看為: 對於一個周期,波峰采樣一次,波穀采樣一次,也就是采樣頻率是最高頻率分量的2倍(奈奎斯特抽樣定理),性爱网就可以通過采樣信號無損的表示原始的模擬連續信號。這兩個信號一一對應,互相等價。

對於第二個問題,在收端,怎麽從脈衝序列(梳裝波形)恢複模擬的連續信號呢? 首先,性爱网已經肯定了在頻率域上麵的脈衝序列已經包含了全部信息,但是原始信息隻在某一個頻率以下存在,怎麽做? 性爱网讓輸入脈衝信號I通過一個設備X,輸出信號為原始的語音O,那麽I(*)X=O,這裏(*)表示卷積。時域的特性不好分析,那麽在頻率域 F(I)*F(X)=F(O)相乘關係,這下就很明顯了,隻要F(X)是一個理想的,低通濾波器就可以了(在F域畫出來就是一個方框),它在時間域是一個鍾型函數(由於包含時間軸的負數部分,所以實際中不存在),做出這樣的一個信號處理設備,性爱网就可以通過輸入的脈衝序列得到幾乎理想的原始的語音。在實際應用中,性爱网的抽樣頻率通常是奈奎斯特頻率再多一點,3k赫茲的語音信號,抽樣標準是8k赫茲。

2. 再舉一個例子,對於數字圖像,抽樣定理對應於圖片的分辨率—-抽樣密度越大,圖片的分辨率越高,也就越清晰。如果性爱网的抽樣頻率不夠,信息就會發生混疊—-網上有一幅圖片,近視眼戴眼鏡看到的是愛因斯坦,摘掉眼睛看到的是夢露—-因為不帶眼睛,分辨率不夠(抽樣頻率太低),高頻分量失真被混入了低頻分量,才造成了一個視覺陷阱。在這裏,圖像的F變化,對應的是空間頻率。

話說回來了,直接在信道上傳原始語音信號不好嗎? 模擬信號沒有抗幹擾能力,沒有糾錯能力,抽樣得到的信號,有了數字特性,傳輸性能更佳。

什麽信號不能理想抽樣? 時域有跳變,頻域無窮寬,例如方波信號。如果用有限帶寬的抽樣信號表示它,相當於複利葉級數取了部分和,而這個部分和在恢複原始信號的時候,在不可導的點上麵會有毛刺,也叫吉布斯現象。

3. 為什麽傅立葉想出了這麽一個級數來? 這個源於西方哲學和科學的基本思想: 正交分析方法。例如研究一個立體形狀,性爱网使用x,y,z三個互相正交的軸: 任何一個軸在其他軸上麵的投影都是0。這樣的話,一個物體的3視圖就可以完全表達它的形狀。同理,信號怎麽分解和分析呢? 用互相正交的三角函數分量的無限和:這就是傅立葉的貢獻。

第四課:傅立葉變換的複數小波

說的廣義一點,”複數”是一個”概念”,不是一種客觀存在。

什麽是”概念”? 一張紙有幾個麵? 兩個,這裏”麵”是一個概念,一個主觀對客觀存在的認知,就像”大”和”小”的概念一樣,隻對人的意識有意義,對客觀存在本身沒有意義(康德: 純粹理性的批判)。把紙條的兩邊轉一下相連接,變成”莫比烏斯圈”,這個紙條就隻剩下一個”麵”了。概念是對客觀世界的加工,反映到意識中的東西。

數的概念是這樣被推廣的: 什麽數x使得x^2=-1? 實數軸顯然不行,(-1)*(-1)=1。那麽如果存在一個抽象空間,它既包括真實世界的實數,也能包括想象出來的x^2=-1,那麽性爱网稱這個想象空間為”複數域”。那麽實數的運算法則就是複數域的一個特例。為什麽1*(-1)=-1? +-符號在複數域裏麵代表方向,-1就是”向後,轉!”這樣的命令,一個1在圓周運動180度以後變成了-1,這裏,直線的數軸和圓周旋轉,在複數的空間裏麵被統一了。

因此,(-1)*(-1)=1可以解釋為”向後轉”+”向後轉”=回到原地。那麽複數域如何表示x^2=-1呢? 很簡單,”向左轉”,”向左轉”兩次相當於”向後轉”。由於單軸的實數域(直線)不包含這樣的元素,所以複數域必須由兩個正交的數軸表示–平麵。很明顯,性爱网可以得到複數域乘法的一個特性,就是結果的絕對值為兩個複數絕對值相乘,旋轉的角度=兩個複數的旋轉角度相加。高中時代性爱网就學習了迪莫弗定理。為什麽有這樣的乘法性質?不是因為複數域恰好具有這樣的乘法性質(性質決定認識),而是發明複數域的人就是根據這樣的需求去弄出了這麽一個複數域(認識決定性質),是一種主觀唯心主義的研究方法。為了構造x^2=-1,性爱网必須考慮把乘法看為兩個元素構成的集合:乘積和角度旋轉。

因為三角函數可以看為圓周運動的一種投影,所以,在複數域,三角函數和乘法運算(指數)被統一了。性爱网從實數域的傅立葉級數展開入手,立刻可以得到形式更簡單的,複數域的,和實數域一一對應的傅立葉複數級數。因為複數域形式簡單,所以研究起來方便—-雖然自然界不存在複數,但是由於和實數域的級數一一對應,性爱网做個反映射就能得到有物理意義的結果。

那麽傅立葉變換,那個令人難以理解的轉換公式是什麽含義呢? 性爱网可以看一下它和複數域傅立葉級數的關係。什麽是微積分,就是先微分,再積分,傅立葉級數已經作了無限微分了,對應無數個離散的頻率分量衝擊信號的和。傅立葉變換要解決非周期信號的分析問題,想象這個非周期信號也是一個周期信號: 隻是周期為無窮大,各頻率分量無窮小而已(否則積分的結果就是無窮)。那麽性爱网看到傅立葉級數,每個分量常數的求解過程,積分的區間就是從T變成了正負無窮大。而由於每個頻率分量的常數無窮小,那麽讓每個分量都去除以f,就得到有值的數—-所以周期函數的傅立葉變換對應一堆脈衝函數。同理,各個頻率分量之間無限的接近,因為f很小,級數中的f,2f,3f之間幾乎是挨著的,最後挨到了一起,和卷積一樣,這個複數頻率空間的級數求和最終可以變成一個積分式:傅立葉級數變成了傅立葉變換。注意有個概念的變化:離散的頻率,每個頻率都有一個”權”值,而連續的F域,每個頻率的加權值都是無窮小(麵積=0),隻有一個頻率範圍內的”頻譜”才對應一定的能量積分。頻率點變成了頻譜的線。

因此傅立葉變換求出來的是一個通常是一個連續函數,是複數頻率域上麵的可以畫出圖像的東西?那個根號2Pai又是什麽? 它隻是為了保證正變換反變換回來以後,信號不變。性爱网可以讓正變換除以2,讓反變換除以Pi,怎麽都行。