亚洲欧美中文字幕_日本韩国三级在线观看_青青青在线视频免费观看_视频一区二区在线观看

中智物聯工程技術研究院-SIOTCHINA
China (Beijing) academy of Smart Internet of Things Engineering Technology

人工智能學術研究成果

時間 2023-01-24 18:03:40

1. 基于自然智能的學習與優化基礎理論

針對智能信息處理領域基礎理論相對薄弱、理論體系有待完善、應用瓶頸問題有待突破的現狀,焦李成教授帶領學術團隊在國家自然科學基金重點項目、國家“863”計劃及國家“973”子項等資助下,對基于免疫協同進化和子波神經計算的智能學習與優化理論及方法進行了深入研究。研究團隊從建立高效、魯棒的神經網絡模型入手,進一步設計了魯棒、快速的學習方法,并建立了高效、魯棒的優化方法。取得了一批原創性的、填補國際空白的學術成果:

(1)面向高維、非結構化數據的回歸逼近對高效、魯棒的神經網絡模型的迫切需求,建立了神經網絡的非線性動力學模型和連接穩定性判據,解決了神經網絡通用穩定性判別難題;提出了多子波神經網絡模型,獲得了良好的相容性和逼近階,緩解了傳統神經網絡規模隨輸入模式維數的增長呈指數增長的瓶頸問題,較好地解決了子波函數高維奇異性檢測與逼近能力弱的問題。為處理高維、非結構化大數據提供了有效的解決方案。

(2)面向相對“小樣本”和海量大規模數據學習對魯棒、快速學習方法的需求,構造了滿足Mercer條件的尺度核和父子波正交投影核,提出了基于尺度核和父子波正交投影核的支撐向量機,獲得了良好的逼近性能和推廣能力;把Mercer核推廣到經驗映射函數,建立了隱空間支撐向量機和隱空間主分量分析模型,緩解了核函數方法必須受Mercer條件限制的瓶頸難題;為緩解高斯過程計算復雜度缺陷,提出了快速稀疏逼近最小二乘支撐向量機,對大規模、不稀疏的問題,顯著減少了優化尺度并提高了解的稀疏性。為處理相對“小樣本”的大數據提供了快速的學習方法與稀疏的解決方案。

(3)面向大規模、多目標NP-Hard優化對高效、魯棒優化方法的迫切需求,構造了免疫協同進化計算理論框架,建立了個體協同與競爭的智能體網絡信息交互模型,有效改善了進化算法中遺傳操作的盲目性和早熟問題,緩解了進化計算解決大規模問題時收斂速度慢的難題;進一步建立了協同認知免疫動力學計算框架,提出了基于克隆選擇的班德文學習和拉馬克學習兩類個體協同學習模型,實現了對十萬維大規模NP-hard優化問題的高效求解,為解決實際工程中的大規模優化問題提供了高效的方法。

建立的免疫協同進化和子波神經計算理論模型對數值優化問題、欺騙問題、組合優化問題、約束滿足問題等基準測試問題的求解結果,優于國內外文獻報道的結果。在千萬級海量數據分類、萬維以上大規模優化、超大規模集成電路布圖等問題上取得了國內外未見報導的成果,并成功應用于復雜圖像分類和目標識別以及網絡數據分析等問題。

研究成果產生了廣泛的國際學術影響,在主流期刊發表SCI檢索論文84篇,出版專著4部,主要論著SCI他引800余次,他引總次數為6000余次,得到了多位院士和IEEE Fellow在內的國內外學者的積極評價,被評價為具有國際領先水平的研究成果,獲國家發明專利授權10項,獲省部級科學技術獎一等獎3項,促進了我國智能信息處理領域的研究發展。

2. 圖像結構建模與視覺表觀重構理論方法研究

針對圖像結構表示尚未建立完備的理論體系,視覺感知模型對圖像結構的表示機理尚不明確,視覺表觀重構與圖像結構表達和視覺感知機理之間的內在關系尚待發現這一現象,高新波教授帶領學術團隊在國家自然科學基金重點項目、國家杰出青年科學基金等項目支持下,圍繞視覺計算基礎理論問題,進行長達十五年的科研攻關。研究團隊建立了基于信息-物理-認知三元空間融合的視覺計算框架,提出了圖像結構建模新方法、視覺表觀重構新模型,以及視覺質量評價新準則。所取得的研究成果極大地豐富了傳統的視覺計算理論。

(1)發現了圖像結構建模的理論與方法。提出張量子圖像的全局-局部結構,進一步證實了本科學發現點對多因素圖像結構表示的普適性。

(2)發現了視覺表觀重構的理論與方法。提出基于局部-非局部結構感知可實現高質量視覺表觀重構,進一步證實了本科學發現點對多個視覺表觀重構的準確性。

(3)發現了視覺表觀質量評價的理論與方法。提出基于圖像質量評價反饋的視覺表觀重構迭代優化框架,可對表觀重構模型進行優化。

此外,團隊所取得的研究成果具有廣泛的應用前景。提出的圖像結構建模可應用于圖像分析、圖像檢索和模式識別,為特征提取提供理論指導,表觀重構理論和方法可應用于高分辨對地觀測相機的研制。此外,成果還可應用于異質圖像合成與識別系統,如基于可見光近紅外成像的身份認證系統、基于素描畫像-照片的犯罪嫌疑人排查系統等,這在網上支付、智能門禁、刑偵破案等應用中,將能發揮重要作用。

研究成果產生了廣泛的國際學術影響,“圖像結構建模與視覺表觀重構理論方法研究”項目的成果已得到60多個國家、地區,包括近10位美、英、加等國院士和30余位IEEE/ACM/IAPR/IETFellow等國際同行的高度認可,獲得國家發明專利20項。這些成果中,20篇主要論文SCI他引近1000次,Google Scholar被引用2300余次。1篇論文入選ESI 2009年新熱點論文,2篇論文入選ESI高被引論文,2篇論文獲Signal Processing2009-2012年“Most Cited Article”國際論文獎。

3. 編碼混疊成像與計算重建理論與方法研究

石光明教授率領的研究團隊圍繞圖像高分辨率成像重構理論和方法,在國家自然科學基金和863計劃等持續支持下,歷經10余年攻關研究,闡明了用低分辨率探測器獲取高分辨率圖像的機制,揭示了圖像時空結構相關的計算特性,發現了感知圖像結構差異性的機理,提出了適合非線性多空間結構稀疏的計算重構模型。具體科學發現如下:

(1)混疊編碼成像方面:闡明了用單點探測器獲取高分辨率信息的機制,揭示了混疊編碼感知和先驗解耦的高分辨率成像新機理,突破了傳統信息采樣的分辨率限制,解決了高分辨率探測完全依賴高性能探測器的瓶頸問題。

(2)圖像結構表征方面:闡明了圖像結構和紋理表征的空間差異性,揭示了用局部稀疏子空間實現緊致時空表達的相關規律,提出了基于稀疏子空間選擇的圖像結構表征方法,發現了通過感知圖像結構自相似性實現稀疏子空間學習的計算關系,建立了基于稀疏子空間選擇的圖像結構表征體系,解決了圖像結構差異性造成圖像稀疏空間表達不緊致的根本性難題。

(3)圖像計算重建方面:闡明了圖像結構緊致表達對高分辨率圖像重建的作用機制,揭示了從低分辨率圖像魯棒恢復高分辨率圖像結構化標準的客觀規律,發現了圖像結構化稀疏先驗學習與表達機理,提出了結構化模型驅動的圖像計算重構方法,實現了高分辨率圖像的穩健、魯棒精確重建。

上述工作得到了美國工程院院士T. Huang,美國科學院院士S. Osher等國際同行高度評價,利用圖像結構差異性構建的稀疏編碼方法被評價為“高效且最優的”稀疏編碼方法之一;圖像結構化稀疏先驗學習的計算機理被評價為“圖像結構稀疏編碼”方面的典范工作;結構化模型驅動的高分辨率重建方法被評價為“令人印象深刻的圖像高分辨率重建方法之一”。基此成功研制了面向微納衛星的輕量化高可靠光譜視頻成像系統,應用于空天光譜探測儀器研制。

2篇代表性論文入選ESI熱點論文,1篇代表性論文入選ESI高被引論文。8篇代表性論文SCI他引878次,Google Scholar引用1884次;單篇最高SCI他引311次,Google Scholar引用579次。第一完成人入選教育部長江學者特聘教授;第二完成人獲國家優秀青年科學基金并入選教育部青年長江學者特聘教授。第二完成人現任IEEE T-IP和SIAM J.Imag. Sci.編委。

4. 校企協同、教科融合、多元開放,深化現代電子信息實踐教學改革的探索與實踐

針對存在所學知識落后現代企業需求,高水平實驗師資匱乏,學生創新意識不強、實踐能力薄弱等問題,石光明教授牽頭的團隊自2005年3月以來,依托國家級“電工電子實驗教學示范中心”、國家級“電工電子教學基地教學團隊”、國家級精品資源共享課等多項“質量工程”和“本科教學工程”項目,以扎實培養本科生創新能力為目標,提出了“先進、協同、融合、開放、共享、高效”的指導思想,確定了“與國際知名企業深度協同,教學與科研、理論教學與實踐教學高度融合,實驗內容、平臺與方法必須與企業需求緊密結合,時空全面開放,培養個性化、系統化”的教學理念和改革路線,持續深入探索和實踐,取得了如下成果:

(1)形成了“名師、名課、名教材、名實驗”。凝聚了國家級教學名師和長江學者領軍的實驗教學隊伍,新建成3門國家級精品課程(共6門),4門國家級資源共享課,5部教材獲省級優秀教材獎,系列研究型綜合設計實驗成為品牌實驗。出版實驗教材22部。

(2)構建了“經典與現代、先進與基礎、硬件與軟件、個體與組隊、課內與課外”相結合的多層次、漸進式的現代電子信息實踐教學新體系。

(3)與國際知名電子信息公司協同,創建了一流的實踐教學平臺和環境,建成了2個國家級實驗教學示范中心,33個與國際著名企業聯合的新技術實驗室,3個學生自主創新工作室,31個課外科技興趣俱樂部。

(4)提出了集成化課程構建概念,打破課程壁壘,注重關聯性,每位教師必須兼任理論課和實驗課,踐行了“跨學期、跨課程、分階段、連續性、從單元到系統”的綜合設計實驗新方案。

(5)提出了符合現代電子設計方法學的“虛實”結合實驗方法,建成了5個虛擬仿真實驗室,成為首批國家級虛擬仿真實驗示范中心建設單位。

(6)自主研發新實驗裝置41種1100套,新實驗項目52項,形成了實踐教學內容更新機制。

(7)創建了完善的信息化管理系統和“口袋內實驗室”,實驗室全面開放。

主要解決的教學問題:

(1)如何適應電子信息技術飛速發展,保證實踐教學先進性,引領實踐教學改革。

(2)如何提高學生自主學習積極性和創造性,增強人才核心競爭力。

全校每年80%以上專業的近萬名學生受益。學生科技作品成千涌現。在全國各類電子信息創新競賽中,獲國家獎134項,名列全國前茅。成果被同行高校應用,名實驗在全國推廣,獲得包括海內外同行好評。

5. 高分辨SAR影像變化檢測關鍵技術及系統平臺

SAR影像變化檢測在資源和環境監測、災害監測和評估、城鎮區域規劃與動態監控、軍事測繪和打擊效果評估等領域都有著越來越多的需求與應用,也是我國高分辨率對地觀測重大專項研究的關鍵技術之一。目前該領域的核心技術僅僅掌握在少數發達國家手中,而客觀存在的西方技術壁壘問題,使得我國在SAR影像處理和分析的理論、技術與系統平臺方面均相對比較落后。焦李成教授領導其團隊在國家自然科學基金、國家“863”計劃、科技創新工程重大項目等項目的資助下,針對SAR影像變化信息難以有效表示與學習、檢測方法過度依賴影像差異圖的瓶頸難題,通過自主創新,在變化信息稀疏表征、精準提取與智能分析等關鍵技術上取得了突破性進展,實現了SAR影像變化檢測從基礎理論研究到應用技術開發的轉化,大力推動SAR影像在各行各業的應用,帶來可觀的經濟效益。同時對完善我國SAR技術應用產業鏈,打破國外在SAR影像處理領域的壟斷地位,也具有重要的社會效益。

主要技術發明:

(1)發明了SAR影像學習變化檢測技術,突破了相干斑噪聲下變化信息難以有效表示與提取的瓶頸難題。結合SAR成像機理與地物散射特點,探索了基于方向特征和稀疏學習的變化信息表示,將貝葉斯理論與多尺度幾何分析相結合,基于貝葉斯最大后驗估計理論,設計了考慮變化信息方向聚集性的變化提取模型;利用SAR影像的結構自相似性特點,建立了能夠自適應表示影像塊的字典,構造了基于結構模型的變化信息獲取方法。

(2)發明了基于啟發式進化聚類的SAR影像變化檢測技術,解決了變化檢測過度依賴影像差異圖的瓶頸問題。借助生物智能的進化學習與協同感知機制,對候選變化區域進行智能分析,利用協同認知Memetic計算模型所具有的局部自適應學習與全局優化、選擇性記憶與遺忘、容錯分類等特性,構造了啟發式進化聚類算法,建立了利用局部統計信息指導全局尋優的協同認知 Memetic 計算框架,發明了基于量子免疫克隆算法的SAR影像變化檢測技術。

(3)研制了基于CPU/GPU混合架構的SAR影像配準和變化檢測系統平臺,實現了近線性的并行處理,系統平臺可支持SAR影像去噪、配準和變化檢測等功能,并成功應用于省內外多家相關單位。

上述發明內容獲國家發明專利授權64項,軟件著作權5項,30篇科研論著SCI他引494次(其中10篇主要論文專著他引225次),在國內外有重要的學術影響。所研制的SAR變化檢測系統平臺與國內外類似系統相比在影像配準和變化檢測方面達到國際先進水平,研究成果得到了鑒定委員會的一致認可,認為 “項目研究成果已在多家單位應用,經濟效益和社會效益顯著”。研究成果總體處于國際先進水平,在SAR影像變化特征表示和學習方面處于國際領先地位。

6. 編碼混疊成像與計算重建理論方法研究

高分辨率成像在國防安全、遙感探測、醫學成像等方面一直具有重大應用需求。在傳統成像方法中,CCD探測器分辨率、探測信號帶寬等決定了成像的分辨率。受制于探測器分辨率、信號帶寬限制,高分辨率探測成像是一個長期亟待解決的難題。此外,結合圖像先驗知識,從低分辨率觀測圖像計算重建出高分辨率圖像是目前高分辨成像的一個重要發展方向。如何設計穩健的圖像感知系統,揭示圖像計算重構機理,構建圖像結構計算重建模型,打破圖像高分辨率成像的桎梏,是長期困擾國際學術界的一個根本性難題。

圍繞圖像高分辨率成像重構理論和方法,石光明教授帶領學術團隊在國家自然科學基金和863計劃等持續支持下,歷經10余年攻關研究,闡明了用低分辨率探測器獲取高分辨率圖像的機制,揭示了圖像時空結構相關的計算特性,發現了感知圖像結構差異性的機理,提出了適合非線性多空間結構稀疏的計算重構模型。具體科學發現如下:

(1)混疊編碼成像方面:闡明了用單點探測器獲取高分辨率信息的機制,揭示了混疊編碼感知和先驗解耦的高分辨率成像新機理,突破了傳統信息采樣的分辨率限制,解決了高分辨率探測完全依賴高性能探測器的瓶頸問題。

(2)圖像結構表征方面:闡明了圖像結構和紋理表征的空間差異性,揭示了用局部稀疏子空間實現緊致時空表達的相關規律,提出了基于稀疏子空間選擇的圖像結構表征方法,發現了通過感知圖像結構自相似性實現稀疏子空間學習的計算關系,建立了基于稀疏子空間選擇的圖像結構表征體系,解決了圖像結構差異性造成圖像稀疏空間表達不緊致的根本性難題。

(3)圖像計算重建方面:闡明了圖像結構緊致表達對高分辨率圖像重建的作用機制,揭示了從低分辨率圖像魯棒恢復高分辨率圖像結構化標準的客觀規律,發現了圖像結構化稀疏先驗學習與表達機理,提出了結構化模型驅動的圖像計算重構方法,實現了高分辨率圖像的穩健、魯棒精確重建。

基此成功研制了面向微納衛星的輕量化高可靠光譜視頻成像系統,應用于空天光譜探測儀器研制。2篇代表性論文入選ESI熱點論文,1篇代表性論文入選ESI高被引論文。8篇代表性論文SCI他引878次,Google Scholar引用1884次;單篇最高SCI他引311次,Google Scholar引用579次。

7. SAR圖像理解與自動目標識別技術

(1)SAR圖像理解與感知

國家“973”子項目的支持下,針對高分辨SAR圖像感知目標識別,提出了橋梁、港口和機場的目標檢測方法,并在后續的分類和識別工作中引入了核學習機,克服了傳統的“維數災難”問題,完成了多脊波網絡的構造與逼近性的研究。提出了自適應脊波網絡和自適應學習算法,基于決策樹的支撐矢量機多類模式識別方法,將上述方法用于SAR圖像目標(橋梁、港口、機場)的檢測,三類目標的平均識別率分別達到了92.00%、94.29%和93.33%。完成了非平穩環境下的奇異性檢測進化子波網絡模型、學習算法、模糊聚類算法、進化聚類算法、免疫聚類與規則提取算法,完成了自適應復子波支撐矢量機識別模型及學習算法,完成了進化聚類與分類算法,針對復雜環境下的“小樣本”問題,建立了自適應Ridgelet和Curvelet識別方法。完成了子波HMM的建立及其進化學習算法,完成粗集簡約方法、量子進化聚類、分類和優化算法。并將上述方法及試驗系統用于雷達一維像和SAR目標識別,ISAR自適應融合識別及雷達雜波的自適應分類與識別使其平均識別率大于85%,并且有較強的容錯性和推廣能力。取得的創新性成果主要有:

1)關于對偶脊波構造的論文發表在Applied and Computation Harmonic Analysis (IF 1.456) 2006年第3期。

2)構造了完備的離散脊波框架,建立了快速算法,證明其構成L2(R2)中的緊框架。并在此基礎上建立了一種新的系統—對偶脊波框架,研究成果發表在International Journal of Computer Vision (IF 6.085)。

3)建立了SAR圖像去噪、邊緣檢測和目標的高維奇異性檢測方法,及SAR目標的自適應分割、分類、識別與融合方法。

4)提出了基于Brushlet系數能量測度的紋理特征和基于Brushlet分解方向紋理信息特性的無監督圖像分割方法。

5)提出了基于免疫克隆選擇算法的最優特征子集選擇方法和基于子波域隱馬爾可夫樹模型的非監督圖像分割方法;

6)提出了高分辨SAR圖像中橋梁目標和港口目標的檢測方法及有效的圖像融合和增強方法。

 

(2)SAR成像和自動目標識別技術

SAR成像技術是一項在國防和民用上具有重要戰略意義的應用技術。本學科配合電子38所和電子14所,兵器206所和航天504所進行了SAR成像的算法軟件研究和成像實時處理試驗,取得了較好的成像處理效果。

主要創新成果有:

1)針對載機飛行不穩定,嚴重影響成像質量的問題,提出一種基于信號處理的機載SAR運動補償方法。該方法相對于常規處理運算量增加很少,易于實現實時處理,并有機結合了各種成像方法,適應多種分辨率、多個波段的機載SAR成像,并成功應用于電子38所、電子14所、兵器206所和航天504所研制的試驗機載SAR。該研究成果已申請國防專利。這項研究成果目前和1院704所合作,推廣應用到彈載SAR成像場景匹配制導中。

2)系統地研究了機動目標ISAR運動補償和瞬時成像方法,提出多種有效算法。這項研究在航天2院23所和720廠的飛機目標實測數據中得到很好的應用。

3)在目標識別方面,從統計理論分析和實際數據出發,研究了一維距離像的方向敏感性,以及它與各種因素的關系;提出對一定視角范圍內非相干平均,抑制交叉項后可獲得穩定的平均距離像模板,而大大克服方向敏感性;最后再通過實測數據研究了平均距離像的相關性質。這項研究在電子38所的艦船目標實測數據中得到應用,現正為海軍和720廠研制實時艦船目標ISAR實時處理機。

8. 智能計算與機器學習理論與應用

(1)自然計算

在國家自然科學基金重點項目、國家“863”計劃等資助下,我們在國內較早提出了多子波網絡、復多子波網絡和泛函網絡、量子進化算法、量子進化規劃、量子進化策略、免疫遺傳算法、免疫進化規劃、免疫進化策略等理論方法。所完成的國家自然科學基金重點項目在信息科學部2005年結題項目中被評為優秀。具體包括:

1)系統的研究了免疫系統的自適應性、混沌特性、免疫記憶、免疫遺忘、免疫優勢、非達爾文進化等機理,提出了一系列相應的免疫算法,證明了算法的收斂性,分析了算法的復雜度以及參數效應,在理論和方法上均有所突破,形成了免疫克隆計算的基本框架,為免疫計算理論與應用的進一步研究提供了理論基礎和技術支持。

2)提出了組織協同進化計算框架和模型;將多智能體系統與進化計算相結合,建立了多智能體進化計算框架。針對海量數據分類、數值優化、組合優化等問題設計了不同的算法,并證明了算法的收斂性。特別是,在海量數據分類問題和超大規模集成電路布圖問題上的研究取得了重大突破,相關成果在IEEE Transactions on Evolutionary Computation上發表。基于量子計算的特性,結合進化算法和克隆選擇算法,提出了相應的量子進化算法和量子免疫克隆算法框架,證明了算法的收斂性,分析了算法的復雜度以及參數效應。

3)在海量數據分類、函數優化、TSP問題、N皇后問題、多維0-1背包問題、SAT問題、通信多用戶檢測、組播路由、系統逼近、超大規模集成電路布圖、圖像處理等問題上取得了具有自主產權的結果。特別是在高維函數優化、N皇后問題等基準問題上的求解結果優于國內外文獻的報道。

截至目前,研究團隊在自然計算方面共計發表或錄用論文214篇,其中,3篇在SCI期刊I區的top期刊發表或錄用,66篇被SCI檢索,105篇被EI檢索,25篇被ISTP檢索。撰寫專著4部,專題章節3章。實驗室近期在自然計算方面取得的研究成果主要有:

1)針對海量數據的分類問題,提出了組織協同進化分類算法,研究成果在SCI一區的Top期刊IEEE Transactions on Evolutionary Computation (SCI 2004年影響因子3.688, 2005年影響因子3.257)上發表。

2) 針對SAT問題,提出了求解SAT問題的組織進化算法,研究成果已在IEEE Transactions on System, Man, and Cybernetics, Part B上發表。

3) 針對數值優化問題,提出了組織進化數值優化算法,研究成果已在IEEE Transactions on System, Man, and Cybernetics, Part B發表。

4) 提出了集免疫機制和進化機制于一體的一種新的全局并行算法--免疫進化算法,研究成果已在IEEE Transactions on System, Man, and Cybernetics, Part A上發表,截至2007年10月已被SCI他引27次。

5) 基于抗體克隆選擇學說及免疫記憶理論,系統闡述了一種新的人工免疫系統算法,免疫記憶克隆規劃;并基于Markov鏈的有關性質,證明了該算法的收斂性。相關成果在《自然科學進展》上發表。

6) 結合混沌和抗體克隆選擇學說,提出了一種新的人工免疫系統算法-自適應混沌克隆進化規劃算法,研究成果在《中國科學E輯》上發表。

7) 基于抗體克隆選擇學說和免疫優勢概念,提出了用于解決多目標優化問題的一種新的人工免疫系統算法-免疫優勢克隆多目標優化算法,研究成果已被《中國科學E》錄用。

8) 提出了基于Pareto最優近鄰選擇的免疫多目標優化算法(Pareto-optimal Neighbor Immune Algorithm, PNIA),研究成果已被SCI一區的Top期刊Evolutionary Computation Journal (MIT Press, SCI 2004年影響因子3.206, 2005年影響因子1.568)錄用。

9) 提出了一種新的、適用于進化算法求解VLSI布圖規劃問題的布圖表示方法--移動模式序列,研究成果已被SCI一區的Top期刊IEEEE Transactions on Evolutionary Computation Journal錄用。

10) 2006年6月由科學出版社出版專著《免疫優化計算、學習與識別》,并獲“國家三個一百原創圖書獎”。

11) 2006年8月由科學出版社出版專著《協同進化計算與多智能體系統》。

12) 應IEEE Transactions on Evolutionary Computation主編Xin Yao教授的邀請,撰寫關于克隆選擇計算與組織進化計算的兩部英文專著,并列入自然計算叢書由國外出版社出版。

(2)機器學習與模式識別

在國家自然科學基金、國家教育部重點項目的支持下,機器學習方面的研究主要集中在核機器學習。在過去幾年里,基于核的學習算法取得了豐碩的成果。這些算法已被廣泛應用于模式識別、回歸估計、概率密度估計、時間序列預測等領域。核學習的成功主要在于兩方面。其一,統計學習理論為核學習獲得良好的推廣能力提供了堅實的理論基礎;其二,基于核的學習能表示成凸規劃或特征問題,因而存在多項式時間的全局最優算法。就這兩點而言,核學習超越了它的前輩如決策樹和神經網絡。

我們在已有研究成果基礎上,結合實際需要,提出了很多有效的算法。如特征標度核Fisher分類器、核匹配追蹤集成分類器、隱空間支持向量機、小波支持向量機、線形規劃支持向量機等。這些算法已經成功應用于雷達目標識別、手寫體識別、多用戶檢測等領域。因此,我們的研究不僅在理論上有較大創新,而且具有良好的應用價值和經濟效益。所取得的創新性成果主要有:

1) 提出了特征標度核Fisher分類器,研究成果發表在 Neural Computation(IF 2.363, SCI-I區)2006年第2期。

2) 提出了核匹配追蹤集成分類器、研究成果發表在Pattern Recogniton(IF 2.176, SCI-II區)2006年第4期上。

3) 提出了隱空間支持向量機,研究成果發表在IEEE Transaction on Neural Networks (IF 2.178, SCI-II區)2004年第6期上。

4) 提出了小波支持向量機,研究成果發表在IEEE Transactions on SMC-b (IF 1.538, SCI- III區)2004年第1期上。

5) 提出了線形規劃支持向量機,研究成果發表Pattern Recognition(IF 2.176, SCI- II區)2002年第12期上。

6) 提出了用于大規模稀疏核學習的FastLASSO算法,發表在NC上;

7) 提出了基于遞歸有限牛頓算法的支持向量回歸機,發表在IEEE NN上;

8) 提出了最小二乘支持向量機的快速稀疏逼近,發表在IEEE NN上;

9) 2006年2月由西安電子科技大學出版社出版專著《智能數據挖掘與知識發現》。

9. 多速率濾波器組的理論與應用

(1)均勻濾波器組的理論與設計

在該方面,團隊已取得的成果:

1)分析比較通道數的奇偶性對完全重構以及近似完全重構余弦調制濾波器組性能的影響,進而在實際應用中對濾波器組參數的適當選取具有重要的指導性意義;

2)在近似完全重構的情形下,提出了一種新的算法。該算法在最小最大波動的意義下具有全局最優解,且設計簡單、高效,這些都是其它設計方法無法與之媲美的;

3)從消除主要混疊失真的分析入手,推導出特定條件下近似完全重構線性相位濾波器組的充要條件,并將其應用于實際設計之中,已取得了很好的效果。

(2)非均勻濾波器組的理論與設計

非均勻濾波器組的實現結構大致分為間接和直接兩種。間接結構是一種多級結構,它借助于均勻濾波器組的成熟理論較易于實現結構上的完全重構和線性相位特性,但其系統延時較長;而直接結構是一種單級結構,它很難實現完全重構特性。對于這兩種結構,我們都進行了大量的研究工作,并已取得了一定的成果:

1)基于間接結構的完全重構非均勻濾波器組的設計;若原始的均勻濾波器組和多路復用轉換器的通道數互質,分析和綜合濾波器可用線性時不變系統表示或者用調制的線性時不變系統的級聯形式表示。后者被用來解決由非均勻濾波器組內部產生的頻譜倒置問題,它很大程度上簡化了非均勻間接結構濾波器組的設計,并且可以實現某些采樣因子為分數的要求。

2)基于余弦調制的完全重構非均勻濾波器組的設計;把余弦調制濾波器組運用到原始均勻濾波器組和多路復用轉換器中,降低了系統的設計和實現復雜度。在原型濾波器之間加上匹配條件,原始的均勻濾波器組和合并的多路復用轉換器就可以單獨進行設計,并使所設計濾波器組的性能有所提高。

3)低延時完全重構非均勻濾波器組的設計;將低延時的雙正交余弦調制濾波器組作為原始均勻濾波器組和合并的多路復用轉換器,增加了原型濾波器的選擇范圍并且極大地降低了系統的延時。

4)無乘法完全重構非均勻濾波器組的設計;基于提升的雙正交余弦調制濾波器組的完全因式分解來實現無乘法,可以大大降低計算復雜度并且實現結構上的完全重構。

5)樹型結構完全重構非均勻濾波器組的設計;將樹型結構和合并的非均勻余弦調制濾波器組結合在一起可以擴大其采樣因子的范圍,具有比傳統樹型結構濾波器組更低的延時和實現復雜度。

6)非均勻近似完全重構濾波器組的設計;采用直接結構,提出了一種線性相位近似完全重構的有理采樣非均勻濾波器組的設計方法。使分析和綜合濾波器滿足一定的長度關系和約束條件,所得到的系統具有較高的阻帶衰減和較低的系統延遲。

7)M通道無理采樣濾波器組的設計;基于任意系數上采樣和下采樣的定義,提出了設計M通道無理采樣濾波器組的新結構。

(3)二維濾波器組的理論與設計

在研究二維濾波器組和方向濾波器組的基礎上,我們所開展的工作和取得的成果主要有:

1)提出了一種設計不可分離二維M通道線性相位近似完全重構濾波器組的有效方法。該濾波器組具有近似完全重構特性,在圖像分解和重構應用中,獲得了較好的效果。

2)從紋理圖像的頻率特征出發,在分析紋理方向與其傅立葉功率譜方向的關系基礎上,提出了一種基于方向濾波器的圖像方向場估計方法,對紋理圖像具有較好的方向估計能力,為后續的紋理檢測和任意子帶方向分解等工作提供了有意義的參考。

3)提出一種新的非下采樣多尺度、多方向圖像變換方法。該變換由小波變換級聯非下采樣方向濾波器組構成,克服了傳統的方向濾波器組由于下采樣操作造成的平移不變性缺失,可以較好地改善圖像的視覺效果,并在圖像去噪中表現出良好的去噪效果。

部分成果發表在自然科學進展,IEEE Trans. Signal Processing(IF 1.57),IEEE Trans. Circuits and Systems(IF 1.743),IEEE Signal processing letters(IF 0.722),IEICE Trans. Information and System,Journal of VLSI Signal Processing System,Chinese Journal of Electronics.

10. 圖像壓縮處理新理論和應用

本課題組在可見光遙感圖像、SAR圖像、超/多光譜圖像等研究領域也取得一定的研究成果。

(1)在基于圖像特征描述和多尺度幾何分析的圖像壓縮編碼領域開展了廣泛的研究。針對圖像的方向特點,研究基于小波基函數的方向提升變換,分析推導利用這些基函數的2D方向提升變換由兩個1D方向提升變換實現,研究對方向提升變換后的系數利用Bandelet變換實現Bandelization,進一步減少系數之間的冗余。研究成果發表在IEEE Signal Processing Letters上。

(2)在上面基礎上研究了基于方向特征的上下文熵編碼方法,研究成果發表在SPIE。

(3)相較于最新的靜止圖像壓縮算法JPEG2000而言,新的基于圖像特征描述和多尺度幾何分析的方法對于紋理特征顯著的遙感圖像和自然圖像,比JPEG2000最高可提高PSNR達到1.5個dB以上。

(4)針對遙感圖像和SAR圖像的應用需求,我們也開發了基于完全可逆小波和DCT的圖像編碼方法,特別是基于可逆整形DCT從有損到無損的編碼方法平均比基于小波變換的JPEG2000有損性能最高提高1dB以上,無損編碼性能也優于JPEG2000。

(5)在超/多光譜編碼方面,我們結合3D小波變換,3D可逆整形DCT,以及3D自適應塊集合分裂的熵編碼算法,實現了高于3D-SPIHT和3D-SPECK的光譜圖像編碼方法。

以上成果發表在IEEE Trans. CVST,IEEE SP letter,Optical Engineering,電子學報,軟件學報等國內外著名刊物和國內外會議上。

11. 視頻數據庫中基于圖像的人臉場景檢索

在人臉識別方面,本課題組針對人臉檢測、跟蹤與識別等問題都分別進行了大量的預先研究工作。對主動示例學習中示例及特征的選擇方法、多姿態人臉信息的融合、彩色圖像的人臉跟蹤及基于HMM的人臉識別等問題取得了初步的研究成果。其中,基于嵌入式Bootstrap(E-Bootstrap)的主動學習示例選擇算法在三個不同正面人臉的公共測試集上的初步測試實驗表明,在“非人臉”示例數目都是15,000個的情況下,E-Bootstrap算法在保持較高查全率(94%)的條件下,大大提高了查準率,將Bootstrap的平均43.8%的查準率提高了近兩倍達到80.4%。從而解決了計算條件對訓練集規模的限制,使訓練所得預測器具有更高的性能。針對人臉模式易受姿態影響這一問題,通過引入模糊聚類知識,提出了一種魯棒的多姿態人臉檢測技術。在我們前期的快速多姿態人臉檢測算法工作中,對多個多姿態測試圖像庫進行檢測,查準率可達87%以上,查全率達到90%以上。這說明該檢測算法可以實現人臉的可靠定位。此外,對彩色圖像引入基于混合高斯模型(GMM)的膚色檢測和菱形搜索策略、對視頻圖像進行運動估計以提高人臉檢測的速度和精度。在彩色視頻中對人臉的跟蹤時,引入菱形快速搜索機制,通過膚色和人臉特征等有效的特征檢測,在后續幀序列中實時的跟蹤人臉。同時,我們還針對基于人臉畫像的身分認證進行了初步的研究。早期,提出了一種基于幾何特征與局部DCT特征相結合的人臉畫像識別方法,并取得了85.7%的正確識別率。近期,為了縮小圖像與畫像之間的差距,我們提出了一種基于二維HMM與集成技術相結合的畫像生成算法,并提出了一種結合全參考型和無參考型相結合的畫像質量評價方法。