神經網絡的現狀精選(九篇)
前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經網絡的現狀主題范文，僅供參考，歡迎閱讀并收藏。
第1篇：神經網絡的現狀范文
[摘要]該文介紹了神經網絡的發展、優點及其應用和發展動向，著重論述了神經網絡目前的幾個研究熱點，即神經網絡與遺傳算法、灰色系統、專家系統、模糊控制、小波分析的結合。
[關鍵詞]遺傳算法灰色系統專家系統模糊控制小波分析
一、前言
神經網絡最早的研究20世紀40年代心理學家Mcculloch和數學家Pitts合作提出的，他們提出的MP模型拉開了神經網絡研究的序幕。神經網絡的發展大致經過三個階段：1947~1969年為初期，在這期間科學家們提出了許多神經元模型和學習規則，如MP模型、HEBB學習規則和感知器等；1970~1986年為過渡期，這個期間神經網絡研究經過了一個低潮，繼續發展。在此期間，科學家們做了大量的工作，如Hopfield教授對網絡引入能量函數的概念，給出了網絡的穩定性判據，提出了用于聯想記憶和優化計算的途徑。1984年，Hiton教授提出Boltzman機模型。1986年Kumelhart等人提出誤差反向傳播神經網絡，簡稱BP網絡。目前，BP網絡已成為廣泛使用的網絡；1987年至今為發展期，在此期間，神經網絡受到國際重視，各個國家都展開研究，形成神經網絡發展的另一個。神經網絡具有以下優點：
(1)具有很強的魯棒性和容錯性，因為信息是分布貯于網絡內的神經元中。
(2)并行處理方法，使得計算快速。
(3)自學習、自組織、自適應性，使得網絡可以處理不確定或不知道的系統。
(4)可以充分逼近任意復雜的非線性關系。
(5)具有很強的信息綜合能力，能同時處理定量和定性的信息，能很好地協調多種輸入信息關系，適用于多信息融合和多媒體技術。
二、神經網絡應用現狀
神經網絡以其獨特的結構和處理信息的方法，在許多實際應用領域中取得了顯著的成效，主要應用如下：
(1)圖像處理。對圖像進行邊緣監測、圖像分割、圖像壓縮和圖像恢復。
(2)信號處理。能分別對通訊、語音、心電和腦電信號進行處理分類；可用于海底聲納信號的檢測與分類，在反潛、掃雷等方面得到應用。
(3)模式識別。已成功應用于手寫字符、汽車牌照、指紋和聲音識別，還可用于目標的自動識別和定位、機器人傳感器的圖像識別以及地震信號的鑒別等。
(4)機器人控制。對機器人眼手系統位置進行協調控制，用于機械手的故障診斷及排除、智能自適應移動機器人的導航。
(5)衛生保健、醫療。比如通過訓練自主組合的多層感知器可以區分正常心跳和非正常心跳、基于BP網絡的波形分類和特征提取在計算機臨床診斷中的應用。
(6)焊接領域。國內外在參數選擇、質量檢驗、質量預測和實時控制方面都有研究，部分成果已得到應用。
(7)經濟。能對商品價格、股票價格和企業的可信度等進行短期預測。
(8)另外，在數據挖掘、電力系統、交通、軍事、礦業、農業和氣象等方面亦有應用。
三、神經網絡發展趨勢及研究熱點
1.神經網絡研究動向
神經網絡雖已在許多領域應用中取得了廣泛的成功，但其發展還不十分成熟，還有一些問題需進一步研究。
(1)神經計算的基礎理論框架以及生理層面的研究仍需深入。這方面的工作雖然很困難，但為了神經計算的進一步發展卻是非做不可的。
(2)除了傳統的多層感知機、徑向基函數網絡、自組織特征映射網絡、自適應諧振理論網絡、模糊神經網絡、循環神經網絡之外，一些新的模型和結構很值得關注，例如最近興起的脈沖神經網絡(spikingneuralnetwork)和支持向量機(supportvectormachine)。
(3)神經計算技術與其他技術尤其是進化計算技術的結合以及由此而來的混合方法和混合系統，正成為一大研究熱點。
(4)增強神經網絡的可理解性是神經網絡界需要解決的一個重要問題。這方面的工作在今后若干年中仍然會是神經計算和機器學習界的一個研究熱點。
(5)神經網絡的應用領域將不斷擴大，在未來的幾年中有望在一些領域取得更大的成功，特別是多媒體技術、醫療、金融、電力系統等領域。
2.研究熱點
(1)神經網絡與遺傳算法的結合。遺傳算法與神經網絡的結合主要體現在以下幾個方面：網絡連接權重的進化訓練；網絡結構的進化計算；網絡結構和連接權重的同時進化；訓練算法的進化設計?；谶M化計算的神經網絡設計和實現已在眾多領域得到應用，如模式識別、機器人控制、財政等，并取得了較傳統神經網絡更好的性能和結果。但從總體上看，這方面研究還處于初期階段，理論方法有待于完善規范，應用研究有待于加強提高。神經網絡與進化算法相結合的其他方式也有待于進一步研究和挖掘。
(2)神經網絡與灰色系統的結合?；疑到y理論是一門極有生命力的系統科學理論，自1982年華中理工大學的鄧聚龍教授提出灰色系統后迅速發展，以初步形成以灰色關聯空間為基礎的分析體系，以灰色模型為主體的模型體系，以灰色過程及其生存空間為基礎與內的方法體系，以系統分析、建模、預測、決策、控制、評估為綱的技術體系。目前，國內外對灰色系統的理論和應用研究已經廣泛開展，受到學者的普遍關注?；疑到y理論在在處理不確定性問題上有其獨到之處，并能以系統的離散時序建立連續的時間模型，適合于解決無法用傳統數字精確描述的復雜系統問題。
神經網絡與灰色系統的結合方式有：(1)神經網絡與灰色系統簡單結合；(2)串聯型結合；(3)用神經網絡增強灰色系統；(4)用灰色網絡輔助構造神經網絡；(5)神經網絡與灰色系統的完全融合。
(3)神經網絡與專家系統的結合?；谏窠浘W絡與專家系統的混合系統的基本出發點立足于將復雜系統分解成各種功能子系統模塊，各功能子系統模塊分別由神經網絡或專家系統實現。其研究的主要問題包括：混合專家系統的結構框架和選擇實現功能子系統方式的準則兩方面。由于該混合系統從根本上拋開了神經網絡和專家系統的技術限制，是當前研究的熱點。把粗集神經網絡專家系統用于醫學診斷，表明其相對于傳統方法的優越性。
(4)神經網絡與模糊邏輯的結合
模糊邏輯是一種處理不確定性、非線性問題的有力工具。它比較適合于表達那些模糊或定性的知識，其推理方式比較類似于人的思維方式，這都是模糊邏輯的優點。但它缺乏有效的自學習和自適應能力。
而將模糊邏輯與神經網絡結合，則網絡中的各個結點及所有參數均有明顯的物理意義，因此這些參數的初值可以根據系統的模糊或定性的知識來加以確定，然后利用學習算法可以很快收斂到要求的輸入輸出關系，這是模糊神經網絡比單純的神經網絡的優點所在。同時，由于它具有神經網絡的結構，因而參數的學習和調整比較容易，這是它比單純的模糊邏輯系統的優點所在。模糊神經網絡控制已成為一種趨勢，它能夠提供更加有效的智能行為、學習能力、自適應特點、并行機制和高度靈活性，使其能夠更成功地處理各種不確定的、復雜的、不精確的和近似的控制問題。
模糊神經控制的未來研究應集中于以下幾個方面：
(1)研究模糊邏輯與神經網絡的對應關系，將對模糊
控制器的調整轉化為等價的神經網絡的學習過程，用等價的模糊邏輯來初始化神經網絡；
(2)完善模糊神經控制的學習算法，以提高控制算法的速度與性能，可引入遺傳算法、BC算法中的模擬退火算法等，以提高控制性能；
(3)模糊控制規則的在線優化，可提高控制器的實時性與動態性能；(4)需深入研究系統的穩定性、能控性、能觀性以及平衡吸引子、混沌現象等非線性動力學特性。
關于神經網絡與模糊邏輯相結合的研究已有很多，比如，用于氬弧焊、機器人控制等。
(5)神經網絡與小波分析的結合
小波變換是對Fourier分析方法的突破。它不但在時域和頻域同時具有良好的局部化性質，而且對低頻信號在頻域和對高頻信號在時域里都有很好的分辨率，從而可以聚集到對象的任意細節。
利用小波變換的思想初始化小波網絡，并對學習參數加以有效約束，采用通常的隨機梯度法分別對一維分段函數、二維分段函數和實際系統中汽輪機壓縮機的數據做了仿真試驗，并與神經網絡、小波分解的建模做了比較，說明了小波網絡在非線性系統黑箱建模中的優越性。小波神經網絡用于機器人的控制，表明其具有更快的收斂速度和更好的非線性逼近能力。
四、結論
經過半個多世紀的發展，神經網絡理論在模式識別、自動控制、信號處理、輔助決策、人工智能等眾多研究領域取得了廣泛的成功，但其理論分析方法和設計方法還有待于進一步發展。相信隨著神經網絡的進一步發展，其將在工程應用中發揮越來越大的作用。
參考文獻：
[1]張曾科.模糊數學在自動化技術中的應用[M].清華大學出版社，1997.
[2]李士勇.模糊控制·神經控制和智能控制論[M].哈爾濱工業大學出版，1996.250-387.
[3]謝聯峻.模糊控制在列車自動駕駛中的應用[J].自動化與儀器儀表，1999，(4).
[4]CollierWC，Weiland，RJSmartCarts，SmartHighways[J].IEEESpec-trum，1994，31(4)：27-33.
[5]HatwalH，MikulcikEC.someInverseSolutionstoanAutomobilePathTrackingProblemwithInputControlofSteeringandBreaks，Ve-hiclesystemDynamics，1986，(15)：61-71.
[6]KosugeK，FukudaT，AsadaH.AcquisitionifHumanSkillsforRoboticSystem[C].In：ProcIEEEIntSympOnIntelligenControl，1991.469-489.
[7]王小平，曹立明.遺傳算法—理論、應用與軟件實現.西安交通大學出版社，2002.
[8]ManiezzoV.Geneticevolutionofthetopologhandweightdistribution
ofneuralnetwork[J].IEEETransonNeuralNetwork，1994，5(1)35-67.
[9]HarraldPG，KamstraM.Evolvingartificialneuralnetworkstocombinefinancialforecase[J].IEEETransonEvolComputer，1997，1(1)：39-54.
[10]鄧聚龍.灰色系統理論教程.華中理工大學出版社，1990.
[11]呂宏輝，鐘珞，夏紅霞.灰色系統與神經網絡融合技術探索.微機發展，2000，23(4)：67-109.
第2篇：神經網絡的現狀范文
介紹了基于神經網絡的故障針診斷方法和結合模糊理論應用的故障診斷。分析了小波變換的現代模擬電路軟故障診斷的研究現狀。
關鍵詞:
模擬電路；軟故障診斷；神經網絡；模糊理論；小波變換
在最近幾年，現代模擬電路故障診斷方法的研究成為了新的熱點。其中有基于神經網絡。并結合專家系統、小波變換、模糊理論和遺傳算法?！靶〔ㄉ窠浘W絡”和“模糊神經網絡”成為主流的模擬電路軟故障診斷方法。
1基于神經網絡的故障診斷方法
神經網絡有自組織性、自學性、并行性、聯想記憶和分類功能,這些信息處理特點使其能夠解決一些傳統模式難以解決的問題。其中模擬電路故障診斷中的非線性和容差問題就是運用神經網絡的非線性映射能力和泛化能力來解決的，同時這也是專家門的較為感興趣的研究熱點?；谏窠浘W絡的模擬電路故障診斷方法有一些，其中包括測試節點的選擇、確定被測故障集、故障特征的提取等步驟,這種方法與基于測前仿真的故障字典法雷同。前者用制作神經網絡和樣本集來儲存特征信息，而且在測試完畢后定位故障是通過神經網絡來處理。所以可以把基于神經網絡的方法當作是基于測后仿真和測前仿真的延伸與綜合。在故障診斷領域，誤差反傳神經網絡（backpropagationneuralnetwork,BPNN）擁有較好的模式分類特性。然而僅僅以節點電壓視作故障特征訓練的BPNN只能適用于診斷模擬電路的硬故障。在軟故障方面，一般需要基于神經網絡和多種特征提取方法的綜合應用來診斷。
2基于模糊理論應用的模擬電路軟故障診斷
在一些故障診斷問題中，模糊規則適合描述故障診斷的機理。模糊理論中的模糊運算、模糊邏輯系統、模糊集合擁有對模糊信息的準確應付能力，這使得模糊理論成為故障診斷的一種有力工具。神經網絡與模糊理論相結合，充分發揮了模糊理論和神經網絡各自的優點，并以此來彌補各自的不足，這就是所謂的“模糊神經網絡”。這種方法的基本思想是在BPNN的輸出層和輸入層中間增加一到兩層模糊層構造模糊神經網絡，分別利用神經網絡和模糊邏輯處理低層感知數據與描述高層的邏輯框架，這樣一來跟神經網絡分類器相比，“模糊神經網絡”對模擬電路軟故障診斷效果的優勢就非常明顯。通過一個無監督的聚類算法自組織地確定模糊規則的數目并生成一個初始的故障診斷模糊規則庫，構造了一類模糊神經網絡，通過訓練調整網絡權值，使故障診斷模糊規則庫的分類更加精確，實現了電路元件的軟故障診斷。
3基于小波變換的模擬電路軟故障診斷
小波變換是一種新的變換分析方法，它繼承和發展了短時傅立葉變換局部化的思想，同時又克服了窗口大小不隨頻率變化等缺點，能夠提供一個隨頻率改變的"時間-頻率"窗口，是進行信號時頻分析和處理的理想工具。它的主要特點是通過變換能夠充分突出問題某些方面的特征，能對時間（空間）頻率的局部化分析，通過伸縮平移運算對信號（函數)逐步進行多尺度細化，最終達到高頻處時間細分，低頻處頻率細分，能自動適應時頻信號分析的要求，從而可聚焦到信號的任意細節，解決了Fourier變換的困難問題，成為繼Fourier變換以來在科學方法上的重大突破。若滿足時，則由經過伸縮和平移得到的函數成為小波函數族。小波變換具有時域局部特征,而神經網絡具有魯棒性、自學習、自適性和容錯性。如何把二者的優勢結合起來一直是人們所關注的問題。一種方法是用小波變換對信號進行預處理,即以小波空間作為模式識別的特征空間，通過小波分析來實現信號的特征提取，然后將提取的特征向量送入神經網絡處理；另一種即所謂的小波神經網絡或小波網絡。小波神經網絡是神經網絡與小波理論相結合的產物，最早是由法國著名的信息科學研究機構IRLSA的ZhangQinghu等人1992年提出來的。小波神經用絡是基于小波變換而構成的神經網絡模型,即用非線性小波基取代通常的神經元非線性激勵函數(如Sigmoid函數),把小波變換與神經網絡有機地結合起來,充分繼承了兩者的優點。近幾年來,國內外有關小波網絡的研究報告層出不窮。小波與前饋神經網絡是小波網絡的主要研究方向。小波還可以與其他類型的神經網絡結合,例如Kohonen網絡對信號做自適應小波分解。
由于神經網絡、小波變換、模糊理論在當今的發展上還不是很完善,例如在診斷中，模糊度該如何準確地定量化，對小波變換之后故障信號進行怎樣構造能體現故障類別的特征等,因此這些基于神經網絡的診斷方法或多或少地存在一些局限性。一般來說,神經網絡方法的長處并不是提高診斷精度，而且無論運用什么方法,在選取狀態特征參量和確定電路故障集方面,傳統的故障診斷方法仍然具有理論上的指導意義。所以,抽取合理的故障特征比構造合適的神經網絡更為重要。
參考文獻：
[1]梁戈超,何怡剛,朱彥卿.基于模糊神經網絡融合遺傳算法的模擬電路故障診斷法[J].電路與系統學報,2004,9(2):54-57.
[2]譚陽紅,何怡剛.模擬電路故障診斷的小波方法[J].電工技術學報,2005,20(8):89-93.
第3篇：神經網絡的現狀范文
[關鍵詞]遺傳算法 灰色系統 專家系統 模糊控制 小波分析
一、前言
神經網絡最早的研究20世紀40年代心理學家Mcculloch和數學家Pitts合作提出的，他們提出的MP模型拉開了神經網絡研究的序幕。神經網絡的發展大致經過三個階段：1947~1969年為初期，在這期間科學家們提出了許多神經元模型和學習規則， 如MP模型、HEBB學習規則和感知器等；1970~1986年為過渡期，這個期間神經網絡研究經過了一個低潮，繼續發展。在此期間，科學家們做了大量的工作，如Hopfield教授對網絡引入能量函數的概念，給出了網絡的穩定性判據，提出了用于聯想記憶和優化計算的途徑。1984年，Hiton教授提出Boltzman機模型。1986年Kumelhart等人提出誤差反向傳播神經網絡，簡稱BP網絡。目前，BP網絡已成為廣泛使用的網絡；1987年至今為發展期，在此期間，神經網絡受到國際重視，各個國家都展開研究，形成神經網絡發展的另一個。神經網絡具有以下優點：
(1) 具有很強的魯棒性和容錯性，因為信息是分布貯于網絡內的神經元中。
(2) 并行處理方法，使得計算快速。
(3) 自學習、自組織、自適應性，使得網絡可以處理不確定或不知道的系統。
(4) 可以充分逼近任意復雜的非線性關系。
(5) 具有很強的信息綜合能力，能同時處理定量和定性的信息，能很好地協調多種輸入信息關系，適用于多信息融合和多媒體技術。
二、神經網絡應用現狀
神經網絡以其獨特的結構和處理信息的方法，在許多實際應用領域中取得了顯著的成效，主要應用如下：
(1) 圖像處理。對圖像進行邊緣監測、圖像分割、圖像壓縮和圖像恢復。
(2) 信號處理。能分別對通訊、語音、心電和腦電信號進行處理分類；可用于海底聲納信號的檢測與分類，在反潛、掃雷等方面得到應用。
(3) 模式識別。已成功應用于手寫字符、汽車牌照、指紋和聲音識別，還可用于目標的自動識別和定位、機器人傳感器的圖像識別以及地震信號的鑒別等。
(4) 機器人控制。對機器人眼手系統位置進行協調控制，用于機械手的故障診斷及排除、智能自適應移動機器人的導航。
(5) 衛生保健、醫療。比如通過訓練自主組合的多層感知器可以區分正常心跳和非正常心跳、基于BP網絡的波形分類和特征提取在計算機臨床診斷中的應用。
(6) 焊接領域。國內外在參數選擇、質量檢驗、質量預測和實時控制方面都有研究，部分成果已得到應用。
(7) 經濟。能對商品價格、股票價格和企業的可信度等進行短期預測。
(8) 另外，在數據挖掘、電力系統、交通、軍事、礦業、農業和氣象等方面亦有應用。
三、神經網絡發展趨勢及研究熱點
1.神經網絡研究動向
神經網絡雖已在許多領域應用中取得了廣泛的成功，但其發展還不十分成熟，還有一些問題需進一步研究。
(1) 神經計算的基礎理論框架以及生理層面的研究仍需深入。這方面的工作雖然很困難，但為了神經計算的進一步發展卻是非做不可的。
(2) 除了傳統的多層感知機、徑向基函數網絡、自組織特征映射網絡、自適應諧振理論網絡、模糊神經網絡、循環神經網絡之外，一些新的模型和結構很值得關注，例如最近興起的脈沖神經網絡(spiking neural network)和支持向量機(support vector machine)。
(3) 神經計算技術與其他技術尤其是進化計算技術的結合以及由此而來的混合方法和混合系統，正成為一大研究熱點。
(4) 增強神經網絡的可理解性是神經網絡界需要解決的一個重要問題。這方面的工作在今后若干年中仍然會是神經計算和機器學習界的一個研究熱點。
(5) 神經網絡的應用領域將不斷擴大，在未來的幾年中有望在一些領域取得更大的成功，特別是多媒體技術、醫療、金融、電力系統等領域。
2.研究熱點
(1)神經網絡與遺傳算法的結合。遺傳算法與神經網絡的結合主要體現在以下幾個方面：網絡連接權重的進化訓練；網絡結構的進化計算；網絡結構和連接權重的同時進化；訓練算法的進化設計?；谶M化計算的神經網絡設計和實現已在眾多領域得到應用，如模式識別、機器人控制、財政等，并取得了較傳統神經網絡更好的性能和結果。但從總體上看，這方面研究還處于初期階段，理論方法有待于完善規范，應用研究有待于加強提高。神經網絡與進化算法相結合的其他方式也有待于進一步研究和挖掘。
(2)神經網絡與灰色系統的結合。灰色系統理論是一門極有生命力的系統科學理論，自1982年華中理工大學的鄧聚龍教授提出灰色系統后迅速發展，以初步形成以灰色關聯空間為基礎的分析體系，以灰色模型為主體的模型體系，以灰色過程及其生存空間為基礎與內的方法體系，以系統分析、建模、預測、決策、控制、評估為綱的技術體系。目前，國內外對灰色系統的理論和應用研究已經廣泛開展，受到學者的普遍關注?；疑到y理論在在處理不確定性問題上有其獨到之處，并能以系統的離散時序建立連續的時間模型，適合于解決無法用傳統數字精確描述的復雜系統問題。
神經網絡與灰色系統的結合方式有：(1) 神經網絡與灰色系統簡單結合；(2) 串聯型結合；(3) 用神經網絡增強灰色系統；(4) 用灰色網絡輔助構造神經網絡；(5) 神經網絡與灰色系統的完全融合。
(3)神經網絡與專家系統的結合?；谏窠浘W絡與專家系統的混合系統的基本出發點立足于將復雜系統分解成各種功能子系統模塊，各功能子系統模塊分別由神經網絡或專家系統實現。其研究的主要問題包括：混合專家系統的結構框架和選擇實現功能子系統方式的準則兩方面。由于該混合系統從根本上拋開了神經網絡和專家系統的技術限制，是當前研究的熱點。把粗集神經網絡專家系統用于醫學診斷，表明其相對于傳統方法的優越性。
(4)神經網絡與模糊邏輯的結合
模糊邏輯是一種處理不確定性、非線性問題的有力工具。它比較適合于表達那些模糊或定性的知識，其推理方式比較類似于人的思維方式，這都是模糊邏輯的優點。但它缺乏有效的自學習和自適應能力。
而將模糊邏輯與神經網絡結合，則網絡中的各個結點及所有參數均有明顯的物理意義，因此這些參數的初值可以根據系統的模糊或定性的知識來加以確定，然后利用學習算法可以很快收斂到要求的輸入輸出關系，這是模糊神經網絡比單純的神經網絡的優點所在。同時，由于它具有神經網絡的結構，因而參數的學習和調整比較容易，這是它比單純的模糊邏輯系統的優點所在。模糊神經網絡控制已成為一種趨勢，它能夠提供更加有效的智能行為、學習能力、自適應特點、并行機制和高度靈活性，使其能夠更成功地處理各種不確定的、復雜的、不精確的和近似的控制問題。
模糊神經控制的未來研究應集中于以下幾個方面：
(1) 研究模糊邏輯與神經網絡的對應關系，將對模糊
控制器的調整轉化為等價的神經網絡的學習過程，用等價的模糊邏輯來初始化神經網絡；
(2) 完善模糊神經控制的學習算法，以提高控制算法的速度與性能，可引入遺傳算法、BC算法中的模擬退火算法等，以提高控制性能；
(3) 模糊控制規則的在線優化，可提高控制器的實時性與動態性能；
(4) 需深入研究系統的穩定性、能控性、能觀性以及平衡吸引子、混沌現象等非線性動力學特性。
關于神經網絡與模糊邏輯相結合的研究已有很多，比如，用于氬弧焊、機器人控制等。
(5)神經網絡與小波分析的結合
小波變換是對Fourier分析方法的突破。它不但在時域和頻域同時具有良好的局部化性質，而且對低頻信號在頻域和對高頻信號在時域里都有很好的分辨率，從而可以聚集到對象的任意細節。
利用小波變換的思想初始化小波網絡，并對學習參數加以有效約束，采用通常的隨機梯度法分別對一維分段函數、二維分段函數和實際系統中汽輪機壓縮機的數據做了仿真試驗，并與神經網絡、小波分解的建模做了比較，說明了小波網絡在非線性系統黑箱建模中的優越性。小波神經網絡用于機器人的控制，表明其具有更快的收斂速度和更好的非線性逼近能力。
四、結論
經過半個多世紀的發展，神經網絡理論在模式識別、自動控制、信號處理、輔助決策、人工智能等眾多研究領域取得了廣泛的成功，但其理論分析方法和設計方法還有待于進一步發展。相信隨著神經網絡的進一步發展，其將在工程應用中發揮越來越大的作用。
參考文獻：
[1]張曾科.模糊數學在自動化技術中的應用[M].清華大學出版社，1997.
[2]李士勇.模糊控制?神經控制和智能控制論[M].哈爾濱工業大學出版，1996.250-387.
[3]謝聯峻.模糊控制在列車自動駕駛中的應用[J].自動化與儀器儀表，1999，(4).
[4]Collier W C，Weiland，R J Smart Carts，Smart Highways[J].IEEE Spec-trum，1994，31(4)：27-33.
[5]Hatwal H，Mikulcik E C.some Inverse Solutions to an Automobile Path Tracking Problem with Input Control of Steeringand Breaks，Ve-hicle system Dynamics，1986，(15)：61-71.
[6]Kosuge K，Fukuda T，Asada H.Acquisition if Human Skills for Robotic System[C].In：Proc IEEE Int Symp On Intelligen Control，1991.469-489.
[7]王小平，曹立明.遺傳算法―理論、應用與軟件實現.西安交通大學出版社，2002.
[8]Maniezzo V.Genetic evolution of the topologh and weight distribution
of neural network[J].IEEE Trans on Neural Network，1994，5(1)35-67.
[9]Harrald P G，Kamstra M.Evolving artificial neural networks to combine financial forecase[J].IEEE Trans on Evol Computer ，1997，1(1)：39-54.
[10]鄧聚龍.灰色系統理論教程.華中理工大學出版社，1990.
[11]呂宏輝，鐘珞，夏紅霞.灰色系統與神經網絡融合技術探索.微機發展，2000，23(4)：67-109.
第4篇：神經網絡的現狀范文
關鍵詞：BP 神經網絡 教學評價 模型構建 評價方法
中圖分類號：TP183 文獻標識碼：A 文章編號：1672-3791（2013）06（c）-0200-01
BP神經網絡是一種單向多層前饋人工神經網絡模型，可以實現任何復雜的、多因素、不確定和非線性的映射關系，是目前應用最廣泛的人工神經網絡模型之一。通過這種梯度下降算法不斷地修正網絡各層之間的連接權值和閾值，從而實現期望輸出值與實際輸出值之間的誤差達到最小或者小于某一個閾值[1～2]。
本文的研究目標是通過對現有評價指標、評價方法的分析，建立有效的教學評價模型，并實現相應的網上教學評價系統設計。結合BP神經網絡，給出了一種非線性的教學評價模型，訓練好的BP網絡模型根據測評數據，就可得到對評價對象的評價結果，實現定性與定量的有效結合。
1 BP神經網絡模型
（1）輸入/輸出節點。輸入/輸出節點是與樣本直接相關的。根據沈陽工業大學教學質量評估指標體系，將二級評價指標作為模型的輸入神經元，因此系統的輸入層神經元的個數為二級指標的個數。將評價結果作網絡的輸出，輸出層神經元個數為1。
（2）層數。由于BP網絡的功能實際上是通過網絡輸入到網絡輸出的計算來完成的，因此隱含層數越多，神經網絡學習速度就越慢。但是只含有一個隱含層的BP網絡就可以逼近任意的非線性函數。因此，本文選取結構相對簡單的3層BP網絡，即隱含層只有一個。
（3）隱含層神經元個數。隱含層單元個數與問題的要求以及輸入輸出單元個數有直接的關系。隱層單元過多將會導致神經網絡訓練時間過長、誤差不易控制及容錯性差等問題。本文采用公式2.1計算得出隱含層神經元個數。
4）激活函數 BP網絡的非線性逼近能力是通過S型的激活函數來體現出來的，所以隱含層中一般采用S型的激活函數，輸出層的激活函數可以采用線性或S型[3]。S型激活函數為
該函數值在[-1，1]范圍內變化很劇烈，而超出這個范圍即處于不靈敏區，變化則相當平緩。因此為使得進入不靈敏區的誤差函數有所改變，迅速退出不靈敏區，保證訓練網絡的快速性，盡可能使所有輸入值都在靈敏變化段中，一般需在該公式中引進參數。本文的神經網絡算法即在此部分進行改進。
2 基于BP神經網絡的教學評價模型構建
本文由公式2.1計算得出隱含層節點數為4（這里考慮了下述16個指標可以分為4組）。（見表1）
3 改進的BP神經網絡算法描述
網絡的拓撲結構和訓練數據確定之后，總誤差函數E的性質特征就完全由激活函數f決定了。改進激活函數，可以改變誤差曲面，盡量減少局部極小值的可能性。BP算法的激活函數一般為sigmoid型函數，即。
改進的BP算法是對標準的S型函數引入新的參數，則函數變為，其中系數決定著S型函數的壓縮程度。該非線性函數滿足如下兩個條件：一是連續光滑且具有單調性；二是定義域為，值域為，故符合激活函數要求。而且它使得激活函數曲線變得平坦，方便在或時，避開局部極小，因此該函數具有更好的函數逼近能力以及容錯能力。
4 仿真計算與分析
以學生評教數據為輸入值，專家評教數據為期望輸出值，采用上述算法在Matlab下設計仿真程序對BP模型進行辨識，輸入層、隱含層和輸出層的結點數分別為16×4×1，激活函數采用變化的S型，學習率=0.99。
通過沈陽某大學教務處所提供的數據進行實驗，采用10組樣本進行網絡訓練，并對10位教師進行測評。10樣本的評價目標和神經網絡辨識分別為差（21.93），及格（44.64），及格（46.94），中（59.87），中（59.11），中（62.35），中（59.83），良（78.93），良（79.56），優（99.12）。結果顯示，BP模型對評估的模擬結果比較精確，對整個考核的排序十分有用。因此該模型能較為準確地根據各評價指標來確定教學效果。
5 結論
結合國家高等教育的政策導向以及學校實際，建立了一個基于BP神經網絡建立了教學評價模型，引用具有更好函數逼近以及容錯能力的改進的BP學習算法，確定指標體系的權重，使評價結果科學合理。
參考文獻
第5篇：神經網絡的現狀范文
關鍵詞：
中圖分類號： TP391．4文獻標識碼：A文章編號：2095－2163（2011）03－0043－04
Analysis of Training Results based on the Selection of
Parameters Influencing BP Neural Network
HAN Xue
Abstract： Pattern recognition includes two aspects : sample training and sample recognition. And sample training is the premise of sample recognition.Of course, there are lots of training samples and the samples are representative, whichis good, but not the more the better. In the process of training the neural network, it is very important how to determine various parameters that is beneficial to the training efficiency such as the weights and threshold values. This paper is aimed at the use of a simple sample for neural network training, changes parameter values for observing the training effect, thus obtains the different output results and the diagrams. Further study and comparison are carried outto find out the optimal parameter settings. And the experiment method and the conclusion are helpful for application in other identification system development.
Key words：
0引言
在對BP神經網絡進行訓練的過程中，很多時候，一些基本參數和訓練函數參數是隨機生成的，但是訓練效率并不高。對于BP神經網絡所應用的不同領域，這些參數的設置也有所區別。怎樣才能使得訓練網絡的效率更高，就需要了解參數的變化對于訓練結果的影響。本文要解決的問題就是變化其中的各項參數值，對得到的不同訓練結果進行對比分析，并找出相關規律。
1研究現狀
“神經網絡”的研究內容主要包括人工神經網絡、生物神經網絡、認知科學和混沌。
在研究方法上，對于神經網絡的研究已經收獲了很多不同的研究方法，比較重要且已有一定成果的研究有多層網絡 BP算法、Hopfield網絡模型、自適應共振理論和自組織特征映射理論等。
在研究領域上也可以分為理論研究和應用研究兩大方面。理論研究包括兩個方面：其一是理論上的深入研究，通過對已有算法的性能分析來探索功能更完善、效率更高的神經網絡模型，包括對穩定性、收斂性、容錯性、魯棒性等各個性能的最優化研究；其二是朝著智能的方向發展，利用神經生理與認知科學對人類思維和智能機理進行研究。應用研究也包含了兩個方面，分別是神經網絡的軟硬件研究和神經網絡在各個領域中應用的研究，其中包括：模式識別、信號處理、知識工程、專家系統、優化組合、機器人控制等[1]。
BP神經網絡是當前最流行、應用最廣泛的神經網絡模型之一。但是仍存在一些缺陷，如訓練速度較慢，所以很多學者正在尋找快速有效的BP學習算法，而且也取得了一些成效，最重要的幾種快速變體有QuickProp[Fah88]、 SuperSAB [Tol90]和共軛梯度法[Bat92][1]。
除了收斂速度較慢之外，BP神經網絡還存在一些缺點：容易在優化的過程中產生局部最優解而不是全局最優解；在對新樣本訓練的同時容易遺忘舊的樣本。基于對以上缺陷的改進，目前已有了一些行之有效的解決方法。
為了提高網絡訓練速度，在調整權值時增加了動量項，從而對某時刻前后的梯度方向都進行了必要的考慮；為了加快算法收斂速度，采用了自適應學習率調節的方法，如VLBP神經網絡，后面的實驗中還會進一步比較介紹。
目前，BP神經網絡作為很重要的神經網絡模型之一，在很多應用領域中發揮著重要的作用，包括圖像壓縮編碼、人臉識別、分類、故障診斷、最優預測等。
2算法原理
BP神經網絡的基本思想是通過不斷地訓練權值，并設有一個標準的輸出，每次訓練以后得到的實際輸出與標準的輸出比較，設置一個最小誤差，達到這個誤差就表示網絡訓練好了，否則繼續訓練；經過一定的訓練次數后，若還沒有達到這個誤差標準，就表示網絡的設置有問題。本實驗通過對參數的改變，尋找出最優參數設置的規律。
3算法實現
使用matlab開發平臺，程序編寫分為定義輸入向量和目標向量、創建 BP網絡設置訓練函數、初始化權值閾值、設置訓練函數參數、訓練神經網絡五個部分。進行對比實驗時，只需將相關參數進行修改即可。對基本的BP神經網絡進行訓練時，設置基本參數：權值、閾值；訓練函數參數：學習率、最后達到的均方誤差、最大步長。分別對學習率、均方誤差、初始權值、初始閾值進行修改，對比實驗結果；基本的BP神經網絡中無法對學習率實現事先最優，所以用VLBP神經網絡進行改進。
程序如下：
netbp．trainParam．goal＝0．0001／／設置最后達到的均方誤差為 0．0001
netbp．trainParam．epochs＝5000 ／／設置最大訓練步長
[netbp，tr]＝train（netbp，p，t）
4實驗結果
初始訓練樣本的輸入設為[1；3]，期望輸出設為[0．95；0．05]，第一層的權值設為[1 2；－2 0]，第二層的權值設為[1 1；0 －2]，第一層的閾值設為[－3；1]，第二層的閾值設為[2；3]，學習率設為1，均方差設為0．0001。其實驗仿真圖如圖1所示。
4．1改變學習率
只改變學習率的訓練函數參數時，運行程序后的對比結果如表1所示。
從表1中的實驗結果可見：在其他條件不變、學習率增大的情況下，所需的訓練步長變短，即誤差收斂速度快。但是學習率不可以無限制地增大，增大到一定程度后，誤差收斂速度將減慢，甚至有可能達不到誤差范圍內，進入局部穩定狀態。
表1中的各組實驗仿真圖如圖2－圖7所示。
4．2改變均方差
將均方差由原來的0．0001變為0．001后與原初始樣本參數對比結果如表2所示。
均方差變為0．001后的仿真圖如圖8所示。
可見，在其他條件一樣的前提下，將最后要達到的均方誤差值設置較大時，網絡訓練步長變短，誤差收斂速度慢些，最后的輸出結果較為精確些。
4．3改變初始權值
將初始權值改變后的對比結果如表3所示。
改變初始權值后的仿真圖如圖9所示。
可見，后者的初始權值比較合適些，因此訓練的時間變短，誤差收斂速度明顯快些。
4．4改變初始閾值
將初始閾值改變后的對比結果如表4所示。
改變初始閾值后的仿真圖如圖10所示。
可見，后者的初始閾值比較合適些，因此訓練的時間變短，誤差收斂速度明顯快些。
4．5學習率可變的VLBP神經網絡
用最基本的 BP 算法來訓練 BP神經網絡時，學習率、均方誤差、權值、閾值的設置都對網絡的訓練均有影響。選取合理的參數值會有利于網絡的訓練。在最基本的 BP算法中，學習率在整個訓練過程是保持不變的。學習率過大，算法可能振蕩而不穩定；學習率過小，則收斂速度慢，訓練時間長。而在對網絡進行訓練之前是無法選擇最佳學習率的。
雖說學習率在訓練前無法選最優，但是在訓練的過程中能否可變呢？因此BP神經網絡的一種改進算法VLBP可派上用場。也就是說，另外設置學習增量因子和學習減量因子，當誤差以減少的方式趨于目標時，說明修正方向正確，可以使步長增加，因此學習率乘以增量因子k，使學習率增加；而修正過頭時，應減少步長，可以乘以減量因子k，使學習率減小。
程序設計中加入下列語句：
netbp＝newff（[－1 1；－1 1]，[2 2]，‘logsig’ ‘logsig’，‘traingdx’）
netbp．trainParam．lr＿inc＝1．1／／增量因子設為1．1
netbp．trainParam．lr＿dec＝0．65 ／／減量因子設為0．65
經過訓練后最后的輸出結果為[0．963 8；0．050 0]，訓練步長為50，訓練后第一層的權值為[1．004 5 2．013 5；－1．408 4 1．774 8]，訓練后第二層的權值為[0．766 9 0．768 3；－1．544 7 －2．865 0]。
VLBP神經網絡訓練仿真圖如圖11所示。
觀察網絡的收斂速度，采用學習率可變的VLBP算法要比學習率不變BP算法收斂速度提高很多。以上兩種算法都是沿著梯度最陡的下降方向修正權值，誤差減小的速度最快。
5結束語
通過上述驗證性實驗，可以看出參數的選取對網絡的訓練結果有著很大的影響，當然BP算法還很多，但沒有一個算法適合所有 BP 網絡。在實際運用時，需根據網絡自身的特點、誤差要求、收斂速度要求、存儲空間等來做具體選擇。
參考文獻：
[ 1 ] http：／／blog．csdn．net／zrjdds／archive／2008／01／02／2010730．aspx．
[ 2 ] 陳兆乾，周志華，陳世福． 神經計算研究現狀及發展趨勢． 南京
大學計算機軟件新技術國家重點實驗室，2008：3－7．
[ 3 ] 趙艷． 神經計算與量子神經計算的研究綜述[J]． 計算機與信息
第6篇：神經網絡的現狀范文
關鍵詞：模糊神經網絡；水環境質量評價；監測點
中圖分類號：TP18 文獻標識碼：A 文章編號：1009-3044（2014）20-4813-02
Application of Fuzzy Neural Network in Water Environmental Quality Assessment
ZHAO Xu1 ，CHEN Li-li2
（1.Geological and Mineral Resources of Liaoning Province Survey Institute， Shenyang 110031，China； 2.Heilongjiang Institute of Geological Survey， Harbin 150036，China）
Abstract： In order to ensure the safety of drinking water for urban residents， the fuzziness of classification of water quality standard， introduce the fuzzy neural network theory， establish the model of water environment quality evaluation. Selects the Jilin province Baishan City baiyunfeng reservoir as a study area， by sampling selected 6 monitoring points， the evaluation of the model evaluation results and the Nemero index analysis and comparison of results. The results showed that， fuzzy neural network evaluation of water environment quality is feasible， water quality evaluation result more accurate， to break the limitations of traditional methods. The model of fuzzy neural network has strong learning ability， can improve the accuracy of groundwater quality evaluation， provided the scientific basis for the protection and management of water environment.
Key words： fuzzy neural network； water quality evaluation； monitoring point
我國當前經濟社會的發展正處在城市化、工業化、現代化進程中，有效地保護和合理利用水資源，防止項目建設和生產造成的人為水資源破壞，最大限度地減少和降低對水環境的影響，保證工程項目的順利建設和安全運行，促進水資源的循環利用和生態環境的可持續維護，水環境質量科學準確的評價必不可少[1]。該文綜合考慮神經網絡的特點，把模糊理論引入評價模型中，以水質評價指標作為模型的輸入變量建立模糊神經網絡，以白山市白云峰水庫為研究區，評價其水環境質量。
1 模糊神經網絡
1974年，S.C.Lee以和E.T.Lee首次把模糊集和神經網絡聯系在一起； 1985年，J.M Keller和D.Huut提出把模糊隸屬函數和感知器算法相結合。自1992年開始，J.J.Backley發表了多篇關于混合模糊神經網絡的文章，它們也反映了人們近年來的興趣點。
模糊神經網絡是一種新型的神經網絡，它是在網絡中引入模糊算法或模糊權系數的神經網絡。模糊神經網絡的特點在于把模糊邏輯方法和神經網絡方法結合在一起[2]。目前應用最廣泛的是模糊BP網絡[3]，對于一個神經元，考慮其輸入信號是以隸屬函數表示，而不是以絕對值表示，基本處理單元為非線性輸入-輸出關系，輸入層神經元閾值為0，且[f（x）=x]；而隱含層和輸出層作用函數為[f（x）=11+e-x]。
鑒于水質評價中水質分級存在模糊性，水質評價結果易受人為因素影響[4-5]，因此本研究將將模糊理論中隸屬度引入水質評價中，試圖克服傳統水質評價過程中存在的問題。按下式構造隸屬度函數[6-7]
式中：a、b為評價水質樣本相鄰的上下兩級標準水質級別；[f（x）]為標準的梯形隸屬度函數。
2 實例
2.1 評價因子選取
研究區地處低山丘陵，遠離居民點，附近無大的河流或流量較大的裂隙泉。當地自然環境良好。研究區氣候屬溫帶大陸性季風氣候區。年平均氣溫在2.5℃左右。年最高氣溫38℃，多集中在七、八月份，晝夜溫差較大。最低氣溫可達-40℃，集中在十二月下旬至翌年二月份。年平均降雨量為800mm左右，最大凍結深度1.60m。
根據水文局提供的水環境質量監測資料，本次研究選取總硬度、硝酸鹽氮、揮發酚、六價鉻、砷、鐵等指標作為評價因子。
2.2 模糊神經網絡的應用
經過標準化處理后建立6-3-1結構的模糊神經網絡。由于活化函數值域范圍在[0，1]間，故設定水環境質量級別的目標輸出量是0.1、0.3、0.5、0.7、0.9（如表1） 。模型本次訓練選取學習效率[η]=0.9，動量系數[σ]=0.5，經過7600次迭代，網絡收斂，達到指定精度10-5。然后對輸出結果進行隸屬度計算，最終確定出水質級別，評價結果見表2。
2.3 結果分析
根據現有調查資料水庫目前的水化學類型為：H―Ca型水、總硬度（以CaCo3計算）124.31mg/L、PH值8.01、為弱堿性水，水質良好，適合飲用。通過計算發現，采用尼梅羅綜合污染指數法評價的水環境質量并無明顯變化，而應用模糊神經網絡計算后得出的結果水環境質量變化明顯，與現有實際調查情況一致。因此應用模糊神經網絡評價出的水環境質量結果是可靠的。
3 結論
本文將模糊神經網絡應用到水環境質量評價中，它將模糊算法或模糊權系數引入到神經網絡中，把模糊邏輯方法和神經網絡方法結合在一起，是一種新型的神經網絡?？朔藗鹘y水環境系統中變量間模糊性問題，該網絡具有很強的自適應、自學習的能力。通過實例應用，驗證了模糊神經網絡在水質評價方面的應用是可行的，結果是準確可靠的，該方法具有良好的應用前景。為保證城鎮居民飲水安全，及日后保護和管理水環境提供了科學依據。
參考文獻：
[1] 夏軍.區域水環境及生態環境質量評價――多級關聯評估理論與應用[M].武漢：武漢水利電大學出版社，1999.
[2] 陳守煜，趙瑛琪.模糊模式識別理論模型與水質評價[J ].水利學報，1991 ，6 ：35 ― 401.
[3] 尼探海，白玉慧.BP神經網絡模型在地下水水質評價中的應用[J].系統工程理論與實踐，2000，（8）：124-127.
[4] 王士同，神經模糊系統及其應用[M]，北京，北京航空航天大學出版社.
[5] 雪冬，邢建.新疆河流水質調查及評價[J].新疆環境保護，2003，25（2）：37-39.
第7篇：神經網絡的現狀范文
關鍵詞：小波分析；神經網絡；故障定位；配電網
作者簡介：李曉東（1975-），男，寧夏吳忠人，寧夏電力公司吳忠供電局，助理工程師。（寧夏 吳忠 751100）
中圖分類號：TM726 文獻標識碼：A 文章編號：1007-0079（2013）26-0201-03
配電網直接聯系用戶，其可靠供電能力和供電質量既是電力企業經濟效益的直接體現，又對應著不可估量的社會效益。配電網故障自動定位作為配電自動化的一個重要內容，對提高供電可靠性有很大影響，也得到了越來越多的重視。本文在分析研究小波神經網絡特征的基礎上利用小波的時頻分析能力與神經網絡的非線性擬合能力來建立故障特征與故障點的映射，確定故障點的位置。
一、配電網的故障特點
配電網絡拓撲結構復雜，節點眾多且分布廣泛。負荷沿配電線路分布不均勻，而且負荷性質也有很大差異，因此配網故障定位是一項十分艱巨的任務。配電網發生故障的幾率遠大于輸電網，因為配電網的設備為分散分布，采集信號相對困難，而且信號傳輸的距離越遠越容易發生畸變。配電網直接面向廣大的用戶，最易受到用戶端多種多樣不確定因素的影響，所以配電網的故障頻率及操作頻率都較高，運行方式和對應的網絡拓撲經常發生變化。[1]同時，配電網具有閉環設計開環運行的特點，有時會出現短暫的閉環運行，給故障定位帶來困難。
二、神經網絡在配網故障診斷中的應用原理
人工神經網絡（ANN）是一種連接機制模型，它是由大量人工神經元廣泛互聯而成的網絡，是在微觀結構上模擬人的認識能力，其知識處理所模擬的是人的經驗思維機制，決策時它依據的是經驗，而不是一組規劃，特別是在缺乏清楚表達規則或精確數據時神經網絡可產生合理的輸出結果。ANN的最大特點是依靠并行調節人工神經元之間的連接權值來隱含地處理問題，具有很強的自適應和自學習能力、非線性映射能力、魯棒性和容錯能力。
應用神經網絡進行電力系統報警處理和故障定位能在保護裝置誤動、數據丟失以及出現其他未考慮的報警類型時也能給出較精確的定位結果。[2，3]還可以結合小波分析比較精確地定位出故障位置進行隔離。
由于神經網絡自身具有很多的優點，應用現代數學工具通過準確地提取故障電氣量特征信息作為神經網絡的輸入進行訓練來提高神經網絡的定位性能將是一個很好的發展方向。
基于神經網絡的診斷系統結構圖如圖1所示。
三、小波變換
小波變換是繼Fourier變換之后又一有效的時頻分析方法，可以在一個時間和頻域的局域變換所以能有效地從信號中提取信息，可以對信號進行多尺度的細化分析。
小電流接地系統發生單相接地故障時，暫態接地電容電流幅值經常大于穩態時的幾倍到幾十倍，補償的電感電流也會增大。[4]這種情況下小波變換可以將暫態信號映射到由小波伸縮而成的一組基函數上。該函數具有很好地頻帶分割性，再根據小電流接地系統發生故障時零序電流分量的特點，即故障線路上的電流幅值比非故障線路幅值大得多且極性相反這一特征來進行故障點的定位。
四、小波神經網絡
1.小波神經網絡的拓撲結構
小波函數作為神經網絡的激勵函數與普通神經網絡的激勵函數在本質上是一致的，但是小波神經網絡只要尺度、位移以及權重的初始值設置得當，其函數逼近的效果更優于簡單的神經網絡。
在文獻[5]中對小電流接地系統單相接地故障暫態信號用prony方法進行分析時，已證實故障點位置不同時對應的故障暫態信號的特征分量也不同，它們之間存在著特定的對應關系。根據這個原理就可以利用小波分析來獲得故障暫態信號定時頻窗特征，將它映射到距離平面上實現故障定位。
小波神經網絡的結構如圖2所示，共有四層，分別為輸入層、小波變換層、隱含層、輸出層。小波變換層選取的神經元激勵函數為Morlet小波：
則在函數空間L2（R）中，一個信號f（t）的小波變換：
對網絡的輸出并不僅僅是簡單的加權求和，而是先對網絡隱含層小波節點的輸出值進行加權求和，再通過Sigmoid函數變換，最終得到的網絡輸出，有利于處理分類問題，[6，7]同時降低訓練過程中發散的可能性。
小電流單相接地故障檢測系統的小波神經網絡模型如圖2所示，輸入層的每一節點對應故障暫態時序序列，輸出包含的單個神經元，其值反映的是故障點的位置。
2.小波神經網絡的學習算法
進行訓練時需要在權值和閾值的修正算法中加入動量項，利用前一步得到的修正值來平滑學習路徑，防止陷入局部極小值，加速學習速度。[8]當逐個對樣本進行訓練時會引起權值與閾值修正時發生振蕩，為避免這種情況的發生可以采用成批訓練方法。
在式（1）中，當a>0時，信號f（t）可離散化fN（i），式（1）變為：
式子中，N為電流序列點總和，為信號的時間窗寬度。
前向運算：輸入采樣時間序列，小波變換層的輸出為：
按照上式的算法，分別計算出小波變換層的輸出量，其中j為小波變換層的總節點數。
隱層的輸入矢量，其中K表示隱層節點個數。；隱含層輸出矢量：；故障距離輸出。
給定P（P=1，2，3……p）組輸入輸出樣本，學習率為，動量因子是目標誤差函數為：
式中：——輸出層第n個節點的期望輸出；——網絡實際輸出。
算法要實現的目標就是不斷調整網絡的各項參數，使最終的誤差函數獲得最小值。
隱含層與輸出層之間的權值調整式：
輸入層與隱層結點之間的權值調整式：
伸縮因子調整式：
平移因子調整式：
五、小波與神經網絡在配網故障診斷中的應用
1.系統整體設計
本文采用EMTP/ATP軟件進行仿真。設計系統為中性點不接地系統，母線電壓等級為35kV，仿真時間是0.1S，故障發生時間是0.05S，采樣頻率是4000Hz，可充分滿足暫態電容電流自由振動頻率的要求；線路參數：正序阻抗；正序容納；零序阻抗；零序容納。圖3為小電流接地系統。
變化故障點位置和接地電阻形成的學習故障模式集為：在配電網全程線路上選擇故障點，是距離變化的步長，；故障過渡電阻。
2.故障定位效果分析
為了較好地檢測訓練后神經網絡的真實定位效果，需要選取網絡的非學習樣本來檢驗。選取故障點故障過渡電阻。進行組合20×2=40個測試故障模式，按照與形成學習樣本相同的預處理方法形成輸入矢量集合，經過網絡的前向運算得到故障的定位結果。
接地電阻時，故障定位結果，如表1所示。
接地電阻時，故障定位結果，如表2所示。
由表1和表2可得，經過訓練后的小波神經網絡可以很好地擬合輸入矢量和故障點的位置對應關系。對于神經網絡測試的樣本，該誤差基本在1%以下，具有較滿意的定位結果。此故障定位方案之所以精確是因為兩方面的原因：一是小電流接地系統通常情況下是直接面向用戶的，為單電源系統，雖然具有復雜多變的運行方式，但大多數運行參數可知，該方案在一定程度上降低了運行參數的模糊性；二是小波神經網絡在故障之后暫態高頻信息的提取與應用是定位原理的關鍵所在。因此，經過訓練后的小波神經網絡故障定位精確可靠。
六、結論
本文利用小波神經網絡的特點解決配電網故障定位中的問題，小波神經網絡具備小波與神經網絡共同的特點，既具有對非平穩隨機信號所具有的優越的時頻局部特性又具有非線性擬合能力，具有充分的理論依據。在對所建立的小電流接地系統進行仿真的結果分析可知，該定位方案精確度較高、方便可靠。
參考文獻：
[1]郭三中.基于小波神經網絡的配電網故障定位研究J].電力系統自動化，2010，（12）：27-30.
[2]季濤，孫同景，薛永端.配電網故障定位技術現狀與展望[J].繼電器，2005，33（24）：32-37.
[3]張振飛，夏利民.基于神經網絡的滾動軸承故障診斷智能方法[J].信息技術，2008，（8）：35-55.
[4]李振然.基于小波變換與BP神經網絡相結合的配電網單相接地故障定位方法[J].繼電器，2004，32（9）：24-26.
[5]郜洪亮，楊學昌.一種配電線路單相接地故障測距算法[J].清華大學學報（自然科學版），1999，39（9）：33-36.
[6]李玉，潘亞平，魏海平.小波神經網絡及其研究進展[J].科技信息，2006，（9）：24-25.
第8篇：神經網絡的現狀范文
關鍵詞：神經網絡；全要素生產率；預測；生產物流
中圖分類號：F513.2 文獻標識碼：A
未來經濟發展狀況一直是人們探討的問題。經濟預測是在一定的經濟理論指導下，以經濟發展的歷史和現狀為出發點，以調研資料和統計數據為依據，在對經濟發展過程進行定性分析和定量分析的基礎上，對經濟發展的未來情況所作出的推測。由于經濟現象紛繁復雜，能獲取的統計資料有限，現有的經濟預測理論與方法還不能對此給予完全合理的解釋和有效的預測，經濟預測的實效往往不佳，為此本文引入神經網絡方法對中國制造業生產率進行短期預測，獲取促進制造業生產率發展的具體途徑，同時，也為經濟領域同類短期預測準確性的解決提供一種可行的思路和方法。
一、BP神經網絡的基本原理
BP（Back Propagation）網絡能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法，通過反向傳播來不斷調整網絡的權值和閾值，使網絡的誤差平方和最小[1，2]。BP神經網絡模型拓撲結構包括輸入層（input layer）、隱層(hidden layer)和輸出層(output layer)（如圖1所示）。
二、BP神經網絡訓練程序的編制
借助于MATLAB神經網絡工具箱[3]來實現多層前饋BP網絡的轉換，免去了許多編寫計算機程序的煩惱。神經網絡的實際輸出值與輸入值以及各權值和閾值有關，為了使實際輸出值與網絡期望輸出值相吻合，可用含有一定數量學習樣本的樣本集和相應期望輸出值的集合來訓練網絡。
1.訓練參數的設定
訓練參數的設定：一般先對如下參數進行賦值：
最大訓練步數：net.trainParam.epochs=1000
最小梯度差：net.trainParam.min-grad=-3
精度目標值：net.trainParam.goal=1e-4
顯示間隔：net.trainParam.show=20
動量系數：net.trainParam.mc=0.9
學習率：net.trainParam.lr=0.5
2.設計網絡函數
設計網絡函數newff：用于創建前饋式BP網絡，調用語法為：
net=newff(PR,[S1 S2…SN1],{TF1 TF2…TFN1},BTF,BLF,PF)
PR―R×2矩陣，由訓練樣本R個輸入的最大最小值構成
Si―第i層節點數，輸入層節點數為3個，依次為制造業工業增加值、制造業全社會固定資產投資和工資；輸出層節點數為2個，依次為當年和下一年的全要素生產率；這里主要問題是隱層的確定，從兩個方面入手：
第9篇：神經網絡的現狀范文
關鍵詞：高速公路；隧道施工系統；安全評價；模糊理論；神經網絡
0引言
近年來，隨著國家高速公路迅猛發展，隧道建設數量也越來越多，規模也越來越大。在隧道施工過程中，由于圍巖地質條件的多樣性和復雜性，其施工事故發生率比其他巖土工程高且嚴重，給隧道工程施工人員身心帶來嚴重的危害，社會影響惡劣，有悖于國家建設和諧社會的宗旨。這就要求用科學的方法對隧道施工生產系統進行安全分析與評估，預測事故發生的可能性[1]。
在傳統的公路隧道施工生產系統安全評價中，經常使用的安全評價方法主要以定性安全評價方法為主，如專家論證法、安全檢查表法及作業條件危險性評價法等[2,3]。近年來，在公路隧道施工生產系統安全評價中，引人了模糊綜合評價的方法，取得了較好的決策效果[4]。但是，該方法缺乏對環境變化的自學習能力，對權值不能進行動態調整[5],而神經網絡具有非線性逼近能力,具有自學習、自適應和并行分布處理能力，但其對不確定性知識的表達能力較差，因此，模糊控制與神經網絡結合就可以優勢互補，各取所長[6]，在這方面已經出現了一些研究成果[7～11]。為此，本文把人工神經網絡理論與模糊綜合評價理論相融合，研究建立了一種模糊神經網絡評價模型，對公路隧道施工的安全管理水平進行評價。
1模糊神經網絡
1.1基本結構原理
模糊神經網絡是由與人腦神經細胞相似的基本計算單元即神經元通過大規模并行、相互連接而成的網絡系統，訓練完的網絡系統具有處理評估不確定性的能力，也具有記憶聯想的能力，可以成為解決評估問題的有效工具，對未知對象作出較為客觀正確的評估。
根據評估問題的要求，本文采用具有多輸人單元和五輸出單元的三層前饋神經網絡，其中包括神經網絡和模糊集合兩方面的內容。
1.2神經網絡
為了模擬人腦結構和功能的基本特性，前饋神經網絡由許多非線性神經元組成，并行分布，多層連接。Robert Hecht一Nielson于1989年證明了對于任何在閉區間內的一個連續函數都可以用一個隱層的BP網絡來逼近[12]，因而一個三層的BP網絡完全可以完成任意的輸人層到輸出層的變換。因此，本文研究的公路隧道施工系統安全評價模糊神經網絡采用三層BP神經網絡結構。輸人層有 個神經元，輸人向量 ， ，輸人層神經元 的輸出是輸人向量的各分分量 。隱層有個神經元 ， ，若輸人層神經元 與隱層神經元 之間的連接權值為 ，且隱層神經元 的閾值為 ，則隱層神經元 的輸出為
(l)
式中 是神經元的激勵函數，一般選取單調遞增的有界非線性函數，這里選用Sigmoid函數：
(2)
由此，隱層神經元的輸出為：
(3)
同理可得輸出層神經元的輸出為：
(4)
1.3學習算法
本網絡采用BP學習算法，它是一種有教師的學習算法，其學習過程由信號的正向傳播和誤差的反向傳播組成?；驹硎牵涸O輸人學習樣本為 個，即輸人矢量 ，已知其對應的期望輸出矢量(教師信號)為 ，正向傳播過程將學習樣本輸人模式 從輸人層經隱含單元層逐層處理，并傳向輸出層，得到實際的輸出矢量 ，如果在輸出層不能得到期望輸出 ，則轉人反向傳播，將 與 的誤差信號通過隱層向輸入層逐層反傳，并將誤差分攤給各層的所有單元，從而調整各神經元之間的連接權值，這種信號正向傳播與誤差反向傳播得各層權值調整過程是周而復始地進行的，直到網絡輸出的誤差減少到可接受的程度，或進行到預先設定的學習次數為止。
網絡的具體學習算法的計算模型如下：
對某一學習樣本 ，誤差函數為
（5）
式中： 、 分別為該樣本的輸出期望值和實際值。
對于所有學習樣本 ，網絡的總誤差為
（6）
網絡學習算法實際上就是求誤差函數的極小值。利用非線性規劃中的梯度下降法(最速下降法)，使權值沿著誤差函數的負梯度方向改變。
隱層與輸出層之間的權值(及閾值) 的更新量 可表示為
（7）
式中： 為學習率，可取 。
將式（6）和（4）代入式（7），并利用復合函數求導的連鎖規則，得
（8）
式中： 為迭代次數， 為誤差信號
（9）
類似的，輸入層與隱層之間的權值（及閾值）修正為
（10）
同理可得
式中 為誤差信號
（11）
為了改善收斂性，提高網絡的訓練速度，避免訓練過程發生振蕩，對BP算法進行改進，在權值調整公式中增加一動量項，即從前一次權值調整量中取出一部分迭加到本次權值調整量中，即：
（12）
（13）
式中 為動量因子，一般有 。
1.4模糊集合
評估指標集由表征一類評估決策問題的若干性能指標組成。由于指標的量化含有不確定性，故用模糊方法加以處理[13]。評估指標的模糊集合 可表示為
（14）
式中： 是評估指標， 是相應指標的評價滿意度， 。
評估指標集用其滿意度表示，取值在[0，1]之間，作為模糊神經網絡系統中神經網絡的輸人向量，這正好符合神經網絡對輸人向量特征化的要求。實踐表明，經過對輸人向量的特征化處理，可大大減少網絡的學習時間，加速網絡訓練的收斂。
2隧道施工系統安全評價模糊神經網絡
2.1指標體系與神經網絡劃分
實踐證明，一個好的隧道施工系統安全評價方法應滿足以下要求：評價指標能全面準確地反映出隧道施工系統的狀況與技術質量特征；評價模式簡單明了，可操作性強，易掌握；評價結論能反映隧道施工系統的合理性、經濟性及安全可靠性；評價中所采用的數據易于獲取，數據處理工作量小；頂層輸出即為系統的專家評估，而每層各評估項目的子系統都可以用子結構表示。
每個子結構具有輸人輸出關系可表達為
（15）
其中 是子系統的輸出， 是子系統的輸人矢量， 為相應的專家(加權)知識。
評估專家系統中各子系統的評估由各自的模糊神經網絡來完成。
這種對評估系統的結構分解和組合具有如下特點：
（1）每個子系統可以采用較少的神經元來實現神經網絡的自學習和知識推理，這樣既減少了學習樣本數、提高了樣本訓練速度，又能夠獨立完成某一推理任務。
（2）分解的各子系統具有相對獨立性，便于系統的修改、擴展和子系統的刪除，從而具有良好的維護性。
（3）子系統的評估項目即為節點，在系統進行評估推理時產生的評估表示式可以很好地解釋評估系統的推理過程，避免了神經網絡權值難以理解所致的推理過程難以理解的弱點。
2.2網絡的設計
評估問題是前向處理問題，所以選用如前所述的前向型模糊神經網絡來實現。
（1）輸人層
輸人層是對模糊信息進行預處理的網層，主要用于對來自輸人單元的輸人值進行規范化處理，輸出由系統模糊變量基本狀態的隸屬函數所確定的標準化的值，以便使其適應后面的處理。根據評價指標體系，對應20個指標構建BP網絡的輸入層為20個節點，將指標轉換為相應指數后作為樣本進入網絡進行計算。
（2）隱層(模糊推理層)
該層是前向型模糊神經網絡的核心，用以執行模糊關系的映射，將指標狀態輸入與評估結果輸出聯系起來。采用試探法選取模型的隱含層神經元數，即首先給定一個較小的隱含層神經元數，代入模型觀察其收斂情況，然后逐漸增大，直至網絡穩定收斂。通過計算該模型的隱含層神經元數為28個。
（3）輸出層
輸出層是求解模糊神經網絡的結果，也是最后的評估結果。我們把評價因素論域中的每一因素分成5個評價等級，即
={安全（ ），較安全（ ），安全性一般（ ），較不安全（ ），不安全（ ）}
對應這5個等級，確定輸出層為5個節點。這樣就構建了一個“20―28―5”的3層BP網絡作為評價體系的網絡模型。
2.3模糊神經網絡訓練
網絡設計好后,須對其進行訓練，使網絡具有再現專家評估的知識和經驗的能力。樣本數據來自我省已經建成的高速公路隧道施工的現場數據庫，從中選取30組，其中20組數據作為訓練樣本，余下的10組作為測試樣本。實際網絡訓練表明，當訓練步數為12875時，達到了目標要求的允差，獲得模糊神經網絡各節點的權值和閾值，網絡訓練學習成功。根據最大隸屬度原則進行比較，與期望結果相符，其準確率為100%。這說明所建立的隧道施工系統安全評價模糊神經網絡模型及訓練結果可靠。
3 工程應用實例
利用所訓練好的模糊神經網絡模型，對江西省正在施工的某高速公路A3合同段3座隧道（北晨亭隧道、洪家坂隧道和窯坑隧道）施工系統進行安全評價測定，評價出系統的安全狀況與3座隧道施工實際情況完全相符。同時，實際系統的評價結果又可作為新的學習樣本輸入網絡模型，實現歷史經驗和新知識相結合,在發展過程中動態地評價系統的安全狀態。
4 結論
（1）本文對模糊理論與神經網絡融合技術進行了研究，建立了一種公路隧道施工系統安全模糊神經網絡評價模型，利用歷史樣本數據進行學習訓練和測試，并對工程實例進行了評價。結果顯示，該評價方法可行，評價精度滿足工程應用要求,為公路隧道施工安全評價探索了一種新的評價方法。
（2）運用模糊神經網絡知識存儲和自適應性特征，通過適當補充學習樣本，可以實現歷史經驗與新知識完美結合，在發展過程中動態地評價公路隧道施工系統的安全狀態，可及時評估出施工系統的安全狀況，盡早發現安全隱患。
參考文獻：
[1]徐德蜀.安全科學與工程導論[M].北京:化學工業出版社,2005.
[2]劉鐵民,張興凱,劉功智.安全評價方法應用指南[M].北京:化學工業出版社,2005.
[3]田建,李志強,張斌.交通建設工程安全評價技術現狀及趨勢研究[J].中國安全科學學報,2008,18(6):171-176.
[4]張鴻,劉優平,黎劍華等.基于模糊理論的隧道施工安全預警模型研究及應用[J].中國安全科學學報,2009.19(4):5-10.
[5]劉輝,王海寧,呂志飛.模糊神經網絡技術在礦山安全評價中的適應性研究[J].中國安全生產科學技術,2005,1(3):54-59.
[6]張吉禮.模糊-神經網絡控制原理與工程應用[M].哈爾濱:哈爾濱工業大學出版社,2004.
[7]葛淑杰,李彥峰,姜天文等.基于模糊神經網絡的煤礦安全評價綜合評判[J].黑龍江科技學院學報,2007,17(4):321-325.
[8]鄭恒,汪佩蘭.模糊神經網絡在火工品生產系統安全評價中的應用[J].安全與環境學報,2004,4:159-162.
[9田軍.基于模糊神經網絡的隧道圍巖分級系統[J].湖南交通科技,2007,34(4):104-107.
[10]郭宇航,王保國.兩類新型神經網絡及其在安全評價中的應用[J].中國安全科學學報,2008,18(7):28-33.
[11]宋瑞,鄧寶.神經元網絡在安全評價中的應用[J].中國安全科學學報,2005,15(3):78-81.
[12]韓力群.人工神經網絡理論、設計及應用[M].北京:化學工業出版社,2007.
[13]楊綸標,高英儀.模糊數學原理及應用[M].廣州:華南理工大學,2005.
