小波神经网络、模糊神经网络简介

小波分析 (wavelet Analysis) 是 20 世纪 80 年代中期发展起来的一门数学理论和方法 ,由法国科学家 Grossman 和 Morlet 在进行地震信号分析时提出的 , 随后迅速发展。 1985 年 Meyer 在一维情形下证明了小波函数的存在性 , 并在理论上作了深入研究。 Mallat 基于多分辨分析思想 , 提出了对小波应用起重要作用的Mallat算法 , 它在小波分析中的地位相当子FFT 在经典Fourier分析中的地位。小波分析理论的重要性及应用的广泛性引起了科技界的高度重视。小波分析的出现被认为是傅立叶分析的突破性进展 ,在逼近论、微分方程、模识识别、计算机视觉、图像处理、非线性科学等方面使用小波分析取得于许多突破性进展。

小波变换的基本思想类似于Fourier变换, 就是用信号在一簇基函数张成的空间上的投影表征该信号。经典的Fourier 变换把信号按三角正、余弦基展开 , 将任意函数表示为具有不同频率的谐波函数的线性迭加 , 能较好地刻划信号的频率特性,但它在时域或空域上无任何分辨,不能作局部分析。这在理论和应用上都带来了许多不足。为了克服这一缺陷 , 提出了加窗Fourier变换。 通过引人一个时间局部化 " 窗函数 " 改 进了Fourier变换的不足 , 但其窗口大小和形状都是固定的 , 没有从根本上弥补Fourier变换的缺陷。而小波变换在时域和频域同时具有良好的局部化性能 , 有一个灵活可变的时间-频率窗 , 这在理论和实际应用都有重要意义。

小波变换具有时频局部特性和军焦特性 ,而神经网络具有自学习、自适应、鲁棒性、容错性和推广能力。如何把两者的优势结合起来 ,一直是人们关注的问题。一种方法是用小波分析对信号进行预处理 , 即以小波空间作为模式识别的特征空间 , 通过小波分析来实现信号的特征提取 , 然后将提取的特征向量送入神经网络处理 ; 另一种即所谓的小波神经网络 (Wavelet Neural Network,WNN) 或小波网络 (Wavelet Network WN) 。小波神经网络最早是由法国著名的信息科学研究机构 IRLSA的 Zhang Qinghu等人1992年提出来的。小波神经用络是基于小波变换而构成的神经网络模型,即用非线性小波基取代通常的神经元非线性激励函数(如Sigmoid函数),把小波变换与神经网络有机地结合起来,充分继承了两者的优点。近几年来,国内外有关小波网络的研究报告层出不穷。小波与前馈神经网络是小波网络的主要研究方向。小波还可以与其他类型的神经网络结合,例如Kohonen网络对信号做自适应小波分解。

模糊神经网络在本质上就是将常规的神经网络（如：前向反馈网络，hopfield神经网络）赋予模糊的输入信号和模糊的权值。

通常有以下几种类型：

1. 模糊神经网络具有实数输入信号，且具有模糊权值。

2. 模糊神经网络具有模糊输入信号，且具有实数权值。

3. 模糊神经网络具有模糊输入信号，且具有模糊权值。

模糊神经网络也是一个全局逼近器。

模糊神经网络与模糊系统有区别也有联系，

联系通常表现为：在许多模糊神经网络在本质上是模糊系统的实现。

区别通常表现为：模糊神经网络又表现为神经网络之特征。

模糊神经网络常见的学习算法有：

1. 反向传播学习算法

2. 模糊反向传播学习算法

3. 基于alpha－截集的反向传播学习算法

4. 随机搜索学习算法

5. 遗传学习算法

模糊神经网络的主要应用为：

1. 模糊回归问题的研究

2. 模糊控制

3. 模糊专家系统

4. 模糊分级分析

5. 模糊矩阵方程

6. 模糊建模

7. 模糊模式识别

人工智能缩略语大全

ACO Ant Colony Optimization 蚁群算法

AI Artificial Intelligence 人工智能

ANN Artifical Neural Network 人工神经网络

ART Adaptive Resonance Theory 自适应谐振理论

ARMA Autoregressive Moving Average 自回归移动取平均

BSP Blind Signal Processing 盲信号处理

BSS Blind Signal Separation 盲信号分离

BAM Bidirectional Associative Memory 双向联想记忆

BSE Blind Signal Extraction 盲信号抽取

BP Back Propagation 反向传播

CI Computational Intelligence 计算智能

CN Control Network 控制网络

CIMS Computer Intergrated Manufacturing System 计算机集成制造系统

CSP Car Sequencing Problem 车辆排序问题

CAP Channel Assignment Problem 信道分配问题

CAM Competive Activation Mechanism 竞争机制

DM Data Mining 数据采掘

DB Database 数据库

DEFK Decoupled EFK 解藕 EFK

DCA Dynamic Component Analysis 动态分量分析

EA Evolutionary Algorithm 进化算法

EC Evolutionary Compuration 进化计算

EP Evolutionary Program 进化程序

ERM Empirical Risk Minimization 最小经验风险

EM Expectation Maximization 最大期望

EHM Extendel Hopfield Model 扩展 Hopfield 模型

ECG Electrocardiogram 心电图

EEG Electroencephalogram 脑电图

FIS Fuzzy Inference System 模糊推理系统

FNN Fuzzy Neural Network 模糊神经网络

FMRI Functional Magnetic Resonance Imaging 功能磁谐振成像

FL Fuzzy Logics 模糊逻辑

FLC Fuzzy Logic Controller 模糊逻辑控制器

FCM Fuzzy C-Means 模糊 C-平均

FA Factor Analysis 因子分析

FR Filter Regressor 滤波回归

GA Genetic Algorithm 遗传算法

GEKF Global EKF 扩展 Kalman 滤波

GPP Graph Partitioning Problem 图分割问题

GCN Generalized Clustering Network 广义聚类网络

GMDH Group Method of Data Handling 集群数据处理技术

HMM Hidden Markov Model 隐含马尔可夫模型

HNN Hopfield Neural Network Hopfield 神经网络

HM Hopfield Model Hopfield 模型

HCM Hard C-Means 硬 C-平均

ICA Independent Component Analysis 独立分量分析

IDN Identification Network 辩识网络

IFA Independent Factor Analysis 独立因子分析

KDD Knowledge Discovery In Database 数据挖掘

KCN Kohonen Clustering Network Kohonen 聚类网络

LVQ Learning Vector Quantization 学习向量量化

MLFN Multilayer Feedfoward Neural Network 前向多层神经网络

MLP Multilayer Perceptron 多层感知机

MISO Multi-Input Single-Output 多输入单输出

MIMO Multi-Input Multi-Output 多输入多输出

MLE Maximum Likelihood Estimation