卷積神經網絡的發展
前言：想要寫出一篇令人眼前一亮的文章嗎？我們特意為您整理了5篇卷積神經網絡的發展范文，相信會為您的寫作帶來幫助，發現更多的寫作思路和靈感。
卷積神經網絡的發展范文第1篇
中圖分類號：TP18 文獻標識碼：A 文章編號：1009-3044（2016）35-0209-03
Research and Implementation of Image Classification Based on Convolution Neural Network
WANG Chao
（Information Engineering Institute，East China University of Technology， Nanchang 330013， China）
Abstract： The problem of image classification has been the core problem in computer vision. A good solution is developed by further study which can solve the problem of extracting image features in image classification. In order to learn image features efficiently， constructing the machine learning model with hidden layer as well as training a large number of image data will eventually promote the accuracy of image classification or prediction. This paper is intended as an in-depth Caffe learning framework to construct a small image data-base. The convolutional neural network provided by Caffe framework will make a training analysis of the data set and then extract the information of target image features. These can be used for the final prediction of the target image. Compared with the traditional image classification algorithm， the accuracy of the prediction will be greatly improved.
Key words： image classification； deep learning； Caffe framework； Convolutional Neural Network
S著計算機與互聯網技術的快速發展，我們已經進入了一個以圖像構建的世界。但是面臨有海量圖像信息卻找不到所需要的數據的困境，因而圖像分類技術應運而生。通過各種機器學習算法使計算機自動將各類圖像進行有效管理和分類，但是由于圖像內容包含著大量復雜且難以描述的信息，圖像特征提取和相識度匹配技術也存在一定的難題，要使得計算機能夠像人類一樣進行分類還是有很大的困難。
深度學習是近十年來人工智能領域取得的重要突破，在圖像識別中的應用取得了巨大的進步，傳統的機器學習模型屬于神經網絡模型，神經網絡有大量的參數，經常會出現過擬合問題，因而對目標檢測準確率上比較低。本文采用卷積神經網絡框架，圖像特征是從大數據中自動學習得到，而且神經網絡的結構深由很多層組成，通過重復利用中間層的計算單元來減少參數，在特征匯聚階段引入圖像中目標的顯著信信息，增強了圖像的特征表達能力。通過在圖像層次稀疏表示中引入圖像顯著信息，加強了圖像特征的語義信息，得到圖像顯著特征表示，通過實驗測試，效果比傳統的圖像分類算法預測的準確度有明顯的提升。
1 基于卷積神經網絡的圖像分類方法
1.1 人工神經網絡
人工神經網絡（Artificial Neural Network， ANN）是描述生物神經網絡運行機理和工作過程的抽象和簡化了的數學物理模型，使用路徑權值的有向圖來表示模型中的人工神經元節點和神經元之間的連接關系，之后通過硬件或軟件程序實現上述有向圖的運行[1]。目前最典型的人工神經網絡算法包括：目前最典型的人工神經網絡有BP網絡 [2]Hopfield網絡[3]Boltzmann機[4]SOFM網絡[5]以及ART網絡人工神經網絡[6]，算法流程圖如圖1所示[7]。
1.2 卷積神經網絡框架的架構
Caffe是Convolutional Architecture for Fast Feature Embedding的縮寫[8]，意為快速特征嵌入的卷積結構，包含最先進的深度學習算法以及一系列的參考模型，圖2表示的是卷積神經網絡結構圖。Caffe深度學習框架主要依賴CUDA，IntelMKL，OpenCV，glog軟件以及caffe文件。本文使用的各個軟件版本說明，如表1所示。
Caffe深度學習框架提供了多個經典的卷積神經網絡模型，卷積神經網絡是一種多層的監督學習神經網絡，利用隱含層的卷積層和池采樣層是實現卷積神經網絡特征提取功能，卷積神經網絡模型通過采取梯度下降法最小化損失函數對網絡中的權重參數逐層反向調節，通過頻繁的迭代訓練來提高網絡的精度。卷積神經網絡使用權值共享，這一結構類似于生物神經網絡，從而使網絡的復雜程度明顯降低，并且權值的數量也有大幅度的減少，本文使用這些模型直接進行訓練，和傳統的圖像分類算法對比，性能有很大的提升，框架系統訓練識別基本流程如圖3表示。
1.3 圖像分類特征提取
卷積神經網絡的結構層次相比傳統的淺層的神經網絡來說，要復雜得多，每兩層的神經元使用了局部連接的方式進行連接、神經元共享連接權重以及時間或空間上使用降采樣充分利用數據本身的特征，因此決定了卷積神經網絡與傳統神經網絡相比維度大幅度降低，從而降低計算時間的復雜度。卷積神經網絡主要分為兩個過程，分為卷積和采樣，分別的對上層數據進行提取抽象和對數據進行降維的作用。
本文以Caffe深度學習框架中的 CIFAR-10數據集的貓的網絡模型為例，如圖4所示，對卷積神經網絡模型進行訓練。CIFAR-10是一個標準圖像圖像訓練集，由六萬張圖像組成，共有10類（分為飛機，小汽車，鳥，貓，鹿，狗，青蛙，馬，船，卡車），每個圖片都是32×32像素的RGB彩色圖像。通過對數據進行提取和降維的方法來提取圖像數據的特征。
2 實驗分析
將貓的圖像訓練集放在train的文件夾下，并統一修改成256×256像素大小，并對貓的圖像訓練集進行標記，標簽為1，運行選擇cpu進行訓練，每進行10次迭代進行一次測試，測試間隔為10次，初始化學習率為0.001，每20次迭代顯示一次信息，最大迭代次數為200次，網絡訓練的動量為0.9，權重衰退為0.0005，5000次進行一次當前狀態的記錄，記錄顯示如下圖5所示，預測的準度在98%以上。而相比傳統的圖像分類算法BP神經網絡網絡的收斂性慢，訓練時間長的，網絡的學習和記憶具有不穩定性，因而卷e神經網絡框架在訓練時間和預測準度上具有非常大的優勢。
3 結束語
本文使用Caffe深度學習框架，以CIFAR-10數據集中貓的網絡模型為例，構建小型貓的數據集，提取貓的圖象特征信息，最后和目標貓圖像進行預測，并和傳統的圖像分類算法進行對比，預測的準確率有很大的提升。
參考文獻：
[1] 楊錚， 吳陳沭， 劉云浩. 位置計算： 無線網絡定位與可定位性[M]. 北京： 清華大學出版社， 2014.
[2] 丁士折. 人工神經網絡基礎[M]. 哈爾濱： 哈爾濱工程大學出版社， 2008.
[3] McClelland J L， Rumelhart D E， PDP Research Group. Parallel distributedprocessing[J]. Explorations in the microstructure of cognition， 1986， 2.
[4] Hopfield J J. Neural networks and physical systems with emergent collectivecomputational abilities[J]. Proceedings of the national academy of sciences， 1982， 79（8）： 2554-2558.
[5] Ackley D H， Hinton G E， Sejnowski T J. A learning algorithm for boltzmannmachines[J]. Cognitive science， 1985， 9（1）： 147-169.
[6] Kohonenmaps T. Self-Organized Formation of Topologically Correct Feature Maps[J]. Biological Cybernetics，1982， 43（1）： 59-69.
卷積神經網絡的發展范文第2篇
關鍵詞：卷積神經網絡；圖像分類；空間變換；可變形卷積
DOIDOI：10.11907/rjdk.171863
中圖分類號：TP317.4
文獻標識碼：A 文章編號：1672-7800（2017）006-0198-04
0 引言
圖像分類一直是計算機視覺領域的一個基礎而重要的核心問題，具有大量的實際應用場景和案例。很多典型的計算機視覺問題（如物體檢測、圖像分割）都可以演化為圖像分類問題。圖像分類問題有很多難點需要解決，觀測角度、光照條件的變化、物體自身形變、部分遮擋、背景雜波影響、類內差異等問題都會導致被觀測物體的計算機表示（二維或三維數值數組）發生劇烈變化。一個良好的圖像分類模型應當對上述情況（以及不同情況的組合）不敏感。使用深度學習尤其是深度卷積神經網絡，用大量圖像數據進行訓練后可以處理十分復雜的分類問題。
卷積神經網絡是為識別二維形狀而專門設計的一個多層感知器，這種網絡結構對平移、縮放、傾斜等擾動具有高度不變性，并且具有強大的特征學習與抽象表達能力，可以通過網絡訓練獲得圖像特征，避免了復雜的特征提取與數據重建過程。通過網絡層的堆疊，集成了低、中、高層特征表示。AlexNet等網絡模型的出F，也推動了卷積網絡在海量圖像分類領域的蓬勃發展。
1 卷積神經網絡
卷積神經網絡是人工神經網絡的一種，其“局部感知”“權值共享”[1]等特性使之更類似于生物神經網絡，網絡模型復雜度大大降低，網絡訓練更容易，多層的網絡結構有更好的抽象表達能力，可以直接將圖像作為網絡輸入，通過網絡訓練自動學習圖像特征，從而避免了復雜的特征提取過程。
Yann LeCun等[2]設計的LeNet-5是當前廣泛使用的卷積網絡結構原型，它包含了卷積層、下采樣層（池化層）、全連接層以及輸出層，構成了現代卷積神經網絡的基本組件，后續復雜的模型都離不開這些基本組件。LeNet-5對手寫數字識別率較高，但在大數據量、復雜的物體圖片分類方面不足，過擬合也導致其泛化能力較弱。網絡訓練開銷大且受制于計算機性能。
2012年，在ILSVRC競賽中AlexNet模型[3]贏得冠軍，將錯誤率降低了10個百分點。擁有5層卷積結構的AlexNet模型證明了卷積神經網絡在復雜模型下的有效性，并將GPU訓練引入研究領域，使得大數據訓練時間縮短，具有里程碑意義。AlexNet還有如下創新點：①采用局部響應歸一化算法（Local Response Normalization，LRN），增強了模型的泛化能力，有效降低了分類錯誤率；②使用Dropout技術，降低了神經元復雜的互適應關系，有效避免了過擬合；③為了獲得更快的收斂速度，AlexNet使用非線性激活函數ReLU（Rectified Linear Units）來代替傳統的Sigmoid激活函數。
Karen等[4]在AlexNet的基礎上使用更小尺寸的卷積核級聯替代大卷積核，提出了VGG網絡。雖然VGG網絡層數和參數都比AlexNet多，但得益于更深的網絡和較小的卷積核尺寸，使之具有隱式規則作用，只需很少的迭代次數就能達到收斂目的。
復雜的網絡結構能表達更高維的抽象特征。然而，隨著網絡層數增加，參數量也急劇增加，導致過擬合及計算量大增，解決這兩個缺陷的根本辦法是將全連接甚至一般的卷積轉化為稀疏連接。為此，Google團隊提出了Inception結構[5]，以將稀疏矩陣聚類為較為密集的子矩陣來提高計算性能。以Inception結構構造的22層網絡GoogLeNet，用均值池化代替后端的全連接層，使得參數量只有7M，極大增強了泛化能力，并增加了兩個輔助的Softmax用于向前傳導梯度，避免梯度消失。GoogLeNet在2014年的ILSVRC競賽中以Top-5錯誤率僅6.66%的成績摘得桂冠。
網絡層數的增加并非永無止境。隨著網絡層數的增加，將導致訓練誤差增大等所謂退化問題。為此，微軟提出了一種深度殘差學習框架[6]，利用多層網絡擬合一個殘差映射，成功構造出152層的ResNet-152，并在2015年的ILSVRC分類問題競賽中取得Top-5錯誤率僅5.71%的成績。隨后，對現有的瓶頸式殘差結構進行改進，提出了一種直通結構[7]，并基于此搭建出驚人的1001層網絡，在CIFAR-10分類錯誤率僅4.92%。至此，卷積神經網絡在越來越“深”的道路上一往直前。
2 可變形的卷積神經網絡
2.1 空間變換網絡
空間變換網絡（Spatial Transformer Network，STN）[8]主要由定位網絡（Localisation net）、網格生成器（Grid generator）和可微圖像采樣（Differentiable Image Sampling）3部分構成，如圖1所示。
定位網絡將輸入的特征圖U放入一個子網絡（由卷積、全連接等構成的若干層子網絡），生成空間變換參數θ。θ的形式可以多樣，如需要實現2D仿射變換，那么θ就是一個2×3的向量。
2.3 本文模型
本文以自建的3層卷積網絡C3K5（如圖6所示）和VGG-16作為基準網絡，分別引入空間變換網絡、可變形卷積和可變形池化，構造出8個卷積神經網絡，用以驗證可變形模塊對淺層網絡和深層網絡的影響，如表1所示。
圖6中C3K5網絡模型包含3個帶有ReLU層、LRN層和池化層的卷積模塊，卷積層采用步長為1的5×5卷積核，輸出保持原大小，池化層采用步長為2核為2×2的最大值池化，即每經過一個卷積模塊，特征圖縮小為原來的一半。
3 實驗與分析
3.1 實驗設置
本文實驗環境：CPU為Intel i5-7400，8G內存，顯卡為GTX1060，采用Cuda8+CuDNN6.0加速。
實驗數據集包括公共圖像數據集mnist、cifar-10、cifar-100和自建圖像數據集pen-7。公共數據集分別有50 000張訓練樣本圖像和10 000張測試樣本圖像。自建數據集pen-7為京東商城的七類筆圖像庫，每類有600張圖片，圖像分辨率為200×200，總計訓練樣本數3 360，測試樣本數840， 圖7為其中的14個樣本。
3.2 結果與分析
分別將表1中的10個卷積網絡應用到mnist、cifar-10、cifar-100和pen-7四個數據集進行訓練，batch-size設置100，即每次傳入100張圖片進行訓練，每訓練100次測試一次（記為一次迭代），總共迭代100次，取最后10次迭代的準確率計算平均值，得各網絡應用在不同數據集的分類結果，如表2所示。
實驗結果表明，在卷積網絡中引入空間變換網絡、用可變形的卷積層和可變形的池化層替換傳統的卷積層和池化層，不管是在淺層網絡還是在深層網絡，都能獲得更高的分類準確率，這驗證了空間變換網絡和可變形卷積（池化）結構，豐富了卷積神經網絡的空間特征表達能力，提升了卷積網絡對樣本的空間多樣性變化的魯棒性。包含3種模塊的網絡獲得了最高的分類精度，使空間變換網絡、可變形卷積層和可變形池化層在更多應用場景中并駕齊驅成為可能。
4 結語
通過在現有卷積神經網絡中引入空間變換網絡、可變形的卷積層和可變形的池化層，使得卷積網絡在mnist、cifar-10、cifar-100及自建的pen-7數據集中獲得了更高的分類精度，包含3種模塊的網絡獲得了最高分類精度，證明了空間變換網絡、可變形的卷積層和可變形池化層都能豐富網絡的空間特征表達能力，協同應用于圖像分類工作，這為后續研究打下了堅實的基礎。
參考文獻：
[1]BOUVRIE J. Notes on convolutional neural networks[J].Neural Nets，2006（1）：159-164.
[2]Y LECUN，L BOTTOU，Y BENGIO，et al.Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE， 1998， 86（11）： 2278-2324.
[3]KRIZHEVSKY A， SUTSKEVER I， HINTON G E. ImageNet classification with deep convolutional neural networks[C]. International Conference on Neural Information Processing Systems. Curran Associates Inc，2012：1097-1105.
[4]SIMONYAN K， ZISSERMAN A. Very deep convolutional networks for large-scale image recognition[J]. Computer Science， 2014（6）：1211-1220.
[5]SZEGEDY C， LIU W， JIA Y， et al. Going deeper with convolutions[J]. CVPR， 2015（3）：1-9.
[6]HE K， ZHANG X， REN S， et al. Deep residual learning for image recognition[C]. Computer Vision and Pattern Recognition. IEEE， 2015：770-778.
[7]HE K， ZHANG X， REN S， et al. Identity mappings in deep residual networks[J]. arXiv，2016（1603）：5-27.
[8]JADERBERG M， SIMONYAN K， ZISSERMAN A， et al. Spatial transformer networks[J].Computer Science， 2015（5）：1041-1050.
[9]DAI J， QI H， XIONG Y， et al. Deformable convolutional networks[J]. arXiv： 2017（1703）：62-111.
卷積神經網絡的發展范文第3篇
黑匣認為，復雜神經網絡、LSTMs(長短期記憶網絡)、注意力模型(Attention Models)等十大趨勢將塑造人工智能未來的技術格局。
上述判斷來自NIPS(神經信息處理系統) 2015大會。NIPS始于1987年，是人工智能領域兩大重要學習會議之一，由于AI的爆炸式發展，近年來逐漸成為許多硅谷公司必須參加的年度會議。在蒙特利爾召開的NIPS 2015吸引了眾多AI學界與業界的頂級專家，與會人數接近4000。大會總共收錄了403篇論文，其中深度學習課題約占11%。來自Dropbox的高級軟件工程師Brad Neuberg分享了他所注意到的十大技術趨勢，黑匣將對每種趨勢做了詳細分析。
1、神經網絡的架構正變得越來越復雜
感知和翻譯等大多數神經網絡的架構正變得越來越復雜，遠非此前簡單的前饋神經網絡或卷積神經網絡所能比。特別需要注意的是，神經網絡正與不同的技術(如LSTMs、卷積、自定義目標函數等)相混合。
神經網絡是多數深度學習項目的根基。深度學習基于人腦結構，一層層互相連接的人工模擬神經元模仿大腦的行為，處理視覺和語言等復雜問題。這些人工神經網絡可以收集信息，也可以對其做出反應。它們能對事物的外形和聲音做出解釋，還可以自行學習與工作。未來的人工智能，最熱門的技術趨勢是什么？
(人工模擬神經元試圖模仿大腦行為|圖片來源：Frontiers)
但這一切都需要極高的計算能力。早在80年代初期，Geoffrey Hinton和他的同事們就開始研究深度學習。然而彼時電腦還不夠快，不足以處理有關神經網絡的這些龐大的數據。當時AI研究的普遍方向也與他們相反，人們都在尋找捷徑，直接模擬出行為而不是模仿大腦的運作。
隨著計算能力的提升和算法的改進，今天，神經網絡和深度學習已經成為人工智能領域最具吸引力的流派。這些神經網絡還在變得更復雜，當年“谷歌大腦”團隊最開始嘗試“無監督學習”時，就動用了1.6萬多臺微處理器，創建了一個有數十億連接的神經網絡，在一項實驗中觀看了千萬數量級的YouTube圖像。
2、酷的人都在用LSTMs
當你閱讀本文時，你是在理解前面詞語的基礎上來理解每個詞語的。你的思想具有連續性，你不會丟棄已知信息而從頭開始思考。傳統神經網絡的一大缺陷便是無法做到這一點，而遞歸神經網絡(RNN)能夠解決這一問題。
RNN擁有循環結構，可以持續保存信息。過去幾年里，RNN在語音識別和翻譯等許多問題上取得了難以置信的成功，而成功的關鍵在于一種特殊的RNN——長短期記憶網絡(LSTMs)。
普通的RNN可以學會預測“the clouds are in the sky”中最后一個單詞，但難以學會預測“I grew up in France…I speak fluent French?！敝凶詈笠粋€詞。相關信息(clouds、France)和預測位置(sky、French)的間隔越大，神經網絡就越加難以學習連接信息。這被稱為是“長期依賴關系”問題。未來的人工智能，最熱門的技術趨勢是什么？
(長期依賴問題|圖片來源：CSDN)
LSTMs被明確設計成能克服之一問題。LSTMs有四層神經網絡層，它們以特殊的方式相互作用。這使得“能記住信息很長一段時間”可以被視作LSTMs的“固有行為”，它們不需要額外學習這一點。對于大多數任務，LSTMs已經取得了非常好的效果。
3、是時候注意“注意力模型(attention models)了
LSTMs是人們使用RNNs的一個飛躍。還有其他飛躍嗎？研究者共同的想法是：“還有注意力(attention)！”
“注意力”是指神經網絡在執行任務時知道把焦點放在何處。我們可以讓神經網絡在每一步都從更大的信息集中挑選信息作為輸入。
例如，當神經網絡為一張圖片生成標題時，它可以挑選圖像的關鍵部分作為輸入。未來的人工智能，最熱門的技術趨勢是什么？
(擁有“注意力”的RNN在圖像識別中的成功運用|圖片來源：Github)
4、神經圖靈機依然有趣，但還無法勝任實際工作
當你翻譯一句話時，并不會逐個詞匯進行，而是會從句子的整體結構出發。機器難以做到這一點，這一挑戰被稱為“強耦合輸出的整體估計”。NIPS上很多研究者展示了對跨時間、空間進行耦合輸出的研究。
神經圖靈機(Neural Turing Machine)就是研究者們在硅片中重現人類大腦短期記憶的嘗試。它的背后是一種特殊類型的神經網絡，它們可以適應與外部存儲器共同工作，這使得神經網絡可以存儲記憶，還能在此后檢索記憶并執行一些有邏輯性的任務。未來的人工智能，最熱門的技術趨勢是什么？
(模仿人類短期工作記憶的神經圖靈機|圖片來源：arXiv)
2014年10月，Google DeepMind公布了一臺原型電腦，它可以模仿一些人類大腦短期工作記憶的特性。但直到NIPS2015，所有的神經圖靈機都過于復雜，并且只能解決一些“小玩具”問題。在未來它們或將得到極大改進。
5、深度學習讓計算機視覺和自然語言處理不再是孤島
卷積神經網絡(CNN)最早出現在計算機視覺中，但現在許多自然語言處理(NLP)系統也會使用。LSTMs與遞歸神經網絡深度學習最早出現在NLP中，但現在也被納入計算機視覺神經網絡。
此外，計算機視覺與NLP的交匯仍然擁有無限前景。想象一下程序為美劇自動嵌入中文字幕的場景吧。
6、符號微分式越來越重要
隨著神經網絡架構及其目標函數變得日益復雜和自定義，手動推導出“反向傳播”(back propagation)的梯度(gradients)也變得更加苦難而且容易出錯。谷歌的TensorFlow等最新的工具包已經可以超負荷試驗符號微分式，能夠自動計算出正確的微分，以確保訓練時誤差梯度可被反向傳播。
7、神經網絡模型壓縮的驚人成果
多個團隊以不同方法大幅壓縮了訓練一個良好模型所需的素材體量，這些方法包括二值化、固定浮點數、迭代修剪和精細調優步驟等。
這些技術潛在的應用前景廣闊，可能將會適應在移動設備上進行復雜模型的訓練。例如，不需要延遲就可以得到語音識別結果。此外，如果運算所需要的空間和時間極大降低，我們就可以極高幀率(如30 FPS)查詢一個模型，這樣，在移動設備上也可以運用復雜神經網絡模型，從而近乎實時地完成計算機視覺任務。
8、深度學習和強化學習繼續交匯
雖然NIPS 2015上沒有什么強化學習(reinforcement learning)的重要成果，但“深度強化學習”研討會還是展現了深度神經網絡和強化學習相結合的前景。
在“端對端”(end-to-end)機器人等領域出現了令人激動的進展，現在機器人已經可以一起運用深度和強化學習，從而將原始感官數據直接轉化為實際動作驅動。我們正在超越“分類”等簡單工作，嘗試將“計劃”與“行動”納入方程。還有大量工作需要完成，但早期的工作已經使人感到興奮。
9、難道你還沒有使用批標準化？
批標準化(batch normalization)現在被視作評價一個神經網絡工具包的部分標準，在NIPS 2015上被不斷提及。
卷積神經網絡的發展范文第4篇
關鍵詞：人工智能 機器學習 機器人情感獲得 發展綜述
中圖分類號：TP18 文獻標識碼：A 文章編號：1003-9082 （2017） 04-0234-01
引言
人類自從工業革命結束之后，就已然開始了對人工智能的探索，究其本質，實際上就是對人的思維進行模仿，以此代替人類工作。人工智能的探索最早可以追溯到圖靈時期，那時圖靈就希望未來的智能系統能夠像人一樣思考。在20世紀五十年代，人工智能被首次確定為一個新興的學科，并吸引了大批的學者投入到該領域的研究當中。經過長時間的探索和嘗試，人工智能的許多重要基本理論已經形成，如模式識別、特征表示與推理、機器學習的相關理論和算法等等。進入二十一世紀以來，隨著深度學習與卷積神經網絡的發展，人工智能再一次成為研究熱點。人工智能技術與基因過程、納米科學并列為二十一世紀的三大尖端技術， 并且人工智能涉及的學科多，社會應用廣泛，對其原理和本質的理解也更為復雜。 一、人工智能的發展歷程
回顧人工智能的產生與發展過程 ，可以將其分為：初期形成階段，綜合發展階段和應用階段。
1.初期形成階段
人工智能這一思想最早的提出是基于對人腦神經元模型的抽象。其早期工作被認為是由美國的神經學家和控制論學者 Warren McCulloch與Walter Pitts共同完成的。在1951年，兩名普林斯頓大學的研究生制造出了第一臺人工神經元計算機。而其真正作為一個新的概念被提出是在1956年舉行的達茅斯會議上。由麥卡錫提議并正式采用了“人工智能”（Artificial Intelligence）礱枋穌庖謊芯咳綰斡沒器來模擬人類智能的新興學科。1969年的國際人工智能聯合會議標志著人工智能得到了國際的認可。至此，人工智能這一概念初步形成，也逐漸吸引了從事數學、生物、計算機、神經科學等相關學科的學者參與該領域的研究。
2.綜合發展階段
1.7 7年， 費根鮑姆在第五屆國際人工智能聯合會議上正式提出了“知識工程”這一概念。而后其對應的專家系統得到發展，許多智能系統紛紛被推出，并應用到了人類生活的方方面面。20世紀80年代以來，專家系統逐步向多技術、多方法的綜合集成與多學科、多領域的綜合應用型發展。大型專家系統開發采用了多種人工智能語言、多種知識表示方法、多種推理機制和多種控制策略相結合的方式， 并開始運用各種專家系統外殼、專家系統開發工具和專家系統開發環境等等。在專家系統的發展過程中，人工智能得到了較為系統和全面的綜合發展，并能夠在一些具體的任務中接近甚至超過人類專家的水平。
3.應用階段
進入二十一世紀以后，由于深度人工神經網絡的提出，并在圖像分類與識別的任務上遠遠超過了傳統的方法，人工智能掀起了前所未有的。2006年，由加拿大多倫多大學的Geoffery Hinton及其學生在《Science》雜志上發表文章，其中首次提到了深度學習這一思想，實現對數據的分級表達，降低了經典神經網絡的訓練難度。并隨后提出了如深度卷積神經網絡（Convolutional Neural Network， CNN），以及區域卷積神經網絡（Region-based Convolutional Neural Network， R-CNN），等等新的網絡訓練結構，使得訓練和測試的效率得到大幅提升，識別準確率也顯著提高。
二、人工智能核心技術
人工智能由于其涉及的領域較多，內容復雜，因此在不同的應用場景涉及到許多核心技術，這其中如專家系統、機器學習、模式識別、人工神經網絡等是最重要也是發展較為完善的幾個核心技術。
1.專家系統
專家系統是一類具有專門知識和經驗的計算機智能程序系統，通過對人類專家的問題求解能力建模，采用人工智能中的知識表示和知識推理技術來模擬通常由專家才能解決的復雜問題，達到具有與專家同等解決問題能力的水平。對專家系統的研究，是人工智能中開展得較為全面、系統且已經取得廣泛應用的技術。許多成熟而先進的專家系統已經被應用在如醫療診斷、地質勘測、文化教育等方面。
2.機器學習
機器學習是一個讓計算機在非精確編程下進行活動的科學，也就是機器自己獲取知識。起初，機器學習被大量應用在圖像識別等學習任務中，后來，機器學習不再限于識別字符、圖像中的某個目標，而是將其應用到機器人、基因數據的分析甚至是金融市場的預測中。在機器學習的發展過程中，先后誕生了如凸優化、核方法、支持向量機、Boosting算法等等一系列經典的機器學習方法和理論。機器學習也是人工智能研究中最為重要的核心方向。
3.模式識別
模式識別是研究如何使機器具有感知能力 ，主要研究圖像和語音等的識別。其經典算法包括如k-means，主成分分析（PCA），貝葉斯分類器等等。在日常生活各方面以及軍事上都有廣大的用途。近年來迅速發展起來應用模糊數學模式、人工神經網絡模式的方法逐漸取代傳統的基于統計學習的識別方法。圖形識別方面例如識別各種印刷體和某些手寫體文字，識別指紋、癌細胞等技術已經進入實際應用。語音識別主要研究各種語音信號的分類，和自然語言理解等等。模式識別技術是人工智能的一大應用領域，其非常熱門的如人臉識別、手勢識別等等對人們的生活有著十分直接的影響。
4.人工神經網絡
人工神經網絡是在研究人腦的結構中得到啟發， 試圖用大量的處理單元模仿人腦神經系統工程結構和工作機理。而近年來發展的深度卷積神經網絡（Convolutional neural networks， CNNs）具有更復雜的網絡結構，與經典的機器學習算法相比在大數據的訓練下有著更強的特征學習和表達能力。含有多個隱含層的神經網絡能夠對輸入原始數據有更抽象喝更本質的表述，從而有利于解決特征可視化以及分類問題。另外，通過實現“逐層初始化”這一方法，實現對輸入數據的分級表達，可以有效降低神經網絡的訓練難度。目前的神經網絡在圖像識別任務中取得了十分明顯的進展，基于CNN的圖像識別技術也一直是學術界與工業界一致追捧的熱點。
三、機器人情感獲得
1.智能C器人現狀
目前智能機器人的研究還主要基于智能控制技術，通過預先定義好的機器人行動規則，編程實現復雜的自動控制，完成機器人的移動過程。而人類進行動作、行為的學習主要是通過模仿及與環境的交互。從這個意義上說，目前智能機器人還不具有類腦的多模態感知及基于感知信息的類腦自主決策能力。在運動機制方面，目前幾乎所有的智能機器人都不具備類人的外周神經系統，其靈活性和自適應性與人類運動系統還具有較大差距。
2.機器人情感獲得的可能性
人腦是在與外界永不停息的交互中，在高度發達的神經系統的處理下獲得情感。智能機器人在不斷的機器學習和大數據處理中，中樞處理系統不斷地自我更新、升級，便具備了獲得情感的可能性及幾率。不斷地更新、升級的過程類似于生物的進化歷程，也就是說，智能機器人有充分的可能性獲得與人類同等豐富的情感世界。
3.機器人獲得情感的利弊
機器人獲得情感在理論可行的情況下，伴之而來的利弊則眾說紛紜。一方面，擁有豐富情感世界的機器人可以帶來更多人性化的服務，人機合作也可進行地更加深入，可以為人類帶來更為逼真的體驗和享受。人類或可與智能機器人攜手共創一個和諧世界。但是另一方面，在機器人獲得情感時，機器人是否能徹底貫徹人類命令及協議的擔憂也迎面而來。
4.規避機器人情感獲得的風險
規避智能機器人獲得情感的風險應預備強制措施。首先要設計完備的智能機器人情感協議，將威脅泯滅于未然。其次，應控制智能機器人的能源獲得，以限制其自主活動的能力，杜絕其建立獨立體系的可能。最后，要掌控核心武器，必要時強行停止運行、回收、甚至銷毀智能機器人。
三、總結
本文梳理了人工智能的發展歷程與核心技術，可以毋庸置疑地說，人工智能具有極其廣闊的應用前景，但也伴隨著極大的風險?；仡櫰浒l展歷程，我們有理由充分相信，在未來人工智能的技術會不斷完善，難題會被攻克。作為世界上最熱門的領域之一，在合理有效規避其風險的同時，獲得情感的智能機器人會造福人類，并極大地幫助人們的社會生活。
參考文獻
[1]韓曄彤.人工智能技術發展及應用研究綜述[J].電子制作，2016，（12）：95.
[2]曾毅，劉成林，譚鐵牛.類腦智能研究的回顧與展望[J].計算機學報，2016，（01）：212-222.
[3]張越.人工智能綜述：讓機器像人類一樣思考
卷積神經網絡的發展范文第5篇
>> 用于腦運作分析的前向網絡樣本重組樹生成算法研究 基于三角構成規則的加權有向網絡拓撲生成算法 適用于網絡漸進傳輸的多分辨率曲線生成算法 全排列生成算法比較分析 KenKen問題的生成算法研究 曲線生成算法的文獻綜述 基于列生成算法的集裝箱班輪運輸網絡優化 基于全卷積神經網絡的圖像縮略圖生成算法 傳感器網絡中一種基于編碼的MAC生成算法 數據庫關鍵詞檢索中候選元組集連接樹生成算法的研究 基于分類隨機算法的試卷生成算法研究 分析基于列生成算法的動車組檢修計劃優化 AOS自相似業務流等時幀生成算法的Matlab仿真分析 關于傳統空間緩沖區生成算法的分析 基于Bresenham的直線快速生成算法 題庫系統中試卷生成算法的改進 一種可用于腦神經網絡分析的有向網絡分解算法 形式概念演化生成算法 MPI通信代碼自動生成算法 一種啟發式雙代號網絡圖自動生成算法 常見問題解答 當前所在位置：l.（Xie Qin. Framework of Brain Information Processing[Z].[2013-10-21]. .）
[30]謝勤.WAP算法連續化及其應用[C].畢業論文，2004.
[31]謝勤.一種可用于腦神經網絡分析的有向網絡分解算法[J].數字化用戶，2014，3：113-116.（Xie Qin. An Arithmetic For Neural Network Analysis： From Directed Graph To FFN Trees [J].Digitization user，2014， 3：113-116.）
[32]謝勤.一種可用于腦神經網絡分析的有向網絡分解算法[C].第八屆海內外華人神經科學家研討會論文集.北京：科學出版社，2014.（Xie Qin. An Arithmetic For Neural Network Analysis： From Directed Graph To FFN Trees [C]. Proceedings of Symposium for Chinese Neuroscientists Worldwide 2014. Beijing： Science Press. 2014.）
[33]謝勤.用于腦運作分析的前向網絡樣本重組樹生成算法研究[C].電子技術與軟件工程，2016，4：258-264.（Xie Qin. FeedForward Network Sample Recombination Tree Generating Arithmetic（DG-FFN SR Trees Arithmetic） And Generation Of Sample Recombination Graph [J]. Electronic Technology & Software Engineering， 2016，4：258-264.）
（通訊作者：謝勤）
作者簡介
謝勤（1982-），男，A南理工大學碩士，中國神經科學學會會員，工程師，近年在亞組委信息技術部完成核心信息系統――計時記分和成績處理系統項目實施管理方面的工作，其中計時記分系統投資一億。主要研究方向為計算機科學與工程、人工智能、神經生物學。
作者單位
1.廣州市科技和信息化局 廣東省廣州市 510000
2.第16屆亞運會組委會信息技術部 廣東省廣州市 510000
3.廣州生產力促進中心 廣東省廣州市 510000
4.廣州市科學技術信息研究所 廣東省廣州市 510000
5.廣州市科技創新委員會 廣東省廣州市 510000
