【導(dǎo)讀】人工神經(jīng)網(wǎng)絡(luò)是一種基于生物神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和機(jī)制的算法或模型。種研究人類大腦處理認(rèn)知信號(hào)并做出反應(yīng)過(guò)程的科學(xué)。利用對(duì)人類認(rèn)知現(xiàn)象的了解來(lái)。設(shè)計(jì)的人工神經(jīng)網(wǎng)絡(luò)具有很好的處理信息的能力，這對(duì)現(xiàn)實(shí)應(yīng)用很有幫助。工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知科學(xué)已經(jīng)成為了人工智能的重要分支。接著總結(jié)了典型的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，共有十五組。然后重點(diǎn)論述了十個(gè)近年來(lái)關(guān)于人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知的模型，性與部分生物性問(wèn)題。再接著介紹了五個(gè)關(guān)于人工智能神經(jīng)網(wǎng)絡(luò)國(guó)際會(huì)議，特別列出。了會(huì)議的投稿主題。最后，對(duì)人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知的發(fā)展趨勢(shì)做預(yù)測(cè)，多學(xué)科綜合。和復(fù)雜性成為未來(lái)神經(jīng)網(wǎng)絡(luò)研究的方向。

　　

【正文】 y, F. and S. Helie. A tutorial on putational cognitive neuroscience: Modeling the neurodynamics of cognition[J]. Journal of Mathematical Psychology, 2021. 55(4): p. 273289. [7] Fragopanagos, N., S. Kockelkoren, and . Taylor. A neurodynamic model of the attentional blink[J]. Cognitive Brain Research, 2021. 24(3): p. 568586. [8] Khashman, A.. Modeling cognitive and emotional processes: A novel neural work architecture[J]. Neural Networks, 2021. 23(10): p. 11551163. [9] Dominey, ., T. Inui, and M. Hoen. Neural work processing of natural language: II. Towards a unified model of corticostriatal function in learning sentence prehension and nonlinguistic sequencing[J]. Brain and Language, 2021. 109(2– 3): p. 8092. [10] Chen, Q. and T. Verguts. Beyond the mental number line: A neural work model of number– space interactions[J]. Cognitive Psychology, 2021. 60(3): p. 218240. [11] Hinoshita, W., et al.. Emergence of hierarchical structure mirroring linguistic position in a recurrent neural work. Neural Networks[J], 2021. 24(4): p. 311320. 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì)論文 23 [12] 李翔 . 從復(fù)雜到有序 神經(jīng)網(wǎng)絡(luò)智能控制理論新進(jìn)展 [M]. 上海交通大 學(xué)出版社 . . [13] 姚錫凡，李雯 . 人工智能技術(shù)及應(yīng)用 [M]. 北京：中國(guó)電力出版社 . 2021. [14] 羅四維 . 大規(guī)模人工神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ) [M]. 北京：清華大學(xué)出版社；北京交通大學(xué)出版社 . . 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì)論文 24 附錄 1 人工神經(jīng)網(wǎng)絡(luò)的認(rèn)知科學(xué)應(yīng)用狀況的綜述 在人工智能研究領(lǐng)域中，人工神經(jīng)網(wǎng)絡(luò)研究是一個(gè)最重要的研究分支。利用人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知現(xiàn)象，則成為這個(gè)分支中重要的建模方式。 人工神經(jīng)網(wǎng)絡(luò)通常稱為神經(jīng)網(wǎng)絡(luò)，他是一種靈感于生 物神經(jīng)網(wǎng)絡(luò)的功能和結(jié)構(gòu)的數(shù)學(xué)模型或計(jì)算模型。神經(jīng)網(wǎng)絡(luò)由人工神經(jīng)元組成，神經(jīng)元間相互連接構(gòu)成了神經(jīng)網(wǎng)絡(luò)系統(tǒng)。大多數(shù)情況下，人工神經(jīng)網(wǎng)絡(luò)是自適應(yīng)系統(tǒng)，在學(xué)習(xí)期間，他能通過(guò)觀察流過(guò)網(wǎng)絡(luò)的外部或內(nèi)部信息來(lái)變換他的結(jié)構(gòu)，以適應(yīng)信息加工的變化?，F(xiàn)代神經(jīng)網(wǎng)絡(luò)是非線性統(tǒng)計(jì)數(shù)據(jù)模型工具，他們通常是在輸入和輸出關(guān)系復(fù)雜的模式或查詢數(shù)據(jù)中得到應(yīng)用。 認(rèn)知科學(xué)是一個(gè)交叉性學(xué)科，其研究思維和思維過(guò)程，探索什么是認(rèn)知、認(rèn)知做什么、怎么工作。其研究主要是在人類的智力和行為上，特別是人類的神經(jīng)系統(tǒng)。在神經(jīng)系統(tǒng)中信息怎樣表述、怎樣產(chǎn)生、怎樣 轉(zhuǎn)換，是認(rèn)知科學(xué)持續(xù)研究的課題。認(rèn)知科學(xué)涉及心理學(xué)、人工智能、哲學(xué)、神經(jīng)科學(xué)、語(yǔ)言學(xué)、社會(huì)學(xué)、教育學(xué)、人類學(xué)，其分析層次既有低水平學(xué)習(xí)和機(jī)械式?jīng)Q定又有高水平邏輯和計(jì)劃，不僅關(guān)注神經(jīng)元的連接而且關(guān)注大腦分子組織。 利用人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知問(wèn)題直到最近才幾十年才形成趨勢(shì)，但是認(rèn)知科學(xué)和人工神經(jīng)網(wǎng)絡(luò)卻早以存在了 人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡(jiǎn)史 早期：古希臘哲學(xué)，代表人物 Descartes， David Hume， Immanuel Kant， Benedict de Spinoza， Nicolas， Malebranche， Pierre Cabanis， Leibniz， John Locke，這個(gè)時(shí)期的認(rèn)知科學(xué)研究與現(xiàn)代認(rèn)知科學(xué)不同，其最終發(fā)展成了心理學(xué)和哲學(xué)。 1930 年代到 1940 年代（自動(dòng)控制化時(shí)期）， Warren Mcculloch 和 Walter Pitts 尋求解釋：思維的組織原則，第一次提出了人工神經(jīng)網(wǎng)絡(luò)。 1940 年代到 1950 年代，計(jì)算機(jī)理論和數(shù)字計(jì)算機(jī)的快速發(fā)展， Alan Turing 和 John von Neu mann 在認(rèn)知科學(xué)研究中首先運(yùn)用了現(xiàn)代計(jì)算機(jī)理論和技術(shù)。 1959 年， Noam chomsky 評(píng)論 的書：語(yǔ)言行為。提出了為了解釋語(yǔ)言，我們需要一個(gè)生產(chǎn)語(yǔ)法的理論，它不僅能歸屬內(nèi)在表達(dá)，而且有潛在的順序特征。 1973 年， Christopher LonguetHiggins 在他的文獻(xiàn)Lighthill report 中提到了認(rèn)知科學(xué)的術(shù)語(yǔ)。 啟蒙期： 1980 年美國(guó)心理學(xué)家 William James 出版了第一部詳細(xì)論述人腦結(jié)構(gòu)及功能的專著《 principles of psychology》，對(duì)與學(xué)習(xí)、聯(lián)想記憶相關(guān)的基本原理做了開(kāi)創(chuàng)性研究。 1943 年生物學(xué)家 和數(shù)學(xué)家 發(fā)表了一篇桂林理工大學(xué)本科畢業(yè)設(shè)計(jì)論文 25 神經(jīng)網(wǎng)絡(luò)的文章，提出了神經(jīng)元的數(shù)學(xué)模型 MP 模型。 1949 年心理學(xué)家 Donald olding Hebb 出版了名為《 anization of Behavior》的書，提出了 Hebb 算法的連結(jié)權(quán)值訓(xùn)練算法和聯(lián)結(jié)主義。 1958 年計(jì)算機(jī)學(xué)家 Frank Rosenblatt 發(fā)表文章提出了三層網(wǎng)絡(luò)特性的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，稱為“感知機(jī)”。 1960年電機(jī)工程師 Bernard Widrow和 Marcian Hoff 發(fā)表了文章《 Adaptive Switching Circuits》實(shí)現(xiàn)了人工神經(jīng)網(wǎng) 絡(luò)的計(jì)算機(jī)仿真和硬件電路的設(shè)計(jì)。 低潮期： 1969 年 和 評(píng)論“感知機(jī)”，認(rèn)為其存在無(wú)法擴(kuò)展到多層網(wǎng)絡(luò)的問(wèn)題。 1969 年 和 提出了自適應(yīng)共振理論模型。 1972 年 提出了自組織映射（ SOM）理論。同年， 也提出了一個(gè)相似的“交換存儲(chǔ)器”。 1980 年到 1983 年 Kunihiko Fukushima 發(fā)表了文章《 Neocognitron》，并開(kāi)發(fā)了許多神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與訓(xùn)練算法 復(fù)興期： 1982 年 John 發(fā)表文章提出了 Hopfield 網(wǎng)絡(luò)。 1987 年美國(guó)電話與電報(bào)公司貝爾實(shí)驗(yàn)室利用 Hopfield 網(wǎng)絡(luò)，仿真出耳蝸與視網(wǎng)膜等硬件網(wǎng)絡(luò)。同年 和 提出學(xué)習(xí)過(guò)程使用模擬退火技術(shù)的 Blotzmann機(jī)（波爾茲曼機(jī)）。 1988 年 David 和 James 及其領(lǐng)導(dǎo)小組發(fā)表了《 Parallel Distributed Processing》。 新時(shí)期： 1987 年 6 月首屆國(guó)際神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會(huì)議在美國(guó)加州圣地亞哥召開(kāi)，而且在會(huì)上成立了國(guó)際神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)（ INNS）。 1989 年 Stephen Grossberg、 Teuvo kohonen 和 Shunichi Amari 主持創(chuàng)辦了世界第一份神經(jīng)網(wǎng)絡(luò)雜志《 Neural Network》。 在人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡(jiǎn)史中， 1949 年心理學(xué)家 Donald olding Hebb 提出的聯(lián)結(jié)主義思想最為突出。在人工神經(jīng)網(wǎng)絡(luò)研究中，對(duì)如何設(shè)計(jì)模型，歷史上有三種理論思想分別是聯(lián)接主義、符號(hào)主義和行為主義。 聯(lián)接主義是在人工神經(jīng)智能、認(rèn)知心理學(xué)、認(rèn)知科學(xué)、神經(jīng)科學(xué)和精神哲學(xué)領(lǐng)域的一套方法。它主要是模 擬簡(jiǎn)單單元網(wǎng)絡(luò)間連接產(chǎn)生過(guò)程中的精神和生物現(xiàn)象。其最主要的形式是神經(jīng)網(wǎng)絡(luò)模式。 符號(hào)主義，其原理為物理符號(hào)系統(tǒng)假設(shè)和有限合理性原理，認(rèn)為人的認(rèn)知基元是符號(hào)，而且認(rèn)知過(guò)程即符號(hào)操作過(guò)程。 聯(lián)結(jié)主義，原理為神經(jīng)網(wǎng)絡(luò)及神經(jīng)網(wǎng)絡(luò)間連接機(jī)制與學(xué)習(xí)算法，認(rèn)為人的思維基元是神經(jīng)元，而不是符號(hào)處理過(guò)程。 行為主義，原理為控制論及感知 — 動(dòng)作型控制系統(tǒng)，認(rèn)為智能不需要知識(shí)、不需要表示、不需要推理，人工智能可以像人類智能一樣逐步進(jìn)化，智能行為知識(shí)在現(xiàn)實(shí)世界中與周圍環(huán)境交互作用而表現(xiàn)出來(lái)的。 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì)論文 26 其中聯(lián)接主義是人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知現(xiàn)象 的主題思想，其最主要的形式就是神經(jīng)網(wǎng)絡(luò)模型。聯(lián)接主義的研究可以追溯到一個(gè)世紀(jì)以前，從早期的平行分散處理（ PDP）中分化出來(lái)的理論思想，直到 20世紀(jì) 80 年代聯(lián)接主義才成為一個(gè)被科學(xué)界公認(rèn)的趨勢(shì)。根據(jù)聯(lián)結(jié)主義思想，設(shè)計(jì)出的神經(jīng)網(wǎng)絡(luò)模型具有高度的生物性，可以近似模擬出生物，特別是人類在處理信息時(shí)的能力，這是有助于很多現(xiàn)實(shí)問(wèn)題的解決的。近幾十年來(lái)，人工神經(jīng)網(wǎng)絡(luò)迅猛發(fā)展，產(chǎn)生出了很多有重要影響的神經(jīng)網(wǎng)絡(luò)模型。 (1)Perceptron（感知機(jī)） Frank Rosenblatt（康奈爾大學(xué)）在 1957 年提出的，應(yīng)用于 文字識(shí)別、聲音識(shí)別，聲納信號(hào)識(shí)別、學(xué)習(xí)記憶問(wèn)題研究。 (2)Adaline（自適應(yīng)線性單位）和 Madaline（多個(gè) Adaline 的組合網(wǎng)絡(luò)） Bernard Widrow（斯坦福大學(xué)）在 1960 年到 1962 年提出的 , 應(yīng)用于雷達(dá)天線控制、自適應(yīng)回波抵消、適應(yīng)性調(diào)制解調(diào)、電話線中適應(yīng)性補(bǔ)償。 (3)Avakabche（雪崩網(wǎng)）： 在 1967 年提出，應(yīng)用于連續(xù)語(yǔ)音識(shí)別、機(jī)器人手臂運(yùn)動(dòng)、數(shù)字教學(xué)指令。 (4)Cerellatron（小腦自動(dòng)機(jī)） 麻省理工學(xué)院在 1969 年到 1982 年提 出，應(yīng)用于控制機(jī)器人的手臂運(yùn)動(dòng)。 (5)Back Propagation（誤差反傳網(wǎng)絡(luò)）： （哈佛大學(xué)）、 David Rumelhart（斯坦福大學(xué)） James McClelland（斯坦福大學(xué)）在 1979 年到 1990 年提出，應(yīng)用于語(yǔ)言識(shí)別、工業(yè)過(guò)程控制、貸款信用評(píng)估、股票預(yù)測(cè)、自適應(yīng)控制等。 (6)Adaptive Resonance Theory（自適應(yīng)共振理論 ART）有 ART ART ART3 三種類型 和 S Grossberg（波士頓大學(xué)）在 1976 年到 1990 年 提出的，應(yīng)用于模式識(shí)別領(lǐng)域，擅長(zhǎng)識(shí)別復(fù)雜模式或未知模式。 (7)Brain State in a Box（盒中腦 BSB 網(wǎng)絡(luò)） James Anderson（布朗大學(xué)）在1977 年提出，應(yīng)用于解釋概念形式，分類和知識(shí)處理。 （ 8） Neocognition（新認(rèn)知機(jī)） Fukushima（日本廣播協(xié)會(huì)）在 1978 年到 1984年提出，應(yīng)用于手寫字母識(shí)別。 (9)SelfOrganizing feature map（自組織特征映射網(wǎng)絡(luò)） Tuevo Konhonen（芬蘭赫爾辛基技術(shù)大學(xué)）在 1980 年提出，應(yīng)用語(yǔ)言識(shí)別 、機(jī)器人控制、工業(yè)過(guò)程控制、圖像壓縮、專家系統(tǒng)。 (10)Hopfield 網(wǎng)絡(luò) John Hopfield（加州理工大學(xué)）在 1982 年提出，應(yīng)用于求解 TSP 問(wèn)題，線性規(guī)劃，聯(lián)想記憶和用于辨識(shí)。 (11)Boltzman machine（波爾茲曼機(jī)）和 Cauchy machine（柯西機(jī)） （多倫多大學(xué)）和 （霍布金斯大學(xué)）在 1985 到 1986 年提出的，應(yīng)用于桂林理工大學(xué)本科畢業(yè)設(shè)計(jì)論文 27 圖像、聲納和雷達(dá)等模式識(shí)別。 (12)Bidirectional Associative Memory（ BAM，雙向聯(lián)想 記憶網(wǎng)） Baaart kosko（南加州大學(xué)） 1985 年到 1988 年提出，應(yīng)用于內(nèi)容尋址的聯(lián)想記憶。 (13)Counter proagation（ CPN，雙向傳播網(wǎng)） Robert HechtNielsen 在 1983 年提出，神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)，圖像分析和統(tǒng)計(jì)分析。 (14)Radial Basis Functions（ RBF，徑向基函數(shù)網(wǎng)絡(luò)） Broomhead Lowe 在 1988年提出，應(yīng)用于非線性函數(shù)逼近，時(shí)間序列分析，模式識(shí)別、信息處理、圖像處理、系統(tǒng)建模。 (15)Support Vector Machine（ SVM，支持向量機(jī)） Vapnik 在 1992 年到 1988 年提出，應(yīng)用于模式分類、非線性映射。 對(duì)于人工神經(jīng)網(wǎng)絡(luò)而言，現(xiàn)在其模型設(shè)計(jì)主要還是依靠科學(xué)家對(duì)人類認(rèn)知現(xiàn)象機(jī)理的研究。通過(guò)大腦成像等技術(shù)，科學(xué)家識(shí)別出大腦中相應(yīng)的認(rèn)知區(qū)域，并對(duì)刺激反應(yīng)的區(qū)域的作用方式進(jìn)行總結(jié)，最終形成認(rèn)知現(xiàn)象的運(yùn)行方式。了解到運(yùn)行方式后，設(shè)計(jì)出符合特定的認(rèn)知人工神經(jīng)網(wǎng)絡(luò)。當(dāng)前人工神經(jīng)網(wǎng)絡(luò)大部分都屬于這樣的設(shè)計(jì)方式，這種方式的缺點(diǎn)是只能部分模擬特定的認(rèn)知現(xiàn)象，不能在整體上模擬多個(gè)認(rèn)知現(xiàn)象，對(duì)認(rèn)知理解有很大的局限性。為了能解決這一局 限性，有的科學(xué)家想到應(yīng)用部分非認(rèn)知原理參與設(shè)計(jì)模型，這可以使模型更適合實(shí)際應(yīng)用，但終究