【正文】 當(dāng)前人工神經(jīng)網(wǎng)絡(luò)大部分都屬于這樣的設(shè)計(jì)方式，這種方式的缺點(diǎn)是只能部分模擬特定的認(rèn)知現(xiàn)象，不能在整體上模擬多個(gè)認(rèn)知現(xiàn)象，對(duì)認(rèn)知理解有很大的局限性。通過大腦成像等技術(shù)，科學(xué)家識(shí)別出大腦中相應(yīng)的認(rèn)知區(qū)域，并對(duì)刺激反應(yīng)的區(qū)域的作用方式進(jìn)行總結(jié)，最終形成認(rèn)知現(xiàn)象的運(yùn)行方式。 (15)Support Vector Machine（ SVM，支持向量機(jī)） Vapnik 在 1992 年到 1988 年提出，應(yīng)用于模式分類、非線性映射。 (13)Counter proagation（ CPN，雙向傳播網(wǎng)） Robert HechtNielsen 在 1983 年提出，神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)，圖像分析和統(tǒng)計(jì)分析。論文 27 圖像、聲納和雷達(dá)等模式識(shí)別。 (10)Hopfield 網(wǎng)絡(luò) John Hopfield（加州理工大學(xué)）在 1982 年提出，應(yīng)用于求解 TSP 問題，線性規(guī)劃，聯(lián)想記憶和用于辨識(shí)。 （ 8） Neocognition（新認(rèn)知機(jī)） Fukushima（日本廣播協(xié)會(huì)）在 1978 年到 1984年提出，應(yīng)用于手寫字母識(shí)別。 (6)Adaptive Resonance Theory（自適應(yīng)共振理論 ART）有 ART ART ART3 三種類型 和 S Grossberg（波士頓大學(xué)）在 1976 年到 1990 年 提出的，應(yīng)用于模式識(shí)別領(lǐng)域，擅長(zhǎng)識(shí)別復(fù)雜模式或未知模式。 (4)Cerellatron（小腦自動(dòng)機(jī)） 麻省理工學(xué)院在 1969 年到 1982 年提 出，應(yīng)用于控制機(jī)器人的手臂運(yùn)動(dòng)。 (2)Adaline（自適應(yīng)線性單位）和 Madaline（多個(gè) Adaline 的組合網(wǎng)絡(luò)） Bernard Widrow（斯坦福大學(xué)）在 1960 年到 1962 年提出的 , 應(yīng)用于雷達(dá)天線控制、自適應(yīng)回波抵消、適應(yīng)性調(diào)制解調(diào)、電話線中適應(yīng)性補(bǔ)償。近幾十年來(lái)，人工神經(jīng)網(wǎng)絡(luò)迅猛發(fā)展，產(chǎn)生出了很多有重要影響的神經(jīng)網(wǎng)絡(luò)模型。聯(lián)接主義的研究可以追溯到一個(gè)世紀(jì)以前，從早期的平行分散處理（ PDP）中分化出來(lái)的理論思想，直到 20世紀(jì) 80 年代聯(lián)接主義才成為一個(gè)被科學(xué)界公認(rèn)的趨勢(shì)。 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì) 聯(lián)結(jié)主義，原理為神經(jīng)網(wǎng)絡(luò)及神經(jīng)網(wǎng)絡(luò)間連接機(jī)制與學(xué)習(xí)算法，認(rèn)為人的思維基元是神經(jīng)元，而不是符號(hào)處理過程。其最主要的形式是神經(jīng)網(wǎng)絡(luò)模式。 聯(lián)接主義是在人工神經(jīng)智能、認(rèn)知心理學(xué)、認(rèn)知科學(xué)、神經(jīng)科學(xué)和精神哲學(xué)領(lǐng)域的一套方法。 在人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡(jiǎn)史中， 1949 年心理學(xué)家 Donald olding Hebb 提出的聯(lián)結(jié)主義思想最為突出。 新時(shí)期： 1987 年 6 月首屆國(guó)際神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會(huì)議在美國(guó)加州圣地亞哥召開，而且在會(huì)上成立了國(guó)際神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)（ INNS）。同年 和 提出學(xué)習(xí)過程使用模擬退火技術(shù)的 Blotzmann機(jī)（波爾茲曼機(jī)）。 1980 年到 1983 年 Kunihiko Fukushima 發(fā)表了文章《 Neocognitron》，并開發(fā)了許多神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與訓(xùn)練算法 復(fù)興期： 1982 年 John 發(fā)表文章提出了 Hopfield 網(wǎng)絡(luò)。 1972 年 提出了自組織映射（ SOM）理論。 低潮期： 1969 年 和 評(píng)論“感知機(jī)”，認(rèn)為其存在無(wú)法擴(kuò)展到多層網(wǎng)絡(luò)的問題。 1958 年計(jì)算機(jī)學(xué)家 Frank Rosenblatt 發(fā)表文章提出了三層網(wǎng)絡(luò)特性的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，稱為“感知機(jī)”。論文 25 神經(jīng)網(wǎng)絡(luò)的文章，提出了神經(jīng)元的數(shù)學(xué)模型 MP 模型。 啟蒙期： 1980 年美國(guó)心理學(xué)家 William James 出版了第一部詳細(xì)論述人腦結(jié)構(gòu)及功能的專著《 principles of psychology》，對(duì)與學(xué)習(xí)、聯(lián)想記憶相關(guān)的基本原理做了開創(chuàng)性研究。提出了為了解釋語(yǔ)言，我們需要一個(gè)生產(chǎn)語(yǔ)法的理論，它不僅能歸屬內(nèi)在表達(dá)，而且有潛在的順序特征。 1940 年代到 1950 年代，計(jì)算機(jī)理論和數(shù)字計(jì)算機(jī)的快速發(fā)展， Alan Turing 和 John von Neu mann 在認(rèn)知科學(xué)研究中首先運(yùn)用了現(xiàn)代計(jì)算機(jī)理論和技術(shù)。 利用人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知問題直到最近才幾十年才形成趨勢(shì)，但是認(rèn)知科學(xué)和人工神經(jīng)網(wǎng)絡(luò)卻早以存在了 人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡(jiǎn)史 早期：古希臘哲學(xué)，代表人物 Descartes， David Hume， Immanuel Kant， Benedict de Spinoza， Nicolas， Malebranche， Pierre Cabanis， Leibniz， John Locke，這個(gè)時(shí)期的認(rèn)知科學(xué)研究與現(xiàn)代認(rèn)知科學(xué)不同，其最終發(fā)展成了心理學(xué)和哲學(xué)。在神經(jīng)系統(tǒng)中信息怎樣表述、怎樣產(chǎn)生、怎樣 轉(zhuǎn)換，是認(rèn)知科學(xué)持續(xù)研究的課題。 認(rèn)知科學(xué)是一個(gè)交叉性學(xué)科，其研究思維和思維過程，探索什么是認(rèn)知、認(rèn)知做什么、怎么工作。大多數(shù)情況下，人工神經(jīng)網(wǎng)絡(luò)是自適應(yīng)系統(tǒng)，在學(xué)習(xí)期間，他能通過觀察流過網(wǎng)絡(luò)的外部或內(nèi)部信息來(lái)變換他的結(jié)構(gòu)，以適應(yīng)信息加工的變化。 人工神經(jīng)網(wǎng)絡(luò)通常稱為神經(jīng)網(wǎng)絡(luò)，他是一種靈感于生 物神經(jīng)網(wǎng)絡(luò)的功能和結(jié)構(gòu)的數(shù)學(xué)模型或計(jì)算模型。論文 24 附錄 1 人工神經(jīng)網(wǎng)絡(luò)的認(rèn)知科學(xué)應(yīng)用狀況的綜述 在人工智能研究領(lǐng)域中，人工神經(jīng)網(wǎng)絡(luò)研究是一個(gè)最重要的研究分支。lie, S., S. Chartier, and R. Proulx. Are unsupervised neural works ignorant? Sizing the effect of environmental distributions on unsupervised learning[J]. Cognitive Systems Research, 2021. 7(4): p. 357371. [6] Gregory Ashby, F. and S. Helie. A tutorial on putational cognitive neuroscience: Modeling the neurodynamics of cognition[J]. Journal of Mathematical Psychology, 2021. 55(4): p. 273289. [7] Fragopanagos, N., S. Kockelkoren, and . Taylor. A neurodynamic model of the attentional blink[J]. Cognitive Brain Research, 2021. 24(3): p. 568586. [8] Khashman, A.. Modeling cognitive and emotional processes: A novel neural work architecture[J]. Neural Networks, 2021. 23(10): p. 11551163. [9] Dominey, ., T. Inui, and M. Hoen. Neural work processing of natural language: II. Towards a unified model of corticostriatal function in learning sentence prehension and nonlinguistic sequencing[J]. Brain and Language, 2021. 109(2– 3): p. 8092. [10] Chen, Q. and T. Verguts. Beyond the mental number line: A neural work model of number– space interactions[J]. Cognitive Psychology, 2021. 60(3): p. 218240. [11] Hinoshita, W., et al.. Emergence of hierarchical structure mirroring linguistic position in a recurrent neural work. Neural Networks[J], 2021. 24(4): p. 311320. 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì) 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì) 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì) 作者還總結(jié)了現(xiàn)代人工神經(jīng)網(wǎng)絡(luò)生物性和非生物性的研究關(guān)系。 我們闡述了 Rs、 DUONN、 CODAM、 MTRNN、語(yǔ)法理解模型、數(shù)字空間模型、 CNN、競(jìng)爭(zhēng)網(wǎng)絡(luò)、周 期聯(lián)想記憶模型、 NDANN 這十個(gè)模型，這些模型是近年來(lái)模擬認(rèn)知現(xiàn)象新成果。論文 20 7 結(jié)論 用人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知行為在近年逐漸發(fā)展成趨勢(shì)，隨著對(duì)人類認(rèn)知行為的本質(zhì)研究的不斷深入，人工神經(jīng)網(wǎng)絡(luò)模型也更趨于生物性，透過模型也能更多發(fā)現(xiàn)認(rèn)知規(guī)律。未來(lái)，認(rèn)知科學(xué)和人工神經(jīng)網(wǎng)絡(luò)必將相互促進(jìn)著前進(jìn)。 在研究認(rèn)知科學(xué)中，人工神經(jīng)網(wǎng)絡(luò)模型必將扮演更大的角色。 對(duì)于認(rèn)知科學(xué)研究，未來(lái)的主要發(fā)展方向是： 從對(duì)大腦部分區(qū)域功能研究到大腦整體功能的研究。 神經(jīng)網(wǎng)絡(luò)硬件實(shí)驗(yàn)。 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì) IJCAI 主題：代理系統(tǒng)和多代理系統(tǒng)，機(jī)器學(xué)習(xí)（包括系統(tǒng)學(xué)習(xí)，案例推理，數(shù)據(jù)挖掘，進(jìn)化計(jì)算，神經(jīng)網(wǎng)絡(luò)，學(xué)習(xí)理論），跨學(xué)科主題和應(yīng)用（包括 AI和自然科學(xué)，認(rèn)知建模，人機(jī)互動(dòng)）計(jì)劃與調(diào)度（包括實(shí)時(shí)規(guī)劃），機(jī)器人和視覺（包括行為和控制，認(rèn)知機(jī)器人，感知和知覺），不確定人工智能，網(wǎng)絡(luò)和知識(shí)為基礎(chǔ)的信息系統(tǒng)（包括信息提取，集成和檢索，知識(shí)獲取，語(yǔ)義網(wǎng)絡(luò)） 國(guó)際人工智能工具會(huì)議 國(guó)際人工智能工具會(huì)議（ international conference on tools with artificial intelligence，簡(jiǎn)稱 ICTAI），由 IEEE 主辦，一年舉辦一次。 IJCNN 主題：神經(jīng)網(wǎng)絡(luò)理論或模型，模式識(shí)別，計(jì)算機(jī)神經(jīng)科學(xué)，認(rèn)知模型，機(jī)器視覺，認(rèn)知模型，進(jìn)化神經(jīng)系統(tǒng)，集成智能，腦部機(jī)器接口，數(shù)據(jù)挖掘，神經(jīng)力學(xué)，感知網(wǎng)絡(luò)，神經(jīng)信息學(xué)，組織系統(tǒng)，神經(jīng)工程學(xué)，神經(jīng)硬件，神經(jīng)網(wǎng)絡(luò)應(yīng)用，計(jì)算機(jī)生物學(xué)，傳感器網(wǎng)絡(luò)，人工生活。 NIPS 主題：算法與結(jié)構(gòu) (包括神經(jīng)網(wǎng)絡(luò)），應(yīng)用（包括文本 /網(wǎng)絡(luò)分析），腦功能成像（包括認(rèn)知神經(jīng)學(xué)），認(rèn)知科學(xué)和人工智能（包括學(xué)習(xí)，記憶，推理，解決問題，桂林理工大學(xué)本科畢業(yè)設(shè)計(jì) AAAI 主題：代理系統(tǒng)和多代理系統(tǒng)，認(rèn)知建模和人機(jī)互動(dòng)，常識(shí)推理，計(jì)算機(jī)視覺，滿足約束，搜索和優(yōu)化，進(jìn)化計(jì)算，游戲和互動(dòng)娛樂，信息搜索，集成和提取，知識(shí)表示和推理，機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘，模型系統(tǒng)，跨學(xué)科 AI，自然語(yǔ)言處理，計(jì)劃與調(diào)度，概率推理，機(jī)器人，網(wǎng)站和信息系統(tǒng) 。下面列舉了五個(gè)人工智能領(lǐng)域中涉及人工神經(jīng)網(wǎng)絡(luò)或認(rèn)知科學(xué)的著名會(huì)議，并附帶各個(gè)會(huì)議的投稿主 題。 正如前文說(shuō)言，要想向會(huì)議投稿，必須先了解會(huì)議的投稿要求。會(huì)議通常是一年一次，也有部分是兩年一次。對(duì)于會(huì)議論文的選題、會(huì)議演講的要求，不同主題的會(huì)議是有不同的要求，這就要求我們?cè)趨⒓訒?huì)議和在向會(huì)議投稿前必須了解會(huì)議投稿和會(huì)議演講的要求。在國(guó)際會(huì)議上，研究者們可以展示最新的研究成果、發(fā)表新的論文、與國(guó)際同行們就同一議題進(jìn)行探討。 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì)而在應(yīng)用中的，特別是模擬認(rèn)知的人工神經(jīng)網(wǎng)絡(luò)模型中，只有部分機(jī)制的研究是不足以設(shè)計(jì)出好的模型結(jié)構(gòu)的，故許多模型只能在采用已知認(rèn)知機(jī)制的基礎(chǔ)上，借鑒實(shí)際應(yīng)用中的非認(rèn)知理論思想的方法。科學(xué)家們對(duì)認(rèn)知機(jī)制的研究基本上還是停留在觀察特定認(rèn)知現(xiàn)象出現(xiàn)后，腦部部分區(qū)域 的活躍情況上。由于借鑒了非生物的經(jīng)典理論，其 實(shí)際 應(yīng)用更可靠。這些模型部分符合生物性，只能部分模擬認(rèn)知現(xiàn)象的加工過程，所以對(duì)認(rèn)知現(xiàn)象的理解也只是部分。模型完全符合生物性，能使模型處理認(rèn)知信息時(shí)最大限度的模擬生 物認(rèn)知加工過程，這對(duì)理解認(rèn)知現(xiàn)象很有好處。兩種理論都符合聯(lián)結(jié)主義的理論思想，只是前一種是完全符合生物性，后一種是部分符合生物性部分符合實(shí)際性。利用人工神經(jīng)網(wǎng)絡(luò)模擬認(rèn)知現(xiàn)象，主 要從記憶、學(xué)習(xí)、語(yǔ)言、注意力和情緒等幾個(gè)方面進(jìn)行模擬。 桂林理工大學(xué)本科畢業(yè)設(shè)計(jì) 圖 多時(shí)間周期神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu) 模型用于收集、整理和改錯(cuò)句子，句子的符號(hào)、詞語(yǔ)和語(yǔ)法都可以進(jìn)行修改整理。 IO 有 30個(gè)代碼，其中的 26 個(gè)代碼分別對(duì)應(yīng) 26個(gè)字母符號(hào)，四個(gè)其他符號(hào)則分別對(duì)應(yīng)空格、時(shí)間、逗號(hào)、問號(hào)。因此，哪怕沒有任何先前關(guān)于詞典和語(yǔ)法的知識(shí)，我們模型也可以識(shí)別、產(chǎn)生和修正句子 ，故 模型能作為順序產(chǎn)生器和識(shí)別器。 MTRNN 模型是 Yamashita 和 Tani 提出的，他們最初將其使用在機(jī)器人的發(fā)動(dòng)機(jī)傳感器流動(dòng)學(xué)習(xí)任務(wù)上。論文 15 誤信息，以此 可以 達(dá)到訓(xùn)練改進(jìn)句子執(zhí)行過程 的目的 。模型能 依靠 最初狀態(tài)（產(chǎn)生階段）來(lái)控制句子產(chǎn)生，其中的初始狀態(tài)能從目標(biāo)句子（識(shí)別階段）計(jì)算出來(lái)。 圖 數(shù)字空間模型結(jié)構(gòu) 數(shù)字空間模 型是以早期模型假設(shè)為基礎(chǔ)的 ，他可以使用計(jì)算機(jī)仿真顯示研究中的解釋數(shù)據(jù)，其也可以模擬數(shù)