弭元元，胡 崗，吳 思

（1.軍事醫(yī)學研究院軍事認知與腦科學研究所，北京 100850；北京師范大學2.物理學系，3.認知神經科學與學習國家重點實驗室，北京 100875）

記憶是腦最神奇的高級認知功能之一，泛指神經系統(tǒng)從外界攝取時間和空間信息、編碼和儲存信息以及在特定條件下再現(xiàn)這些時空信息的過程。了解記憶的神經機制不僅是破譯大腦奧秘的關鍵，同時也是發(fā)展人工智能的基礎。從20世紀50年代以來，人們對神經系統(tǒng)如何提取和處理外部輸入的空間信息已取得了長足進展，如視覺系統(tǒng)中神經元感受野的發(fā)現(xiàn)就是一個很好的例子［1］。但人們對神經系統(tǒng)如何提取和處理輸入中的時間信息迄今知之甚少［2-5］。

破譯人腦記憶活動機制的關鍵，首先要弄清楚時空信息是如何表達在神經系統(tǒng)的活動中的。人的大腦由大約1×1011個神經元組成，每個神經元平均又有＞1×103的連接，它們構成異常復雜、龐大的網絡系統(tǒng)來實現(xiàn)腦的各種高級認知功能，尤其是時空信息的記憶功能。單個神經元的計算功能相對簡單（本質上是對輸入值的一個整合發(fā)放過程）。因此，大腦中與記憶有關的信息表達的奧秘都隱藏在神經網絡動力學的計算能力中。大量神經元構成的網絡系統(tǒng)的演化本質上是一個復雜系統(tǒng)的動力學過程。因此，對記憶問題的研究吸引了物理學和計算神經科學大量交叉學科領域研究者的興趣與關注，而物理學家所發(fā)展的大量描述復雜系統(tǒng)動力學行為的理論和方法，為研究與記憶相關的腦內神經信息處理機制提供了新的思想，拓寬了研究思路。

基于大腦是通過網絡來進行計算的特點，美國理論物理學家Hopfield教授［6］提出了聯(lián)想式記憶的神經網絡模型，開創(chuàng)了將統(tǒng)計物理的思想與技巧（核心是“能量函數(shù)”）應用于神經科學研究的新紀元，開啟了人工神經網絡理論研究的先河。該模型強調信息是存儲于網絡的動力學吸引子（attractors）態(tài)中，即處于網絡能量函數(shù)極小值所對應的神經元群活動狀態(tài)。這一吸引子的觀點在實驗中已得到驗證［7］。

以上網絡吸引子的思想成功解釋了神經系統(tǒng)儲存空間信息的很多例子，如頭的朝向、物體空間方位等，但目前對神經系統(tǒng)表達時間信息的機制研究甚少。

與空間信息不同的是，在日常生活中，大腦接收到的時間信息的尺度橫跨很大的范圍，量級從微秒到小時。大腦如何處理不同尺度的時間信息一直以來是飽受爭議的話題。目前爭論的焦點主要集中在大腦處理這些時間信息是否依賴于一個統(tǒng)一的“時鐘”，也就是專門用于記錄時間的振蕩器（pacemaker）［8］；或無需統(tǒng)一的時鐘，而是與該任務相關的局部神經環(huán)路即可自動地處理和表征時間信息［2，5，8］。最近的研究表明，在處理數(shù)百毫秒級別的時間信息時，神經環(huán)路可通過自身的動力學特性來表征時間［9-10］。這些研究通過建立由多種神經元隨機連接形成的網絡并引入了突觸短時程可塑性后發(fā)現(xiàn)，隨時間不斷改變的網絡狀態(tài)本身就可作為介質來存儲外界輸入的時間序列。進一步研究表明，這些記憶軌跡（memory trace）可用于區(qū)分連續(xù)事件之間的時間差。但神經網絡內在的動力學特性是否能處理秒級以上的時間信息迄今仍不清楚。

近期的一個實驗發(fā)現(xiàn)，斑馬魚視頂蓋的神經環(huán)路可記憶以秒為量級的外部周期性視覺刺激的時間間隔［11］。實驗中用相同時間間隔的光柵反復對斑馬魚進行刺激，經過數(shù)次訓練并撤掉刺激后，發(fā)現(xiàn)其視頂蓋的神經環(huán)路可以相同的頻率進行自持續(xù)的同步發(fā)放，且這種自持續(xù)的節(jié)律行為可誘導斑馬魚的尾部進行有規(guī)律的周期擺動。這些現(xiàn)象表明，該神經環(huán)路有可能存儲節(jié)律性輸入的感知記憶。在實驗中，神經環(huán)路所能記憶的最長時間達到了20 s。

神經系統(tǒng)如何獲得并存儲這種長時程節(jié)律信息，一種最直接的假設是大腦中可能存在一個“中央時鐘”來計時，從而調控神經網絡的周期性響應，然而大量的實驗證據(jù)表明，大腦中并不存在這樣的“中央時鐘”［4-5］。那么，生物系統(tǒng)是否可單純地依賴于神經網絡的內在動力學特性即可產生上述觀察到的長時程的周期節(jié)律信息的記憶？由于單個神經元和突觸的時間常數(shù)很短，不足以維持這種長時間的行為，那么是否存在具有某種特殊拓撲結構的神經網絡呢？回答這一問題對理解腦處理時間信息的機制具有重要的啟示。本課題組近期研究發(fā)現(xiàn)，具有無標度拓撲結構的大尺度神經網絡可實現(xiàn)這樣的功能［12］。本文綜述了此項研究進展，為理解神經系統(tǒng)編碼時間節(jié)律信息的機制提供新的思路。

1 神經網絡模型

構建的大尺度神經網絡模型［12］考慮了無標度的特殊拓撲結構［13］。無標度結構是指網絡中神經元連接度的概率分布服從冪率分布，即p（k）≈k-γ（γ為常數(shù)）。實際上，該模型不必完全滿足無標度結構，只需使得網絡中少數(shù)神經元的連接度數(shù)較大，而多數(shù)神經元的連接度數(shù)較小。其中，k＞kth的神經元稱為樞紐神經元（hub），其他神經元為低連接度神經元（low-degree neuron）。

單個神經元的動力學如下［14］：

式中ui和vi分別為描述神經元狀態(tài)的膜電位和恢復電流，τ為時間常數(shù)，N為神經元數(shù)目。F為神經元之間的連接關系。圖1A中u（t）和v（t）隨時間的變化模擬了單個神經元動作電位產生過程。

除了無標度拓撲結構這一特性，為了避免神經網絡出現(xiàn)爆炸性發(fā)放活動，該模型的另一重要特性在于樞紐神經元被激活的難度比低連接度神經元更大。該特性有2種不同的實現(xiàn)方式：一種是考慮2個神經元之間的電突觸耦合［15］。令Fij=C0Jij（ujui），若神經元i和j之間存在連接，則權重Jij=Jji=1，否則Jij=Jji=0。電突觸耦合可被等效看作是2個神經元之間的連接電阻，具有平衡相鄰2個神經元膜電位的功效。這一效應進而增加了樞紐神經元被激活的難度，這是因為樞紐神經元存在很多連接，其接受的興奮性電流極易流到與其相連的神經元。通過選擇合適的耦合強度C0，可使單個動作電位足以激活一個低連接度神經元（圖1B），但若要激活一個樞紐神經元則需要2個或更多個動作電位的同時激發(fā)（圖1C和1D）。

另外一種實現(xiàn)方式是傳遞效率隨著突觸連接度增多而降低的化學突觸。令Fij=CiJijH（uj-θ），式中當uj＞θ時，H（uj-θ）=uj，其他情況下H（uj-θ）=0，表明神經元i只有在神經元j產生動作電位后才接受它的興奮性輸入。Jij=1意味著神經元i與j之間存在著化學突觸連接，Jij=0則表示無化學突觸連接。神經元之間的耦合強度會隨著神經元的連接度數(shù)ki增加而降低，進而增加了神經元i被激活的難度。

圖1 神經元和神經突觸的動力學特征［12］.A：單個神經元的動力學行為；當神經元產生動作電位后，進入不應期狀態(tài)，最后恢復到靜息狀態(tài).B：具有電突觸連接的低連接度神經元示例。單個動作電位可激活低連接度神經元.C：具有電突觸連接的樞紐神經元示例.單個動作電位不足以激活樞紐神經元.D：圖1C中的樞紐神經元可被≥2個同時到達的動作電位激活.

2 無標度神經網絡的神經活動及機制

2.1 無標度神經網絡的周期同步發(fā)放行為

無標度神經網絡模型具有維持長時程周期同步發(fā)放行為的能力。由電突觸或化學突觸耦合構成的神經網絡所呈現(xiàn)的網絡活動行為是類似的，所以，本文只以電突觸連接的神經網絡為例來進行說明。

圖2A為一個隨機生成的無標度神經網絡，其中γ=3，神經元的數(shù)目N=210，神經元平均連接度數(shù)〈k〉=4。若從隨機初始條件出發(fā)（ui和vi為0到1之間的均勻隨機數(shù)），并根據(jù)式①和②來演化網絡的活動狀態(tài)，神經網絡會有大約10%的概率演化到周期同步發(fā)放狀態(tài)。

2.2 長時程周期同步發(fā)放的神經網絡內在機制

為了揭示網絡活動狀態(tài)的內在機制，本課題組詳細研究了周期同步發(fā)放狀態(tài)下所有神經元的活動行為，發(fā)現(xiàn)大多數(shù)神經元在一個周期活動中只發(fā)放一次（圖2C），該類神經元被定義為T1神經元；少數(shù)神經元在一個周期內可以發(fā)放2次（圖2D），定義為T2神經元。進一步研究發(fā)現(xiàn)，正是這種不同的神經元活動模式揭示了網絡動力學的內在機制。對網絡中所有神經元的位置進行重新排列，將T2神經元置于中間，得到圖2E。從圖2E中可發(fā)現(xiàn)，所有的T2神經元都是低連接度神經元，而且這些低連接度的神經元形成一個環(huán)狀結構。

圖2 無標度神經網絡的動力學行為［12］.A：無標度神經網絡示意圖，圖中神經元直徑與其連接度成正比.B：神經網絡活動狀態(tài)呈現(xiàn)出一長時程周期性同步發(fā)放行為.C：T1神經元在單個周期內只發(fā)放一次.D：T2神經元在單個周期內發(fā)放兩次.E：重置圖2A中所有神經元的位置：將T2神經元（綠色和橙色）置于中間位置，其余神經元置于外周.所有T2神經元都是低連接度神經元，并構成一個環(huán).圖中紅色路徑表示低連接度環(huán)中的神經信號沿該路徑傳遞到樞紐神經元.

網絡動力學變化的過程可被清晰地揭示：假設編號為91的神經元（圖2E中標記為紅色的神經元）最先被激活，該神經活動信號會沿著低連接度神經元所組成的環(huán)逆時針方向傳播。一開始，低連接度環(huán)上的神經信號不足以誘發(fā)網絡的同步發(fā)放，網絡仍處于靜息狀態(tài)。只有當信號傳遞到編號為36的神經元時，網絡的同步發(fā)放行為可被誘發(fā)，這是因為36號神經元可同時激發(fā)多條傳播路徑（圖2E中的紅色路徑），進而激活編號為4的樞紐神經元；樞紐神經元可通過其豐富的連接度誘發(fā)網絡中剩余神經元的發(fā)放。同步發(fā)放之后，網絡活動狀態(tài)恢復到靜息狀態(tài)，這是由于大多數(shù)神經元在此時都處于不應期（refractory period）。

因此，無標度神經網絡可產生長時程周期同步發(fā)放活動的工作原理如下：①網絡中的樞紐神經元透過高連接度觸發(fā)整個網絡的同步發(fā)放；②大量低連接度神經元構成的環(huán)在網絡同步發(fā)放的間隔階段維持了網絡的活動，該低連接度環(huán)的長度決定了同步發(fā)放的周期，即可記錄時間節(jié)律信息；③電突觸或強度隨神經元連接度減小的化學突觸減小了樞紐神經元的發(fā)放概率，從而避免網絡的癲癇式振蕩。

3 無標度神經網絡的“庫網絡”特性

無標度神經網絡模型具有維持較大范圍內的節(jié)律性活動的能力。對具有300個神經元的無標度神經網絡中低連接度環(huán)的長度分布進行統(tǒng)計發(fā)現(xiàn)（圖3A），該分布較寬泛，這表明無標度神經網絡將像一個資源豐富的“庫”。網絡所能存儲的最長節(jié)律由網絡中最長的低連接度環(huán)（記為Lmax）來決定。

進一步統(tǒng)計Lmax與網絡尺度N的關系（圖3B），其線性擬合結果為Lmax≈0.12N+0.8。因此，當網絡尺寸在104～105量級（斑馬魚視頂蓋神經環(huán)路中神經元數(shù)目的一個粗略估計）時，Lmax則在1.2×103～1.2×104的范圍內；同時考慮到單個神經元的時間常數(shù)大約在10 ms的量級和神經元之間信號傳遞的時間延遲大約為1 ms，神經信號沿著Lmax傳播所消耗的時間范圍為13～130 s。以上結果表明，該研究所構建的無標度神經網絡模型可實現(xiàn)實驗中所觀測到的對20 s時間節(jié)律信息的記憶。

圖3 無標度神經網絡的“庫網絡”特性［12］.A：具有300個神經元的無標度網絡中低連接度環(huán)的長度統(tǒng)計分布，圖示結果為隨機生成的100個無標度網絡的平均值；B：低連接度環(huán)的最大長度與網絡尺度的關系，每個數(shù)據(jù)點均為隨機生成的100個無標度網絡的平均結果.

4 時間節(jié)律信息的提取機制

上述研究表明，若要在網絡中維持長時程周期性同步發(fā)放活動，關鍵是需要一個長度合適的低連接度環(huán)，以及連接在該環(huán)上的、可被該環(huán)激活的樞紐神經元。但神經系統(tǒng)如何根據(jù)外部周期性輸入獲得這一必要的網絡結構？神經系統(tǒng)可通過學習過程習得。

采用生物學所廣泛使用的Hebbian學習律來實現(xiàn)這個功能［15-17］，其基本思想是：網絡中豐富的環(huán)或鏈結構能長時間地保持輸入的殘余活動信息，當外部輸入不斷節(jié)律性地呈現(xiàn)時，網絡中與輸入節(jié)律相吻合的環(huán)或鏈就通過Hebbian學習律得到了加強，被這種學習“挑選”出來，協(xié)助網絡維持了與輸入相同節(jié)律的同步發(fā)放，實現(xiàn)對輸入時間信息的提取和再現(xiàn)。

具體過程如下：在t=0時刻，刺激首先呈現(xiàn)給了網絡中隨機選擇出的4%的神經元（記為神經元群A），該群神經元會被瞬間激活，網絡產生同步發(fā)放。同步發(fā)放后，神經網絡活動會沿著不同的路徑在網絡中傳播，從而能有效地保留外部刺激的記憶軌跡（圖4A），這為聯(lián)想記憶學習提供了重要的基石。在t=T時刻，殘余的神經網絡活動傳播到神經元群B，同時新一輪的刺激會到達神經元群A。根據(jù)Hebbian學習法則，在每個刺激呈現(xiàn)的時間窗口內，神經元群A和B之間的突觸連接不斷增強，直至形成一個長度為T的閉環(huán)連接。另外，外界刺激誘發(fā)了網絡的同步發(fā)放，這意味著神經元群A中包含了樞紐神經元，并且樞紐神經元在學習之后也被牢牢地連接在低連接度環(huán)上。經過上述學習過程，神經網絡就產生了與外部刺激節(jié)律相匹配的周期同步發(fā)放行為（圖4B）。

圖4 時間節(jié)律信息的提取機制［12］.A：隨機刺激無標度神經網絡中4%的神經元，網絡會產生同步發(fā)放活動，同步發(fā)放之后，網絡能維持長時間的刺激的記憶痕跡；B：刺激重復呈現(xiàn)20次之后，網絡通過Hebbian學習法則可產生周期性同步化發(fā)放.

5 結語和展望

本文介紹了一個簡單、有效的機制來產生并維持神經系統(tǒng)中的長時程周期性同步發(fā)放。該網絡模型具有無標度特殊拓撲結構，并包含豐富的具有不同尺寸的低連接度環(huán)，這一特性保證了神經系統(tǒng)具有處理不同時間范圍的周期性輸入信息的能力。當周期性呈現(xiàn)一個外部輸入，網絡就通過簡單的Hebbian學習律從資源庫里選出和輸入節(jié)律相吻合的環(huán)。

無標度的網絡結構和樞紐神經元難以被激活的特性是該網絡模型的重要特性。嚴格來講，網絡結構不必完全滿足無標度特性，只需使得網絡中包含少數(shù)的樞紐神經元和大量的低連接度神經元。這種連接方式可很好地在信號通訊的有效性和網絡連接的經濟性之間獲得平衡。大量的實驗研究也證明了神經系統(tǒng)的確具有無標度拓撲結構。如發(fā)育過程中小鼠海馬區(qū)的神經網絡結構［18］和基于功能性磁共振成像數(shù)據(jù)得到的大腦功能連接網絡的拓撲結構都具有無標度特性［19］。另外，還有實驗數(shù)據(jù)顯示，刺激單個或少量皮質神經元能顯著影響直覺和運動輸出［20］，以及大腦的整體狀態(tài)［21］，這極大地表明了樞紐神經元存在的可能性。最新實驗數(shù)據(jù)揭示，無標度拓撲結構極有可能廣泛存在于大腦皮質的層狀結構中，即層（Layer）2/3是樞紐神經元，而Layer5是低連接度神經元。本課題組的工作揭示，這種特殊拓撲結構在神經計算中具有至關重要的作用，極有可能是神經環(huán)路處理時間域信息的基本架構。

為了實現(xiàn)樞紐神經元難以被激活的特性，采取了2種可行機制。一是神經元之間的電突觸連接。實驗數(shù)據(jù)已證實，電突觸連接大量地存在于視網膜的神經節(jié)細胞和皮質的中間神經元。電突觸是否也存在于某些皮質的興奮性神經元之間的連接中還未可知。另外一種機制是隨突觸后神經元連接度增加而降低的化學突觸連接?；瘜W突觸連接強度如是均勻的，樞紐神經元會誘發(fā)高頻振蕩，從而使得無標度網絡不能維持長時程周期性同步發(fā)放?；瘜W突觸連接強度與神經元連接度的平方根成反比，長時程周期節(jié)律則能很好地被保留下來。值得注意的是，這一條件也是興奮-抑制平衡網絡產生不規(guī)則網絡活動的條件。同時，也有實驗數(shù)據(jù)表明，突觸的傳遞效率隨突觸后神經元的連接度增加而降低［22］。

一般來講，若是一個網絡具有無標度拓撲結構（即網絡中具有少數(shù)樞紐神經元和大量低連接度神經元）和樞紐神經元難以被激活的特性，那么該網絡即可實現(xiàn)前述的所有動力學行為。其他動力學系統(tǒng)是否也存在這些特性有待于進一步研究。

一般認為，同步振蕩在大腦功能實現(xiàn)上起到了重要作用。已有研究提出不同的機制來產生神經元響應中的節(jié)律行為，如從單個神經元的性質（即振蕩器特性）到神經元的群體動力學等。這些已有機制的一個重要挑戰(zhàn)是：如何協(xié)調網絡的規(guī)則振蕩和單個神經元的不規(guī)則響應之間的矛盾。本文所介紹的模型產生長時程周期振蕩的機制在于神經活動是沿著低連接度環(huán)進行傳播的，因此這一機制與單個神經元對恒定刺激的不規(guī)則響應之間并不存在矛盾。

本課題組所提出的機制對研究神經信息處理具有深遠的影響。神經系統(tǒng)能利用其內在的低連接度神經元形成的環(huán)來存儲外部輸入信息的記憶痕跡，由此可作為處理時序信息的基石。另外，該模型與庫網絡的理念相一致［23］。

針對領域內長期爭論的焦點，本課題組的工作支持局域神經環(huán)路可利用其內在網絡動力學特性來分布式地處理時間這一觀點，同時也回答了領域內一個極具挑戰(zhàn)性的理論難題，即如何維持長時程周期性同步發(fā)放行為。

［1 ］Kandel E，Schwartz J，Jessell T，Siegebaum S，Hudspeth A.Principles of Neural Science（神經科學原理）［M］.Fifth Edition.New York：McGraw-Hill Ryerson.2013：330-350.

［2 ］Carr CE.Processing of temporal information in the brain［J］.Annu Rev Neurosci，1993，16：223-243.

［3 ］Mauk MD，Buonomano DV.The neural basis of temporal processing ［J］.Annu Rev Neurosci，2004，27：307-340.

［4 ］Buhusi CV，Meck WH.What makes us tick？Functional and neural mechanisms of interval timing［J］.Nat Rev Neurosci，2005，6（10）：755-765.

［5 ］Ivry RB，Schlerf JE.Dedicated and intrinsic models of time perception［J］.Trends Cogn Sci，2008，12（7）：273-280.

［6 ］Hopfield JJ.Neurons with graded response have collective computational properties like those of two-state neurons［J］.Proc Natl Acad Sci USA，1984，81（10）：3088-3092.

［7 ］Fuster JM，Alexander GE.Neuron activity related to short-term memory［J］.Science，1971，173（3997）：652-654.

［8 ］Gibbon J.Scalar expectancy theory and Weber′s law in animal timing［J］.Psychol Rev，1977，84（3）：279-325.

［9 ］Karmarkar UR，Buonomano DV.Timing in the absence of clocks：encoding time in neural network states［J］.Neuron，2007，53（3）：427-438.

［10 ］Buonomano DV，Maass W.State-dependent computations：spatiotemporal processing in cortical networks［J］.Nat Rev Neurosci，2009，10（2）：113-125.

［11 ］Sumbre G，Muto A，Baier H，Poo MM.Entrained rhythmic activities of neuronal ensembles as perceptual memory of time interval［J］.Nature，2008，456（7218）：102-106.

［12 ］Mi Y，Liao X，Huang X，Zhang L，Gu W，Hu G，et al.Long-period rhythmic synchronous firing in a scale-free network［J］.Proc Natl Acad Sci USA，2013，110（50）：E4931-E4936.

［13 ］Barabasi AL，Albert R.Emergence of scaling in random networks［J］.Science，1999，286（5439）：509-512.

［14 ］B?r M，Eiswirth M.Turbulence due to spiral breakup in a continuous excitable medium［J］.Phys Rev E Stat Phys Plasmas Fluids Relat Interdiscip Topics，1993，48（3）：R1635-R1637.

［15 ］Bi GQ，Poo MM.Synaptic modifications in cultured hippocampal neurons：dependence on spike timing，synaptic strength，and postsynaptic cell type［J］.J Neurosci，1998，18（24）：10464-10472.

［16 ］Bloomfield SA，V?lgyi B.The diverse functional roles and regulation of neuronal gap junctions in the retina［J］.Nat Rev Neurosci，2009，10（7）：495-506.

［17 ］Yang XD，Korn H，F(xiàn)aber DS.Long-term potentiation of electrotonic coupling at mixed synapses［J］.Nature，1990，348（6301）：542-545.

［18 ］Bonifazi P，Goldin M，Picardo MA，Jorquera I，Cattani A，Bianconi G，et al.GABAergic hub neurons orchestrate synchrony in developing hippocampal networks［J］.Science，2009，326（5958）：1419-1424.

［19 ］Eguíluz VM，Chialvo DR，Cecchi GA，Baliki M，Apkarian AV.Scale-free brain functional networks［J］.Phys Rev Lett.2005，94（1）：018102.

［20 ］Brecht M，Schneider M，Sakmann B，Margrie TW.Whisker movements evoked by stimulation of single pyramidal cells in rat motor cortex［J］.Nature，2004，427（6976）：704-710.

［21 ］Morgan RJ，Soltesz I.Nonrandom connectivity of the epileptic dentate gyrus predicts a major role for neuronal hubs in seizures［J］.Proc Natl Acad Sci USA，2008，105（16）：6179-6184.

［22 ］Li H，Li Y，Lei Z，Wang K，Guo A.Transformation of odor selectivity from projection neurons to single mushroom body neurons mapped with dual-color calcium imaging［J］.Proc Natl Acad Sci USA，2013，110（29）：12084-12089.

［23］Jaeger H，Maass W，Principe J.Special issue on echo state networks and liquid state machines［J］.Neural Networks，2007，20（3）：287-289.