來源：内容由半導體行業觀察（ID：icbank）編譯自nature.，謝謝。

摘要

類腦計算新技術有望通過完全不同的方式處理信息，能效極高，并能處理我們加速産生的大量非結構化和嘈雜的數據。為了實現這一承諾，需要一個勇敢而協調的計劃，将不同的研究團體聚集在一起，并為他們提供所需的資金、重點和支持。過去我們已經通過數字技術做到了這一點，我們正用量子技術做這件事。現在我們能為類腦計算做這件事嗎？

現代計算系統能耗太大，對于日益成為我們生活一部分的複雜AI應用來說，不是可持續發展的平台。但我們往往看不到這一點，尤其在基于雲的系統中，通常隻關注功能，比如：它們有多快；如何準确；每秒有多少并行操作?我們習慣于即時獲取信息，以至于忽略了計算系統給我們這種訪問帶來的能量和環境後果。然而，每次谷歌搜索都有成本：數據中心目前每年使用約200太瓦時的能源，預計到2031年将增長約一個數量級。類似地，如DeepMind的AlphaGo和AlphaZero等高端人工智能系統的驚人成就，需要數千個并行處理單元，可以在複雜的戰略遊戲中擊敗人類專家，每個單元的功耗約為200瓦。

雖然不是所有數據密集型計算都需要人工智能或深度學習，但深度學習應用如此廣泛，我們必須擔心它的環境成本。我們還應該考慮包括物聯網(IoT)和自主機器人代理在内的應用，這些應用可能不需要總是由計算密集的深度學習算法操作，但仍必須降低它們的能源消耗。如果無數聯網設備的能源需求過高，那麼物聯網的願景就無法實現。最近的分析表明，人們對計算能力需求的增長速度遠遠超過了摩爾定律所帶來的進步。現在計算能力需求每兩個月翻一番（圖第1A段）。通過智能架構和軟硬件協同設計的結合，取得了顯著的進步。例如，自2012年以來，NVIDIA GPU（圖形處理器）的性能提高了317倍：遠遠超出摩爾定律的預期（圖1b）—盡管在同一時期，單元的功耗從大約25W增加到大約320W。進一步令人印象深刻的性能改進已經在研究和開發階段得到證明（圖1b，紅色），我們可能會取得更多進步。不幸的是，僅靠傳統的計算解決方案是不可能滿足長期需求的。這點在我們考慮到最複雜的深度學習模型所需的驚人的高訓練成本時，尤其明顯(圖1c)，我們需要替代的方法。

a、在過去四十年中，以千兆次每秒來表示的計算能力需求的增長。直到2012年，計算能力需求每24個月就翻一番;最近，這個時間縮短到大約每兩個月一次。顔色圖例表示不同的應用程序域。b，過去五年AI硬件效率的提高。最先進的解決方案使計算效率提高了300多倍。研發中的解決方案有望進一步改進。c，自2011年以來人工智能模型訓練成本增加。這樣的指數增長顯然是不可持續的。

能源問題很大程度上是數字計算系統将數據與處理數據分開存儲的結果。這是數字計算系統的經典馮·諾依曼架構，處理器的大部分時間和精力都花在傳輸數據上。幸運的是，我們可以從生物學中獲得靈感來改善這種情況，生物學采用了完全不同的方法——将記憶和處理置于同一位置，以完全不同的方式編碼信息，或者直接對信号進行操作，并采用大規模并行處理，例如(專欄 1)。有種系統能很好地實現能源效率和高級功能：那就是大腦。我們意識到關于大腦如何運作，還有很多東西要學習，我們的目标不隻是簡單地模拟生物系統，但我們仍然可以從過去幾十年神經科學和計算神經科學的重大進展中學習。憑借我們對大腦的了解足以用它來激發靈感。

專欄1

我們所說的“神經形态”系統是什麼意思?

從大腦中獲取靈感，使我們能夠以與現有傳統計算系統完全不同的方式處理信息。不同的大腦啟發(“神經形态”)平台使用不同方法的組合：模拟數據處理、異步通信、大規模并行信息處理或基于峰值的信息表示。這些性質使它們區别于馮·諾伊曼計算機。

“神經形态”一詞至少涵蓋了三個廣泛的研究群體，其區别在于他們的目标是模拟神經功能（對大腦進行逆向工程）、模拟神經網絡（開發新的計算方法）還是設計新型電子設備。

“神經形态工程”研究的是大腦如何利用生物突觸和神經元的物理原理來“計算”。神經形态工程師的工作是通過利用模拟電子的物理特性（如載流子隧穿、矽浮栅上的電荷保持以及各種設備或材料屬性對場的指數依賴性）定義基本操作，來模拟生物神經元和突觸的功能。晶體管被用作具有豐富動态特性的模拟電路元件，而不是二進制開關。

“神經形态計算”希望從生物學中找到處理數據的新方法，這可以被認為是神經形态系統的計算科學。研究着眼于模拟生物神經網絡的結構和/或操作，這可能意味着存儲和計算的共同定位，就像大腦一樣;或者可能采用完全不同的計算方法，基于電壓峰值來模拟生物系統的動作電位。

支撐一切的是實現仿生功能所需的設備和材料。在這方面，最近的發展預示着新的電子和光子器件，我們可以定制其特性來模拟生物元素，如突觸和神經元。這些“神經形态設備”可以提供令人興奮的新技術，以擴展神經形态工程和計算的能力。

在這些新設備中，最重要的是憶阻器：一種電子設備，其電阻是曆史的函數。它們複雜的動态電反應意味着它們可以用作數字記憶元件、人工突觸中的可變權重、認知處理元件、光學傳感器和模拟生物神經元的設備。此外，它們還可能具有生物樹突的某些功能，而且它們的動态反應可以産生與大腦類似的振蕩行為，不過有争議的是，它們在“混亂的邊緣”運轉，也可能與一個系統中的生物神經元有關。但他們可以在消耗很少能量的情況下完成所有這些工作。

在生物學中，數據存儲與處理是分不開的。同樣的元素——主要是神經元和突觸——在大規模并行和适應性結構中執行這兩種功能。在典型的人類大腦中包含的1011個神經元和1015個突觸大約消耗20w的功率，而一個大約相同大小的人工神經網絡的數字模拟消耗7.9 MW，這六個數量級的差距給我們帶來了挑戰。大腦以極高的效率直接處理那些嘈雜信号。這與傳統計算機系統中的信号-數據轉換和高精度計算形成了鮮明對比，即使是最強大的數字超級計算機，也會在能源和時間上産生巨大的成本。因此，受大腦啟發或“神經形态”的計算系統可以改變我們處理信号和數據的方式，無論是在能源效率方面，還是在處理現實世界不确定性的能力方面。

這已經不是一個新想法。20世紀80年代末，加州理工學院（California Institute of Technology）的卡弗·米德（Carver Mead）提出了“神經形态”（neuromorphic）一詞，用于描述模拟生物神經系統某些功能的設備和系統。靈感來自于過去幾十年的工作，他們将神經系統建模為等效電路，并建造模拟電子設備和系統以提供類似的功能(專欄1)。

一個關于“數據”的詞。我們用這個術語來描述編碼在模拟信号或傳感器的物理響應中的信息，以及更标準的以計算為中心的數字數據。當我們提到大腦“處理數據”時，我們描述的是一套完整的信号處理任務，它們不依賴于任何傳統意義上的信号數字化。我們可以想象大腦啟發系統在不同的水平上運行:從模拟信号處理到使用大型數字數據集。在前一種情況下，我們可以首先避免生成大型數據集；在後者中，我們可以通過遠離馮·諾伊曼模型來大大提高處理效率。

當然，我們在許多應用中以數字方式表示數據是有原因的：我們需要高精度、可靠性和确定性。然而，數字抽象抛棄了在晶體管物理學中發現的大量信息，以獲得最小的信息量子：單個比特。我們用效率換取可靠性，為此付出了相當大的能源成本。人工智能應用在本質上往往是概率性的，因此我們必須考慮這種權衡是否合理。當由傳統的馮諾依曼計算機執行時，支撐人工智能應用的計算任務是十分計算密集的（并且因此是耗能的）。然而，在使用基于尖峰的信息表示的模拟或混合系統上，我們可以更節能地執行類似的任務。因此，在人工智能系統發展和新設備出現的推動下，最近人們對神經形态計算的興趣再度興起，這些新設備提供了新的和令人興奮的方式來模拟生物神經系統的某些功能(專欄1)。

“神經形态”的定義差異很大。不嚴格地說，這是一個關于硬件的故事：神經形态芯片旨在集成和利用大腦的各種有用特性，包括内存計算、基于尖峰的信息處理、細粒度并行性、信号處理、抗噪聲和随機性、适應性、硬件學習、異步通信和模拟處理。盡管需要實現多少這樣的功能才能歸類為神經形态這件事存有争議的，但這顯然是一種不同于在主流計算系統上實現人工智能的方法。然而，我們不應迷失在術語中，關鍵問題在于這種方法是否有用。

神經形态技術的方法是在對大腦的結構和功能進行逆向工程(分析)以及目前我們對大腦缺乏知識的情況下，但從我們已知的知識中獲得靈感（綜合）之間。在前一種方法中，或許最重要的是“人類大腦計劃”，這是一個備受矚目且雄心勃勃的十年計劃，由歐盟從2013年開始資助。該項目支持采用和進一步開發兩個現有的神經形态硬件平台——spinnaker(在曼徹斯特大學)和BrainScaleS(在海德堡大學)——作為開放訪問的神經形态平台。這兩個系統都實現了大腦結構高度複雜的矽模型，以更好地理解生物大腦的運作。在光譜的另一端，許多研究小組使用選定的生物激發方法來增強數字或模拟電子器件的性能。圖2總結了現有神經形态芯片的範圍，根據其在分析-合成光譜中的位置和技術平台，将其分為四類。重要的是要記住，神經形态工程不僅僅是關于高級認知系統，而且還在認知能力有限的小型邊緣設備中提供能量、速度和安全收益(至少通過消除對雲持續通信的需求)。

神經形态芯片可以分為模拟生物系統或應用大腦啟發原理的新計算應用。它們可以進一步細分為基于具有新穎架構的數字CMOS(例如，尖峰可以在數字領域模拟而不是作為模拟電壓實現)和使用某種程度模拟電路實現的那些。然而，在所有的情況下，它們至少具有右邊列出的一些特性，這使它們有别于傳統的CMOS芯片。在這裡，我們對最近開發的神經形态芯片進行分類。每一種的詳細細節可以在相關的參考文獻中找到：Neurogrid，BrainsClases，MNIFAT，Dynap，Dynap-Sel，Rolls，Spirit，Reason，DeepSouth，Spinnaker，IBM TrueNorth, Intel Loihi, Tianjic, ODIN and the Intel SNN chip.

我們并不認為神經形态系統将或者應該取代傳統的計算平台。相反，精确計算應該保留數字計算，而神經形态系統可以處理非結構化數據，執行圖像識别，分類噪聲和不确定的數據集，并支持新的學習和推理系統。在自主和物聯網系統中，它們可以比傳統系統節省大量能源。量子計算也是這一願景的一部分。盡管估計還需要幾年的時間，一台實用的量子計算機，肯定會徹底改變許多計算任務。但是，物聯網智能傳感器、邊緣計算設備、自主機器人系統在不依賴雲計算的情況下，不大可能采用量子計算，對能夠處理不确定和噪聲數據的低功耗計算元件的需求仍将存在。我們可以想象數字系統、神經形态系統和量子系統之間的三方協同作用。

正如半導體微電子學的發展依賴于許多不同的學科，包括固體物理學、電子工程、計算機科學和材料科學，神經形态計算具有深刻的跨學科和跨學科性質。物理學家、化學家、工程師、計算機科學家、生物學家和神經科學家都扮演着重要角色。僅僅讓來自不同學科的研究人員說一種共同的語言就很有挑戰性。在我們自己的工作中，我們花了大量的時間和精力來确保房間裡的每個人都以相同的方式理解術語和概念。在計算機科學（特别是人工智能）和神經科學（最初是計算神經科學）社區之間架起橋梁的情況是顯而易見的。畢竟，在當今最先進的人工智能系統中發現的許多概念都是在20世紀70年代和80年代出現在神經科學領域的，當然，人工智能系統并不需要完全是生物現實的。我們必須納入其他學科，認識到我們在人工智能或神經科學方面取得的許多進步是由不同領域促成的——例如，材料科學、納米技術或電子工程方面的創新。此外，傳統的CMOS(互補金屬氧化物半導體)技術可能不是有效實現新的大腦啟發算法的最佳結構，需要全面創新。盡早讓這些社區參與進來，可以減少在已經探索過但失敗的方向上浪費精力的風險，也可以減少重新發明輪子的風險。

此外，我們不應忽視在系統級别集成新的神經形态技術的挑戰。除了開發受大腦啟發的設備和算法，還有一些緊迫的問題，即如何用功能相當的神經形态替代方案來取代現有的主流人工智能系統，這進一步強調了對類腦計算完全集成方法的需求。

我們應該指出，盡管有上述潛力，但目前還沒有令人信服的商業神經形态技術的證明。現有系統和平台主要是研究工具，量子計算也是如此，它仍然是一個長期的前景。我們不應該因此耽誤類腦計算的發展。當前，對低功耗計算系統的需求十分迫切，我們即将通過一種完全不同的計算方法來實現這一目标，商業系統肯定會出現。

如果需要神經形态計算，如何實現?第一，技術要求。把不同的研究界團結起來是必要的，但這還不夠，需要激勵措施、機會和基礎設施。神經形态社區是一個完全不同的社區，缺乏對量子計算的關注，也缺乏半導體行業的清晰路線圖。全球各地的項目正開始收集所需的專業知識，早期階段的勢頭正在形成。要實現這一點，資金是關鍵。對神經形态研究的投資規模遠不及數字人工智能或量子技術(專欄2)。盡管考慮到數字半導體技術的成熟，這并不令人驚訝，但這将錯失機會。在神經形态的研究和開發方面有一些中等規模的投資，如IBM人工智能硬件中心的一系列大腦啟發項目(包括TrueNorth芯片)，英特爾的Loihi處理器的開發，以及美國的大腦計劃項目，但它們的投資總額遠遠低于一個有望颠覆數字人工智能技術應有的水平。

神經形态領域是一個龐大且不斷增長的領域，但它缺乏一個重點。盡管有許多會議、專題讨論會和期刊出現在這一領域，但仍有許多工作要做，通過将不同領域的專家聚集在一起，以此來努力說服，讓資助機構和政府認識到這一領域的重要性。

采取大膽舉措的時機已經成熟。在國家層面，政府需要與學術研究人員和産業界合作，建立以任務為導向的研究中心，以加速神經形态技術的發展。這種方法在量子技術和納米技術等領域十分有效——美國國家納米技術計劃（US National Nanotechnology Initiative）很好地證明了這一點，并提供了關注和激勵。這些中心可以是實體的，也可以是虛拟的，但必須彙集不同領域最優秀的研究人員。他們的方法必須與傳統電子技術的方法不同，在傳統電子技術中，每個抽象層次（材料、設備、電路、系統、算法和應用）都屬于不同的領域。我們需要在整個堆棧中進行整體和并行設計。電路設計者在設計系統之前咨詢計算神經科學家是不夠的，工程師和神經科學家必須在整個過程中合作，以确保盡可能全面地将生物啟發原理整合到硬件中。跨學科的共同創造必須是我們方法的重點，研究中心必須容納廣泛的研究人員。

除了必要的物質和金融基礎設施，我們還需要訓練有素的勞動力。電子工程師很少接觸神經科學的思想，反之亦然。電路設計師和物理學家可能對神經元和突觸有一定的了解，但不太可能熟悉尖端的計算神經科學。建立培養神經形态工程師的碩士課程和博士培訓計劃是有充分理由的。英國研究委員會（UK Research Council）贊助博士培訓中心（CDTS），該中心是支持已确定需要訓練有素研究人員的領域。CDTS可以是單個或多個機構，通過建立跨機構的互補團隊，在這些項目上合作的機構将獲得實質性的好處。這種項目通常與行業密切合作，建立高技能的研究人員隊伍，而傳統的博士項目往往無法做到這一點。這是一個很好的例子來開發類似的東西，來刺激新生神經形态工程領域之間的互動，并提供下一代研究人員和研究領導者。開創性的例子包括格羅甯根認知系統和材料研究項目，該項目旨在培養數十名專門研究認知(AI)系統材料的博士生，慕尼黑工業大學的神經工程碩士項目; 蘇黎世聯邦理工學院神經形态工程模拟電路設計課程；斯坦福大學的大規模神經建模；在塞維利亞微電子研究所開發視覺神經形态系統。在這方面他們還有更多的空間。

類似的辦法可以在跨國一級發揮作用。就像在研究中，當最優秀的人與最優秀的人不分國界地合作時，那這種合作就最成功。在神經形态計算這樣跨學科研究中，這點至關重要，因此國際研究網絡和項目無疑可以發揮作用。早期的例子包括專注于神經形态計算技術的歐洲神經技術聯盟，以及位于德累斯頓大學的蔡氏憶阻器中心，該中心彙集了材料、設備和算法領域許多優秀的記憶電阻器研究者。同樣，我們可以而且必須做更多的工作。

如何能讓這類項目吸引政府的關注？政府對更節能的仿生計算的承諾可以成為更廣泛的大規模脫碳推動的一部分。這不僅将解決氣候變化問題，還将加速圍繞大數據、物聯網、醫療保健分析、藥物和疫苗發現建模以及機器人等新低碳行業的出現。如果現有行業依賴于更大規模的傳統數字數據分析，則會增加能源成本，同時提供次優性能。相反，我們可以創造一個良性循環，在這個循環中，大大減少這類推動下一代颠覆性産業的知識技術的碳足迹，并在此過程中培育出一系列新的神經形态産業。如果這聽起來是一項艱巨的任務，那麼考慮一下量子技術。到目前為止，英國政府已投入約10億英鎊用于一系列量子計劃，主要是在國家量子技術項目的庇護下。一系列的研究中心，彙集了工業界和學術界，将量子科學轉化為針對傳感器和計量、成像、通信和計算的技術。一個獨立的國家量子計算中心建立在這些中心和其他研究人員的工作基礎之上，提供演示硬件和軟件，以開發通用量子計算機。中國已經建立了一個數十億美元的中國量子信息科學國家實驗室，美國在2018年委托了一項量子信息科學國家戰略概述，這導緻了一項為期五年的12億美元的投資，此外還支持了一系列國家量子研究中心。得益于這項研究，全球掀起了一股創立量子技術公司的熱潮。一項分析發現，2017年和2018年，私營公司的融資達到了4.5億美元。盡管神經形态計算技術比量子技術更成熟，并有可能在更短的時間内颠覆現有的人工智能技術，但對神經形态計算并不存在這樣的聯合支持。在我們設想的未來計算的三個分支中，神經形态的投資嚴重不足。

最後，談談COVID-19大流行可能對我們的論點産生的影響。越來越多的人一緻認為，這場危機加速了許多已經發生的事态發展：例如，人們開始更多地在家工作。盡管減少通勤和旅行有直接的好處——一些人估計，危機導緻全球二氧化碳排放量減少高達17%——但新的工作方式是有代價的。減少旅行所節省的碳能在多大程度上被增加的數據中心排放所抵消？如果說有什麼不同的話，那就是COVID-19的流行進一步強調了開發低碳計算技術（如神經形态系統）的必要性。

我們關于如何實現神經形态系統潛力的信息是明确的：通過建立卓越研究中心，為合作研究提供有針對性的支持；提供靈活的供資機制，以實現快速進展；提供與業界密切合作的機制，以引入商業資金，并産生新的衍生企業和初創企業，類似于已在量子技術方面實施的計劃；為下一代神經形态研究人員和企業家制定培訓方案；并快速、大規模地完成所有這些工作。

神經形态計算有可能将我們的方法轉變為人工智能。由于新技術的結合，以及不斷增長的對高效人工智能的巨大需求，我們有了新機遇，需要大膽的想法，以及支持這種想法的大膽舉措。我們會抓住機會嗎？

專欄2

人工智能融資格局

對“傳統”數字人工智能的投資正在蓬勃發展，這是因為需要處理不斷增加的數據量，以及需要開發硬件來支持現有的計算和内存密集型算法。英國政府于2018年4月宣布了一項價值9.5億英鎊的數字人工智能“行業交易”，并得到了現有研究委員會支持。法國宣布2018—2022年政府人工智能投資18億歐元，德國承諾2018—2025年投資30億歐元，日本2017年投資26萬億日元。2020年，美國政府對民用人工智能技術的資助為9.73億美元；由于非人工智能項目經常被包含在已發表的分析中，美國軍方的人工智能資助數據更難獲得。據估計，中國将在民用和軍用人工智能領域投資高達80億美元，并正在北京附近建設一個21億美元的人工智能研究園區，歐盟委員會承諾在2018-2020年期間投資15億歐元。商業投資讓這個相形見绌。在美國，有人估計，2019年對人工智能公司的總投資為195億美元，到2023年，全球投資預計将達到980億美元左右。如果我們當前的硬件系統無法支持具有潛在破壞性的神經形态算法和架構，就必須考慮到這一金額存在風險。如果神經形态技術能夠像它們所承諾的那樣提供效率節約和性能提升，那麼聰明的投資者就把賭注押在數字系統之外的新技術和架構上。

由于神經形态技術目前缺乏關注和政府層面的可見度，因此無法獲得可比數據。此外，研究資金是零碎的，而且是在項目層面，而不是戰略層面。盡管已經發表了各種預測，例如，全球神經形态芯片市場将從2021年的2270萬美元增長到2026年的5.506億美元，但最穩妥的結論是，神經形态系統的資金遠遠落後于數字人工智能或量子技術。

圖：數字人工智能技術最近全球公共研究資助的對比。數據以美元等值(2021年彙率)表示，并以百萬美元表示。有些是以年為單位的快照(例如UKRI承諾的2020年資金)，有些沒有特定的期限(例如英國人工智能領域的協議)，還有一些是多年計劃，但該圖顯示了數字技術領域的公共資金規模。高效神經形态技術的發展對人工智能生态系統的破壞，将使大部分投資面臨風險。

★ 點擊文末【閱讀原文】，可查看本篇原文鍊接！

*免責聲明：本文由作者原創。文章内容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯系半導體行業觀察。

今天是《半導體行業觀察》為您分享的第3022内容，歡迎關注。

晶圓｜集成電路｜設備｜汽車芯片｜存儲｜台積電｜AI｜封裝

原文鍊接！

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!