編者按：

短短幾個月，ChatGPT在全球圈粉無數，其背後的原理和工作機制是什麼？它會替代記者的工作嗎？我們應該怎麼看待ChatGPT的未來發展？光明網《創新改變中國》欄目專訪中國傳媒大學腦科學與智能媒體研究院院長、博士生導師曹立宏，從人工智能視角探究ChatGPT。

專家簡介

曹立宏，中國傳媒大學腦科學與智能媒體研究院院長、博士生導師，中傳學術委員會副主任，中國人工智能學會第八屆理事會理事，第八屆教育部科技委員會人工智能與區塊鍊技術專委會委員，專注于類腦智能和計算的研究。

“ChatGPT使用感不錯，但也有不足”

光明網：您使用ChatGPT的感受如何？有哪些明顯不足？

曹立宏：相比過去的GPT3，感覺确實是有明顯的提升，尤其是它對話的流暢性很好，說明現在語言生成模式方面做得不錯了。對于普通的知識，比較大衆化的或者比較淺顯的專業知識，它能夠提供，組織得也很不錯。但對于比較專業性的問題，它就開始出問題了。

ChatGPT使用了帶人類反饋的強化學習，GPT3生成語言的能力就已經很強大了，再加上Chat（聊天）的方式，就比較火，某種意義上這也是商業推廣很好的模式。目前ChatGPT似乎有個限制，内容更新不是很快。例如，你要問它中國最火的電視劇，它大概答不出叫《狂飙》。因為這涉及AI中的災難性遺忘問題：怎麼讓它很快學會新東西，又不去幹涉原來的東西，這是AI領域尚未完全解決的問題。

另外，ChatGPT沒有對概念的具身體驗，這就是我們真正的common sense（常識），我們從小在生活環境裡所積累的知識，例如重力等等。對一個東西我們不單看到，會聽到，可能會摸到、聞到、吃到，是全方位的。如果你看到一個黑色的蘋果，你敢吃嗎？你肯定會猶豫，沒準一摸你就知道那是個爛蘋果。實際上我們人類的理解很多東西是具身理解的，在自然語言處理裡的“理解”，僅僅依靠文本，是一種膚淺的理解。

圖片由百度文心大模型 AI 生成

關鍵詞：《狂飙》，災難性遺忘，常識，具身體驗，文本

光明網：作為一名記者，被ChatGPT替代的可能性有多高？

曹立宏：我覺得你現在不用太擔心，首先記者是個基于深度理解來提出問題的提問者。在深度理解這方面，ChatGPT目前還做不到。還有，它現在不碰情感系統。但作為記者，這兩點都很重要。而且，記者需要快速學習，因為你希望知道受訪者的性格等等方面，在采訪過程當中，甚至你可以快速學習和了解到，這些都不是機器目前能夠做得了的。

圖片由百度文心大模型 AI 生成

關鍵詞：記者，深度理解，提問，情感，快速學習，性格

“ChatGPT更多還隻是一個輔助工具”

光明網：我看您在朋友圈裡評論，“ChatGPT是穿了個AI的深度學習馬甲”，“不要把ChatGPT看成AI就好”，“對科學來說大概率是很流暢地胡說八道”，如何理解這些觀點？

曹立宏：這幾年自然語言處理領域确實有比較大的發展。很多學生就往這個方向偏，覺得這個方向好找工作。很多企業也确實需要這樣的人，但作為我們做科研的人确實還是蠻擔心的，不太樂觀，因為它對專業的東西會胡說八道。所以如果是想要搞研究的人把ChatGPT當成導向式的東西的話，可能會引發很大的問題。所以我說它是“穿了個 AI的深度學習的馬甲”，它本身并不像科學家或者專業的人具有很專業的思考和專業的知識。

另一句“不要把它看成是AI就好”，因為AI的本源是想要模仿我們人類的智能。很明顯ChatGPT它不是類似于人的智能，在某種意義上它超越了人，它知識面特别廣,但是在深度上，它沒辦法像人一樣深入思考。對于具有科學深度的知識和思考，它大概率是很流暢的，但常常是“很一本正經的胡說八道”。

圖片由百度文心大模型 AI 生成

關鍵詞：自然語言處理，找工作，胡說八道，馬甲，專業思考，AI，人類

光明網：如果不把它看成AI，要把它看成什麼呢？

曹立宏：一個輔助工具，就好像最早的時候連計算器都沒有，我們買菜買肉就心算，麻煩一點就拿個筆算，慢一點。後來有計算器了，就快了。現在ChatGPT也是特别快，它的自由度變高了，也就是說我可以随便問。以前你也可以用搜索引擎搜索很多東西，但基本以關鍵詞搜索。現在可以用關鍵句來搜索。你可以讓它幫你寫一段，所以效率是高了。但是它的産出的内容是否有深度？這個我不看好。

圖片由百度文心大模型 AI 生成

關鍵詞：輔助工具，計算器，自由，搜索引擎，關鍵句，效率，深度

“未來需警惕ChatGPT被濫用”

光明網：怎麼看ChatGPT的未來發展？

曹立宏：我認為ChatGPT有兩條發展路徑。一還是所謂深度學習，它本質上采用的是人工神經元模型構建的深度學習神經網絡及相關的稱為反向傳播學習算法。但這個模型本身偏離了生物大腦中的神經元模型和學習算法。所以連深度學習最為核心的科學家Geoffrey Hinton還在積極尋找更類似大腦的模型和算法。我們需要更好的模型和算法，可惜到現在也沒有完全提出來。對ChatGPT來說，這相當于要動一個比較核心的手術。

還有一條路徑，是更多從大腦的角度去思考，例如在ChatGPT裡它用到了一個最基本的技術，就是把例如蘋果、梨等等概念量化，變成所謂的詞向量，這種量化在大腦裡看可能不完全是這樣的。所以我們能不能有一個更類似于大腦記憶、量化、學習的方式，也有可能演變出更類似于人的ChatGPT。

未來，它會是一個人們喜歡去用的工具，我也會用。目前的聲音太過于正面了，如果缺乏對它極限能力判斷的話，（ChatGPT）會被濫用，濫用帶出來的問題就太大了。

圖片由百度文心大模型 AI 生成

關鍵詞：深度學習，人工神經元模型，神經網絡，反向傳播學習算法，大腦，工具

（光明網記者 林佳欣）

來源： 光明網

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!