2021年12月11日,由雷峰網 & AI 掘金志主辦的第四屆中國人工智能安防峰會,在深圳正式召開。
本屆峰會以「數字城市的時代突圍」為主題,會上代表城市AIoT的14家标杆企業,為現場和線上觀衆,分享迎接數字城市的經營理念與技術應用方法論。
在下午場的演講環節中,雲天勵飛首席科學家王孝宇發表了精彩演講。
王孝宇認為,AI的研發模式有兩大關鍵點:
用什麼樣的數據訓練模型;
模型如何基于數據得到更好的結果。
過去的研發模式大都以模型為中心,依賴專家,找數據、标注數據,然後讓AI博士調參,如同工業化時代的“擰螺絲釘”,導緻AI無法大規模産業化。
同時,過去的研發範式,大都集中于用更好的技術建立更好的模型。但幾年之後,業界發現所用的技術越來越趨同,标準化的條件成熟了
事實上,對比不同研發模型,可以發現對AI研發和應用來說,高效地獲取最好的數據,比模型本身要重要得多。
究其原因是技術叠代快,容易被趕上,但數據叠代慢,因此如何在最短時間内得到可以使模型達到最優效果的數據集,這才是最重要的。
因此鑒于人力成本和模型标準化條件的成熟,雲天勵飛在内部打造了一套标準化、流程化、平台化的模型研發方式。
雲天勵飛大規模算法研發的流程是:
第一步,獲取初始模型。通過分布式标注平台定義任務,再利用被千億、百億級的數據訓練出來的大模型和無監督學習,配合少量數據的标注,得到不錯的初始模型。
第二步,數據叠代。在海量還沒有标注好的數據中,用技術、算法找到真正有用的數據,用主動學習算法做數據擇優。
第三步,模型訓練。在雲天勵飛的平台上用一鍵化方式,完成調整參數、數據挖掘等工作,降低對訓練模型人員的從業要求。同時讓數據、研發軌迹、開發技巧都沉澱在平台上,動作可複用,流程可追溯,降低AI人員高流動性帶來的負面影響。
他認為視覺AI目前還處在拓荒階段,是一片沙漠,沒有變成綠洲,隻有等到其變成綠洲時,才能“長”出很多AI企業,而雲天勵飛建立的這套平台,就是加速沙漠變綠洲的驅動底座。
以下是王孝宇演講全文,雷峰網AI掘金志作了不改變原意的整理與編輯:
很高興與大家一起分享雲天勵飛從事AI研發十幾年來總結的一套模型研發範式,我這次的演講題目是——AI大規模産業化實踐。
首先做下自我介紹。我畢業之後去了矽谷,在NEC Labs做無人車、人臉方面的研究。2015年,我和另外幾人一起去洛杉矶,幫Snap公司創建了AI研究院。2017年,回國之後,我來到了雲天勵飛。
2017年的時候,人工智能開始火爆起來,有非常多的應用,像聊天機器人、無人車、人臉識别,健康領域,智慧家居、AR等。但是隻有人臉識别有人相信,其他的,不管是業界還是投資人,都認為是騙子,覺得做不出來什麼東西。
時隔五年,再回頭來看行業,我覺得很有意思。聊天機器人在每個社交網絡平台,像阿裡、京東,現在在電商平台上都有應用。無人車,慢慢也有Robotaxi的落地,現在也有很多企業在這方面興起。在健康領域,五年前我們還在讨論IBM沃森的失敗,當時折騰了很大的動靜,但現在有很多這方面的優秀企業興起。
當時美國一些知名的AR公司也倒閉了,但現在很多公司把自己的名字改成元宇宙,又火了起來,AR又讓大家看到了希望。
這些變化其實印證了我的一個觀點:不要高估AI帶來的改變,也不要低估AI帶來的影響,我們是在這片沙漠裡墾荒的一批人。
在墾荒的過程中,我們回過頭來看AI,落地應用的最大瓶頸是什麼?
人才太貴了。
六年前,我們招聘AI博士的時候,給到40萬美金一年,光是養一群技術人員,每年的人力成本就是一個巨額數字。但是現在,這項成本正在降低,究其原因,是AI的研發模式發生了變化。
AI的研發模式,有兩個關鍵點。首先,有什麼樣的數據訓練模型;其次,如何用各種技術基于數據來讓模型取得更好的效果。
過去,大家把重心放在模型上,需要數據就要找,不停标注,标注完以後,就是專家幹的事了,天天調模型參數、損失函數、優化器,很多AI博士畢業之後就幹這個事。
這個事其實跟工業化時代擰螺絲釘的工作沒太大區别,但沒有博士相關的學習經曆,還幹不了這個事,所以很難規模化、産業化。
我們之前的研發範式,都是集中用更好的技術建立更好的模型上的,但現在不是那麼回事了。
12月8日,Andrej Karpathy 發了一個推文,他是李飛飛的學生,畢業之後去了特斯拉,擔任無人駕駛總監。他說,現在的AI技術都趨同了,大家都一樣。
什麼意思?
以視覺為例,五六年前,做自然語言處理的有一套技術,做圖像識别的也有一套技術,但是做了五年之後,大家發現做的技術是一樣的。不管是視覺、語音還是自然語言處理,大家用的都是同一套技術框架和模型架構來解決問題。
最近,機器學習領域的國際頂尖會議NIPS也提到:慢慢的,那些通用模型的結構,已經占據所有任務的主導地位了。
這有點像通信或編碼時期,大家剛開始是百花齊放的,後來慢慢的,大家都用同一套技術架構解決所有的問題,也就是走向了标準化階段。
如果把這兩個模型研發的過程放在一起做比較,我認為更重要的,不是模型有多好,而是數據有多優質。
有句話說得好:“巧婦難為無米之炊”,你的廚藝再好,沒有素材做不出任何東西,所以有好的數據才是最重要的。
在雲天勵飛十多年的研發過程中,我們發現,如何高效地獲取最好的數據,比模型本身要重要得多。
因為技術是很容易趕上的,今天這個技術不行,可能再過三個月、六個月會有新技術出現,會不停地更新叠代。但數據的叠代效率往往沒那麼高,而且我們也發現,在研發過程中,90%以上的時間是放在數據上的,而不是做模型。
由此帶來研發觀念的轉變:之前我們的觀念是招聘最好的人,開發最好的技術,達到最好的效果。但實際不是這樣的,如何在最短的時間内,得到可以使模型達到最優效果的數據集,這才是最重要的。
雲天勵飛從創立到現在,從來沒有一個研發任務是,把數據收集好,模型做一遍就結束了,這個模型永遠要在用戶的實際場景中叠代。
怎麼在實際場景中叠代?
需要在做的不夠好的地方,把數據收集起來。也就是說,數據集的分布會慢慢讓模型的精度達到最好。
雲天勵飛對研發部門KPI的制定,不僅僅是訓練出了多少模型,或者說模型的精度是多少。而且明确把數據集的産生作為KPI的導向之一,它其實更重要。
優秀的開發者和一般的開發者之間,對數據的認知是不一樣的,優秀的開發者對數據有非常良好的認知,模型被數據cap得很明顯,在最短的時間内拿到最好的數據,才能做到最好的模型精度。
為什麼說模型大規模生産?
因為現在面向城市治理算法的應用,已經不僅僅是幾個算法模型了。大家經常一看,有幾百個模型的需求,但企業不可能招幾百個人做這個事,所以需要大規模地跑這些技術,必須要有平台化的東西進行研發。
所以雲天勵飛在内部打造了一套标準化、流程化、平台化的研發方式。
什麼叫流程化?
流程化的英文叫Streamline。不需要切換上下文就可以把所有的事情做完,現在美國的創業非常流行這樣做,RPA也是同樣的思路,做機器人流程自動化,把業務的流程放在無縫銜接的框架下完成。
隻有在這種情況下,效率才是最高的,不需要一會兒做這個事,一會兒做那個事,頻繁切換會影響工作效率。
标準化(standardization),把裡面跟模型相關的非标準化的部分全部呈現在技術上,整個平台上隻剩下标準化的東西。
這樣做的好處是什麼?容易學習,所以不需要博士做這個事情,可能本科生甚至是高中生就可以幹這個事,從而把博士資源放在更緊要的地方。
平台化(platform),這也是整個軟件行業的趨勢。
這張圖是我們大規模算法研發的流程:
第一步,搜集數據,這時候數據是沒有标注的。
第二步,做數據标注;
第三步,模型訓練;
第四步,data mining,有了初始模型後,在海量沒有标注的數據裡找到可以提高性能的數據;
第五步,再進行标注。
如果把這個平台分成三步,前兩步就是做初始模型的建立,後面就是做完整閉環,像飛輪一樣,它在不停地轉,每轉一次都可以得到更好的精度。這個轉法是在我們平台上實現的,不需要專家級别的人專門來做。
第一步,獲取初始模型。
首先我們有分布式标注平台,開發人員可以定義一個任務。比如做街道下水道井蓋有沒有被人拿走的檢測,也許我們會标注10-20個數據。
标注之後怎麼辦?這是學術界和工業界很火的大模型和無監督學習。
為什麼我們在這裡面放了大模型和無監督學習?剛才我們講到,一開始我們想做井蓋被人拿走的事實檢測,我們一開始可能沒有這麼多标注好的數據,可能隻有100個,但數據标注的效率可能是萬分之一。
如果你想标1萬個這樣的數據,需要标1億個data,這個量非常大。怎麼辦?
先标100個,為什麼要用大模型和無監督學習配合這個數據去跑模型?就是為了讓你初始模型的精度達到最高。
無監督和大模型最好的方式,本來100個數據訓練出來的精度隻有30%,用大模型和無監督學習的方法訓練之後,精度可以達到80%,那挖掘數據的效率可以提高10倍,也就是說我少标了10倍的數據,一切都是為了後面數據叠代的效率來做的。
為什麼大模型和無監督學習可以提高這個性能?雖然它自己沒有标注數據,但它是被千億、百億級的數據訓練出來的,知道井蓋是什麼樣的,這種特征的編輯其實已經實現了,再配合少量數據的标注,就可以得到一個還不錯的初始模型。
為什麼要得到還不錯的初始模型?因為數據叠代的效率會更高,首先是為了第一步方便。
第二步,我們不說模型叠代,而是數據叠代,因為我們認為模型的訓練已經被标準化了,在平台上,點個按鈕它就訓練好了,不需要有模型訓練的知識,我們專家的系統已經把它做好了。
所謂的數據叠代,就是在海量還沒有标注好的數據中,找到能夠提高模型性能的數據,進行主動學習。
傳統模型研發的範式是缺數據再去标,但發現标過來的數據跟以前的分布是一樣的,對模型的分布沒有太大用處。所以需要用技術、算法找到對自己真正有用的數據,右邊我們從海量數據中找出了9張有用的數據。
模型挖掘怎麼做?在左邊平台界面,點一個按鈕,選一個數據集,可以自動在這裡面挖掘,從幾億的數據裡找到幾張跟井蓋相關的數據做訓練,我們是用主動學習算法做數據擇優的。
數據叠代之後,要做模型訓練,在這個平台上用一鍵化的方式去做,這就是我們花幾百萬招過來的博士應該幹的事情,他們不應該天天調參數、挖數據,這些事情應該讓平台去幹。
這一步,隻要你點訓練,它可以自動訓練,背後怎麼訓練?是由開發者去開發的。但是在整個平台上去進行操作的人,不需要知道大規模模型訓練,這降低了訓練模型人員的從業要求,隻要他知道這是怎麼回事,把數據拿進去就可以訓練,無代碼一鍵完成模型開發。
做這種平台研發環境的好處是什麼?數據沉澱在平台上,動作可複用,流程可追溯。這裡面有幾個界面:數據集管理、模型管理、任務管理。
數據集管理,就是一些标注好的數據集,以及挖掘、生成的數據集;模型管理,就是訓練好的模型;任務管理,可以是标注任務,也可以是挖掘任務,也可以是訓練任務,所有研發的軌迹全部停留在這裡面。
為什麼要做這個事?很簡單,因為人力成本太高,企業無法招聘太多人從事每一個算法的研發。有了這套平台之後,我們可以實現非算法人員開發模型的方式,讓算法工程師做更高級别的技術,這些平台話、流程化的事情,可交給一般的技術人員或者學生來做。
整個過程中,我們認為沉澱更多的是數據價值,這比模型的價值更大。
為什麼數據的價值比模型的價值更大?
數據沒有了,模型是訓練不出來的,你不會再得到提高,即使得不到模型,數據在這兒,所以很容易再訓練一個模型出來。
數據的重要性遠遠高于模型的重要性,所謂持續性的研發,沉澱出來的是有價值的數據,而不是其他。
因為模型很容易重新訓練,或者用不同的數據叠代。但數據日積月累需要很長的時間。在整個平台上,通過數據不停的挖掘、訓練、标注、叠代,會一輪一輪增加新的數據,為每個任務沉澱出非常優質的數據集。
也就是說,在這個平台上,數據變成了最重要的資産。
另外,所有的開發技巧也沉澱到平台上了。
如果大家搞研發管理,就會發現一個現象:部分人能做得特别好,部分人怎麼都做不好。這是因為,任務、指令都是一樣的,但不同的人研發經驗是不一樣的。
人才的素質屬于不可控因素,如果把這套技術能力進行沉澱,每個模型研發過程都能實現可追蹤,這樣就能讓做不好的人,通過學習,把事做好。
這樣做的另一個好處是,不會因為人才流失導緻既有的模型失效。
所有公司都會面臨人員流動這個問題,一位優秀員工離職之後,其模型很難複現,因為别人不知道這個模型怎樣叠代才達到現有的精度,上下銜接很困難,費時費力。
但是在這個平台上,就不會出現問題。模型訓練過程中所做的所有數據的标注、操作,全部都在這個平台上,主要進行相關操作,全部流程都可以重複,不需要重新做。
在座如果有做研發管理的,肯定會感覺這個東西用起來非常不錯。
現在,雲天勵飛内部的研發,除了一些非常高難度的,或者非要人工介入的算法研發(如人臉),其他的算法研發全部依賴于大規模算法開發平台。也就是說基本全部不需要算法工程師去做,都是标注人員在做。
以大堂搬運貨物檢測案例為例,每個工程師大概開發成本50萬,一個月的時間差不多5萬塊錢的投入,但現在隻需要1個标注人員,5-7天就可以做完從0到實用部署。
為什麼能力稍微差一點,時間反而縮短了?
這就是流程化,所有模型的訓練隻在一個平台上完成。以前的方式,來來回回對接的成本太高,但在這個平台上,點擊挖掘,自動尋找,再點标注,尋找标注人物,後台人員标注好,再點訓練,全部就完成了,整個流程即使和非常有算法經驗的工程師相比,這個平台也有4倍以上的提升。
我們憑借這個平台在深圳做了幾個項目,像龍華智能運算能力平台。
這裡面涉及的算法有上百個,公司不可能在短期内招聘幾百個算法人員進行研發,因為這套平台當時還沒有做得完備,所以讓2個算法人員、10個标注人員,在6個月的時間把20多個算法開發全部完成了,成本也降低了很多。
為什麼它需要這麼多的算法?
這其實是整個城市管理思路的轉變:以前是巡視型管理,需要實地巡查,才能發現、處理;現在布置相關攝像頭,就能在後台發現,從而解決。
這種管理思路的轉變,需要大量算法技術能力的支撐。雲天勵飛在龍崗算法倉做了一個項目,也是算法訓練與賦能平台,這裡面也有上百種算法的需求。
需要強調的是,這套研發平台沒有犧牲模型的精度,不同的人群訓練這套模型沒有太大差别,因為在這個平台裡,可以通過主動學習算法,基于數據集做快速叠代,從而得到比較高的檢測精度。
最後提一點,雲天勵飛為什麼要建立這套平台?
從行業看,視覺AI還處在拓荒階段,仍然是一片沙漠,沒有變成一片綠洲,隻有等到它變成綠洲的時候,才能長出一顆顆參天大樹,長出許多AI企業。
城市治理對于算法的需求是成千上萬的,每個算法都靠有經驗的人員去開發,成本會非常高昂,因此雲天勵飛開發了這套系統,縮減成本的同時,加快AI應用的進程。
可以設想,未來的城市,有一張網絡可以檢測方方面面,所有的事件都可以在城市大腦裡解決。
這背後的技術邏輯是,算法可以做智能調度。比如對着大海的攝像頭,不用把汽車檢測的算法集成到攝像頭上,當城市擁有一萬種算法時,可以在不同場景下,調度合适的算法,來解決問題。
雲天勵飛的願景是,通過知識圖譜和整個平台的研發,讓城市超腦實現自我進化,從而達到更高的智能化水平。
值得一提的是,雲天勵飛的自進化城市智能體的思路,已經被寫入深圳市政府工作報告中。雷峰網雷峰網
,更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!