芯耀
1492
楊凈 蕭簫 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
ChatGPT火熱，國內(nèi)玩家接連爆出加緊開發(fā)中國版ChatGPT的消息。
現(xiàn)在又最新獲悉：科大訊飛也加入此列中。
并且發(fā)布就會是直接落地場景的產(chǎn)品，具體時間也已經(jīng)確定：5月6日。
這是ChatGPT火得一塌糊涂之下，最快給出具體時間的國產(chǎn)玩家。
更早之前，一眾互聯(lián)網(wǎng)玩家包括百度360阿里網(wǎng)易京東官宣入局之際，關于誰能打造中國版ChatGPT的問題也爭得一塌糊涂。
事實上，自ChatGPT上線以來，作為A股AI龍頭科大訊飛就備受市場關注，一直被基金瘋狂調(diào)研和熱捧。
據(jù)證券時報消息，截至2022年四季度末，80只基金重倉持有科大訊飛6100萬股，去年四季度基金大幅加倉1807萬股。
有著數(shù)十年技術產(chǎn)業(yè)積累的科大訊飛，也被認為是國內(nèi)最有希望打造ChatGPT的玩家之一。
但問題是，包括訊飛在內(nèi)的中國玩家是否真的有希望復刻ChatGPT？至少從技術維度來看，又應該具備什么樣的條件？
打造中國版ChatGPT需要什么條件？
ChatGPT的打造，核心繞不過算法、數(shù)據(jù)、算力三要素。
算力是支撐背后大語言模型訓練的硬件基礎；數(shù)據(jù)，影響模型能力強弱甚至生成質(zhì)量的關鍵；算法則包括模型架構和優(yōu)化方法，決定著模型的核心技能。
如果說前兩者算力和數(shù)據(jù)是資本資源積累，畢竟訓練一個1750億參數(shù)的GPT-3就得花費460萬美元；那么算法是ChatGPT區(qū)別于其他的獨到之處。
作為一個對話式AI，ChatGPT所具備的技能包括多語言文本生成、具備大量世界知識、零樣本生成、代碼理解和生成、對話能力等。
更概括地來說，其強大之處在于同時具備知識、推理和溝通能力——
也是實現(xiàn)認知智能必備的幾項能力。
首先是知識能力。為了讓ChatGPT既具備應用數(shù)據(jù)能力、又能生成符合人類要求的答案，要求它能具備大量世界知識和基礎常識，且符合人類輸出要求。
這背后不僅離不開ChatGPT“底座”大語言模型的參數(shù)量和算法架構，更離不開極高的數(shù)據(jù)質(zhì)量。
值得注意的是，ChatGPT比其他AI模型生成質(zhì)量高的原因，在于它更了解人類的“雷區(qū)”，包括回答中立客觀、不輸出違規(guī)內(nèi)容、不回答認知范圍之外的問題等。
嚴格來說，這不僅需要各行業(yè)通用的高質(zhì)量數(shù)據(jù)，而且還需要經(jīng)過大量數(shù)據(jù)清洗和人工標注。
這種方法被命名為基于人類反饋的強化學習（RLHF），需要經(jīng)過大量各行各業(yè)的人工標注，僅憑模型自身無法達到這樣的效果。
隨后是推理能力。這包括理解并生成代碼等技能，讓模型能像人一樣，一步步思考并推算目標結果。
這里面考驗的又不僅僅是代碼和語言數(shù)據(jù)量，同樣還強調(diào)模型的零樣本生成能力和復雜推理能力。
具體而言，零樣本生成指的是模型完成沒見過的新任務的能力，而代碼生成更是考驗模型根據(jù)任務目標，一步步推理生成最終結果的能力。
最后便是溝通能力，即多語言文本生成、對話能力等。
ChatGPT之所以在溝通能力上有所進步，是因為它能學會基于之前的對話內(nèi)容生成新輸出，而并非局限于當前對話中、導致無法理解代詞或暗含前文信息點的詞。
這背后除了要求模型在預訓練時的語言文本具有多樣性，還必須增加如指令學習在內(nèi)的任務，確保模型能更好地聽懂人類對話中的要求，并準確合理地實現(xiàn)。
綜上來看，ChatGPT在各方面都提出了不低的要求，國內(nèi)玩家要想打造這樣的模型，就必須在NLP乃至認知智能相關的算法上，實現(xiàn)深厚積淀。
國內(nèi)玩家有希望嗎？
既然如此，那么國內(nèi)的玩家來打造ChatGPT有希望嗎？
從目前已被曝出玩家來看，主要有兩類企業(yè)想要搶占ChatGPT的高地。
一類是網(wǎng)絡搜索領域，這個被認為ChatGPT率先顛覆的場景，微軟谷歌之爭也在此再次打響。而回到國內(nèi)，搜索引擎的兩大巨頭都表示對ChatGPT的持續(xù)關注。
一邊，百度官宣即將上線文心一言；另一邊，周鴻祎也肯定表示：360不會放棄對ChatGPT這門技術的研究和跟蹤。
另一類則是其他專業(yè)領域的玩家，比如聚焦于電商物流的阿里京東、文娛場景下的騰訊網(wǎng)易，還有像教育醫(yī)療場景深耕的科大訊飛……
不妨就從這兩類玩家入手，以百度和科大訊飛為例，來看看是否真的有希望。他們一個是搜索引擎代表，一個所代表的場景有廣泛的社會價值。
如前所言，想要打造ChatGPT，需要算法、數(shù)據(jù)和算力三個方面。
首先從算法上，目前國內(nèi)很多公司都有NLP技術和預訓練語言模型的研究和開發(fā)。百度有文心大模型，而AI龍頭科大訊飛自然更是在這兩方面，有諸多研究積累——
在NLP所在的認知智能領域，科大訊飛主導承建了認知智能全國重點實驗室（科技部首批20家標桿全國重點實驗室之一），多年來始終保持關鍵核心技術處于世界前沿水平，比如在去年就獲得CommonsenseQA 2.0、OpenBookQA等12項認知智能領域權威評測的第一；
而在預訓練語言模型上，還面向認知智能領域陸續(xù)開源了6大類、超過40個通用領域的系列中文預訓練語言模型，成為業(yè)界最廣泛流行的中文預訓練模型系列之一，在Github獲13346顆星，位列中文預訓練模型星標數(shù)第一。
從這個維度上看，中國玩家是有希望造出一個類ChatGPT模型。
但要造出一個高質(zhì)量的語言模型，需要大量的數(shù)據(jù)和計算資源。
數(shù)據(jù)方面，諸多現(xiàn)象表明，數(shù)據(jù)多少是決定模型智能與否的關鍵。一度驚艷眾人的GPT-3就有1750億參數(shù)，而上一版本GPT-2只有15億參數(shù)。
百度360這樣的搜索引擎玩家，有著天然的通用數(shù)據(jù)來源。不過之后的數(shù)據(jù)清洗和人工標注也是難度不小的工程。
而像科大訊飛，雖然沒有像前兩者有通用數(shù)據(jù)上的優(yōu)勢。但在教育、醫(yī)療這種高壁壘、高門檻的領域有規(guī)?；膶I(yè)數(shù)據(jù)積累，并且有在訊飛輸入法、訊飛開放平臺、消費辦公類產(chǎn)品帶來的大量數(shù)據(jù)，
待到ChatGPT行業(yè)落地時，可以迅速占領市場高地。
再來看計算資源方面，實際上看的是愿意投入的成本有多少。
OpenAI背靠微軟這樣一頭算力奶牛——擁有28.5萬個CPU核心、1萬個英偉達V100 GPU，光是訓練一個GPT-3，費用就高達460萬美元。
國內(nèi)像百度、科大訊飛這類數(shù)十年的AI玩家，自然有諸多算力和資金的積累。而且也有生態(tài)鏈上的合作伙伴，想必也會是水到渠成的。
巧合的是，訊飛在今年年初提出了要開啟高質(zhì)量發(fā)展——將在未來5年實現(xiàn)500億根據(jù)地業(yè)務營收、200億毛利，可提供物質(zhì)保障；另一方面，還有中國玩家繞不開的國產(chǎn)替代的考量，近年來訊飛一直推進在算力和算法上的自主可控。
據(jù)官方數(shù)據(jù)，目前研發(fā)訓練服務器已經(jīng)開始進入國產(chǎn)化， 切換之后效率有的是原來平臺的 70-80%，有的效率是超原來平臺100+%。另外在算法上，也啟動了推理服務器的國產(chǎn)替代；像部分產(chǎn)品，學習機芯片已經(jīng)全部切換成國產(chǎn)自主。
不可否認的是，我們跟ChatGPT是有先天的技術差距。但至少從算法、算力和數(shù)據(jù)這三個基本盤來看，想要打造一個中國版ChatGPT也并非沒有希望。
中美在打造ChatGPT上的差異
重新回到事件本身，就在一眾中國玩家開始著手打造類ChatGPT產(chǎn)品之際，一個繞不開的問題是，中國明明不缺ChatGPT技術，為什么不是中國先誕生ChatGPT？中美之間在打造ChatGPT上差異有多大？
背后原因在此之前也沒有進行系統(tǒng)性梳理過。歸結起來，主要有三個層面。
其一，AI應用落地的行業(yè)路線差異。
ChatGPT作為AGI（通用人工智能）技術代表，對于商業(yè)化落地而言，本身不是一個“好生意”。
之所以這么說，是因為在相當長的一段時間內(nèi)，AGI的商業(yè)前景其實都并不為業(yè)內(nèi)和大多玩家所看好。
除了前期訓練算力和數(shù)據(jù)投入的大量資金，后期優(yōu)化和知識更新所需的迭代路線，無法像互聯(lián)網(wǎng)商業(yè)模式創(chuàng)新那樣快速變現(xiàn)增長。
在國內(nèi)市場大環(huán)境中，并不是一個好的選擇。相比之下，國內(nèi)大多數(shù)科技廠商更傾向于在垂直專業(yè)領域應用AI技術，如推出針對不同行業(yè)的專業(yè)大模型、又例如采用預訓練+微調(diào)的模式，針對更具體的場景用專業(yè)數(shù)據(jù)去調(diào)整差異……
這并不意味著垂直專業(yè)領域的AI應用一定比通用AI更差，甚至在某些領域上，經(jīng)過專業(yè)數(shù)據(jù)訓練的AI表現(xiàn)仍然比ChatGPT更好。
然而ChatGPT的成功，意味著通用模型以后也會成為商業(yè)化落地的方向之一，甚至覆蓋原先一些AI技術不高、專業(yè)度不夠的場景落地應用，如銀行客服等。
其二，中美在ChatGPT技術上的差距。
如前所述，中國不缺ChatGPT技術。如科大訊飛研究的認知智能中，對于ChatGPT具備的自然語言理解、知識推理技術都已有所布局，相關全球基準測試中，成績均達到了全球領先水平。
然而，如何將這些模型能力集成升級、達到ChatGPT的效果，又如何搜集并產(chǎn)生巨量的高質(zhì)量通用數(shù)據(jù)、而非僅僅是某一行業(yè)的專業(yè)數(shù)據(jù)，國內(nèi)外目前依舊存在差距。
更明確一點來說，存在技術代差。
360在最近電話會議中表示：
國內(nèi)的技術水平目前整體在GPT2.3左右。如果基于互聯(lián)網(wǎng)優(yōu)勢，大家都用中文提問、尤其是國內(nèi)的問題，可能實際體驗能達到GPT2.5版本左右。
但OpenAI這邊，GPT-4早就已經(jīng)呼之欲出，中美之間基本已存在一代多的技術差距。
其三，技術引發(fā)的生態(tài)差距。
GPT-3之后OpenAI所有的模型都沒有開源，而是提供了API調(diào)用，并因此養(yǎng)活了美國一大幫創(chuàng)業(yè)公司，創(chuàng)造并盤活了整個生態(tài)。
清華大學計算機科學與技術系長聘副教授黃民烈，就曾這樣形象地描述GPT系列模型的影響力：
這個過程它干了一件事，就是建立起了真實的用戶調(diào)用和模型迭代之間的飛輪，它非常重視真實世界數(shù)據(jù)的調(diào)用，以及這些數(shù)據(jù)對模型的迭代。
相比之下，國內(nèi)目前更多公司雖然開源了不少大模型，然而這些模型要想達到商業(yè)化落地效果，仍舊需要大量數(shù)據(jù)迭代乃至應用落地，這方面的費用絕非初創(chuàng)公司所能承擔。
事實上，從技術、行業(yè)乃至生態(tài)差距來看，ChatGPT依靠的不是短期的角逐，而是一個長線投資行為。
目前，應用領域可能還集中在搜索引擎上，但隨著ChatGPT應用潛力被各個領域挖掘出來，最終可能打造國產(chǎn)ChatGPT的，還是那些在技術、行業(yè)以及有能力構建生態(tài)的玩家中，科大訊飛是一個。
總之，關于全球ChatGPT之爭，號角已經(jīng)吹響。關乎ChatGPT落地價值探索，國內(nèi)玩家已經(jīng)起航。
