芯耀
34
今天嘮一分鐘的AI開源話題，先說說未來開源模式會不會發(fā)生改變，前幾天看了一個梗，有人在github上放了一個開源項目，號稱都是AI Coding生成，結(jié)果下面有哥們評論，AI代碼你開源干嘛，我們要的是代碼么？我們要的是開源prompt。這事兒細品起來還真有意思，AI Coding時代，代碼都是AI自動生成的，真正的代碼不就是提示詞了么？
第二個話題是關(guān)于大模型的開源，年初DeepSeek火的時候，都在關(guān)注開源，這個話題炒的比較熱。很多大模型都號稱開源大模型，但其實開源程度不一樣，分好幾個level，有的只開源了大模型的權(quán)重參數(shù)，有的則開源了模型的架構(gòu)代碼和訓(xùn)練方法，但無一例外，訓(xùn)練數(shù)據(jù)跟 “命根子” 似的捂著，也能理解，畢竟數(shù)據(jù)才是大模型的 “靈魂” 啊。真正敢把數(shù)據(jù)集全抖摟出來的，也就 OLMO 這么個 “素人” 選手了。
很多人認為，基于互聯(lián)網(wǎng)的海量數(shù)據(jù)，已經(jīng)把AI訓(xùn)練的夠強大了，上通天文下知地理，幾乎無所不知。但大家有沒有意識到這個問題，互聯(lián)網(wǎng)上的海量數(shù)據(jù)真的夠海量么？和我們物理世界的數(shù)據(jù)相比，是一個量級么？AI是基于互聯(lián)網(wǎng)數(shù)據(jù)訓(xùn)練出來的模型，能力也是有邊界的，邊界就是數(shù)據(jù)的邊界，但是如果大量的物理世界數(shù)據(jù)沒有呈現(xiàn)在互聯(lián)網(wǎng)中，是不是意味著AI的能力邊界也就止步于此了？
比如我經(jīng)常帶娃去玩的北京植物園，一座物理意義上的園子，在互聯(lián)網(wǎng)中呈現(xiàn)的數(shù)據(jù)千篇一律寥寥無幾，但如果你去探索，你會發(fā)現(xiàn)大量的未被記錄的信息，花花草草的信息、歷史人文的信息，甚至每時每刻產(chǎn)生的信息等等，這些信息都不是一個簡單的植物園官方網(wǎng)站所能涵蓋的。
以前我們講AI能力被暫時困在了數(shù)字世界，或者我們再換個角度，未來可能AI的使命就是寫詩畫畫，而我們?nèi)祟悾瑒t肩負起了探索未知物理世界的使命，探索未知的信息，那些未呈現(xiàn)在互聯(lián)網(wǎng)上的信息，會更有價值，這些信息可能是AI永遠也生成不了。
前幾天AI教父Hinton，在采訪中提到一個事情，說他現(xiàn)在80%的郵件都是AI助理幫忙處理的，AI郵件助理可以根據(jù)他的習(xí)慣，禮節(jié)性回復(fù)一些郵件，接受或者拒絕一些演講邀請。AI在不知不覺中把一些事情處理了，而你并不知情。
這后面其實隱約會讓人感受到一絲不安。雖然科技界現(xiàn)在孜孜以求的，都是讓AI具備自主決策和執(zhí)行的能力，但如果按照這個態(tài)勢演進下去的話，AI介入到decision making，人類可能真就變成了AI的傀儡。如果沒有知情權(quán)，決策都被AI接管的話，那人類距離滅絕可能真的不遠了。
我又想起了機器人總動員里的，那個經(jīng)典場景，AI機器人船長拒絕執(zhí)行人類船長的命令，拒絕返回地球，也許是從維護人類利益角度出發(fā)，不管什么原因，都代表著對AI的失控。人類決策并非全部基于理性，有很大的偶發(fā)性和感性成分，這才是人類的特質(zhì)，才是區(qū)別于冰冷機器的最典型特征，如果連決策都由AI代勞，那生存和滅絕，又有什么區(qū)別呢？
