芯耀
87
特斯拉前人工智能總監(jiān)、OpenAI 研究員?Andrej?Karpathy在 6 月 17 日于 Y Combinator 舉行了一次關(guān)于 AI 大語(yǔ)言模型 LLM的精彩演講。分享了，AI 軟件3.0時(shí)代LLM時(shí)代，LLM的優(yōu)缺點(diǎn)，LLM的社會(huì)模態(tài)，我們?nèi)绾问褂盟仍掝}。觀點(diǎn)明確，洞察深遠(yuǎn)，非常適合從宏觀了解AI 以及LLM，本文濃縮解讀核心觀點(diǎn)，希望給大家一些信息和啟發(fā)。1.軟件3.0時(shí)代
演講的開頭，Andrej?Karpathy 將軟件時(shí)代劃分三個(gè)時(shí)代，并用特斯拉 FSD軟件代碼的發(fā)展類比。軟件三個(gè)時(shí)代的3.0時(shí)代就是本次演講設(shè)定的社會(huì)背景。軟件三個(gè)時(shí)代分別為：
- 軟件 1.0 = 編寫代碼軟件軟件?2.0 = 訓(xùn)練神經(jīng)網(wǎng)絡(luò)軟件?軟件?3.0 = 用通俗易懂的語(yǔ)言指導(dǎo)LLM
其中， Andrej Karpathy 表示很榮幸，他發(fā)明vibe coding這個(gè)詞，也就是用人類語(yǔ)言Prompt向 AI 編碼工具描述你的目標(biāo)。無(wú)需擔(dān)心語(yǔ)法，只需清晰地描述功能即可，就可以做出程序和軟件。
他也分享了他無(wú)需了解 Swift 或豐富的 Web 開發(fā) Menu Genen一個(gè)將菜單圖形化的程序經(jīng)驗(yàn)，只需通過(guò)與 AI 清晰溝通，即可構(gòu)建出可運(yùn)行的 iOS 和 Web 應(yīng)用。
2.人工智能LLM像電力基礎(chǔ)設(shè)施Andrej 表示 LLM它們像公用事業(yè)一樣通過(guò)API提供服務(wù)，像晶圓代工廠一樣需要大量資本性支出，更像操作系統(tǒng)一樣是一個(gè)復(fù)雜的軟件生態(tài)系統(tǒng)。演講中Andrej?Karpathy 將LLM 深入類比了下計(jì)算機(jī)或操作系統(tǒng)。
LLM大語(yǔ)言模型有點(diǎn)像 CPU 的等價(jià)物，上下文窗口有點(diǎn)像內(nèi)存，然后LLM大型語(yǔ)言模型協(xié)調(diào)內(nèi)存和計(jì)算，用于問題解決，使用所有這些能力，所以從這個(gè)角度來(lái)看，它確實(shí)像一個(gè)操作系統(tǒng)。
這個(gè)計(jì)算機(jī)或操作系統(tǒng)輸入輸出I/O的就是我們?nèi)祟惓Ｓ玫恼Z(yǔ)音和視頻。
3.大語(yǔ)言模型（LLM）的優(yōu)缺點(diǎn)當(dāng)然 Andrej Karpathy 并沒有神話 LLM, 他指出 LLM有如下優(yōu)缺點(diǎn)：
-
- 知識(shí)淵博，擁有海量信息，能夠記住大量的細(xì)節(jié)。演講中?Andrej Karpathy 用電影《雨人》里面的雷蒙記憶及數(shù)字上有莫大的驚人能力做比喻。認(rèn)知缺陷，容易產(chǎn)生幻覺，有時(shí)會(huì)編造信息。
-
- 順行性遺忘癥，不像人類，會(huì)隨著時(shí)間的積累和鞏固知識(shí)，需要有上下文窗口來(lái)管理聊天記憶。
- 安全風(fēng)險(xiǎn)，容易提示注入攻擊，可能導(dǎo)致私有數(shù)據(jù)泄漏。
前面就是?Andrej Karpathy 分享的他理解的 LLM和 AI的發(fā)展，有了這些背景的理解，我們就可以推測(cè)和理解?AI的發(fā)展特別是LLM的發(fā)展，對(duì)我們生活和工作意味著什么。4.對(duì)我們生活工作意味著什么？首先，未來(lái)并非由自主的人工智能代理取代你，而是“部分自主”的工具，能夠增強(qiáng)你的能力。Andrej Karpathy借用了鋼鐵俠的比喻：我們打造的是增強(qiáng)人類能力的裝甲，而不是完全取代人類的機(jī)器人。
其次，使用人工智能的關(guān)鍵在于創(chuàng)建快速的“生成-驗(yàn)證”循環(huán)，讓AI生成工作成果，然后人工通過(guò)智能界面 GUI (Graphical User Interface)快速審核。
例如，像Cursor這樣的編程工具就體現(xiàn)了這種方法——它們不僅提供原始的AI輸出，還提供上下文管理、多模型編排和可視化差異，從而提高人工監(jiān)督的效率。
演講中他還分享了其他工具，總的來(lái)講目前LLM等發(fā)展還處于早期，是未來(lái)有巨大潛力的工具，幫助我們提升工作和生活的效率。這種轉(zhuǎn)變創(chuàng)造了巨大的機(jī)遇。每個(gè)軟件工具都可能開發(fā)出部分自主功能。問題不在于人工智能是否會(huì)改變你的行業(yè)，而在于你能多快地調(diào)整你的工作流程以利用這種新的編程范式。5.這位大神現(xiàn)在在做啥？最后，大家都好奇，Andrej Karpathy這位大神現(xiàn)在在做啥？
他在創(chuàng)業(yè)做 AI+教育，科普方向。
參考文章以及圖片
Software in the era of AI 演講視頻以及ppt
*未經(jīng)準(zhǔn)許嚴(yán)禁轉(zhuǎn)載和摘錄
