Meta造芯!首個(gè)訓(xùn)練+推理加速器MTIA面世(來(lái)自小扎的FB)
老石解讀:
扎克伯格更新了自己的FB,放出了幾條重磅信息:Meta的第一款AI加速器芯片已經(jīng)造出來(lái)了,名叫MTIA(Meta Training and Inference Accelerator),下圖中小扎手里拿的就是。不僅如此,Meta還搭建了一個(gè)AI超級(jí)計(jì)算機(jī),包含16000個(gè)GPU,為訓(xùn)練大模型而生。
下面是小扎FB的原文翻譯:
首先,我們推出了一種專(zhuān)為人工智能優(yōu)化的新型數(shù)據(jù)中心設(shè)計(jì),配備了支持大規(guī)模訓(xùn)練和推理的液冷硬件和支持大規(guī)模超級(jí)集群的網(wǎng)絡(luò)。
其次,我們的超級(jí)計(jì)算機(jī)集群——RSC,它擁有16,000個(gè)GPU和高速互聯(lián),是世界上最快的超級(jí)計(jì)算機(jī)之一。我們用它來(lái)訓(xùn)練自己的大型語(yǔ)言模型,以及世界上第一個(gè)面向口述語(yǔ)言的人工智能翻譯系統(tǒng)。自己構(gòu)建這個(gè)集群讓我們可以調(diào)整它來(lái)訓(xùn)練我們的下一代基礎(chǔ)模型。
第三,MTIA(Meta訓(xùn)練和推理加速器)是我們?cè)O(shè)計(jì)的第一代定制芯片,用來(lái)支持我們的人工智能推薦系統(tǒng),從而更快地確定向您展示的最佳內(nèi)容。
最后,CodeCompose是我們構(gòu)建的生成式人工智能編碼助手,旨在幫助我們的工程師編寫(xiě)代碼。我們的長(zhǎng)期目標(biāo)是構(gòu)建更多的人工智能工具,以支持我們整個(gè)軟件開(kāi)發(fā)過(guò)程中的團(tuán)隊(duì),并希望開(kāi)源更多這些工具。
前兩天剛剛有消息說(shuō)Meta不知道怎么用大模型,結(jié)果今天小扎親自下場(chǎng)辟謠,連發(fā)四個(gè)重磅消息。雖然沒(méi)說(shuō)具體細(xì)節(jié),但也算打了一針強(qiáng)心針。這更加印證了之前的判斷:在大模型時(shí)代,誰(shuí)掌握了算力,才是真正的王。
定了!阿里云將完全分拆,獨(dú)立上市?。ㄌ卮筇?hào))
老石解讀:
阿里巴巴集團(tuán)宣布,云智能集團(tuán)將分拆獨(dú)立上市,成為一家完全獨(dú)立的公司。根據(jù)財(cái)報(bào)數(shù)據(jù),2023財(cái)年第一季度,阿里云收入為185.8億元人民幣,同比下降2.1%。整個(gè)2023財(cái)年,阿里云總收入為772.03億元,利潤(rùn)為14.22億元,同比增長(zhǎng)24%。這是阿里云誕生的第14年,它已成為亞洲第一、全球前三的公共云服務(wù)提供商,并正向智能時(shí)代發(fā)展。阿里巴巴集團(tuán)董事會(huì)主席兼CEO張勇在內(nèi)部信中表示,計(jì)劃在未來(lái)12個(gè)月內(nèi)完成云智能集團(tuán)的分拆上市,并引入外部戰(zhàn)略投資者。張勇表示,這是阿里云的二次創(chuàng)業(yè)的新開(kāi)始,需要擁有創(chuàng)業(yè)心態(tài)和職責(zé)擔(dān)當(dāng),平衡短期增長(zhǎng)和長(zhǎng)期發(fā)展目標(biāo)。他希望全體阿里云員工珍惜客戶(hù)信任、堅(jiān)持技術(shù)理想,并保持創(chuàng)業(yè)心態(tài),共同打造一家世界級(jí)的科技公司。
辟謠|小米玄戒大會(huì)是“解散大會(huì)”?辟謠:小米對(duì)造芯很堅(jiān)決(愛(ài)集微)
老石解讀:
小米旗下芯片公司玄戒將召開(kāi)員工大會(huì),在當(dāng)下的時(shí)間節(jié)點(diǎn),引發(fā)外界猜測(cè)。據(jù)悉,此次會(huì)議旨在穩(wěn)定內(nèi)部團(tuán)隊(duì),小米對(duì)造芯堅(jiān)定決心,正常招聘進(jìn)行中,計(jì)劃從哲庫(kù)離職人員中吸納人才。玄戒成立于2021年,是小米全資控股的集成電路芯片設(shè)計(jì)公司,公司法人代表曾學(xué)忠擔(dān)任小米高級(jí)副總裁。小米自2017年起推出一系列芯片,包括手機(jī)芯片、影像ISP芯片、充電芯片和電池管理芯片等。
缺芯|AI服務(wù)器漲價(jià)20%?服務(wù)器廠商稱(chēng)英偉達(dá)芯片短缺(澎湃新聞)
老石解讀:
隨著ChatGPT引發(fā)新一輪人工智能(AI)浪潮,科技公司相繼入局大模型賽道,推理和訓(xùn)練的算力需求大幅上升,多個(gè)機(jī)構(gòu)預(yù)測(cè)AI服務(wù)器市場(chǎng)規(guī)模持續(xù)增長(zhǎng),2022年至2026年復(fù)合成長(zhǎng)率將達(dá)到10.8%。AI服務(wù)器可適用于醫(yī)療影像智能分析、人臉識(shí)別、語(yǔ)音識(shí)別、指紋識(shí)別、安防監(jiān)控、金融服務(wù)等場(chǎng)景。國(guó)內(nèi)市場(chǎng)前8家廠商出貨量占比92%,其中浪潮占據(jù)市場(chǎng)37%的份額。由于英偉達(dá)芯片短缺,AI服務(wù)器的價(jià)格也在水漲船高。GPU在訓(xùn)練服務(wù)器中價(jià)值量占比超過(guò)80%,而目前英偉達(dá)是GPU市場(chǎng)的主導(dǎo)者,全球獨(dú)立顯卡市占率高達(dá)80%,且在未來(lái)的需求還將顯著上升。2021年全球GPU市場(chǎng)規(guī)模335億元,2028年全球GPU市場(chǎng)規(guī)模有望達(dá)到4774億元。
競(jìng)爭(zhēng)|邊緣AI芯片戰(zhàn)升溫!英飛凌、ST等大廠競(jìng)相布局 芯片迭代有望加速(財(cái)聯(lián)社)
老石解讀:
當(dāng)前邊緣AI芯片的性能已能與中高端智能手機(jī)AP相媲美。意法半導(dǎo)體推出第二代STM32 MPU,提高了工業(yè)和物聯(lián)網(wǎng)邊緣應(yīng)用的性能和安全性,預(yù)計(jì)將于2024上半年批量生產(chǎn)。英飛凌收購(gòu)初創(chuàng)公司Imagimob,加強(qiáng)其在邊緣AI市場(chǎng)的產(chǎn)品。谷歌宣布其PaLM2大模型的最輕量化版本Gecko可在移動(dòng)端運(yùn)行,有望帶動(dòng)邊緣AI計(jì)算成長(zhǎng),加速邊緣硬件市場(chǎng)更新迭代。多家機(jī)構(gòu)認(rèn)為,在AI的助力下,邊緣側(cè)終端和芯片迭代有望加速,多家IC設(shè)計(jì)廠商包括聯(lián)發(fā)科、聯(lián)詠和瑞昱正在加緊開(kāi)發(fā)AI芯片,目前國(guó)內(nèi)布局邊緣AI芯片的廠商包括寒武紀(jì)、華為海思、瑞芯微、全志科技等。