【科技生態(tài)方向圓桌論壇一】智譜AI副總裁吳瑋杰在泰達汽車論壇科技生態(tài)方向圓桌論壇一上演講

泰達汽車論壇2024-09-01
23050

由中國汽車技術(shù)研究中心有限公司、中國汽車工程學(xué)會、中國汽車工業(yè)協(xié)會、中國汽車報社共同主辦,天津經(jīng)濟技術(shù)開發(fā)區(qū)管理委員會特別支持,日本汽車工業(yè)協(xié)會、德國汽車工業(yè)協(xié)會、中國汽車動力電池產(chǎn)業(yè)創(chuàng)新聯(lián)盟、新能源汽車國家大數(shù)據(jù)聯(lián)盟聯(lián)合協(xié)辦的第二十屆中國汽車產(chǎn)業(yè)發(fā)展(泰達)國際論壇(以下簡稱“泰達汽車論壇”)于2024年8月29日至9月1日在天津濱海新區(qū)舉辦。本屆論壇以“風(fēng)雨同舟二十載 攜手并肩向未來”為年度主題,邀請重磅嘉賓展開深入研討。

在9月1日“科技生態(tài)方向圓桌論壇一:20年新引擎,深化人工智能技術(shù)的垂直化應(yīng)用”中,智譜AI副總裁吳瑋杰發(fā)表了題為“大模型賦能AI汽車,智能座艙新質(zhì)生產(chǎn)力”演講。

圖片1.jpg智譜AI副總裁  吳瑋杰

以下為演講實錄:

尊敬的各位嘉賓,大家早上好!我是智譜AI的吳瑋杰,我今天給大家分享《大模型賦能AI汽車,智能座艙新質(zhì)生產(chǎn)力》。

在開始之前我想先展示一段昨天我自己拍的視頻。大家可能已經(jīng)了解到,就在3天前在西班牙巴塞羅那我們推出了最新的大模型,同時我們也將視頻通話功能加入到大模型中。

大家可以簡單看一看,這是我昨天在走進這個會場的過程中拍的一短視頻。

(播放視頻)

剛剛這段視頻最后的推薦僅僅是大模型的推薦,不代表我的個人選擇,大家可以從這段視頻中看出我們最新的技術(shù)已經(jīng)可以把多模態(tài),甚至全模態(tài)融合。如果這樣的能力用到車?yán)锩?,我相信這會是一種全新的體驗。

我們簡單介紹一下智譜AI,智譜AI成立于2019年,應(yīng)該是在整個大模型領(lǐng)域最早開始從事大模型的公司,尤其是在中國。從這張圖可以看出來,早期大模型還沒有火的時候,2022年12月ChatGPT發(fā)布之前,我們已經(jīng)在持續(xù)迭代我們的模型。

大家可以發(fā)現(xiàn)我們模型的發(fā)布以及各項能力的提升是以月為單位,每個月都會有好幾個模型的發(fā)布,從原來的大語言模型、代碼模型到多模態(tài)模型等等。具體來看一下,今天智譜已經(jīng)擁有了業(yè)內(nèi)非常完善的模型矩陣,已經(jīng)有21個開源模型在市場上被應(yīng)用,其中下載量最大的一個開源模型至今已經(jīng)有1600多萬次的下載,同時我們也有大量的閉源模型在市場上提供商業(yè)的服務(wù)。大家看我們的端側(cè)模型,這樣的模型大量用于我們的汽車、PC和手機。

隨著目前端側(cè)算力的提高,已經(jīng)不僅僅是在15億參數(shù)、30億參數(shù),中間云側(cè)大模型90億參數(shù),甚至100多億參數(shù)的模型也逐步在PC上不斷地在被使用。我們的云側(cè)大模型,包含了開源模型9B模型,9B模型是由原來6B模型升級過來的,上周國內(nèi)發(fā)布了GLM4的Flash,全免費給到我們的用戶使用。我們做這件事是為了中國大模型應(yīng)用的平權(quán)和普惠,目前歡迎大家能夠來使用我們GLM4的Flash版本,除此之外我們也發(fā)布了GLM4的PLUS版本。再看多模態(tài),我們最早做的是圖生文、圖生任務(wù),后來又文生視頻、圖生視頻等,現(xiàn)在通過智能體對話,包括我們剛剛上線一周左右已經(jīng)突破了100多萬個視頻的生成。再往后是代碼模型,應(yīng)用場景也非常多,尤其是以研發(fā)為主導(dǎo)的公司。目前代碼模型的成熟度在一些非常多的重復(fù)性代碼、代碼注釋等得到了廣泛的應(yīng)用。大模型的應(yīng)用場景,是超擬人模型,它更多地用于我們的一些情感類、擬人類,包括游戲公司智能NPC的場景,下面還推出了最新的emoha,這是一個心理診療類的模型。在模型之上我們架了一層MaaS模型,通過它來實現(xiàn)模型的體驗、模型的開發(fā)、模型的應(yīng)用一整條完整的服務(wù)鏈,使得我們今天哪怕是通過API也能夠有一個全參微調(diào)或者是Rora微調(diào)。

智譜也是深度參與了大模型行業(yè)標(biāo)準(zhǔn)的共建,在這個過程中,我們目前是國家首家通過端側(cè)大模型技術(shù)與應(yīng)用評估方法評估,并且獲得了當(dāng)前最高評級—四級的大模型企業(yè)。

這里我要提一下智能座艙端云一體的解決方案,這套方案也是智譜給到多家主機廠商在提供現(xiàn)有的能力。我們的端側(cè)模型目標(biāo)是能夠有一個高可用性和隱私性、急速性的服務(wù)。它可以保障離網(wǎng)可用、隨時在線,同時端側(cè)的推理也能夠有一個非常高的響應(yīng)。

同時,為了讓模型具備最高的算力、發(fā)揮最大的性能,希望我們云側(cè)模型也能夠幫助到所有的汽車或者智能座艙的方案,提供最強大的能力。

智譜AI端側(cè)大模型目前已經(jīng)完成與Intel、高通等多個產(chǎn)品的適配,以非常好的推理效率來領(lǐng)跑整個行業(yè)。目前我們的解碼速度是又快又強,在最高的一款解碼速度達到每秒鐘88Token,相當(dāng)于我們每秒能夠有160個漢字左右的推理速度,首響最快達到了23毫秒。

再來說一下目前我們在下一代智能座艙中做的一些應(yīng)用。首先在以上四端的應(yīng)用,是目前相對比較主流,以及比較常見的應(yīng)用。包括了復(fù)雜車控、車書問答、閑聊陪伴和生活服務(wù)等等。除了這些比較常見的智能座艙的應(yīng)用以外,同時也在通過我們多模態(tài)的系統(tǒng),使得用戶的使用場景能夠更加豐富。包括一些車輛識別、路牌識別、用車提醒、多模態(tài)哨兵、警務(wù)閑聊、個性化識別、手勢指令等等,也能夠?qū)崿F(xiàn)更多的體驗。

這里我給大家?guī)硪欢我曨l。這段視頻也是目前與國內(nèi)一家正在使用智譜大語言模型來賦能智能座艙的客戶聯(lián)合開發(fā)的解決方案。

(播放視頻)

剛剛看到的是我們目前已經(jīng)在一些主機廠實現(xiàn)的應(yīng)用場景,已經(jīng)上了非常多的新能源汽車。同時智譜致力于汽車行業(yè)與廣大的主機廠,包括與廣大合作伙伴一起深耕,一起探索AI汽車的未來。

目前我們也有一些相對前沿性的探索,也與一些汽車的科技公司,包括主機廠在推進聯(lián)合實驗室,推動各項能力的研究。其中包括了我們的端云一體的解決方案,更多地是把車機和手機更好地協(xié)同起來。不僅僅是包括應(yīng)用的一些適配,同時也能夠共享更多的算力。通過CubeAgent這樣一個智能體的場景應(yīng)用,我們可以更好地賦能智能座艙,使用更多更復(fù)雜的一些應(yīng)用場景。

這是我今天的分享,謝謝大家!

責(zé)任編輯:郝奇
后發(fā)表評論
信息咨詢
請輸入11位手機號

×
登錄
注冊
忘記密碼