【科技生態(tài)方向圓桌論壇一】智譜AI副總裁吳瑋杰在泰達(dá)汽車論壇科技生態(tài)方向圓桌論壇一上演講

泰達(dá)汽車論壇2024-09-01
23050

由中國(guó)汽車技術(shù)研究中心有限公司、中國(guó)汽車工程學(xué)會(huì)、中國(guó)汽車工業(yè)協(xié)會(huì)、中國(guó)汽車報(bào)社共同主辦,天津經(jīng)濟(jì)技術(shù)開發(fā)區(qū)管理委員會(huì)特別支持,日本汽車工業(yè)協(xié)會(huì)、德國(guó)汽車工業(yè)協(xié)會(huì)、中國(guó)汽車動(dòng)力電池產(chǎn)業(yè)創(chuàng)新聯(lián)盟、新能源汽車國(guó)家大數(shù)據(jù)聯(lián)盟聯(lián)合協(xié)辦的第二十屆中國(guó)汽車產(chǎn)業(yè)發(fā)展(泰達(dá))國(guó)際論壇(以下簡(jiǎn)稱“泰達(dá)汽車論壇”)于2024年8月29日至9月1日在天津?yàn)I海新區(qū)舉辦。本屆論壇以“風(fēng)雨同舟二十載 攜手并肩向未來”為年度主題,邀請(qǐng)重磅嘉賓展開深入研討。

在9月1日“科技生態(tài)方向圓桌論壇一:20年新引擎,深化人工智能技術(shù)的垂直化應(yīng)用”中,智譜AI副總裁吳瑋杰發(fā)表了題為“大模型賦能AI汽車,智能座艙新質(zhì)生產(chǎn)力”演講。

圖片1.jpg智譜AI副總裁  吳瑋杰

以下為演講實(shí)錄:

尊敬的各位嘉賓,大家早上好!我是智譜AI的吳瑋杰,我今天給大家分享《大模型賦能AI汽車,智能座艙新質(zhì)生產(chǎn)力》。

在開始之前我想先展示一段昨天我自己拍的視頻。大家可能已經(jīng)了解到,就在3天前在西班牙巴塞羅那我們推出了最新的大模型,同時(shí)我們也將視頻通話功能加入到大模型中。

大家可以簡(jiǎn)單看一看,這是我昨天在走進(jìn)這個(gè)會(huì)場(chǎng)的過程中拍的一短視頻。

(播放視頻)

剛剛這段視頻最后的推薦僅僅是大模型的推薦,不代表我的個(gè)人選擇,大家可以從這段視頻中看出我們最新的技術(shù)已經(jīng)可以把多模態(tài),甚至全模態(tài)融合。如果這樣的能力用到車?yán)锩妫蚁嘈胚@會(huì)是一種全新的體驗(yàn)。

我們簡(jiǎn)單介紹一下智譜AI,智譜AI成立于2019年,應(yīng)該是在整個(gè)大模型領(lǐng)域最早開始從事大模型的公司,尤其是在中國(guó)。從這張圖可以看出來,早期大模型還沒有火的時(shí)候,2022年12月ChatGPT發(fā)布之前,我們已經(jīng)在持續(xù)迭代我們的模型。

大家可以發(fā)現(xiàn)我們模型的發(fā)布以及各項(xiàng)能力的提升是以月為單位,每個(gè)月都會(huì)有好幾個(gè)模型的發(fā)布,從原來的大語(yǔ)言模型、代碼模型到多模態(tài)模型等等。具體來看一下,今天智譜已經(jīng)擁有了業(yè)內(nèi)非常完善的模型矩陣,已經(jīng)有21個(gè)開源模型在市場(chǎng)上被應(yīng)用,其中下載量最大的一個(gè)開源模型至今已經(jīng)有1600多萬次的下載,同時(shí)我們也有大量的閉源模型在市場(chǎng)上提供商業(yè)的服務(wù)。大家看我們的端側(cè)模型,這樣的模型大量用于我們的汽車、PC和手機(jī)。

隨著目前端側(cè)算力的提高,已經(jīng)不僅僅是在15億參數(shù)、30億參數(shù),中間云側(cè)大模型90億參數(shù),甚至100多億參數(shù)的模型也逐步在PC上不斷地在被使用。我們的云側(cè)大模型,包含了開源模型9B模型,9B模型是由原來6B模型升級(jí)過來的,上周國(guó)內(nèi)發(fā)布了GLM4的Flash,全免費(fèi)給到我們的用戶使用。我們做這件事是為了中國(guó)大模型應(yīng)用的平權(quán)和普惠,目前歡迎大家能夠來使用我們GLM4的Flash版本,除此之外我們也發(fā)布了GLM4的PLUS版本。再看多模態(tài),我們最早做的是圖生文、圖生任務(wù),后來又文生視頻、圖生視頻等,現(xiàn)在通過智能體對(duì)話,包括我們剛剛上線一周左右已經(jīng)突破了100多萬個(gè)視頻的生成。再往后是代碼模型,應(yīng)用場(chǎng)景也非常多,尤其是以研發(fā)為主導(dǎo)的公司。目前代碼模型的成熟度在一些非常多的重復(fù)性代碼、代碼注釋等得到了廣泛的應(yīng)用。大模型的應(yīng)用場(chǎng)景,是超擬人模型,它更多地用于我們的一些情感類、擬人類,包括游戲公司智能NPC的場(chǎng)景,下面還推出了最新的emoha,這是一個(gè)心理診療類的模型。在模型之上我們架了一層MaaS模型,通過它來實(shí)現(xiàn)模型的體驗(yàn)、模型的開發(fā)、模型的應(yīng)用一整條完整的服務(wù)鏈,使得我們今天哪怕是通過API也能夠有一個(gè)全參微調(diào)或者是Rora微調(diào)。

智譜也是深度參與了大模型行業(yè)標(biāo)準(zhǔn)的共建,在這個(gè)過程中,我們目前是國(guó)家首家通過端側(cè)大模型技術(shù)與應(yīng)用評(píng)估方法評(píng)估,并且獲得了當(dāng)前最高評(píng)級(jí)—四級(jí)的大模型企業(yè)。

這里我要提一下智能座艙端云一體的解決方案,這套方案也是智譜給到多家主機(jī)廠商在提供現(xiàn)有的能力。我們的端側(cè)模型目標(biāo)是能夠有一個(gè)高可用性和隱私性、急速性的服務(wù)。它可以保障離網(wǎng)可用、隨時(shí)在線,同時(shí)端側(cè)的推理也能夠有一個(gè)非常高的響應(yīng)。

同時(shí),為了讓模型具備最高的算力、發(fā)揮最大的性能,希望我們?cè)苽?cè)模型也能夠幫助到所有的汽車或者智能座艙的方案,提供最強(qiáng)大的能力。

智譜AI端側(cè)大模型目前已經(jīng)完成與Intel、高通等多個(gè)產(chǎn)品的適配,以非常好的推理效率來領(lǐng)跑整個(gè)行業(yè)。目前我們的解碼速度是又快又強(qiáng),在最高的一款解碼速度達(dá)到每秒鐘88Token,相當(dāng)于我們每秒能夠有160個(gè)漢字左右的推理速度,首響最快達(dá)到了23毫秒。

再來說一下目前我們?cè)谙乱淮悄茏撝凶龅囊恍?yīng)用。首先在以上四端的應(yīng)用,是目前相對(duì)比較主流,以及比較常見的應(yīng)用。包括了復(fù)雜車控、車書問答、閑聊陪伴和生活服務(wù)等等。除了這些比較常見的智能座艙的應(yīng)用以外,同時(shí)也在通過我們多模態(tài)的系統(tǒng),使得用戶的使用場(chǎng)景能夠更加豐富。包括一些車輛識(shí)別、路牌識(shí)別、用車提醒、多模態(tài)哨兵、警務(wù)閑聊、個(gè)性化識(shí)別、手勢(shì)指令等等,也能夠?qū)崿F(xiàn)更多的體驗(yàn)。

這里我給大家?guī)硪欢我曨l。這段視頻也是目前與國(guó)內(nèi)一家正在使用智譜大語(yǔ)言模型來賦能智能座艙的客戶聯(lián)合開發(fā)的解決方案。

(播放視頻)

剛剛看到的是我們目前已經(jīng)在一些主機(jī)廠實(shí)現(xiàn)的應(yīng)用場(chǎng)景,已經(jīng)上了非常多的新能源汽車。同時(shí)智譜致力于汽車行業(yè)與廣大的主機(jī)廠,包括與廣大合作伙伴一起深耕,一起探索AI汽車的未來。

目前我們也有一些相對(duì)前沿性的探索,也與一些汽車的科技公司,包括主機(jī)廠在推進(jìn)聯(lián)合實(shí)驗(yàn)室,推動(dòng)各項(xiàng)能力的研究。其中包括了我們的端云一體的解決方案,更多地是把車機(jī)和手機(jī)更好地協(xié)同起來。不僅僅是包括應(yīng)用的一些適配,同時(shí)也能夠共享更多的算力。通過CubeAgent這樣一個(gè)智能體的場(chǎng)景應(yīng)用,我們可以更好地賦能智能座艙,使用更多更復(fù)雜的一些應(yīng)用場(chǎng)景。

這是我今天的分享,謝謝大家!

責(zé)任編輯:郝奇
后發(fā)表評(píng)論
信息咨詢
請(qǐng)輸入11位手機(jī)號(hào)

×
登錄
注冊(cè)
忘記密碼