云財(cái)經(jīng)訊，阿里云與知名半導(dǎo)體公司MediaTek聯(lián)合宣布，通義千問18億、40億參數(shù)大模型已成功部署進(jìn)天璣9300移動(dòng)平臺(tái)。這意味著手機(jī)AI體驗(yàn)將迎來重大提升，用戶可在手機(jī)上離線流暢運(yùn)行即時(shí)且精準(zhǔn)的多輪AI對(duì)話應(yīng)用。與此同時(shí)，連續(xù)推理功耗增量不到3W，顯示出了出色的能效表現(xiàn)。此舉標(biāo)志著通義大模型首次完成芯片級(jí)的軟硬適配，僅依靠終端算力即可獲得優(yōu)異的推理性能和功耗表現(xiàn)。這一技術(shù)突破意味著Model-on-Chip(片上大模型)的商業(yè)化正式邁出了重要一步。