MediaTek samarbeider med Alibaba Cloud for store modeller av mobilbrikker

Kilde:www.ichunt.com

I følge Sci-Tech Innovation Board Daily har MediaTek, en smarttelefonbrikkeprodusent, med suksess distribuert store modeller med 1,8 milliarder og 4 milliarder parametere på flaggskipbrikkene som Dimensity 9300, og oppnådd dyp tilpasning av den store modellen på mobile brikker og gjør det mulig for Tongyi Qianwen å kjøre flere runder med AI-dialog selv i offline situasjoner. I fremtiden vil de to partene også tilpasse flere store modeller av ulik størrelse, inkludert en med 7 milliarder parametere, basert på Dimensity-brikken.

Alibaba Cloud uttalte at de vil jobbe tett med MediaTek for å tilby store modellløsninger til globale mobiltelefonprodusenter.

For øyeblikket er MediaTek halvlederselskapet med det høyeste forsendelsesvolumet av smarttelefonbrikker globalt. I følge de siste dataene fra Canalys, sendte den over 117 millioner enheter i fjerde kvartal 2023, rangert først, etterfulgt av Apple med 78 millioner forsendelser og Qualcomm med 69 millioner forsendelser. Tongyi Qianwen er en grunnleggende stor modell utviklet av Alibaba Cloud. Så langt har den lansert versjoner med opptil 100 milliarder parametere og åpen kildekodeversjon Visuell forståelsesmodell Qwen-VL og lyden i lyden Qwen-Audio.

Under MWC2024 viste MediaTek frem ulike applikasjoner for kunstig intelligens, inkludert Dimensity 9300- og 8300-brikkene. Det er forstått at Dimensity 9300-brikken allerede har støttet bruken av Meta Llama 2s 7 milliarder parameter store modell utenlands, og den har blitt implementert på telefoner i vivo X100-serien i Kina med en 7 milliarder parameter stor språkmodell på endesiden, og har også med suksess kjørt en modell med 13 milliarder parametere i et eksperimentelt miljø på endesiden.

Samarbeidet mellom MediaTek og Alibaba Cloud markerer første gang Tongyi store modell har oppnådd maskinvare- og programvaretilpasning på brikkenivå. Xu Dong, forretningssjefen for Alibabas Tongyi Lab, forklarte: "End-side AI er et av de viktige scenariene for bruk av store modeller, men det står overfor mange utfordringer som vanskeligheter med maskinvare- og programvaretilpasning og ufullstendige utviklingsmiljøer. Alibaba Cloud og MediaTek har overvunnet en rekke tekniske og tekniske utfordringer knyttet til underliggende tilpasning og utvikling på overordnet nivå, og har virkelig integrert den store modellen i mobilen chip og utforske en ny distribusjonsmodell av Model-on-Chip for ende-side AI."

I tillegg til MediaTek, promoterer Qualcomm også aktivt implementering av store modeller på mobile enheter. Den 18. mars kunngjorde Qualcomm lanseringen av tredjegenerasjons Snapdragon 8s mobilplattform, som støtter store språkmodeller med opptil 10 milliarder parametere og kan også støtte multimodale generative AI-modeller, inkludert Baichuan-7B, Gemini Nano, Llama 2 , og Zhipu ChatGLM fra selskaper som Baidu Xiriver, Google og META. Det er rapportert at Xiaomi Civi 4 Pro vil være den første som blir utstyrt med Snapdragon 8s mobilplattform.

En industrianalytiker for forbrukerelektronikk uttalte at samarbeidet mellom Alibaba Cloud og MediaTek betyr at innenlandske mobiltelefonprodusenter nå har et alternativ til Baidu.

I følge reporterens forståelse har Honor og Samsung tidligere kunngjort samarbeid med Baidu Wenxin Yiyan. For eksempel integrerer Samsungs siste flaggskipstelefon, Galaxy S24 -serien, flere muligheter til Wenxin Large -modellen, inkludert samtale, oversettelse og smart oppsummering. I tillegg avslørte en kilde at Apple for øyeblikket er i kontakt med Baidu, i håp om å bruke Baidus kunstig intelligensteknologi, og foreløpige samtaler har allerede funnet sted mellom de to partiene.

Lin Dahua, en ledende vitenskapsmann ved Shanghai Artificial Intelligence Laboratory, uttalte at med den eksponentielle veksten av skybaserte store modeller, er sluttsiden i ferd med å gå inn i en gylden vekstperiode. Cloud-end-samarbeid vil bli en viktig trend i fremtiden, med cloud-side computing som etablerer taket og end-side databehandling som støtter storskala brukeradopsjon.

I følge spådommer fra konsulentfirmaet IDC vil forsendelsesvolumet av smarttelefoner i det kinesiske markedet nå 277 millioner enheter i 2024, med en år-til-år vekst på 2,3 %. Blant dem vil forsendelsesvolumet av AI-telefoner nå 36,6 millioner, med en år-til-år vekstrate som overstiger tre sifre. Bruken av store AI-modeller på mobiltelefoner vil bli mer utbredt.