Kasabay ng pinakabagong batch ng mga bagong mid-range na mobile-platform ng smartphone, ang Qualcomm ay gumawa ng isang mas malaking anunsyo sa AI Day nito sa San Francisco. Ang higanteng mobile chip ay gumagawa ng isa pang pag-play para sa mga server, matapos iwanan ang saklaw ng Centriq nito noong 2018. Sa oras na ito, ang kumpanya ay gumagamit ng mga teknolohiya sa larangan ng AI upang makuha ang paa nito sa pintuan ng computing ulap. Ang unang chip sa amin na tinawag ang Qualcomm Cloud AI 100 platform.
Ang platform ng Cloud AI 100 ay hindi isang mobile chip repackage, ito ay isang ground-up na disenyo ng 7nm para sa mga inference ng AI, sa halip na pagsasanay. Nangangahulugan ito na ang chip ay magiging crunching ang mga numero na dumadaan sa mga neural network kaysa sa ginagamit upang sanayin ang mga ito. Lumilitaw ito upang ilagay ang Qualcomm sa direktang kumpetisyon sa serye ng Nvidia's Tesla T4 at Google Edge TPU na mga inference chips na idinisenyo para sa mga server at cloud computing. Tulad ng mga katunggali nito, natanto ng Qualcomm na ang pinaka mahusay na pagproseso ng AI ay hindi ginagawa sa mga CPU, GPUs, at FGPA, ngunit nangangailangan ng isang dedikadong AI accelerator.
Sa mga tuntunin ng pagganap, tinantya ng Qualcomm ang isang mas malaki kaysa sa 50x peak AI na pagpapalakas ng pagganap sa paglipas ng mga kakayahan ng Snapdragon 855. Ang Snapdragon 855 ay nag-aalok sa paligid ng 7TOPS ng pagganap, na nagmumungkahi na ang Cloud AI 100 ay nasa hanay ng 350TOPS. Tiyak na bibigyan nito ng T4 ang takbo ng Nvidia para sa pera nito. Naniniwala ang Qualcomm na ito ay may talim sa pagganap sa bawat watt, na ipinagmamalaki din ang 10x na pagpapabuti kumpara sa pinakahusay na mga solusyon sa pagkilala sa AI ng industriya ng ngayon. Kapag ikaw ay crunching malaking numero, ang kahusayan ng lakas ay makakapagtipid sa mga kumpanya ng malaking halaga sa mga bayarin sa kuryente. Bilang karagdagan, nais ng Qualcomm na magamit ang kadalubhasaan nito sa pagproseso ng signal at 5G, kaya ang platform ng ulap nito ay maaaring gumana sa gilid sa hinaharap na napakababang mga network ng latency.
Kapag tinanong, ang Qualcomm ay hindi magkomento sa kung ang arkitektura na ginamit sa Cloud AI 100 ay pagmamay-ari o lisensyado mula sa ibang lugar. Nagtataka ako kung ito ang unang hitsura ng arkitektura ng Trillium AI ng Arm, na sadyang dinisenyo para sa mga inbensiyon sa mga workload sa isang mababang badyet ng kuryente. Ngunit sapat na haka-haka, sinabi ng Qualcomm na ito ay magbabahagi ng mas maraming impormasyon tungkol sa arkitektura ng AI nito sa hinaharap.
Sa wakas, upang suportahan ang mga developer ng Qualcomm Cloud AI 100 ay gumagana sa karamihan, kung hindi lahat, ng mga stacks na pangunahin sa industriya. May suporta para sa Caffe, Keras, mxnet, TensorFlow, PaddlePaddle, at Cognitive Toolkit frameworks, kasama ang mga Glow, OnnX, at mga runtime ng XLA.
Ang Qualcomm Cloud AI 100 ay inaasahang magsisimula ng sampling sa mga customer sa
