米Qualcomm Technologies(クアルコム・テクノロジーズ)は、AI推論処理アクセラレーターカード「Cloud AI 100」のサンプル出荷を開始した(ニュースリリース)。さらに、同社はこのアクセラレーターカード向けの開発用キット「Cloud AI 100 Edge Development Kit」を発表した。

Cloud AI 100
上がHHHLのPCI Expressフォームファクター。下が2スロットのM.2フォームファクター。Qualcomm Technologiesのスライド
[画像のクリックで拡大表示]

 Cloud AI 100は7nmプロセスで製造する推論処理ICを搭載し、熱設計電力(TDP)や演算性能が異なる3品種を用意する。2品種は2スロットのM.2フォームファクターで、1品種はHHHL(Half-Height Half-Length)のPCI Expressのフォームファクターである。M.2フォームファクターの1品種はTDPが15Wで演算性能が70TOPS、もう1品種は25Wで200TOPSである。HHHLのPCI Expressフォームファクターの製品はTDPが75Wで、演算性能が400TOPSという。

Cloud AI 100(左)とCloud AI 100 Edge Development Kit(右)の主な仕様
Qualcomm Technologiesのスライド
[画像のクリックで拡大表示]

 Cloud AI 100にはTensorflowやPyTorch、Caffeといった広く使われるフレームワークで開発した推論モデルを実装できる。また、GLOWやONNX形式のランタイムモデルをサポートする。ソフトウエア開発向けに、コンパイラーやシミュレーターを含む「Cloud AI 100 Applications SDK」、およびランタイムモデルやAPI、カーネルドライバーなどを含む「Cloud AI 100 Platform SDK」を用意している。Cloud AI 100を搭載した商用機は2021年上期に市場に登場する見込みである。

 さらに今回、5Gエッジ機器の開発キットとしてCloud AI 100 Edge Development Kitが発表された。5G通信、推論、ビデオストリーミング処理が行えるレファレンス設計で、Qualcommの複数のICなどを搭載する。ホストのプロセッサーICは「Snapdragon 865」。モデムとRFのICは「Snapdragon X55」。そしてCloud AI 100(2スロットのM.2フォームファクターでTDP15Wの品種)などを搭載する。Edge Development Kitの出荷時期および価格などは、現時点では未公表である。

Cloud AI 100 Edge Development Kit
Qualcomm Technologiesのスライド
[画像のクリックで拡大表示]