Microsoft Ignite の開催中、MediaTek は、MediaTek Dimensity 9400 フラッグシップ チップを使用して、スマートフォンのエッジ AI を活用した初の Phi-3.5-mini アクセラレーションをデモンストレーションしました。 Edge AI は、クラウドベースのサービス サポートを必要とせず、データ処理を完全にデバイス上で行うことでプライバシー、品質、セキュリティを確保します。
Small Language Model (SLM) は、そのサイズにより、完全にデバイス上で処理されながら、特定のタスクに合わせてカスタマイズするための主な候補です。 Dimensity 9400 の第 8 Generation NPU 890 には、Phi-3.5-mini などの SLM を高速化するための特定のハードウェアが搭載されており、提案の作成、文書の要約と Q&A、AI エージェントの計画と推論などの新しいユースケースをもたらします。
MediaTek の AI IoT BU (南北アメリカおよびヨーロッパ) の AVP 兼 GM である Sameer Sharma 氏は、 で AI をカスタマイズして Phi と SLM のパフォーマンスを最適化する方法についてセッションを発表しました。
とつながりましょう。
