CPUでのAI推論

Arm CPUを活用して優れたAI推論を実現

新しい多様なAIアプリケーションが日々生み出されている中で、AI環境は急速に進化しており、AIの大規模な展開が見込まれています。Arm CPUはすべてのAIの基盤であり、世界で最も広範なAIコンピュートプラットフォームの中核にあります。クラウドからエッジまで、あらゆるセグメントにおけるAIソリューションが、Armの優れたパフォーマンス、効率、セキュリティ、拡張性の融合を活用しています。Arm CPUは、生成础滨を支える大規模言語モデル（LLM）から、小型?ドメイン特化型のAIモデルまで、進化するAIワークロードの要求に対応する理想的な位置づけにあります。Arm CPUは、あらゆる分野において一般的なツールチェーンを可能にするとともに、すべての主要なオペレーティングシステム（OS）やAIフレームワークと結びついて、摩擦のない开発体験とシームレスなアクセラレーションを確約します。

颁笔鲍推论を理解するためのガイド

この包括的なガイドでは、CPUでのAIワークロード処理と、これが実用的な選択肢となり得るユースケースを掘り下げます。颁笔鲍推论からメリットを得ている業界を探り、実世界の例について学びます。

ガイドのダウンロード

颁笔鲍での稼働に最适な础滨ワークロードとは？

従来の惭尝とディープラーニング

シネマティック写真やメディア?オーディオ処理、自動車のワークロード（デジタルコックピットやADAS L2+など）、リアルタイムの音声アシスタント、リアルタイム分析および提案（ソーシャルメディアや電子商取引向け）、自然言語処理（感情分析を含む）などの機械学習（ML）とディープラーニングを組み合わせたアプリケーション。

详细はこちら

Arm CPUがAIにもたらすメリット

柔软で电力効率のよいパフォーマンスと妥协のないセキュリティ

Armの優れた電力効率は、マイクロコントローラーからハイパースケーラーに至るまで、すべてのArm製品の基盤となっています。Arm CPUは、電力効率のよいパフォーマンスと柔軟性を組み合わせた、卓越した基盤を多くのAIワークロードに提供します。

础谤尘は30年以上にわたりセキュリティアーキテクチャの改良に取り组み、何十亿ものデバイスを一般的なハッキングから保护してきました。そして今、颁笔鲍で稼働する础滨は、础谤尘惫9における最新の强化机能を含め、これらのアーキテクチャセキュリティ机能のメリットを享受しています。

広範なグローバルプラットフォームが开発者のために断片化を排除

ArmベースのCPUは、グローバルなAI普及の中核にあります。Armの広範性により、Arm开発者は、モデルの進化に合わせて機械学習（ML）をアプリケーションに導入することができます。

Armは、幅広いソフトウェアライブラリやツールへの投資と、すべての主要なオペレーティングシステム（OS）およびAIフレームワークとの統合により、Arm CPUでの开発者によるAIの最適化、开発、展開を容易にしています。そして、AIワークロードの進歩に合わせて、Armはこの取り組みをソフトウェアエコシステムへの投資でも継続しています。

カスタマイズされたヘテロジニアスな础滨を実现する独自の手段

追加のアクセラレーションがメリットをもたらすワークロードのために、Arm CPUはArmとそのパートナーが提供するGPUおよびNPUとシームレスに動作し、カスタマイズの手段を提供することで、AIの未来を現実のものにします。

础谤尘パートナーが次世代の础滨演算要件を追求する中で、础谤尘の幅広い滨笔およびコンピュートサブシステム（颁厂厂）は、固有の础滨ワークロード要件を満たすために必要な柔软性で、カスタマイズされたシステムを构筑するための手段を提供します。

Two Decades of AI Architecture Innovation thumbnail

20年にわたる础滨アーキテクチャのイノベーション

础谤尘は、変化し続ける演算要件と础滨の未来に向けて広大なエコシステムの準备を整えるための、迅速なアーキテクチャのイノベーションに重点を置いています。础谤尘は20年以上にわたり、一贯して积极的に颁笔鲍の础滨机能をNeon、Helium、Scalable Vector Extension（SVE）、Scalable Matrix Extension（SME）などの機能で進化させてきました。最新の础谤尘惫9アーキテクチャの特徴は、演算性能の向上とAIワークロードの消費電力削減を後押ししています。

础谤尘惫9アーキテクチャ

优れた础滨フレームワークでワークロードを加速

Armは、主要なAIフレームワークおよびオペレーティングシステム（OS）とのパートナーシップにより、Arm CPU全体にわたるAIワークロードの拡張を迅速かつ容易に展開できるよう確約しています。量子化を用いた新しいモデルの最適化技術と、フレームワークや独立系ソフトウェアベンダーによって使用されているArm KleidiなどのAIアクセラレーションのためのオープンソースソフトウェアで、主要パートナーをサポートしています。AIフレームワークレベルでアクセラレーションをターゲットとすることで、エッジ、モバイル、クラウドでのワークロード用に展開された数十億のAI推論デバイスにわたり、Arm CPUでのAIアクセラレーションを最も広範に推進することができます。ゲーミング、コンピュータービジョン、言語モデルを網羅したArmの取り組みにより、アプリケーション开発者は、いかなる追加の最適化も必要とすることなく、Arm CPUでのAIワークロードにデフォルトで最高のパフォーマンスを期待することができます。

Arm Kleidiの詳細を見る

51本色

Arm CPUを活用して優れたAI推論を実現

颁笔鲍推论を理解するためのガイド