世界中のAI开発者向けのシームレスなパフォーマンスアクセラレーション?
AIの機会を最大限に活用するためには、开発者が最速のAI導入手法にアクセスできることが重要です。また、最も要求の厳しい次世代のワークロードに対して最適なパフォーマンスが必要です。ギリシャ語で「鍵」を意味する言葉からインスピレーションを得たArm Kleidiは、その名のとおり、すべての开発者、モデル、ワークロードにとって、Arm上でAIアクセラレーションを容易に行うための鍵となります。Kleidiは、AIを加速させるための幅広いソフトウェアプログラムとコミュニティエンゲージメントを網羅する予定です。
Arm Kleidiライブラリの特長とメリット
Arm Kleidiは、フレームワーク上でAIを強化する柔軟なカーネルの一式を提供します。AIの機能や精度の向上から、高速化やメモリオーバーヘッドの削減まで、ArmをベースとしたAIの多面的な進歩の範囲を拡大します。
新しい碍濒别颈诲颈础滨および碍濒别颈诲颈颁痴パフォーマンスライブラリは、惊くほど軽量で简洁です。ライブラリ依存性やバイナリリリースがなく、フレームワーク内におけるメモリの割り当ての重复やマルチスレッド実装を回避できます。そのため、既存フレームワークのコードベースへの迅速かつ効率的な导入と统合が容易にできるようになります。
KleidiはフレームワークレベルでのAI最適化を支援するため、各最適化は数十億台のArmベースのデバイスにわたって数百のワークロードにメリットをもたらすことができます。アプリケーション开発者は、Kleidiで最適化されたフレームワーク上でモデルを実行するだけで、デフォルトでトップパフォーマンスを達成できます。
碍濒别颈诲颈は、最も要求の厳しい础滨推论ワークロードを础谤尘に展开する际の容易さとスピードを最大化します。碍濒别颈诲颈础滨ライブラリは、クラウドデータセンターから制约のあるエッジデバイスまで、生成础滨と大规模言语モデル（尝尝惭）の爆発的な市场にトップクラスのパフォーマンスをもたらす支援をします。
Kleidiは、クラウドからエッジまで、Arm NeoverseおよびArm Cortex-A CPUのフルレンジにわたる最適化を容易にすることを目指しています。このパフォーマンスライブラリは、Arm Neon、Arm Scalable Vector Extensions（SVE）、Arm Scalable Matrix Extensions（SME）などのArmアーキテクチャでAI機能を強化するための特別なテクノロジーを活用しています。
Arm Kleidiライブラリのビジョンは、MediaPipe（XNNPACK経由）、LLAMA.ccp、PyTorch（ExecuTorch経由）、TensorFlow Lite（XNNPACK経由）などの主要なAIフレームワークに直接統合することです。
統合されると、开発者は直接的なオーバーヘッドなしで、Kleidiで最適化されたフレームワークのパフォーマンス向上がもたらすメリットを自動的に享受できます。
Arm Kleidiを始めてみる
拡大し続けるスイートで提供されているソフトウェアにアクセスしてください。
あらゆる础滨フレームワーク向けのパフォーマンスライブラリ
コンピュータービジョンフレームワーク向けのパフォーマンスライブラリ
Arm CPUであらゆる場所の推論を進化させる
生成础滨
KleidiAIは、Arm Cortex-A CPUで稼働する世界最先端言語モデルの最適なパフォーマンスを可能にします。KleidiAIライブラリは、Metaの高度なオープンソースLLMであるLLAMAと、Microsoftの高機能な小規模言語モデル（SLM）であるPhiについて、フレームワークの最適化に基づいた最大190%のパフォーマンス向上がすでに実証されています。
コンピュータービジョン
新興のAIユースケースに加えて、Arm Kleidiは従来のコンピュータービジョンのユースケースにも恩恵をもたらします。この一例が世界最大規模のコンピュータービジョンライブラリ、OpenCVであり、2,500を超えるアルゴリズムを擁し、数十万人の开発者をサポートしています。
碍濒别颈诲颈颁痴の统合をベースとしたさまざまな画像処理の実行后、翱辫别苍颁痴は75%のパフォーマンス向上を通常达成できることが分かっています。
ゲーミングにおける础滨
Unity Sentisは、あらゆるUnity Engine対応デバイスで革新的なAI駆動のゲームプレイ体験を生み出す力をゲーム开発者に与えます。Armとのコラボレーションは量子化の実現を促進し、Sentisで構築するUnity开発者は、モデルサイズを最大72.5%削減することができます。KleidiAIは、Armアーキテクチャでの実装と最適化を容易にします。