去年 Meta は、PyTorch が機械学習プロジェクトとコミュニティの開発のための中立的なプラットフォームとして Linux Foundation に参加し、AMD が運営委員会に参加したことを発表しました。
PyTorch Foundation は、オープン ソフトウェア エコシステムのコア原則に沿った、オープン ソースの原則を通じてソフトウェア エコシステムを民主化することにより、AI の採用を積極的に促進しています。 AMD. AMDは、イノベーションを促進し、幅広い科学的発見にAIを実装するプロセスを簡素化および加速するよう努めています.
彼女が PyTorch Foundation の創設メンバーになったとき、彼女はオープンソースの AI フレームワークを改善し続けました。 そして現在、AMD と PyTorch は ROCm と PyTorch に最新のアップデートを導入しています。これにより、開発者は AMD Instinct と Radeon アクセラレーターに基づいて新しい AI ソリューションを作成できるようになります。
PyTorch コミュニティからのサポートは、特定のギャップを特定し、主要な更新に優先順位を付け、フィードバックを提供してパフォーマンスを最適化し、「ベータ版」から「安定版」への旅をサポートするのに非常に役立ちました。 共同の取り組みの結果は、SuperBench などの主要な業界ベンチマークで測定されたパフォーマンスのレベルによって明確に示されています。 Microsoft.
AMD CDNA アーキテクチャと ROCm および PyTorch の両方の漸進的な改善は、AMD Instinct MI100 から、ROCm 200 から ROCm 4.2 へ、および PyTorch 5.3 から PyTorch 1.7 への GPU の最新世代 AMD Instinct MI1.12 ファミリへの単一 GPU モデルのパフォーマンスの向上を示しています。 主な更新内容は次のとおりです。
- ROCm の完全な継続的インテグレーション (CI) パイトーチ. すべての機能は、期待される Docker リリースと PIP ホイールの前に適切にビルドおよびテストするのに役立つ CI プロセスを通じてテストされます。
- キネト プロファイラーのサポート。 ROCm のプロファイラー サポートにより、開発者とユーザーは強力な診断ツールとプロファイリング ツールを利用して、パフォーマンスのボトルネックをよりよく理解し、解消することができます。
- 主要な PyTorch ライブラリのサポート。 ユーザーは、新しいレベルの効率と高い生産性のために、TorchText、TorchRec、TorchVision、TorchAudio、および MIOpen、RCCL、rocBLAS などのその他の最適化されたコレクションを含む PyTorch ライブラリ エコシステムへのオープン アクセスが与えられます。
- AITemplate 推論エンジンのサポート。パフォーマンスを向上させるために、MetaAI オープン ソース AITemplate とコンポーザブル カーネル (CK) ライブラリは、トランス ブロック用にさらに多くの AMD マトリックス コアをサポートできます。
さらに、AMD と PyTorch は、安定した ROCm サポートを追加するために、50 を超える機能と機能強化を共同で開発しました。 これらには、ツール、コンパイラ、ランタイム、TorchScript によるグラフィックスの最適化、INT8 クォンタム パスの使用、および ONNX ランタイム統合の改善が含まれます。
エッジとデータセンターの両方で AI 機能のアプリケーションを加速するために、AMD は PyTorch に FPGA と適応型 SoC のポートフォリオへのアクセスを提供します。 AMD Vitis AI プラットフォームは、人工知能モデル、最適化されたディープ ラーニング プロセッサ コア (DPU)、ツール、ライブラリ、人工知能のサンプル プロジェクトを提供します。
また興味深い：