TritonX
ストックにはログインが必要です
Python向けC ABIバインディングを備えた高性能Rust製行列計算エンジン
Artificial Intelligence
Developer Tools
GitHub
Open Source
概要
- RustとRayonで構築された、CPUのマルチスレッド処理に対応するオープンソースの行列計算エンジンです。
- 低オーバーヘッドのC ABI/FFIバインディングでPythonと直接連携し、GPU環境なしでも低い実行レイテンシを目指します。
主な特徴
- 純粋なPythonによる行列演算と比べて最大約1,200倍の高速化をうたい、実行時間やGFLOPSをChart.jsで可視化できます。
- NumPyやFastAPIと組み合わせやすいPythonブリッジを備え、PowerShellスクリプトによるワンコマンドのローカル実行に対応します。
こんな人におすすめ
- Pythonで重い行列演算を実行しており、フルGPU環境を導入せずにCPU処理のレイテンシを改善したい開発者に適しています。
- Rust、Rayon、C ABI連携に関心があり、スレッド割り当てやCPUメモリレイアウトの最適化を検証したい人にも向いています。
投票数: 0