top of page
Aoha Light
LLM含むAIを軽量化・低消費電力化し、推論を高速化
各種半導体に最適化でき、各種AIのフレームワーク・モデルに対応し、
HW・SW開発段階での検証も可能にする、AI向け半導体関連ソフトウェア
Aoha独自の量子化技術
-
Aohaの量子化はPTQで一般的なQATを超え、世界的半導体企業の技術も超える高精度を実現
-
INT8のほかINT4、2、1等低ビットとの強化学習等による組合せの自動最適化も可能
-
下記表は参考例（2023年時点）。使用Calibrationデータはランダムとした参考値で、実運用上はこの点でもさらに精度向上可能
精度シミュレーター
-
半導体開発段階でAIモデルの精度シミュレーションが可能。AIの急速な進化に応じた、SW-definedな半導体開発をサポート
設計シミュレーター
-
軽量化等・最適化後のワークロード・モデルをEDAツールと連携し、設計シミュレーションに活用可能
Model | FP32 | INT8 | INT8+INT4 |
|---|---|---|---|
Classification: MobileNetV3 | 74.04 | 73.64 | 73.37 |
Segmentation: DeepLabV3+ | 79.6 | 79.6 | 79.6 |
Detection: Faster R-CNN | 35 | 35 | 34.4 |
bottom of page