Deepytorch是阿里云自研的AI加速器，為生成式AI和大模型場景提供訓練和推理加速功能。在訓練方面，Deepytorch在保障精度的前提下實現端到端訓練性能的顯著提升，可降低訓練成本，提升迭代速度。在推理方面，Deepytorch通過即時編譯技術對模型進行推理優化，可實現高效、快速的推理加速效果。