简体中文
主题
Less GPUsMore AI Apps
TensorFusion GPU虚拟化和池化解决方案
像用NFS一样在局域网任何机器用GPU
自动扩缩推理应用,让任意应用利用到全池资源更低成本实现更高吞吐
通过背压整流和多级反馈队列调度,最大化GPU使用率,最小化推理请求任务等待时长
开箱即用的GPU池化管理、监控告警
对CUDA API底层优化,使得大部分模型应用在局域网使用池化GPU性能损失<5%
支持Kubernetes、裸金属、边缘云等各种环境