这个我信。
因为从katago版本升级就能够看出来，使用tensorrt框架后，相比原cuda其性能提升显著，可以说上了一个台阶。
而从前几天全新安装A3000时发现，在Ubuntu下，从NVIDIA的驱动开始，直到tensorrt安装，整个流程相比两年前，已经有了大的改进，基本不需要手工设置。
而涉及到AI，其支持的5个ISV集成中，第一个就是lmstudio，如此一来，使用普通显卡本地部署的性能会有一个大的提升。
期待。
这个我信。
因为从katago版本升级就能够看出来，使用tensorrt框架后，相比原cuda其性能提升显著，可以说上了一个台阶。
而从前几天全新安装A3000时发现，在Ubuntu下，从NVIDIA的驱动开始，直到tensorrt安装，整个流程相比两年前，已经有了大的改进，基本不需要手工设置。
而涉及到AI，其支持的5个ISV集成中，第一个就是lmstudio，如此一来，使用普通显卡本地部署的性能会有一个大的提升。
期待。