近些年来，随着GPU等计算设备算力的飞速提升，对算力要求较高的深度学习模型逐步开始在网购、医疗、音视频领域有了越来越广泛的应用。如何结合深度学习框架，用好高算力的GPU设备，是我们在AI基础建设中遇到的一个至关重要的问题。英伟达等公司从硬件厂商的角度出发推出了Trition推理服务器，目的都是为了更好地帮助用户更好更方便地部署深度学习，提供优质的在线预测服务。
什么是Triton推理服务器？
Triton推理服务器(NVIDIA Triton Inference Server) 是英伟达等公司推出的开源推理框架，为用户提供在云和边缘推理上部署的解决方案。
那么推理服务器的特点有哪些呢？
1、推理服务器具有超强的算力密度和超高能效的特点，它当前在精准营销，视频分析，深度学习模型，文字识别和医疗影像分析等的方面，都得到了广泛的应用，它通过为人工智能服务器提供强大的算力，就加速了人工智能的发展。
2、推理服务器最大可以支持20个推理加速卡，它的高效加速应用，能够满足不同场景的推理需求。
3、在使用的过程中，推理服务器可以通过发挥架构多核，功耗低的优势，为推理场景构建能效高，功耗低的计算平台。其中推理加速卡的单卡功耗只为70瓦，它能够为服务器的算力加速的同时，还可以带来更优的能效比。
4、推理服务器是当今世界上性能最高的服务器，它以后还会在石油勘探，天文探索和自动驾驶等的领域，发挥非常重要的作用。它凭借着超高的算力，必将会加速行业的智能化发展。另外，它还可以通过超强的AI技术，让各个行业都达到智能化，从而让智能化遍地开花。
通过以上的内容，我们已经了解了推理服务器的特点了，可见，推理服务器的功能是非常强大的，它具有很高的算力，算力密度是业界的两倍。它还具有高速度的接口，能够让芯片之间跨服务器的互联时延，缩短百分之十到七十。
