推理服务

Hugging Face推出新功能，用户仅需一条命令即可在Jobs服务中启动vLLM推理服务器，极大简化了大型语言模型的部署流程。