一种服务器快速部署与使用语言模型的方法及电子设备

本发明公开了一种服务器快速部署与使用语言模型的方法及电子设备，涉及服务器部署技术领域。本方案通过网络引导方式为待部署的服务器加载预装镜像与装机镜像以完成操作系统的安装，数据量小；将语言模型文件与推理服务文件预先存储于可插拔的工具盘，在执行装机镜像时识别该工具盘，把服务器中除工具盘以外的存储盘组建为逻辑卷，再将工具盘中的语言模型文件与推理服务文件拷贝至逻辑卷并进行部署，从而将体积较大的语言模型文件与推理服务文件经由工具盘拷贝传输，传输速度快、网络负载小。由此，将网络传输与硬盘拷贝相结合，实现操作系统安装、模型拷贝与推理服务部署的一体化交付，减少了人工参与和串行环节，缩短了交付周期。