医学实体识别大模型微调方法和加速推理方法

本发明公开了一种医学实体识别大模型微调方法，基于大模型对搜集的电子病案进行实体关系抽取，得到抽取结果；再对结果并进行负采样和数据增强；构建基座模型和损失函数进行训练，得到医学实体识别大模型；再基于该大模型进行医学实体识别。采用本发明的显著效果是：本发明的技术方案通过“多令牌并行预测+验证回滚”机制，在不牺牲精度的情况下，能将推理速度提高2～5倍；同时，通过合适的训练，能降低微调占用显存，缩短训练时间。