基于激活值缓存机制的医疗问答大模型联邦训练及推理方法、装置、设备及介质

本申请公开了基于激活值缓存机制的医疗问答大模型联邦训练及推理方法、装置、设备及介质，涉及大模型技术领域，包括：医院设备将历史医疗问询数据输入模型输入层，通过第一隐藏层对模型输入层的输出进行处理，得到第一激活值；将激活值缓存至预设缓存中；将历史答复数据输入模型输入层，得到第二激活值，将第二激活值缓存至预设缓存；将预设缓存中的缓存数据发送至服务器，以便服务器基于缓存数据确定目标损失函数，基于目标损失函数对第二隐藏层进行训练；基于第一隐藏层及训练后的第二隐藏层生成目标医疗问答大模型；将医疗提问请求输入目标医疗问答大模型，以得到目标医疗问答大模型输出的目标答复数据。实现了对医疗问答大模型的训练和推理。