검색으로 돌아가기
기록
Hybrid候选源融合的多序列投机采样方法及系统
발명알 수 없음
10청구항 · 10 독립항
§ Ⅰ
개요
IPC 분류
G06F 16/3329 (2025.01)G06N 5/04 (2023.01)G06F 16/334 (2025.01)
本申请涉及人工智能技术领域,公开了一种Hybrid候选源融合的多序列投机采样方法。该方法基于当前生成前缀分别构造历史匹配候选集合、二级反馈候选集合和分布探索候选集合,将候选序列对齐至统一root token后去重合并形成多候选结构,根据分支rank或检索置信权重分配差异化最大延伸长度,在最大draft budget约束下执行容量控制后提交目标模型验证,并将验证失败位置处目标模型真实输出写入二级反馈池供后续轮次检索复用。有助于提高目标模型单次验证的平均接受token数并降低推理延迟。