검색으로 돌아가기
기록

一种大语言模型流式推理中的三级Token过滤方法及系统

발명알 수 없음
8청구항 · 2 독립항
§ Ⅰ

개요

발명자

请求不公布姓名

출원일

Jul 31, 2026

공개일

Oct 16, 2026

IPC 분류

G06F 40/10 (2020.01)G06F 40/284 (2020.01)G06N 5/04 (2023.01)

一种大语言模型流式推理中的三级 Token 过滤方法及系统。方法包括:Piece 级实时检测,在每个 token 生成后立即拦截特殊 Token;累积级检测,在文本拼接过程中发现并截断跨边界特殊 Token;后处理级正则替换,作为最终保险清除残留。系统包括三级检测模块和特殊 Token 模式库。本发明通过三级递进式过滤,实现了流式推理过程中特殊 Token 的实时检测与精确拦截,既保证了输出实时性,又彻底消除了特殊 Token 污染。

로그인하고 전문 읽기

청구항 1을 표시했습니다. 무료 가입하면 전체 8개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.

  • 전체 청구항
  • 기술 분야
  • 배경 기술
  • 발명의 내용
  • 도면 설명
  • 발명의 실시 형태