検索に戻る
案件記録

一种大语言模型流式推理中的三级Token过滤方法及系统

発明不明
8請求項 · 2 独立
§ Ⅰ

案件概要

発明者

请求不公布姓名

出願日

Jul 31, 2026

公開日

Oct 16, 2026

IPC分類

G06F 40/10 (2020.01)G06F 40/284 (2020.01)G06N 5/04 (2023.01)

一种大语言模型流式推理中的三级 Token 过滤方法及系统。方法包括:Piece 级实时检测,在每个 token 生成后立即拦截特殊 Token;累积级检测,在文本拼接过程中发现并截断跨边界特殊 Token;后处理级正则替换,作为最终保险清除残留。系统包括三级检测模块和特殊 Token 模式库。本发明通过三级递进式过滤,实现了流式推理过程中特殊 Token 的实时检测与精确拦截,既保证了输出实时性,又彻底消除了特殊 Token 污染。

ログインして全文を読む

請求項 1 を表示しています。無料登録で全 8 項の請求項、明細書全文、全図面、翻訳、法的状態を閲覧できます。

  • 全請求項
  • 技術分野
  • 背景技術
  • 発明の概要
  • 図面の説明
  • 発明を実施するための形態

外部リソース