CNIPA.AI
검색으로 돌아가기
기록

HTTP流式传输首token到达时间的高并发性能测试方法及系统

발명유효
1조회수
7청구항 · 2 독립항
§ Ⅰ

개요

발명자

金展鸿; 陈学锋; 董梦茹; 李甜甜

IPC 분류

H04L 43/08 (2022.01)H04L 43/0876 (2022.01)H04L 67/02 (2022.01)

本发明公开了一种HTTP流式传输首token到达时间的高并发性能测试方法及系统,基于性能测试工具loadrunner实现,方法包括步骤:步骤1:创建性能测试工程,录制性能测试脚本;步骤2:修改脚本,使脚本能够获取首个Token到达时刻与请求发送时刻的时间差;步骤3:配置高并发测试参数,执行测试;步骤4:重复步骤3,统计不同负载条件下的首Token响应时间分布及稳定性指标。本发明通过修改性能测试工具LoadRunner的脚本代码,实时解析分块传输数据;设计首Token截断模块,在首个Token到达时主动截断后续数据、中断数据传输连接,同步计算时间间隔;实现了首Token响应时间的精准测量,节省大量测试带宽资源,兼容JSON、Protobuf等流式协议格式,为大模型Web应用的性能优化提供关键数据支撑。