一种流式生成内容的安全检测方法、系统及电子设备

本说明书实施例公开了一种流式生成内容的安全检测方法、系统及电子设备。该方法包括：在持续获取流式生成内容的过程中，根据预设的内容分割规则对获得的内容进行切分以生成相应的内容单元；在检测到新生成的内容单元的情况下，确定其对应的风险概率值，并根据确定的风险概率值更新滑动窗口；根据滑动窗口中当前包含的各内容单元的风险概率值，通过预设聚合函数计算累积风险得分；根据累积风险得分，对流式生成内容执行对应的安全处置策略。本说明书实施例通过滑动窗口对多个内容单元的风险概率值进行聚合计算，降低了单点判断波动导致的误报，同时能够识别分散在多个内容单元中的累积性风险，满足流式场景下的实时性要求。