引元星河（苏州）信息科技有限公司

本发明公开了一种生成式人工智能指令安全管控方法与装置，包括步骤：构建安全本体知识库；创建虚拟沙盘环境，虚拟沙盘环境用于缓存生成式人工智能模型的生成内容并阻断生成内容直接传输至用户端；接收用户指令，在虚拟沙盘环境中初始化会话上下文；将用户指令输入至生成式人工智能模型得到生成内容，对生成内容进行时间切片得到若干切片内容，对若干切片内容进行语义解析并映射至安全本体知识库；基于本体推理与路径预测，计算若干切片内容的风险概率与逻辑矛盾概率；根据风险概率与逻辑矛盾概率执行放行策略、阻断策略或修正策略中的任一种。本发明全面提升了生成式人工智能应用的安全性、准确性与实时性。

本方案公开了一种全链路可视化溯源方法，该方法的步骤包括：响应每一次预测请求，计算特征层的权重向量；基于预先构建的算子传播规则库，反向遍历全链路异构图谱，获得全链路异构图谱中每一个源表字段对本次决策结果的间接贡献得分。本方案能够精确识别出导致最终决策权重异常的具体的结构化查询语言（Structured Query Language，SQL）操作，从而实现算子级的深度溯源，解决了现有技术无法定位加工逻辑错误的难题。