安洁智巡多模态感知 · 本体驱动返回总方案 ↗

ANJIE INSIGHT / 产品构想

让 AI 看见现场,
也读懂安洁的业务。

安全巡检智能应用 · 多模态能力构想

图片呈现现场,语音补充经过,视频保留变化,台账与工单提供背景。让每一次识别接得上对象、要求、责任和下一步行动。

设计与预设交互演示 · 多模态模型和业务接口待接入验证

从感知到行动 ONE CONNECTED CASE
▧巡查图片场景 · 对象 · 局部▷现场短视频片段 · 时刻 · 变化≋员工语音叙述 · 位置 · 经过▤台账与工单身份 · 历史 · 职责
多模态理解 × 业务本体

识别的每个现象,
都有业务上下文。

看到了什么 · 属于哪个对象
适用什么要求 · 还缺什么证据

补拍指引隐患候选工单草稿复核辅助

候选可追溯到原材料,确认后进入相应业务流程。

01 / 一次现场发现

从一张巡查图片,
到一件有据可查的事。

点击场景和图下对应的观察项,查看“可见信息—业务判断—办理建议—整改复核”如何连接。

预设流程演示 图示、观察项和输出均为设计样例,未调用模型。真实图片识别能力在模型接入后,以业务样本实测。

示意素材
任务背景

当前观察项

每个输出保留

原材料定位 → 对象候选 → 适用依据 → 人工确认 → 后续动作

最有价值的下一句

有目的地补充信息,让员工在现场把事情记清楚。

02 / 超越单轮问答

能发现,能追问,
也能接着办。

六类岗位应用共用多模态能力。问答、拍照、口述与回看,都可以成为同一事项的入口。

01 / 看现场

图像找线索,视频找片段

标注可见对象、堆放、遮挡与表面异常;读取清晰标签和读数;把视频中的候选现象定位到具体片段。

识别范围与可见程度随原材料保留。
02 / 会追问

知道下一张该拍哪里

结合本次检查项,提示补充位置全景、对象标签、另一个角度或所需记录。支持语音补充,确认后生成结构化记录。

补问以减少对象和证据缺口为目的。
03 / 认业务

把眼前现象放回具体项目

结合任务、台账、位置和历史工单,提出对象匹配及事项关联候选,说明依据、冲突和待确认信息。

扫码、台账引用与人员确认共同校准身份。
04 / 接工单

形成可以接手的办理草稿

把局部图、现场事实、适用要求、拟办事项、责任建议和所需材料组织在一起,由相应岗位确认办理与承接。

沿用原模块流程,记录每次承接及退回。
05 / 看变化

整改对照与对象时间线

按同一对象和整改轮次对照可见变化;回看发现、处置、补正和复核,区分重复上报、持续未决与疑似复发。

比较范围内的变化,功能性结论引用相应核验。
06 / 能培育

把人工纠错变成图文知识

保存标注修正、语音修订、对象纠正及规则解释;审核为图文案例和规则版本,用于情境学习与更新后的回归验证。

审核发布后复用,保留模型与知识版本。
对象的业务记忆

同一盏灯,
保留每次判断的来由。

示例时间线按确认的对象身份组织,身份不明时保留待关联。

  1. 首次发现原图 · 对象候选 · 现场记录
  2. 本轮处置行动 · 材料版本 · 具体轮次
  3. 复核意见已审范围 · 采用依据 · 人工结论
  4. 后续巡查新记录 · 可见变化 · 再次确认关系

03 / 产品架构

多模态负责理解现场,
本体负责连接业务。

采用成熟多模态基础模型,结合安洁的对象词典、规则、案例和业务接口,构建可持续培育的行业应用。

01

现场输入

图片 · 短视频 · 语音 · 文档 · 台账 · 工单记录

任务与项目范围
来源与采集时间
↓ 保留原始材料与版本,检查清晰度和覆盖范围
02

多模态感知与理解

视觉理解 · 对象定位 · 文本读取 · 语音转写 · 视频片段定位

观察候选与原文
图像区域与时间锚点
↓ 将识别结果映射到对象、现象和待证明事实
03

安洁业务本体与知识推理

对象身份 · 适用要求 · 历史事项 · 责任授权 · 证据覆盖 · 状态约束

匹配依据与版本
未知、冲突与补问
↓ 给出隐患候选、核验缺口和可解释的下一动作
04

岗位协同与工具执行

检查卡 · 记录草稿 · 工单协同 · 整改对比 · 复查建议 · 学习案例

确认与承接
接口回执与失败跟进
持续培育 ↺人工纠错 → 标注与规则审核 → 版本发布 → 留出案例验证 → 业务复用
模型选型与实现方式

可采用视觉语言模型配合图片、文字资料和业务规则实现,语音转写按条件评估;对计数、读数或小目标定位有稳定精度要求时,再评估专门的检测组件。业务本体通过检索、结构化关系和规则校验参与推理,知识版本可独立维护。

图像理解、对象定位及视频片段理解已有可供验证的基础能力,参考 Qwen 官方视觉模型资料 ↗、图像理解文档 ↗与视频理解文档 ↗。这些资料说明技术候选,不代表在安洁场景已达到可用精度。

以中文现场识别、困难样本、部署条件、响应耗时和使用成本选型。企业知识优先检索增强;积累审核样本并证明必要后,再评估适配训练。生产动作需要有效权限、人员确认及接口成功回执,失败留待办,避免重复创建工单。

04 / 多模态如何进入本体

每个判断,
都能点回它的出处。

沿用现有业务核心,在材料与业务对象之间增加感知记录,让图片区域、视频时刻和语音片段都有可追溯的位置。

材料版本→媒体片段→观察候选→人员确认→业务记录 / 问题事项

业务核心:14类概念组、23个实体、180项属性、38条关系。以下是独立的感知扩展设计,其实体与字段另列,保留原业务图的统计口径。

查看与现有业务对象的映射
画面观察

图中看见了什么

记录对象、现象、区域与可见程度,保留原材料定位。未拍到的区域继续待查。

业务判断

为什么值得核查

结合确认的对象用途、检查要求和有效版本,提出隐患候选并解释适用条件。

现场与专业核验

还需证明什么

宽度、应急功能、电气性能等按相应方法取得证据,由有职责人员判断。

05 / 参赛与落地

让亮点落在一条
可以验证的业务链上。

演示围绕“现场上传—识别追问—对象与规则匹配—工单草稿—整改对比—复核留痕”展开,逐步从设计进入真实模型与业务验证。

验证方向 / 高频现场

图片与文字辅助巡检

选取通道堆放、设施外观和充电区域等可见现象,建设审核样本,接入模型,验证定位、补问与工单草稿。

交付:可运行原型、业务标注集、失败案例与评测结果。
二期 / 串起前后变化

短视频、整改对比与记忆

扩展时间片段、同对象前后材料对照和历史事项关联;验证遮挡、相似位置、旧图及跨项目差异。

交付:可回看的对象时间线、逐项材料对照和复查建议。
三期 / 接入实际协同

授权办理与持续培育

按接口条件接入任务和工单,记录确认、回执与异常;将审核纠错和使用反馈纳入版本维护。

交付:权限内业务协同、可审计记录与持续验证机制。
同一个模型,检验本体贡献

从“会看图”,检验到“会办事”。

对照同一多模态模型的直接识图、文档检索增强、本体与规则增强三种方案,统一输入、工具权限和预算;用人工基线衡量岗位价值。

  • 识别可见异常定位、漏报、误报,遮挡与模糊下的正确拒识。
  • 理解对象匹配、规则适用、来源定位,是否误把“未见”当“没有”。
  • 协同有效补问、人工修订量、首次有效承接耗时、错误闭环。
  • 维护按项目和时间拆分留出数据;同次巡查及近重复材料保持同组,计入版本维护与推理成本。

所有效果指标均待实测。演示图不进入真实效果评测;正式样本按访问权限与用途处理,控制个人信息暴露,并保留来源和使用记录。