图像找线索,视频找片段
标注可见对象、堆放、遮挡与表面异常;读取清晰标签和读数;把视频中的候选现象定位到具体片段。
识别范围与可见程度随原材料保留。ANJIE INSIGHT / 产品构想
安全巡检智能应用 · 多模态能力构想
图片呈现现场,语音补充经过,视频保留变化,台账与工单提供背景。让每一次识别接得上对象、要求、责任和下一步行动。
设计与预设交互演示 · 多模态模型和业务接口待接入验证
看到了什么 · 属于哪个对象
适用什么要求 · 还缺什么证据
候选可追溯到原材料,确认后进入相应业务流程。
01 / 一次现场发现
点击场景和图下对应的观察项,查看“可见信息—业务判断—办理建议—整改复核”如何连接。
预设流程演示 图示、观察项和输出均为设计样例,未调用模型。真实图片识别能力在模型接入后,以业务样本实测。
原材料定位 → 对象候选 → 适用依据 → 人工确认 → 后续动作
02 / 超越单轮问答
六类岗位应用共用多模态能力。问答、拍照、口述与回看,都可以成为同一事项的入口。
标注可见对象、堆放、遮挡与表面异常;读取清晰标签和读数;把视频中的候选现象定位到具体片段。
识别范围与可见程度随原材料保留。结合本次检查项,提示补充位置全景、对象标签、另一个角度或所需记录。支持语音补充,确认后生成结构化记录。
补问以减少对象和证据缺口为目的。结合任务、台账、位置和历史工单,提出对象匹配及事项关联候选,说明依据、冲突和待确认信息。
扫码、台账引用与人员确认共同校准身份。把局部图、现场事实、适用要求、拟办事项、责任建议和所需材料组织在一起,由相应岗位确认办理与承接。
沿用原模块流程,记录每次承接及退回。按同一对象和整改轮次对照可见变化;回看发现、处置、补正和复核,区分重复上报、持续未决与疑似复发。
比较范围内的变化,功能性结论引用相应核验。保存标注修正、语音修订、对象纠正及规则解释;审核为图文案例和规则版本,用于情境学习与更新后的回归验证。
审核发布后复用,保留模型与知识版本。示例时间线按确认的对象身份组织,身份不明时保留待关联。
03 / 产品架构
采用成熟多模态基础模型,结合安洁的对象词典、规则、案例和业务接口,构建可持续培育的行业应用。
图片 · 短视频 · 语音 · 文档 · 台账 · 工单记录
视觉理解 · 对象定位 · 文本读取 · 语音转写 · 视频片段定位
对象身份 · 适用要求 · 历史事项 · 责任授权 · 证据覆盖 · 状态约束
检查卡 · 记录草稿 · 工单协同 · 整改对比 · 复查建议 · 学习案例
可采用视觉语言模型配合图片、文字资料和业务规则实现,语音转写按条件评估;对计数、读数或小目标定位有稳定精度要求时,再评估专门的检测组件。业务本体通过检索、结构化关系和规则校验参与推理,知识版本可独立维护。
图像理解、对象定位及视频片段理解已有可供验证的基础能力,参考 Qwen 官方视觉模型资料 ↗、图像理解文档 ↗与视频理解文档 ↗。这些资料说明技术候选,不代表在安洁场景已达到可用精度。
以中文现场识别、困难样本、部署条件、响应耗时和使用成本选型。企业知识优先检索增强;积累审核样本并证明必要后,再评估适配训练。生产动作需要有效权限、人员确认及接口成功回执,失败留待办,避免重复创建工单。
04 / 多模态如何进入本体
沿用现有业务核心,在材料与业务对象之间增加感知记录,让图片区域、视频时刻和语音片段都有可追溯的位置。
业务核心:14类概念组、23个实体、180项属性、38条关系。以下是独立的感知扩展设计,其实体与字段另列,保留原业务图的统计口径。
记录对象、现象、区域与可见程度,保留原材料定位。未拍到的区域继续待查。
结合确认的对象用途、检查要求和有效版本,提出隐患候选并解释适用条件。
宽度、应急功能、电气性能等按相应方法取得证据,由有职责人员判断。
05 / 参赛与落地
演示围绕“现场上传—识别追问—对象与规则匹配—工单草稿—整改对比—复核留痕”展开,逐步从设计进入真实模型与业务验证。
选取通道堆放、设施外观和充电区域等可见现象,建设审核样本,接入模型,验证定位、补问与工单草稿。
交付:可运行原型、业务标注集、失败案例与评测结果。扩展时间片段、同对象前后材料对照和历史事项关联;验证遮挡、相似位置、旧图及跨项目差异。
交付:可回看的对象时间线、逐项材料对照和复查建议。按接口条件接入任务和工单,记录确认、回执与异常;将审核纠错和使用反馈纳入版本维护。
交付:权限内业务协同、可审计记录与持续验证机制。对照同一多模态模型的直接识图、文档检索增强、本体与规则增强三种方案,统一输入、工具权限和预算;用人工基线衡量岗位价值。
所有效果指标均待实测。演示图不进入真实效果评测;正式样本按访问权限与用途处理,控制个人信息暴露,并保留来源和使用记录。
让现场看得见,让业务连得上,让处置有下文。