这次我们来看 CIMPro 发布态里的 AI 助手怎么用。很多人在 CIMPro 里搭好画面、配好数据源辛辛苦苦发布出去后发现页面只能看不能“对话”。AI 助手这个功能是给发布态增加交互能力的用户直接在页面里通过自然语言问数据、查状态、下发指令不用再回到编辑态改脚本。先给结论如果只是在编辑器里拖一个 AI 助手组件那发布态里就能出现一个对话面板但真正能不能回答业务问题取决于你给助手配了哪些知识库、接入了哪些数据接口、有没有做权限控制。这篇文章按“规格确认 → 环境准备 → 启动部署 → 功能测试 → 接口批量 → 资源观察 → 排错 → 最佳实践”的顺序把 CIMPro 发布态 AI 助手的完整使用流程过一遍。先说明一下本文涉及的项目入口、菜单名称、接口地址会随 CIMPro 版本不同而变化。所有命令和配置均为通用模板实际落地时以你自己的工程文件和发布配置为准。1. CIMPro 发布态 AI 助手核心能力速览在动手之前先把 CIMPro 发布态 AI 助手能做什么、不能做什么看清楚。以下表格按通用 CIMPro 发布态能力整理具体参数需要在实际项目里确认。能力项说明项目类型工业组态 / 数字孪生 / 可视化大屏项目的发布态运行组件主要功能发布页面内嵌自然语言对话助手可查数据、控设备、问答知识库核心模块对话面板、知识库、数据接口接入、权限校验、日志审计启动方式项目发布后随页面加载后端服务按项目部署配置启动是否支持接口 API支持助手后端一般以 HTTP 接口形式暴露是否支持批量任务支持常见于批量问答测试、知识库批量导入、批量指令发送推荐硬件取决于模型部署方式云端 API 方案对本地硬件要求低显存占用取决于是否接入本地大模型纯规则问答和云端 API 场景占用很低支持平台Windows / Linux 均可主要看 CIMPro 发布环境和模型服务环境适用场景智慧园区、工业监控、能源管理、设备运维、大屏导览从能力速览能看出来这个功能的重点不在“聊天”而在“把对话能力接到你的业务数据上”。发布态 AI 助手能不能用核心看三层对话界面是否正常渲染、知识库是否被正确加载、业务数据接口是否被授权调用。2. 适用场景与使用边界2.1 适合谁用集成了大量页面、菜单、设备树的大屏项目。访客不知道在哪一页看数据AI 助手可以直接回答“当前厂区总用电量是多少”。运维巡检场景。现场人员打开发布页面通过对话查询设备状态不需要培训就能上手。需要对外演示的项目。给客户演示时直接让客户在页面上问问题比手动点页面更有展示效果。知识库密集型项目。比如把操作手册、故障处理流程、应急预案放进知识库助手自动回答。2.2 不适合什么场景实时性要求极高的控制指令。AI 助手适合低频、低风险的查询和指令下发如果是紧急停机、涉及安全联锁的操作不要依赖对话式 AI要走正经的按钮和 PLC 联锁。需要严格审计的操控链路。如果每一条指令都要留痕并被合规审计那 AI 助手必须配合完整的日志记录否则不建议直接开放写操作。没有数据接口支持的需求。助手只能回答你配置过的数据不能凭空回答“某个外部系统里是否存在某条记录”。2.3 使用边界与合规要求发布态 AI 助手一旦开放给真实用户就涉及三个边界数据权限必须收敛。AI 助手不能绕过页面权限查询未授权数据后端接口必须做鉴权。对话内容要留档。真实项目中建议保留对话日志尤其是涉及设备控制、参数修改的对话。涉及人脸、人员位置、敏感生产数据的场景必须确认授权范围并在部署前做数据脱敏。这里要着重提醒如果助手接入了本地大模型或云端大模型输入给模型的任何内容都等同于发送到了模型服务端。不能把未脱敏的身份证号、手机号、生产配方等敏感数据直接喂给外部模型。3. 环境准备与前置条件3.1 本次使用涉及的三个环境CIMPro 发布态 AI 助手要跑通通常涉及三个环境环境作用说明CIMPro 编辑态配置 AI 助手组件、绑定数据接口、发布项目一般在 Windows 上做工程配置发布态运行环境承载页面和 AI 助手前端可以是 Windows 服务器或 Linux 环境模型服务 / 问答服务提供对话理解能力可以是云端 API 或者本地部署的对话模型服务3.2 前置条件检查清单在开始配置前先检查以下内容CIMPro 工程是否能正常发布。先发布一个不包含 AI 助手的版本确认页面能跑起来。发布环境网络是否通畅。如果 AI 助手后端调用云端模型 API需要确认公网访问和 API Key 配置。是否准备好知识库文件。常见格式是 txt、pdf、docx、csv具体支持格式要按项目实际功能确认。是否准备好业务数据接口。助手回答“设备 A 温度是多少”后端需要有一个可查询的设备数据接口。端口是否被占用。发布态服务和模型服务如果部署在同一台机器需要注意端口规划。3.3 硬件和软件要求如果只接云端 AI API发布态所在服务器不需要独显普通 4 核 8G 内存的机器即可。如果要本地部署对话模型显存和内存就要根据模型大小评估。例如 7B 量化模型常见需要 6G 以上显存13B 模型建议 12G 以上显存但具体要以模型实际量化等级为准。磁盘空间至少预留 10G 以上用于存放发布文件、日志、知识库索引和模型缓存。操作系统建议使用 Windows Server 2019 以上或 Ubuntu 20.04 以上长期运行更稳。4. 安装部署与启动方式4.1 发布服务与 AI 助手后端CIMPro 项目发布后前端页面和 AI 助手面板会一起呈现。AI 助手能不能回答取决于后端服务是否在运行。发布态 AI 助手后端常见的启动方式有两种随 CIMPro 发布服务一起托管项目发布后自动注册 AI 助手接口。独立启动一个问答服务进程配置好地址后与前端页面联调。实际项目中用得比较多的是第二种因为模型服务往往需要单独部署、单独扩容、单独重启。下面给出一个独立问答服务的通用启动命令模板具体启动脚本以你项目生成的为准# 通用模板启动问答后端服务 # 请将命令中的项目路径、端口、模型服务地址替换为实际值 cd /opt/assistant-service python main.py \ --host 127.0.0.1 \ --port 8090 \ --model-api http://127.0.0.1:8000/v1/chat/completions \ --knowledge-dir ./knowledge_base如果是 Windows 环境cd /d D:\assistant-service python main.py --host 127.0.0.1 --port 8090这里的main.py、8090、knowledge_base都是示例你需要按项目实际工程文件替换。4.2 打开发布态 AI 助手面板后端服务启动后打开 CIMPro 发布态页面页面上会有一个浮动对话按钮。点击后弹出 AI 助手面板。如果点击按钮无反应先看浏览器控制台报错。常见报错是接口地址未配置或跨域被拦截。4.3 验证启动成功判断发布态 AI 助手是否正常启动可以分三步验证页面能正常打开AI 助手按钮在右下角或侧边栏渲染出来。打开“网络请求”面板看到/api/assistant/config之类的配置接口返回 200。在对话面板输入“你好”能得到一个基础回应说明前后端链路已经打通。如果第 3 步失败问题大概率在模型服务或问答服务配置。5. 功能测试与效果验证发布态 AI 助手的测试不能只测“能不能聊天”要按业务能力分维度测。下面给出一套通用测试矩阵。5.1 基础对话测试测试目的确认对话链路通不通。输入示例“你好”“你是谁”“你能做什么”操作步骤打开发布态页面进入 AI 助手面板。输入一句基础问候。观察返回内容。预期结果助手能正常回复不报错不转圈卡死。判断成功标准任意一句基础问候能返回内容。失败排查如果所有问题都无响应优先确认后端服务日志和模型 API 连通性。5.2 业务数据查询测试测试目的确认助手能通过对话查询业务数据。输入示例“3 号风机当前转速”“今天全厂总用电量”“1 号泵状态”操作步骤确认业务数据接口已接入助手。在对话面板输入一个设备查询问题。检查返回的数据是否与画面上的控件值一致。预期结果助手返回实时数据并说明数据来源时间。判断成功标准返回数据与页面同一数据源的值一致。失败排查返回“我不知道”时检查知识库是否收录该设备名称以及数据接口是否配置了对应字段。5.3 设备控制指令测试测试目的验证通过对话下发控制指令的链路是否可用。输入示例“打开一楼照明”“把 2 号阀开度调到 30%”操作步骤确认该设备支持写操作并且当前登录用户有权限。在对话面板下发指令。在设备列表或监控界面确认设备状态是否变化。预期结果设备状态按指令变化助手返回执行结果。判断成功标准设备实际状态发生变化且助手返回“执行成功”或对应失败提示。注意控制指令测试一定要在测试环境、带联锁保护的设备上进行。真实生产设备要按项目要求做二次确认和审计记录。5.4 知识库问答测试测试目的验证知识库是否正确加载。输入示例“设备故障后第一步怎么处理”“交接班流程是什么”操作步骤上传或导入知识库文件。等待索引任务完成。输入一个知识库覆盖范围内的问题。预期结果助手能给出知识库相关答案而不是泛泛而谈。判断成功标准答案内容能定位到知识库原文片段。失败排查如果回答内容明显不对先确认知识库是否成功导入。文本类知识库常见问题是分段太碎或字符编码不对。5.5 多轮会话与上下文测试测试目的验证助手在多轮对话中能否记住上下文。输入示例先问“3 号风机的在哪”再问“它的转速是多少”最后问“那一共有几台风机”操作步骤连续发送三个有关联的问题。检查后两个问题是否能正确指代前文的“3 号风机”。预期结果助手能区分“它”指的是 3 号风机并且第二次回答的数据正确。判断成功标准多轮对话中的指代关系正确。失败排查如果上下文丢失检查后端会话超时设置和对话历史轮数配置。5.6 极限输入测试测试目的验证长文本和特殊字符下的稳定性。输入示例一段超过 500 字的中文文本包含英文、数字、标点、换行。操作步骤把长文本粘贴到输入框。一次性发送。观察页面是否卡顿、后端是否报错。预期结果助手能处理长文本或友好提示超长。判断成功标准无页面崩溃能正常反馈。失败排查如果长文本请求超时调整后端请求超时时间和模型最大输入长度限制。6. 接口 API 与批量任务6.1 对话接口调用示例发布态 AI 助手的前端面板本质上是调后端 HTTP 接口。你可以打开浏览器开发者工具在“网络”面板里看到真实的接口路径。下面是一个通用对话接口的调用模板实际路径以项目接口文档为准。import requests # 请替换为你的发布态 AI 助手后端地址 url http://127.0.0.1:8090/api/assistant/chat payload { session_id: user-001, message: 3号风机转速是多少, user_id: tester, source: publish-page } headers { Content-Type: application/json, Authorization: Bearer your-token-here } response requests.post(url, jsonpayload, headersheaders, timeout30) print(response.status_code) print(response.json())预期响应结构类似{ code: 0, data: { reply: 3号风机当前转速为 1200 rpm数据更新时间2025-01-15 10:30:00, intent: query_device_status, source: business_api }, request_id: 1a2b3c4d }注意这个响应结构只是通用展示不同项目的字段名和层级可能不同。你要以项目实际接口返回为准。6.2 批量问答案例发布态 AI 助手在做验收测试或知识库质量评估时经常需要批量跑测试集。可以准备一个问题清单逐个调用对话接口。import requests import json import time # 批量问答测试脚本模板 chat_url http://127.0.0.1:8090/api/assistant/chat test_cases [ 3号风机转速是多少, 一楼温度多少, 如何查看历史报警 ] results [] for question in test_cases: payload { session_id: batch-test-01, message: question, user_id: batch-tester } try: resp requests.post(chat_url, jsonpayload, timeout30) result { question: question, status: resp.status_code, reply: resp.json().get(data, {}).get(reply, ) } except Exception as e: result { question: question, status: timeout, reply: str(e) } results.append(result) print(json.dumps(result, ensure_asciiFalse)) time.sleep(0.5) # 保存为 JSON 文件用于后续人工核验 with open(assistant_batch_result.json, w, encodingutf-8) as f: json.dump(results, f, ensure_asciiFalse, indent2)批量任务一定要做三件事加超时时间避免单个卡住的请求拖死整批。请求之间加间隔避免压垮模型服务。保存每个问题的原始回复方便追溯。6.3 知识库批量导入如果知识库文件很多不建议一个个在界面上传。常见方案是把知识库目录挂到后端配置里然后触发一次索引任务。{ knowledge_base: { import_dir: ./knowledge_base, index_mode: auto, chunk_size: 500, overlap: 50, watch: false } }把文件放到import_dir指定目录后调用后端的索引接口触发导入。具体接口路径要看项目文档。索引完成后对话查询才会命中这些知识。6.4 接口调用失败怎么办接口调用失败时先抓两类信息HTTP 状态码。响应体里的错误码和错误信息。常见返回错误401鉴权失败检查 token。404接口路径不对检查项目版本。500后端逻辑异常看服务日志。504上游模型服务或数据库查询超时。7. 资源占用与性能观察7.1 怎么看资源占用发布态 AI 助手在页面不打开对话面板时前端基本不吃资源。真正吃资源的是后端问答服务和模型服务。在 Linux 服务器上观察资源占用可以用# 查看问答服务 CPU 和内存 top -p $(pgrep -f main.py) # 查看显存占用如果部署了本地模型 nvidia-smi在 Windows 上可以直接打开任务管理器按“CPU”“内存”排序看对应进程的占用。7.2 性能瓶颈在哪里对话链路中最容易成为瓶颈的是三处模型服务本身。大模型推理速度直接决定响应时间。知识库检索。知识库文件多、分段不合理时检索会拖时间。业务数据接口。AI 助手调用的设备数据接口如果响应慢对话会跟着卡。如果你发现对话响应不稳定先用 curl 单独测每个环节的耗时# 测业务接口耗时 time curl -X GET http://127.0.0.1:8080/api/device/status?deviceIdf01 # 测模型接口耗时 time curl -X POST http://127.0.0.1:8000/v1/chat/completions \ -H Content-Type: application/json \ -d {model:qwen, messages:[{role:user,content:你好}]}哪个环节慢瓶颈就在哪个环节。7.3 如何降低资源占用模型方案优先选云端 API本地硬件压力最小。如果必须本地部署优先选 7B 或更小的量化模型。对话历史上下文限制短一点比如最多保留 10 轮。知识库分段不要太碎避免单次检索太多片段。发布态服务关闭不需要的调试日志日志写太多也占磁盘 IO。8. 常见问题与排查方法问题现象可能原因排查方式解决方案页面打开后 AI 助手按钮不显示组件未正确发布或版本不匹配检查编辑器里的 AI 组件配置重新发布工程确认组件已勾选点击按钮后对话面板打不开前端 JS 报错或接口 404打开浏览器 F12 看请求和报错检查助手后端服务是否启动、地址是否正确输入问题后一直转圈模型接口超时或后端异常看后端日志和模型服务状态增加超时时间检查模型 API 连通性助手回答“我不知道”问题不在知识库范围内确认问题的业务实体是否已建好补充知识库或绑定对应数据接口回答的数据和页面不一致接入了不同数据源核对助手接口和页面控件的数据源标识统一数据源标识和字段映射接口返回 401token 鉴权失败检查请求头 Authorization重新获取访问令牌批量任务有一部分失败请求并发过高或单条超时查看批量脚本的异常输出降低并发增加重试和超时本地模型推理很慢显存不足导致换入换出用 nvidia-smi 观察显存占用换更小模型或升级硬件发布态页面访问慢模型服务与页面同机部署资源争抢观察 CPU 占用把模型服务拆分到独立机器对话记录丢失会话未持久化检查会话存储配置启用数据库或 Redis 存储会话这里最容易被忽略的一点是发布态 AI 助手和编辑器里的 AI 助手配置不是强绑定关系。项目发布后如果你在后端改了知识库或接口配置有的版本需要重启问答服务才能生效。做配置更新时记得把“重启服务”当作正常步骤。9. 最佳实践与使用建议9.1 先做最小闭环第一次接入发布态 AI 助手时不要一口气把全部业务接口都接进去。先做一个最小闭环只配置一个知识库目录。只接一个业务数据接口。只测试一个设备查询问题。闭环跑通后再逐步增加业务范围。这样可以最快定位是配置问题还是代码问题。9.2 配置和素材分目录管理在一台服务器上长期跑发布态服务建议把目录结构固定下来/opt/assistant/ ├── app/ # 服务代码 ├── config/ # 配置文件 │ └── assistant.json ├── knowledge_base/ # 知识库原始文件 ├── logs/ # 运行日志 ├── data/ # 会话数据或索引数据 └── scripts/ # 批量任务脚本配置文件单独放的好处是升级服务代码时不需要动配置排查问题时日志、配置、知识库各归各不会找不到东西。9.3 权限控制要前置AI 助手是“对话式入口”它不能绕过权限系统。给不同用户分配不同对话能力是发布态上线前必须做的事。具体做法前端隐藏敏感操作入口只显示当前用户有权限的指令提示。后端对每一个“写操作”做二次鉴权不能只看前端会话。控制指令类对话建议增加“请确认执行”的二次确认流程。所有涉及设备控制的对话必须记录操作人、时间、指令内容和执行结果。9.4 发布前验收清单发布态 AI 助手上线前建议按下面的清单逐项过一遍[ ] 基础对话正常。[ ] 业务数据查询结果与页面一致。[ ] 知识库问题能回答到点子上。[ ] 控制类指令只在测试设备上验证过。[ ] API 鉴权和用户权限已配置。[ ] 日志已开启对话有留痕。[ ] 敏感数据已脱敏。[ ] 批量失败重试机制可用。[ ] 服务重启后状态自动恢复。[ ] 模型服务超时时间和令牌有效期已确认。9.5 数据合规提醒如果你的项目涉及真实设备数据、人员信息或生产参数在把数据喂给 AI 模型前先问自己三个问题这个数据可以发送到云端的模型服务吗用户知道自己的对话会被记录和分析吗这个数据接口有没有越权访问其他数据这三个问题只要有一个拿不准就不要急着接线上。先把模型服务放到内网环境或者改用规则引擎把识别不了的请求交给人工处理。10. 总结与下一步CIMPro 发布态 AI 助手最值得尝试的点是它把“自然语言查找数据”这件事直接做进了发布后的页面。用户不需要理解设备树、不需要知道数据报表在哪直接在对话面板里问一句就能拿到结果。这对于智慧园区、设备运维、大屏展示类项目确实比翻菜单效率高。第一次接入时优先验证三件事对话面板能不能正常打开、业务数据接口能不能被助手命中、知识库能不能给出有业务价值的回答。最常踩的坑也集中在这三处后端服务没启动导致面板打不开、数据源标识不一致导致回答结果和页面对不上、知识库导入失败导致助手只会泛泛而谈。后续扩展方向可以考虑接入本地模型做私有化离线问答、把批量问答测试接入 CI 流程做回归、把助手日志对接统一日志平台做审计。先把发布态 AI 助手的“最小闭环”跑通再往上面加业务这套体系就能稳定地服务你的项目了。
尧图网络