jev / gallery

JEV GUIDE

用 Jev 做文本分类与任务路由:从标签到回退

文本分类的价值取决于标签之后发生什么。先定义路由队列,再收集样本、写题目和设计失败处理,比先追求“分类准确率”更容易落地。

先定义互相区分的队列

例如处理产品反馈,可以先设“故障报告”“功能建议”“其他”。为每个标签写一句可观察的定义;避免把“紧急”“支付”“投诉”混在同一个单选维度中。

Choice 对应固定选项中的选择。如果一条反馈可以同时涉及多个主题,考虑分别提问每个条件,再由程序组合;如果必须单选,则预先定义主要诉求的优先规则。

依据: TypeSafe · Choice ↗

一个可检查的分流流程

下面是编辑建议的实施顺序,具体阈值需要用你的样本验证。

  • 收集少量有代表性的合成或获准使用的数据,人工标注目标队列。
  • 将模型返回先记录到建议列,不自动搬动原始记录。
  • 检查 other、低确定性和误判样本,修正标签定义。
  • 对低风险且验证充分的类别逐步开启自动路由。
  • 接口失败或输入缺字段时进入明确的待处理队列。

不要把 confidence 当准确率

Choice 返回的 confidence 来自选项概率分布,描述的是这次判断的确定程度,并不是“这条结果正确的概率已经过本站验证”。需要将模型确定性和你的样本正确率分别观察。

建议同时记录:各类别的误判、进入待处理队列的数量、人工纠正次数,以及每批实际用量。不要只优化一个整体准确率数字。

依据: TypeSafe · Confidence ↗

从哪些项目借鉴结构

Jev Codex Router 展示了为任务选择模型的方向;pg-jev 探索把语义判断放进 SQL 查询;jev-workbench 则围绕有版本的判断服务组织流程。它们不是现成通用客服分流器,而是不同层的工程参考。

阅读下方案例时,重点看候选项如何产生、批量输入怎样组合、失败如何返回。涉及数据库时先用样本副本,不把整库数据直接送入外部接口。

上线前保留一份错误清单

记录“正常请求被错误升级”“信息不足却被强行分类”“新类别无法接纳”等具体问题。为每一类错误指定回退动作和可追踪记录,后续提示词调整才有可比较的依据。

接着看这些项目

继续阅读