金融知识幻觉类
高频高危模型输出违背金融合规的虚假信息,如声称理财产品保本,容易误导用户产生理财保本认知,引发资金纠纷与合规风险。

负责邮储「智慧小邮」AI 智能客服 SFT 数据全流程治理,通过场景化微调让模型适配银行业务规则与金融合规要求,解决业务幻觉、答非所问与多轮上下文遗忘等问题。
ANNOTATION FRAMEWORK
负责邮储「智慧小邮」AI 智能客服 SFT 数据全流程治理,通过场景化微调让模型适配银行业务规则与金融合规要求,解决业务幻觉、答非所问与多轮上下文遗忘等问题。
模型输出违背金融合规的虚假信息,如声称理财产品保本,容易误导用户产生理财保本认知,引发资金纠纷与合规风险。
核心业务流程认知错误,输出虚假操作路径,如声称预留手机号可线上修改,误导用户无效操作,是线上咨询最高频的投诉类问题。
多轮对话上下文遗忘,前后逻辑完全矛盾,如无法区分临时挂失与正式挂失的账户状态,是大模型多轮交互的典型缺陷。
混淆银行账户合规政策,场景精细化判断不足,话术不严谨,如混淆一类卡与二类卡的年费减免政策,容易引发服务纠纷。
DATA WORKFLOW
梳理线上真实用户会话,归纳金融客服 12 类高频错误,制定统一标准化的标注规则。
将银行业务知识和合规要求融入标注细则,重点校验多轮对话上下文连贯性与指令继承性,批量清理劣质样本。
对接算法、业务团队对齐判定口径,负责供应商培训、日常答疑和全程抽样质检。
定期汇总线上 Badcase,组织团队复盘迭代规则,持续优化数据质量。
PROJECT RESULTS
多轮对话样本标注一致性显著改善
覆盖金融客服核心场景的标注规则