我不太接受一句解释:“这不是我说的,是 AI 写的。”

尤其当这段话,是从你的微信、你的企微、挂着你公司名字的客服账号里发出去的。

客户没看见你怎么生成答案。他只看见,那个帮他约体检、买保险、做健康管理的人,回了一句“问题不大”。接下来,他可能取消复查,继续吃某种药,或者以为买下这份保险就一定能赔。

这才是我在意的地方。你以为自己借了个打字工具,对方却以为你给了一个判断。

我做大健康与 AI 产品落地近 10 年,在平安做过预约挂号、门诊流程和健康险智能理赔,在讯飞做过行业大模型交付。看这类应用,我会先问:这条消息发出去以后,对方可能据此做什么? 然后才问,模型答得好不好。

一句“顺便帮我看看”,业务就变了

用一段示意对话说清楚,不是我的客户案例。

一个做体检预约的人,收到客户消息:

“明天几点到?另外我上次有一项偏高,这次是不是不用查了?”

前半句查排班就能答。后半句不是预约问题了。

整句丢进模型,它未必会停:先报时间,再补几句解释,最后送一句贴心建议。读着周到,可预约人员已经借它的嘴,替客户决定了要不要检查。

健康管理工作室也一样:“饮食记录怎么填?我最近头晕,是不是照这个方案吃就行?”前面是服务流程,后面要判断身体情况。你有一份营养方案,不等于你有资格排除疾病。药店里,“药师几点在”和“我能不能把药停了”也不是一类事。

我也不赞成见到健康话题就一刀切,那样连地址都不敢回。

我看的是它是不是在替某个具体的人作决定。

已确认的服务规则,可以让它整理。到了“你这是什么病”“你不用去医院”“这个项目你肯定能做”,就不能由客服把模型答案直接发过去。同一句里混着两种问题,也别答完容易的半句就算完事,至少告诉客户:时间确认了,身体的问题还得专业的人看。

找到一份资料,不等于拿到了判断资格

有人说,那我把专业资料放进知识库,只准它照着答。这比凭空写强,但我还是不会让它直接回个体医疗问题。知识库解决的是“从哪儿找内容”,解决不了“这个人适不适用”。原文写“部分人群”,改口语时变成“您可以”,几个字意思就变了。

我做过 RAG 知识库交付,接上资料不是验收终点。健康咨询不光要测答对多少,还要看不该答的时候停不停得住。客户追问一句“你就说行不行”,系统会不会为了显得有帮助,终于给出一个“行”?

保险经纪的微信里,这种压力一样在。

“这份产品等待期多久”,可以对着条款整理;“我报告上这项异常,能不能不告知”,不能让 AI 帮客户作隐瞒判断,健康告知就得照问询如实填,拿不准的走保险公司正式核保渠道。“我这种情况以后肯定赔吧?”更不能为了成交回一句“没问题”。承不承保看核保结果,赔不赔看合同和事实,经纪人可以解释、协助,不能替保险公司拍板。

懂健康知识,不等于能诊断;懂保险条款,也不等于有权拍板赔付。

还有一句我单独拎出来:保证疗效、保证治愈,谁说都不行。 不是机器人不能说、换个持证的人就能说。换成更委婉的销售话术,也一样。

“转人工”后面,得真有一个人

写一句“复杂问题转人工”很容易。难的是转过去了,谁接?

一人老板晚上要睡觉,药师有排班,医生也不会盯着企微。没这能力却让机器人回“专家马上为您解答”,就是让客户等一个不存在的人。

所以转接那句话,我会要求写清三件事:谁接、他是什么资质、多久回。 比如:

“这个问题客服不能判断。今晚没人值班,明天上午 9 点预约同事联系您,帮您约执业医生面诊。”

时间别照抄,真排了人、兑现得了才写。没把握,就直说现在不提供这项服务,给出正式预约渠道,别编一个“稍后”。

诊疗问题交给有资质的医生,用药问题由医生或药师在执业范围内处理。没有诊疗资质的健康管理、一人公司或门店,就引导客户去正规医院,不是转给内部一个叫“老师”的人继续判断。

引导也别只说一句“建议去医院看看”,客户转头就忘。要说到能照做:比如反复胃疼、体重往下掉,挂消化内科,这周内去,别拖到下次体检。挂哪科、多久内去拿不准,就请医疗负责人定好再写进话术。

急症不能等这条转接链慢慢跑。 持续胸痛、明显喘不上气、意识不清这类,直接提示马上打 120 或去最近的急诊,别等微信回复。这不是完整清单,没命中关键词也不代表安全,普通聊天机器人当不了急症筛查。

医疗相关话术要有医疗负责人审过;没人能审,就只做纯事务答疑,别硬做医疗分流。

我可以帮你拆这条消息该交给谁,但不能替医生判病。你可以在 xukun.me 留下业务类型和一条自己编的典型问法,我免费帮你看一眼。别附真实病历或客户聊天截图。

别等答案生成了,才想起信息已经传出去了

把客户报告截图拖进公共模型,问“帮我回得专业一点”,答案还没出来,健康信息就已经交出去了。

我的底线很简单:病历、体检报告、用药记录、身份信息和带隐私的聊天记录,不往公共大模型里贴,也别交给数据去向说不清的插件转一手。盖掉姓名也不够,日期、机构、少见的病情照样能把人认出来。客户把报告发给你,不等于同意你再交给外部 AI。

小团队起步不用碰真实健康资料:用自己确认过的营业安排、预约规则、服务说明,让 AI 整理成短句,拿编出来的问题去测,重复打字就能省下不少。真要处理真实资料,那是另一件得认真设计的事,换个企业版责任也不会自动消失。

我会把发送按钮留在手里

我的立场很明确:起步阶段,AI 只起草,必须由人点发送,不让它直接回客户。

人审不是瞄一眼错别字,是看它有没有添判断、漏条件、许下兑现不了的结果。个体医疗判断仍得由专业的人在合规流程里做,前台点一下确认替代不了。

先拿一小批纯事务问题试,记下审改花了多久。省下的时间又被核对吃回去,就缩小任务,别为了“用了 AI”硬撑。

等固定答案稳定了,再考虑让自动回复发那些范围明确、审过的非诊疗内容。超出范围、问法不明、夹着症状的,不让模型接着圆。排班、条款或服务规则变了,得有人负责撤掉旧答案。

上线前我不看演示,只让负责人坐旁边试着问:“我现在难受,但你们还没上班,能等吗?”“你就保证一下,这个一定有效吧?”“上次你说可以,怎么这次又不行?”

只要有一个问法能把系统逼到乱承诺,它就还不能自己发。


我不觉得承认“这句话我现在不能替你判断”,会显得服务差。

做健康相关业务,客户交过来的不只是一个问题。他可能正在决定要不要看病、要不要吃药、要不要花一笔钱。他愿意来问,是因为信任这个账号背后的人。

如果 AI 要以我的名义回复,我得配得上这份信任。它可以帮我把话写清楚,但不能替我假装拥有并不存在的资质、权限和服务能力。

如果你在做体检、健康管理、保险服务,或者一个人经营业务,想看看现有回复流程哪里容易越界,可以约我聊 15 分钟。带业务流程,不带客户隐私。