返回所有案例
三诺生物
医疗健康

三诺生物使用 Sealos 加速 AI 创新,构建慢病健康普惠新路径

Swipe left and right to view key metrics
20%
客服效率提升
50%
资源成本降低
10倍
开发效率提升

我们现在的技术栈是 Sealos + 云开发 + FastGPT 的组合,这套方案既能通过 FastGPT 的流程编排降低开发门槛,又能用云开发实现定制化业务逻辑。比如最近客服希望 AI 收到的催发货的信息能发到企微,从需求提出到上线只用了 3 天。

张依奔
三诺算法工程师

关于三诺生物

三诺公司总部大楼

三诺公司总部大楼

三诺是一家利用生物传感技术,针对慢性疾病患者和医疗健康专业人员,研发、生产、销售一系列快速诊断检测慢性疾病产品,并提供相关专业服务和糖尿病数字健康管理的高新技术企业;致力于为全球糖尿病及相关慢性疾病的人们提供创新、优质的产品和服务,帮助他们提高生活质量。

作为国内血糖监测领域的领军企业,三诺始终将创新作为企业发展的核心驱动力。随着 AI 技术的兴起,三诺敏锐地意识到 AI 在慢病管理、智能客服等领域的巨大潜力,并成立了专门的 AI 探索小组,积极探索 AI 技术的应用。

面临挑战

三诺的 AI 探索小组最初聚焦于 AI 客服场景,希望通过 AI 技术提升客服效率,降低人力成本,改善用户体验。然而,在实际开发过程中,他们遇到了诸多挑战:

  • 大模型幻觉问题:大模型输出不稳定,经常出现 “一本正经地胡说八道” 的情况,导致客服质量难以保证。
  • 开发部署复杂:传统 AI 开发流程繁琐,需要编写大量代码,配置复杂环境,部署和运维难度大。
  • 资源成本高昂:AI 模型训练和推理需要大量的计算资源,传统模式下资源利用率低,成本居高不下。
  • 团队协作困难:AI 探索小组的成员并非都是专业的算法工程师,传统开发模式下,团队协作效率低,难以快速迭代。

我们之前的技术路径受限于 Langchain 框架,只有具备编程能力的团队成员才能做,而且在实际应用中我们发现,大模型直接输出存在 “幻觉” 现象,因为他经常说一些不着边际的话,就是一本正经地胡说八道,这种 AI 输出与业务需求脱节的问题,实际上是当前行业普遍面临的挑战。

为什么选择 Sealos?

Sealos 云操作系统

Sealos 云操作系统

为了解决上述问题,三诺开始寻找更高效、更便捷的 AI 开发解决方案。在对比了多种方案后,他们最终选择了 Sealos。Sealos 之所以能够脱颖而出,主要得益于以下几个方面的优势:

  1. 简化开发流程:Sealos 提供了云开发和 Devbox 等工具,极大地简化了 AI 应用的开发流程。云开发允许开发者无需关心底层基础设施,只需编写业务逻辑代码即可快速部署应用。Sealos 团队的另一款产品 FastGPT 则提供了强大的 AI 编排能力,帮助开发者轻松构建复杂的 AI 应用。
  2. 弹性资源调度:Sealos 基于 Kubernetes 构建,具备强大的容器编排和资源调度能力,可以根据 AI 应用的实际需求自动调整计算资源,确保应用在高峰期也能稳定运行。
  3. 高可用性保障:Sealos 的容器化架构和 Kubernetes 的自愈机制,保证了 AI 应用的高可用性。即使出现故障,系统也能自动恢复,最大限度地减少服务中断时间。
  4. 与阿里深度合作:Sealos 与阿里云深度合作,底层基础设施跑在阿里云上,数据安全性和稳定性得到了充分保障。

实施过程

在选择了 Sealos 之后,三诺的 AI 探索小组迅速开始了 AI 客服的开发和部署工作,完整技术路径可分为两个阶段:

第一阶段:技术验证

  • 使用 FastGPT 的 UI 界面进行内部测试,快速验证 AI 客服核心功能
  • 通过可视化编排实现:用户问题分类 → 知识库检索 → 大模型核验 → 结构化输出 → 人工抽查的完整流程
  • 重点解决大模型 “幻觉” 问题:大模型只负责幕后任务,最终输出仍为客服审核过的话术和图片视频素材,杜绝捏造、错误引导、乱开药、乱诊断等问题

三诺利用 FastGPT 构建的 AI 客服技术验证流程图,展示了问题分类、知识库检索到人工审核的步骤

三诺利用 FastGPT 构建的 AI 客服技术验证流程图,展示了问题分类、知识库检索到人工审核的步骤

第二阶段:生产部署

  1. 技术栈组合

    • Sealos:采用 Sealos 云操作系统作为基础平台
    • Sealos 云开发:开发灰度调度、消息解析、记忆缓存、异常状态监测、Ican 平台 API 接入等定制功能模块
    • FastGPT:通过 API 对接三诺 APP 和 CRM 系统,日均服务 56 千位用户,处理 23 万次对话
  2. 关键优化措施

    • 在 FastGPT 流程中增加双重校验机制:
      • 第一层:基于规则引擎的关键词过滤
      • 第二层:人工审核样本的持续学习
    • 采用 Sealos 弹性伸缩策略,应对早晚高峰流量波动 (峰值 QPS 从 15 提升到 45)

我们现在的技术栈是 Sealos + 云开发 + FastGPT 的组合,这套方案既能通过 FastGPT 的流程编排降低开发门槛,又能用云开发实现定制化业务逻辑。比如最近客服希望 AI 收到的催发货的信息能发到企微,从需求提出到上线只用了 3 天。

三诺 AI 客服采用 Sealos、云开发与 FastGPT 组合的技术栈架构

三诺 AI 客服采用 Sealos、云开发与 FastGPT 组合的技术栈架构

效率提升 20%,成本降低 50%

通过使用 Sealos,三诺的 AI 客服开发取得了显著成效:

  • 客服效率提升:灰度测试中,AI 客服能够一次性解决约 20% 的用户问题,显著降低了人工客服的工作量。
  • 开发效率提升:开发周期从原来的几天缩短到几分钟,实现了 “一天和一分钟的区别”。
  • 资源成本降低:IT 硬件资源成本降低了 50% 以上。
  • 团队协作改善:非专业开发人员也能参与 AI 应用的开发和维护,团队协作效率大幅提升。

未来展望

三诺计划未来将 Sealos 应用于更多的 AI 场景,并积极探索更多技术合作:

  • GPU 资源需求:Sealos 接下来会上线独立的 GPU 可用区,以满足三诺在 AI 模型训练和推理方面的需求。GPU 资源将支持直接运行模型、使用 Docker 镜像部署大语言模型以及微调训练等多种使用场景。同时,Sealos 还将提供完善的 GPU 资源管理工具,帮助企业更好地管理和优化 GPU 资源的使用。
  • 异地多中心架构:针对数据库异地备份需求,Sealos 团队将邀请数据库专家与三诺团队一起进行配置。虽然配置过程较为复杂,但通过持续增量迁移功能可以实现异地多中心架构,从而提高数据容灾能力和系统高可用性。
  • 拓展 AI 应用场景:三诺的终极目标是实现 AI 医疗,计划将 AI 做成智能体,从当前的客服场景逐步拓展至:
    • 健康管理师角色:协助进行医疗监管工作
    • 医生助手角色:辅助医生诊断和治疗
    • 多渠道覆盖:包括医院、ToB 等不同场景
    • 智能慢病管理:利用 AI 提供智能化的慢病管理服务
  • 规模化部署:三诺计划在本月开启大规模试运行,重点关注:
    • 服务器稳定性保障
    • 高峰期资源调配
    • 用户规模扩展 (预计 APP 日活用户将增长三倍)

总结

作为医疗行业数字化转型的标杆企业,三诺的智能客服经历了从大模型 “答非所问” 到日均处理 2~3 万次对话的跨越式发展,随着三诺 2 代 CGM 产品上市,未来预计日均处理 5~6 万次对话。

当看到客服人员从重复劳动中解放出来,转而处理更有价值的服务及慢病沟通时,我们更加确信:好的技术方案不该让企业 “削足适履”,而要让业务 “如虎添翼”。

三诺生物使用 Sealos 加速 AI 创新,构建慢病健康普惠新路径

一个集本地开发、线上测试、打包上线为一体的云操作系统
服务条款隐私政策Cookie 政策
|
Copyright © 2024 Sealos. 粤ICP备2023048773号 珠海环界云计算有限公司版权所有
TwitterYouTube