Sony 索尼 是一家全球领先的电子和娱乐公司,其销售的产品包括平面彩电、数码相机、笔记本电脑、耳机、游戏机等,目前在国内的电子业务规模到已经达到50亿美元,总投资额已超过8亿美元,包括六家工厂在内,在国内共有大约一万名员工。
客户需求与挑战
伊克罗德信息提供的解决方案
1、快速构建基于 OpenSearch + 大语言模型的 RAG 知识库方案
2、定制化开发数据处理管道、多路召回功能模块与 B/C 端 UI 界面
3、帮助客户进行语料优化、提示词工程与搜索结果排序调优
4、构建统一 API 接口规范,协助完成与客户原有系统的对接
结果与收益
1、伊克罗德帮助客户用大量的问答数据做训练,实现了大语言模型和向量模型的优化,增加向量搜索+传统搜索多路召回功能,将原有的系统识别不出问题和答案进行重新识别和分析,优化后的系统搜索答案的准确率提高了 20% 左右,解决了客户初期测试遇到 80% 问题。
2、解决了客户语料数据导入系统格式错误以及内容显示问题,针对不规范的表格内容的问答进行优化。优化后的数据存储成本节省 50% 以上。
3、允许客户直接通过 API 整合知识库功能。降低人工座席介入比例 20% 以上。
4、伊克罗德帮助客户进行网络与Lambda层面的优化,大幅降低了用户访问Askture的延迟,同时在多个并发的场景下,Askture的平均请求响应时间缩短到7秒以内。
Sony 对Askture的使用
Sony在Askture的使用方式上,大致可以划分为以下角色跟流程:
首先,Sony会将使用Askture的用户划分为三类角色
1、知识库管理员:知识库管理员将会通过专用的管理平台进行知识库语料数据的清洗、上传以及资料库管理等操作,然后我们Askture方案目前支持的数据格式有 word、excel、ppt、pdf 等格式。
2、客户内部的售前、售后人员等其他人员:这类角色通过内部的搜索平台上发起提问进行查询 IT/HR 等企业内部的一些信息。搜索请求将会由API Gateway接收,传送到OpenSearch或Kendra向量知识库进行搜索。搜索返回的结果,会通过部署在Lambda上的LangChain进行提示词工程的处理,最后再由部署在SageMaker上的大语言模型最终产生答案,并返回给用户。
3、C端的客户与客服人员:在将客户原有的客服系统与我们的Askture方案融合之后,这类角色提出问题时将会先由Askture进行接管,在Askture遇到解答不了的问题时再引导客户接入人工客服,这样的话能够极大的简化客服流程,优化客服成本。
解决方案架构