伊克罗德信息科技有限公司 - 南京伊克罗德信息科技有限公司

智问2.0-Ask MyScale

大模型快速发展，为什么需要 RAG？

微调模型通常是为特定场景/任务进行优化，达到一个比较好的效果。RAG 即使未经过优化，也能在不同场景/任务中有比较平衡的表现。

微调模型需要投喂特定的场景/任务相关的数据，才能生成答案。RAG 可以直接引用现有知识库中的内容。

微调模型以更新知识体系，需要大量的时间和算力。RAG 的知识库是即时更新的，有极高的数据实效性。

微调模型给出的答案无法解释，容易有幻觉问题。RAG 给出的回答有知识库中的文档支撑，可以溯源。

RAG 相比微调模型，可以以 0.1% 的成本，达成相近的效果。

MyScale是什么？

MyScale 是一个完备的 AI 数据库，它将向量搜索和存储能力整合到一个可扩展的 OLAP 数据库中，支持高效地存储和处理结构化和非结构化数据。旨在减少工程复杂性，同时确保 AI 应用的最佳性能。它的向量搜索算法提供了 10 倍于竞争对手的性能，并将内存消耗减少 75％。同时还提供完整的 SQL 支持和企业级安全性/访问控制集成。

MyScale的特性

快速向量搜索

成本效益高于最佳替代品3.7倍;
自研Multi-Scale Tree Graph（MSTG）算法;
高效可扩展filter search.

多模态数据管理

支持存储和管理多模态数据，包括各种结构和非结构化数据
支持跨模态检索
支持自然语言检索

数据安全

支持基于角色访问控制（RBAC）
支持渗透测试
通过SOC 2 Type I 认证

数据导入导出

支持从S3导入导出数据
支持从PostgreSQL数据库导入数据

伊克罗德信息&墨奇科技联合解决方案——Ask MyScale

Ask MyScale是一个以MyScale向量化AI数据库为核心的集中式的RAG方案。重点是MyScale的向量数据库，结合集成向量化以及结构化的数据存储和数据检索的能力，通过标准SQL可以进行查询，也可以用向量化的搜索进行查询。同时也提供高可观测性、实时监控、持续的性能优化等等特性。将向量数据库与基础大语言模型结合，打造全新的不同的知识检索的能力，能够真正让企业的陈旧数据发挥价值。对内降低人员的沟通和培养成本，对外实现AI客服的能力，旨在减少工程复杂性，同时确保 AI 应用的最佳性能。

Ask MyScale的基础架构

· Ask MyScale将整套 RAG 方案与单个向量数据库集群集成，可以确保数据的完整性、安全性和一致性。 · 通过存储记录的引用来减少数据冗余，提高数据访问和共享能力，并结合先进的访问控制。 · 这可以显著提高可靠性和质量，使整套 RAG 方案成为一个可以根据业务需求进行扩展的现代化服务。