【客户案例】亚马逊云科技案例研究: IOST AI LABS

2023-07-13 15:53

“亚马逊云科技所提供的一系列服务,让生成式人工智能应用的开发变得更加便捷,在这样的服务上进行构建,可以让我们持续推动 AI 与区块链的结合,在 Web3.0 生态中提供更多高质量的优秀应用。”

——William Wang (IOST AI LABS 负责人)

关于 IOST AI LABS

IOST AI LABS 由 IOST 在2023年4月25日创立,旨在推动 IOST 全球开发者之间的协同合作,共同构建 N+1区块链创新生态同盟,探索区块链 + AI 赋能 Web3.0 智能化创新发展的未来。实验室团队主要由 AI 算法及大语言模型(Large Language Models,LLMs)领域的资深研究专家和 IOST 核心技术开发人员组成。


业务需求与挑战

为促进 IOST 全球开发者之间的协同合作,IOST AI LABS 分列组建了多个“专项测试研发团队”,支撑开展对大规模密集型计算、大数据训练、标准化服务模式、环境状态感知、计算机视听觉测试、生物特征识别、人机交互模式、机器翻译等方向的研究开发,进而建设一站式数字化、智能化新型 AI 应用创新平台,并形成相关专利软著、行业标准及产品范式。不仅如此,IOST AI LABS 也将助力 IOST 的 AI 子链 —— AI Native 链生态建设的不断完善,并联合全球合作伙伴在链上协同开发算力系统、环境部署、数据训练、算法的迁移和优化等技术服务,为企业的数字化转型、智能化升级、融合化创新提供更加便捷、安全的“AI 赋能新引擎”。

“我们所关注的重点是 IOST AI 子链的搭建与完善,以吸引更多需要‘区块链+’赋能与‘AI+’增效的项目、团队加入到 IOST 的生态中,并打造‘人工智能即服务’模式,为用户提供一个简单易用、高效率、全流程的一站式 AI 服务平台。”IOST AI LABS 负责人 William Wang说,“AI 领域的竞争也变得愈加激烈,因此我们更需要找到一个合适的伙伴,基于强大的云服务来完成构建。”

为什么选择亚马逊云科技(Amazon Web Services)

基于自身的业务发展需求,IOST AI LABS 在成立伊始就选择了亚马逊云科技,并选择亚马逊云科技合作伙伴伊克罗德为构建人工智能相关服务与应用提供支持。之所以做出这样的决策,在 IOST AI LABS 看来,亚马逊云科技与其他云服务提供商相比具备以下优势:


面向人工智能应用提供优化与良好的性价比

过去数年中 IOST 已经借助亚马逊云科技的全球基础设施面向世界各地的用户提供多种 Web3.0 应用。在 IOST AI LABS 成立后,团队也坚信可以在亚马逊云科技上将 Web3.0 与人工智能进行深度融合。在人工智能优化方面,Amazon Inferentia2 加速器在性能和功能方面提供了显著的飞跃。与前代相比,Amazon Inferentia2 的吞吐量提高了 4 倍,延迟低至前者的 1/10。IOST AI LABS 采用基于 Amazon Inferentia2 的 Amazon Elastic Compute Cloud(Amazon EC2) Inf2 实例能够为 DL 推理和生成式人工智能应用程序提供更高的性能,并消耗更低的成本。并且 Amazon EC2 Inf2 实例经过优化,能够满足例如大型语言模型 (LLM) 和视觉转换器等复杂模型的大规模部署需求。


提供从基础模型构建到托管机器学习解决方案的丰富服务

亚马逊云科技在人工智能领域不断加大投入并将创新服务提供给用户。全新推出的 Amazon Bedrock 允许用户通过 API 访问来自 AI21 Labs、Anthropic、Stability 与亚马逊云科技的基础模型。在 IOST AI LABS 看来,Amazon Bedrock 是使用基础模型构建和扩展生成式人工智能应用的简单方式,能够极大的降低前期开发门槛。“Amazon Bedrock 能够针对特定任务微调模型,无需标注大量数据,我们目前正将系列 AI 产品、服务的相关描述同步到 Amazon Bedrock,之后它能够自动为这些产品、服务生成各类有效内容,非常的便捷。” William Wang 谈到。在机器学习方面,Amazon SageMaker Studio 为 IOST AI LABS 提供了一个基于 Web 的单一视觉界面,让实验室可以在其中执行所有机器学习开发步骤,并且对于构建、训练和部署模型所需的每个步骤都提供了完整的访问、控制权和可见性,让 IOST AI LABS 能够在各个步骤之间快速移动,加速机器学习的效率。


经验成熟的合作伙伴提供从技术到商务上的支持

在 IOST AI LABS 看来,机器学习与人工智能的应用具有前期投入大,算力要求高以及算法模型众多难以选择等问题。在探索人工智能应用的过程中,如果有专业的合作伙伴支持,则可以减轻团队在研发上的成本和时间,也能够让应用的架构更加完善。伊克罗德在 Web3.0 以及 AIGC 上的丰富客户服务经验成为 IOST AI LABS 选择其作为服务合作伙伴的重要原因。“伊克罗德所提供的基于文字生成图像的 AIGC 解决方案已经在亚马逊云科技 Marketplace 上架,并且也有国际化的视野与经验,这些经验和专业的服务在生成式 AI 产品以及服务的集成开发方面,为我们提供了非常大的帮助,极大的缩短了我们预期运营的时间,加速服务的上线。一系列的商务支持也帮助我们节约了在 AIGC 场景中探索的成本。” William Wang说。

获得的成效

借助亚马逊云科技的全球基础设施与伊克罗德所提供的专业技术服务,IOST AI LABS在探索生成式人工智能与区块链应用结合的过程中,简化了开发难度,快速将服务投入市场,收获多方面成效:

首先是大幅缩短了模型的训练时间并借助生成式人工智能提升数字资产创作效率。IOST AI LABS 在伊克罗德的协助下采用 Amazon EC2 Trn1 实例将训练最大规模的深度学习模型所需的时间从几个月缩短到几周甚至几天,极大降低了人工智能相关产品及服务的开发、搭建、运维成本。IOST AI LABS 也尝试通过利用 Amazon EC2 Inf2 将部分模型的吞吐量提升至原来的 3 至 4 倍,在 AI 创新的过程中进一步提升效率。在应用层创新上,通过将生成式人工智能与数字资产结合,IOST AI LABS 也将原来需要数周处理的原画创作缩短至数小时,结合上链与确权,为版权合作方提供更高效的发行体验。目前 IOST AI LABS 已经基于 Amazon SageMaker 、AI 大模型与生成式人工智能云基础设施(Amazon EC2 Trn1n 和 Amazon EC2 Inf2),完成了涉及数字资产生成、定制模型、机器学习、智能音视频处理以及链游、DeFi 等诸多领域的内外部应用测试、开发及部署。

在亚马逊云科技的持续赋能下,IOST AI LABS 成功搭建了区块链与人工智能相结合的基础数据平台,实现了区块链技术和 AI 技术的多维度、深层次融合,完成了系列 AI 产品在绘图创作、视频、设计等层面的相关概念验证与演示。与此同时,IOST AI LABS 也借助亚马逊云科技的服务进一步完善了区块链 + AI 的基础设施建设与系统运作模式,对部分产品、服务的多云支持、多链支持效果进行了多次集成开发与测试,使其不仅能够服务于 IOST 自身的业务,也能够在完成最终的公共测试后,IOST AI LABS 将正式面向 C 端与 B 端的用户推出系列 IOST AI 产品及服务,让 AI 成为服务 IOST 业务发展的新动力。

此外,伊克罗德秉持以客户为中心的服务理念,在商务层面上通过专业的服务与云成本优化能力,帮助 IOST AI LABS 实现了整体的成本节约。“伊克罗德的费用优化计划作为一项免费的增值服务,让我们在云成本管理方面获得了更多的洞察力,尤其是在机器学习与模型训练相关的成本控制上,得益于伊克罗德专业服务,我们可以了解到最新的亚马逊云科技优惠计划,并通过预留实例在实现成本节约的同时满足我们对算力的需求。” William Wang谈到。


采用的亚马逊云科技服务

  • Amazon EC2

    Amazon Elastic Compute Cloud(Amazon EC2)提供最广泛、最深入的计算平台,拥有超过 500 个实例,可选择最新的处理器、存储、网络、操作系统和购买模型,以帮助您最好地满足工作负载的需求。

  • Amazon Bedrock

    Amazon Bedrock 是一项完全托管服务,可通过 API 提供来自领先的 AI 初创公司和 Amazon 的 FM,因此您可以从各种 FM 中进行选择,找到最适合您的使用案例的模型

  • Amazon SageMaker

    Amazon SageMaker 通过完全托管的基础设施、工具和工作流程为任何用例构建、训练和部署机器学习 (ML) 模型。


为什么使用亚马逊云科技?

  • 面向人工智能应用提供优化与良好的性价比

  • 提供从基础模型构建到托管机器学习解决方案的丰富服务

  • 经验成熟的合作伙伴提供从技术到商务上的支持


未来展望

展望未来,IOST AI LABS 将与亚马逊云科技以及伊克罗德继续加深合作,基于 Amazon SageMaker、AI 大模型与生成式 AI 云基础设施,联合探索运用区块链、AI 等实现技术创新,推动 IOST AI 子链的构建与完善,并持续加速 IOST 链上生成式 AI 相关产品及服务的开发与集成,为用户提供安全、可靠、稳定的 Web3.0 应用体验。


云与应用现代化
——
扫描关注微信公众号
获取更多云端资讯
联系我们
——

模板表单-2(1)

  • 姓名*

  • 电话*

  • 邮箱*

  • 公司*

  • 职称*

  • 地址*

  • 需求*