伊克罗德荣获 Amazon EMR,惊喜突破 10 !

2020-05-25 11:06

Amazon EMR.png


伊克罗德于今年 5 月荣获 Amazon EMR 资质认证。这是伊克罗德荣获的第 10 张 Amazon Web Services 能力认证。


关于 Amazon EMR


Amazon Elastic MapReduce(Amazon EMR) 是一个托管集群平台,也是原生云大数据平台,可用于快速且经济高效地大规模处理海量数据,也可简化在 Amazon Web Services 上运行大数据框架(如 Apache Hadoop 和 Apache Spark)以处理和分析海量数据的操作。借助Apache Hive、Apache Spark、Apache Pig、Apache HBase、Apache Flink和Presto等开源工具,您可以处理用于分析目的的数据和商业智能工作负载。



Amazon EMR 都有哪些优势?



Amazon EMR 适用于哪些场景?


EMR 的适用场景主要包括对海量数据进行处理和分析,以获得更有价值的数据。





EMR架构图


伊克罗德基于Amazon EMR,可以为您做些什么?


1.简化部署

简化了您在Amazon Web Services 上部署大数据框架,您可以在任何时间、任何地点通过任何设备及时的访问数据报告和仪表盘,也减少您在部署和配置EMR集群花费的时间。


2.数据安全

数据安全很重要,伊克罗德可以协助您通过数据加密来保护静态数据、集群实例存储中的静态数据以及传输中的数据。


3.数据处理和分析

如何处理和分析海量数据也是很多企业非常重视的,伊克罗德数据团队在处理和分析海量数据方面也拥有丰富的经验,可以熟练结合 Amazon Web Services 的相关服务、工具以及功能为您提供有效的建议,提高数据处理和分析的速度,以便获得出色的数据价值。


以下是伊克罗德的一个客户案例,和大家分享一下,他们遇到的问题不知你们是否碰到过?又是如何解决的?


客户案例


某网络视频社交大厂要收集用户信息、Web 日志、点击流、打赏情况等信息,急切需要符合其需求的 EMR 集群。


客户面临的挑战

1. 业务量激增,地端工作负载难以满足。

2. 业务底层数据模型不统一,众多中间层孤岛,影响领导层决策,需要解决数据孤岛问题。

3. 快速增长的业务规模需要更加高效、准确和灵活的数据处理和分析能力。

4. 提供数据保护和安全。

5. 没有统一的数据分析平台,造成企业内部的信息壁垒,需要快速实现数据价值。

6. 海量数据收集和存储问题。


伊克罗德提供的解决方案


1. 基于 EMR 是托管集群平台,简化了您在Amazon Web Services 上部署大数据框架。

2. Amazon EMR 可根据计算需求变化灵活扩展或收缩集群。

3. 实施数据加密来帮助保护 Amazon S3 中的静态数据、集群实例存储中的静态数据以及传输中的数据。

4. 通过 Fluentd 集群获取日志数据,结合 Elasticsearch 进行全文本和结构化搜索以及分析,并使用 Kibana 以可视化数据。

5. 使用三方工具— PowerBI 进行更详细的分析,以便获得更出色的数据价值和见解以及可视化。


合作成果


1. 通过使用 EMR 集群,大大的减少了部署和配置 EMR 集群的时间,从5多个小时减少到30多分钟。

2. 通过用 S3 数据湖作为数据迁移的桥梁,极大的减少数据迁移、ETL 数据的时间,从20多个小时减少到了1.5小时。

3. 通过构建大数据框架,可以在任何时间、任何地点、任何设备,及时的访问数据报告和仪表盘。

4. 为生成标准的销售业绩的仪表盘,节省了约50% 的等待时间。

5. 提高数据处理和分析的速度,提高用户体验以及监控和优化成本。

6. 设定自动化部署和配置 EMR 集群,避免了无差别的人力劳动,也极大的避免了人工操作不当造成的失误和部署时间。