大数据平台框架选型分析方案(图文)

   产品技术方案     2020-03-26     方案经理    534    0    
核心提示:大数据平台,首先是作为一个数据管理平台,核心需求是数据的存和取,然后因为海量数据、多数据类型的信息需要有丰富的数据接入能力和数据标准化处理能力,有了技术能力就需要纵深挖掘附加价值更好的服务,如信息统计、分析挖掘、全文检索等,考虑到面向的客户对象有的是上层的应用集成商,所以要考虑灵活的数据接口服务来支撑。
 

一、需求

城市大数据平台,首先是作为一个数据管理平台,核心需求是数据的存和取,然后因为海量数据、多数据类型的信息需要有丰富的数据接入能力和数据标准化处理能力,有了技术能力就需要纵深挖掘附加价值更好的服务,如信息统计、分析挖掘、全文检索等,考虑到面向的客户对象有的是上层的应用集成商,所以要考虑灵活的数据接口服务来支撑。

二、平台产品业务流程

三、选型思路

必要技术组件服务:

ETL > 非/关系数据仓储 > 大数据处理引擎 > 服务协调 > 分析BI > 平台监管

四、选型要求

1.需要满足我们平台的几大核心功能需求,子功能不设局限性。如不满足全部,需要对未满足的其它核心功能的开放使用服务支持。

2.国内外资料及社区尽量丰富,包括组件服务的成熟度流行度较高。

3.需要对选型平台自身所包含的核心功能有较为深入的理解,易用其API或基于源码开发。

4.商业服务性价比高,并有空间脱离第三方商业技术服务。

5.一些非功能性需求的条件标准清晰,如承载的集群节点、处理数据量及安全机制等。

五、选型需要考虑

简单性:

亲自试用大数据套件。这也就意味着:安装它,将它连接到你的Hadoop安装,集成你的不同接口(文件、数据库、B2B等等),并最终建模、部署、执行一些大数据作业。自己来了解使用大数据套件的容易程度——仅让某个提供商的顾问来为你展示它是如何工作是远远不够的。亲自做一个概念验证。

广泛性:

是否该大数据套件支持广泛使用的开源标准——不只是Hadoop和它的生态系统,还有通过SOAP和REST web服务的数据集成等等。它是否开源,并能根据你的特定问题易于改变或扩展?是否存在一个含有文档、论坛、博客和交流会的大社区?

特性:

是否支持所有需要的特性?Hadoop的发行版本(如果你已经使用了某一个)?你想要使用的Hadoop生态系统的所有部分?你想要集成的所有接口、技术、产品?请注意过多的特性可能会大大增加复杂性和费用。所以请查证你是否真正需要一个非常重量级的解决方案。

是否你真的需要它的所有特性?

陷阱:请注意某些陷阱。某些大数据套件采用数据驱动的付费方式(“数据税”),也就是说,你得为自己处理的每个数据行付费。因为我们是在谈论大数据,所以这会变得非常昂贵。

并不是所有的大数据套件都会生成本地Apache Hadoop代码,通常要在每个Hadoop集群的服务器上安装一个私有引擎,而这样就会解除对于软件提供商的独立性。还要考虑你使用大数据套件真正想做的事情。

某些解决方案仅支持将Hadoop用于ETL来填充数据至数据仓库,而其他一些解决方案还提供了诸如后处理、转换或Hadoop集群上的大数据分析。ETL仅是Apache Hadoop和其生态系统的一种使用情形。

六、方案分析

--结束END--

有问题投稿请发送至: 邮箱/3107232748@qq.com    QQ/3107232748

本文标题: 大数据平台框架选型分析方案(图文)

本文链接: https://www.fangan100.com/fangan/1238.html (转载时请保留)

阅读更多
 
标签: 大数据
觉得有帮助,鼓励TA抓紧创作!
赞赏

 
 
加入方案圈子
扫管理员微信号
推荐图文
点击排行