400-808-1701
首页 期刊 中国电子科学研究院学报 基于Hadoop、Spark及Flink大规模数据分析的性能评价(非官网)

基于Hadoop、Spark及Flink大规模数据分析的性能评价

摘要:针对目前缺少大型数据分析框架间的横向比较问题,使用有代表性的大数据工作负载,对Hadoop、Spark和Flink进行性能和可扩展性等因素的比较评价。此外,通过调整工作负载的一些主要参数,例如HDFS块大小、输入数据大小、互连网络或线程配置等,描述了这些框架的行为模式特征。实验结果分析表明,对于非排序的基准测试程序,使用Spark或Flink替代Hadoop,分别带来平均77%和70%执行时间的降低。整体上,Spark的性能结果最好;而Flink通过使用的显式迭代程序,极大提高了迭代算法的性能。

分类:期刊> 自然科学与工程技术> 信息科技> 无线电电子学

收录:统计源期刊(中国科技论文优秀期刊) > 知网收录(中) > 维普收录(中) > 万方收录(中) > 国家图书馆馆藏 > 上海图书馆馆藏

关键词:大数据 分析框架 基准测试程序 模型 

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社