• Complex
  • Title
  • Keyword
  • Abstract
  • Scholars
  • Journal
  • ISSN
  • Conference
搜索

Author:

廖湖声 (廖湖声.) (Scholars:廖湖声) | 黄珊珊 (黄珊珊.) | 徐俊刚 (徐俊刚.) | 刘仁峰 (刘仁峰.)

Indexed by:

CQVIP PKU CSCD

Abstract:

近年来,随着大数据时代的到来,大数据处理平台发展迅速,产生了诸如Hadoop,Spark,Storm等优秀的大数据处理平台,其中Spark最为突出。随着Spark在国内外的广泛应用,其许多性能问题尚待解决。由于Spark底层的执行机制极为复杂,用户很难找到其性能瓶颈,更不要说进一步的优化。针对以上问题,从开发原则优化、内存优化、配置参数优化、调度优化、Shuffle过程优化5个方面对目前国内外的Spark优化技术进行总结和分析。最后,总结了目前Spark优化技术新的核心问题,并提出了未来的主要研究方向。

Keyword:

内存优化 调度优化 开发原则优化 Shuffle过程优化 参数优化 Spark

Author Community:

  • [ 1 ] 北京工业大学信息学部
  • [ 2 ] 中国科学院大学计算机与控制学院

Reprint Author's Address:

Email:

Show more details

Related Keywords:

Source :

计算机科学

Year: 2018

Issue: 07

Volume: 45

Page: 7-15,37

Cited Count:

WoS CC Cited Count: 0

SCOPUS Cited Count:

ESI Highly Cited Papers on the List: 0 Unfold All

WanFang Cited Count:

Chinese Cited Count:

30 Days PV: 15

Online/Total:263/10504954
Address:BJUT Library(100 Pingleyuan,Chaoyang District,Beijing 100124, China Post Code:100124) Contact Us:010-67392185
Copyright:BJUT Library Technical Support:Beijing Aegean Software Co., Ltd.