Indexed by：
Abstract：
随着计算机和网络技术的迅猛发展以及数据获取手段的不断丰富,海量数据的实时处理需求日益增多,传统的日志分析技术在处理海量数据时存在计算瓶颈.大数据时代下,随着开放式处理平台的发展,能够处理大规模且多样化数据的大数据处理系统应运而生.为了让原有的业务能够充分利用Hadoop的优势,本文首先研究了基于大数据技术的网络日志分析方法,构建了网络日志分析平台以实现万亿级日志采集、解析、存储和高效、灵活的查询与计算.对比分析了Hive、Impala和Spark SQL这3种具有代表性的SQL-on-Hadoop查询系统实例,并展示了这类系统的性能特点.采用TPC-H测试基准对它们的决策支持能力进行测试及评估,通过对实验数据的分析和解释得到了若干有益的结论.实现了海量日志数据计算与分析在证券领域的几种典型应用,为进一步的研究工作奠定了基础.
Keyword：
Reprint Author's Address：
Email：
Source ：
智能系统学报
ISSN： 1673-4785
Year： 2017
Issue： 5
Volume： 12
Page： 717-728
Cited Count：
WoS CC Cited Count： 0
SCOPUS Cited Count：
ESI Highly Cited Papers on the List： 0 Unfold All
WanFang Cited Count： 8
Chinese Cited Count：
30 Days PV： 15
Affiliated Colleges：
