• Complex
  • Title
  • Keyword
  • Abstract
  • Scholars
  • Journal
  • ISSN
  • Conference
搜索

Author:

张钊 (张钊.) | 张新峰 (张新峰.) | 郑楠 (郑楠.) | 贵明俊 (贵明俊.)

Indexed by:

CQVIP PKU CSCD

Abstract:

随着互联网的飞速发展,需要处理的数据量不断增加,在互联网数据挖掘领域中传统的单机文本聚类算法无法满足海量数据处理的要求,针对在单机情况下,传统LDA算法无法分析处理大规模语料集的问题,提出基于MapReduce计算框架,采用Gibbs抽样方法的并行化LDA主题模型的建立方法。利用分布式计算框架MapReduce研究了LDA主题模型的并行化实现,并且考察了该并行计算程序的计算性能。通过对Hadoop并行计算与单机计算进行实验对比,发现该方法在处理大规模语料时,能够较大地提升算法的运行速度,并且随着集群节点数的增加,在加速比方面也有较好的表现。基于Hadoop平台并行化地实现LDA算法具有可行性,...

Keyword:

并行计算 Gibbs MapReduce LDA主题模型 中文分词 Hadoop

Author Community:

  • [ 1 ] 北京工业大学电子信息与控制工程学院
  • [ 2 ] 数字社区教育部工程研究中心
  • [ 3 ] 城市轨道交通北京实验室

Reprint Author's Address:

Email:

Show more details

Related Keywords:

Related Article:

Source :

计算机工程与科学

Year: 2016

Issue: 02

Volume: 38

Page: 231-239

Cited Count:

WoS CC Cited Count: 0

SCOPUS Cited Count:

ESI Highly Cited Papers on the List: 0 Unfold All

WanFang Cited Count:

Chinese Cited Count:

30 Days PV: 7

Online/Total:497/10526768
Address:BJUT Library(100 Pingleyuan,Chaoyang District,Beijing 100124, China Post Code:100124) Contact Us:010-67392185
Copyright:BJUT Library Technical Support:Beijing Aegean Software Co., Ltd.