基于Spark的大规模单图频繁子图算法
蒋来好1
朱志祥1
赵子晨2
1.西安邮电大学计算机学院 西安 7100612.陕西省信息化工程研究院 西安 710061
摘要：随着互联网的快速发展,校园一卡通得到了广泛的普及,进而服务器上的数据也在迅速增加.单机算法已无法支撑支持度较低的频繁子图挖掘和子图增长模式的挖掘.海量的单图频繁子图的数据挖掘已无法在单机上实现,现有的Hadoop分布式框架也并不适合迭代式算法运行.因此论文提出一种基于Spark的大规模单图频繁子图挖掘FSMBUS算法.通过次优树构建并行计算的候选子图,在给定最小支持度时挖掘出所有的频繁子图,实验结果表明,单图上最新的算法比FSMBUS的效率慢一个数量级,FSMBUS算法可支持更低的支持度阈值以及更大的图数据挖掘,比Hadoop移植版的效率快2~4倍,分析我校一卡通数据可帮助院校管理、领导决策提出可参照的依据.
关键词：校园卡Spark频繁子图分布式计算大规模单图
分类号：TP301(计算技术、计算机技术)
资助基金：陕西省重点研发计划项目(2016KTTSGY01-01)西安邮电大学教学改革研究项目(JGZ201615)
论文发表日期：2019-01-01
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：8( 2405-2412 )
英文信息