大数据系统开发中的构件自动选型与参数配置

摘要：

大数据应用系统包含数据的采集、存储、分析、挖掘、可视化等多个技术环节,各个环节都存在多种解决方案,涉及到的各类系统有数百种之多,且系统配置较为复杂,这给企业的大数据应用系统构建带来了极大的挑战.针对大数据应用系统开发中构件选型的难题,通过建立规范化的需求指标,并采用决策树模型实现了大数据构件的自动选型.从几个主流的分布式存储系统出发,以Cassandra为例,利用多元回归拟合的方法针对硬件参数建立相应的性能模型,将用户需求作为输入,利用性能模型进行系统硬件参数配置;通过研究系统原理、架构、特点及应用场景,构建软件参数配置知识库指导软件参数的配置,从而解决了大数据系统开发中的构件自动选型和参数配置问题.

关键词：大数据系统、构件选型、决策树模型、参数配置、性能模型

所属期刊栏目：10

分类号：TP391(计算技术、计算机技术)

在线出版日期：2016-11-04（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：1211-1220