文档视界 最新最全的文档下载
当前位置:文档视界 › 数据挖掘考试题库

数据挖掘考试题库

数据挖掘考试题库
数据挖掘考试题库

一、填空题

1.Web挖掘可分为、和3大类。

2.数据仓库需要统一数据源,包括统一、统一、统一和统一数据特征

4个方面。

3.数据分割通常按时间、、、以及组合方法进行。

4.噪声数据处理的方法主要有、和。

5.数值归约的常用方法有、、、和对数模型等。

6.评价关联规则的2个主要指标是和。

7.多维数据集通常采用或雪花型架构,以表为中心,连接多个表。

8.决策树是用作为结点,用作为分支的树结构。

9.关联可分为简单关联、和。

10.B P神经网络的作用函数通常为区间的。

11.数据挖掘的过程主要包括确定业务对象、、、及知识同化等几个步

骤。

12.数据挖掘技术主要涉及、和3个技术领域。

13.数据挖掘的主要功能包括、、、、趋势分析、孤立点分析和偏

差分析7个方面。

14.人工神经网络具有和等特点,其结构模型包括、和自组织网络

3种。

15.数据仓库数据的4个基本特征是、、非易失、随时间变化。

16.数据仓库的数据通常划分为、、和等几个级别。

17.数据预处理的主要内容(方法)包括、、和数据归约等。

18.平滑分箱数据的方法主要有、和。

19.数据挖掘发现知识的类型主要有广义知识、、、和偏差型知识五种。

20.O LAP的数据组织方式主要有和两种。

21.常见的OLAP多维数据分析包括、、和旋转等操作。

22.传统的决策支持系统是以和驱动,而新决策支持系统则是以、建

立在和技术之上。

23.O LAP的数据组织方式主要有和2种。

24.S QL Server2000的OLAP组件叫,OLAP操作窗口叫。

25.B P神经网络由、以及一或多个结点组成。

26.遗传算法包括、、3个基本算子。

27.聚类分析的数据通常可分为区间标度变量、、、、序数型以及混合

类型等。

28.聚类分析中最常用的距离计算公式有、、等。

29.基于划分的聚类算法有和。

31.简单地说,数据挖掘就是从中挖掘的过程。

32.数据挖掘相关的名称还有、、等。

二、判断题

( )1.数据仓库的数据量越大,其应用价值也越大。

( )2.啤酒与尿布的故事是聚类分析的典型实例。

( )3.等深分箱法使每个箱子的记录个数相同。

( )4.数据仓库“粒度”越细,记录数越少。

( )5.数据立方体由3维构成,Z轴表示事实数据。

( )6.决策树方法通常用于关联规则挖掘。

( )7.ID3算法是决策树方法的早期代表。

( )8.C4.5是一种典型的关联规则挖掘算法。

( )9.回归分析通常用于挖掘关联规则。

( )10.人工神经网络特别适合解决多参数大复杂度问题。

( )11.概念关系分析是文本挖掘所独有的。

( )12.可信度是对关联规则的准确度的衡量。

( )13.孤立点在数据挖掘时总是被视为异常、无用数据而丢弃。

( )14.SQL Server 2000不提供关联规则挖掘算法。

( )15.Clementine是IBM公司的专业级数据挖掘软件。

( )16.决策树方法特别适合于处理数值型数据。

( )17.数据仓库的数据为历史数据,从来不需要更新。

( )18.等宽分箱法使每个箱子的取值区间相同。

( )19.数据立方体是广义知识发现的方法和技术之一。

( )20.数据立方体的其中一维用于记录事实数据。

( )21.决策树通常用于分类与预测。

( )22.Apriori算法是一种典型的关联规则挖掘算法。

( )23.支持度是衡量关联规则重要性的一个指标。

( )24.SQL Server 2000集成了OLAP,但不具有数据挖掘功能。

( )25.人工神经网络常用于分类与预测。

三、名词解释

1.数据仓库:是一种新的数据处理体系结构,是面向主题的、集成的、不可更新

的(稳定性)、随时间不断变化(不同时间)的数据集合,为企业决策支持系统提供所需的集成信息。

2.孤立点:指数据库中包含的一些与数据的一般行为或模型不一致的异常数据。

3.OLAP:OLAP是在OLTP的基础上发展起来的,以数据仓库为基础的数据分析处

理,是共享多维信息的快速分析,是被专门设计用于支持复杂的分析操作,侧重对分析人员和高层管理人员的决策支持。

放在数据仓库中的数据量的大小,同时影响数据仓库所能回答查询问题的细节程度。

5.数据规范化:指将数据按比例缩放(如更换大单位),使之落入一个特定的区域

(如0-1)以提高数据挖掘效率的方法。规范化的常用方法有:最大-最小规范化、零-均值规范化、小数定标规范化。

6.关联知识:是反映一个事件和其他事件之间依赖或相互关联的知识。如果两项

或多项属性之间存在关联,那么其中一项的属性值就可以依据其他属性值进行预测。

7.数据挖掘:从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐

含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。

8.OLTP:OLTP为联机事务处理的缩写,OLAP是联机分析处理的缩写。前者是以数

据库为基础的,面对的是操作人员和低层管理人员,对基本数据进行查询和增、删、改等处理。

9.ROLAP:是基于关系数据库存储方式的,在这种结构中,多维数据被映像成二维

关系表,通常采用星型或雪花型架构,由一个事实表和多个维度表构成。10.MOLAP:是基于类似于“超立方”块的OLAP存储结构,由许多经压缩的、类似

于多维数组的对象构成,并带有高度压缩的索引及指针结构,通过直接偏移计算进行存取。

11.数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且能

够得到和原始数据相同的分析结果。

12.广义知识:通过对大量数据的归纳、概括和抽象,提炼出带有普遍性的、概括

性的描述统计的知识。

13.预测型知识:是根据时间序列型数据,由历史的和当前的数据去推测未来的数

据,也可以认为是以时间为关键属性的关联知识。

14.偏差型知识:是对差异和极端特例的描述,用于揭示事物偏离常规的异常现象,

如标准类外的特例,数据聚类外的离群值等。

15.遗传算法:是一种优化搜索算法,它首先产生一个初始可行解群体,然后对这

个群体通过模拟生物进化的选择、交叉、变异等遗传操作遗传到下一代群体,并最终达到全局最优。

16.聚类:是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程,使得

在同一个簇中的对象之间具有较高的相似度,而不同簇中的对象差别较大。17.决策树:是用样本的属性作为结点,用属性的取值作为分支的树结构。它是分

类规则挖掘的典型方法,可用于对新样本进行分类。

18.相异度矩阵:是聚类分析中用于表示各对象之间相异度的一种矩阵,n个对象

的相异度矩阵是一个nn维的单模矩阵,其对角线元素均为0,对角线两侧元素的值相同。

20.支持度:规则A→B的支持度指的是所有事件中A与B同地发生的的概率,即

P(A∪B),是AB同时发生的次数与事件总次数之比。支持度是对关联规则重要性的衡量。

21.可信度:规则A→B的可信度指的是包含A项集的同时也包含B项集的条件概率

P(B|A),是AB同时发生的次数与A发生的所有次数之比。可信度是对关联规则的准确度的衡量。

22.关联规则:同时满足最小支持度阈值和最小可信度阈值的规则称之为关联规则。

四、综合题

1.何谓数据挖掘?它有哪些方面的功能?

从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程称为数据挖掘。相关的名称有知识发现、数据分析、数据融合、决策支持等。

数据挖掘的功能包括:概念描述、关联分析、分类与预测、聚类分析、趋势分析、孤立点分析以及偏差分析等。

2.何谓数据仓库?为什么要建立数据仓库?

数据仓库是一种新的数据处理体系结构,是面向主题的、集成的、不可更新的(稳定性)、随时间不断变化(不同时间)的数据集合,为企业决策支持系统提供所需的集成信息。

建立数据仓库的目的有3个:

一是为了解决企业决策分析中的系统响应问题,数据仓库能提供比传统事务数据库更快的大规模决策分析的响应速度。

二是解决决策分析对数据的特殊需求问题。决策分析需要全面的、正确的集成数据,这是传统事务数据库不能直接提供的。

三是解决决策分析对数据的特殊操作要求。决策分析是面向专业用户而非一般业务员,需要使用专业的分析工具,对分析结果还要以商业智能的方式进行表现,这是事务数据库不能提供的。

3.列举操作型数据与分析型数据的主要区别。

4.

人员、对基本数据进行查询和增、删、改等的日常事务处理。OLAP即联机分析处理,是在OLTP基础上发展起来的、以数据仓库基础上的、面向高层管理人员和专业分析人员、为企业决策支持服务。

OLTP和OLAP的主要区别如下表:

5.

粒度是指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度影响存放在数据仓库中的数据量的大小,同时影响数据仓库所能回答查询问题的细节程度。按粒度组织数据的方式主要有:

①简单堆积结构

②轮转综合结构

③简单直接结构

④连续结构

6.简述数据仓库设计的三级模型及其基本内容。

概念模型设计是在较高的抽象层次上的设计,其主要内容包括:界定系统边界和确定主要的主题域。

逻辑模型设计的主要内容包括:分析主题域、确定粒度层次划分、确定数据分割策略、定义关系模式、定义记录系统。

物理数据模型设计的主要内容包括:确定数据存储结构、确定数据存放位置、确定存储分配以及确定索引策略等。在物理数据模型设计时主要考虑的因素有: I/O存取时间、空间利用率和维护代价等。

提高性能的主要措施有划分粒度、数据分割、合并表、建立数据序列、引入冗余、生成导出数据、建立广义索引等。

7.在数据挖掘之前为什么要对原始数据进行预处理?

原始业务数据来自多个数据库或数据仓库,它们的结构和规则可能是不同的,这将导致原始数据非常的杂乱、不可用,即使在同一个数据库中,也可能存在重复的和不完整的数据信息,为了使这些数据能够符合数据挖掘的要求,提高效率和得到清晰的结果,必须进行数据的预处理。

为数据挖掘算法提供完整、干净、准确、有针对性的数据,减少算法的计算

量,提高挖掘效率和准确程度。

8.简述数据预处理方法和内容。

①数据清洗:包括填充空缺值,识别孤立点,去掉噪声和无关数据。

②数据集成:将多个数据源中的数据结合起来存放在一个一致的数据存储中。

需要注意不同数据源的数据匹配问题、数值冲突问题和冗余问题等。

③数据变换:将原始数据转换成为适合数据挖掘的形式。包括对数据的汇总、

聚集、概化、规范化,还可能需要进行属性的重构。

④数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且

能够得到和原始数据相同的分析结果。

9.简述数据清理的基本内容。

①尽可能赋予属性名和属性值明确的含义;

②统一多数据源的属性值编码;

③去除无用的惟一属性或键值(如自动增长的id);

④去除重复属性(在某些分析中,年龄和出生日期可能就是重复的属性,但在某

些时候它们可能又是同时需要的)

⑤去除可忽略字段(大部分为空值的属性一般是没有什么价值的,如果不去除可

能造成错误的数据挖掘结果)

⑥合理选择关联字段(对于多个关联性较强的属性,重复无益,只需选择其中的

部分用于数据挖掘即可,如价格、数据、金额)

⑦去掉数据中的噪音、填充空值、丢失值和处理不一致数据。

10.简述处理空缺值的方法。

①忽略该记录;

②去掉属性;

③手工填写空缺值;

④使用默认值;

⑤使用属性平均值;

⑥使用同类样本平均值;

⑦预测最可能的值。

11.常见的分箱方法有哪些?数据平滑处理的方法有哪些?

分箱的方法主要有:

①统一权重法(又称等深分箱法)

②统一区间法(又称等宽分箱法)

③最小熵法

④自定义区间法

数据平滑的方法主要有:平均值法、边界值法和中值法。

12.何谓数据规范化?规范化的方法有哪些?写出对应的变换公式。

1.0),称为规范化。规范化的常用方法有:

(1) 最大-最小规范化: (2) 零-均值规范化: (3) 小数定标规范化:x =x 0/10α

13. 数据归约的方法有哪些?为什么要进行维归约?

① 数据立方体聚集 ② 维归约 ③ 数据压缩 ④ 数值压缩 ⑤ 离散化和概念分层

维归约可以去掉不重要的属性,减少数据立方体的维数,从而减少数据挖掘处理的数据量,提高挖掘效率。 14. 何谓聚类?它与分类有什么异同?

聚类是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程,使得在同一个簇中的对象之间具有较高的相似度,而不同簇中的对象差别较大。

聚类与分类不同,聚类要划分的类是未知的,分类则可按已知规则进行;聚类是一种无指导学习,它不依赖预先定义的类和带类标号的训练实例,属于观察式学习,分类则属于有指导的学习,是示例式学习。 15. 举例说明聚类分析的典型应用。

①商业:帮助市场分析人员从客户基本库中发现不同的客户群,并且用不同的购买模式描述不同客户群的特征。

②生物学:推导植物或动物的分类,对基于进行分类,获得对种群中固有结构的认识。 ③WEB 文档分类

④其他:如地球观测数据库中相似地区的确定;各类保险投保人的分组;一个城市中不同类型、价值、地理位置房子的分组等。

⑤聚类分析还可作为其他数据挖掘算法的预处理:即先进行聚类,然后再进行分类等其他的数据挖掘。聚类分析是一种数据简化技术,它把基于相似数据特征的变量或个案组合在一起。

16. 聚类分析中常见的数据类型有哪些?何谓相异度矩阵?它有什么特点?

常见数据类型有区间标度变量、比例标度型变量、二元变量、标称型、序数型以及混合类型等。相异度矩阵是用于存储所有对象两两之间相异度的矩阵,为一个nn 维的单模矩阵。其特点是d(i,j)=d(j,i),d(i,i)=0,d(j,j)=0。如下所示:

()()0000max min

x x min min

max min -=-+-0

X

X x x σ-=

17. 分类知识的发现方法主要有哪些?分类过程通常包括哪两个步骤?

分类规则的挖掘方法通常有:决策树法、贝叶斯法、人工神经网络法、粗糙集法和遗传算法。分类的过程包括2步:首先在已知训练数据集上,根据属性特征,为每一种类别找到一个合理的描述或模型,即分类规则;然后根据规则对新数据进行分类。

18. 什么是决策树?如何用决策树进行分类?

决策树是用样本的属性作为结点,用属性的取值作为分支的树结构。它是利用信息论原理对大量样本的属性进行分析和归纳而产生的。决策树的根结点是所有样本中信息量最大的属性。树的中间结点是以该结点为根的子树所包含的样本子集中信息量最大的属性。决策树的叶结点是样本的类别值。

决策树用于对新样本的分类,即通过决策树对新样本属性值的测试,从树的根结点开始,按照样本属性的取值,逐渐沿着决策树向下,直到树的叶结点,该叶结点表示的类别就是新样本的类别。决策树方法是数据挖掘中非常有效的分类方法。

19. 简述ID3算法的基本思想及其主算法的基本步骤。

首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树,可以用它来对新的样例进行分类。

主算法包括如下几步:

①从训练集中随机选择一个既含正例又含反例的子集(称为窗口); ②用“建树算法”对当前窗口形成一棵决策树;

③对训练集(窗口除外)中例子用所得决策树进行类别判定,找出错判的例子;

④若存在错判的例子,把它们插入窗口,重复步骤②,否则结束。

20. 简述ID3算法的基本思想及其建树算法的基本步骤。

首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树,可以用它来对新的样例进行分类。

建树算法的具体步骤如下:

①对当前例子集合,计算各特征的互信息;

0d(2,1)0d(3,1)d(3,2)0d(n,1)d(n,2)......0????????????????

②选择互信息最大的特征A k ;

③把在A k 处取值相同的例子归于同一子集,A k 取几个值就得几个子集; ④对既含正例又含反例的子集,递归调用建树算法;

⑤若子集仅含正例或反例,对应分枝标上P 或N ,返回调用处。

21. 设某事务项集构成如下表,填空完成其中支持度和置信度的计算。

22. M-P 方

程并说明其含义。

基本特征:①多输入、单输出;②突触兼有兴奋和抑制两种性能;③可时间加

权和空间加权;④可产生脉冲;⑤脉冲可进行传递;⑥非线性,有阈值。

M-P 方程:(

)i ij j

j j

S f W S

θ=-∑,W ij 是神经元之间的连接强度,是阈值,f (x )

是阶梯函数。

23. 遗传算法与传统寻优算法相比有什么特点?

① 遗传算法为群体搜索,有利于寻找到全局最优解; ② 遗传算法采用高效有方向的随机搜索,搜索效率高;

③ 遗传算法处理的对象是个体而不是参变量,具有广泛的应用领域; ④ 遗传算法使用适应值信息评估个体,不需要导数或其他辅助信息,运算速度快,适应性好;

⑤ 遗传算法具有隐含并行性,具有更高的运行效率。

24. 写出非对称二元变量相异度计算公式(即jaccard 系数),并计算下表中各对象

间的相异度。

25. 简述

输出:k个簇,使平方误差准则最小。

步骤:

①任意选择k个对象作为初始的簇中心;

②计算其它对象与这k个中心的距离,然后把每个对象归入离它“最近”

的簇;

③计算各簇中对象的平均值,然后重新选择簇中心(离平均值“最近”的

对象值);

④重复第2第3步直到簇中心不再变化为止。

26.简述K-中心点算法的输入、输出及聚类过程(流程)。

输入:结果簇的数目k,包含n个对象的数据集

输出:k个簇,使得所有对象与其最近中心点的相异度总和最小。

流程:

①随机选择k个对象作为初始中心点;

②计算其它对象与这k个中心的距离,然后把每个对象归入离它“最近”

的簇;

③随机地选择一个非中心点对象Orandom,并计算用Orandom代替Oj的总

代价S;

④如果S<0,则用Orandom代替Oj,形成新的k个中心点集合;

⑤重复迭代第3、4步,直到中心点不变为止。

27.何谓文本挖掘?它与信息检索有什么关系(异同)。

文本挖掘是从大量文本数据中提取以前未知的、有用的、可理解的、可操作的知识的过程。它与信息检索之间有以下几方面的区别:

①方法论不同:信息检索是目标驱动的,用户需要明确提出查询要求;而

文本挖掘结果独立于用户的信息需求,是用户无法预知的。

②着眼点不同:信息检索着重于文档中字、词和链接;而文本挖掘在于理

解文本的内容和结构。

③目的不同:信息检索的目的在于帮助用户发现资源,即从大量的文本中

找到满足其查询请求的文本子集;而文本挖掘是为了揭示文本中隐含的

知识。

④评价方法不同:信息检索用查准率和查全率来评价其性能。而文本挖掘

采用收益、置信度、简洁性等来衡量所发现知识的有效性、可用性和可

理解性。

⑤使用场合不同:文本挖掘是比信息检索更高层次的技术,可用于信息检

索技术不能解决的许多场合。一方面,这两种技术各有所长,有各自适

用的场合;另一方面,可以利用文本挖掘的研究成果来提高信息检索的

精度和效率,改善检索结果的组织,使信息检索系统发展到一个新的水

一、名词解释

(

每题

4

分,共

20

)

1

、数据仓库

数据仓库(

Data

Warehouse

)是一个面向主题的(Subject

Oriented

、集成的

Integrate

、相对稳定的(

Non-Volatile

、反映历史变化(

Time Variant

)的数

据集合,用于支持管理决策。2

、数据挖掘

数据挖掘

(Data

Mining)

,又称为数据库中的知识发现(Knowledge

Discovery

Database, KDD)

,就是从大量数据中获取有效的、新颖的、潜在有用的、最终可

理解的模式的非平凡过程,简单的说,数据挖掘就是从大量数据中提取或

挖掘

知识。

3

、雪花模型

雪花模式中某些维表是规范化的,因而把数据进一步分解到附加的表中,模式图形成了类似雪花的形状。

通过最大限度地减少数据存储量以及联合较小的维表来

改善查询性能。雪花模型增加了用户必须处理的表数量,增加了某些查询的复杂性,但同时提高了处理的灵活性,可以回答更多的商业问题,特别适合系统的逐步建设要求。

4

OLAP

OLAP

是联机分析处理,

是使分析人员、

管理人员或执行人员能够从多角度对信息

机器学习Machine LearningIntroduction t...linear model (...第

2

4

级《数据仓库与数据挖掘》卷

进行快速、一致、交互地存取

,

从而获得对数据的更深入了解的一类软件技术。

它支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。

5

、决策树

决策树是将训练集函数表示成树结构,通过它来近似离散值的目标函数。这种树结构是一种有向树,它以训练集的一个属性作节点,这个属性所对应的一个值作边。决策树一般都是自上而下的来生成的。

二、简答题(每题

6

分,共

30

分)

1

企业面对海量数据,

应如何具体实施数据挖掘,

使之转换成可行的结果

/

模型?

首先进行数据的预处理,主要进行数据的清洗,数据清洗,处理空缺值,数据的集成,数据的变换和数据规约。

2

、请列举您使用过的各种数据仓库工具软件(包括建模工具,

ETL

工具,前端

展现工具,

OLAP Server

、数据库、数据挖掘工具)和熟悉程度。

ETL

工具:

Ascential

DataStage

warehouse

MANAGER

Informatica

公司

PowerCenter

Cognos

公司的

DecisionStream

市场上的主流数据仓库存储层软件有:

SQL

SERVER

SYBASE

ORACLE

DB2

TERADATA

但是使用过的只有

SQL

SERVER

和数据挖掘工具

Analysis

Services

,而且不大熟

悉。

3

、请谈一下你对元数据管理在数据仓库中的运用的理解。元数据能支持系统对数据的管理和维护

,

如关于数据项存储方法的元数据能支持

系统以最有效的方式访问数据。具体来说

在数据仓库系统中

,

元数据机制主要支

持以下五类系统管理功能

:

(1)描述哪些数据在数据仓库中;

(2)定义要进入

数据仓库中的数据和从数据仓库中产生的数据;(3)记录根据业务事件发生而

随之进行的数据抽取工作时间安排;

(4)记录并检测系统数据一致性的要求和

执行情况;

(5)衡量数据质量。

4

、数据挖掘对聚类的数据要求是什么?

1

)可伸缩性(

2

)处理不同类型属性的能力(

3

)发现任意形状的聚类(

4

)使

输入参数的领域知识最小化(

5

)处理噪声数据的能力(

6

)对于输入顺序不敏感

7

)高维性(

8

)基于约束的聚类(

9

)看解释性和可利用性

、简述

Apriori

算法的思想,谈谈该算法的应用领域并举例。

思想:

其发现关联规则分两步,

第一是通过迭代,

检索出数据源中所有烦琐项集,

即支持度不低于用户设定的阀值的项即集,

第二是利用第一步中检索出的烦琐项

集构造出满足用户最小信任度的规则,其中,第一步即挖掘出所有频繁项集是该算法的核心,也占整个算法工作量的大部分。

在商务、金融、保险等领域皆有应用。

数据挖掘与分析心得体会

正如柏拉图所说:需要是发明之母。随着信息时代的步伐不断迈进,大量数据日积月累。我们迫切需要一种工具来满足从数据中发现知识的需求!而数据挖掘便应运而生了。正如书中所说:数据挖掘已经并且将继续在我们从数据时代大步跨入信息时代的历程中做出贡献。 1、数据挖掘 数据挖掘应当更正确的命名为:“从数据中挖掘知识”,不过后者显得过长了些。而“挖掘”一词确是生动形象的!人们把数据挖掘视为“数据中的知识发现(KDD)”的同义词,而另一些人只是把数据挖掘视为知识发现过程的一个基本步骤! 由此而产生数据挖掘的定义:从大量数据中挖掘有趣模式和知识的过程!数据源包括数据库、数据仓库、Web、其他信息存储库或动态地流入系统的数据。作为知识发现过程,它通常包括数据清理、数据集成、数据变换、模式发现、模式评估和知识表示六个步骤。 数据挖掘处理数据之多,挖掘模式之有趣,使用技术之大量,应用范围之广泛都将会是前所未有的;而数据挖掘任务之重也一直并存。这些问题将继续激励数据挖掘的进一步研究与改进! 2、数据分析 数据分析是指用适当的统计方法对收集来的大量第一手资料和第二手资料进行分析,以求最大化地开发数据资料的功能,发挥数据的作用。是为了提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。 数据分析有极广泛的应用范围。典型的数据分析可能包含以下三个步: 1、探索性数据分析:当数据刚取得时,可能杂乱无章,看不出规律,通过作图、造表、用各种形式的方程拟合,计算某些特征量等手段探索规律性的可能形式,即往什么方向和用何种方式去寻找和揭示隐含在数据中的规律性。 2、模型选定分析,在探索性分析的基础上提出一类或几类可能的模型,然后通过进一步的分析从中挑选一定的模型。 3、推断分析:通常使用数理统计方法对所定模型或估计的可靠程度和精确程度作出推断。 数据分析的目的是把隐没在一大批看来杂乱无章的数据中的信息集中、萃取和提炼出来,以找出所研究对象的内在规律。在实用中,数据分析可帮助人们作出判断,以便采取适当行动。数据分析是组织有目的地收集数据、分析数据,使之成为信息的过程。这一过程是质量管理体系的支持过程。在产品的整个寿命周期,包括从市场调研到售后服务和最终处置的各

《数据挖掘》试题与标准答案

一、解答题(满分30分,每小题5分) 1. 怎样理解数据挖掘和知识发现的关系?请详细阐述之 首先从数据源中抽取感兴趣的数据,并把它组织成适合挖掘的数据组织形式;然后,调用相应的算法生成所需的知识;最后对生成的知识模式进行评估,并把有价值的知识集成到企业的智能系统中。 知识发现是一个指出数据中有效、崭新、潜在的、有价值的、一个不可忽视的流程,其最终目标是掌握数据的模式。流程步骤:先理解要应用的领域、熟悉相关知识,接着建立目标数据集,并专注所选择的数据子集;再作数据预处理,剔除错误或不一致的数据;然后进行数据简化与转换工作;再通过数据挖掘的技术程序成为模式、做回归分析或找出分类模型;最后经过解释和评价成为有用的信息。 2.时间序列数据挖掘的方法有哪些,请详细阐述之 时间序列数据挖掘的方法有: 1)、确定性时间序列预测方法:对于平稳变化特征的时间序列来说,假设未来行为与现在的行为有关,利用属性现在的值预测将来的值是可行的。例如,要预测下周某种商品的销售额,可以用最近一段时间的实际销售量来建立预测模型。 2)、随机时间序列预测方法:通过建立随机模型,对随机时间序列进行分析,可以预测未来值。若时间序列是平稳的,可以用自回归(Auto Regressive,简称AR)模型、移动回归模型(Moving Average,简称MA)或自回归移动平均(Auto Regressive Moving Average,简称ARMA)模型进行分析预测。 3)、其他方法:可用于时间序列预测的方法很多,其中比较成功的是神经网络。由于大量的时间序列是非平稳的,因此特征参数和数据分布随着时间的推移而变化。假如通过对某段历史数据的训练,通过数学统计模型估计神经网络的各层权重参数初值,就可能建立神经网络预测模型,用于时间序列的预测。

《大数据时代下的数据挖掘》试题及答案要点

《海量数据挖掘技术及工程实践》题目 一、单选题(共80题) 1)( D )的目的缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且能够得到 和原始数据相同的分析结果。 A.数据清洗 B.数据集成 C.数据变换 D.数据归约 2)某超市研究销售纪录数据后发现,买啤酒的人很大概率也会购买尿布,这种属于数据挖 掘的哪类问题?(A) A. 关联规则发现 B. 聚类 C. 分类 D. 自然语言处理 3)以下两种描述分别对应哪两种对分类算法的评价标准? (A) (a)警察抓小偷,描述警察抓的人中有多少个是小偷的标准。 (b)描述有多少比例的小偷给警察抓了的标准。 A. Precision,Recall B. Recall,Precision A. Precision,ROC D. Recall,ROC 4)将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务?(C) A. 频繁模式挖掘 B. 分类和预测 C. 数据预处理 D. 数据流挖掘 5)当不知道数据所带标签时,可以使用哪种技术促使带同类标签的数据与带其他标签的数 据相分离?(B) A. 分类 B. 聚类 C. 关联分析 D. 隐马尔可夫链 6)建立一个模型,通过这个模型根据已知的变量值来预测其他某个变量值属于数据挖掘的 哪一类任务?(C) A. 根据内容检索 B. 建模描述 C. 预测建模 D. 寻找模式和规则 7)下面哪种不属于数据预处理的方法? (D) A.变量代换 B.离散化

C.聚集 D.估计遗漏值 8)假设12个销售价格记录组已经排序如下:5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频(等深)划分时,15在第几个箱子内? (B) A.第一个 B.第二个 C.第三个 D.第四个 9)下面哪个不属于数据的属性类型:(D) A.标称 B.序数 C.区间 D.相异 10)只有非零值才重要的二元属性被称作:( C ) A.计数属性 B.离散属性 C.非对称的二元属性 D.对称属性 11)以下哪种方法不属于特征选择的标准方法: (D) A.嵌入 B.过滤 C.包装 D.抽样 12)下面不属于创建新属性的相关方法的是: (B) A.特征提取 B.特征修改 C.映射数据到新的空间 D.特征构造 13)下面哪个属于映射数据到新的空间的方法? (A) A.傅立叶变换 B.特征加权 C.渐进抽样 D.维归约 14)假设属性income的最大最小值分别是12000元和98000元。利用最大最小规范化的方 法将属性的值映射到0至1的范围内。对属性income的73600元将被转化为:(D) A.0.821 B.1.224 C.1.458 D.0.716 15)一所大学内的各年纪人数分别为:一年级200人,二年级160人,三年级130人,四年 级110人。则年级属性的众数是: (A) A.一年级 B.二年级 C.三年级 D.四年级

数据挖掘与数据仓库知识点总结

1、数据仓库定义:数据仓库是一种新的数据处理体系结构,它与组织机构的操作数据库分别维护,允许将各种应用系统一起,为统一的历史数据分析提供坚实的平台,对信息处理提供支持。数据仓库是面向主题的、集成的、相对稳定的、反映历史变化的数据集合,为企业决策支持系统提供所需的集成信息。设计和构造步骤:1)选取待建模的商务处理;2)选取商务处理的粒变;3)选取用于每个事实表记录的维;4)选取事实表中每条记录的变量 系统结构:(1)底层是仓库数据服务器,总是关系数据库系统。(2)中间层是OLAP服务器,有ROLAP 和MOLAP,它将对多维数据的操作映射为标准的关系操作(3)顶层是前端客户端,它包括查询和报表工具、分析工具和数据挖掘工具 2、数据仓库的多维数据模型:(1)星形模式:在此模型下,数据仓库包括一个大的包含大批数据并且不含冗余的中心表,一组小的附属表,维表围绕中心事实表显示的射线上。特征:星型模型四周的实体是维度实体,其作用是限制和过滤用户的查询结果,缩小访问围。每个维表都有自己的属性,维表和事实表通过关键字相关联。【例子:sales数据仓库的星形模式,此模式包含一个中心事实表sales,它包含四个维time, item, branch和location。 (2)雪花型模式:它是星形模式的变种,其中某些维表是规化的,因而把数据进一步分解到附加的表中。特征:雪花模型通过最大限度地减少数据存储量和联合较小的维表来改善查询性能,增加了用户必须处理的表数量和某些查询的复杂性,但同时提高了处理的灵活性,可以回答更多的商业问题,特别适合系统的逐步建设要求。【例子同上,只不过把其中的某些维给扩展了。 (3)事实星座形:复杂的应用可能需要多个事实表共享维表,这种模式可看作星形模式的汇集。 特征:事实星座模型能对多个相关的主题建模。例子:有两个事实表sales和shipping,它们可以共享维表time, item和location。 3、OLAP:即联机分析处理,是在OLTP基础上发展起来的、以数据仓库基础上的、面向高层管理人员和专业分析人员、为企业决策支持服务。特点:1.实时性要求不是很高。2.数据量大。3.因为重点在于决策支持,所以查询一般是动态的,也就是说允许用户随机提出查询要求。 OLAP操作:上卷:通过沿一个维的概念分层向上攀登,或者通过维归约,对数据立方体进行类聚。下钻:是上卷的逆操作,它由不太详细的数据得到更详细的数据,下钻可以通过沿维的概念分层向下或引入附加的维来实现。切片:对给定方体的一个维进行进行选择,导致一个子立方体。切块:通过对两个或多个维执行选择,定义子立方体。转轴:是一种可视化操作,它转动数据的视角,提供数据的替代表示。 OLTP:即联机事务处理,是以传统数据库为基础、面向操作人员和低层管理人员、对基本数据进行查询和增、删、改等的日常事务处理。OLTP的特点有:a.实时性要求高;b.数据量不是很大。C.交易一般是确定的,是对确定性数据进行存取。d.并发性要求高且严格的要求事务的完整性,安全性。 OLTP和OLAP的区别:1)用户和系统的面向性:OLTP面向顾客,而OLAP面向市场;2)数据容:OLTP 系统管理当前数据,而OLAP管理历史的数据;3)数据库设计:OLTP系统采用实体-联系(ER)模型和面向应用的数据库设计,而OLAP系统通常采用星形和雪花模型;4)视图:OLTP系统主要关注一个企业或部门部的当前数据,而OLAP 系统主要关注汇总的统一的数据;5)访问模式:OLTP访问主要有短的原子事务组成,而OLAP系统的访问大部分是只读操作,尽管许多可能是复杂的查询。 7、PageRank算法原理:1)在初始阶段:构建Web图,每个页面初始设置相同的PageRank 值,通过迭代计算,会得到每个页面所获得的最终PageRank值。2)在一轮中更新页面 PageRank得分的计算方法:每个页面将其当前的PageRank值平均分配到本页面包含的出 链上。每个页面将所有指向本页面的入链所传入的权值求和,即可得到新的PageRank得分。 优点:是一个与查询无关的静态算法,所有网页的PageRank值通过离线计算获得;有效减 少在线查询时的计算量,极大降低了查询响应时间。 缺点:1)人们的查询具有主题特征,PageRank忽略了主题相关性,导致结果的相关性和主 题性降低。2)旧的页面等级会比新页面高。因为即使是非常好的新页面也不会有很多上游, 除非它是某个站点的子站点。

数据挖掘考试题库【最新】

一、填空题 1.Web挖掘可分为、和3大类。 2.数据仓库需要统一数据源,包括统一、统一、统一和统一数据特征 4个方面。 3.数据分割通常按时间、、、以及组合方法进行。 4.噪声数据处理的方法主要有、和。 5.数值归约的常用方法有、、、和对数模型等。 6.评价关联规则的2个主要指标是和。 7.多维数据集通常采用或雪花型架构,以表为中心,连接多个表。 8.决策树是用作为结点,用作为分支的树结构。 9.关联可分为简单关联、和。 10.B P神经网络的作用函数通常为区间的。 11.数据挖掘的过程主要包括确定业务对象、、、及知识同化等几个步 骤。 12.数据挖掘技术主要涉及、和3个技术领域。 13.数据挖掘的主要功能包括、、、、趋势分析、孤立点分析和偏 差分析7个方面。 14.人工神经网络具有和等特点,其结构模型包括、和自组织网络 3种。 15.数据仓库数据的4个基本特征是、、非易失、随时间变化。 16.数据仓库的数据通常划分为、、和等几个级别。 17.数据预处理的主要内容(方法)包括、、和数据归约等。 18.平滑分箱数据的方法主要有、和。 19.数据挖掘发现知识的类型主要有广义知识、、、和偏差型知识五种。 20.O LAP的数据组织方式主要有和两种。 21.常见的OLAP多维数据分析包括、、和旋转等操作。 22.传统的决策支持系统是以和驱动,而新决策支持系统则是以、建 立在和技术之上。 23.O LAP的数据组织方式主要有和2种。 24.S QL Server2000的OLAP组件叫,OLAP操作窗口叫。 25.B P神经网络由、以及一或多个结点组成。 26.遗传算法包括、、3个基本算子。 27.聚类分析的数据通常可分为区间标度变量、、、、序数型以及混合 类型等。 28.聚类分析中最常用的距离计算公式有、、等。 29.基于划分的聚类算法有和。

数据挖掘试题与答案

一、解答题(满分30分,每小题5分) 1. 怎样理解数据挖掘和知识发现的关系?请详细阐述之 首先从数据源中抽取感兴趣的数据,并把它组织成适合挖掘的数据组织形式;然后,调用相应的算法生成所需的知识;最后对生成的知识模式进行评估,并把有价值的知识集成到企业的智能系统中。 知识发现是一个指出数据中有效、崭新、潜在的、有价值的、一个不可忽视的流程,其最终目标是掌握数据的模式。流程步骤:先理解要应用的领域、熟悉相关知识,接着建立目标数据集,并专注所选择的数据子集;再作数据预处理,剔除错误或不一致的数据;然后进行数据简化与转换工作;再通过数据挖掘的技术程序成为模式、做回归分析或找出分类模型;最后经过解释和评价成为有用的信息。 2. 时间序列数据挖掘的方法有哪些,请详细阐述之 时间序列数据挖掘的方法有: 1)、确定性时间序列预测方法:对于平稳变化特征的时间序列来说,假设未来行为与现在的行为有关,利用属性现在的值预测将来的值是可行的。例如,要预测下周某种商品的销售额,可以用最近一段时间的实际销售量来建立预测模型。 2)、随机时间序列预测方法:通过建立随机模型,对随机时间序列进行分析,可以预测未来值。若时间序列是平稳的,可以用自回归(Auto Regressive,简称AR)模型、移动回归模型(Moving Average,简称MA)或自回归移动平均(Auto Regressive Moving Average,简称ARMA)模型进行分析预测。 3)、其他方法:可用于时间序列预测的方法很多,其中比较成功的是神经网络。由于大量的时间序列是非平稳的,因此特征参数和数据分布随着时间的推移而变化。假如通过对某段历史数据的训练,通过数学统计模型估计神经网络的各层权重参数初值,就可能建立神经网络预测模型,用于时间序列的预测。

数据挖掘课程体会

数据挖掘课程体会 学习数据挖掘这门课程已经有一个学期了,在这十余周的学习过程中,我对数据挖掘这门课程的一些技术有了一定的了解,并明确了一些容易混淆的概念,以下主要谈一下我的心得体会。 近年来,数据挖掘引起了信息产业界的极大关注,其主要原因是存在大量数据,可以广泛使用,并且迫切需要将这些数据转换成有用的信息和知识。数据挖掘就是从大量的数据中,抽取出潜在的、有价值的知识、模型或规则的过程。作为一类深层次的数据分析方法,它利用了数据库、人工智能和数理统计等多方面的技术。 要将庞大的数据转换成为有用的信息,必须先有效率地收集信息。随着科技的进步,功能完善的数据库系统就成了最好的收集数据的工具。数据仓库,简单地说,就是搜集来自其它系统的有用数据,存放在一整合的储存区内。所以其实就是一个经过处理整合,且容量特别大的关系型数据库,用以储存决策支持系统所需的数据,供决策支持或数据分析使用。 数据挖掘的研究领域非常广泛,主要包括数据库系统、基于知识的系统、人工智能、机器学习、知识获取、统计学、空间数据库和数据可视化等领域。主要是可以做以下几件事:分类、估计、预测、关联分析、聚类分析、描述和可视化、复杂数据类型挖掘。在这里就不一一介绍了。 在学习关联规则的时候,提出了一个关于啤酒与纸尿布的故事:在一家超市里,纸尿布与啤酒被摆在一起出售,但是这个奇怪的举措却使得啤酒和纸尿布的销量双双增加了。其实,这是由于这家超市对其顾客的购物行为进行购物篮分析,在这些原始交易数据的基础上,利用数据挖掘方法对这些数据进行分析和挖掘。从而意外的发现跟纸尿布一起购买最多的商品竟是啤酒。按我们的常规思维,啤酒与纸尿布是两个毫无关联的商品,但是借助数据挖掘技术对大量交易数据进行挖掘分析后,却可以寻求到这一有价值的规律。这个故事在一定程度上说明了数据挖掘技术的巨大价值。 总之,非常感谢周教员在这十余周的精彩授课,让我受益匪浅,我会继续学习这门课程,努力为今后的课题研究或论文打好基础。

数据挖掘考试题

数据挖掘考试题 LG GROUP system office room 【LGA16H-LGYY-LGUA8Q8-LGA162】

数据挖掘考试题 一.选择题 1. 当不知道数据所带标签时,可以使用哪种技术促使带同类标签的数据与带其他标签的数据相分离( ) A.分类 B.聚类 C.关联分析 D.主成分分析 2. ( )将两个簇的邻近度定义为不同簇的所有点对邻近度的平均值,它是一种凝聚层次聚类技术。 (单链) (全链) C.组平均方法 3.数据挖掘的经典案例“啤酒与尿布试验”最主要是应用了( )数据挖掘方法。 A 分类 B 预测 C关联规则分析 D聚类 4.关于K均值和DBSCAN的比较,以下说法不正确的是( ) 均值丢弃被它识别为噪声的对象,而DBSCAN一般聚类所有对象。 均值使用簇的基于原型的概念,DBSCAN使用基于密度的概念。 均值很难处理非球形的簇和不同大小的簇,DBSCAN可以处理不同大小和不同形状的簇 均值可以发现不是明显分离的簇,即便簇有重叠也可以发现,但是DBSCAN会合并有重叠的簇 5.下列关于Ward’s Method说法错误的是:( ) A.对噪声点和离群点敏感度比较小 B.擅长处理球状的簇 C.对于Ward方法,两个簇的邻近度定义为两个簇合并时导致的平方误差 D.当两个点之间的邻近度取它们之间距离的平方时,Ward方法与组平均非常相似 6.下列关于层次聚类存在的问题说法正确的是:( ) A.具有全局优化目标函数 B.Group Average擅长处理球状的簇

C.可以处理不同大小簇的能力 D.Max对噪声点和离群点很敏感 7.下列关于凝聚层次聚类的说法中,说法错误的事:( ) A.一旦两个簇合并,该操作就不能撤销 B.算法的终止条件是仅剩下一个簇 C.空间复杂度为()2m O D.具有全局优化目标函数 8.规则{牛奶,尿布}→{啤酒}的支持度和置信度分别为:( ) 9.下列( )是属于分裂层次聚类的方法。 Average 10.对下图数据进行凝聚聚类操作,簇间相似度使用MAX计算,第二步是哪两个簇合并:( ) A.在{3}和{l,2}合并 B.{3}和{4,5}合并 C.{2,3}和{4,5}合并 D. {2,3}和{4,5}形成簇和{3}合并 二.填空题: 1.属性包括的四种类型:、、、。 2.是两个簇的邻近度定义为不同簇的所有点对邻近度的平均值。 3. 基本凝聚层次聚类算法空间复杂度,时间复杂度,如果某个簇到其他所有簇的距离存放在一个有序表或堆中,层次聚类所需要的时间复杂度将为。 4. 聚类中,定义簇间的相似度的方法有(写出四 个):、、、。 5. 层次聚类技术是第二类重要的聚类方法。两种层次聚类的基本方 法:、。 6. 组平均是一种界于和之间的折中方法。

数据挖掘中分类技术应用

分类技术在很多领域都有应用,例如可以通过客户分类构造一个分类模型来对银行贷款进行风险评估;当前的市场营销中很重要的一个特点是强调客户细分。客户类别分析的功能也在于此,采用数据挖掘中的分类技术,可以将客户分成不同的类别,比如呼叫中心设计时可以分为:呼叫频繁的客户、偶然大量呼叫的客户、稳定呼叫的客户、其他,帮助呼叫中心寻找出这些不同种类客户之间的特征,这样的分类模型可以让用户了解不同行为类别客户的分布特征;其他分类应用如文献检索和搜索引擎中的自动文本分类技术;安全领域有基于分类技术的入侵检测等等。机器学习、专家系统、统计学和神经网络等领域的研究人员已经提出了许多具体的分类预测方法。下面对分类流程作个简要描述: 训练:训练集——>特征选取——>训练——>分类器 分类:新样本——>特征选取——>分类——>判决 最初的数据挖掘分类应用大多都是在这些方法及基于内存基础上所构造的算法。目前数据挖掘方法都要求具有基于外存以处理大规模数据集合能力且具有可扩展能力。 神经网络 神经网络是解决分类问题的一种行之有效的方法。神经网络是一组连接输入/输出单元的系统,每个连接都与一个权值相对应,在将简单的单元连接成较复杂的系统后,通过并行运算实现其功能,其中系统的知识存储于网络结构和各单元之间的连接权中。在学习阶段,通过调整神经网络的权值,达到对输入样本的正确分类。神经网络有对噪声数据的高承受能力和对未经训练数据的模式分类能力。神经网

络概括性强、分类精度高,可以实现有监督和无监督的分类任务,所以神经网络在分类中应用非常广泛。 在结构上,可以把一个神经网络划分为输入层、输出层和隐含层(见图4)。网络的每一个输入节点对应样本一个特征,而输出层节点数可以等于类别数,也可以只有一个,(输入层的每个节点对应一个个的预测变量。输出层的节点对应目标变量,可有多个)。在输入层和输出层之间是隐含层(对神经网络使用者来说不可见),隐含层的层数和每层节点的个数决定了神经网络的复杂度。 除了输入层的节点,神经网络的每个节点都与很多它前面的节点(称为此节点的输入节点)连接在一起,每个连接对应一个权重Wxy,此节点的值就是通过它所有输入节点的值与对应连接权重乘积的和作为一个函数的输入而得到,我们把这个函数称为活动函数或挤压函数。如图5中节点4输出到节点6的值可通过如下计算得到:

数据挖掘复习大纲答案新新

数据挖掘复习提纲 分值分布 一、选择题(单选10道20分多选5道20分) 二、填空题(10道20分) 三、名词解释(5道20分) 四、解答题(4道20分) 五、应用题(Apriori算法20分) 1.什么是数据挖掘? 1答:简单地说,数据挖掘是从大量数据中提取或挖掘知识。 具体地说,数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。 2. 什么是数据清理? 2答:填写缺失的值,平滑噪声数据,识别、删除离群点,解决不一致性 3. 什么是数据仓库? 3答:是一个面向主题的、集成的、随时间而变化的、不容易丢失的数据集合,支持管理部门决策的过程。(最显著特征:数据不易丢失2分选择题) 4. 什么是数据集成? 4.数据集成:集成多个数据库、数据立方体或文件 5. 什么是数据变换? 5答:将数据转换或统一成适合于挖掘的形式。 6. 什么是数据归约? 6答:得到数据集的压缩表示,它小得多,但可以得到相同或相近的结果 7. 什么是数据集市? 7答:数据集市包含企业范围数据的一个子集,对于特定的用户群是有用的。其范围限于选定的主题。 (是完整的数据仓库的一个逻辑子集,而数据仓库正是由所有的数据集市有机组合而成的) 8.在数据挖掘过程中,耗时最长的步骤是什么? 8.答:数据清理 9.数据挖掘系统可以根据什么标准进行分类? 9答:根据挖掘的数据库类型分类、根据挖掘的知识类型分类、根据挖掘所用的技术分类、根据应用分类 10. 多维数据模型上的OLAP 操作包括哪些? 10.答:上卷、下钻、切片和切块、转轴 / 旋转、其他OLAP操作 11. OLAP 服务器类型有哪几种? 11.答:关系 OLAP 服务器(ROLAP)、多维 OLAP 服务器(MOLAP)、混合 OLAP 服务器 (HOLAP)、特殊的 SQL 服务器 12. 数据预处理技术包括哪些?(选择) 12.答:聚集、抽样、维规约、特征子集选择、特征创建、离散化和二元化、变量变换。 13. 形成“脏数据”的原因有哪些? 13. 答:滥用缩写词、数据输入错误、数据中的内嵌控制信息、不同的的惯用语、重复记录、丢失值、拼写变化、不同的计量单位、过时的编码 14. 与数据挖掘类似的术语有哪些? 14答:数据库中挖掘知识、知识提取、数据/模式分析、数据考古和数据捕捞。

大数据处理技术的总结与分析

数据分析处理需求分类 1 事务型处理 在我们实际生活中,事务型数据处理需求非常常见,例如:淘宝网站交易系统、12306网站火车票交易系统、超市POS系统等都属于事务型数据处理系统。这类系统数据处理特点包括以下几点: 一就是事务处理型操作都就是细粒度操作,每次事务处理涉及数据量都很小。 二就是计算相对简单,一般只有少数几步操作组成,比如修改某行得某列; 三就是事务型处理操作涉及数据得增、删、改、查,对事务完整性与数据一致性要求非常高。 四就是事务性操作都就是实时交互式操作,至少能在几秒内执行完成; 五就是基于以上特点,索引就是支撑事务型处理一个非常重要得技术. 在数据量与并发交易量不大情况下,一般依托单机版关系型数据库,例如ORACLE、MYSQL、SQLSERVER,再加数据复制(DataGurad、RMAN、MySQL数据复制等)等高可用措施即可满足业务需求。 在数据量与并发交易量增加情况下,一般可以采用ORALCERAC集群方式或者就是通过硬件升级(采用小型机、大型机等,如银行系统、运营商计费系统、证卷系统)来支撑. 事务型操作在淘宝、12306等互联网企业中,由于数据量大、访问并发量高,必然采用分布式技术来应对,这样就带来了分布式事务处理问题,而分布式事务处理很难做到高效,因此一般采用根据业务应用特点来开发专用得系统来解决本问题。

2数据统计分析 数据统计主要就是被各类企业通过分析自己得销售记录等企业日常得运营数据,以辅助企业管理层来进行运营决策。典型得使用场景有:周报表、月报表等固定时间提供给领导得各类统计报表;市场营销部门,通过各种维度组合进行统计分析,以制定相应得营销策略等. 数据统计分析特点包括以下几点: 一就是数据统计一般涉及大量数据得聚合运算,每次统计涉及数据量会比较大。二就是数据统计分析计算相对复杂,例如会涉及大量goupby、子查询、嵌套查询、窗口函数、聚合函数、排序等;有些复杂统计可能需要编写SQL脚本才能实现. 三就是数据统计分析实时性相对没有事务型操作要求高。但除固定报表外,目前越来越多得用户希望能做做到交互式实时统计; 传统得数据统计分析主要采用基于MPP并行数据库得数据仓库技术.主要采用维度模型,通过预计算等方法,把数据整理成适合统计分析得结构来实现高性能得数据统计分析,以支持可以通过下钻与上卷操作,实现各种维度组合以及各种粒度得统计分析。 另外目前在数据统计分析领域,为了满足交互式统计分析需求,基于内存计算得数据库仓库系统也成为一个发展趋势,例如SAP得HANA平台。 3 数据挖掘 数据挖掘主要就是根据商业目标,采用数据挖掘算法自动从海量数据中发现隐含在海量数据中得规律与知识。

最新数据挖掘考试题目——关联分析资料

数据挖掘考试题目——关联分析 一、10个选择 1.以下属于关联分析的是() A.CPU性能预测B.购物篮分析 C.自动判断鸢尾花类别D.股票趋势建模 2.维克托?迈尔-舍恩伯格在《大数据时代:生活、工作与思维的大变革》一书中,持续强调了一个观点:大数据时代的到来,使我们无法人为地去发现数据中的奥妙,与此同时,我们更应该注重数据中的相关关系,而不是因果关系。其中,数据之间的相关关系可以通过以下哪个算法直接挖掘() A.K-means B.Bayes Network C.C4.5 D.Apriori 3.置信度(confidence)是衡量兴趣度度量()的指标。 A.简洁性B.确定性 C.实用性D.新颖性 4.Apriori算法的加速过程依赖于以下哪个策略() A.抽样B.剪枝 C.缓冲D.并行 5.以下哪个会降低Apriori算法的挖掘效率() A.支持度阈值增大B.项数减少 C.事务数减少D.减小硬盘读写速率 6.Apriori算法使用到以下哪些东东() A.格结构、有向无环图B.二叉树、哈希树 C.格结构、哈希树D.多叉树、有向无环图 7.非频繁模式() A.其置信度小于阈值B.令人不感兴趣 C.包含负模式和负相关模式D.对异常数据项敏感 8.对频繁项集、频繁闭项集、极大频繁项集的关系描述正确的是()[注:分别以1、2、3代表之] A.3可以还原出无损的1 B.2可以还原出无损的1 C.3与2是完全等价的D.2与1是完全等价的 9.Hash tree在Apriori算法中所起的作用是() A.存储数据B.查找 C.加速查找D.剪枝 10.以下不属于数据挖掘软件的是() A.SPSS Modeler B.Weka C.Apache Spark D.Knime 二、10个填空 1.关联分析中表示关联关系的方法主要有:和。 2.关联规则的评价度量主要有:和。 3.关联规则挖掘的算法主要有:和。 4.购物篮分析中,数据是以的形式呈现。 5.一个项集满足最小支持度,我们称之为。 6.一个关联规则同时满足最小支持度和最小置信度,我们称之为。

数据挖掘分类实验详细报告概论

《数据挖掘分类实验报告》 信息安全科学与工程学院 1120362066 尹雪蓉数据挖掘分类过程 (1)数据分析介绍 本次实验为典型的分类实验,为了便于说明问题,弄清数据挖掘具体流程,我们小组选择了最经典的决策树算法进行具体挖掘实验。 (2)数据准备与预处理 在进行数据挖掘之前,我们首先要对需要挖掘的样本数据进行预处理,预处理包括以下步骤: 1、数据准备,格式统一。将样本转化为等维的数据特征(特征提取),让所有的样 本具有相同数量的特征,同时兼顾特征的全面性和独立性 2、选择与类别相关的特征(特征选择) 3、建立数据训练集和测试集 4、对数据集进行数据清理 在本次实验中,我们选择了ILPD (Indian Liver Patient Dataset) 这个数据集,该数据集已经具有等维的数据特征,主要包括Age、Gender、TB、DB、Alkphos、Sgpt、Sgot、TP、ALB、A/G、classical,一共11个维度的数据特征,其中与分类类别相关的特征为classical,它的类别有1,2两个值。 详见下表: 本实验的主要思路是将该数据集分成训练集和测试集,对训练集进行训练生成模型,然后再根据模型对测试集进行预测。 数据集处理实验详细过程:

●CSV数据源处理 由于下载的原始数据集文件Indian Liver Patient Dataset (ILPD).csv(见下图)中间并不包含属性项,这不利于之后分类的实验操作,所以要对该文件进行处理,使用Notepad文件,手动将属性行添加到文件首行即可。 ●平台数据集格式转换 在后面数据挖掘的实验过程中,我们需要借助开源数据挖掘平台工具软件weka,该平台使用的数据集格式为arff,因此为了便于实验,在这里我们要对csv文件进行格式转换,转换工具为weka自带工具。转换过程为: 1、打开weka平台,点击”Simple CLI“,进入weka命令行界面,如下图所示: 2、输入命令将csv文件导成arff文件,如下图所示: 3、得到arff文件如下图所示: 内容如下:

数据挖掘复习章节知识点整理

数据挖掘:是从大量数据中发现有趣(非平凡的、隐含的、先前未知、潜在有用)模式,这些数据可以存放在数据库,数据仓库或其他信息存储中。 挖掘流程: 1.学习应用域 2.目标数据创建集 3.数据清洗和预处理 4.数据规约和转换 5.选择数据挖掘函数(总结、分类、回归、关联、分类) 6.选择挖掘算法 7.找寻兴趣度模式 8.模式评估和知识展示 9.使用挖掘的知识 概念/类描述:一种数据泛化形式,用汇总的、简洁的和精确的方法描述各个类和概念,通过(1)数据特征化:目标类数据的一般特性或特征的汇总; (2)数据区分:将目标类数据的一般特性与一个或多个可比较类进行比较; (3)数据特征化和比较来得到。 关联分析:发现关联规则,这些规则展示属性-值频繁地在给定数据集中一起出现的条件,通常要满足最小支持度阈值和最小置信度阈值。 分类:找出能够描述和区分数据类或概念的模型,以便能够使用模型预测类标号未知的对象类,导出的模型是基于训练集的分析。导出模型的算法:决策树、神经网络、贝叶斯、(遗传、粗糙集、模糊集)。 预测:建立连续值函数模型,预测空缺的或不知道的数值数据集。 孤立点:与数据的一般行为或模型不一致的数据对象。 聚类:分析数据对象,而不考虑已知的类标记。训练数据中不提供类标记,对象根据最大化类内的相似性和最小化类间的原则进行聚类或分组,从而产生类标号。 第二章数据仓库 数据仓库是一个面向主题的、集成的、时变的、非易失的数据集合,支持管理部门的决策过程。从一个或多个数据源收集信息,存放在一个一致的模式下,并且通常驻留在单个站点。数据仓库通过数据清理、变换、继承、装入和定期刷新过程来构造。面向主题:排除无用数据,提供特定主题的简明视图。集成的:多个异构数据源。时变的:从历史角度提供信息,隐含时间信息。非易失的:和操作数据的分离,只提供初始装入和访问。 联机事务处理OLTP:主要任务是执行联机事务和查询处理。 联系分析处理OLAP:数据仓库系统在数据分析和决策方面为用户或‘知识工人’提供服务。这种系统可以用不同的格式和组织提供数据。OLAP是一种分析技术,具有汇总、合并和聚集功能,以及从不同的角度观察信息的能力。

数据挖掘及商务智能总结

第一章绪论 什么是数据挖掘,什么是商业智能 从大型数据库中提取有趣的(非平凡的、蕴涵的、先前未知的且是潜在有用的)信息或模式。 商业智能是要在必须的时间段内,把正确有用的信息传递给适当的决策者,以便为有效决策提供信息支持。 分类算法的评价标准 召回率recall =系统检索到的相关文件数/相关文件总数 准确率precision(查准率)= 系统检索到的相关文件数/系统返回的文件总数第二章数据仓库 什么是数据仓库 是运用新信息科技所提供的大量数据存储、分析能力,将以往无法深入整理分析的客户数据建立成为一个强大的顾客关系管理系统,以协助企业制定精准的运营决策。 数据仓库的基本特征 1面向主题2整合性 3长期性 4稳定性 第三章数据挖掘简介 数据挖掘的一般功能 1分类2估计3 预测4关联分类5聚类 数据挖掘的完整步骤 1理解数据与数据所代表的含义 2获取相关知识与技术 3整合与检查数据 4取出错误或不一致的数据 5建模与假设 6数据挖掘运行 7测试与验证所挖掘的数据 8解释与使用数据 数据挖掘建模的标准 CRISP-CM 跨行业数据挖掘的标准化过程 第四章数据挖掘中的主要方法 基于SQL Server 2005 SSAS的十种数据挖掘算法是什么 1.决策树 2.聚类 3.Bayes分类 4.有序规则 5. 关联规则 6.神经网络 7.线性回归 8. Logistic回归 9. 时间序列10. 文本挖掘 第五章数据挖掘与相关领域的关系 数据挖掘与机器学习、统计分析之间的区别与联系(再看看书整理下) 32页 处理大量实际数据更具优势,并且使用数据挖掘工具无需具备专业的统计学背景。 数据分析的需求和趋势已经被许多大型数据库所实现,并且可以进行企业级别的数据挖掘应用。 相对于重视理论和方法的统计学而言,数据挖掘更强调应用,毕竟数据挖掘目的

数据挖掘分类算法比较

数据挖掘分类算法比较 分类是数据挖掘、机器学习和模式识别中一个重要的研究领域。通过对当前数据挖掘中具有代表性的优秀分类算法进行分析和比较,总结出了各种算法的特性,为使用者选择算法或研究者改进算法提供了依据。 一、决策树(Decision Trees) 决策树的优点: 1、决策树易于理解和解释.人们在通过解释后都有能力去理解决策树所表达的意义。 2、对于决策树,数据的准备往往是简单或者是不必要的.其他的技术往往要求先把数据一般化,比如去掉多余的或者空白的属性。 3、能够同时处理数据型和常规型属性。其他的技术往往要求数据属性的单一。 4、决策树是一个白盒模型。如果给定一个观察的模型,那么根据所产生的决策树很容易推出相应的逻辑表达式。 5、易于通过静态测试来对模型进行评测。表示有可能测量该模型的可信度。 6、在相对短的时间内能够对大型数据源做出可行且效果良好的结果。 7、可以对有许多属性的数据集构造决策树。 8、决策树可很好地扩展到大型数据库中,同时它的大小独立于数据库的大小。 决策树的缺点: 1、对于那些各类别样本数量不一致的数据,在决策树当中,信息增益的结果偏向于那些具有更多数值的特征。 2、决策树处理缺失数据时的困难。 3、过度拟合问题的出现。 4、忽略数据集中属性之间的相关性。 二、人工神经网络 人工神经网络的优点:分类的准确度高,并行分布处理能力强,分布存储及学习能力强,对噪声神经有较强的鲁棒性和容错能力,能充分逼近复杂的非线性关系,具备联想记忆的功能等。 人工神经网络的缺点:神经网络需要大量的参数,如网络拓扑结构、权值和阈值的初始值;不能观察之间的学习过程,输出结果难以解释,会影响到结果的可信度和可接受程度;学习时间过长,甚至可能达不到学习的目的。

数据挖掘r语言总结报告

总结报告 课程名称:数据挖掘R语言 任课教师: 姓名: 专业:计算机科学与技术 班级: 学号:

计算机科学与技术学院 2018 年 6 月19 日 一、数据预处理 针对不同分析目标,选择合适的字段,并将字段值处理成适于分析的形式。必要时还需对原数据集进行统计变换后形成易于分析的形式。 为每条数据添加字段:所属地区。根据下图中划分的美国四大地区,将每条数据中表示的案件发生地在该字段上划分为东北部、中西部、南部和西部四个值。 首先导入数据: gundata<-read.csv("d:/gun.csv",sep = ",",stringsAsFactors = FALSE,header = TRUE,quote=””) 然后将需要的字段取出来,在这里取出了一下几个字段:

gundata[,c("incident_id","date","state","city_or_county","n_killed","n_injured"," congressional_district","latitude","longitude","state_house_district","state_sen ate_district")] gd <- subset(gundata,select=c(incident_id,date,state,city_or_county,n_killed, n_injured,congressional_district,latitude,longitude,state_house_district,state_s enate_district)) 然后根据州字段将所有数据划分为四个地区 阿拉巴马州Alabama 阿拉斯加州Alaska 亚利桑那州Arizona 阿肯色州Arkansas 加利福尼亚州California 科罗拉多州Colorado 哥伦比亚特区Columbia 康涅狄格州Connecticut 特拉华州Delaware 佛罗里达州Florida 佐治亚州Georgia 夏威夷州Hawaii 爱达荷州Idaho 伊利诺州Illinois

数据挖掘考试题库讲解

一、名词解释 1.数据仓库:是一种新的数据处理体系结构,是面向主题的、集成的、不可更新 的(稳定性)、随时间不断变化(不同时间)的数据集合,为企业决策支持系统提供所需的集成信息。 2.孤立点:指数据库中包含的一些与数据的一般行为或模型不一致的异常数据。 3.OLAP:OLAP是在OLTP的基础上发展起来的,以数据仓库为基础的数据分析处 理,是共享多维信息的快速分析,是被专门设计用于支持复杂的分析操作,侧重对分析人员和高层管理人员的决策支持。 4.粒度:指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度影响存 放在数据仓库中的数据量的大小,同时影响数据仓库所能回答查询问题的细节程度。 5.数据规范化:指将数据按比例缩放(如更换大单位),使之落入一个特定的区域 (如0-1)以提高数据挖掘效率的方法。规范化的常用方法有:最大-最小规范化、零-均值规范化、小数定标规范化。 6.关联知识:是反映一个事件和其他事件之间依赖或相互关联的知识。如果两项 或多项属性之间存在关联,那么其中一项的属性值就可以依据其他属性值进行预测。 7.数据挖掘:从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐 含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。 8.OLTP:OLTP为联机事务处理的缩写,OLAP是联机分析处理的缩写。前者是以数 据库为基础的,面对的是操作人员和低层管理人员,对基本数据进行查询和增、删、改等处理。 9.ROLAP:是基于关系数据库存储方式的,在这种结构中,多维数据被映像成二维 关系表,通常采用星型或雪花型架构,由一个事实表和多个维度表构成。10.MOLAP:是基于类似于“超立方”块的OLAP存储结构,由许多经压缩的、类似 于多维数组的对象构成,并带有高度压缩的索引及指针结构,通过直接偏移计算进行存取。 11.数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且能 够得到和原始数据相同的分析结果。 12.广义知识:通过对大量数据的归纳、概括和抽象,提炼出带有普遍性的、概括 性的描述统计的知识。 13.预测型知识:是根据时间序列型数据,由历史的和当前的数据去推测未来的数 据,也可以认为是以时间为关键属性的关联知识。 14.偏差型知识:是对差异和极端特例的描述,用于揭示事物偏离常规的异常现象, 如标准类外的特例,数据聚类外的离群值等。

web数据挖掘考试重点

填空或简答: 1. 数据、信息和知识是广义数据表现的不同形式。 2. 主要知识模式类型有:广义知识,关联知识,类知识,预测型知识,特异型知识 3. web挖掘研究的主要流派有:Web结构挖掘、Web使用挖掘、Web内容挖掘 4. 一般地说,KDD是一个多步骤的处理过程,一般分为问题定义、数据抽取、数据预处理、.数据挖掘以及模式评估等基本阶段。 5. 数据库中的知识发现处理过程模型有:阶梯处理过程模型,螺旋处理过程模型,以用户为中心的处理结构模型,联机KDD模型,支持多数据源多知识模式的KDD处理模型 6. 粗略地说,知识发现软件或工具的发展经历了独立的知识发现软件、横向的知识发现工具集和纵向的知识发现解决方案三个主要阶段,其中后面两种反映了目前知识发现软件的两个主要发展方向。 7. 决策树分类模型的建立通常分为两个步骤:决策树生成,决策树修剪。 8. 从使用的主要技术上看,可以把分类方法归结为四种类型: a) 基于距离的分类方法 b) 决策树分类方法 c) 贝叶斯分类方法 d) 规则归纳方法 9. 关联规则挖掘问题可以划分成两个子问题: a) 发现频繁项目集:通过用户给定Minsupport ,寻找所有频繁项目集或者最大频繁项目集。 b) 生成关联规则:通过用户给定Minconfidence ,在频繁项目集中,寻找关联规则。 10. 数据挖掘是相关学科充分发展的基础上被提出和发展的。 主要的相关技术: 数据库等信息技术的发展 统计学深入应用 人工智能技术的研究和应用 11. 衡量关联规则挖掘结果的有效性: 应该从多种综合角度来考虑: a准确性:挖掘出的规则必须反映数据的实际情况。 b实用性:挖掘出的规则必须是简洁可用的。 c新颖性:挖掘出的关联规则可以为用户提供新的有价值信息。 12. 约束的常见类型有: 单调性约束; 反单调性约束; 可转变的约束; 简洁性约束. 13. 根据规则中涉及到的层次,多层次关联规则可以分为: 同层关联规则:如果一个关联规则对应的项目是同一个粒度层次,那么它是同层关联规则。层间关联规则:如果在不同的粒度层次上考虑问题,那么可能得到的是层间关联规 14. 按照聚类分析算法的主要思路,聚类方法可以被归纳为如下几种。 划分法:基于一定标准构建数据的划分。 属于该类的聚类方法有:k-means、k-modes、k-prototypes、k-medoids、PAM、CLARA、CLARANS等。 层次法:对给定数据对象集合进行层次的分解。 密度法:基于数据对象的相连密度评价。 网格法:将数据空间划分成为有限个单元(Cell)的网格结构,基于网格结构进行聚类。 模型法:给每一个簇假定一个模型,然后去寻找能够很好的满足这个模型的数据集。 15. 类间距离的度量主要有: 最短距离法:定义两个类中最靠近的两个元素间的距离为类间距离。 最长距离法:定义两个类中最远的两个元素间的距离为类间距离。 中心法:定义两类的两个中心间的距离为类间距离。

相关文档
相关文档 最新文档