一、
1。2 数据仓库与数据库有何不同？它们有哪些相似之处?
简而言之，数据库是面向事务的设计，数据仓库是面向主题设计的。
数据库一般存储在线交易数据,数据仓库存储的一般是历史数据。
数据库设计是尽量避免冗余,一般采用符合范式的规则来设计，数据仓库在设计是有意引入冗余，采用反范式的方式来设计.
数据库是为捕获数据而设计,数据仓库是为分析数据而设计，它的两个基本的元素是维表和事实表。维是看问题的角度，比如时间，部门，维表放的就是这些东西的定义，事实表里放着要查询的数据，同时有维的ID.
单从概念上讲，有些晦涩。任何技术都是为应用服务的，结合应用可以很容易地理解。以银行业务为例。数据库是事务系统的数据平台，客户在银行做的每笔交易都会写入数据库,被记录下来,这里，可以简单地理解为用数据库记帐。数据仓库是分析系统的数据平台，它从事务系
统获取数据，并做汇总、加工，为决策者提供决策的依据.比如，某银行某分行一个月发生多少交易,该分行当前存款余额是多少。如果存款又多，消费交易又多，那么该地区就有必要设立ATM了。
显然，银行的交易量是巨大的，通常以百万甚至千万次来计算。事务系统是实时的，这就要求时效性，客户存一笔钱需要几十秒是无法忍受的，这就要求数据库只能存储很短一段时间的数据。而分析系统是事后的，它要提供关注时间段内所有的有效数据.这些数据是海量的，汇总计算起来也要慢一些，但是，只要能够提供有效的分析数据就达到目的了。
数据仓库,是在数据库已经大量存在的情况下，为了进一步挖掘数据资源、为了决策需要而产生的，它决不是所谓的“大型数据库"。那么，数据仓库与传统数据库比较，有哪些不同呢?让我们先看看W.H。Inmon关于数据仓库的定义：面向主题的、集成的、与时间相关且不可修改的数据集合。
“面向主题的”：传统数据库主要是为应用程序进行数据处理,未必按照同一主题存储数据；数据仓库侧重于数据分析工作，是按照主题存储的。这一点,类似于传统农贸市场与超市的区别—市场里面,白菜、萝卜、香菜会在一个摊位上，如果它们是一个小贩卖的；而超市里，白菜
、萝卜、香菜则各自一块。也就是说，市场里的菜(数据）是按照小贩（应用程序）归堆(存储）的，超市里面则是按照菜的类型(同主题）归堆的。
“与时间相关”:数据库保存信息的时候，并不强调一定有时间信息.数据仓库则不同，出于决策的需要，数据仓库中的数据都要标明时间属性.决策中，时间属性很重要。同样都是累计购买过九车产品的顾客，一位是最近三个月购买九车，一位是最近一年从未买过，这对于决策者意义是不同的。
“不可修改”:数据仓库中的数据并不是最新的，而是来源于其它数据源。数据仓库反映的是历史信息，并不是很多数据库处理的那种日常事务数据(有的数据库例如电信计费数据库甚至处理实时信息）。因此，数据仓库中的数据是极少或根本不修改的；当然，向数据仓库添加数据是允许的.
数据仓库的出现，并不是要取代数据库.目前，大部分数据仓库还是用关系数据库管理系统来管理的。可以说,数据库、数据仓库相辅相成、各有千秋。
补充一下，数据仓库的方案建设的目的,是为前端查询和分析作为基础，由于有较大的冗余,
所以需要的存储也较大.为了更好地为前端应用服务，数据仓库必须有如下几点优点，否则是失败的数据仓库方案.
1.效率足够高。客户要求的分析数据一般分为日、周、月、季、年等，可以看出，日为周期的数据要求的效率最高，要求24小时甚至12小时内，客户能看到昨天的数据分析。由于有的企业每日的数据量很大，设计不好的数据仓库经常会出问题，延迟1—3日才能给出数据，显然不行的。
2.数据质量.客户要看各种信息，肯定要准确的数据，但由于数据仓库流程至少分为3步，2次ETL，复杂的架构会更多层次，那么由于数据源有脏数据或者代码不严谨，都可以导致数据失真，客户看到错误的信息就可能导致分析出错误的决策，造成损失，而不是效益。
3.扩展性。之所以有的大型数据仓库系统架构设计复杂，是因为考虑到了未来3—5年的扩展性，这样的话,客户不用太快花钱去重建数据仓库系统，就能很稳定运行。主要体现在数据建模的合理性，数据仓库方案中多出一些中间层，使海量数据流有足够的缓冲,不至于数据量大很多，就运行不起来了.
1.3 定义下列数据挖掘功能：特征化、区分、关联和相关性分析、分类、回归、聚类、离君点分析。使用你熟悉的现实生活中的数据库，给出每种数据挖掘功能的例子。
特征化是一个目标类数据的一般特性或特性的汇总。例如，学生的特征可被提出,形成所有大学的计算机科学专业一年级学生的轮廓，这些特征包括作为一种高的年级平均成绩（GPA：Grade point aversge)的信息，还有所修的课程的最大数量。
。。 区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比较。例如，具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较.最终的描述可能是学生的一个一般可比较的轮廓，就像具有高GPA 的学生的75％是四年级计算机科学专业的学生,
而具有低GPA 的学生的65％不是.
。. 关联是指发现关联规则，这些规则表示一起频繁发生在给定数据集的特征值的条件.例如,一个数据挖掘系统可能发现的关联规则为：
major(X, “computing science”） ⇒ owns（X， “personal computer”)
[support=12％, confidence=98％]
其中，X 是一个表示学生的变量。这个规则指出正在学习的学生，12％（支持度)主修计算机科学并且拥有一台个人计算机。这个组一个学生拥有一台个人电脑的概率是98%(置信度，或确定度）。
。. 分类与预测不同，因为前者的作用是构造一系列能描述和区分数据类型或概念的模型（或功能），而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的相似性是他们都是预测的工具：
分类被用作预测目标数据的类的标签,而预测典型的应用是预测缺失的数字型数据的值。
。。 聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式,将观测组织成类分层结构，把类似的事件组织在一起。
。。 数据延边分析描述和模型化随时间变化的对象的规律或趋势,尽管这可能包括时间相关数据的特征化、区分、关联和相关分析、分类、或预测，这种分析的明确特征包括时间序列
数据分析、序列或周期模式匹配、和基于相似性的数据分析
二、
2。2假设所分析的数据包括属性age，它在数据元组中的值（以递増）为13，15，16,16，19,20，20，21,22,22，25，25，25，25，30，33,33，35,35，35，35，36，40,45，46，52，70
A)该数据的均值是多少？中位数是什么？
B)该数据的众数是什么？讨论数据的模态（即二模，三模等）.
C）该数据的中列数是多少
D)你能（粗略地）出该据的第一个四分位数（Q1）和第三个四分位数(Q3）吗？
E)给出该数据的五数概括。
F)绘制出该数据的盒图。
G）分位数-—分位数图与分位数图有何不同？
解答：
（a) 该数据的均值是什么?中位数是什么?
(b) 该数据的众数是什么？讨论数据的峰（即双峰、三峰等)。
这个数集的众数有两个：25 和35，发生在同样最高的频率处，因此是双峰
众数。
(c） 数据的中列数是什么?
数据的中列数是最大术和最小是的均值。即：midrange=(70+13)/2=41.5。
(d） 你能（粗略地）出数据的第一个四分位数（Q1)和第三个四分位数（Q3）
数据库基本数据类型有哪些吗？
数据集的第一个四分位数应发生在25％处，即在（N+1）/4=7 处.所以：Q1=20.
而第三个四分位数应发生在75%处，即在3×(N+1)/4=21 处。所以：Q3=35
(e) 给出数据的五数概括.
一个数据集的分布的5 数概括由最小值、第一个四分位数、中位数、第三个
四分位数、和最大值构成。它给出了分布形状良好的汇总，并且这些数据是：13、
20、25、35、70。
(f) 画出数据的盒图。
略。
（g) 分位数-分位数图与分位数图的不同之处是什么？
分位数图是一种用来展示数据值低于或等于在一个单变量分布中独立的变
量的粗略百分比。这样，他可以展示所有数的分位数信息，而为独立变量测得的
值(纵轴）相对于它们的分位数(横轴）被描绘出来。
但分位数—分位数图用纵轴表示一种单变量分布的分位数，用横轴表示另一
单变量分布的分位数。两个坐标轴显示它们的测量值相应分布的值域,且点按照
两种分布分位数值展示。一条线（y=x)可画到图中，以增加图像的信息。落在
该线以上的点表示在y 轴上显示的值的分布比x 轴的相应的等同分位数对应的值
的分布高。反之，对落在该线以下的点则低.
2。3设给定的数据集已经分组到区间。这些区间和对应频率如下所示：
Age frequency
1—5 200
6-15 450
16-20 300
21—50 1500
51-80 700
80—110 44
计算该数据的近似中位数.
2.4假设医院对18个随机挑选的成年人检查年龄和身体肥胖，得到如下结果：
Age 23 23 27 27 39 41 47 49 50
Fat 9。5 26.5 7。8 17。8 31。4 25.9 27。4 27。2 31。2
Age 52 54 54 56 57 58 58 60 61
Fat 34.6 42.5 28.8 33.4 30。2 34.1 32.9 41。2 35.
7
A)计算age和%fat的均值，中位数和标准差.
B)绘制age和%fat的盒图。
C)绘制基于这两个变量的散点图和q—q图。
三
3.3在习题2.2中，age包括如下值（以递增序）：13，15，16，16，19，20，20,21,22，22，25，25，25,25，30，33,33，35，35，35，35，36，40，45，46，52，70。
A)使用蒌3的箱，用箱均值光滑以上数据。说明你的步骤，讨论这种技术对缎带定数据的效果.
B)如何确定该数据中的离点？
C)还有什么其他方法来光滑数据？
（a） 使用分箱均值光滑对以上数据进行光滑,箱的深度为3。解释你的步骤。
评述对于给定的数据，该技术的效果.
用箱深度为3 的分箱均值光滑对以上数据进行光滑需要以下步骤:
什么是数据结构请举例说明
下一篇 »
发表评论