Data Mining. Concepts and Techniques, 3rd Edition

HAN

09-ch02-039-082-9780123814791

2011/6/1

3:15

Page 39

#1

2

Getting to Know Your Data

It’s tempting to jump straight

into mining, but first, we need to get the data ready. This involves

having a closer look at attributes and data values. Real-world data are typically noisy,

enormous in volume (often several gigabytes or more), and may originate from a hodge-

podge of heterogenous sources. This chapter is about getting familiar with your data.

Knowledge about your data is useful for data preprocessing (see Chapter 3), the first

major task of the data mining process. You will want to know the following: What are

the types of attributes or fields that make up your data? What kind of values does each

attribute have? Which attributes are discrete, and which are continuous-valued? What

do the data look like? How are the values distributed? Are there ways we can visualize

the data to get a better sense of it all? Can we spot any outliers? Can we measure the

similarity of some data objects with respect to others? Gaining such insight into the data

will help with the subsequent analysis.

“So what can we learn about our data that’s helpful in data preprocessing?” We begin

in Section 2.1 by studying the various attribute types. These include nominal attributes,

binary attributes, ordinal attributes, and numeric attributes. Basic statistical descriptions

can be used to learn more about each attribute’s values, as described in Section 2.2.

Given a temperature attribute, for example, we can determine its mean (average value),

median (middle value), and mode (most common value). These are measures of

central tendency, which give us an idea of the “middle” or center of distribution.

Knowing such basic statistics regarding each attribute makes it easier to fill in missing

values, smooth noisy values, and spot outliers during data preprocessing. Knowledge of

the attributes and attribute values can also help in fixing inconsistencies incurred dur-

ing data integration. Plotting the measures of central tendency shows us if the data are

symmetric or skewed. Quantile plots, histograms, and scatter plots are other graphic dis-

plays of basic statistical descriptions. These can all be useful during data preprocessing

and can provide insight into areas for mining.

The field of data visualization provides many additional techniques for viewing data

through graphical means. These can help identify relations, trends, and biases “hidden”

in unstructured data sets. Techniques may be as simple as scatter-plot matrices (where

c 2012 Elsevier Inc. All rights reserved.

Data Mining: Concepts and Techniques

39

---

HAN

09-ch02-039-082-9780123814791

2011/6/1

3:15

Page 40

#2

40

Chapter 2 Getting to Know Your Data

two attributes are mapped onto a 2-D grid) to more sophisticated methods such as tree-

maps (where a hierarchical partitioning of the screen is displayed based on the attribute

values). Data visualization techniques are described in Section 2.3.

Finally, we may want to examine how similar (or dissimilar) data objects are. For

example, suppose we have a database where the data objects are patients, described by

their symptoms. We may want to find the similarity or dissimilarity between individ-

ual patients. Such information can allow us to find clusters of like patients within the

data set. The similarity/dissimilarity between objects may also be used to detect out-

liers in the data, or to perform nearest-neighbor classification. (Clustering is the topic

of Chapters 10 and 11, while nearest-neighbor classification is discussed in Chapter 9.)

There are many measures for assessing similarity and dissimilarity. In general, such mea-

sures are referred to as proximity measures. Think of the proximity of two objects as a

function of the distance between their attribute values, although proximity can also be

calculated based on probabilities rather than actual distance. Measures of data proximity

are described in Section 2.4.

In summary, by the end of this chapter, you will know the different attribute types

and basic statistical measures to describe the central tendency and dispersion (spread)

of attribute data. You will also know techniques to visualize attribute distributions and

how to compute the similarity or dissimilarity between objects.

2.1

Data Objects and Attribute Types

Data sets are made up of data objects. A data object represents an entity—in a sales

database, the objects may be customers, store items, and sales; in a medical database, the

objects may be patients; in a university database, the objects may be students, professors,

and courses. Data objects are typically described by attributes. Data objects can also be

referred to as samples, examples, instances, data points, or objects. If the data objects are

stored in a database, they are data tuples. That is, the rows of a database correspond to

the data objects, and the columns correspond to the attributes. In this section, we define

attributes and look at the various attribute types.

2.1.1

What Is an Attribute?

An attribute is a data field, representing a characteristic or feature of a data object. The

nouns attribute, dimension, feature, and variable are often used interchangeably in the

literature. The term dimension is commonly used in data warehousing. Machine learning

literature tends to use the term feature, while statisticians prefer the term variable. Data

mining and database professionals commonly use the term attribute, and we do here

as well. Attributes describing a customer object can include, for example, customer ID,

name, and address. Observed values for a given attribute are known as observations. A set

of attributes used to describe a given object is called an attribute vector (or feature vec-

tor). The distribution of data involving one attribute (or variable) is called univariate.

A bivariate distribution involves two attributes, and so on.

---