Практическая работа №4: Изучение дискриминантного анализа

Цель работы

ознакомиться с методами дискриминантного анализа на основе пакета Statistica.

Основные теоретические положения

Дискриминантный анализ используется для принятия решения о том, какие переменные различают (дискриминируют) две или более возникающие совокупности (группы). Например, некий исследователь в области образования может захотеть исследовать, какие переменные относят выпускника средней школы к одной из трех категорий: (1) поступающий в колледж, (2) поступающий в профессиональную школу или (3) отказывающийся от дальнейшего образования или профессиональной подготовки. Для этой цели исследователь может собрать данные о различных переменных, связанных с учащимися школы. После выпуска большинство учащихся естественно должно попасть в одну из названных категорий. Затем можно использовать Дискриминантный анализ для определения того, какие переменные дают наилучшее предсказание выбора учащимися дальнейшего пути.
Медик может регистрировать различные переменные, относящиеся к состоянию больного, чтобы выяснить, какие переменные лучше предсказывают, что пациент, вероятно, выздоровел полностью (группа 1), частично (группа 2) или совсем не выздоровел (группа 3). Биолог может записать различные характеристики сходных типов (групп) цветов, чтобы затем провести анализ дискриминантной функции, наилучшим образом разделяющей типы или группы.
Функции классификации. Функции классификации предназначены для определения того, к какой группе наиболее вероятно может быть отнесен каждый объект. Имеется столько же функций классификации, сколько групп. Каждая функция позволяет вам для каждого образца и для каждой совокупности вычислить веса классификации по формуле: В этой формуле индекс обозначает соответствующую совокупность, а индекс обозначает переменную; являются константами для -ой совокупности, – веса для -ой переменной при вычислении показателя классификации для -ой совокупности; - наблюдаемое значение для соответствующего образца -ой переменной. Величина является результатом показателя классификации. Переменные с наибольшими регрессионными коэффициентами вносят наибольший вклад в дискриминацию.
Расстояние Махаланобиса является мерой расстояния между двумя точками в пространстве, определяемым двумя или более коррелированными переменными. Например, если имеются всего две некоррелированных переменные, то можно нанести точки (образцы) на стандартную диаграмму рассеяния. Расстояние Махаланобиса между точками будет в этом случае равно расстоянию Евклида, т.е. расстоянию, измеренному, например, рулеткой. Если имеются три некоррелированные переменные, то для определения расстояния вы можно по-прежнему использовать рулетку (на 3М диаграмме). При наличии более трех переменных вы не можете более представить расстояние на диаграмме. Также и в случае, когда переменные коррелированы, то оси на графике могут рассматриваться как неортогональные (они уже не направлены под прямыми углами друг к другу). В этом случае простое определение расстояния Евклида не подходит, в то время как расстояние Махаланобиса является адекватно определенным в случае наличия корреляций. Для расчёта ошибок классификации удобнее всего представить расстояние Махалонобиса, как симметричную матрицу с нулевой главной диагональю: , при . Элементы матрицы можно найти как: где и – вектора математических ожиданий для первого и второго класса соответственно, – ковариационная матрица. Вероятность ошибки можно определить следующим образом: где – функция ошибок.
Пошаговый анализ с включением. В пошаговом анализе дискриминантных функций модель дискриминации строится по шагам. Точнее, на каждом шаге просматриваются все переменные и находится та из них, которая вносит наибольший вклад в различие между совокупностями. Эта переменная должна быть включена в модель на данном шаге, и происходит переход к следующему шагу.
Пошаговый анализ с исключением. Можно также двигаться в обратном направлении, в этом случае все переменные будут сначала включены в модель, а затем на каждом шаге будут устраняться переменные, вносящие малый вклад в предсказания. Тогда в качестве результата успешного анализа можно сохранить только “важные” переменные в модели, то есть те переменные, чей вклад в дискриминацию больше остальных. Эта пошаговая процедура “руководствуется” соответствующим значением для включения и соответствующим значением для исключения. Значение статистики для переменной указывает на ее статистическую значимость при дискриминации между совокупностями, то есть, она является мерой вклада переменной в предсказание членства в совокупности.

Общая формулировка задачи

Провести исследование по построению дискриминантных функции для имеющихся экспериментальных данных.

Подготовить самостоятельно модельные примеры из многомерных нормальных векторов с заданными векторами математического ожидания и ковариационной матрицей.

Провести эксперименты по классификации на модельных примерах аналогично описанным выше. Провести теоретический расчет ошибок классификации для модельных примеров и сравнить их с результатами, полученными в Statistica.

Порядок выполнения работы

1. Построение дискриминантных функций

В системе Statistica в панели Statistics (Анализ) → Multivariate Exploratory Techniques (Многомерный анализ) выбрать пункт Discriminant (Дискриминантный анализ).

Выбрать переменные Variables, указать номер группирующей переменной и независимых переменных.

В появившемся окне появляется панель с единственной закладкой Quick (Быстрый). Выбрать Variables (Переменные), в первом окне в качестве группирующей переменной указать класс (как правило, последняя переменная), во втором окне выбрать все остальные переменные.

Запустить дискриминантный анализ нажатием на клавишу ОК. В окне Discriminant Function Analysis (Результаты анализа дискриминантных функций) во вкладке Quick (Быстрый) нажать «Summary: Variables in Model» (Переменные в модели). Получены результаты дискриминантного анализа.

Просмотреть результаты дискриминантного анализа в окне Discriminant Function Analysis (Результаты анализа дискриминантных функций) во вкладке Classification (Классификация):

Unordered List ItemVariables in model (Переменные в модели);

Classification matrix (Матрица классификации);

Classification cases (Классификация наблюдений);

Classification functions (Функции классификации).

Сохранить результаты для отчета.

2. Метод дискриминантного анализа с включением переменных

Запустить дискриминантный анализ аналогично пункту 1, выбрать переменные для анализа. Указать опцию «Advanced option» (Дополнительные параметры).

В окне «Model Definition» (Определение модели) на вкладке «Quick» (Быстрый) выбрать метод «Forward stepwise» (Пошаговый с включением). На вкладке «Advanced» (Дополнительно) установить F – включения равным 4.0, а также Display results – At each step (Вывод результатов – На каждом шаге).

Нажать Next, тем самым перейдя к первому шагу.

Выполнить все шаги, вывести таблицы из пункта 1 в отчет.

Сравнить результаты, полученные на последнем шаге с результатами из пункта 1.

3. Метод дискриминантного анализа с исключением переменных

Выполнить действия, описанные в пункте 2, со следующими изменениями:

Выбрать метод «Backward stepwise» (Пошаговый с исключением).

На вкладке «Advanced» (Дополнительно) установить F-исключения равным 3.9.

Выполнить все шаги, вывести таблицы из пункта 1 в отчет.

Сравнить результаты, полученные на последнем шаге, с результатами из пп. 1 и 2.

4. Разработка статистической модели данных

Подготовить самостоятельно модельные примеры из многомерных нормальных векторов с заданными векторами математического ожидания и ковариационной матрицей.

Провести эксперименты по классификации на модельных примерах аналогично описанным выше. Провести теоретический расчет ошибок классификации для модельных примеров и сравнить их с результатами, полученными по программе Statistica.

Задание на разработку статистических данных

Модель представляет собой набор многомерных векторов , , имеющих заданные вектора математических ожиданий , и заданные ковариационные матрицы (одинаковые по классам), которые имеют вид . Компоненты векторов имеют нормальное распределение. Количество классов равно .

№ варианта	Размерность	Объём выборки по классу	Вектора	Значения	Количество классов
1	2	100	2
2	2	300	3
3	3	150	2
4	3	150	3
5	2	200	2
6	2	250	3
7	3	100	2
8	3	200	3
9	2	250	2
10	2	180	3
11	3	200	2
12	3	150	3