Деревья решений – это способ представления правил в иерархической, последовательной структуре, где каждому объекту соответствует единственный узел, дающий решение.
Под правилом понимается логическая конструкция, представленная в виде "если... то...".
Область применения деревья решений в настоящее время широка, но все задачи, решаемые этим аппаратом могут быть объединены в следующие три класса:
Описание данных: Деревья решений позволяют хранить информацию о данных в компактной форме, вместо них мы можем хранить дерево решений, которое содержит точное описание объектов.
Классификация: Деревья решений отлично справляются с задачами классификации, т.е. отнесения объектов к одному из заранее известных классов. Целевая переменная должна иметь дискретные значения.
Регрессия: Если целевая переменная имеет непрерывные значения, деревья решений позволяют установить зависимость целевой переменной от независимых (входных) переменных. Например, к этому классу относятся задачи численного прогнозирования(предсказания значений целевой переменной) 15.
Чем больше частных случаев описано в дереве решений, тем меньшее количество объектов попадает в каждый частный случай. Такие деревья называют "ветвистыми" или "кустистыми", они состоят из неоправданно большого числа узлов и ветвей, исходное множество разбивается на большое число подмножеств, состоящих из очень малого числа объектов. В результате "переполнения" таких деревьев их способность к обобщению уменьшается, и построенные модели не могут давать верные ответы.
В процессе построения дерева, чтобы его размеры не стали чрезмерно большими, используют специальные процедуры, которые позволяют создавать оптимальные деревья, так называемые деревья "подходящих размеров".
|
|
Дерево должно быть достаточно сложным, чтобы учитывать информацию из исследуемого набора данных, но одновременно оно должно быть достаточно простым.
Тут существует две возможные стратегии. Первая состоит в наращивании дерева до определенного размера в соответствии с параметрами, заданными пользователем. Определение этих параметров может основываться на опыте и интуиции аналитика, а также на некоторых "диагностических сообщениях" системы, конструирующей дерево решений.
Вторая стратегия состоит в использовании набора процедур, определяющих "подходящий размер" дерева, они разработаны Бриманом, Куилендом и др. в 1984 году. Однако, как отмечают авторы, нельзя сказать, что эти процедуры доступны начинающему пользователю 8.
Процедуры, которые используют для предотвращения создания чрезмерно больших деревьев, включают: сокращение дерева путем отсечения ветвей; использование правил остановки обучения.
Следует отметить, что не все алгоритмы при конструировании дерева работают по одной схеме. Некоторые алгоритмы включают два отдельных последовательных этапа: построение дерева и его сокращение; другие чередуют эти этапы в процессе своей работы для предотвращения наращивания внутренних узлов.
При построении деревьев решений особое внимание уделяется следующим вопросам: выбору критерия атрибута, по которому пойдет разбиение, остановки обучения и отсечения ветвей.
Процесс создания дерева происходит сверху вниз, т.е. является нисходящим. В ходе процесса алгоритм должен найти такой критерий расщепления, иногда также называемый критерием разбиения, чтобы разбить множество на подмножества, которые бы ассоциировались с данным узлом проверки. Каждый узел проверки должен быть помечен определенным атрибутом. Существует правило выбора атрибута: он должен разбивать исходное множество данных таким образом, чтобы объекты подмножеств, получаемых в результате этого разбиения, являлись представителями одного класса или же были максимально приближены к такому разбиению. Последняя фраза означает, что количество объектов из других классов, так называемых "примесей", в каждом классе должно стремиться к минимуму.
|
|
Существуют различные критерии расщепления. Наиболее известные - мера энтропии и индекс Gini.
В некоторых методах для выбора атрибута расщепления используется так называемая мера информативности подпространств атрибутов, которая основывается на энтропийном подходе и известна под названием "мера информационного выигрыша" или мера энтропии.
Решением проблемы слишком ветвистого дерева является его сокращение путем отсечения некоторых ветвей.
Качество классификационной модели, построенной при помощи дерева решений, характеризуется двумя основными признаками: точностью распознавания и ошибкой.
Точность распознавания рассчитывается как отношение объектов, правильно классифицированных в процессе обучения, к общему количеству объектов набора данных, которые принимали участие в обучении.
|
|
Ошибка рассчитывается как отношение объектов, неправильно классифицированных в процессе обучения, к общему количеству объектов набора данных, которые принимали участие в обучении.
Отсечение ветвей или замену некоторых ветвей поддеревом следует проводить там, где эта процедура не приводит к возрастанию ошибки. Процесс проходит снизу вверх, т.е. является восходящим. Это более популярная процедура, чем использование правил остановки. Деревья, получаемые после отсечения некоторых ветвей, называют усеченными.
Если такое усеченное дерево все еще не является интуитивным и сложно для понимания, используют извлечение правил, которые объединяют в наборы для описания классов. Каждый путь от корня дерева до его вершины или листа дает одно правило. Условиями правила являются проверки на внутренних узлах дерева 2.
Рассмотрим вышесказанное на примере дерева классификации, с помощью которого решается задача "Принять на работу гражданина К?". Она является типичной задачей классификации, и при помощи деревьев решений получают достаточно хорошие варианты ее решения.
Внутренние узлы дерева (возраст, стаж работы и образование) являются атрибутами описанной выше базы данных. Эти атрибуты называют прогнозирующими, или атрибутами расщепления. Конечные узлы дерева, или листы, именуются метками класса, являющимися значениями зависимой категориальной переменной "принять" или " не принять" на работу.
Каждая ветвь дерева, идущая от внутреннего узла, отмечена предикатом расщепления. Последний может относиться лишь к одному атрибуту расщепления данного узла. Характерная особенность предикатов расщепления: каждая запись использует уникальный путь от корня дерева только к одному узлу-решению. Объединенная информация об атрибутах расщепления и предикатах расщепления в узле называется критерием расщепления.
Например, критерий расщепления "Какое образование?", мог бы иметь два предиката расщепления и выглядеть иначе: образование "высшее" и "не высшее". Тогда дерево решений имело бы другой вид.
Таким образом, для данной задачи (как и для любой другой) может быть построено множество деревьев решений различного качества, с различной прогнозирующей точностью.
Качество построенного дерева решения весьма зависит от правильного выбора критерия расщепления. Над разработкой и усовершенствованием критериев работают многие исследователи.
Метод деревьев решений часто называют "наивным" подходом. Но благодаря целому ряду преимуществ, данный метод является одним из наиболее популярных для решения задач классификации.
ЗАКЛЮЧЕНИЕ
Принимать решения приходится руководителям, специалистам, рабочим, экспертам, консультантам, аналитикам – всем, от кого зависит эффективность работы организации, руководствуясь различными методами, факторами, в зависимость от преследуемой цели. При этом лица, принимающие решения, должны учитывать интересы и предпочтения всех заинтересованных сторон, а также привлекать для обоснования решений логику и расчеты.
Управленческие решения оказывают непосредственное влияние на все виды управленческой деятельности. Качество и эффективность управленческих решений выступают характеристиками деятельности менеджера и аппарата управления: разработки и реализации программ и планов деятельности, функционирования системы управления, достижения целей и стратегий управления, осуществления инновационных, инвестиционных, производственных, маркетинговых процессов управления.
Используя различные механизмы для принятия обоснованных управленческих решений, менеджеры предприятия руководствуются этапами, факторами и моделями для того чтобы добиться поставленной цели.
Для принятия того или иного решения, используют также метод называемый «дерево решений», использую данный метод можно строить множество деревьев решений различного качества, с различной прогнозирующей точностью.
Удачный менеджер отличается от неудачного менеджера качеством принимаемых решений. Наиболее важными для него факторами являются результат и эффективность. Результативность управленческих решений определяется тем, насколько принятое решение соответствует стоящей перед менеджером проблеме и тем, как он отнесется к ее решению. Для повышения результативности принимаемых решений менеджеру необходимо научиться правильно, формулировать управленческие проблемы и определять причины их возникновения.
СПИСОК ЛИТЕРАТУРЫ
1. Виханский О.С, Наумов А.И. Менеджмент: Учебник, 4-е изд, 2006 г
2. Гольдштейн Г.Я. Основы менеджмента
Таганрог: Изд-во ТРТУ, 1997 г.
3. Кузнецов Ю.В., В.И. Подлесных Основы менеджмента: Учебник, Санкт-Петербург: ОЛБИС, 1997 г.
4. Ларичев О.И. Теория и методы принятия решений: Учебник, 2000г.
5. Литвак Б. Г. Экспертные оценки и принятие решений. М.. Патент, 1996 г.
6. Литвак Б.Г. Разработка управленческого решения: Учебник, 3-е изд., 2002 г.
7. Макареня Т.А. Организация и планирование производства
Таганрог: ТТИ ЮФУ, 2007
8. Мескон А. Основы менеджмента: пер.с англ.: А. Мескон, М. Альберт, Ф. Хедоури, Москва: Дело, 1992 г.
9. Мескон М. X., Альберт М., Хедоури Ф. Основы менеджмента. М.. Дело, 1998 г.
10. Михайлов В. И. Как принимать решения: Учеб. Пособие, Санкт – Петербург: Химера, 1999 г.
11. Рейльян Я. Р. Аналитическая основа принятия управленческих решений. М.: Финансы и статистика, 1989 г.
12. Смирнов Э. А. Разработка управленческих решений: Учебник для
13. Фатхутдинов Р. А. Инновационный менеджмент: Учебник. 3-е изд., перераб. и доп., М.; Санкт – Петербург: Питер, 2002 г.
14. Фатхутдинов Р.А. Управленческие решения: Учебник, 5 -е изд., 2002 г.
15. Цыгичко В. Н. Руководителю — о принятии решений. 2-е изд., М.- ИНФРА-М, 1996 г.