Рассмотрим  более сложный пример. База данных, на основе которой должно осуществляться прогнозирование, содержит следующие  ретроспективные данные о клиентах банка, являющиеся ее атрибутами: возраст, наличие недвижимости, образование, среднемесячный доход, вернул ли клиент вовремя кредит. Задача состоит в том, чтобы на основании перечисленных выше данных (кроме последнего атрибута) определить, стоит ли выдавать кредит новому клиенту.

     На  этапе построения модели, собственно, и строится дерево классификации или создается набор неких правил. На этапе использования модели построенное дерево, или путь от его корня к одной из вершин, являющийся набором правил для конкретного клиента, используется для ответа на поставленный вопрос «Выдавать ли кредит?»

     Правилом является логическая конструкция, представленная в виде «если : то :»

     На  рис. 3. приведен пример дерева классификации, с помощью которого решается задача «Выдавать ли кредит клиенту?». Она является типичной задачей классификации, и при помощи деревьев решений получают достаточно хорошие варианты ее решения.

     Как видно из рисунка, внутренние узлы дерева (возраст, наличие недвижимости, доход  и образование) являются атрибутами описанной выше базы данных. Эти  атрибуты называют прогнозирующими, или  атрибутами расщепления. Конечные узлы дерева, или листы, именуются метками класса, являющимися значениями зависимой категориальной переменной «выдавать» или «не выдавать» кредит.

     На  рис3. изображено одно из возможных  деревьев решений для рассматриваемой  базы данных. Например, критерий расщепления «Какое образование?», мог бы иметь два предиката расщепления и выглядеть иначе: образование «высшее» и «не высшее». Тогда дерево решений имело бы другой вид.

     Таким образом, для данной задачи (как и  для любой другой) может быть построено множество деревьев решений различного качества, с различной прогнозирующей точностью.

     

     Рис. 3 Дерево решений «Выдавать ли кредит?»

     Качество  построенного дерева решения весьма зависит от правильного выбора критерия расщепления. Над разработкой и усовершенствованием критериев работают многие исследователи.

     Метод деревьев решений часто называют «наивным» подходом. Но благодаря целому ряду преимуществ, данный метод является одним из наиболее популярных для решения задач классификации.

3. Преимущества  деревьев решений

 

     Интуитивность деревьев решений. Классификационная  модель, представленная в виде дерева решений, является интуитивной и  упрощает понимание решаемой задачи. Результат работы алгоритмов конструирования  деревьев решений, в отличие, например, от нейронных сетей, представляющих собой «черные ящики», легко интерпретируется пользователем. Дерево решений позволяет понять и объяснить, почему конкретный объект относится к тому или иному классу.

     Деревья решений дают возможность извлекать  правила из базы данных на естественном языке. Пример правила: Если Возраст > 35 и Доход > 200, то выдать кредит.

     Деревья решений позволяют создавать  классификационные модели в тех  областях, где аналитику достаточно сложно формализовать знания.

     Алгоритм  конструирования дерева решений не требует от пользователя выбора входных атрибутов (независимых переменных). На вход алгоритма можно подавать все существующие атрибуты, алгоритм сам выберет наиболее значимые среди них, и только они будут использованы для построения дерева.

     Точность  моделей, созданных при помощи деревьев решений, сопоставима с другими  методами построения классификационных  моделей (статистические методы, нейронные  сети).

     Разработан  ряд масштабируемых алгоритмов, которые  могут быть использованы для построения деревьев решения на сверхбольших базах данных; масштабируемость здесь означает, что с ростом числа примеров или записей базы данных время, затрачиваемое на обучение, т.е. построение деревьев решений, растет линейно. Примеры таких алгоритмов: SLIQ, SPRINT. [13, с. 116]

     Большинство алгоритмов конструирования деревьев решений имеют возможность специальной  обработки пропущенных значений.

     Многие  классические статистические методы, при помощи которых решаются задачи классификации, могут работать только с числовыми данными, в то время как деревья решений работают и с числовыми, и с категориальными типами данных.

     Какой размер дерева может считаться оптимальным? Дерево должно быть достаточно сложным, чтобы учитывать информацию из исследуемого набора данных, но одновременно оно должно быть достаточно простым. Другими словами, дерево должно использовать информацию, улучшающую качество модели, и игнорировать ту информацию, которая ее не улучшает.

     Тут существует две возможные стратегии.

     Первая  состоит в наращивании дерева до определенного размера в соответствии с параметрами, заданными пользователем. Определение этих параметров может основываться на опыте и интуиции аналитика, а также на некоторых «диагностических сообщениях» системы, конструирующей дерево решений.

     Вторая стратегия состоит в использовании набора процедур, определяющих «подходящий размер» дерева, они разработаны Бриманом, Куилендом и др. в 1984 году. Однако, как отмечают авторы, нельзя сказать, что эти процедуры доступны начинающему пользователю. [13, с. 131]

     Процедуры, которые используют для предотвращения создания чрезмерно больших деревьев, включают: сокращение дерева путем  отсечения ветвей; использование  правил остановки обучения.

     Остановка построения дерева. Следует рассмотреть правило остановки. Оно должно определить, является ли рассматриваемый узел внутренним узлом, при этом он будет разбиваться дальше, или же он является конечным узлом, т.е. узлом решением.

     Остановка – такой момент в процессе построения дерева, когда следует прекратить дальнейшие ветвления.

     Один  из вариантов правил остановки –  «ранняя остановка», она определяет целесообразность разбиения узла. Преимущество использования такого варианта – уменьшение времени на обучение модели. Однако здесь возникает риск снижения точности классификации. Поэтому рекомендуется «вместо остановки использовать отсечение».

     Второй  вариант остановки обучения –  ограничение глубины дерева. В  этом случае построение заканчивается, если достигнута заданная глубина.

     Еще один вариант остановки – задание  минимального количества примеров, которые будут содержаться в конечных узлах дерева. При этом варианте ветвления продолжаются до того момента, пока все конечные узлы дерева не будут чистыми или будут содержать не более чем заданное число объектов. [22, с. 132]

     Качество классификационной модели, построенной при помощи дерева решений, характеризуется двумя основными признаками: точностью распознавания и ошибкой.

     Точность  распознавания рассчитывается как  отношение объектов, правильно классифицированных в процессе обучения, к общему количеству объектов набора данных, которые принимали участие в обучении.

     Ошибка  рассчитывается как отношение объектов, неправильно классифицированных в  процессе обучения, к общему количеству объектов набора данных, которые принимали  участие в обучении.

     Отсечение ветвей или замену некоторых ветвей поддеревом следует проводить там, где эта процедура не приводит к возрастанию ошибки. Процесс  проходит снизу вверх, т.е. является восходящим. Это более популярная процедура, чем использование правил остановки. Деревья, получаемые после отсечения некоторых ветвей, называют усеченными.

     Если  такое усеченное дерево все еще  не является интуитивным и сложно для понимания, используют извлечение правил, которые объединяют в наборы для описания классов. Каждый путь от корня дерева до его вершины или листа дает одно правило. Условиями правила являются проверки на внутренних узлах дерева.

     Ни  один алгоритм построения дерева нельзя априори считать наилучшим или  совершенным, подтверждение целесообразности использования конкретного алгоритма должно быть проверено и подтверждено экспериментом.

     В данной главе рассмотрен метод деревьев решений; определить его кратко можно как иерархическое, гибкое средство предсказания принадлежности объектов к определенному классу или прогнозирования значений числовых переменных.

     Качество  работы рассмотренного метода деревьев решений зависит как от выбора алгоритма, так и от набора исследуемых  данных. Несмотря на все преимущества данного метода, следует помнить, что для того, чтобы построить качественную модель, необходимо понимать природу взаимосвязи между зависимыми и независимыми переменными и подготовить достаточный набор данных. 
 
 
 
 
 
 
 
 
 
 
 
 
 

Глава 3. ПРИМЕНЕНИЕ ДЕРЕВА РЕШЕНИЙ ДЛЯ ОЦЕНКИ КРЕДИТОСПОСОБНОСТИ КЛИЕНТОВ БАНКА МОСКВЫ

1.   Характеристика ОАО « Банка Москвы»

 

     ОАО Банк Москвы – один из крупнейших российских банков. Он располагает 32 отделениями  в Москве и Московской области  и 41 филиалом в крупнейших городах  – административных центрах России, в том числе Пермском крае, городе Перми.

     С помощью филиалов во всех экономически важных регионах России и развития корреспондентских отношений с  ведущими банками мира Банк Москвы помогает своим клиентам продвигать их собственный бизнес, расширяет  их присутствие через свои филиалы  в крупнейших городах страны и международных центрах. Банк обслуживание более 40 тысяч клиентов – юридических лиц и свыше 400 тысяч физических лиц (вместе с филиалами).

     Масштабы  деятельности Банка позволяют ему  выступать в роли надежного партнера при реализации крупных социально-экономических проектов. Банк Москвы занимает лидирующее положение на рынке инвестиционного обеспечения городских программ. По своим финансовым показателям банк Москвы уверенно входит в первую десятку ведущих российских банков.

     Отличительной особенностью деятельности Банка в столице и регионах является его ориентация на поддержку их социально-экономического развития. Банк Москвы уполномочен осуществлять выплату пенсий и пособий.

     Выполняя  уставные задачи, Банк руководствуется  приоритетом развития экономического и финансового потенциала г. Москвы и других регионов Российской Федерации, поддерживает муниципальные программы.

     В числе муниципальных клиентов банка  Москвы – Департаменты и Управления Правительства Москвы (в т.ч. финансов, экономической политики и развития, продовольственных ресурсов, муниципального жилья), Комитет муниципальных займов и развития фондового рынка, финансово-хозяйственное управление Мэрии, отделения пенсионного фонда РФ, отделения социального страхования РФ, налоговые инспекции города Москвы и финансовые управления административных округов.

     Среди клиентов Банка на территории Пермского края, города Перми бюджетные организации и внебюджетные фонды, налоговые инспекции, акционерные общества, иностранные фирмы и их представительства, физические лица.

     Пермский филиал ОАО « Банка Москвы» создан на основании решения Совета директоров Банка 30 ноября 1999 года и действует в соответствии с Уставом Банка, Положением о филиале и законодательством Российской Федерации. Создание филиала содействовало такой стратегической задачи развития банка, как обслуживание финансовых и товарных потоков в рамках проектов и программ, реализуемых в соответствии с соглашениями, договорами и протоколами между Правительством Москвы и Администрацией Пермского края. В 2000 году был открыт первый дополнительный офис Пермского филиала по адресу: 614000, г. Пермь, ул. 1-ая Красноармейская, д.40.

     В своей повседневной деятельности филиал руководствуется нормативными требованиями Центрального банка РФ, Министерства финансов и других министерств и ведомств федерального и регионального уровня в части, касающейся специфики деятельности подразделения. Филиал имеет отдельный баланс, входящий в состав общего баланса Банка. Для организации и ведения своей деятельности филиал открывает корреспондентский субсчет в подразделении расчетной сети Банка России и корреспондентские счета в коммерческих банках, установленных законодательными актами Российской Федерации.