Аннотация. Данная тема раскрывает особенности построения моделей регрессии с дискретной зависимой переменной.
Ключевые слова. Логит-модель, пробит-модель, метод максимального правдоподобия, тест Вальда.
Методические рекомендации по изучению темы
· Тема содержит лекционную часть, где даются общие представления по теме.
· В качестве самостоятельной работы предлагается выполнить практические задания и ответить на вопросы для самоконтроля.
· Для проверки усвоения темы имеется тест для самоконтроля.
Рекомендуемые информационные ресурсы:
1. https://tulpar.kpfu.ru/mod/resource/view.php?id=11766
2. Эконометрика: учеб. / под ред. В. С. Мхитаряна.- М.: Проспект, 2008. – 384 с. С. 216-256.
4. Эконометрика. Практикум: [Электронный ресурс] Учебное пособие / С.А. Бородич. - М.: НИЦ ИНФРА-М; Мн.: Нов.знание, 2014. - 329 с. (https://znanium.com/catalog.php?item=booksearch&code=%D1%8D%D0%BA%D0%BE%D0%BD%D0%BE%D0%BC%D0%B5%D1%82%D1%80%D0%B8%D0%BA%D0%B0&page=4#none) С.257-273.
Глоссарий
Бинарная переменная - переменная, которая принимает лишь два значения: 0 и 1.
Вальда тест – тест для проверки гипотезы о значимости коэффициентов моделей бинарного выбора.
Дискретная зависимая переменная - зависимую переменная, которая принимает несколько альтернативных значений.
Логит-модель – модель с дискретной зависимой переменной, в основу которой положена функция стандартного нормального распределения.
Пробит-модель – модель с дискретной зависимой переменной, в основу которой положена функция логистического распределения.
Вопросы для изучения
1. Модели бинарного выбора.
2. Оценивание параметров моделей бинарного выбора.
3. Модели множественного выбора с упорядоченными альтернативами.
4. Модели множественного выбора с неупорядоченными альтернативами.
Модели бинарного выбора. Зависимую переменную, которая принимает несколько альтернативных значений, называют дискретной. В зависимости от числа альтернатив выделяют модели бинарного и множественного выбора. Чаще применяются модели бинарного выбора. Бинарная переменная принимает лишь два значения: 0 и 1. Выбор функции определяет тип бинарной модели. Если используют функцию стандартного нормального распределения
, то модель бинарного выбора называют пробит-моделью (probit model). Если используют функцию логистического распределения,
, то модель бинарного выбора называют логит-моделью (logit model).
Оценивание параметров моделей бинарного выбора. Для оценивания параметров b в моделях бинарного выбора обычно используют метод максимального правдоподобия. Общее уравнение правдоподобия:
Подставив получим:
Уравнение правдоподобия является системой нелинейных (относительно b) уравнений и решается обычно итерационными методами. Для пробит- и логит-моделей данная функция является вогнутой по b, следовательно, решение уравнения правдоподобия дает оценку максимального правдоподобия параметров bi. Унифицированного, как в линейной регрессии R2, показателя качества «подгонки» модели не существует. Пусть, log Lf - значение функции правдоподобия исходной модели, log Lc -значение функции правдоподобия той же модели с нулевыми параметрами, но с константой. Чем больше их разность, тем лучше должна быть модель. На этой идее основаны нижеследующие показатели качества модели:
Чем больше значение этих показателей, тем лучше модель. Данные показатели редко достигают значений, превышающих 0,5. Для проверки гипотезы о значимости коэффициентов моделей бинарного выбора применяют:
- тест Вальда (Wald test);
- тест множителей Лагранжа (Lagrange multiplier (LM) test);
- отношения правдоподобия (Likelihood ratio (LR) test).
Модели множественного выбора с упорядоченными альтернативами. Модели множественного выбора (multinomial, multi-response models) используются в тех случаях, когда имеется более чем две альтернативы. Различают: модели с упорядоченными альтернативами (ordered response models); модели с неупорядоченными альтернативами (unordered response models). Если существует логическое упорядочивание М альтернатив, то может использоваться дискретная модель с упорядоченными альтернативами. Эта модель основывается на предположении о существовании одной ненаблюдаемой латентной переменной Yi* :
Стандартное нормальное распределение остатков дает упорядоченную probit-модель (ordered probit model). Логистическое распределение остатков дает упорядоченную logit-модель (ordered logit model).
Модели множественного выбора с неупорядоченными альтернативами. В некоторых случаях не существует естественного упорядочивания между альтернативами. Например, при моделировании способа передвижения (автобус, поезд, машина, велосипед, пешком). Предполагается существование случайной полезности, которая влияет на выбор альтернатив. Случайные полезности являются линейными функциями от наблюдаемых характеристик и имеют аддитивно-разделяемую структуру.
Полезность:
mij - неслучайная функция наблюдаемых неизвестных параметров;
eij – ненаблюдаемый остаточный член.
Вопросы для самоконтроля
Вопросы для самоконтроля
1. В каких ситуациях фиктивная переменная используется в качестве зависимой переменной?
2. Какие законы распределения чаще всего используются в моделях бинарного выбора?
2. В чем суть логит-модели?
3. В чем суть пробит –модели?
4. Какова интерпретация коэффициентов моделей бинарного выбора?
5. Как осуществляется проверка значимости коэффициентов в модели бинарного выбора?
6. Как получить прогноз вероятности по логит-модели?
7. Как получить прогноз вероятности по пробит-модели?
8. Можно ли рассчитать по логит-модели коэффициент детерминации?
9. В чем отличие моделей упорядоченного и неупорядоченного выбора?
Лекция 15