Читать онлайн «Математические методы обучения по прецедентам (теория обучения машин)»

Математические методы обучения по прецедентам (теория обучения машин) К. В. Перепечатка фрагментов данного материала без согласия автора является плагиатом. Содержание 1 Введение: задачи обучения по прецедентам 4 §1. 1 Основные понятия и определения . . . . . . . . . . . . . . . . . . . . . . 4 1. 1. 1 Объекты и признаки . . . . . . . . . . . . . . . . . . . . . . . . . 4 1. 1. 2 Ответы и типы задач . . . . . . . . . . . . . . . . . . . . . . . . . 5 1. 1. 3 Модель алгоритмов и метод обучения . . . . . . . . . . . . . . . . 5 1. 1. 4 Функционал качества . . . . . . . . . . . . . . . . . . . . . . . . . 6 1. 1. 5 Вероятностная постановка задачи обучения . . . . . . . . . . . . 7 1. 1. 6 Проблема переобучения и понятие обобщающей способности . . 8 §1. 2 Примеры прикладных задач . . . . . . . . . . . . . . . . . . . . . . . . . 9 1. 2. 1 Задачи классификации . . . . . . . . . . . . . . . . . . . . . . . . 9 1. 2. 2 Задачи восстановления регрессии . . . . . . . . . . . . . . . . . . 11 1. 2. 3 Задачи ранжирования . . . . . . . . . . . . . . . . . . . . . . . . . 12 1. 2. 4 Задачи кластеризации . . . . . . . . . . . . . . . . . . . . . . . . . 13 1. 2. 5 Задачи поиска ассоциаций . . . . . . . . . . . . . . . . . . . . . . 14 1. 2. 6 Методология тестирования обучаемых алгоритмов . . . . . . . . 14 1. 2. 7 Приёмы генерации модельных данных . . . . . . . . . . . . . . . 16 2 Байесовские методы классификации 18 §2. 1 Вероятностная постановка задачи классификации . . . . . . . . . . . . 18 2. 1. 1 Функционал среднего риска . . . . . . . . . . . . . . . . . . . . . 18 2. 1. 2 Оптимальное байесовское решающее правило . . . . . . . . . . . 19 2. 1. 3 Задача восстановления плотности распределения . . . . . . . . . 21 §2. 2 Непараметрическая классификация . . . . . . . . . . . . . . . . . . . . . 22 2. 2. 1 Непараметрические оценки плотности . . . . . . . . . . . . . . . 22 2. 2. 2 Метод парзеновского окна . . . . . . . . . . . . . . . . . . . . . . 23 §2. 3 Нормальный дискриминантный анализ . . . . . . . . . . . . . . . . . . . 25 2. 3. 1 Многомерное нормальное распределение . . . . . . . . . . . . . . 25 2. 3. 2 Квадратичный дискриминант . . . . . . . . . . . . . . . . . . . . 26 2. 3. 3 Линейный дискриминант Фишера . . . . . . . . . . . . . . . . . . 29 §2. 4 Разделение смеси распределений . . . . . . . . . . . . . . . . . . . . . . . 32 2. 4. 1 EM-алгоритм . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2. 4. 2 Смеси многомерных нормальных распределений . . . . . . . . . 37 2 К.