Индуктивное смещение
- Индуктивное смещение алгоритма обучения — набор допущений, используемых для прогнозирования результатов при неизвестных входных данных.
- Индуктивное смещение заставляет алгоритм изучать один шаблон вместо другого.
- Обучение включает поиск множества решений, которые позволят лучше объяснить данные или получить более высокую награду.
- Во многих случаях существует несколько одинаково хороших решений, и индуктивное смещение позволяет алгоритму обучения отдавать предпочтение одному решению.
- В машинном обучении одна из целей заключается в создании алгоритмов, способных предсказывать определенный целевой результат.
- Индуктивное смещение связано с предположением о природе целевой функции.
- Классическим примером индуктивного смещения является бритва Оккама, предполагающая, что простейшая непротиворечивая гипотеза о целевой функции является наилучшей.
- Подходы к определению индуктивного смещения основаны на математической логике, но строгий формализм терпит неудачу во многих практических случаях.
- Существуют различные распространенные индуктивные искажения в алгоритмах машинного обучения, включая максимальную условную независимость, минимальную ошибку перекрестной проверки и максимальное поле.
Полный текст статьи: