Лекция: Анализ нормализации (2 уровня). Поле восприятия. Адаптивные веса. Закон Кохонена.

Анализ нормализации

Ответ нейрон i:

В устойчивом состоянии:

Определяем относительную интенсивность:

Деятельность нейрона в устойчивом состоянии:

Общая активность:

Поле восприятия

Когда ориентируемое поле восприятия используется вместо on-center/off-surround поля восприятия, проблема сегментации на стадии становления может быть разрешена.

Адаптивные веса

Правило Хебба с затуханием

Правило Инстар / Instar Rule (Gated Learning)

обучение проходит когда ni2(t) активен

Правило Инстар в векторной форме:

Самоорганизация сетей, обучающихся по закону Кохонена, осуществляется через процедуру “конкурентного обучения”. Отличительной чертой такого типа обучения является то, что в процессе обучения сети каждому конкретному входному образу модификации подлежат не все весовые векторы сети, а лишь выделенные в результате специальной процедуры, которая и называется “конкуренцией”. Цель процедуры конкурентного обучения — аппроксимация функции плотности вероятности входных векторов значениями весовых векторов. Каждый нейрон выходного слоя сети становится максимально чувствительным к определенному входному вектору, причем веса будут вычислены так, что топологически близкие нейроны окажутся чувствительными к физически сходным входным образам.

Каждый нейрон Кохонена слоя Кохонена (рис. 2.3) вычисляет свою входную интенсивность, где,, а — Евклидова метрика.

После вычисления интенсивности начинается поиск наименьшей из входных интенсивностей, т.е. поиск нейрона, для которого ближе всех расположен к в смысле .

Рис. 2.3.Слой Кохонена

Независимо от конкретной процедуры конкуренции значением выходного сигнала победившего нейрона становится 1, а значениями выходных сигналов остальных нейронов — 0. С этого момента начинается обучение.