Идентификация по множеству признаков. Использование нейросети (Identification by multiple features. Using neural network)

Автор: | 17.03.2019

Постановка задачи
Однослойная нейросеть
Нейроеть с промежуточным слоем из пар конкурентов
Полезные ссылки

Постановка задачи

Ниже исследуются возможности решения задачи идентификации по множеству признаков с помощью нейронной сети (НС).

Распознающую систему представим в виде «чёрного ящика». У этого ящика есть n входов, на которые подаются значения признаков субъекта для распознавания x={x1,x2,…,xn} и k выходов y={y1,…,yk} (по числу претендентов для распознавания). Значение выходов — вещественные числа из диапазона [0…1].

Система считается правильно настроенной, если при подаче на входы признаков, соответствующих i-тому претенденту, значение i-того выхода равно 1, а всех остальных — 0.

На практике такого результата добиться трудно и все выходы оказываются отличными от нуля. Тогда считается что номер выхода с максимальным значением и есть номер претендента, а близость этого значения к единице говорит о «степени уверенности» системы.

Однослойная сеть

Представим содержимое «чёрного ящика» в виде однослойной сети с 3-мя нейронами. 

Сеть моделирует распознавание субъекта  среди 3-х претендентов по 2-м признакам.

В каждом из нейронов определяется сумма оценок признаков

d = w1 + … + wn

Результат d приводится к диапазону [0 … 1] при помощи функции активации  y=S(d) (нелинейной сигмоидальной функции).

Число е ≈ 2,71828.

alpha – параметр наклона сигмоидальной функции S(d). Чем больше этот параметр, тем круче функция (угол касательной в точке перегиба функции будет больше).

Пример нейронной сети с одинаковыми по модулю весами сигналов (wi =1) при alpha =1:

Красная прямая отображает положение  субъекта распознавания на шкале допусков признаков претендентов.

Модуль веса сигнала wi определяет степень влияния входа i на выход нейрона, а знак – характер влияния. Вес положительный для возбуждающих (+) и отрицательный (-) для тормозящих связей. Возбуждающая (тормозящая) связь — если признак субъекта совпадает (не совпадает) с признаком претендента.

Пример нейронной сети с одинаковыми по модулю весами сигналов, но при этом значения признака 1 у претендентов 1 и 2 пересекаются.

Веса сигналов могут быть  определены более точно, например, на основе  средневзвешенной оценки веса признаков.

Как видим, при уточнении веса сигналов степень достоверности определения победителя (0.84) уменьшилась по сравнению с предыдущим примером (0.88). Однако, степень достоверности  обычно  оценивают как сумму квадратов ошибок по всем выходам. Для второго примера она лучше (см. Подбор веса связей через оптимизацию погрешности выходных сигналов).

Нейросеть с промежуточным слоем из пар конкурентов

Выше рассматривалась сеть, где вес сигнала зависел только лишь от признака. Но он может зависеть и от претендентов. Для одной пары конкурирующих претендентов на сходство с субъектом сигнал от одного и того же признака может быть сильным (по признаку проходит  только один претендент), для другой пары сигнал от того же признака может быть слабым (по признаку проходят два или более претендентов).

Пример 1.

На рисунке схематично представлены значения допусков 2-х признаков у 3 претендентов. Красной прямой обозначено значение признака субъекта распознавания.

В соответствии с этой схемой создадим нейронную сеть с промежуточным слоем из комбинации пар претендентов.

На вход нейросети поступают сигналы от признаков для каждой из возможных комбинаций пар претендентов. Веса сигналов:

  • 1 — в случае, если по признаку проходит только один претендент из пары. При этом вес сигнала для конкурента в паре -1.
  • 0 (каждому претенденту пары) — в случае, если по признаку проходят оба претендента.
  • -1 (каждому претенденту пары) — в случае, если по признаку не проходят оба претендента.

На промежуточном слое по сумме весов сигналов от признаков формируются сигналы для передачи на выходной слой при помощи линейной функции активации.

В выходном слое сигналы, полученные с промежуточного слоя, суммируются  и обрабатываются при помощи нелинейной сигмоидальной функции  y=S(d).

Как видим при нейросети с промежуточным слоем степень достоверности определения победителя (0.95) увеличилась по сравнению с предыдущим примером (0.84).

Пример 2

Немного изменим схему, обеспечим совпадение 2-го признака с признаком субъекта у 3-го претендента.

Для этой схемы получим следующие результаты:

Пример 3

В последнем примере 1-й и 2-й претенденты получили на выходе НС одинаковую оценку (0.27). Чтобы изменить результат в пользу одного из претендентов выполним переоценку веса 1-го признака пары (был равен 0), составленной из 1-го и 2-го претендентов, на основе треугольного закона распределения.

Оценку 1-го признака для пары 1-го и 2-го претендентов будем распределять не поровну как в предыдущем примере, а пропорционально  высотам h сечения треугольников вероятностей.

Красная прямая (секущая) отображает положение  субъекта распознавания на шкале допусков признаков претендентов.

Допустим, h1 =10,  h2 =15. Тогда относительные доли значения на признак каждого претендента определяются: h1′ = 0.4,  h2′ = 0.7. Диапазон изменения веса признака в НС равен 2 (от -1 до +1). Соответственно с долями значений на признак (0.4 и 0.7) веса признаков будут следующими:

w1= -1 + 0.4 * 2 = — 0.2;       w2 = -1 + 0.7*2 = 0.4.

В примерах 1 и 2 доля признака 2-х конкурирующих претендентов считалась равной 0.5 и соответственно этому вес каждого признака w = -1 + 0.5*2 = 0.

Изменив веса  1-го признака для пары 1-го и 2-го претендентов получим следующие результаты в НС:

Приводим нейросеть (пример 3) к надлежащему виду с двумя входами вместо 6:

Штрихпунктирной линией обозначены несуществующие связи. Вес сигнала для них 0.

Полезные ссылки:

 

Автор: Николай Свирневский

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *