Нейрокомпьютерные системы




Геометрическая интерпретация линейного разделения классов


Пусть в нейроне в качестве функции активации используется ступенчатая функция (см. формулу (1) Лекции 2). Линейное разделяющее правило делит входное пространство на две части гиперплоскостью, классифицируя входные векторы как относящиеся к 1-му классу (выходной сигнал - 1) или 2-му классу (выходной сигнал - 0). Критическое условие классификации (уравнение разделяющей гиперплоскости)

 (w,x) = \sum_{i=0}^{N} w_i x_i = 0

В {

N
}-мерном пространстве (пространстве входных сигналов) разделяющая гиперплоскость перпендикулярна вектору
w' = (w_1, \ldots, w_N)
. Вектор входных сигналов
x'=(x_1, \ldots, x_N)
дает выход
1
, если его проекция
x_w' = (x',w')/||w'||

на вектор

w'
больше, чем расстояние
-w_0/||w'||
от нуля до гиперплоскости. В
N+1
-мерном (расширенном) пространстве гиперплоскость, описываемая уравнением
(w,x)=0
, ортогональна вектору
w
и проходит через начало координат пространства признаков (образов).

Пример

В двухмерном пространстве входных сигналов уравнение гиперплоскости имеет вид

 w_0 + w_1x_1 + w_2x_2 = 0.

При

w_1 = w_2 = 1
и
w_0 = -1.5
получаем уравнение
{x_1 + x_2 - 1,5 = 0}

гиперплоскости, которая представлена на рис.1 пунктирной линией, пересекающей оси координат в точках (1.5, 0) и (0, 1.5) соответственно. Здесь:

w=(1,1)
— нормаль к разделяющей гиперплоскости;
P
— вектор, относящийся к первому классу, поскольку проекция
(w,P)
вектора
P
на нормаль
w

больше

-w_0/||w||
;
Q
— вектор, относящийся ко второму классу, поскольку
(w,Q) < - w_0/||w||
.


Рис. 1. 




Содержание  Назад  Вперед