Нейрокомпьютерные системы



              

Определение значимости параметров по изменению выходных сигналов системы


Значимость параметров определяется практически так же, как и с помощью функции оценки. Пусть

x
- вектор данных, а
w
- вектор параметров. Пусто задан набор векторов
\{x^p\}
, на которых будет оцениваться функционирование системы, и определены значения
x_j^{p0}, w_k^0
(в простейшем случае
w_k^0 = 0, x_{j}^{p0} = (1/n) \sum_{p=1}^n x_j^p
).

Вычислим в линейном приближении изменение вектора

F
при обращении
w_k

в

w_k^0
и
x_j^p
в
x_j^{p0}
:

 \begin{align*} \Delta F= \partial F(x,w)/ \partial w_{{k|\chi = \chi}^p} \times (w_{k}^{0} - w_k),\\ \Delta F= \partial F(x,w)/ \partial x_{{j|\chi = \chi}^p} \times (x_{j}^{p} - {x_{j}^{p}}^{0}). \end{align*}

Пусть в пространстве выходных сигналов системы задана некоторая норма (например, евклидова). Тогда положим:

 \begin{align*} \chi(w_{k}|x^{p})=\|\partial F(x,w)/ \partial w_{k}\|_{\chi = \chi^p} \times |w_{k}^{0} - w_k|,\\ \chi(x_{j}|x^{p})=\|\partial F(x,w)/ \partial x_{j}\|_{\chi = \chi^p} \times |x_{j}^{p} - {x_{j}^{p}}^{0}|. \end{align*}

Таким образом, для каждого

w_k
и любого
x_j

определен вектор показателей значимости. Координаты вектора соответствуют точкам

x^p
. Теперь нужно вычислить норму этого вектора и объявить ее показателем значимости (можно в качестве нормы взять максимум модуля или сумму модулей). При использовании евклидовой нормы в пространстве выходных сигналов бывает удобно и далее выбирать такую же норму, полагая:

 \begin{align*} & \chi(w_k)= (\sum_p \chi(w_k|x^p)^2)^{1/2},\\ &\chi(x_j)= (\sum_p \chi(x_j|x^p)^2)^{1/2}. \end{align*}

Подход к определению значимости через изменение выходного сигнала не имеет альтернатив в том случае, когда рассматриваемая система является лишь подсистемой в некоторой системе (например, сумматор или нейрон в нейронной сети). Тогда при изменении параметров этой подсистемы приходится ограничиться требованием: выходной сигнал подсистемы должен изменяться как можно меньше, чтобы не нарушать функционирование всей системы.




Содержание  Назад  Вперед