Волновая резонансная теория

Проблема производительности. Описанная сеть должна производить последовательный поиск среди всех запомненных образов. В аналоговых реализациях это будет происходить очень быстро; однако при моделировании на обычных цифровых компьютерах этот процесс может оказаться очень длительным. Если же сеть APT реализуется на параллельных процессорах, все свертки на распознающем уровне могут вычисляться одновременно. В этом случае поиск может быть очень быстрым.

Время, необходимое для стабилизации сети с латеральным торможением, может быть длительным при моделировании на последовательных цифровых компьютерах. Чтобы выбрать победителя в процессе латерального торможения, все нейроны в слое должны быть вовлечены в одновременные вычисления и передачу. Это может потребовать проведения большого объема вычислений перед достижением сходимости. Латеральные тормозящие сети, аналогичные используемым в неокогнитронах, могут существенно сократить это время.

Процесс обучения является устойчивым. Обучение не будет вызывать переключения с одного возбужденного нейрона слоя распознавания на другой.

Процесс обучения конечен. Любая последовательность произвольных входных векторов будет производить стабильный набор весов после конечного количества обучающих серий; повторяющиеся последовательности обучающих векторов не будут приводить к циклическому изменению весов.

Рис. 14. (а) Схематическое изображение нейрона: 1 - тело клетки (сома), 2 - мембрана, 3 - дендриты, 4 - аксон, 5 - синаптическое окончание, (б) Ионные каналы в мембране нейрона: К, Na, Са - ионы калия, натрия, кальция, (в) Эквивалентная электрическая схема мембраны нейрона: GNa, GK, GCa,…-- нелинейные ионные проводимости; Rm - сопротивление утечки; Ст - емкость мембраны; ENa, EK,…-равновесные потенциалы для соответствующих токов.

На рис. 14 схематически изображены нервная клетка и клеточная мембрана. Для построения адекватной динамической модели нейрона принципиально, что окружающая его мембрана нередко представляет собой эквипотенциальную поверхность. Поэтому, несмотря на вполне макроскопические размеры нейрона, при анализе его электрической активности (частота 4-60 Гц) нервную клетку можно рассматривать как сосредоточенную в пространстве систему. Другими словами, переменные, описывающие состояние нейрона (мембранный потенциал, концентрацию тех или иных ионов и т.д.), можно рассматривать как функции только времени. Другой важный вопрос связан со способом описания активности нейронов. Поскольку состояние нейрона определяется неравновесной диффузией различных заряженных ионов, для моделирования его активности, вообще говоря, следует использовать кинетическое описание. Однако, когда мы интересуемся нейроном как генератором низкочастотных электрических пульсаций, такое описание, очевидно, избыточно. Для построения соответствующей теории вполне достаточно уравнений для средних по времени t0 << Т (Т -- характерный период электрической активности нейрона) динамических переменных: мембранного потенциала и макроскопических ионных токов. При этом нейрон можно рассматривать как нелинейную электрическую цепь из RC-элементов. Источником энергии для работы этой диссипативной системы служат биохимические процессы, связанные со взаимодействием внутриклеточной и межклеточной сред.

Осцилляторная активность нейрона определяется тем, что это неравновесная система с разнообразными обратными связями, в том числе и запаздывающими. Именно благодаря этим обратным связям, закрывающим или открывающим ионные каналы в соответствующей фазе электрической активности мембраны, состояние нейрона, отвечающее потенциалу покоя, может стать неустойчивым, и он превращается в генератор. Такой генератор можно рассматривать как динамическую систему, в рамках которой микроскопическая кинетика проявляется лишь как малые флуктуации.

Нелинейные динамические модели нейронов, которые строятся для объяснения обнаруживаемых феноменов и предсказания новых (в чем, собственно, и состоит назначение теории), в значительной степени зависят от того нейрофизиологического эксперимента, на который они опираются. Так, для описания нейронов ЦГ обычно используются варианты классической модели Ходжкина-Хаксли (1952 г.), включая ее разнообразные обобщения, учитывающие дополнительные мембранные токи, или, наоборот, более упрощенные, использующие в качестве переменных мембранный потенциал V(t) и некоторые вспомогательные токи, описывающие процессы двух типов быстрые Ie(t) и медленные IM(t) (см., например, [13-15]).

Типичная обобщенная модель Ходжкина-Хаксли (в широком смысле conductance-based model) имеет вид

где V(t) -- электрический потенциал клеточной мембраны, С характеризует электрическую емкость мембраны, i обозначает вид тока, текущего через мембрану, или, как говорят, тип ионного канала (калиевого, натриевого, кальциевого канала, канала утечки), gi -- максимальная проводимость, Vi -- равновесный потенциал (потенциал реверсии) для i-го канала, ai и bi -- переменные, характеризующие активацию и инактивацию i-го канала, эти переменные можно рассматривать, например, как вероятности открытия или закрытия того или иного канала, a pi и qi представляют собой число управляющих частиц, достаточное, чтобы открыть или закрыть канал (обычно это целые числа от нуля до четырех). a?i (V) и b?i(V) -- стационарные состояния уровня активации и инактивации, они зависят от V сигмоидным образом, так же как и характерные времена релаксации фai(V) и фai(V). В классической работе Ходжкина и Хаксли [14] N = 3.

Сейчас популярны и более простые модели подобного типа. Одна из них -- модель Морриса-Лекара [15]:

где m?(V), W?(V), ф(V) -- функции сигмоидного типа. Здесь учтена всего лишь одна переменная W, описывающая активацию нейрона. Естественно, что в рамках динамической модели с двумерным фазовым пространством невозможно описать все детали динамики нейрона и, в первую очередь, хаотические колебания мембранного потенциала клетки, наблюдаемые в различных экспериментах [16, 17] (поскольку странный аттрактор не может быть вложен в двумерное пространство). Поэтому сейчас весьма широко используются трехмерные модели, также опирающиеся на формализм Ходжкина-Хаксли. Это, например, модель Чэй [18] и др.

Формализм Ходжкина и Хаксли, основанный на детальном анализе ионного транспорта через мембрану, получил широкое распространение. Но весьма продуктивны и феноменологические модели, описывающие основные особенности динамики нейронов. Одна из моделей такого типа -- модель Розе-Хиндмарш [19] (более подробно см. раздел 3):

где х - мембранный потенциал, у характеризует "быстрые" токи (например, калиевые и натриевые), а z - "медленные" токи, I - внешний ток, а, Ь, с, d, r, s, х0 - постоянные параметры.

При обсуждении динамических процессов в коре головного мозга наиболее часто используется модель нейронной активности Вилсона и Кована (1972 г.), учитывающая взаимодействие двух связанных популяций нейронов - подавляющих и возбуждающих [20]:

где Е и I - безразмерные величины, характеризующие активность возбуждающих и тормозящих нейронов соответственно. Здесь параметр е < 1, поскольку постоянные времени для торможения, как правило, больше характерных времен возбуждения, F - функция сигмоидного типа: F=l/(l+e-x) или F= 1/2 + (1/р) arctanx.

При моделировании больших ансамблей нейронов часто используют и совсем простые точечные модели в виде фазовых осцилляторов, к которым сводятся системы осцилляторов общего вида с периодическим поведением и слабыми парными связями (см., например, [21], обзор [22]):

или еще более простые модели переключательного, спинового, типа, подобные тем, которые широко применяются в теории фазовых переходов.

Описанные выше модели нейронов дублируют именно физиологические и анатомические особенности отдельного нейрона. Но при создании нейронной сети нет необходимости в таком точном воспроизведении естественного нейрона. Необходим нейрон, удовлетворяющий поставленным требованиям, и не усложненный реализацией лишних в рамках поставленной задачи физиологических особенностей, так как это будет негативно отражаться на быстродействии сети. Необходима упрощенная, но подходящая для поставленной задачи распознавания модель.

В поставленной задаче необходим пороговый, импульсный нейрон, удовлетворяющий требованию пластичности и стабильности. Для решения этой задачи я взяла двухпороговый нейрон (рис. 15).

Рис.15. Двухпороговый нейрон.

При прохождении входным сигналом нижнего порога, и не превышении верхнего, нейрон срабатывает и генерирует импульс.

После обучения нейронного ансамбля, он будет узнавать только сигнал, мало отличающийся от запомненного. Т.е. ансамбль будет генерировать положительный импульс только в случае резонанса входного сигнала и сигнала, которому обучен ансамбль (рис. 16).

Рис.16. Резонанс.

Для оценки временных и стоимостных параметров используем метод сетевого планирования и управления (СПУ). Основным плановым документом в системе СПУ является сетевой график (сетевая модель или сеть), представляющий собой информационно-динамическую модель, в которой отражаются взаимосвязи и результаты всех работ, необходимых для достижения конечной цели разработки. Сетевая модель изображается в виде сетевого графика (сети), состоящего из стрелок и кружков. Стрелками в сети изображаются отдельные работы, а кружками -- события. Под стрелками указывается ожидаемое время выполнения работ. Жирной линией показан критический путь .

Страницы: 1, 2, 3, 4, 5