Адаптивное управляющее устройство, нейроподобный базовый элемент и способ организации работы такого устройства
Иллюстрации
Показать всеИзобретения относятся к аналого-цифровым управляющим устройствам и могут быть использованы при создании систем автоматического управления объектами и технологическими процессами, а также для моделирования мозга человека. Техническим результатом является упрощение конструкции устройства, расширение его функциональных возможностей и усложнение класса решаемых задач. Устройство включает множество нейроподобных базовых элементов (БЭ), сгруппированных в модульные блоки так, что выходы одних БЭ ортогональны входам других БЭ и разделены диэлектрической пленкой с полупроводниковым слоем. Нейроподобный базовый элемент содержит многоточечный вход для приема и суммирования электрических сигналов, рабочий выход и блок обработки сигналов, включающий формирователь порогового напряжения, компаратор, два формирователя нормированного напряжения. 3 н. и 7 з.п. ф-лы, 7 ил.
Реферат
Изобретение относится к аналогово-цифровым управляющим устройствам и может быть использовано при создании сложных многопараметрических систем автоматического управления различными объектами и технологическими процессами, позволяющих объекту изменять свою реакцию в зависимости от изменения характера внешних влияющих факторов, в системах распознавания образов, в робототехнике, а также для моделирования мозга человека.
Согласно общей теории систем управляющее устройство систематически или по мере необходимости вырабатывает управляющие воздействия на некоторый процесс. Самоорганизующиеся управляющие устройства строятся на принципах оптимизации решения поставленных задач, для чего входная информация перерабатывается в соответствии с набором правил для того, чтобы получить на выходе управляющие сигналы, адекватно решающие поставленную задачу.
Лучшим примером самоорганизации является мозг человека. Для реализации устройств, функционирующих по аналогии с работой нейронных сетей, созданы многочисленные технические решения, преимущественно в области компьютерного конструирования.
Работа адаптивных систем организуется с помощью искусственной нейронной сети, в той или иной мере моделирующей нервную систему живых организмов и функционирующей на основе нейроподобных элементов. Устройства для моделирования нейронных сетей могут быть аналого-цифровыми, аппаратными или компьютерными. К первой группе относятся устройства, в которых модели отдельных нейронов и межнейронных связей реализуются в виде электронных элементов, использующих многоэлементную аналоговую или цифровую базу. Общими недостатками таких устройств являются их аппаратурная сложность и высокая стоимость, в результате чего невозможно создавать модели больших нейронных сетей, обладающих качествами многофункциональности, трудности при формировании и наращивании сложных нейронных структур. Ко второй группе можно отнести устройства, в которых модели нейронов или модели межнейронных связей выполнены различными приборами функциональной электроники, например оптоэлектронные модели. Общими недостатками этих моделей являются недостаточная гибкость, сложность перестройки структуры сети, сложность изменения функциональных характеристик нейронов и межнейронных связей. Другим недостатком, свойственным большинству таких устройств, является неудовлетворительное состояние технологии производства элементной базы. К третьей группе можно отнести универсальные и специализированные программируемые вычислительные устройства, которые используются для моделирования нейронных сетей. При этом достигается гибкость изменения межнейронных связей и характеристик нейронов, можно моделировать большие нейронные сети. Основными недостатками таких устройств являются громоздкость программного аппарата и низкое быстродействие.
Известно большое количество нейронных сетей различного типа (см. Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press, 1992; J.Anderson, An introduction to neural networks, Chapter 2, MIT, 1999), общим недостатком которых является сложность определения весов синаптических связей и их коррекции, способ задания которых либо грубо упрощает реальные процессы, либо настолько усложняет конструкцию, что ее реальная реализация становится вряд ли возможной.
Известен нейроподобный элемент, на основе которого можно построить устройство для решения класса задач оценки функционирования открытых сложных систем, оценки степени оптимальности различных решений (RU 2295769, опубл. 2007). Система имеет ограниченные функциональные возможности, в частности неспособна к самообучению.
Известен ряд технических устройств для управления сложными технологическими процессами (Нейронная сеть, RU 66831, 2007; Доменная нейронная сеть, RU 7208, 2008; Модульная вычислительная система, RU 75247, 2008; Ассоциативная память, RU 77483, 2008 и др.), общими недостатками которых являются ограниченные функциональные возможности и неспособность к самообучению, поскольку коммутация межнейронных связей и передача информации между нейронами осуществляется на основе детерминированных таблиц связей, а для ряда устройств необходимо использовать внешнюю память.
Известны динамические синапсы для обработки сигнала в нейронных сетях. Система содержит множество взаимосвязанных базовых нейронов и предназначена для обработки сигналов, поступающих в виде последовательности импульсов. Сущностью устройства является установление обратной связи между предсинаптическим и постсинаптическим нейронами и использование тормозящих нейронов, что непрерывно изменяет процедуру обработки сигнала синапсом, так что при вторичном предъявлении одного и того же сигнала синапс учитывает предсинаптическую картину и дает иную картину на выходе. Динамическое изменение проводящей структуры сети с обратными связями дает увеличение вычислительной мощности сети на нейронном уровне и увеличение способности сети к динамическому обучению (US 6643627, 2003).
В известном устройстве коррекцию информационного сигнала осуществляют на локальном уровне предсинапс - постсинапс, что эффективно только для сетей малого объема. При увеличении числа слоев до 4 и более полезные свойства динамического синапса резко уменьшаются (см. фиг.6а описания патента). Класс решаемых подобной системой задач ограничен, наилучшие результаты получены для задач фильтрации шумов в многопараметрических сигналах и анализа речи, например, при распознании одинаковых слов, произнесенных различными людьми с различными акцентами.
Известна нанотехнологичная нейронная сеть и способ организации ее работы, во многих аспектах моделирующая биологический мозг и протекающие в нем процессы взаимодействия нейронов (US 7426501. Nanotechnology neural network methods and systems, 2008 г.). Устройство содержит множество искусственных нейронов с наноотростками, взвешенных и способных к перемещению в специальной среде (диэлектрическом растворе). Соседние адаптивные синаптические элементы разделены промежутками, поперек которых может быть приложено электрическое поле, под действием которого устанавливаются электрические связи. Связи способны усиливаться, ослабляться и даже растворяться в диэлектрическом растворе для забывания неправильных реакций на входные сигналы, что обеспечивает быстрое обучение нейронной сети. Для этого промежуток между соседними нейронами может быть оборудован соответствующей логикой.
Известное устройство решает ряд тех же проблем, что и заявляемое техническое решение, но другими способами, сложными для физической реализации и практического использования.
Известна техническая нервная система RU 2128857, опубл. 1999. Устройство содержит технический мозг, распределитель выходных сигналов, регулятор мощности питания рецепторов, активное устройство обучения, рецепторы выходных сигналов технического мозга, рецепторы внешних систем, распределения питания и обучения. Нейронная сеть построена в виде матрицы регулируемых резисторных элементов. На каждом шаге обучения определяют ситуацию, в которой отношение отклонения сигнала управления к допустимому отклонению этого сигнала в данной ситуации было наибольшим, и проводят внешнюю корректировку проводимостей элементов матрицы технического мозга для этой ситуации. Система обладает ограниченными функциональными возможностями, сложна в изготовлении и содержит большое число внешних регуляторов для коррекции реакций, что ограничивает ее способность к адаптации.
Наиболее близким к заявленному техническому решению по назначению и существенным признакам является многослойное перцептронное устройство (US 5220641, Multi-layer perceptron circuit device, 1993). Устройство выбрано за прототип.
Архитектура адаптивной нейронной сети в виде многослойного персептрона, подобная изобретению US 5220641, используется наиболее часто. Обычно каждый нейрон строит взвешенную сумму своих входов с поправкой в виде слагаемого и затем пропускает эту величину активации через передаточную функцию, и таким образом устройство вырабатывает выходное значение сигнала. Обучение рекуррентной нейронной сети по сути дела заключается в исследовании поверхности ошибок и отыскании глобального минимума.
Устройство-прототип содержит множество нейроподобных базовых элементов, множество связей между которыми обеспечено особой топологий, при которой элементы сгруппированы в модульные блоки так, что выходы БЭ одного блока расположены ортогонально или под некоторым углом к входам БЭ другого блока, что позволяет установить между выходом одного нейроподобного элемента и входами множества других элементов синаптические связи. Каждый из синапсов получает сигналы от одной из линий входа сигналов, производит вычисление веса этого сигнала с предписанным значением и затем передает результат вычисления веса на одну из линий выхода сигнала. Заметим, поскольку в прототипе основным элементом является синапс, следует учитывать, что здесь и далее линия входа для синапса по прототипу является линией выхода нейроподобного элемента согласно традиционным представлениям, а линия выхода для синапса по прототипу является линией входа для традиционного нейрона и для заявленного нейроподобного элемента. Каждый синапс содержит блок подсчета веса. Самообучение построено на алгоритме обратного распространения ошибки. Такие же принципы заложены в многослойной нейронной сети на MOS-инверторах по US 5347613, опубл. 1994 г., в котором заявлен новый пятиэтапный способ обучения, но основан он на известных способах коррекции весов связей, а обучение является модификацией способа обучения по изобретению-прототипу.
Общими недостатками систем с самообучением путем варьирования, вычисления и коррекции весов связей являются неприемлемо большие времена обработки входной конфигурации сигналов для получения адекватных управляющих сигналов.
Согласно прототипу, чтобы обучить нейронную сеть решению какой-либо задачи, необходимо многократно подправлять веса каждого элемента таким образом, чтобы уменьшалась ошибка - расхождение между действительным и желаемым выходом. При этом время обучения растет значительно быстрее, чем размеры сети. Недостатками прототипа являются сложность устройства из-за наличия большого числа регулирующих элементов и его ограниченные функциональные возможности.
Для устранения недостатков в многофункциональном адаптивном управляющем устройстве целесообразно отказаться от коррекции весов связей, в том числе от алгоритма обратного распространения ошибки. В изобретении использован другой принцип: вместо бесконечной корректировки весов связей непрерывно прокладывают все новые и новые связи между нейронами, «забывая» старые и закрепляя те, которые учитывают предшествующие события и реализуют «правильные» реакции на изменяющуюся конфигурацию входных сигналов. Такой экстенсивный путь обучения более перспективен для адаптивных систем и более соответствует биологической природе интеллекта. По некоторым оценкам, человеческий мозг имеет потенциал в сотни терабайт, из которых задействовано около половины, а его информационное содержание изменяется в среднем в темпе сотен килобайт в секунду.
Согласно изобретению управляющее устройство можно осуществить с помощью простого узла - нейроподобного базового элемента, способного образовывать электрические связи со своими соседями и обладающего некоторыми элементарными свойствами биологического нейрона: способностью возбуждаться, уставать, восстанавливать работоспособность и подпитываться энергией для передачи сигнала без затухания. Для реализации такого устройства необходимо создать многослойную нейронную сеть с очень большим объемом памяти, что достигается специальной топологией нейронной сети, описанной ниже.
Здесь следует заметить, что корейская компания Samsung объявила о создании подложки для производства полупроводников, толщина которой составляет всего 0,08 мм. Это на 20% меньше, чем 0,1-миллиметровая подложка, которую Samsung выпускала ранее (http://habrahabr.ru/blogs/hardware/14025/). Емкость человеческого мозга порядка 400-500·1012 байт. Можно показать, что при уже освоенных технологиях микроэлектроники в таком же объеме, какой занимает человеческий мозг (приблизительно 1,5 дм3=1500 см3), в структурах заявленного устройства можно разместить не менее 5,5 терабайт информации, или около 1% емкости мозга.
Технической задачей изобретения является создание адаптивного управляющего устройства, сочетающего простоту конструкции с широкими функциональными возможностями, создание нейроподобного элемента (искусственного нейрона), на базе которого можно построить обучаемую нейронную сеть, создание способа организации работы адаптивного управляющего устройства с нейронной сетью.
Первая из поставленных задач решается тем, что в известном устройстве-прототипе, содержащем множество нейроподобных базовых элементов, каждый из которых имеет вход и выход, способен принимать и суммировать электрические сигналы от сенсоров или от других БЭ и переходить в возбужденное состояние с генерацией электрического сигнала, который может быть передан множеству других БЭ или исполнительному механизму, сгруппированных в М>1 плоских модульных блоков по N>1 БЭ в каждом так, что выходы БЭ одного блока расположены ортогонально или под некоторым углом к входам БЭ другого блока, образуя, по крайней мере, одну сетку с N узлами, используют новую конструкцию многослойной нейронной сети.
Для решения задачи выходы БЭ одного блока наложены на входы БЭ другого блока через диэлектрическую пленку с полупроводниковым слоем, каждый из упомянутых узлов сетки при создании разности потенциалов, достаточной для пробоя диэлектрика, имеет возможность образовать между выходом одного БЭ и входом другого ему подобного БЭ резистивную связь, проводимость которой уменьшается со временем, входы некоторых произвольных БЭ соединены с сенсорами и назначены для приема сигналов от внешних источников, выходы некоторых произвольных БЭ соединены с исполнительными механизмами управляющего устройства и назначены для выдачи управляющих сигналов, причем часть упомянутых резистивных связей проложена заранее при изготовлении управляющего устройства и при подаче сигнала образует, по крайней мере, одну электрическую цепь от входа, соединенного с сенсором, до выхода, соединенного с исполнительным механизмом.
Другой технической задачей является создание нейроподобного базового элемента, пригодного для создания самообучающихся нейронных сетей и физической реализации управляющих устройств разнообразного назначения.
Техническая задача решается следующим образом.
Как и известные аналоги, нейроподобный базовый элемент (БЭ) адаптивного управляющего устройства содержит многоточечный вход для приема и суммирования электрических сигналов от ему подобных базовых элементов (БЭ) или от внешних источников, рабочий выход и блок обработки сигналов, имеющий возможность генерировать электрические сигналы при возбуждении БЭ. В базовом элементе по изобретению блок обработки сигналов содержит формирователь порогового напряжения, соединенный с источником регулируемого опорного напряжения, компаратор и два формирователя нормированного напряжения (ФНН), первый из которых формирует положительные прямоугольные импульсы, второй формирует такие же по величине и продолжительности отрицательные прямоугольные импульсы, компаратор соединен с многоточечным входом БЭ и с выходом формирователя порогового напряжения, вход первого ФНН соединен с выходом компаратора, выход первого ФНН соединен с рабочим выходом БЭ и с входом формирователя порогового напряжения, вход второго ФНН соединен с выходом компаратора, выход второго ФНН соединен с многоточечным входом базового элемента.
Конструкция нейроподобного базового элемента является новой и составляет отдельное изобретение.
В одном из воплощений изобретения описанный нейроподобный базовый элемент сгруппирован с множеством таких же базовых элементов, выполненных на плоской подложке, образуя модульный блок базовых элементов, имеющий две односторонние или двусторонние контактные площадки с параллельными друг другу входами и выходами.
Третьей технической задачей является создание способа организации работы адаптивного управляющего устройства. На описанных ниже принципах может работать не только заявленное устройство, но и ряд других, в том числе компьютерные управляющие системы, а сам заявленный способ составляет самостоятельное изобретение.
Для решения поставленной задачи в известном способе организации работы управляющего устройства, включающем получение электрических сигналов от сенсоров, обработку их нейронной сетью, включая установление изменяющихся во времени электрических связей между множеством искусственных нейронов, каждый из которых способен получать и суммировать электрические сигналы от близлежащих нейронов или от внешних сенсоров, генерировать новый сигнал и передавать его другим нейронам или исполнительному механизму управляющего устройства, используют следующую процедуру. Часть упомянутых связей устанавливают до получения сигналов от сенсоров и используют их для обучения нейронной сети, часть электрических связей устанавливают автоматически в процессе работы управляющего устройства, для чего поступивший на вход данного нейрона суммарный сигнал с величиной, зависящей от совокупности всех установленных на данный момент связей нейронной сети, сравнивают с пороговым потенциалом возбуждения, величину которого ставят в зависимость от частоты предыдущих возбуждений нейрона, и в случае его превышения возбуждают данный нейрон, а именно формируют на входе нейрона нормированный отрицательный импульс, одновременно или с малой относительно длительности упомянутого импульса задержкой формируют на выходе нейрона идентичный положительный импульс с возможностью установления между нейронами, возбужденное состояние которых хотя бы частично совпадает во времени, упомянутой электрической связи, причем посредством упомянутого отрицательного импульса частично нейтрализуют поступающие электрические сигналы, обеспечивая конкуренцию нейронов за получение сигнала и препятствуя ситуации, при которой коэффициент размножения сигнала превышает единицу, благодаря чему непрерывно модифицируют проводящую структуру нейронной сети, включая образование между нейронами множества контуров обратной связи, при этом выходные управляющие сигналы управляющего устройства или часть из них используют в целях активного воздействия на параметры внешней среды и/или в целях коррекции условий получения электрических сигналов от сенсоров.
Описанный способ может иметь ряд конкретных воплощений.
Устанавливаемые между нейронами связи могут носить химическую, емкостную, резистивную природу. В частном случае выполнения способа предпочтительно выполнять упомянутые связи резистивными, которые можно реализовать, например, пробоем диэлектрика, разделяющего нейроны, или даже на базе обычных релейных элементов, если допускают габариты устройства. При этом по аналогии с синапсами биологических нейронов можно реализовать старение резистивных связей, например, заданием особых свойств диэлектрической пленки с полупроводниковым слоем или за счет диффузионных процессов в диэлектрике.
Задержка фронта положительного импульса на выходе БЭ относительно фронта отрицательного импульса на входе БЭ предназначена для повышения вероятности образования связей между событиями, отражающими ситуацию «за событием А следует событие Б», более эффективную по сравнению с образованием связи «перед событием Б было событие А».
Обучением нейронной сети может служить выработка заданной реакции на тестовую конфигурацию внешних сигналов, для чего в нейронной сети заранее устанавливают связи между нейронами от сенсора до выхода управляющего сигнала.
Для выработки требуемой реакции нейронной сети на внешние обучающие сигналы необходим какой-либо критерий поведения (минимизация расходуемой энергии, постоянство диссипируемой тепловой энергии и т.п.), отклонение от которого исправляют обучением нейронной сети. В частном случае осуществления способа этот существенный признак заключается в минимизации количества принимаемых внешних сигналов. Отметим, что для адаптивного управляющего устройства и способа организации его работы по изобретению любые внешние сигналы являются обучающими, поскольку процесс обучения продолжается без учителя в процессе работы устройства.
Процесс обучения нейронной сети управляющего устройства можно существенно ускорить, если в способе предусмотреть процессы, моделирующие усталость, восстановление работоспособности и самовозбуждение биологического нейрона. Усталость обеспечивают ступенчатым возрастанием порогового потенциала возбуждения в случае частого возбуждении нейрона, когда при каждом очередном возбуждении потенциал получает импульсную добавку по цепи с малым сопротивлением. Это вызывает возбуждение соседних БЭ и проход сигнала по другим электрическим цепям при отсутствии правильной реакции после многократного прохождения сигнала через данный БЭ. Восстановление базового элемента обеспечивают постепенным снижением порогового потенциала, вплоть до опорного, для чего предусматривают высокоомную цепь утечки.
Самовозбуждение реализуют за счет случайных флуктуации потенциала на входе БЭ. Подобные флуктуации, например индуцированная ЭДС, происходят редко и малы по величине, поэтому расчетное опорное напряжение должно быть достаточно низким.
Предлагаемый способ может быть полностью реализован программными средствами вычислительной техники. Управляющее устройство с относительно небольшим количеством БЭ может быть смоделировано на обычном персональном компьютере.
Таким образом, адаптивное управляющее устройство содержит необходимое количество сенсоров, нейронную сеть из нейроподобных базовых элементов и необходимое количество исполнительных механизмов. Технологически оно изготавливается из множества однотипных модульных блоков, на каждом из которых при площади 3-4 см2 и толщине 0,1 мм может быть сгруппировано порядка 104 нейроподобных базовых элементов, конструкция и работа которых подробно раскрыта ниже.
Техническим результатом является упрощение конструкции адаптивного управляющего устройства, расширение его функциональных возможностей и усложнение класса решаемых задач.
Сущность изобретения иллюстрируется схемами.
На фиг.1 представлена принципиальная схема управляющего устройства.
На фиг.2 схематично показана конструкция нейроподобного базового элемента.
На фиг.3 приведена схема модульного блока базовых элементов.
На фиг.4 показан монтаж управляющего устройства из модульных блоков.
На фиг.5 показан процесс кодирования суммарного входного сигнала.
На фиг.6 показана коррекция цепей стимул - реакция при обучении нейронной сети.
На фиг.7 приведена схема простейшая физической модели, оборудованной управляющим устройством.
Используемая в описании терминология зачастую заимствована из нейроанатомии и нейрофизиологии. В этой связи все аналогии описываемых нейроподобных элементов и нейронных сетей с их биологическими прототипами следует рассматривать с большой долей условности.
Описание управляющего устройства.
Управляющее устройство (фиг.1) содержит нейроподобные базовые элементы 3 с входами 1 и выходами 2. Входы некоторых произвольных БЭ соединены с сенсорами (не показаны) и получают сигналы от внешних источников, выходы некоторых произвольных БЭ соединены с исполнительными механизмами (не показаны) и выдают управляющие сигналы. Базовые элементы образуют многослойную структуру и расположены так, что между входами и выходами близлежащих БЭ, разделенных диэлектрической пленкой с полупроводниковым слоем, могут установиться электрические связи а, b, с, d и т.д. Связи проводят сигнал в одну сторону, от выхода данного БЭ к входу близкого ему другого БЭ. Характер таких связей показан на выносном элементе на фиг.1. Связи образуют на основе известных технических решений, когда импульс напряжения вызывает электрический пробой барьерного слоя пленки, что приводит к формированию токопроводящих соединительных каналов между разрядными шинами. При этом между разрядными шинами оказывается включенным p-n диод (см., например, Электроника: Наука, Технология, Бизнес 6/2001. М.Валентинова. Экзотическая память; Pat. US 5835396, Three-dimensional read-only memory, 1998 г.).
Согласно изобретению каждый выход БЭ может иметь связь с множеством входов других БЭ, каждый вход БЭ может иметь связь с множеством выходов других БЭ, максимальное количество связей зависит от конкретной топологии многослойной нейронной сети. Кроме того, между БЭ могут образоваться многочисленные обратные связи, обозначенные на фиг.1 цифрой 4. Обратные связи могут быть короткими, как между элементами k2 и j1, или длинными, как между элементами k1 и i2. На схеме в качестве примера приведены только три группы базовых элементов i, j, k по n элементов в каждой и три обратные связи, но таких групп и связей согласно изобретению может быть множество.
Согласно изобретению часть электрических связей установлена при изготовлении, например пайкой, и используется для выполнения устройством некоторых базовых реакций при обучении нейронной сети с учителем. Эти же связи необходимы устройству и при обучении без учителя, т.е. во время работы.
К примеру, вход i1 подключен к фотоэлементу, а выход k2 к электродвигателю, перемещающему этот фотоэлемент. Заранее установленные связи образуют электрическую цепь, включающую этот электродвигатель при подаче на сенсор фотосигнала.
Управляющее устройство функционирует следующим образом.
На произвольные входы управляющего устройства поступают сигналы от сенсоров, преобразующих разнородные внешние сигналы-раздражители (оптические, акустические, температуры, давления, электромагнитные, радиационные и т.д.) в электрические сигналы стандартной амплитуды и длительности. Конструкция нейроподобного БЭ такова, что сила сигнала автоматически кодируется количеством и частотой импульсов, как показано на фиг.5. В момент пересечения линии пороговых напряжений с линией сигнала базовый элемент возбуждается и формирует на выходе нормированный импульс, а при большой величине сигнала - серию импульсов, как показано на нижней линии диаграммы на фиг.5. Каждый такой импульс может внести свой вклад в суммарный потенциал на множестве входов тех базовых элементов, с которыми установлены соответствующие электрические связи. При каждом возбуждении БЭ пороговое напряжение скачкообразно возрастает. Видно, что на начальном участке диаграммы БЭ пропускает даже малые сигналы, но в конце диаграммы БЭ не пропускает сигналы значительно большей величины. Это означает, что сигнал получает возможность попасть на входы нескольких базовых элементов, возбудить их и проложить в нейронной сети новые связи. Кроме того, выбирая возможный путь прохождения через связи, раздваиваясь и уменьшаясь по величине, сигнал может вернуться на вход предыдущего базового элемента, внеся посильный вклад в суммарный потенциал других поступающих на данный вход сигналов.
Совокупность входных сигналов от сенсоров (раздражитель) проходит через сложившуюся в УУ к данному моменту времени древовидную совокупность электрических цепей (см. фиг.6а), создавая при этом все новые связи между базовыми элементами. Нейронная сеть не только обрабатывает сигналы, сами сигналы непрерывно модифицируют проводящую структуру нейронной сети. Близкие по расположению и одновременно возбужденные БЭ оставляют на пути сигнала метку памяти - электрическую связь, благодаря чему происходит «запоминание» пути прохождения похожей конфигурации сигналов, и в дальнейшем нейронная сеть выполняет прогнозную функцию. В конечном итоге сигналы поступают на выходы управляющего устройства, соединенные с исполнительными механизмами, и становятся управляющими сигналами.
Описанная ниже топология нейронной сети предусматривает, что по мере разрастания связей в управляющем устройстве образуются связи между выходами базовых элементов, логически расположенными дальше от входа сенсоров, с входами элементов, логически расположенных ближе к входу. Тем самым реализуется локальная обратная связь, которая участвует в формировании реакции. При больших объемах УУ локальные цепи обратной связи обеспечивают возможность длительного циркулирования внутренней конфигурации сигналов по структурам нейронной сети с последовательным возбуждением множества нейронов цепи, включающей обратную связь. Так что количество последовательно возбужденных БЭ в цепи следования сигнала заведомо намного больше, чем на прямом пути от сенсора к исполнительному механизму. С одной стороны, наличие таких внутренних связей позволяет получить более адекватную реакцию устройства на конфигурацию входных сигналов. С другой стороны, циркулирование сигнала реализует прогноз последовательности событий, поскольку через данную цепь уже проходила похожая конфигурация сигналов и для приходящих на вход БЭ новых сигналов уже существует некоторая добавка к суммарному потенциалу, можно сказать, «подставка», с которой легче превзойти пороговое напряжение.
Рассмотрим устройство и работу нейроподобного базового элемента.
Схема одного из базовых элементов, совокупность которых обеспечивает работу адаптивного управляющего устройства, показана на фиг.2. Базовый элемент (БЭ) 3 содержит вход 1, выход 2 и блок преобразования сигналов, включающий компаратор 6, формирователь порогового напряжения 7 и два формирователя нормированного напряжения ФНН 8 и ФНН 9. Вход формирователя порогового напряжения 7 соединен с источником опорного напряжения. Первый вход компаратора 6 соединен с входом 1, второй вход компаратора 6 соединен с выходом формирователя порогового напряжения 7, выход компаратора 6 соединен с входом ФНН 8 и с входом ФНН 9. Для работы БЭ необходимо внешнее электрическое питание: источник регулируемого опорного напряжения, источник положительного потенциала, источник отрицательного потенциала.
Для изготовления компактной многослойной нейронной сети базовый элемент может быть конструктивно сгруппирован с множеством N таких же базовых элементов, совокупность которых образует модульный блок базовых элементов, выполненный на плоской подложке, как показано на фиг.3. Входы 1 и выходы 2 упомянутого множества базовых элементов расположены параллельно друг другу в одной плоскости, образуя две контактные площадки. Как входы, так и выходы могут быть проложены на обеих сторонах подложки.
Нейроподобный базовый элемент (фиг.2) работает следующим образом. На вход 1 от соседних БЭ или от внешних сенсоров могут быть поданы множество сигналов Si, которые суммируются в соответствии с установленными на данный момент многочисленными связями 5. Сумма входных сигналов подается на первый вход компаратора 6, при этом с выхода формирователя порогового напряжения 7 на второй вход компаратора 6 подается некоторый пороговый потенциал. Пороговый потенциал формируется индивидуально в каждом БЭ на основе опорного потенциала, подаваемого на вход формирователя порогового напряжения 7. В тот момент, когда сумма сигналов на входе 1 превысит значение порогового потенциала, БЭ возбуждается. При возбуждении базового элемента компаратор 6 подает команду на выработку нормированных напряжений и ФНН 8 формирует на выходе 2 нормированный по величине и по продолжительности положительный потенциал, который определяет продолжительность возбуждения БЭ и является сигналом выхода нейроподобного базового элемента. Одновременно ФНН 9 формирует на входе 1 отрицательный потенциал, по величине и по продолжительности равный описанному выше положительному потенциалу.
Аналогичный процесс протекает на базовых элементах следующего участка (см. фиг.1). В некоторый момент два базовых элемента в соседних блоках одновременно оказываются в возбужденном состоянии, например на выходе 2 элемента i1 сформировано напряжение +U, а на входе 1 элемента j2 сформировано напряжение -U. Поскольку выход возбужденного элемента i1 и вход возбужденного элемента j2 разделяет диэлектрик с расчетным пробойным потенциалом Uпробоя<2U, возникает пробой диэлектрического слоя и между базовыми элементами образуется резисторная связь, обозначенная на схеме точкой а. Если возбужден только один БЭ, установление связи невозможно.
Выход 2 БЭ 3 может установить электрические связи с множеством соседних БЭ, что показано на схеме фиг.2 как множество сигналов Si.
Отрицательный потенциал, формируемый при возбуждении БЭ через низкоомный резистор (на фиг.2 не показан), поступает на вход 1, резко уменьшая суммарный потенциал входных сигналов Si в период возбуждения БЭ, обеспечивая тем самым конкуренцию базовых элементов.
При частом возбуждении БЭ на накопительную емкость входа формирователя порогового напряжения 7 (не показана) с выхода ФНН 8 подается положительный потенциал и пороговое напряжение возрастает настолько, что БЭ перестает возбуждаться, моделируя усталость синапса биологического нейрона. Отрицательный импульс перестает подаваться на вход 1 БЭ и перестает «подсаживать» суммарный потенциал сигналов Si. Это способствует возбуждению других БЭ, соседствующих по связям с уставшим БЭ. При долгом отсутствии возбуждений пороговый потенциал стекает через высокоомный резистор (не показан) и медленно снижается, стремясь к опорному потенциалу Uопорн. Так реализуется восстановление работоспособности БЭ.
Согласно изобретению базовый элемент нейронной сети, имея многоточечный вход, оперирует не сигналами внешней среды, а суперпозицией сигналов, полученных от разных источников. Поскольку сигналы передаются от сенсоров к исполнительным механизмам только через возбужденные базовые элементы, сигнал, поступивший на вход, может быть передан в двух случаях: либо он имеет величину больше пороговой, либо на вход поступило несколько сигналов и их суммарная величина выше пороговой, т.е. выполнено условие возбуждения БЭ. При возбуждении генерируется новый сигнал, который может быть передан по нейронной сети. Сигнал передается либо через вновь устанавливаемую связь, либо через связи, установленные ранее. Если связей нет, возбужденный БЭ не передает сигнал дальше. Поскольку сигнал передается от слоя к слою нейронной сети не в исходном виде, а постоянно генерируется, сигнал не затухает.
Сопротивление вновь образованной связи R(t0)=Rmin со временем увеличивается R(t>t0)>R(t0). На фиг.1 связи b и с на входе элемента j1 имеют разную проводимость, так что два одинаковых по величине сигнала с выходов элементов i1 и in вносят разный вклад в суммарный сигнал, поступающий на вход компаратора элемента j1, что позволяет отказаться от синапсов, вычисляющих веса сигналов в устройстве-прототипе. В устройстве по изобретению конкуренция базовых элементов за приходящие на их входы сигналы способствует тому, что для сложившейся на данный момент проводимости связей один из БЭ имеет преимущество и определяет путь дальнейшего следования сигнала как наиболее подходящий для данной конфигурации входных сигналов.
Многослойную нейронную сеть монтируют из идентичных модульных блоков МБi путем наложения друг на друга контактных площадок, ортогонально, как показано на фиг.4, или под некоторым углом друг к другу. В последнем случае архитектурные варианты нейронной сети могут быть существенно расширены. Сборка может быть выполнена в виде спиралей, колодцев, шестигранных сот, их сочетаний и т.п. Число слоев практически не ограничено и зависит от сложности задач управления, которые будет решать адаптивное управляющее устройство. Плоскости всех блоков остаются параллельными. Ортогонально плоскостям блоков прокладывают шины питания Uопорн, U+, U-, как показано на фиг.3, которые запитываются от общих для сборки источников. В отличие от традиционных нейрон