В описанных до сих пор методах обучения значения весов подбиралось в сети с заданной топологией связей. А как выбирать саму структуру сети число слоев и количество нейронов в этих слоях Решающим, как мы увидим, является выбор соотношения между числом весов и числом примеров. Зададимся поэтому теперь следующим вопросом [c.63]
Нейронные сети с прямой связью состоят из статических нейронов, так что сигнал на выходе сети появляется в тот же момент, когда подаются сигналы на вход. Организация (топология) сети может быть различной. Если не все составляющие ее нейроны являются выходными, говорят, что сеть содержит скрытые нейроны. Наиболее общий тип архитектуры сети получается в случае, когда все нейроны связаны друг с другом (но без обратных связей). В конкретных задачах нейроны обычно бывают сгруппированы в слои. На рис. 1.3 показана типовая схема нейронной сети с прямой связью с одним скрытым слоем. [c.23]
Главной нерешенной проблемой в области анализа временных рядов с помощью нейронных сетей остается определение топологии сети (или числа степеней свободы в модели). Нужно или прямо ука- [c.60]
Хотя одноэлементные нейронные системы имеют достаточно широкую область применения [8.6], обычно говорят о нейронных сетях. Искусственная нейронная сеть построена из нейронов, связанных друг с. другом. Организация (топология) сети может быть различной. Если не все составляющие ее нейроны являются входными или выходными, говорят, что сеть содержит скрытые нейроны. Слой, состоящий из скрытых нейронов, называется скрытым слоем. Скрытых слоев может быть несколько. [c.278]
Соединенные друг с другом нейроны образуют нейронную сеть. Топология сети может быть различной. До последнего времени отсутствовали строгие правила построения [c.143]
Алгоритм СОК основывается на соревновательном обучении без учителя. Он обеспечивает сохраняющее топологию отображение из пространства большой размерности в элементы карты. Элементы карты, или нейроны, обычно образуют двумерную решетку. Таким образом, это отображение является отображением пространства большой размерности на плоскость. Свойство сохранения топологии означает, что СОК распределяет сходные векторы входных данных по нейронам, т.е. точки, расположенные в пространстве входов близко друг к другу, отображаются на близко расположенные элементы СОК. Таким образом, СОК может служить как средством кластеризации, так и средством визуального представления данных большой размерности. [c.25]
СОК представляет собой сохраняющую топологию разновидность сети WTA. Она формирует структурированную. D-мерную решетку выходных нейронов, в которой близкие выходные значения соответствуют близким входным. Это свойство делает СОК идеальным средством для визуального представления многомерных данных. Иными словам, СОК отображает rf-мерные данные в D-мерную (DX3) выходную нейронную решетку, сохраняющую информацию в максимально возможной степени. [c.124]
СОК сохраняет топологию входных данных если в соответствующем данному объекту нейроне нет других аналогов, то более или менее сравнимые объекты могут быть найдены в соседних нейронах. Это дает также возможность вычислить расстояние до прототипа или ошибку квантования, а также установить степень расхождения. [c.173]
Структурные изменения рынка можно увидеть как на географических картах, так и на СОК. Ценовые изменения также могут быть отчетливо выявлены. Наблюдения сравнивались с ценами, генерируемыми СОК, и в 1989 г. был зафиксирован первый сигнал о понижении цен. Каждое наблюдение сравнивалось с наиболее подходящим по топологии данных нейроном, и это явилось причиной того, что СОК выдавала точную информацию об изменениях рынка. [c.181]
СОК является непараметрической регрессионной методикой, которая часто используется для формирования двумерного отображения входных данных с сохранением исходной топологии. СОК относится к разряду нейронных сетей, обучаемых без учителя, и представляет собой способ выявления взаимосвязей в структуре дан- [c.203]
Но если функциональные принципы организации компьютерной аппаратуры известны в деталях (поскольку эти принципы нами же и создавались) - от функций элементов до архитектуры, - то о функциональной стороне организации нейронных структур мозга, реализующих интеллектуальные процессы, до сих пор известно не слишком много. Речь идет именно о функциональной стороне. В нейрофизиологии подробно изучена анатомия и топология мозга. Известно, какие зоны мозга возбуждаются при различных процессах обработки информации и какие физико-химические процессы происходят при этом в нейронах и нейронных волокнах. Однако в целом нейрофизиология, зная многое о процессах передачи сигналов между нейронами, мало определенного может сказать о том, как с помощью этих процессов организуется обработка и запоминание крупных информационных единиц - образов, слов, понятий, - хотя гипотез на этот счет существует немало. Загадки, перед которыми стоит нейрофизиология, напоминают проблемы опытного электротехника, который, ничего не зная о принципах работы компьютера, вздумал бы понять их, вскрыв компьютер и изучая его схемы. Он быстро обнаружит, что сигналы имеют электрическую природу выделит основные конструктивные блоки и связи между ними сможет замерить напряжение и силу тока в любой точке любой схемы. Однако это не объяснит ему, почему в результате каких-то электронных процессов в машине складываются два числа или в длинном тексте отыскивается нужное слово. Если он не знает, как в компьютере представляются числа, что такое процессор и программа, то у него нет даже нужных слов и понятий, чтобы сформулировать правильные вопросы. [c.16]
Что могут дать в этом отошении нейронные сети В этой главе будет показано, что нейронные сети можно рассматривать как обобщение традиционных подходов к анализу временных рядов. Нейронные сети дают дополнительные возможности в моделировании нелинейных явлений и распознавании хаотического поведения. Благодаря своей большой гибкости (на одной топологии можно реализовать много различных отображений), сети могут ухватывать самые разные структуры в фазовом пространстве. [c.54]
В основе нейронной сети, называемой динамическим ассоциативным запоминающим устройством (ДАЗУ), лежит идея отображения входных последовательностей в траектории — трубки многомерного сигнального пространства с сохранением топологии пространства перцептивных признаков. Этот принцип, предложенный А.Н. Радченко для интерпретации работы реального нейрона [49] и развитый впоследствии в [50, 51], позволяет построить нейронную сеть, способную к распознаванию речевых образов на основе последовательностей векторов параметров первичного описания сигнала. [c.107]
Метод СОК основан на использовании нейронных сетей, обучаемых без учителя. По сравнению с другими нейросетевыми методами (некоторые из которых описываются в работе Дебока (Deboe k, 1994)), требующими, чтобы один или несколько выходов были ассоциированы с одним или более входами, СОК сводит многомерные данные к дву- или трехмерным картам или нейронным решеткам. Алгоритм СОК построен по принципу конкурентного обучения без учителя. Элементы карты, или нейроны, образуют обычно двумерную решетку, т.е. в конечном итоге мы имеем дело с отображением многомерного пространства на плоскости или в трехмерном пространстве. Метод СОК сохраняет топологию данных. Это означает, что СОК объединяет похожие векторы входных данных в рамках одних и тех же нейронов или узлов решетки. Точки, расположенные в пространстве входных векторов близко друг к другу, отображаются в элементах карты, также располагающихся рядом. Таким образом, СОК может служить инструментом для кластерного анализа многомерных данных. СОК обладает также способностью к обобщению. Способность нейронной сети к обобщению означает, что сеть может распознавать или давать характеристику входных данных, которые не встречались ей ранее. [c.81]
NeuroSolutions представляет собой средство нейросетевого моделирования с графическим интерфейсом. Поскольку программа разработана в объектно-ориентированном стиле, она обладает гибкостью, необходимой для реализации различных парадигм обучения и топологии сети. Графический интерфейс и множество средств контроля ускоряют процесс экспериментирования, предоставляя возможность анализировать работу нейронной сети в процессе обучения в реальном времени. Поддерживаемые виды топологии [c.261]
Нейронная сеть представляет собой многослойную сетевую структуру, состоящую из однотипных (и сравнительно простых) процессорных элементов - нейронов. Нейроны, связанные между собой сложной топологией межсоединений, группируются в слои (как правило, два-три), среди которых выделяются входной и выходной слои. В нейронных сетях, применяемых для прогнозирования, нейроны входного слоя воспринимают информацию о параметрах ситуации, а нейроны выходного слоя сигнализируют о возможной реакции на эту ситуацию. Перед началом призводственной эксплуатации нейронная сеть проходит специальный этап настройки - обучения. Как правило, сети предъявляется большое количество заранее подготов- [c.135]