G-матрица перцептрона

G — матрица перцептрона — используется для анализа перцептронов. Имеет следующий вид:

$G={\begin{pmatrix}g_{11}&g_{12}&...&g_{1n}\\g_{21}&g_{22}&...&g_{2n}\\...&...&...&...\\g_{n1}&g_{n2}&...&g_{nn}\\\end{pmatrix}}$ ,

где $n$ — число стимулов (величина обучаемой выборки, число примеров для запоминания);

$g_{ij}$ — коэффициенты обобщения.

Смысл G — матрицы перцептрона

Коэффициент обобщения равен полному изменению веса ( $\sum \Delta w_{k}$ ) всех А-элементов, реагирующих на стимул $St_{i}$ , если на каждый А-элемент из множества, реагирующего на стимул $St_{j}$ , подается сигнал подкрепления $\eta$ .

Отсюда понятно, что коэффициент обобщения показывает относительное число А-элементов, реагирующих как на стимул $St_{i}$ , так и на стимул $St_{j}$ .

Для простых перцептронов G — матрица не изменяется со временем и является симметричной.

Связь А и G — матриц перцептрона

Связь между А и G — матрицами перцептрона выражается следующими соотношением: G = A×A^T, где A^T транспонированная матрица. Поэтому G матрица является положительно определенной, либо положительно полуопределенной. Так же ранг матрицы G равен рангу матрицы А.

Важными являются условия при которых G — матрица особенная, то есть матрица не имеющая обратной. Для квадратной матрицы это тогда, когда определитель матрицы равен нулю.

Рассмотрим несколько случаев:

Пусть матрица G = A×A^T особенная, то есть |G| = 0; Рассмотрим |G| = |A×A^T| = |A|×|A^T| = |A|×|A| = |A|², получаем что |A|² = 0 → |A| = 0 → матрица А особенная.
Пусть матрица G = A×A^T не особенная, то есть |G| = ξ ≠ 0; Рассмотрим |G| = |A×A^T| = |A|×|A^T| = |A|×|A| = |A|², получаем что |A|² = ξ≠0 → |A| ≠ 0 → матрица А не особенная.
Пусть |А|=0; Найдем |G|, |G|=|А|*|А^T|=0*0=0.
Пусть |А|=ξ≠0; Найдем |G|,|G|=|А|*|А^T|=ξ*ξ=ξ²≠0.

Таким образом получаем, что Матрица G = A×A^T особенна, тогда и только тогда, когда матрица А особенна.

См. также

Литература

Розенблатт, Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга = Principles of Neurodynamic: Perceptrons and the Theory of Brain Mechanisms. — М.: Мир, 1965. — 480 с.

Похожие исследовательские статьи

В комбинаторике перестано́вкой заданного конечного множества $\text{[math]}$ называется произвольный упорядоченный набор всех элементов $\text{[math]}$ . Группируя эти элементы в разном порядке, можно получить различные перестановки. Всего из множества с $\text{[math]}$ элементами можно получить $\text{[math]}$ различных перестановок.

Те́нзор — применяемый в математике и физике объект линейной алгебры, заданный на векторном пространстве $\text{[math]}$ конечной размерности $\text{[math]}$ . В физике в качестве $\text{[math]}$ обычно выступает физическое трёхмерное пространство или четырёхмерное пространство-время, а компонентами тензора являются координаты взаимосвязанных физических величин.

Ма́трица — математический объект, записываемый в виде прямоугольной таблицы элементов кольца или поля, который представляет собой совокупность строк и столбцов, на пересечении которых находятся его элементы. Количество строк и столбцов задаёт размер матрицы. Матрицу можно также представить в виде функции двух дискретных аргументов. Хотя исторически рассматривались, например, треугольные матрицы, в настоящее время говорят исключительно о матрицах прямоугольной формы, так как они являются наиболее удобными и общими.

Определи́тель (детермина́нт) в линейной алгебре — скалярная величина, которая характеризует ориентированное «растяжение» или «сжатие» многомерного евклидова пространства после преобразования матрицей; имеет смысл только для квадратных матриц. Стандартные обозначения определителя матрицы $\text{[math]}$ — $\text{[math]}$ , $\text{[math]}$ , $\text{[math]}$ .

Нейро́нная сеть Хо́пфилда — полносвязная нейронная сеть с симметричной матрицей связей. В процессе работы динамика таких сетей сходится (конвергирует) к одному из положений равновесия. Эти положения равновесия определяются заранее в процессе обучения, они являются локальными минимумами функционала, называемого энергией сети. Такая сеть может быть использована как автоассоциативная память, как фильтр, а также для решения некоторых задач оптимизации. В отличие от многих нейронных сетей, работающих до получения ответа через определённое количество тактов, сети Хопфилда работают до достижения равновесия, когда следующее состояние сети в точности равно предыдущему: начальное состояние является входным образом, а при равновесии получают выходной образ.

Метод наименьших квадратов (МНК) — математический метод, применяемый для решения различных задач, основанный на минимизации суммы квадратов отклонений некоторых функций от искомых переменных. Он может использоваться для «решения» переопределенных систем уравнений, для поиска решения в случае обычных нелинейных систем уравнений, для аппроксимации точечных значений некоторой функции. МНК является одним из базовых методов регрессионного анализа для оценки неизвестных параметров регрессионных моделей по выборочным данным.

<span class="mw-page-title-main">Перцептрон</span> модель восприятия информации мозгом, предложенная Фрэнком Розенблаттом и реализованная в виде электронной машины «Марк-1»

Перцептро́н — математическая или компьютерная модель восприятия информации мозгом, предложенная Фрэнком Розенблаттом в 1957 году и впервые воплощённая в виде электронной машины «Марк-1» в 1960 году. Перцептрон стал одной из первых моделей нейросетей, а «Марк-1» — первым в мире нейрокомпьютером.

Спино́р — специальное обобщение понятия вектора, применяемое для лучшего описания группы вращений евклидова или псевдоевклидова пространства.

Теорема сходимости перцептрона — это теорема, описанная и доказанная Ф. Розенблаттом. Она показывает, что элементарный перцептрон, обучаемый по методу коррекции ошибки, независимо от начального состояния весовых коэффициентов и последовательности появления стимулов всегда приведёт к достижению решения за конечный промежуток времени. Ф. Розенблаттом также были представлены доказательства ряда сопутствующих теорем, следствия из которых позволяли сделать вывод о том, каким условиям должны соответствовать архитектура искусственных нейронных сетей и методы их обучения.

A — матрица перцептрона — используется для анализа перцептронов. Показывает, какие из А-элементов активны при определённом стимуле. Имеет размер $\text{[math]}$ , где $\text{[math]}$ — число стимулов при обучении, $\text{[math]}$ — число А — элементов. Элементы этой матрицы:

SHARK — симметричный алгоритм блочного шифрования, разработанный группой криптографов, среди которых Винсент Рэймен, — автор шифра AES. В теории позволяет использовать блоки и ключи различной длины, однако авторская реализация использует 128-битный ключ и 64-битные блоки. Структура схожа со структурой подстановочно-перестановочной сети.

Линейная регрессия — используемая в статистике регрессионная модель зависимости одной переменной $\text{[math]}$ от другой или нескольких других переменных $\text{[math]}$ с линейной функцией зависимости.

Матрица смежности — один из способов представления графа в виде матрицы.

Пермане́нт в математике — числовая функция, определённая на множестве всех матриц; для квадратных матриц похожа на детерминант, и отличается от него лишь в том, что в разложении на перестановки берутся не чередующиеся знаки, а все плюсы. В отличие от детерминанта, определение перманента расширено и на неквадратные матрицы.

В данной статье приведен список различных квадратурных формул, для численного интегрирования.

Химическая переменная — в физической химии величина, которая отражает полноту протекания реакции, то есть то, на сколько изменился состав системы в ходе реакции.

Симплектическая матрица — это матрица M размера 2n×2n с вещественными элементами, которая удовлетворяет условию

Симметрии в квантовой механике — преобразования пространства-времени и частиц, которые оставляют неизменными уравнения квантовой механики. Рассматриваются во многих разделах квантовой механики, которые включают релятивистскую квантовую механику, квантовую теорию поля, стандартную модель и физику конденсированного состояния. В целом, симметрия в физике, законы инвариантности и сохранения являются основополагающими ограничениями для формулирования физических теорий и моделей. На практике это мощные методы решения задач и прогнозирования того, что может случиться. Хотя законы сохранения не всегда дают конечное решение проблемы, но они формируют правильные ограничения и наметки к решению множества задач.

Спектр графа - это множество собственных значений матрицы смежности графа.

Обобщённый собственный вектор $\text{[math]}$ матрицы $\text{[math]}$ — вектор, который удовлетворяет определённым критериям, которые слабее, чем критерии для (обычных) собственных векторов.

Эта страница основана на статье Википедии.
Текст доступен на условиях лицензии CC BY-SA 4.0; могут применяться дополнительные условия.
Изображения, видео и звуки доступны по их собственным лицензиям.