В чем функциональное различие между NEF и обычными ИНС?

Помимо очевидного биологического правдоподобия, с вычислительной точки зрения, какова мотивация использования Neural Engineering Framework (NEF) вместо искусственных нейронных сетей (ANN) для вычислительных функций? Из того, что я могу сказать, обе они приблизительно выполняют функции, обладают способностью изучать новые функции и способны создавать самоорганизующиеся сети. Чем отличается NEF?

Ответы (1)

Во-первых, давайте рассмотрим основные принципы NEF .

Первые два принципа (представление и вычисление) кажутся аналогичными обученным моделям ИНС. Кроме того, с описанным здесь правилом обучения hPES они, по-видимому, обладают одинаковыми возможностями обучения (градиентного спуска).

Чем NEF больше всего отличается от ANN, так это тем, что он начинает описывать динамику (осцилляторы, аттракторы). Описание того, как он это делает и чего он достигает, можно найти здесь в примечаниях к курсу Терри Стюарта .

Описание динамики важно для мозга, поскольку простые осцилляторы и интеграторы, по-видимому, являются основой многих различных когнитивных способностей, таких как рабочая память и двигательный контроль.

Что делает NEF, так это переводит нейронное кодирование в решение дифференциальных уравнений (хорошие функции в более общем смысле). Вы можете возразить, что это конкретная реализация ANN.
@KeeganKeplinger Когда вы говорите «конкретная реализация» ИНС, это можно интерпретировать как то, что они оба имеют одинаковые функциональные возможности, но я не уверен, что понимаю ваши доказательства этого. Не могли бы вы мне помочь?
ANN — это просто сеть простых нейронов (обычно созданных по некоторому связующему шаблону, предназначенному для определенной цели). NEF использует ИНС для решения дифференциальных уравнений. Так что, конечно, ИНС, будучи более общим термином, имеет больше возможностей... но как только вы выбираете экземпляр ИНС для конкретной цели, вы начинаете ограничивать возможности ИНС в соответствии с вашей целью.
Поэтому, когда вы говорите ANN, вы не имеете в виду конкретно тип задней опоры. Вы просто имеете в виду любую систему, в которой есть узлы, являющиеся нейронами, которые затем упорядочиваются таким образом, чтобы имитировать нейронные вычисления?
Когда я вижу ИНС, я думаю об отдельных нейронах, смоделированных для простоты и решения проблем, а не о физиологии (то есть не о моделях ионного тока, основанных на реальной кинетике канала). Обычно цель состоит в том, чтобы что-то вычислить, а не понять нейроны — я думаю, что основное определение ANN заключается в цели дизайна сети, а не в типе используемых нейронов. В таких подходах я чаще всего вижу две модели: «интегрируй и стреляй» и «скорость стрельбы». Хотя я здесь не авторитет, мои исследования моделей ионной проводимости. Я знаю, что иногда вы можете вывести поведение групповых нейронов с помощью ANN, поэтому, вероятно, есть нечеткая линия.