Почему эволюция заставила нейроны использовать спайки?

Я собираюсь быть вперед и сказать, что я не биолог. Я не утверждаю, что полностью понимаю функциональность нейрона с электрической/химической точки зрения... Я с любопытством смотрю на это со стороны как программист.

В наши дни большое нововведение в искусственных нейронных сетях — это имитация их с биологической точностью, то есть с добавлением импульсов, размещением сети в евклидовом пространстве и множеством других приятных мелочей (посмотрите на проект « Человеческий мозг» ; это действительно круто). ...Наш собственный мозг поддается вычислению при наличии достаточно мощного компьютера. Вероятно, это также имеет множество захватывающих и ужасающих философских следствий.), но это не единственная модель, которую люди обычно используют для нейронных сетей.

В прошлом многослойные персептроны были большой вещью; Я не буду углубляться в их объяснение, но, по сути, каждый нейрон просто выполняет математическую функцию на своих входах, а затем выводит ее. Там нет всплесков в том смысле, в каком это происходит с нашими нейронами. Нейрон может работать почти на 100% бесконечно долго, и нет никакой объективной разницы между этим и 0% или где-то еще.

Я как бы отклонился от темы, но я пытаюсь понять, почему такое поведение не наблюдается в системе вычислений, созданной эволюцией за многие-многие годы? Почему вместо этого мы используем спайковые нейроны? Вместо этого мы разработали странную систему, в которой шипы перемещаются по цепочкам нейронов по шаблонам, которые мы еще не совсем понимаем, чтобы вызвать поведение, необходимое для выживания существа. Мой вопрос в том, почему это было предпочтительнее чего-то похожего на многослойные персептроны? Является ли более энергоэффективным использование модели с шипами? Мозг использует непропорциональное количество энергии. Интересно, более эффективна ли она в качестве модели для вычислений?

Просто чтобы убедиться, что вы имеете в виду, вы спрашиваете, почему нейроны активируются только методом «включено или выключено» и почему нет промежуточных состояний?
Простите, нет; Я спрашиваю, почему нейроны с этим шипом постоянно используются каждым существом с мозгом; пики в определенное время, а не, например, передача 50% «сигнала» в течение длительного периода времени или любой другой образец поведения. Таким образом, не обязательно бинарный, как вы описываете, а сам пик. Это трудно описать без подробного объяснения многослойных персептронов...
Тем более, что у вас уже есть количественный опыт, книга « Шипы » рассматривает многие из этих вопросов с точки зрения теории информации.
Вы должны прочитать о том, как работают нейроны. Вы признали, что не знаете этого, но это прямо отвечает на ваш вопрос.

Ответы (4)

Одно из многих преимуществ системы «все или ничего» заключается в том, что ресурсы могут быть сохранены для событий синхронизации, которые требуют синхронизированного взаимодействия между многими клетками (например, передвижения). Двоичное поведение также может быть частично побочным эффектом скорости и эффективной передачи информации на большие расстояния (что, в первую очередь, является одним из больших преимуществ нейронов как клеток).

Однако следует отметить, что нейроны не всегда бинарны. Точнее сказать, что нейроны обладают бинарными свойствами, которые позволяют нейронам вести себя бинарно (но не все нейроны). Кроме того, в основе порога возбудимости нейрона лежит множество непрерывных (т.е. небинарных) процессов.

Я думаю, вы упускаете одну вещь: модель персептрона и модель импульсов не исключают друг друга. На самом деле в персептронах люди обычно используют сигмовидную функцию. Это не совпадение: это как бы имитирует всплеск. Если бы вам нужно было смоделировать такой организм, как C. elegans, нейроны которого не активируются импульсами (но используют «градуированные потенциалы действия»), вы бы использовали другой тип функции активации (кстати, если вам нравится проект «Человеческий мозг», вы также должны проверить проект Openworm , который намного более реалистичен и уже дает некоторые интересные результаты ).

Итак, вернемся к делу. Когда вы пытаетесь смоделировать обучение и формирование памяти, вы часто сталкиваетесь с пластичностью. Просто краткое объяснение: нейрон запускает потенциал действия (ПД), когда его трансмембранный потенциал превышает предел. Сам потенциал изменяется за счет входов от других нейронов. Но не все входы имеют одинаковый вес. Допустим, вы смотрите на нейрон А, который получает синапсы от нейронов В, С, D... Если В срабатывает одновременно с С, этого может быть достаточно, чтобы создать ПД из А. Но даже в сочетании с В или C, D не вызывает достаточного изменения трансмембранного потенциала для создания AP; он должен выстрелить точно в то же время, что и E, F, G и H, чтобы получить достаточную «огневую мощь» для активации A.

Однако если каждый раз, когда D срабатывает, A получает AP (из-за одновременной активации других входящих нейронов), то можно сказать, что D «полезен» для A, и (в зависимости от типа нейрона и других параметров) вес D может увеличиться, так что через некоторое время D сможет вызвать ПД в A, просто возбуждаясь в то же время, что и любой другой входящий нейрон. Это феномен пластичности. Обратите внимание, что здесь это действительно простой гипотетический пример. А также то, что идея о том, что обучение является результатом пластичности, все больше и больше подвергается сомнению.

Итак, если вы хотите понять, как происходит обучение и память, вас могут интересовать только веса соединений и то, как они развиваются в зависимости от активности сети. В этом случае модель персептрона — хороший выход.

В наши дни большое нововведение в области искусственных нейронных сетей — это имитация их с биологической точностью, то есть с пиковыми импульсами.

Итак, как вы уже упоминали в своем вопросе, это вопрос выбора модели, которую вы собираетесь использовать (как исследователь, пытающийся понять мозг). Это не попытка дать точное описание того, каков мозг на самом деле. Если вас интересуют веса соединений, вы можете использовать подход нейронных сетей (и он не устарел ), и вас не волнует отдельный ионный канал на мембране нейрона. Но в качестве альтернативы вы также можете посвятить свою жизнь пониманию структуры отдельного ионного канала и того, как простые детали могут определять всю работу мозга.

Такие проекты, как Human Brain Project, пытаются создать «биологически точную» модель мозга. Итак, он включает в себя моделирование спайков, а также сетевой организации, а также одиночных ионных каналов. Таким образом, в этом случае им не нужно использовать такие парадигмы, как искусственные нейронные сети, поскольку поведение сети должно быть результатом моделирования отдельных нейронов: это будет эмерджентный ответ . Однако в них больше нет упрощений, привносимых другими моделями, поэтому им нужна огромная вычислительная мощность, а также они сталкиваются с новыми проблемами: например, они должны присваивать значения всем отдельным параметрам своих моделей, некоторые из которых в настоящее время неизвестно, а может и вовсе не существовать.

Итак, я думаю, что это дает ответы на ваш вопрос в том смысле, что не мозг эволюционировал, чтобы выбрать модель, а ученые, которые пытаются смоделировать один конкретный аспект мозга.

РЕДАКТИРОВАТЬ: на самом деле я вижу, что этот вопрос довольно старый; извините, это было предложение справа, которое привело меня сюда. Но я думаю, что мой ответ все еще может принести аспект, который еще не упоминался в других ответах. Поэтому я надеюсь, что вы это увидите.

Использование спайков представляет собой смесь их вычислительных преимуществ и ограничений биологического субстрата, в котором они реализованы:

  1. Они могут путешествовать на большие расстояния с высокой скоростью, потому что они могут извлечь выгоду из скачкообразной проводимости, которая намного быстрее, чем диффузия, и ее можно поддерживать на больших расстояниях. Цифровой сигнал менее подвержен шуму, что также является причиной того, что наши компьютеры работают в цифровом формате.
  2. Спайки могут быть модулированы с помощью химических синапсов, которые являются: а) направленными; б) могут усиливать сигнал; в) могут модулировать сигнал; г) могут даже подавлять сигнал. Аналоговые напряжения должны передаваться через электрические соединения, не допускающие модуляции.
  3. Частотное кодирование (сигнал лежит в интервале между выбросами) имеет более широкий динамический диапазон, чем кодирование по напряжению.
  4. Генерация всплесков может служить нелинейностью в передаточной функции.
  5. Спайк можно использовать для более эффективного кодирования временных сигналов за счет уменьшения избыточности (только изменение сигнала).

Кстати. не ждите слишком многого от проекта человеческого мозга - много разговоров и никаких результатов.

Было бы здорово, если бы вы добавили несколько ссылок в свой ответ!
Мой ответ представляет собой смесь знаний из учебника и здравого смысла. Существует очень мало статей, достаточно широких, чтобы обосновать одну из причин.

Нейроны бинарны в том смысле, что они либо «срабатывают», либо «не срабатывают». Промежуточного уровня нет, потому что возбуждение нейронов (биохимически) представляет собой лавинный процесс. Возбуждающие триггеры повышают мембранный потенциал, а тормозные триггеры понижают его. Как только достигается «пороговое напряжение», нейрон загорается и срабатывает. Вот как нейроны принимают «решения»: входы от многих тормозных и возбуждающих нейронов суммируются, и если сумма превышает пороговое напряжение, соответствующий нейрон срабатывает. Используя вычислительный язык, нейрон — это логический элемент И с сотнями входов.

Прочитайте статью в Википедии о «потенциалах действия» для более подробного обсуждения.

Но мой вопрос заключается в том, каковы преимущества эволюционной пригодности использования этого механизма по сравнению с каким-либо другим механизмом, более похожим на «недискретные логические вентили», такие как то, что наблюдается в многослойных персептронах? Просто потому, что добавление было самым простым методом разработки, и по мере того, как мозг становился все более сложным, он продолжал зависеть от этой архитектуры? В основном я понимаю, как работают импульсные нейроны, по крайней мере, с математической точки зрения, а не с электрохимической (мне нужно прочитать об этом ...), но я не думаю, что это входит в рамки моего вопроса. Извините за неясность.