Являются ли нейроны более энергоэффективными, чем транзисторы?

С точки зрения порядка величины, как энергопотребление типичного нейрона млекопитающих (в мозгу) соотносится с современным MOSFET?

Вы выдаете около 100 Вт, сидя там. Ваш мозг может выполнять обработку, которую не может сделать ни один чип.
Я голосую за то, чтобы закрыть этот вопрос, потому что вы не можете осмысленно сравнивать полевой МОП-транзистор с нейроном. Это как сравнивать яблочный пирог с виски — они делают разные вещи и служат разным целям с разными целями.
@StephenG ОП не просит сравнивать цели или задачи. Например, вы все еще можете сравнить калорийность яблочного пирога и виски.
@BioPhysicist Согласно вашему аргументу, любое произвольное сравнение между разными вещами здесь разумно и уместно. Сделано с целью производства (в лучшем случае) бесполезной и бессмысленной статистики. Еще один источник бессмысленных вопросов от скучающих людей, который никак не помогает людям понять физику, для чего и существует этот сайт.
@StephenG Пожалуйста, не искажайте то, что я говорю. Я определенно не говорю, что все сравнения здесь по теме. Я даже не защищаю этот вопрос на самом деле. Я имел в виду только ваш комментарий. Да, нейроны и МОП-транзисторы разные, но технически их энергии все же можно сравнить. Это все, что я говорил на самом деле. Уместен ли этот вопрос здесь или нет, это другой разговор; хотя это не бессмысленный вопрос.
@BioPhysicist Не пытаюсь исказить ваши слова, просто говорю вам, как я их читаю, и я думаю, что другие люди могут их интерпретировать. Благодарю за разъяснение. Придется согласиться не соглашаться по существу вопроса, увы.
@StephenG Технически я согласен, что нейрон и транзистор просто несопоставимы. Однако я думаю, что хорошо проработанный ответ, объясняющий разницу между ними, может быть очень полезен для сообщества.
Сравнение энергопотребления кажется мне законным физическим упражнением. Я думаю, что единственная серьезная проблема с вопросом - это просто тег эффективного использования энергии, поскольку для любого из сравниваемых объектов не указана метрика «эффективности».
Возможно, вы можете дать более подробную информацию в вопросе, почему вас интересует сравнение, для чего вам нужен этот номер или какое сравнение вы ищете. Самый простой ответ заключается в том, что и мозгу, и портативному компьютеру требуется около 20-30 Вт мощности, поэтому вы можете разделить это на количество нейронов в мозгу или транзисторов в компьютере, чтобы получить два числа, но если эти значения находятся в любой полезный способ зависит от того, для чего вы это хотите.
Вы можете сравнить их энергопотребление, но вы не можете сравнить их эффективность, а энергопотребление мало что значит. Для имитации нейрона потребуется сложная схема с несколькими транзисторами, в то время как для решения проблем, которые часто решаются с помощью простых транзисторных схем, требуется сложная нейронная сеть. (Конечно, есть и другие проблемы, которые транзисторы могут решить, но нейроны для них просто бесполезны, например, переключение питания.)

Ответы (6)

Неудивительно, что получить энергопотребление ячейки не так-то просто. Какова потребляемая мощность ячейки? делает различные оценки. Одна оценка для человеческой клетки

п с е л л "=" 3 10 10 Вт

При чтении обратите внимание, что мощность измеряется либо в ваттах, либо в АТФ/сек. АТФ или аденозинтрифосфат — это молекула, которая хранит энергию в клетках. АТФ – это количество энергии, освобождающееся при удалении фосфатной группы.

Как указывал Мартин Модрак, мозг имеет 2 % массы тела, но использует 20 % своей энергии. Нейроны используют 80 % этого 20 % . Я оценю, что мозг 25 % нейроны. Это означает, что нейроны используют примерно 32 раз больше энергии, чем типичная человеческая клетка, или

п б р а я н   с е л л "=" 10 8 Вт

Что еще более удивительно, энергопотребление полевого МОП-транзистора не так просто, как можно было бы ожидать. И не все МОП-транзисторы одинаковы. Некоторые предназначены для высоковольтных импульсных источников питания. Руководство по расчету рассеиваемой мощности полевого МОП-транзистора в источнике высокой мощности приводит пример источника питания, в котором рассеяние 1,23 Вт .

Но вы, вероятно, думаете о транзисторе, используемом в компьютере. Я нашел неподтвержденную приблизительную оценку в статье Если заменить каждый транзистор в современном процессоре старой вакуумной лампой, сколько энергии будет потреблять этот процессор? что мощность транзистора

п т р а н с я с т о р 10 7 Вт

Как отметил Жоао Мендес, энергопотребление напрямую связано с тактовой частотой. Это связано с тем, что большая часть энергии используется при переключении между 1 и 0. Это ограничивающий фактор тактовой частоты. Слишком большое энергопотребление означает слишком сильное повышение температуры чипа даже при хорошем охлаждении. Кроме того, для мобильных устройств он быстрее разряжает батарею.


Имейте в виду, что мозг и компьютер достигают огромной вычислительной мощности совершенно разными способами.

Типичный компьютер может использовать 10 10 МОП-транзисторы в ЦП и ГП и > 10 11 в большом банке оперативной памяти. Типичная тактовая частота > 10 9 Гц. Он может запускать сотни потоков «параллельно», используя 10 процессоры. От количества транзисторов ,

Макс Розер, Ханна Ричи, CC BY 4.0 https://creativecommons.org/licenses/by/4.0, через Wikimedia Commons

С другой стороны, мозг имеет около 10 11 нейроны Действительно ли в человеческом мозгу столько же нейронов, сколько звезд в Млечном Пути? . Он также имеет примерно в 3 раза больше глиальных клеток, нейроглиальных клеток . Его можно условно назвать «тактовой частотой» около 5 80 Гц, Какова тактовая частота, эквивалентная человеческому мозгу? , и массивно параллельна.

MP 2Ring, Joe и Stephan Matthiesen отмечают, что нейрон имеет много дендритов, намного сложнее транзистора и, следовательно, является более мощным вычислительным элементом. Это правда, но транзистор намного быстрее и может выполнять множество операций за то время, которое нейрон может выполнить одну.

У меня нет хорошего способа определения вычислительной мощности, который бы применим к обоим, и уж тем более надежды сравнить их. Мозг и компьютер могут делать то, чего другой не может коснуться. Все простое, например, сравнение тактовой частоты и количества дендритов, несомненно, вводит в заблуждение.

Возможно, добавьте дополнительную информацию об относительных вычислительных мощностях MOSFET и нейрона, а также о схемах MOSFET и нейронных «схемах». Типичный человеческий нейрон имеет много тысяч входных синапсов (и может отправлять выходные данные многим тысячам других), и обмен данными в синапсе, как правило, сложнее, чем простая односторонняя передача одного бита.
Думаю, стоит добавить, что энергопотребление транзисторов в компьютере напрямую связано с тактовой частотой. Кроме этого, на месте.
Хорошая база! Потенциальная проблема здесь заключается в том, что нейроны очень не являются средними клетками с точки зрения потребления энергии - Вики ( en.wikipedia.org/wiki/Human_brain#Metabolism ) утверждает, что мозг потребляет ~ 20% от общего потребления энергии всего тела при взвешивании. ~1,4 кг. Из этого потребления ~80% приходится на нейроны ( pnas.org/content/110/9/3549 ), так что это может легко иметь разницу на порядок или два по сравнению с потреблением средней человеческой клетки...
Кроме того, возникает вопрос, являются ли количество полевых МОП-транзисторов и количество нейронов правильными мерами для сравнения. Каждый нейрон выполняет гораздо больше вычислений, чем отдельный полевой МОП-транзистор, поскольку он объединяет входы от многих соединений, тогда как отдельный МОП-транзистор представляет собой простой переключатель. Возможно, лучше было бы сравнить количество синапсов в мозгу с количеством логических элементов в компьютере.
@Stephan Matthiesen Я разместил ответ со ссылкой на некоторые исследования, которые, я думаю, указывают на то, что оба этих сравнения на много порядков отличаются.
@Джо, спасибо. Я согласен, что оба сравнения неуместны. Но, как вы говорите, неизвестно и трудно понять, насколько сложным является нейрон, поэтому предположение о синапсов против логических вентилей было просто идеей, на что еще обратить внимание, исходя из того, что они являются своего рода основной единицей, где происходит обработка. В конечном счете, мозг и компьютер просто работают совершенно по-разному (например, мозг даже не цифровой, и упомянутая выше «тактовая частота» мозга имеет совсем другое значение, чем тактовая частота в компьютере). Много сложностей для любого сравнения!
«Как указал Мартин Модрак, мозг имеет 2% массы тела, но использует 20% своей энергии. Нейроны используют 80% из этих 20%. Я оценю, что мозг состоит из 25% нейронов. примерно в 32 раза больше энергии, чем типичная человеческая клетка». Вы предполагаете, что нейроны имеют ту же массу, что и средняя клетка?
@Accumulation - Да, за неимением лучшего. Считайте, что это вкатывается в «мозг состоит на 25% из нейронов». Я действительно не знаю, правда ли это, но это дает мне грубую оценку.

Это не дает прямого ответа на ваш вопрос, но я думаю, что эта статья дает хорошее представление о том, насколько сложнее отдельный биологический нейрон, чем отдельный узел в искусственной нейронной сети. В документе, цитируемом в статье, им нужна сеть с 1000 узлов для моделирования одного биологического нейрона, и даже тогда они говорят, что биологический нейрон, вероятно, сложнее этого. Чтобы сравнить это с вашим вопросом, вам понадобится какая-то мера, связывающая сложность одного транзистора со сложностью узла в нейронной сети; Я сомневаюсь, что вы можете просто сказать, что каждый узел соответствует Икс транзисторы, но, конечно, узлы намного сложнее.

Так что, возможно, у вас есть какие-то другие мотивы для того, чтобы задать этот вопрос. Но если вы представляете себе функционирование транзисторов в процессоре и нейронов в мозгу чем-то похожим, а затем пытаетесь провести прямое сравнение на основе этого, то я не думаю, что это сравнение очень полезно.

Как корреляция с вашей статьей: они недавно определили, как нейроны аппроксимируют обратное распространение без необходимости периода простоя для этого. Очевидно, что транзистор никогда не сможет соответствовать этому.
@Ross Presser спасибо за интересную ссылку

Человеческий мозг работает примерно 12 ватт и имеет около 90 миллиардов нейронов при энергопотреблении около 10 10 Вт. Однако я не смог найти потребляемую мощность MOSFET.

Мой процессор Intel Core I5 ​​и человеческий мозг потребляют сопоставимое количество энергии (порядка величины: 100 Вт).

В моем мозгу примерно в 60 раз больше нейронов, чем транзисторов в моем процессоре.

Таким образом, каждый транзистор использует примерно в 60 раз больше энергии, чем нейрон.

Это, конечно, бессмысленное сравнение - чашка песка содержит около 15 миллионов песчинок и вообще не потребляет электричества, поэтому «использует на 100% меньше энергии, чем нейроны или транзисторы».

Ни нейрон, ни транзистор не обладают вычислительной мощностью сами по себе.

Даже сравнение всего человека с целым компьютером бессмысленно — что быстрее? За то, что заставил меня смеяться, человек быстрее. Чтобы заставить меня плакать, компьютер быстрее :D

Замечали ли вы, что подготовка к экзаменам или другая интенсивная интеллектуальная работа вызывает у вас чувство голода? Человеческий мозг сжигает около 100 Вт. В некоторых задачах, например, при распознавании лиц, он гораздо более энергоэффективен, чем компьютеры. В других случаях, например, при добавлении тысяч чисел компьютеры выигрывают.

Хорошая мысль. Когда я думаю или занимаюсь спортом, я скорее устаю, чем голоден. Но упражнения сделают меня голодным позже. Когда я устаю думать, я иногда могу думать о чем-то другом. Это как использовать разные мышцы. Я понимаю, что потребление энергии мозгом не сильно меняется, когда вы думаете. Как это меняется для упражнений?

Вы действительно не можете осмысленно сравнивать энергопотребление нейронов и транзисторов. Помимо того факта, что для создания модели нейрона в реальном времени требуется довольно мощный процессор (до такой степени, что мы можем даже смоделировать полную сложность нейрона), они фундаментально отличаются.

Транзисторы - электронные устройства. Они используют мощность только тогда, когда что-то вычисляют. Выключите компьютер, и ЦП потребляет нулевую мощность. Нейроны — это живые клетки: они потребляют энергию просто потому, что они живы, в первую очередь для того, чтобы быть живыми. Разница в энергозатратах между активным мышлением и неактивным мышлением мизерная, если она вообще существует.

Если бы ваш мозг использовал больше энергии, когда вы думаете, он нагревался бы и должен был бы охлаждаться кровью, протекающей через него. Это либо поможет вам согреться, либо заставит вас потеть, чтобы избавиться от жары. Я тоже не заметил.
@ mmesser314 это буквально то, как это работает! en.wikipedia.org/wiki/Функциональное_магнитное_резонансное_изображение
@Lawnmower Man: Вопрос, однако, заключается в том, в чем разница в потреблении энергии между «отдыхающим» нейроном и активным? Скажем, например, нейроны в зрительной коре, когда вы находитесь в темной комнате, против обработки сложной визуальной сцены. Насколько я понимаю, это где-то около 5%.