Жесткий ИИ — одна из вечных проблем философии, но она сразу же увязает в таких понятиях, как сознание, квалиа и т. д. и может ли машина их иметь. Это обычно пропускает сразу вопрос о том, обладают ли животные этими качествами и являются ли животные какой-то разновидностью интеллекта.
Мы много говорим о ментальном содержании и его человеческом измерении, но если мы собираемся спрашивать о машинах, в этом нет смысла, если мы не можем установить некоторый функциональный предел того, какие биологические процессы составляют мышление.
С довольно прямой ницшеанской точки зрения, власть — это граница между тем, что имеет значение, и тем, что не имеет значения. Исходя из этой точки зрения, логическое определение мышления очень фрейдистское: «Использование данных для продвижения власти». (Нам действительно нужно учитывать зарезервированную силу, поэтому «продвижение силы» должно включать в себя развитие способности делать это, если сила никогда не выражается, или выполнение действий, которые пытаются продвигаться вперед, но терпят неудачу. И просто выживание также должно быть рассматривается как некая сила.)
Проблема в том, что это отбрасывает мысль вниз по шкале к бактериям, которые преследуют химические следы и даже гены. Но это, кажется, исключает простую химию или другие активные процессы, которые не являются целенаправленными по своей природе. Химическое кодирование в гене явно кодирует данные, а филогенетический фонд генетической изменчивости, по-видимому, собирает данные таким образом, чтобы доминировать в экологической нише и увеличивать способность различных генов к дальнейшему формированию окружающей среды. Изменения в кристалле или специфическая форма океанического дна могут быть данными, но они никогда не собираются во что-то похожее на информацию или принятие решений.
Я полностью за то, чтобы просто принять эту широту и придумать какой-нибудь значимый способ обратиться к континууму интеллекта, который простирается так далеко вниз.
Существуют ли аргументированные позиции (включая некруговые, непроизвольные определения мышления), которые выдвигались против столь широкого понятия интеллекта? (Прежде чем я получу дюжину старых философов: мы живем в мире с лживыми, мошенническими шимпанзе, дельфинами и собаками, которые способны рассуждать методом исключения, так что язык и логика больше не помогут.)
Насколько мы потеряем опору на другие важные философские соображения, если примем такое широкое определение?
Кто-нибудь еще удосужился подумать об ИИ или других вопросах, заглянув так далеко? (Я нахожу следы этого у Деннета, но он в основном занимается разоблачением, когда идет туда.)
Говорят, что состояние мозга в зрительной коре содержит информацию в силу того, что оно находится ниже по течению в причинно-следственной цепи от фоторецепторов в глазу. Точно так же можно сказать, что любое состояние материи (например, кристалл) находится ниже по течению от причинной цепи и, следовательно, содержит информацию. Однако идея информации предполагает некоторые способы интерпретации ее значения.
В статье, опубликованной Фрэнсисом Криком и Кристофом Кохом, этот момент проясняется:
«Важная проблема, которой нейробиологи пренебрегают, — это проблема значения. Нейробиологи склонны предполагать, что если они видят, что срабатывание нейрона грубо коррелирует с каким-то аспектом визуальной сцены, например с ориентированной линией, то это срабатывание должно быть частью нейронного коррелята видимой линии Они предполагают, что, поскольку они, как сторонние наблюдатели, осознают корреляцию, стрельба должна быть частью NCC. Это ни в коем случае не следует, как мы утверждали для нейронов в V1. Но главная проблема не в этом, а в следующем: откуда другие части мозга узнают, что возбуждение нейрона (или набора подобных нейронов) вызывает сознательное восприятие, скажем, лица? Откуда мозг знает, что представляет собой срабатывание этих нейронов? Другими словами, как смысл генерируется мозгом?» (Крик и Кох, «Сознание и нейробиология», курсив добавлен )
В ответ на ваши вопросы:
Меня озадачивает, почему вы смешиваете то, что я рассматриваю как три разных понятия, в одно; а именно сознание, мышление и интеллект.
Я считаю, что это только создает путаницу. каково ваше оправдание?
Я помню ученого, который сказал, что когда он однажды наблюдал за семенем Senecio vernalis , плавающим в воздушном ветре, он понял, что это форма разума. Он не говорил, что это была форма мышления или форма сознания.
Никто не будет возражать, если вы будете настаивать на том, что бактерии могут демонстрировать интеллект, но мало кто будет утверждать, что бактерии мыслят или что ДНК думает.
А точнее к применению мышления к машинам. Тьюринг сказал в своей знаменитой статье «Вычислительные машины и интеллект» :
Первоначальный вопрос «Могут ли машины думать?» Я считаю, что это слишком бессмысленно, чтобы заслуживать обсуждения.
И он имел в виду, что это бессмысленно не в смысле тривиальности или трюизма, а в смысле, который имел в виду Хомский, который сравнил такой вопрос с вопросом, умеют ли подводные лодки плавать:
Мышление — свойство человека. Будет ли ИИ когда-нибудь действительно думать? Это все равно, что спросить, плавают ли подводные лодки. Если вы назовете это плаванием, то роботы подумают, что да.
Тем не менее, Тьюринг продолжает приведенную выше цитату следующим:
Тем не менее я полагаю, что в конце века употребление слов и общее образованное мнение изменятся настолько, что можно будет говорить о машинном мышлении, не ожидая возражений.
То, как мы используем язык, может измениться, но не из-за новых строгих определений, а из-за новых соглашений.
Наконец, сознание и мышление — разные понятия. Сознание — это то, что вы можете иметь или кем вы можете быть, в то время как мышление — это то, что вы можете делать. Философ может думать о том, чтобы быть сознательным. Медитирующий может осознавать мышление.
Многие люди считают, что современные компьютеры, можно сказать, демонстрируют некую форму интеллекта. Часть этих людей считает, что компьютерный интеллект будет продолжать развиваться до такой степени, что однажды мы сможем условно говорить о компьютерах как о мыслящих, и все же часть этих людей считает, что, тем не менее, компьютеры, возможно, никогда не будут сознательны в том смысле, в каком люди, или, как выразился Деннет*, «сознательным в самом полном смысле».
* Однако Деннет не из таких людей.
Для (1) рассмотрим тип анализа семейного сходства Витгенштейнов. Совершенно очевидно, что преднамеренное обдуманное принятие решений — это деятельность, которая довольно близка к ядру «интеллекта», еще одним примером является культурная передача приобретенных знаний. Автоматические рефлексы, например, подергивание от боли, хотя обработка информации в общем смысле не рассматривается большинством людей в большинстве случаев как ядро интеллекта. Обратите внимание, что именно тогда, когда животные демонстрируют поведение, свидетельствующее об этих основных аспектах, мы легче всего приписываем им интеллект. меньше склонны приписывать такое поведение реальному интеллекту.
Конечно, при таком анализе нет строгой абсолютной границы (любовная игра? политика как игра? и т. д.), а есть честная оценка того, какие аспекты обработки информации у людей (единственные физические вещи, к которым относится интеллект). универсально приписываемые) являются/не являются прототипами этого класса, хорошо разграничивают многоклеточные организмы, т. е. что «интеллект» является лишь (надлежащим) подмножеством использования данных для продвижения власти.
Переходя к вопросу (2), помимо описательной и таксономической функции, различия между интеллектом и другими формами обработки информации, как мы оцениваем и решаем возникающие из них проблемы. Кто-то опрокидывает ваш напиток с помощью автоматического рефлекса — это другая ситуация (требующая другого поведения), когда кто-то преднамеренно опрокинул ваш напиток.
Может быть, есть контексты, в которых наиболее эффективный способ донести ваши концепции до аудитории — это свалить всю обработку информации в одну кучу как «интеллект», чтобы подчеркнуть, что все это континуум, но также, кажется, есть контексты, где рисование такими широкими мазками кажется скрывать, а не раскрывать.
Скорее расширенный комментарий, чем правильный ответ:
Первоначальное определение мышления как обработки информации и манипулирования символами в духе Тьюринга было правильным до тех пор, пока не появился функционализм и люди не начали понимать метафизические и этические последствия, которые он подразумевал. Затем они начали передвигать стойки ворот только потому, что их не устраивал тот факт, что люди потеряли свой привилегированный статус единственно мыслящих существ. «так что язык и логика больше не помогут». является скорее выражением человеческих страхов и неуверенности, чем лучшим пониманием психических процессов человека.
Я бы взял ваше определение и добавил ограничение, согласно которому обработка данных должна хотя бы частично включать символические представления, отражающие мир способом, подобным витгенштейновской теории смысла изображения. Таким образом, бактерия, следующая за химическими следами питательных веществ, не думает, а гепард, бегущий за газелью, мыслит, учитывая, что существует некоторый гомоморфизм, отображающий газель на ее нейронные паттерны или состояния памяти. Это также позволяет нам сказать, что продвинутые компьютеры думают, а часы и выключатели — нет.
(Обратите внимание, что мои собственные мысли по вашему вопросу развиваются)
Вы упомянули в комментарии: «Часы и выключатели света не используют данные для расширения своих возможностей, поэтому я не уверен, что понял смысл».
Дело в том, что многие процессы потребления и преобразования энергии можно преобразовать в использование данных для проецирования мощности: выключатель света обрабатывает двоичный ввод включения/выключения, а затем проецирует мощность в виде видимого электромагнитного излучения на ничего не подозревающая темная область. Точно так же часы обрабатывают входные данные — количество циклов какого-либо периодического процесса, управляющего ими, — и проецируют их в виде сигнала с более сложным информационным содержанием.
Что отличает вышеупомянутый процесс от мышления, так это интенциональность. Чтобы квалифицироваться как мышление, обработка данных должна быть направлена на то, над чем ищется власть, и для того, чтобы это произошло, должна быть задействована некоторая репрезентация целевого объекта или понятия, отсюда моя ссылка на теорию изображений Витгенштейна.
Помните джунгли Мейнонга? Он предполагал, что цели нашего намерения должны иметь некоторый уровень реальности, даже если они были вымышленными. Что ж, он был прав, за исключением того, что вместо созданного им метафизического зверинца их существование было реальным, потому что они существовали как модели/представления в умах тех, кто их придумал.
Я не могу с пользой ответить 1), потому что я согласен с вашим определением интеллекта, и я тоже не нашел в литературе ничего, что действительно давало бы что-то большее, чем круговые аргументы. В поддержку, однако, вас могут заинтересовать работы Энтони Треваваса (если вы еще с ним не сталкивались). Он работает в Эдинбургском университете и представил весьма прямолинейный аргумент в пользу того, что растения следует рассматривать как разумные организмы точно по тем же причинам, по которым вы предлагаете нам расширить наши нынешние определения.
Была история «перестановки ворот» с определением интеллекта, это понятие, с которым у людей особые отношения. Мы хотим, чтобы он был прерогативой только людей и допускал других в клуб только на основании неопровержимых доказательств, но, с другой стороны, мы не хотим, чтобы он был ответственен за что-либо негативное. Люди часто приписывают свои менее достойные действия «базовым инстинктам», а более благородные — «разуму», не имея при этом какой-либо неврологической основы для их различения. Фактически, было показано, что эмоциональные реакции 6-месячных детей (истерики) сначала обрабатываются через кору головного мозга с использованием современных сетей фМРТ.
Что касается 2) я не вижу, чтобы какая-либо потеря тяги перевешивала преимущество снятия оков плохого разрешения, но я не оптимистична в отношении того, что это когда-либо произойдет. В некотором смысле я думаю, что значительная часть эпистемологических вопросов может даже исчезнуть, когда мы взглянем на то, что означает мышление, безусловно, более антропоцентрические формы дуализма будут иметь меньшую силу.
Что касается 3) относили ли вы работу Джеймса Лавлока к категории людей, рассматривавших идею приписывания мыслящего рода мотива организмам без мозга. Он смотрел вверх по шкале, а не вниз, но определенно считал, что нет веских причин не думать о глобальной экосистеме (и каждой подсистеме в ней) как о живой и способной к намерению путем возникновения. Принимая популярную физикалистскую точку зрения на сознание как эмерджентное свойство, мы должны признать, что экосистемы «думают».
Надеюсь, это оригинальные идеи, потому что я о них пишу.
понимание — это способность моделировать систему в абстрактной структуре.
мышление есть способность применять каузальные механизмы (причина-следствие) к моделям понимания.
Но ваша проблема не в мышлении, мышление — это просто причинно-следственные расчеты. Это больше связано с пониманием, и даже тогда его будет недостаточно. Ваша проблема заключается в концепции интеллекта. Следуя моей последней плохой книге (ydor.org), интеллект можно обобщить не только до механизма мышления или механизма получения прибыли. Человек, который ворует, неразумен, за счет воровства он получает прибыль, но только в краткосрочной перспективе. Интеллект связан с постоянством во времени. Следовательно,
Так может ли это быть искусственным? Если так, то это было бы фантастически, и действительно могло бы быть понято как умное. Но это еще не все: индивидуальное существование может конфликтовать с обществом, и здесь в игру вступает мораль:
Мораль и этика (индивидуальные правила) всегда считаются социальным набором условностей, придуманных бабушкой и дедушкой. А может и нет: мораль — это набор правил, которым мы следуем, чтобы выжить в группе. Мораль настолько важна, что мы пытаемся формализовать ее как закон (формальные правила, допускающие сосуществование), но поскольку она должна быть объективной, ее можно применять для наказания только в доказанных случаях. Мораль является важнейшей социальной нормой, основанной на мышлении.
ИИ также должен включать в себя моральные правила, чтобы машины могли сохраняться в обществе.
Чтобы прийти к «наиболее полезной» границе определения «мышления», комитет (как можно больше) должен собраться и 1) выдвинуть свои индивидуальные определения того, насколько «широкое» определение «мышления» должно быть, и 2) получить наилучшее определение, включающее как можно больше определений, находящихся в « близком » согласии друг с другом. Другими словами, самое полезное определение границ — это то, которое используется чаще всего или самой большой группой людей!
Филип Клёкинг
Конифолд
пользователь9166
пользователь9166
пользователь19423
пользователь9166
пользователь19423
пользователь9166
пользователь19423
пользователь9166
пользователь19423