Как в вычислительной теории разума определить, что вычисляется?

Вы (первоначально) спросили, как мы идентифицируем алгоритм, и я хотел бы предположить, что в центре внимания функционализма в целом и вычислительной теории разума (CTM) в частности находятся функции, а не алгоритмы; вот отрывок из эссе SEP о функционализме :

Функционализм в философии сознания — это учение о том, что то, что делает нечто ментальным состоянием определенного типа, зависит не от его внутреннего строения, а скорее от того, как оно функционирует или какую роль оно играет в системе, частью которой оно является. часть.

Теперь я хотел бы пройтись по некоторым определениям, относящимся к вычислениям; Вот как Питер Смит определяет тезис Черча-Тьюринга в своей книге «Введение в теоремы Гёделя» (стр. 315):

Тезис Черча-Тьюринга: эффективно вычисляемые полные числовые функции - это µ-рекурсивные/вычислимые по Тьюрингу функции.

и класс эффективно вычислимых функций (стр. 15) (обратите внимание, что эффективно не означает эффективно ):

Одноместная суммарная функция f : Δ → Γ эффективно вычислима тогда и только тогда, когда существует алгоритм, который можно использовать для вычисления за конечное число шагов значения функции для любого заданного входа из области Δ.

и, наконец, его определение алгоритма (стр. 14):

Алгоритм представляет собой набор пошаговых инструкций (инструкций, которые фиксируются до их выполнения), в которых каждый маленький шаг четко определен во всех деталях (не оставляя места для сомнений относительно того, что имеет значение, а что не имеет значения). как выполнение шага и не оставляя места для случайностей). Идея, таким образом, состоит в том, что выполнение алгоритма (i) включает в себя полностью определенную последовательность дискретных пошаговых процедур (где каждый маленький шаг может быть легко выполнен очень ограниченным вычислительным агентом или машиной). (ii) Не осталось места ни для проявления воображения, ни для интуиции, ни для ошибочного человеческого суждения. Кроме того, для выполнения алгоритма (iii) нам не нужно прибегать к внешним «оракулам» (т. е. независимым источникам информации) и (iv) нам не нужно прибегать к случайным методам (подбрасыванию монеты). .

Итак, суть алгоритма в том, что он может быть описан в терминах шагов, которые достаточно малы или так называемы механически; иногда алгоритм указывается в очень абстрактных терминах (например, псевдокод в книгах по компьютерным наукам), но в предположении, что в принципе каждый абстрактный шаг может быть определен достаточно маленькими шагами, если мы потрудимся заполнить пробелы.

поэтому, и в ответ на ваш вопрос об аппаратном и программном уровне абстракций, я думаю, что на самом деле не имеет значения, что происходит на этих уровнях, пока мы понимаем, что в принципе там есть уровень, который удовлетворяет Критерий алгоритма. например, язык высокого уровня может быть слишком абстрактным, чтобы считаться спецификацией алгоритма в указанном выше смысле, а аппаратный уровень также может не удовлетворять нашим требованиям, поскольку он основан на оккультных квантово-механических явлениях, но уровень машин язык, где-то посередине, вероятно, достаточно хорош.

Теперь вернемся к функциям: кажется, функционалисты считают, что разум можно объяснить в терминах функций и что, согласно КТМ, эти функции эффективно вычислимы.

Например, в Absent Qualia, Fading Qualia, Dancing Qualia Чалмерс отстаивает принцип, который он называет принципом организационной инвариантности , который включает в себя такие понятия, как функциональная организация мозга и функциональные изоморфы ; он признает вашу обеспокоенность тем, что систему можно анализировать на разных уровнях организации, и пишет, что:

любая система, имеющая такую ​​же функциональную организацию в достаточно мелкой зернистости, будет иметь качественно идентичные сознательные переживания.

и достаточно хорошо он имеет в виду:

достаточно хорошо, чтобы определить поведенческие способности и диспозиции когнитивной системы.

Бессовестная вилка: я высказываю некоторые возражения против его аргументов в http://philpapers.org/archive/AIDYAO.pdf - буду признательна за комментарии.

Обратите внимание, что конкретные алгоритмы для вычисления этих функций практически не имеют значения.

Что касается веры Юдковски в загрузку разума, то эта вера весьма распространена среди функционалистов. Многие люди, в том числе Чалмерс, Марвин Мински и Рэй Курцвейл из Google, верят в это.

Я собираюсь интерпретировать ваш вопрос в более широком смысле, как феноменологический аргумент о наблюдаемости поведения/функционирования вычислительной машины, поскольку когнитивные способности могут быть идентифицированы и приписаны ей.

Как вы можете себе представить (и я думаю, что у вас есть), эта дискуссия чрезвычайно богата и обширна, и я не ожидаю, что смогу выйти здесь далеко за пределы поверхности, но я думаю, что некоторые методологические указания могут быть предложены в этом кратком формате, это может быть полезно для дальнейшего использования.

Прежде всего, давайте предположим, что проблема идентификации в этом конкретном сценарии предполагает, что в игре есть по крайней мере три экземпляра (здесь я слишком схематичен, но потерпите меня, это просто упражнение):

1. субстанция вычислительной машины;
2. аппаратная часть вычислительной машины , ее организация;
3. Вычисления, которые он выполняет, его «производительность», то есть то, что поддается (или не поддается) идентификации.

Дело в том, что не нужно предполагать, что это разные уровни абстракции, присущие наблюдаемой вещи. Так получилось, что моя нервная система представляет собой вычислительную машину, но с тем же правом ее можно идентифицировать как биологическую машину, химическую машину или физическую машину (в том смысле, что ее можно описать, используя только понятия из физической науки). . Эти разные уровни наблюдения принадлежат уму, который осуществляет наблюдение, а не предмету.

Теперь ключевое наблюдение, сделанное здесь Брайаном Кэнтуэллом Смитом , заключается в том, что, поскольку существуют машины, которые выполняют вычислительные операции — возможно, весьма разумные, — тот факт, что эти машины были созданы людьми, не означает, что конечная причина этих артефактов — известны этим людям или даже контролируются ими каким-либо объективным образом.

Вот почему можно с полной уверенностью сказать, что идентификация включает как минимум выбор точки зрения. Таким образом, по крайней мере в первую очередь, в глазах смотрящего.