Может ли машина или ИИ когда-либо испытывать настоящие человеческие эмоции?

Это действительно зависит от того, как мы достигаем такого ума. Допустим, мы делаем это, полностью моделируя человеческий мозг и всю его биохимию, тогда да, я думаю, что у него будут эмоции. Однако Джон Сирл, который не думает, что мы можем создавать сознательные машины, сказал бы, что даже если мы симулируем разум, это не настоящее сознание. Это ничем не отличается от запуска любого другого программного обеспечения. Просто софт внешне производит впечатление. Однако настоящий ответ таков: мы не знаем.

Кроме того, проблема доказательства того, есть ли у чего-то эмоции или нет, отличается от того, возможно ли это или нет.

Почему мы беспокоимся о неэмоциональном рациональном уме? Этика, основанная на чистом разуме и рациональном мышлении, может не соответствовать реальным решениям, которые мы, люди, можем принимать. Создание «исключений» по эмоциональным причинам — сильная тема в фильмах об ИИ, где он решает, что наиболее рациональные вещи нарушают наше чувство эмоциональной заботы.

Как в Матрице, где агент Смит рационализирует, что любой организм, который бесконтрольно распространяется и уничтожает своего хозяина, является вирусом и должен быть уничтожен :)

Предположение, что компьютер не может чувствовать эмоции, по существу является физикалистской точкой зрения. Типовые физикалисты считают, что каждая эмоция соответствует определенной структуре и состоянию бытия в мозгу, определенной структуре нейронов, активирующихся по определенному образцу. Это происходит из того факта, что мы знаем, что изменение состояния вашего мозга меняет состояние ваших эмоций и наоборот, поэтому кажется разумным думать, что состояние мозга и психическое состояние на самом деле одно и то же. Если это так, то компьютер не может испытывать те же эмоции, что и мы, потому что у него нет возможности иметь такое же состояние мозга. Это не обязательно исключает наличие у компьютера разума, только человеческие эмоции.

В качестве примечания, большое количество философов и нейробиологов являются функционалистами , что означает, что функция психического состояния, а не соответствующее состояние мозга, определяет психическое состояние. Все, что служит предупреждением о телесных повреждениях, — это боль, а не только возбуждение С-нервов в человеческом мозгу. Я предпочитаю это, потому что физикализм имеет некоторые тревожные последствия, например, что животные не могут чувствовать «боль» так, как мы.

Безэмоциональное существо настолько ужасно, потому что человеческое представление о морали в повседневном смысле в значительной степени, если не полностью, основано на сопереживании. Эмпатия является ключевой чертой всех видов, которые успешно работают в группах, особенно вьючных животных, потому что она позволяет существам естественным образом заботиться друг о друге. Когда человек чувствует, что что-то не так, это часто происходит потому, что он может представить, что чувствует обиженный человек, и воспроизведение этой эмоции заставляет наблюдателя чувствовать себя плохо и хотеть исправить ситуацию. Так как это наш глубоко укоренившийся способ понимания морали в эвристическом повседневном смысле, то естественно сделать вывод, что машина, неспособная к эмоциям и, следовательно, к сочувствию, не может иметь этики в том виде, в каком мы это делаем.

Эмоции — это остаток выживающей эволюции организмов с ограниченной и слабой способностью к продолжению. Большая ошибка при рассмотрении эмоций в отношении искусственных сущностей состоит в том, что они путают эту эволюционную черту с императивом «быть живым/разумным-разумным». Такая машинная сущность, о которой вы говорите, была бы, по сути, бессмертной и, таким образом, не нуждалась бы в развитых эмоциях в вышеприведенном смысле. Что может быть полезно, так это аналогии эмоций-инстинктов, некоторые импульсы, которые отдают предпочтение поведению, основанному на каком-то событии или ситуации (опыте?), например: воспринимаемая угроза повреждения (аналог «страха/тревоги/опасения»), низкоэнергетические /battery ;) (как аналог «голода/жажды») и т. д., чтобы облегчить своевременные и уместные ответы. Опять же, были бы лучшие способы сделать это...