Люди, по крайней мере, я думаю, кажется, изначально понимают, без культурного обучения, что что-то правильно, а что-то нет. Я не могу этого объяснить, думая о мышлении как об очень расчетливом феномене, возникающем в системе нейронов, я не вижу нейронного паттерна, который естественным образом развил бы это понимание — без особого везения. Я могу как бы объяснить это как культурное развитие, эволюцию во времени. Или это может быть результатом очень простого логического мышления. Я не совсем уверен, поэтому этот вопрос.
Вот где происходит происхождение моего вопроса:
Меня интересует разработка искусственного интеллекта. Над этим работают многие, мой собственный проект не имеет значения для вопроса, но тот факт, что кому-то в конечном итоге удастся создать полноценный, бесконечно расширяемый искусственный интеллект, делает этот вопрос очень важным:
Некоторые ученые предупреждают, что искусственный интеллект очень опасен потенциальной агрессией, и я понял, что он намного мощнее ядерного оружия. Но другие ученые говорят, что, как и наши собственные умы, искусственные умы станут более миролюбивыми, с большим интеллектом и менее агрессивными.
Но у искусственного интеллекта, в отличие от человеческого разума, не будет миллионов лет эволюции, чтобы определить его структуру. Его мозг будет начинаться со структуры, которую мы ему дадим. Таким образом, разница между пониманием «правильного» и «неправильного», развившимся в процессе эволюции, и тем, что это неотъемлемо присутствующая черта , очень важна для обсуждения. Итак, мне интересно понять:
Достигает ли разум понимания между «правильным» и «неправильным» по мере развития логического интеллекта?
Примечание: причина, по которой я задаюсь вопросом, может ли понимание между базовыми «правильными» и «неправильными» вообще отличаться от большинства развитых умственных черт, заключается в том, что я классифицирую «правильные» и «неправильные» почти как результат базовой логики, а не продвинутый мыслительный процесс.
Я бы сказал, что у людей сначала есть «встроенное» чувство того, что хорошо и что плохо для них самих — в форме страстей и эмоций. Приятные и неприятные чувства составляют наш основной набор мотиваций, особенно в раннем детстве. Только позже у нас развивается способность к логическому и абстрактному мышлению, связанная со способностью «перепрограммировать» себя и редактировать свои мотивы.
Я не уверен, что вы подразумеваете под пониманием правильного и неправильного, которое не зависит от культурного происхождения. Если вы имеете в виду, что такие вещи, как ненужное причинение вреда другим, убийство и воровство, считаются «плохими» почти во всех культурах, я бы сказал, что в этих случаях человеческая способность к сочувствию и состраданию имеет самые сильные и самые очевидные результаты. Из того, что я знаю о развитии ребенка (хотя я не эксперт в этом вопросе), у детей может быть врожденное чувство эмпатии, но его нужно тренировать и развивать с помощью раннего образования.
Проблема этой «детской» концепции правильного и неправильного, то есть этики, основанной на эмоциях, заключается в том, что мы эмоционально склонны заботиться только о людях, которых мы знаем, и о членах нашей социальной группы; когда незнакомцев обижают, мы остаемся довольно холодными.
Я предполагаю, что именно поэтому была разработана философская этика, чтобы поставить моральные суждения на более абстрактную, логическую основу и избежать эмоциональной предвзятости. Но я бы сказал, что логика и философия лишь «исправляют ошибки» для проблем чисто эмоционального сострадания; мотивация, почему кому-то нужна или нужна этика, по-прежнему в основном основана на сострадании и сочувствии.
Можно было бы возразить, что чистый разум говорит нам, что сотрудничество дает лучшие результаты для большинства людей, чем отказ от сотрудничества, и что разумные существа получают выгоду от обмена знаниями и идеями и могут делать это лучше всего в социальной среде доверия. Но даже если мы разработаем подобную этическую модель на чистом рассуждении, не говоря уже о необходимости эмоциональной эмпатии, у разумных существ не будет убедительной мотивации придерживаться этих этических правил. Возможно, мы могли бы предположить, что основная мотивация разумных существ — просто использовать свой интеллект, но мы знаем о людях, что у них есть другие, более сильные эмоции.
Кстати, вы упоминаете опасения, что искусственный интеллект может быть опасен. Классический пример, который приходит на ум, — это научно-фантастический образ бунтующих роботов. На мой взгляд, эти истории основаны на сомнительном предположении, что самыми основными мотивами каждого разумного существа должны быть эгоизм, самосохранение и жажда власти. Конечно, для людей это несколько циничная, но вполне реальная оценка. Но я не вижу причин, по которым ИИ должен иметь подобную эмоциональную основу для своих мотиваций.
(Это не значит, что ИИ может быть не опасен. Я думаю, это зависит от того, насколько независимо ИИ будет способен (или ему позволено) действовать. Можно представить, что даже если он способен перепрограммировать себя, его «мотивы» для этого редактируются с каждой поставленной задачей. И этот внешний набор мотиваций может быть плохо продуман или даже противоречить. Например, если мы приказываем роботу сражаться на войне, мы можем забыть дать ему достаточные инструкции о том, как справиться с мирных жителей. И его «мотивация» выполнять приказы может преобладать над его встроенным эквивалентом первого закона Азимова.)
По словам Томаса Хоббса, идеи наследования как «хорошего», так и «плохого» с точки зрения человечества несколько нереалистичны в отношении истинной природы человека как животных существ.
Например, если мы удалим все социальные контракты, на которые мы непреднамеренно соглашаемся с рождения; или через то, как мы воспитываемся (идеи справедливости, наказания тех, кто совершает «преступление», преступление является решением руководящего органа области), и мы возвращаемся к самым первобытным животным, которые существуют только для того, чтобы выжить; никакой зависимости друг от друга, ни понятия закона, справедливости или социальной конструкции, а чистого выживания.
Делает ли убийство другого человека из-за того, что он угрожал вашему собственному выживанию, «плохим»? Делает ли вас «хорошим» то, что вы делитесь своими ягодами, потому что у вас их слишком много и они испортятся? По моему мнению, ясно, что мы, люди, создали эти представления о добре, зле, справедливости и наказании, потому что это на благо людей в целом; Фактически, для роста общества лучше всего следовать этим добродетелям закона и справедливости. Следуя этому, мы получаем представление о правильном и неправильном, хорошем и плохом.
Вы осуждаете льва за убийство газели? Нет, потому что он делает это для выживания, а не из злого умысла. Опустите людей на уровень чистого выживания, и мы поступим так же, не потому, что мы «злые», а потому, что мы животные.
Думать об этом; Подавляющему большинству населения нравится думать, что люди «хорошие» по какой-то добродетели или по умолчанию, но это не мешает вам запирать дверь на ночь.
Правильное и неправильное чрезвычайно субъективны и зависят от вашего нынешнего правительства, религии и образа жизни. Я не верю, что это укоренилось. Мы держим его так близко, потому что это часть ткани нашего нынешнего общества и то, что заставляет все и всех двигаться.
Какун