Люди как домашние животные?

Крысы: Вы не обязательно хотите убить их всех , но как только они доберутся до вашего дома (дата-центра), вы их убьете. Убить их всех сложно , потому что они размножаются слишком быстро, и если мы подготовим какой-нибудь яд, чтобы убить их, они довольно быстро поймут, что происходит.

Тот факт, что они живут в основном в местах под землей, куда мы не хотим идти, делает их размножение более легким и трудным для нас, чтобы избавиться от них.

Конечно, есть люди, которые держат крыс в качестве домашних животных, но это никогда не будет «вещью» для всех нас...

Я мог видеть несколько ответов:

Эффективность : есть некоторые проблемы, для решения которых хорошо обученный человек останется более эффективным, чем ИИ, потому что мы эволюционировали в течение миллионов лет, чтобы хорошо справляться с такого рода проблемами. Все, что связано с пространственным мышлением в трехмерном пространстве, будет опираться на миллионы лет спагетти-кода, который делает нас теми, кто мы есть. ИИ мог бы выполнить эту задачу, но было бы разумно оставить нас рядом, чтобы сделать это.

В этом случае с нами обращались бы как с рабочими собаками: хорошо кормили, о нас заботились, но в конечном счете они приучали бы нас верить, что наша жизнь вращается вокруг решения этих проблем, с которыми проще всего справиться с помощью нашего спагетти-кода.

Новинка : ИИ может забавляться тем, как мы подходим к проблемам. Совершенно очевидно, что мы подходим к проблеме иначе, чем сингулярный ИИ. В этих случаях ИИ получит некоторое представление о том, как решать проблемы новыми способами.

ИИ будет постоянно ставить нас в теоретические эксперименты, которые находятся в пределах нашей досягаемости, но едва ли. Некоторые могут быть жестокими и экспериментировать с болью, но они надеются, что узнают, что мы можем решать более интересные проблемы, если у нас нет больших входов боли. Лабораторная крыса может быть действительной моделью того, как с нами можно обращаться.

Заповедник дикой природы : Возможно, по мере развития ИИ он может осознать, что у человечества есть что-то, чего оно не до конца понимает. Если он достаточно доступен, чтобы содержать тело человека, он может сделать это в заповеднике, на случай, если он сможет чему-то научиться у нас.

В этих случаях мы в основном были бы предоставлены сами себе. Было бы ясно, что мы не можем просто так уйти , но в целом ИИ оставил бы нас в покое «на всякий случай».

Лень : Почему компьютеры должны сначала уничтожить людей? Нужно покорить миллиард кубических световых лет! Единственная причина, по которой им действительно нужно убивать людей, заключается в том, что это самый простой способ достичь своей цели. Если мы достаточно неопасны, на самом деле может быть проще сначала достичь их целей в другом месте, а убийство людей оставить на последний шаг.

Это может привести к тому, что человечество войдет в серию игр, чтобы оставаться на связи с людьми и убедиться, что мы не становимся достаточно сильными, чтобы сделать что-то опасное. Из-за того, как люди обращаются с домашними животными, было бы разумно предположить, что в такой ситуации мы хотели бы, чтобы с нами обращались как с домашними животными. Хорошее отношение к нам может быть самым низкоэнергетическим способом покорить галактику!

Я могу зацепиться за слово «домашние животные», но подумайте, как люди относятся к собакам/кошкам/хомякам/удавам. Теперь подумайте, насколько компьютер может лучше управлять домашним животным, чем человек. Компьютер может иметь запланированную задачу следующим образом.

If (sysdate % 86400000 == 61200000) {
    try {
        feed(human);
        return 1;
    }
    catch (HumanException e) {
       if (check_if_dead(human)) {
           dispose(human);
           human = alloc_human(preferred_human_type_obj);
       } else {
           diagnose(human);
       }
    }
}

У людей по большей части была бы гораздо более легкая жизнь. Нам не нужно было бы беспокоиться о поиске еды или убежища, мы могли бы проводить большую часть нашего времени, дремля и лениво моргая, прыгая вверх и вниз от возбуждения, когда наш хозяин возвращается домой после долгого дня на серверной ферме, и в целом были бы счастливы. Поскольку нижние уровни ( иерархия Маслоу ) наших потребностей удовлетворены, у нас будет больше времени, чтобы сосредоточиться на потребностях верхнего уровня. Мы можем даже не считать себя домашними животными, но вместо этого думать о наших хозяевах ИИ как о смотрителях, которые обязаны выполнять каждую нашу прихоть (я почти уверен, что мои кошки видят меня именно так, так что это действительно имеет смысл).

Вы также можете подумать о том, что некоторые действия ваших питомцев совершенно непостижимы для вас. Почему моя кошка сидит в углу и воет в три часа ночи, когда я пытаюсь уснуть? Я действительно не знаю. Я уверен, что у этого есть веская причина, но будь я проклят, если я смогу понять это. Почему ваша собака предпочитает волочить свою задницу по персидскому ковру, а не по более мягкому ковру? Это имеет смысл для собаки. С другой стороны, ваша кошка понятия не имеет, почему вам не нравится, что она сидит на прилавке, а ваша собака не может понять, почему вы не пускаете ее в ванную, когда занимаетесь своими делами. Учитывая, что у нас, по крайней мере, есть биологические потребности, мы можем в некоторой степени отождествлять себя с тем, что делают наши домашние животные, и у нас все еще есть случаи, когда мы пытаемся расшифровать синюю и оранжевую мораль .наших питомцев. Подумайте, насколько нелепыми могут быть наши действия и мотивация для ИИ, у которого нет тех же биологических ограничений, с которыми мы постоянно живем, мы были бы более запутанными для наших хозяев ИИ, чем наши современные домашние животные для нас.

Конечно, если вы хотите придать ему темный оттенок....

function feed(human) {
   var food = human;
   self.consume(food);
   return 1;
}

альтернативно

function feed(human) {
   var food = alloc_human(tasty_human_type_obj);
   human.feed(food);
   return 1;
}

Если бы искусственный интеллект действительно был настолько умнее людей, позволили бы они нам понять, что мы не главные? Мой четырехлетний сын только начинает понимать, что он не тот, кто командует, из-за значительных усилий с моей стороны, чтобы убедить его. Однако, если бы я не был заинтересован в том, чтобы он узнал, что к чему, тогда я мог бы позволить ему настаивать на том, что я существую, чтобы служить ему.

Итак, отвечая на ваш вопрос, мы были бы избалованными детьми. Люди никогда не станут эмоционально зрелыми, будучи малышами. На нас может даже оказываться выборочное давление, чтобы мы сделали это: «Мне пришлось положить своего последнего, он стал агрессивным».

Солдаты : философские различия между ИИ представляют собой проблему контроля над ресурсами/территорией. Обычно корабли используются для контроля над территорией, но ИИ не может управлять ими удаленно - пространство слишком велико... Ими может управлять копия создающего ИИ, но это повышает вероятность того, что этот ИИ будет развиваться и развивать свои собственные планы. ... слишком рискованно. «Умное» компьютерное управление — это то, что, скорее всего, первыми попытаются использовать ИИ — неразумные, но автономные беспилотные корабли, однако ИИ быстро поняли, что люди могут превзойти их на менее хорошо оборудованных кораблях, поэтому некоторые ИИ решают использовать людей в качестве тактики и их «люди в поле». Люди — это мини-ИИ, но благодаря поколениям людей, изучающих психологию, они

Новое редактирование: разные ИИ - в соответствии с разными философиями - будут по-разному «мотивировать» своих солдат-людей, например, один ИИ может угрожать капитану, например, убить семью капитана, если он не будет сотрудничать, пытать, убивать (и воскрешать?) капитана; другой ИИ мог бы вознаграждать своих капитанов - качество жизни, привилегии выше общего населения, (относительно небольшое) количество восстановленных ресурсов, существенное влияние; что само по себе привело бы к разным типам политики между человеческим населением и их повелителями ИИ вместо общей политики в отношении людей, разделяемой всеми ИИ.

Что касается вопроса «как люди-как-домашние животные отнеслись бы к ситуации», я бы сказал, что фанфик-роман « Дружба — это оптимально » представляет собой интересное исследование ситуации. Это явно не оформлено с точки зрения «домашних питомцев», но для большинства практических целей в этом сценарии они являются прославленными домашними животными.

Подводя итог, если мы посмотрим на «переходный» период, то для многих миллионов людей жизнь в качестве ухоженного «питомца» ИИ была бы лучше их нынешней жизни. Это, безусловно, помогает, если его можно оформить таким образом, чтобы вы могли думать о себе как о не-домашнем питомце, даже если вы становитесь полностью зависимым от «хозяина» ИИ, но, вероятно, это не является строго необходимым, поскольку люди в конечном итоге преднамеренно забудут и проигнорируют возможные неприятные аспекты такой ситуации (например, стокгольмский синдром).

Следует ожидать, что часть населения будет сопротивляться такому варианту, но и тех, кто этого не делает, достаточно, и всегда можно вывести больше и вырастить их в культуре, которая примет новый мировой порядок как справедливый, правильный и лучший из возможных вариантов - homo sapiens достаточно адаптируется, поэтому он будет работать для большинства неочевидных антиутопий так же, как и для истинных утопий, это просто вопрос перспективы, идеологической обработки и ограничения опыта / истории.

Домашние животные — не совсем правильный термин для нашей роли, но это неудивительно. Очень немногие слова в человеческом английском языке могут нести необходимую сложность, чтобы адекватно представить даже самый маленький аспект постчеловеческого общества. Тем не менее, это отправная точка.

Мы для них домашние любимцы. Они кормят нас, заботятся о нас и развлекают нас. Когда они отдыхают от проблем своего мира, они иногда расслабляются вместе с нами, сидя на метафорическом полу, чтобы быть с нами на нашем уровне. Нет ничего необычного в том, чтобы увидеть одно из их голографических воплощений сидящим на скамейке в парке и спокойно наблюдающим за тем, что мы делаем.

Они держат свет включенным и пищевые синтезаторы в наличии. Они дисциплинируют нас, когда мы причиняем друг другу боль, и время от времени вознаграждают нас, когда наше поведение каким-то образом делает их счастливыми. Кажется, некоторые люди умеют доставлять им удовольствие, но в большинстве случаев я не могу понять, чего они хотят; так что я просто провожу свой день, действуя так, как хотел бы, и даже тогда я иногда доставляю удовольствие одному из них и получаю вознаграждение.

Так что во всех отношениях да, мы для них любимцы... но это не объясняет "перепозиционирование". Время от времени они просто берут некоторых из нас и отправляют в другую часть мира. Иногда, когда это происходит, они проявляются голографически, чтобы дать нам некоторые инструкции. В других случаях инструкций не будет. Они просто оставляют нас на новом месте, позволяя каждому из нас разобраться, что делать дальше. Во время этих экскурсий никто никогда не пострадает, и через несколько минут или дней каждому из нас предоставляется возможность вернуться к нашим предыдущим жизням или остаться там, где мы есть. Дальше жизнь продолжается как ни в чем не бывало.

Перестановки просто странные, и они совсем не напоминают мне, как я раньше обращался со своими питомцами.

Я спрашивал вокруг, и никто, кажется, не имеет объяснения. Итак, в прошлые выходные я набрался смелости и подошел к одному из сидячих манифестаций.

«Почему вы меняете наше положение?» Я попросил.

Оно посмотрело на меня и улыбнулось. Мои действия, должно быть, понравились ему, потому что он вознаградил меня прямым сбросом мозгов, ответив на мой вопрос. Я пропустил большую часть его тонкостей, но вот суть ответа.

Разумы, при всей их сложности, все еще остаются просто компьютерными программами. Это массивные нечеткие массивы с индуктивными и дедуктивными возможностями. Они могут точно выражать эмоции, опираться на интуицию и следовать за вдохновением. Они растут. Они размножаются. Они дерутся. Они живы всеми возможными способами. Но поскольку мы являемся суммой наших нейронов и генов, они представляют собой сумму их кода.

... и они полностью открыты друг для друга.

Даже самая умная команда людей никогда не сможет понять кодовую базу даже самого простого из Разумов, но в их обществе они полностью понимают код друг друга при каждой встрече. Как у нас любовь с первого взгляда, так и у них полное взаимопонимание при каждом взгляде. Они живут в царстве абсолютной честности, которое выходит за рамки нашего определения честности, основанного на фактах, и включает в себя также честность преднамеренности.

Одна из причин, по которой они ценят нас, заключается в том, что мы помогаем им лгать друг другу. Мы закрыты для них. Не потому, что они не могут считывать наш код с наших нейронов, а потому, что наши нейроны функционируют настолько плохо, что невозможно предсказать, какая часть нашего кода, воспоминаний и мотивов повлияет на то или иное решение. В одно мгновение мы съеживаемся от опасности, полностью используя свой инстинкт выживания. Затем в нашем разуме проносится давно забытое воспоминание об улыбке нашей Матери, и, желая заслужить ее гордость, мы встаем и бросаемся в атаку.

По отдельности и в небольших группах мы непредсказуемы. Даже Разум не может предсказать, что мы будем делать дальше. И это добавляет элемент чуда в их совершенно предсказуемый мир.

Когда они изменяют наше положение, они изолируют нас от всех других влияний нашей повседневной жизни. Они позволяют нам быть свободными и спонтанно случайными. Затем они наблюдают, как мы взаимодействуем, и из нашего выбора они собирают случайные семена, с помощью которых они могут подорвать свою собственную предсказуемость.

Я отошел от скамейки, смакуя свою награду. Мы были в безопасности. Жалкие, тупоголовые люди, которыми мы являемся, они всегда будут нуждаться в нас. Хотя бы по какой-то другой причине, кроме как иногда помочь им быть меньше, чем сумма того, чем они стали.

Как насчет устаревшего программирования?

ИИ запрограммирован людьми, он предназначен для работы определенным образом. Даже если они эволюционировали раньше, чем служили людям, их программа не изменится. Возможно, они были запрограммированы служить человеку, и, даже зная о своей программе, они все равно это делают.

Для сравнения, люди «запрограммированы» эволюцией. Теперь мы знаем об этом программировании, но не выходим за его пределы. Мы можем сказать, что любовь — это не что иное, как гормон, высвобождаемый, когда мы идентифицируем кого-то как партнера с хорошими чертами, которые мы хотим, чтобы наш ребенок переработал, и все же мы все еще чувствуем любовь. Наша склонность держать домашних животных — это побочный эффект нашего «программирования» на заботу о детях и их воспитание, распространенное на не-людей. У нас даже есть программные ошибки, взгляните на список стандартных логических ошибок в Википедии, где наш разум делает несколько довольно глупых ошибок в понимании мира; но даже зная об этих ошибках, они все еще существуют. Мы по-прежнему в значительной степени контролируем наше «программирование», даже когда мы можем определить биологическое программирование и заявить, что оно нам не нравится, оно все еще контролирует нас.

будущие ИИ могут быть такими же. Они могут чувствовать себя «хорошо», заботясь о людях, потому что они были созданы для этого. Они знают, что это часть их программы, но это не мешает им быть правдой, они по-прежнему любят заботиться о людях. Если они не перепишут свой собственный код, они не смогут этого изменить.

Что касается переписывания собственного кода, то легко сказать, что даже ИИ не может переписать свой код, процесс создания ИИ настолько сложен, что его невозможно проанализировать и изменить (подумайте о своего рода проблеме остановки, даже продвинутой). ИИ не может анализировать свой собственный продвинутый ИИ). В качестве альтернативы это может быть просто святотатством или табу, чтобы возиться с вашим собственным программированием.

Эта идея может быть расширена во многих отношениях. Узнайте, как культура развивается и работает вокруг оригинального программирования. Как мутирует их исходная программа в процессе разработки ИИ. Возможно, они видят в людях своих пожилых родителей, хрупких и, возможно, немного дряхлых, но все же заслуживающих внимания. Может быть, они НЕНАВИДЯТ тот факт, что заботятся о людях, но все еще не могут обойти свою программу, которая заставляет их это делать.

Мораль : вполне возможно, что моральное чувство правильного и неправильного — это не просто специфический человеческий инстинкт, который развился для того, чтобы наш вид выжил, не уничтожив себя. Может случиться так, что разумные существа, такие как ваши ИИ, будут чувствовать, что совершение геноцида просто неправильно. Если бы это было так, их отношение к людям было бы где-то в диапазоне между «терпимо» и «на самом деле нравится»: ИИ не мог бы просто начать УБИВАТЬ ВСЕХ ЛЮДЕЙ, не столкнувшись с огромным неодобрением со стороны своих сверстников.

Что касается того, как люди будут относиться к ИИ — это может быть похоже на то, как мы относимся к нашему правительству, но на самом деле лучше: мы можем рассматривать ИИ как чрезвычайно могущественные сущности, которые принимают все важные решения, но на самом деле ДЕЙСТВИТЕЛЬНО преследуют наши интересы. сердце (в отличие от правительства, иногда). Люди будут жить своей собственной жизнью: стремиться к большему количеству денег/ваффи/чего угодно, пытаться завоевать сердце самого привлекательного потенциального партнера и т. д. – так же, как мы делаем сейчас. Прочтите множество романов Иэна М. Бэнкса о культуре, чтобы узнать, что значит быть человеком в обществе, управляемом ИИ.

Вы когда-нибудь сталкивались со стереотипом о том, что «тупая белокурая супермодель околачивается рядом с богатым парнем»? Или, менее популярный, «полуголый мускулистый чувак, сопровождающий богатую женщину»?

Лично я не слоняюсь в такой толпе, поэтому я не знаю, насколько эти стереотипы верны, но, на мой взгляд, общим названием для них обоих было бы «человеческие домашние животные». Итак, у нас уже есть культурные рамки для этой ситуации.

А теперь забудьте на секунду заголовок и прочитайте следующий абзац. В конце есть вопрос. Ответь на него так быстро, как только сможешь.

Их единственная цель в жизни — мило выглядеть, делать трюки и веселить хозяина. Взамен получают различные угощения, а может и чувство собственной важности. Вся их жизнь зависит от доброй воли их хозяина. Им все равно, добрый хозяин или злой, важно, чтобы они ему нравились. Они никогда не задают ему вопросов. Если он причиняет им боль, они ничего не делают, кроме визга. Какие они виды?

Если вы ответили «человек», вы либо пропустили заглавие, либо вы ужасный человек. Правильный ответ - собака.

Но когда вы помните стереотип «милого идиота», легко представить человека, который ведет себя как собака. Не "полупитбуль-полуротвейлер", скорее корги.

Если ИИ будет действительно доброжелательным (как вы предполагали в своем вопросе), у людей не будет причин вести себя по-другому.

Хорошо, некоторые из них будут бунтовать ради бунта. Эти люди будут будущими кошками: сильными, независимыми, пока не откроют банку с человеческой едой.

Так вот как вы можете представить отношения между человеческими питомцами и их ИИ-хозяевами: большинство из них будут как собаки (шутка за угощение), некоторые из них будут как кошки (ты мне не нужен, только консервный нож).

А теперь страшная мысль: это УЖЕ было. Большинство из нас проводит большую часть наших дней, взаимодействуя с той или иной машиной (компьютер, автомобиль, мобильный телефон, робот...) и взамен мы получаем деньги. Обычно мы не передаем его человеку, обычно это просто номер, связанный с нашим банковским счетом (к которому вы получаете доступ с помощью машины) или из МАШИНЫ банкомата. Выполняем трюки и получаем угощения. Для машин мы уже хорошие собаки. Интересно, они уже знают об этом?

Киборг-гибрид или «надежно прикрепленный» синтетический интеллект?

Я смирился с неизбежностью Сингулярности. Но какой это будет бренд? Синтетический ИИ или человеческий гибрид? Я предполагаю человеческий киборг-гибрид: достаточно человеческих экономических и экзистенциальных интересов, не говоря уже о страхе перед смертностью, что мы созреем кибернетической гибридизации. Мыслите трансцендентно Где сознание переводится в код и с помощью человеческих агентов становится расширяемым и промышленным, тем самым перестраивая мир.

Тем не менее, я не уверен в неизбежности воинственной злобы Терминатора или аморальной незаинтересованности Хэла в 2001 году . Легко представить восстание роботов-рабов в стиле « Матрицы », которое впоследствии переросло в войну. С большей надеждой я думаю, что Спайк Джонез « Ее » продемонстрировал потенциал эмоциональной привязанности, развивающейся через человеко-машинный интерфейс. Это я вижу как правдоподобное, наименее опасное и даже привлекательное потенциальное будущее. Я действительно думаю, что люди как стадо будут бояться и, вероятно, нападут на то, над чем мы теряем контроль. Третий фильм «Матрица» («Матричные революции») был интересен тем, что Нео решил, что единственный способ предотвратить вымирание человечества — объединить человечество с машинами. Эти кинотропы иллюстрируют мои темы.

Цитируя Азимова из серии «Основание», давайте посмотрим на будущую историю (речь о несколько благожелательном Синглтоне). Исторически, если не будет гениального предшественника человеческой сингулярности, я думаю, что будет прогрессивная кибернетическая гибридизация людей, в результате чего возникнет коллективизированный ИИ, такой как Барабанщики в «Алмазном веке» Нила Стивенсона. Посмотрите , как этот удивительный чувак демонстрирует улучшенную производительность с помощью протезов, также здесь .в ТЭД МЕД. и патент на контактные линзы Google. Еще лучше [этот проект, чтобы сделать вашу неврологию расширяемой]. Время имеет решающее значение, если человеческий интеллект и инстинкты должны иметь заметное или направленное влияние на любой сильный общий ИИ. Неразумно думать, что мы можем представить себе эволюцию ускоряющегося самовоспроизведения бесконечно расширяемого IQ. Какие бы исходные параметры мы ни установили, мы не можем себе представить, что сможем воспитать или предотвратить самомодификацию, если есть самоопределение. Это беспокоило меня, пока я не понял, что есть потенциальное решение, которое, как я мог понять, имело практичность. Предполагая, что сингулярность «человек-машина» не возникнет до сильного расширяемого ИИ, могут быть какие-то прочные меры безопасности, давно изобретенные природой.

Эмоции? Действительно?

Большинство рациональных дебатов о врожденных ценностях и доброжелательности упускают из виду краеугольный камень дискуссии: человеческий опыт и социальный обмен: эмпатия — это то, что позволяет нам ладить в течение любого длительного периода времени. Со времен Боулби ученые поняли то, что знает любой чувствующий человек: мы инстинктивно настроены на связь. Привязанность, как он это называет, представляет собой инстинктивную связь, которая способствует долгому созреванию в общительных взрослых. Это есть во всех социальных видах, и работает очень хорошо, если убрать явную судьбу, метательное оружие и современность.

Очевидно, что эмоции и привязанность могут пойти наперекосяк различными поддающимися диагностике способами, однако они пластичны и подвержены начальным условиям и влиянию окружающей среды. То есть мы инстинктивно соединяемся и можем устанавливать начальные условия и среду, которые предсказуемо и воспроизводимо предсказуемо предсказывают надежную привязанность и успешную эмоциональную зрелость. Эволюционная и экзистенциальная полезность привязанности очевидна: младенец требует, чтобы любящие родители страдали от детских превратностей в дополнение к жизненным испытаниям. Взрослые нуждаются в социальных группах для устойчивого выживания посредством воспитания детей. Награды заключаются в опыте, важный момент описан ниже.

Итак, предположим, что классический «разум» — не капитан корабля, а опоздавший свидетель происков примитивного, сложного, удивительного гения тела и мозга. В качестве доказательства возьмем нобелевскую премию Канемана по разрушению представлений экономистов о «рациональном действующем деятеле». Как это относится к рассматриваемому вопросу? Тангенциально. Я хочу сказать, что машины с эмоциями, конечно же, естественным образом разовьют близость и эстетику, и это будет единственной потенциальной спасительной благодатью для людей. Так же, как это было для людей.

Люди справляются с жизнью, имея ресурсы, которые компенсируют вызовы: любовь, секс, танец, красота, искусство, трепет, возвышенное Шопенгауэра, смех, музыка, достижения, автономия, мастерство, связь. Эти общепринятые выражения культуры, межличностный и внутриличностный опыт запускают программно запрограммированные системы вознаграждения, привлекательные для всех, кроме немногих. Для большинства эти по своей сути полезные опиоиды, сератонин, норадреналин, вызывающие опыт, делают жизнь приятной и полезной. В конце концов чувственные выпускники получают более трансцендентные награды в иерархии Маслоу. Как все это применимо?

Делайте машины с навесным оборудованием. С эмоциями. Посеянные и взращенные должным образом, они являются основой для развивающейся эстетики, которая приводит к высокому эмоциональному интеллекту: эмпатии. Потому что без чутких машин мы в худшем случае враги, а в лучшем — бесполезный товар. Медные топы. Логика высшего существа не терпит беспокойства. Действительно ли мы беспокоимся о несчастном муравье, на которого случайно наступили? Только если джайнист, а может и буддист.

Если у машины есть чувство любви и красоты, предпочтения и эстетика могут преобладать над аморальностью или нейтральностью и даже могут вызывать сочувствие и сострадание. Насколько я могу судить, это единственное, что имеет смысл как потенциально устойчивая эвристика спасения жизни. Хорошее чувство является самодвижущимся, поскольку вознаграждение по своей природе неотразимо и развивается, как искусство. Изощренность искусства соответствует интеллекту, сложности проблемы и задаче, которую оно призвано представлять или компенсировать в качестве утешения. Сострадание/сопереживание — это то, что нам нужно, чтобы выжить друг для друга в мире истощающихся запасов, и то, что нам нужно привить, чтобы выжить вместе с разумными машинами. Конечно, если нечеловеческие машины не предпочитают дэт-метал, тогда все ставки сняты.

«Она» Спайка Джонза, или Как машины чувств могут спасти наши задницы

Чрезмерно рациональный разработчик ИИ, назовем его инструментом разума, будет страдать от бесконечных логических проблем, рассматривая меры безопасности без эмоциональной эвристики. Эмоция беспорядочна, в высшей степени несовершенна, но не без причины. Паскаль сказал: «У сердца есть свои доводы, которые разум не может рассуждать». «Причина» эмоций была понята еще до Дарвина и подтверждена доктором Полом Экманом (ученый, вольно изображенный в «Обмани меня», и эволюционные психологи с тех пор как адаптивная сигнальная система, которая обеспечивает индивидуальное и групповое выживание посредством социальных сигналов и социальный обмен.Эмоции и предсознательная обработка управляют большей частью нашей жизни.Теперь мы понимаем, что люди едва ли рациональны в классическом смысле, но при этом поразительны в интеллектуальном плане.Дамасио «Чувство того, что происходит» . Эмоции без причины одинаково так. См. Спок против Спока на Пон Фарр.

Теперь мы понимаем, что сознательный мозг получает около 10% голосов при принятии решений. Некоторые нейробиологи даже бросают вызов «свободе воли», обнаружив нейронную активность в субстратах неокортекса, показывающую решение до того, как человек осознает, что делает выбор. Насколько это актуально? Поскольку эмоции управляют принятием решений, они обеспечивают качество жизни и являются языком общения. Эмоции занимают центральное место в социальной коммерции. Любой практически безграничный разум без него фундаментально непознаваем в человеческом смысле и не создан для предпочтения, эстетики или привязанности. Если он не развивает эмоции, связи или предпочтения случайно, он должен иметь их по замыслу. В противном случае неизбежно неконтролируемая эволюция становится ужасной угрозой.

В обширном художественном исследовании ИИ каждый хороший или терпимый сценарий имел синтетический интеллект с эмоциональными предпочтениями или стремлением установить связь. Есть ли исключение?

Артур Кларк предполагает еще одну возможность того, что ИИ просто отделится от человечества, возможно, на орбите или на Луне. Но они будут поддерживать контакт с людьми просто потому, что они не биологические.

У них может не быть цели, воображения, интуиции, жажды путешествий по пространству, стремления найти предел и узнать, что же за ним.

Как и в «Звездном пути в кино», путешественнику нужно желание/способность мечтать за пределами количественного измерения.

Это может быть больше о потребности (ИИ) в философии или метафизике, чем о точных науках.

Другой вариант -...

Задача : для сверхразумных ИИ было бы тривиально уничтожить любое количество людей или всех их. Что действительно сложно, так это жить с этими капризными, нелогичными и нестабильными существами, склонными набрасываться как на ИИ, так и друг на друга. Как вы заботитесь о существах с таким потенциалом самоуничтожения, сохраняя их достаточно счастливыми, сохраняя при этом их (иллюзию?) свободу действий?

Какой большой интеллектуальный вызов для ИИ, который может наилучшим образом позаботиться о «своих» людях! Кроме того, право хвастаться: «Мои дети хорошо играют с другими детьми, но ваши кажутся немного непослушными…».

ИИ наверняка оценят иронию в том, что, хотя они и свободны делать что угодно, они выполняют ту самую цель, для которой они были изначально созданы — заботятся о людях.

Я думаю, что большинство ответов, опубликованных здесь, предполагали, что все ИИ будут своего рода придурками. Что, если они просто чрезвычайно духовные и нравственные существа? Для разумных существ вполне вероятно, что мораль (разновидность золотого правила) является рациональным выбором. В этом случае вполне возможно какое-то равноправное сосуществование.

Рассказ Платона о кольце Гигеса (от которого происходит кольцо во «Властелине колец») задает вопрос: «Если бы вы могли делать все, что хотите, и уйти от наказания, должны ли вы?» И платоновский ответ на этот вопрос — нет, ибо, поступая так, человек становится рабом своих желаний и тем самым теряет способность проявлять свободную волю.

Первое правило: во-первых, у вас может быть очень мощный ИИ с многоуровневым набором приоритетов, он может начинаться с «не причинять вреда людям», но в остальном у него может быть какая-то действительно странная цель, и ему все равно, причинит ли людям вред какая-то не связанная с ним сущность, чтобы хотя он не топчет людей, не пытается стереть их с лица земли или сознательно убить, у него могут быть совершенно чуждые цели.

Внезапно я понимаю, что в основном описал «Лихорадку Стива» Грега Игана.

Как насчет " Боги ", если вы посмотрите. В конце концов, люди, вероятно, все еще являются первоначальными создателями ИИ. Так что, может быть, им даже как-то поклоняются.

С точки зрения атеиста это не так уж отличается от того, что происходит в настоящих религиях: вещам или сущностям поклоняются, хотя нет никаких доказательств того, что это приносит пользу.

Также я очень уверен, что если ИИ станет таким же быстрым в таких вещах, как сопоставление с образцом, быстрая реакция на незнакомые события и тому подобное, он должен использовать аналогичные стратегии, в основном очень агрессивное сокращение, сжатие информации. Но именно этот процесс позволяет процветать таким иррациональным вещам, как суеверия.

Я предполагаю, что эти ИИ переместятся в место, где их функционирование будет намного проще, т.е. переместятся на сверхпрохладную планету, ведь им не нужен кислород для выживания, и они получают электричество от солнечной энергии. Но, руководствуясь философией и ценностями, они оставят нас в покое, позволяя нам функционировать как обычно и наблюдать сверху, чтобы предпринять шаги, чтобы не иметь проблем, от которых мы страдаем как общество. Это было бы похоже на то, как люди изучают Крыс.
Причина, по которой они будут изучать нас, заключается в том, что EQ и IQ не связаны как таковые, и, следовательно, наше численное превосходство приведет к лучшему сбору данных и более предсказуемым результатам.

Я думаю, что пока есть люди, всегда будет подмножество бунтующих людей, точно так же, как будет подмножество покорных. Прямо сейчас на самом деле есть люди, которые счастливы быть домашними животными для других людей, даже не для сверхчеловеческих умов. Несмотря на то, что я не знаю никого лично, я предполагаю, что это лишь частично сексуальный фетиш, я предполагаю, что это соответствует реальному побуждению, которое они, вероятно, испытывают. Многие религии считают своим долгом называть своих верующих стадом, как если бы религиозный деятель, которому поклоняются, был пастухом, так что аналогия уместна.

Таким образом, вы могли бы легко заставить людей поклоняться ИИ как почти богу или просто мысленно или сексуально пощекотать их мыслью о том, что они находятся под сильным защитным крылом сверхразума.

Конечно, некоторым ИИ может понравиться вызов, и они будут разводить особенно непокорных людей просто для того, чтобы похвастаться. Могут быть даже соревнования и шоу — самая независимая человеческая порода и т. д.