Насколько умными мы можем стать?

Одной из больших проблем при разработке искусственного интеллекта , которым мы можем управлять , является отсутствие у нас достаточного интеллекта. Частичная неудача здесь (успех в разработке ИИ, неудача в управлении) приведет к будущему, в котором мы все мертвы или в лучшем случае любимы более великими существами .

Было бы полезно, если бы биологические люди были умнее . Ник Бостром обсуждает процесс улучшения когнитивных функций посредством многократного генетического отбора. Он утверждает, что если наследуемые генетические характеристики интеллекта могут быть оценены с помощью крупномасштабных корреляционных исследований, давление отбора 1 из 100 (выбрать «лучшее» из 100) в отношении коррелятов более высокой когнитивной функции, повторяющихся более чем в 10 гаметах (сперматозоид + яйцеклетка). ) поколений может привести к значительному повышению IQ у выбранных людей (общий прирост IQ более чем на 100 баллов в конце процесса отбора по сравнению с исходным уровнем, то есть с нами).

Если сценарий Бострома реалистичен, то каковы будут социальные последствия такого избирательного процесса, если, скажем, 1% населения примет этот метод? Другими словами, насколько мы можем стать умнее и при этом сохранить жизнеспособное общество?

Это было бы непрактично, поскольку такие люди, как я, взяли бы на себя ответственность убить евгенистов.
Лучше, чем альтернатива
что Корнблат Гай грабит Идиократию. Путешественники во времени бесстыдны. IQ (который может быть нереальным), похоже, растет.
Вас интересуют ответы, сформулированные отрицательно? Как человек, который играет с инструментами оптимизации, такими как генетические алгоритмы, я могу сказать вам, что ГА — лучший инструмент, который у нас есть сегодня для одной конкретной задачи: демонстрация того, насколько плохим был ваш выбор фитнес-функций в первую очередь.
@CortAmmon конечно
Вы ищете чисто биологические усовершенствования или кибернетику?
Кажется, что в этом вопросе должны быть теги биологии и генетики?

Ответы (3)

Я думаю, что некоторые правительства могли бы создать очень секретную, хорошо контролируемую группу высокоинтеллектуальных суперученых, работа которых состояла бы в том, чтобы получить огромные преимущества перед конкурентами.

На этих людей можно было бы положиться в решении вопросов, на изучение и понимание которых в противном случае ушли бы десятилетия, а также в разработке систем вооружений и других технологий, которые поставили бы эту страну впереди всех остальных.

Чтобы помешать этим людям стать нашими повелителями, нужно держать их на коротком поводке. Индоктринация их с рождения кажется логичным первым шагом, однако любой действительно умный человек, скорее всего, перерастет свою обусловленность. В этот момент старый добрый головорез с пистолетом, направленным им в голову, поможет сохранить контроль.

Даже тогда эти люди вполне могут понять, как получить контроль. В зависимости от того, как они относятся к остальным из нас (насекомые, которых нужно раздавить, по сравнению с их обездоленными родственниками), они могут стать лучшими лидерами, чем те, которые есть у нас сегодня, а могут и не быть.

Должен сделать это, так как кто-то все равно: Каааан!
@SerbanTanasa - в значительной степени да. Кааан!
Я также подумал, что Хан — хорошее имя для собаки. Было бы приятно позвать их с другой стороны парка.
@ Самуэль Правда? Я всегда думал , что Огонь будет отличным именем для собаки.
Что такое Хан?

Это, безусловно, значительно увеличило бы число производимых «гениев» и, спустя еще несколько поколений, дало бы новое определение тому, что мы считаем гением.

Многих умных людей уже часто считают странными из-за того, как они взаимодействуют с другими. Где-то я прочитал цитату о том, что мы действительно можем эффективно общаться только с людьми в пределах определенного диапазона IQ нашего «я». Я думаю, что это может быть 30 IQточки. Поэтому по мере того, как вы получаете людей, которые умнее и умнее, они по умолчанию будут склонны отделять себя от нас (и нас от них). У нас возникло бы два отдельных общества. В конце концов, они могут взять на себя управление нами, поскольку они будут достаточно умны, чтобы манипулировать нами, как домашними животными. Теперь, если они станут деспотами, они, вероятно, будут свергнуты и, возможно, уничтожены, но, будучи намного умнее нас, они, скорее всего, встанут на путь доброжелательных диктаторов и позаботятся о том, чтобы все позаботились о «бремени», возложенном на них. один человек это «относительно» свет. Если люди чувствуют себя комфортно и заняты, они не бунтуют и не возмущаются (настолько).

Если бы сверхинтеллигентные не щеголяли деньгами и властью, поводов для недовольства было бы еще меньше. В конце концов, они, скорее всего, получат космический корабль, чтобы оставить нас, землекопов, на произвол судьбы.

Я действительно не думаю, что умные люди возьмут на себя ответственность править всеми остальными. У умных людей во многом те же мнения, что и у других людей, только более утонченные. У вас было бы много умных людей, которые поддерживают свободу.
О, но мы уже делаем! свобода - это всего лишь иллюзия, которую мы позволяем вам сохранить...
О, не волнуйтесь, я знаю, что настоящей свободы по конституции больше нет. Но, по крайней мере, пусть глупые люди играют столько роли, сколько нам хочется. Пусть присоединятся к закрытому голосованию, где смогут послушать красноречивых интеллигентов, представляющих разные точки зрения.

Проблема в том, как мы определяем «интеллект». Если мы ограничимся тем, «что измеряется тестами IQ», то, возможно, мы сможем значительно увеличить этот фактор, но какой ценой . Обратите внимание, что многие сверхинтеллектуальные люди также очень асоциальны. Григорий Перельман , пожалуй, один из самых известных. Пол Эрдос был дружелюбным, но эксцентричным. Таким образом, один только высокий IQ может не спасти нас от тирании ИИ, поскольку людей с высоким IQ эта проблема может совершенно не волновать.

Сегодня наших политических лидеров вряд ли можно считать самыми умными в стае. Даже наши руководители больше склонны к социопатии , чем к высокому IQ . Так что не совсем ясно, как люди с высоким IQ действительно спасут нас от роботов-повелителей, если только мы не используем их в качестве хакеров-защитников в АНБ.

Хорошо, учитывая, что если ИИ захватит мир, это тоже будет их проблема, поэтому я действительно не понимаю, почему вы думаете, что они ничего не будут делать.
Лидеры обычно предотвращают плохие вещи, предпринимая шаги, чтобы предотвратить их до того, как они произойдут. Сюда входят такие вещи, как борьба с наводнениями, противоракетная оборона, пожарные гидранты и т. д. Насколько я знаю, нигде в мире нет «Агентства защиты ИИ». Попытка заставить гражданских с нормальным IQ работать на такое дело была бы достаточно сложной задачей. Совсем другое дело — заставить людей с высоким IQ делать это до того, как ИИ станут сверхразумными .
И даже если многие из этих сверхразумных людей согласятся с тем, что сверхинтеллектуальный ИИ представляет собой угрозу, они все же могут предпочесть вместо этого решать математические теоремы. :/
Что ж, большая проблема заключается в том, что люди из интеллигенции уже единственные, кто действительно предпринимает шаги для решения этой проблемы, поэтому я подозреваю, что сверхразумные люди будут единственными, кто действительно серьезно относится к угрозе искусственного интеллекта.
Насколько умными мы можем стать?
СпросиСетьПолитика конфиденциальности1y, 0v