Показатели AI Super Intelligence [закрыто]

Учитывая определенное состояние ИИ, какие индикаторы будут показывать некоторый уровень «Сверхразума»?

Вот некоторые из моих представлений о «Сверхразуме», это, конечно, субъективно.

Способен работать с несколькими аспектами своей системы (систем) без прямого указания на это.

  • EG: Я разговариваю с Ai_0, а также болтаю с Ai_1.
    • (Ai_0 знает, что я разговариваю с Ai_1) и наоборот
      • Допустим, Ai_0 = GPT3 OpenAi и Ai_1 = реплика Луки.

Способен реализовать индивидуальность между различными системами ИИ.

  • Ai_0 знает, что это не Ai_1, и наоборот.

Книги, которые я читал по теме
Макс Тегмарк : Жизнь 3.0: Быть человеком в эпоху искусственного интеллекта
Ник Бостром : Сверхразум: пути, опасности, стратегии

Добро пожаловать на WorldBuilding.SE! Вы задаете здесь четыре отдельных вопроса; вам нужно сузить это до одного вопроса, на который можно дать объективный ответ.
@ F1Krazy Спасибо за совет. Я уменьшу вопросы. Ваше здоровье.
Что конкретно означает «сверхразум» в конкретных терминах?
@ARogueAnt Это название может относиться к комедии ноября 2020 года «Сверхразум»? Женщина просыпается в своей квартире и разговаривает со своим Wi-Fi-модемом en.wikipedia.org/wiki/Superintelligence_(film)
О, теперь я вижу, все становится ясно, Суперинтеллект — это тот, кто продвигает романтику, одновременно отпуская комедийные шутки, но получает низкие баллы по какой-то шкале, похожей на тухлый помидор. Понятно ;)
@ARogueAnt. Отличный момент. Я изменю вопрос. Дайте мне знать, если этого будет достаточно.)
«Сверхразум» — это не предполагаемая потенциальная проблема ИИ // самосохранение или какое-либо другое целенаправленное стремление в его коде в сочетании с законом неожиданных последствий — это реальная полуправдоподобная опасность, которая может возникнуть при практически нулевом интеллекте в автоматизированных системах. систем, // где эта предполагаемая проблема пересекается со «сверхразумным» ИИ, заключается в том, что трудно представить себе успешное создание настоящего искусственного общего интеллекта, который можно разумно назвать сверхинтеллектуальным, без введения этих факторов.
@Pelinore Это респектабельный ответ. Я понимаю, что вы имеете в виду. Верите ли вы, что ИИ будет сознательным, если/когда он получит какую-либо из этих черт? Или вы думаете, что это будет более вероятен сценарий «Скрепка»?
Кстати, спасибо за все комментарии. Я надеялся добиться такого разговора.
@Pelinore Просто чтобы уточнить мое последнее сообщение: я не считаю сознание эквивалентным «сверхразуму» и / или «искусственному общему интеллекту».

Ответы (1)

взвешенный интеллект

Существуют тесты IQ, которые дают результат IQ=100 как средний результат по всем предметам. Измерение учитывает язык/культуру, из которой исходит тест интеллекта . Используя анализ изображений и обработку естественного языка, устройство однажды сможет пройти тест IQ с высшим баллом. От количества испытуемых, которые также получают этот высший балл, зависит присвоенный IQ.

Насколько я понимаю, пока нет работающего теста IQ для машин, и машины не проводят тесты, предназначенные для людей https://www.sciencedirect.com/science/article/abs/pii/S0160289611001619

Многие загадки в наших IQ-тестах являются задачами на экстраполяцию. Если у вас есть 4 числа или изображения A, B, C и D, каким будет 5-е число или изображение E? Одним из показателей машинного интеллекта может быть то, что машины с камерами смогут снимать изображения, выполнять задачу экстраполяции. Возможно, для этого есть способы, включающие глубокое обучение. Опасность была недавно «решена».. https://www.youtube.com/watch?v=WFR3lOm_xhE

воспринимаемый интеллект

Мы видим, как 12-летний ребенок приводит аргументы, размышляет и объединяет новые вещи с ранее приобретенным опытом, что заставляет нас присвоить этому ребенку ярлык «умный». Способность объяснить отношения, ранее не замеченные слушателем, также считается умной. Отчасти все это очень субъективно: сторонники теорий заговора часто называют их сверхразумными. Когда мы заставляем других чувствовать, что мы «схватываем» предмет, это также указывает на определенный уровень подтверждения того, что этот другой человек понимает тот же предмет.

Все это могут делать машины. Предположим, вы студент первого курса, покупаете стиральную машину и используете ее впервые. Когда ваша стиральная машина через некоторое время переключается на высокие обороты, чтобы высушить одежду, это умно. Как эта машина узнала, что мне нужна сушка? Мне просто нужно было нажать одну кнопку.

Спасибо, @Goodies. Я ценю, что вы нашли время, чтобы задокументировать и объяснить этот процесс. Я продолжу свои исследования в соответствующих областях, которые вы перечислили выше. (Спасибо всем, кто оставил комментарии.)
Я добавил ссылку Jeopardy. Я не думаю, что компьютеры проделают тот же трюк экстраполяции с изображениями.
Я полностью согласен. Как вы думаете, мы узнаем об этом однажды, когда компьютеры достигнут «сингулярности»?
@Xammax, это произойдет, когда программисты найдут определенное решение, которое работает для любого вопроса IQ-теста. Развитие компьютерных шахмат показало, что мы не всегда можем определить, нашла ли машина НАСТОЯЩЕЕ решение или она просто нашла решение, на которое у нас нет ответа. Таким образом, ваша сингулярность также является восприятием... не существует объективных методов измерения интеллекта, поэтому мне интересно, будет ли уместным такой математический термин, как «сингулярность».
Мне нравится эта перспектива. Это заставляет меня сомневаться в самом основании вопросов. Похоже, у нас есть «конфликт интересов» (люди, а не вы и я). Как мы можем честно участвовать в игре, одновременно определяя/переопределяя правила? Я знаю, что это своего рода «уловка-22». Как мы можем создать непредвзятое мнение, когда мы вовлечены в игру?
Кто еще будет определять правила? Например, Replika — отличный чат-бот, но он не может разработать машинный тест IQ, люди должны навязать человеческий тест IQ машинам, иначе вы не будете знать, что измеряете. Я не рассматриваю ИИ как игру или соревнование с машинами, я рассматриваю его как симуляцию. Попытка (ре)сконструировать человеческие свойства в машинах. Следовательно, мой ответ (объективная часть) основан на тесте фон Неймана, машина должна имитировать человека, то есть соответствовать точно таким же критериям интеллекта... путем прохождения теста человеческого интеллекта с помощью камеры. Это единственное игровое поле.
Показатели AI Super Intelligence [закрыто]
СпросиСетьПолитика конфиденциальности1y, 0v