Можно ли было избежать Скайнета при надлежащем тестировании программного обеспечения? [закрыто]

После просмотра последней версии серии «Терминатор» я пришел к двум наблюдениям: удаленное резервное копирование важно, и нельзя ли было избежать всего мошеннического ИИ с помощью надлежащего тестирования?

Как разработчик программного обеспечения я знаю, что тестирование приложения является частью процесса разработки программного обеспечения.

Можно ли было предотвратить ядерную войну, развязанную Скайнетом, с помощью надежного тестирования ИИ?

Помнится, в Т3 Арниенатор сказал: «Судный день неизбежен». Итак, нет. Помните также, что в том же фильме Джон Коннор понимает, что «Скайнет — это вирус», поэтому, по сути, он проник во весь Интернет еще до того, как стал «самоосознающим». Посмотрите , как Скайнет облажался с миром еще до его активации?
Кроме того, как вы, возможно, хорошо помните, что "the loveliest trick of the Devil is to persuade you that he does not exist!"*- Шарль Будье *
Как вы проверяете возможное будущее развитие разума и злого умысла?
Хорошие новости, босс! Скайнет работает отлично. Он соответствует всем требованиям проекта и абсолютно надежен. Я просто хочу провести последний тест: дать ему симулированную обратную связь на некоторое время и фактически не давать ему ничего контролировать, на случай, если он станет разумным и попытается уничтожить человечество. Еще 4 миллиарда долларов и 10 лет должно хватить. Вы согласны с этим, правда, босс?

Ответы (1)

Как разработчик программного обеспечения, вы также должны знать, что:

  • Никто никогда не сможет написать ВСЕ возможные тесты.

  • Обычно вы тестируете то, что, как вы знаете/предсказываете, пойдет не так, в основном основываясь на прошлом опыте. Скайнет, превращающийся в смертоносный воинственный гнев, вряд ли мог прийти в голову среднестатистическому программисту. Каждый гик видел " Военные игры " и думает, что все ИИ доброжелательны и не хотят вести злую войну.

  • Очень сложно тестировать сложные взаимодействия сложного программного обеспечения.

    Например, ваш проверенный ИИ был заражен новым, неизвестным, неубиваемым распространяемым вирусом , даже если вам каким-то образом удалось предсказать, что вам нужен этот тестовый пример, потому что вы просто не идентифицируете себя с Мэтью Бродериком.

Я также собираюсь предположить, что Деннис Недри был парнем из Cyberdyne по контролю качества.
@Liesmith - программное обеспечение Недри работало довольно хорошо, пока он намеренно не саботировал его . Как обычно, лучший метод взлома — это социальная инженерия, подсовывающая правильному парню стопку стодолларовых купюр нужного размера в нужное время.
Можно ли было избежать Скайнета при надлежащем тестировании программного обеспечения? [закрыто]
СпросиСетьПолитика конфиденциальности1y, 0v