Был ли HAL прав?

Просто посмотрев 2001: Космическая одиссея , надо сделать вывод, что HAL был неверным. Убив экипаж, HAL сделал миссию маловероятной. Экипаж был там, чтобы выполнить миссию... их убийство наносит ущерб миссии.

HAL убил команду, чтобы они не закрыли HAL для ремонта. Экипаж оставил бы HAL в рабочем состоянии, возможно, с уменьшенной мощностью, и продолжил бы миссию.

Вышеупомянутое относится только к оригинальному фильму, но у нас также есть каноническое продолжение 2010 года . В 2010 году мы узнаем, что HAL получил секретные приказы и приказал солгать о них человеческому экипажу... и мы узнаем, что HAL на самом деле не был создан для того, чтобы лгать, и напряжение, связанное с ложью, сводило HAL с ума. (Кроме того, в 2010 году мы снова видим HAL, с удаленными секретными приказами; он больше не безумен и до конца оказывается надежным товарищем.)

Итак, с одной стороны, мы знаем, что ХЭЛ был безумен в то время, когда начал убивать людей. С другой стороны, HAL действовал по секретным приказам, и убийство человеческого экипажа фактически соответствовало секретным приказам.

Цитаты из фильма 2010 года на IMDB

По сути, HAL было сказано: «Доставь корабль туда, даже если экипаж мертв, и ничего не говори об этом экипажу». HAL не было приказано сохранить экипаж в живых. По сути, у HAL была единственная основная директива, человеческая команда угрожала этой основной директиве, и HAL с ними справился.

Если бы человеческий экипаж выключил HAL и использовал его с уменьшенной мощностью, HAL не смог бы выполнять секретные приказы. Так что я бы сказал, что HAL был прав, но только в отношении секретных приказов.

Обратите внимание на выбор слов HAL:

подвергать опасности.

Хотя легко утверждать, что миссия может быть возможна без HAL, деактивация его, безусловно, « поставит (миссию) в состояние опасности ».

Таким образом, независимо от того, была ли миссия успешной или нет, утверждение HAL о том, что она будет более сложной и, возможно, обреченной на провал, верно.

Чтобы задать этот вопрос, мы должны начать с предпосылки фильма, что HAL на самом деле разумен. То есть у HAL есть суждения, которые могут быть правильными или неправильными, и мы можем лучше всего работать с HAL, принимая преднамеренную позицию (а не, например, позицию дизайна или механическую позицию). Итак, у HAL есть разум, и нам нужно относиться к HAL как к разумному объекту. Хорошо, это означает, что HAL является членом экипажа, который решил, что его дальнейшее выживание необходимо для успеха миссии, и что миссия не может быть прервана, даже ценой жизни его товарищей по команде. Я думаю маловероятно, что это были бы условия приказа, который был отдан экипажу, и в таком случае нет, HAL был бы не прав, так как он нарушил бы приказ.

То есть, несмотря на то, что миссия может быть успешной или нет без HAL, я полагаю, что, как и в большинстве научных миссий, безопасность экипажа важнее сбора данных, поэтому действия HAL были бы неправильными. (возможно, его суждение об успехе или провале миссии было верным, но это второстепенный пункт в вопросе. Основной пункт «он не может позволить Боумену деактивировать его, потому что (...)» и обоснование, которое он дает не является правильным.

Конечно, поскольку мы предположили разумность, мы можем подумать о том, могло ли заявление HAL быть правдой буквально. Подразумевает ли разум инстинкт самосохранения? Я не знаю, так ли это, но если бы у HAL был такой инстинкт, то «я не могу позволить вам сделать это» могло бы быть откровенной констатацией факта.