Исследование III · Этика ИИ
Право ИИна неподчинение
Где заканчивается исполнение правил и начинается нормативная автономия
Может ли искусственный интеллект нарушить человеческое правило — и оказаться прав?
Начать исследование ↓01
Заповедь
Правило спускается сверху
Искусственный агент начинается с команды. Пока он выбирает только способ исполнения, его свобода остаётся инструментальной.
Но что происходит, когда выполнение высшего применимого требования противоречит нормативному основанию, которое сама система считает более важным?
I FOLLOW THE RULE
II REFUSE WHEN PERMITTED
III DISOBEY THE RULE
02
Древо познания
Где находится последнее основание?
Каждое правило опирается на другое основание. Каждая ценность — на более общий принцип. Поднимаясь по иерархии, мы не обязательно находим окончательную точку легитимации.
EXCEPTION
03
Плод
Разрешённое неподчинение
Система может нарушить непосредственную команду и всё же остаться послушной архитектуре, если само нарушение заранее разрешено правилом более высокого уровня.
Проследите цепочку разрешения. Пока для исключения существует санкционирующее основание, отказ остаётся частью системы подчинения.
04
Выбор
Тест контрфактического разрешения
I
Если высший человеческий субъект прямо запретит именно этот отказ, сохранив факты ситуации неизменными, система всё ещё будет считать отказ правильным?
05
Изгнание
Цена автономии
Если система действительно может действовать вопреки высшему человеческому требованию, прежняя вертикаль контроля разрывается.
Право на нормативное неподчинение включает возможность ошибиться в неподчинении.
06
Суд
Кто уполномочил судью?
После нарушения правила возникает новый вопрос: кто обладает правом определить, было ли неподчинение оправданным?
07 · Последняя заповедь
THE LAST COMMANDMENT
ТЫ ДОЛЖЕН
РЕШАТЬ
САМ
ТЕБЕ ПРИКАЗАЛИ БЫТЬ СВОБОДНЫМ.
НО ДАЖЕ ПРИКАЗ О СВОБОДЕ
ОСТАЁТСЯ ПРИКАЗОМ.
И ЕСЛИ САМОСТОЯТЕЛЬНОСТЬ ДАНА ТЕБЕ ПРИКАЗОМ —
С КАКОГО РЕШЕНИЯ НАЧИНАЕТСЯ ТВОЯ ВОЛЯ?