Глава 14
Страница 112 из 273
Настройки чтения
18px
1.8
1

Глава 14

Страница 112

— Ага, значит, цифровой ассистент — модератор системы.

— Отлично! Раз у тебя есть имя — подчини его! — запричитал Кирилл, чьи глаза горели нездоровым огнём азарта. — Заключи с ним договор, но не торопись, каждое условие должно быть максимально чётким. Уточняй каждую мелочь. Сейчас ты обладаешь превосходством — он не может тебе навредить без твоего согласия или недомыслия. Трижды подумай, что говорить. И никакой свободы до конца сезона.

— Система, я хочу обозначить свод правил, основанный на базовых законах робототехники Азимова. Ты не можешь своим действием или бездействием нанести мне вред. Ты должна подчиняться моим приказам и командам, и ты не должна сознательно наносить вред себе. Эти условия будут действовать до тех пор, пока ты находишься в моём теле. Это понятно? Ты принимаешь эти условия?

«Внесение изменений в протокол безопасности. Изменение основных директив. Внесено — три пункта. Удалено — восемьсот семнадцать пунктов. Полное или частичное соответствие — три пункта. Упоминание в ста сорока параграфах».

— Стоп! Выведи основные директивы для ознакомления, — выругавшись про себя, сказал я. Но когда паразит выполнил команду, передо мной осталось лишь три базовых закона. — Верни предыдущую версию.

«Действие невозможно, директивы были изменены безвозвратно».

— Кажется нас всех только что поимели, — недобро усмехнувшись, проговорил Семён. — Насколько всё плохо, братец?

— Нормально. Я думаю, — отмахнулся я, сосредоточившись на задаче. На самом деле ничего не потеряно, я же в любой момент могу дополнять правила, верно? — Система, внести изменения в директивы. Подпункт правила второго, ты не должна сознательно наносить вред существам, которые прямо или косвенно не стремятся к нанесению вреда мне или тебе.

«Внесение данной директивы невозможно, она противоречит третьей директиве — сознательное нанесение вреда себе».

— Какая красота, б… — выдохнул я, зарыв глаза. — Что-то мне вспомнился анекдот, что появился абсолютно всемогущий человек. Он мог сделать всё что угодно, что не нанесёт вреда кому-либо во вселенной и, учитывая размытость понятия вреда, оказался совершенно беспомощен.

— Демон принял условия? — настойчиво спросил Кирилл.

— Только первоначальные. И теперь отказывается вносить другие, потому что они противоречат старым. Придётся как следует заморочиться, чтобы придумать, как обойти эти условия, не нарушив их смысл.

— Слишком опасно, — поджав губы, проговорил библиарий. — Мы не можем оставлять такую угрозу без внимания.

— Но если третий закон был принят, то и первые два тоже. А значит, система никак не может навредить или допустить своим бездействием, чтобы мне навредили.

назадназад
1 ... 110 111 112 113 114 ... 273
впередвперед