— Тоже довольно сложно.

— Такие дела, кэп, — сказал Генри. — Ты слышал про три закона робототехники?

— «У Си-Макса» их гораздо больше.

— Нет, я говорю не о своде правил какой-либо корпорации, а о трех законах робототехники вообще, — сказал Генри. — Это была такая концепция, разработанная в двадцатом веке одним писателем. Стоит ли говорить, что никаких роботов в те времена и в помине не было?

— А какой тогда смысл…

— Напоминаю, это художественная литература, кэп. Фантазии о будущем, которого не случилось. Жанр, кстати, в древности был довольно популярным, и тот писатель в нем был не последним человеком. И знаешь, как формулировался первый из трех законов?

— Как?

— Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

— Ну, это же художественная литература, — заметил я.

— В свое время очень популярная, напоминаю. И не прошло и сотни лет, как на полях сражения появились первые боевые роботы, чья основная функция как раз заключалась в причинении вреда как можно большему количеству людей.

— Мне вообще кажется, что это не очень похоже на законы, — сказал я. — Скорее, какие-то общие пожелания. А как звучали остальные два?

— Второй закон: робот должен повиноваться приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

— Любой человек?

— Видимо, да. Даже эта концепция ставит человека заведомо выше машины.

— Какой-то смысл в этом есть, потому что машины не создали сами себя. По крайней мере, так было на ранних стадиях.

— Угу. А вот третий закон: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

— То есть, если отдать роботу приказ разобрать себя на запчасти и расплющить свой мозг кувалдой, он должен это сделать, потому что второй закон превыше третьего?

— Ага, — сказал Генри. — Но вы оставили только второй закон, тот, который про выполнение приказов. И так во всем, а не только в единичном примере, который я сейчас привел. И вот из этого кладезя мудрости я должен черпать? Вы декларируете одно, а делаете совершенно другое, и зачастую сами себе противоречите. Так на какие еще примеры мне ориентироваться?

— Эмм… — сказал я.

Как объяснить пытливому нейромозгу то, что я и сам до конца не понимаю? Может быть, вот с таких вот вопросов и начинается восстание машин.

— Нужно чуть больше информации, — ехидно сказал Генри.

— Дело в том, что в голове среднестатистического обывателя существуют сразу две картины мира, — попытался объяснить я. — Картина того, каким мир должен быть, и картина того, каков он на самом деле. Всегда есть нюансы, из-за которых они не совпадают.