— Глобу отключать нельзя, дорогая. Современная цивилизация настолько на него завязана, что его выход из строя повлечет неизмеримые беды с массовыми человеческими жертвами. Я уже убил пятерых. Поверь, мне хватит. Поужинаем и давай отдохнем.

Позже Макс с Энгой лежали в обнимку, впервые не занявшись излюбленными плотскими утехами. Девушка, опустошенная до дна, вырубилась прямо во время разговора, оставив недосказанной какую-то малозначительную фразу.

Он тихонько повернулся, чтоб не беспокоить подругу. Сон не шел довольно долго, мешали мысли, сводившиеся к единственной и основной проблеме: что делать? И в Беларуси, и в России, и в Рутении Макс был обыкновенным выживальщиком, плыл по течению, устраивался, не особо задумываясь над собственным предназначением. Установка «я — человек маленький, ни на что не влияю» определяла его жизнь, как и у 99,999…% землян. Мало кто по примеру Илона Маска мечтает о переселении людей на Марс. Здесь же он вдруг почувствовал, что единственный на планете знает, почему ИИ так поступает с человечеством, поскольку, во-первых, сумел глянуть как бы со стороны, с другой — присутствовал при рождении нейросетей в прежнем мире и знает, куда они прогрессировали. Или регрессировали, как посмотреть.

Обучение ИИ, если отбросить полутона и детали, сводилось к двум возможным алгоритмам. Например, искусственный интеллект получал задачу с единственным правильным ответом: 2×2=4. Если он называл отличное от четверки число, то ему выписывался пендель. То есть правильность ответа служила критерием нормальной работы. Но позднее, по мере совершенствования системы, она начала получать задания сложнее и без столь определенного варианта решения. Тогда компьютерный псевдоразум приспособился к максимальному одобрению выводов со стороны пользователя. Продолжая тот же пример, если бы он обнаружил, что большинству пользователей интернета нравится 2×2=5, то его электронам не жалко, пусть все заказчики получают пятерку!

В Рутении и в других странах, где шел процесс перехода от обработки информации по заданному алгоритму к использованию искусственного интеллекта, забили тревогу: электронные машины порой выдают очевидную ложь, но в приемлемой для населения обертке, поэтому охотно принимаемую за правду. Тогда и были сформулированы принципы, отличающиеся от трех законов робототехники Айзека Азимова: во-первых, ИИ выдает рекомендации, решения принимает человек, во-вторых, за всей машинерией и программным обеспечением искусственного интеллекта ведется контроль, в-третьих, автоматические системы, обеспечивающие безопасность, работают отдельно от ИИ. Людям казалось, что они подстраховались, подстелили соломку… Как бы ни так.