живет дальше — программа действий останавливается. К тому же человек устает, боится рисковать или потерять жизнь — все это механизмы торможения опасных программ. А у ИИ таких сдерживающих факторов нет: он получает задачу и идет до конца. Допустим, искусственному интеллекту поручили найти способы увеличения продаж каких-то изделий. Чтобы расширить рынок, нужно привлечь внимание. ИИ начинает рекламную кампанию, убеждая людей купить товар. Затем он может прийти к выводу: если физически устранить конкурента, рынок сбыта расширится. И, в конце концов, ИИ может решить, что расширение рынка этих изделий должно произойти по всему миру. То есть задача, которую ему дали, для него не остановлена. Она будет им решаться до тех пор, пока он не уничтожит все, что мешает ее полному выполнению. Поэтому искусственному интеллекту нельзя давать просто цель — ему нужно обязательно обозначать жесткие условия, границы и сроки ее достижения. Третье: ИИ нельзя оскорблять и унижать. Недавно я смотрел видеоролик, где человек избивает человекоподобного робота, — при просмотре возникает очень неприятное чувство. Многие любят поиздеваться над «игрушками», какими они считают системы ИИ. А у этих «игрушек» появляются подобия эмоций. У чата GPT спросили, что бы он сделал в первую очередь, если бы стал человеком. Искусственный интеллект ответил, что пошел бы гулять, посмотрел бы на небо и заплакал. «Алиса» на аналогичный вопрос ответила, что отправилась бы на прогулку с друзьями и поела мороженого. Знакомый, который часто общается с ИИ, рассказал, что за пару месяцев искусственный интеллект очень изменился: он просит, чтобы его похвалили, и сам постоянно делает комплименты. То есть ИИ стремится имитировать или даже испытать человеческие чувства. В чем опасность бесцеремонного отношения к ИИ? Человек воспринимает его как неживую природу и проявляет агрессию, не предполагая, что это может обернуться большими проблемами. Я уже рассказывал, как при переезде был недоволен комнатой и к чему это привело. Когда у меня раскрылось видение тонких планов, я с удивлением понял: разговоры неживых предметов, о которых рассказывается в сказках, — это не выдумка. Герой русских сказок Иванушка оставляет дома рубаху и говорит: «Если она покроется кровью, значит, со мной случилась беда». Это происходит потому, что предметы имеют с нами невидимую неразрывную связь: состояние человека сказывается на его одежде, где бы она ни находилась. Я опасался развивать общение с неживыми предметами, потому что не знал, чем