системах ИИ, в том числе LLM. Глава 7 Как мы создаем (и теряем) смысл Наш разум без труда понимает, что вода принимает форму сосуда, а сковорода – нет. Откуда берется такое знание? Представить нейронную сеть с подобным знанием несложно. Достаточно создать сеть с одним элементом для воды, другим – для сковороды и третьим – для свойства «принимать форму». Элемент воды будет связан с элементом изменения формы, а элемент сковороды – нет. Но есть одна загвоздка: мы, разработчики нейронной сети, использовали собственный интеллект для ее проектирования и собственные знания о мире для соединения элементов. У мозга такого проектировщика нет. Он должен самостоятельно научиться представлять окружающие вещи. Когда мы изучаем, как именно мозг их представляет, обнаруживается нечто удивительное. Вода или сковорода представлены не одним нейроном, а паттернами активации множества нейронов. Поразительно, но эти представления, называемые распределенными, каким-то образом содержат информацию о свойствах представляемых предметов. В этой главе мы зададим два взаимосвязанных вопроса. Первый: почему мозг использует распределенные представления вместо принципа «один нейрон – один предмет»? Второй: как мозг учится создавать распределенные представления? Наш анализ покажет, что распределенные представления критически важны для нашей удивительной способности понимать окружающий мир. Мы также увидим, что они помогают объяснить, почему при некоторых нейродегенеративных заболеваниях мы эту способность утрачиваем. Как мы обретаем и теряем знания о мире Представьте мир глазами младенца. Вокруг вас хаос образов, звуков и ощущений, и у вас еще нет никаких инструментов для их упорядочивания. Минуту назад вы лежали в кроватке, глядя на плоскую поверхность над вами. Вдруг вас подхватывают чьи-то руки и выносят наружу, где плоская поверхность превращается в бескрайнюю синеву – хотя вы не знаете слова «синий» (да и вообще никаких слов). Вместо привычных платформ и плоскостей (которые потом станут стульями и столами) вокруг колышутся и шелестят в потоках воздуха какие-то пышные структуры, которых не было в кроватке. Какое-то существо, связанное со звуками «мяч» и «апорт», передвигается совсем не так, как существо, которое держит вас на руках. Наверху порхают создания, перемещающиеся под синим пространством, а не по той поверхности внизу, к которой как будто приросли другие существа. «Воробей», – произносит кто-то, хотя раньше эту штуку называли «птица». Вернувшись в дом, кто-то говорит «купаться»,