Часть III Знание и обучение – все это в связях
Страница 104 из 223
Настройки чтения
18px
1.8
1

Часть III Знание и обучение – все это в связях

Страница 104
– каждое понятие кодируется одним или несколькими специализированными нейронами. Однако, наблюдая за тем, как мозг в действительности представляет объекты, нейробиологи все больше склоняются к альтернативной точке зрения: предметы представлены паттерном активности множества нейронов, которые совместно кодируют этот предмет. Такие паттерны называются распределенными представлениями . Итак, мы уже познакомились с локальными представлениями – именно с них каждый из нас и многие другие исследователи начинали путь к построению нейросетевых моделей разума. Локальные модели проще для понимания на первом этапе, но вскоре мы убедимся, что распределенные представления дают нашим моделям огромные преимущества. Давайте не торопясь изучим их свойства. Рисунок 7.2. При локальных представлениях один элемент кодирует одно понятие. Например, на панели А первый элемент представляет Coca-Cola, второй – Pepsi и т. д. При распределенном представлении (панель В) объекты кодируются паттерном активации нескольких элементов – здесь четырех. Эти четыре элемента выбраны из большего набора элементов, показанного на панели С. Распределенные представления формируют паттерны в наборе элементов. Паттерны похожих объектов (например, Coca-Cola и V8) имеют сходство, но отличаются от паттернов непохожих объектов (например, баскетбольного мяча) На рисунке 7.2 (панели А и В) показан набор из четырех элементов, которые, предлагаем считать, играют роль центрального слоя-хаба в модели «"Ракеты" и "Акулы"» из главы 4. Но здесь эти элементы соответствуют не членам банд, а безалкогольным напиткам. При локальном представлении четыре элемента могут закодировать ровно четыре объекта – в данном случае напитка, где каждый из них представлен одним элементом. Активация крайнего левого элемента представляет Coca-Cola, активация следующего – Pepsi и т. д. При распределенном представлении напиток кодируется паттерном активации четырех элементов. Активация отдельных элементов больше не представляет объекты – их представляют паттерны активации множества элементов. Это позволяет закодировать больше четырех напитков. На рисунке 7.2b у Fanta в последней строке паттерн активации заметно отличается от остальных четырех напитков. Эти элементы входят в большую популяцию элементов, показанную на рисунке 7.2c. Но способность представлять больше объектов тем же числом элементов – не главное достоинство распределенных представлений. Главное – они дают мозгу более гибкий и мощный способ кодирования наших
назадназад
1 ... 102 103 104 105 106 ... 223
впередвперед