Как работают нейроны. Нейронные сети Нейронная сеть человека

Статья на конкурс «био/мол/текст»: Клеточные процессы, обеспечивающие обмен информацией между нейронами, требуют много энергии. Высокое энергопотребление способствовало в ходе эволюции отбору наиболее эффективных механизмов кодирования и передачи информации. В этой статье вы узнаете о теоретическом подходе к изучению энергетики мозга, о его роли в исследованиях патологий, о том, какие нейроны более продвинуты, почему синапсам иногда выгодно не «срабатывать», а также, как они отбирают только нужную нейрону информацию.

Генеральный спонсор конкурса - компания : крупнейший поставщик оборудования, реагентов и расходных материалов для биологических исследований и производств.


Спонсором приза зрительских симпатий и партнером номинации «Биомедицина сегодня и завтра» выступила фирма «Инвитро ».


«Книжный» спонсор конкурса - «Альпина нон-фикшн »

Происхождение подхода

С середины ХХ века известно, что головной мозг потребляет значительную часть энергоресурсов всего организма: четверть всей глюкозы и ⅕ всего кислорода в случае высшего примата . Это вдохновило Уильяма Леви и Роберта Бакстера из Массачусетского технологического института (США) на проведение теоретического анализа энергетической эффективности кодирования информации в биологических нейронных сетях (рис. 1) . В основе исследования лежит следующая гипотеза. Поскольку энергопотребление мозга велико, ему выгодно иметь такие нейроны, которые работают наиболее эффективно - передают только полезную информацию и затрачивают при этом минимум энергии.

Это предположение оказалось справедливым: на простой модели нейронной сети авторы воспроизвели экспериментально измеренные значения некоторых параметров . В частности, рассчитанная ими оптимальная частота генерации импульсов варьирует от 6 до 43 имп./с - почти так же, как и у нейронов основания гиппокампа . Их можно подразделить на две группы по частоте импульсации: медленные (~10 имп./с) и быстрые (~40 имп./с). При этом первая группа значительно превосходит по численности вторую . Аналогичная картина наблюдается и в коре больших полушарий: медленных пирамидальных нейронов (~4-9 имп./с) в несколько раз больше, чем быстрых ингибиторных интернейронов (>100 имп./с) , . Так, видимо, мозг «предпочитает» использовать поменьше быстрых и энергозатратных нейронов, чтобы те не израсходовали все ресурсы , .

Рисунок 1. Представлены два нейрона. В одном из них фиолетовым цветом окрашен пресинаптический белок синаптофизин . Другой нейрон полностью окрашен зеленым флуоресцентным белком . Мелкие светлые крапинки - синаптические контакты между нейронами . Во вставке одна «крапинка» представлена ближе.
Группы нейронов, связанных между собой синапсами, называются нейронными сетями , . Например, в коре больших полушарий пирамидальные нейроны и интернейроны образуют обширные сети. Слаженная «концертная» работа этих клеток обусловливает наши высшие когнитивные и другие способности. Аналогичные сети, только из других типов нейронов, распределены по всему мозгу, определенным образом связаны между собой и организуют работу всего органа.

Что такое интернейроны?

Нейроны центральной нервной системы разделяются на активирующие (образуют активирующие синапсы) и тормозящие (образуют тормозящие синапсы). Последние в значительной степени представлены интернейронами , или промежуточными нейронами. В коре больших полушарий и гиппокампе они ответственны за формирование гамма-ритмов мозга , которые обеспечивают слаженную, синхронную работу других нейронов. Это крайне важно для моторных функций, восприятия сенсорной информации, формирования памяти , .

Поиск оптимума

Фактически, речь идет о задаче оптимизации : поиска максимума функции и определения параметров, при которых он достигается. В нашем случае, функция - это отношение количества полезной информации к энергозатратам. Количество полезной информации можно примерно вычислить с помощью формулы Шеннона, широко используемой в теории информации , . Для расчета энергозатрат существуют два метода, и оба дают правдоподобные результаты , . Один из них - «метод счета ионов» - основан на подсчете количества ионов Na + , попавших внутрь нейрона при том или ином сигнальном событии (ПД или ПСП, см. врезку «Что такое потенциал действия ») с последующим переводом в число молекул аденозинтрифосфата (АТФ ), главной энергетической «валюты» клеток . Второй базируется на описании ионных токов через мембрану по законам электроники и позволяет вычислить мощность эквивалентной электрической цепи нейрона, которая затем переводится в затраты АТФ .

Эти «оптимальные» значения параметров затем нужно сравнить с измеренными экспериментально и определить, насколько они отличаются. Общая картина отличий укажет на степень оптимизации данного нейрона в целом: насколько реальные, измеренные экспериментально, значения параметров совпадают с рассчитанными. Чем слабее выражены отличия, тем нейрон более близок к оптимуму и работает энергетически более эффективно, оптимально. С другой стороны, сопоставление конкретных параметров покажет, в каком конкретно качестве этот нейрон близок к «идеалу».

Далее, в контексте энергетической эффективности нейронов рассмотрены два процесса, на которых основано кодирование и передача информации в мозге. Это нервный импульс, или потенциал действия, благодаря которому информация может быть отправлена «адресату» на определенное расстояние (от микрометров до полутора метров) и синаптическая передача, лежащая в основе собственно передачи сигнала от одного нейрона на другой.

Потенциал действия

Потенциал действия (ПД ) - сигнал, которые отправляют друг другу нейроны. ПД бывают разные: быстрые и медленные, малые и большие . Зачастую они организованы в длинные последовательности (как буквы в слова), либо в короткие высокочастотные «пачки» (рис. 2).

Рисунок 2. Разные типы нейронов генерируют различные сигналы. В центре - продольный срез мозга млекопитающего. Во вставках представлены разные типы сигналов, зарегистрированные методами электрофизиологии , . а - Кортикальные (Cerebral cortex ) пирамидальные нейроны могут передавать как низкочастотные сигналы (Regular firing ), так и короткие взрывные, или пачечные, сигналы (Burst firing ). б - Для клеток Пуркинье мозжечка (Cerebellum ) характерна только пачечная активность на очень высокой частоте. в - Релейные нейроны таламуса (Thalamus ) имеют два режима активности: пачечный и тонический (Tonic firing ). г - Нейроны средней части поводка (MHb , Medial habenula ) эпиталамуса генерируют тонические сигналы низкой частоты.

Что такое потенциал действия?

  1. Мембрана и ионы. Плазматическая мембрана нейрона поддерживает неравномерное распределение веществ между клеткой и внеклеточной средой (рис. 3б ) . В числе этих веществ есть и маленькие ионы, из которых для описания ПД важны К + и Nа + .
    Ионов Na + внутри клетки мало, снаружи - много. Из-за этого они постоянно стремятся попасть в клетку. Напротив, ионов К + много внутри клетки, и они норовят из нее выйти. Самостоятельно ионы этого сделать не могут, потому что мембрана для них непроницаема. Для прохождения ионов через мембрану необходимо открывание специальных белков - ионных каналов мембраны.
  2. Рисунок 3. Нейрон, ионные каналы и потенциал действия. а - Реконструкция клетки-канделябра коры головного мозга крысы. Синим окрашены дендриты и тело нейрона (синее пятно в центре), красным - аксон (у многих типов нейронов аксон разветвлен намного больше, чем дендриты , ). Зеленые и малиновые стрелки указывают направление потока информации: дендриты и тело нейрона принимают ее, аксон - отправляет ее к другим нейронам. б - Мембрана нейрона, как и любой другой клетки, содержит ионные каналы. Зеленые кружки - ионы Na + , синие - ионы К + . в - Изменение мембранного потенциала при генерации потенциала действия (ПД) нейроном Пуркинье. Зеленая область : Na-каналы открыты, в нейрон входят ионы Na + , происходит деполяризация. Синяя область: открыты К-каналы, К + выходит, происходит реполяризация. Перекрывание зеленой и синей областей соответствует периоду, когда происходит одновременный вход Na + и выход К + .

  3. Ионные каналы. Разнообразие каналов огромно , . Одни открываются в ответ на изменение мембранного потенциала, другие - при связывании лиганда (нейромедиатора в синапсе, например), третьи - в результате механических изменений мембраны и т.д. Открывание канала заключается в изменении его структуры, в результате которого через него могут проходить ионы. Некоторые каналы пропускают только определенный тип ионов, а для других характерна смешанная проводимость.
    В генерации ПД ключевую роль играют каналы, «чувствующие» мембранный потенциал, - потенциал-зависимые ионные каналы . Они открываются в ответ на изменение мембранного потенциала. Среди них нас интересуют потенциал-зависимые натриевые каналы (Na-каналы), пропускающие только ионы Na + , и потенциал-зависимые калиевые каналы (K-каналы), пропускающие только ионы К + .
  4. ПД - это относительно сильное по амплитуде скачкообразное изменение мембранного потенциала.

  5. Ионный ток и ПД. Основой ПД является ионный ток - движение ионов через ионные каналы мембраны . Так как ионы заряжены, их ток приводит к изменению суммарного заряда внутри и вне нейрона, что немедленно влечет за собой изменение мембранного потенциала.
    Генерация ПД, как правило, происходит в начальном сегменте аксона - в той его части, что примыкает к телу нейрона , . Тут сконцентрировано много Na-каналов. Если они откроются, внутрь аксона хлынет мощный ток ионов Na + , и произойдет деполяризация мембраны - уменьшение мембранного потенциала по абсолютной величине (рис. 3в ). Далее необходимо возвращение к его исходному значению - реполяризация . За это отвечают ионы К + . Когда К-каналы откроются (незадолго до максимума ПД), ионы К + начнут выходить из клетки и реполяризовать мембрану.
    Деполяризация и реполяризация - две основные фазы ПД. Помимо них выделяют еще несколько, которые из-за отсутствия необходимости здесь не рассматриваются. Детальное описание генерации ПД можно найти в , . Краткое описание ПД есть также в статьях на «Биомолекуле» , .
  6. Начальный сегмент аксона и инициация ПД. Что приводит к открыванию Na-каналов в начальном сегменте аксона? Опять же, изменение мембранного потенциала, «приходящее» по дендритам нейрона (рис. 3а ). Это - постсинаптические потенциалы (ПСП ), возникающие в результате синаптической передачи. Подробнее этот процесс объясняется в основном тексте.
  7. Проведение ПД. К ПД в начальном сегменте аксона будут неравнодушны Na-каналы, находящиеся неподалеку. Они тоже откроются в ответ на это изменение мембранного потенциала, что также вызовет ПД. Последний, в свою очередь, вызовет аналогичную «реакцию» на следующем участке аксона, все дальше от тела нейрона, и так далее. Таким образом происходит проведение ПД вдоль аксона , . В конце концов он достигнет его пресинаптических окончаний (малиновые стрелки на рис. 3а ), где сможет вызвать синаптическую передачу.
  8. Энергозатраты на генерацию ПД меньше, чем на работу синапсов. Скольких молекул аденозинтрифосфата (АТФ), главной энергетической «валюты», стоит ПД? По одной из оценок, для пирамидальных нейронов коры мозга крысы энергозатраты на генерацию 4 ПД в секунду составляют около ⅕ от общего энергопотребления нейрона. Если учесть другие сигнальные процессы, в частности, синаптическую передачу, доля составит ⅘. Для коры мозжечка, отвечающего за двигательные функции, ситуация похожа: энергозатраты на генерацию выходного сигнала составляют 15% от всех, а около половины приходится на обработку входной информации . Так, ПД является далеко не самым энергозатратным процессом. В разы больше энергии требует работа синапса , . Однако это не означает, что процесс генерации ПД не проявляет черт энергетической эффективности.

Анализ разных типов нейронов (рис. 4) показал, что нейроны беспозвоночных не очень энергоэффективны, а некоторые нейроны позвоночных почти совершенны . По результатам этого исследования, наиболее энергоэффективными оказались интернейроны гиппокампа , участвующего в формировании памяти и эмоций, а также таламокортикальные релейные нейроны, несущие основной поток сенсорной информации от таламуса к коре больших полушарий.

Рисунок 4. Разные нейроны эффективны по-разному. На рисунке представлено сравнение энергозатрат разных типов нейронов. Энергозатраты рассчитаны в моделях как с исходными (реальными) значениями параметров (черные столбцы ), так и с оптимальными, при которых с одной стороны нейрон выполняет положенную ему функцию, с другой - затрачивает при этом минимум энергии (серые столбцы ). Самыми эффективными из представленных оказались два типа нейронов позвоночных: интернейроны гиппокампа (rat hippocampal interneuron , RHI ) и таламокортикальные нейроны (mouse thalamocortical relay cell , MTCR ), так как для них энергозатраты в исходной модели наиболее близки к энергозатратам оптимизированной. Напротив, нейроны беспозвоночных менее эффективны. Условные обозначения: SA (squid axon ) - гигантский аксон кальмара; CA (crab axon ) - аксон краба; MFS (mouse fast spiking cortical interneuron ) - быстрый кортикальный интернейрон мыши; BK (honeybee mushroom body Kenyon cell ) - грибовидная клетка Кеньона пчелы.

Почему они более эффективны? Потому что у них малó перекрывание Na- и К-токов. Во время генерации ПД всегда есть промежуток времени, когда эти токи присутствуют одновременно (рис. 3в ). При этом переноса заряда практически не происходит, и изменение мембранного потенциала минимально. Но «платить» за эти токи в любом случае приходится, несмотря на их «бесполезность» в этот период. Поэтому его продолжительность определяет, сколько энергетических ресурсов растрачивается впустую. Чем он короче, тем более эффективно использование энергии , . Чем длиннее - тем менее эффективно. Как раз в двух вышеупомянутых типах нейронов, благодаря быстрым ионным каналам, этот период очень короткий, а ПД - самые эффективные .

Кстати, интернейроны гораздо более активны, чем большинство других нейронов мозга. В то же время они крайне важны для слаженной, синхронной работы нейронов, с которыми образуют небольшие локальные сети , . Вероятно, высокая энергетическая эффективность ПД интернейронов является некой адаптацией к их высокой активности и роли в координации работы других нейронов .

Синапс

Передача сигнала от одного нейрона к другому происходит в специальном контакте между нейронами, в синапсе . Мы рассмотрим только химические синапсы (есть еще электрические ), поскольку они весьма распространены в нервной системе и важны для регуляции клеточного метаболизма, доставки питательных веществ .

На пресинаптическом окончании аксона ПД вызывает выброс нейромедиатора во внеклеточную среду - к принимающему нейрону. Последний только этого и ждет с нетерпением: в мембране дендритов рецепторы - ионные каналы определенного типа - связывают нейромедиатор, открываются и пропускают через себя разные ионы. Это приводит к генерации маленького постсинаптического потенциала (ПСП) на мембране дендрита. Он напоминает ПД, но значительно меньше по амплитуде и происходит за счет открывания других каналов. Множество этих маленьких ПСП, каждый от своего синапса, «сбегаются» по мембране дендритов к телу нейрона (зеленые стрелки на рис. 3а ) и достигают начального сегмента аксона, где вызывают открывание Na-каналов и «провоцируют» его на генерацию ПД.

Такие синапсы называются возбуждающими : они способствуют активации нейрона и генерации ПД. Существуют также и тормозящие синапсы. Они, наоборот, способствуют торможению и препятствуют генерации ПД. Часто на одном нейроне есть и те, и другие синапсы. Определенное соотношение между торможением и возбуждением важно для нормальной работы мозга, формирования мозговых ритмов, сопровождающих высшие когнитивные функции .

Как это ни странно, выброс нейромедиатора в синапсе может и не произойти вовсе - это процесс вероятностный , . Нейроны так экономят энергию: синаптическая передача и так обусловливает около половины всех энергозатрат нейронов . Если бы синапсы всегда срабатывали, вся энергия пошла бы на обеспечение их работы, и не осталось бы ресурсов для других процессов. Более того, именно низкая вероятность (20–40%) выброса нейромедиатора соответствует наибольшей энергетической эффективности синапсов. Отношение количества полезной информации к затрачиваемой энергии в этом случае максимально , . Так, выходит, что «неудачи» играют важную роль в работе синапсов и, соответственно, всего мозга. А за передачу сигнала при иногда «не срабатывающих» синапсах можно не беспокоиться, так как между нейронами обычно много синапсов, и хоть один из них да сработает.

Еще одна особенность синаптической передачи состоит в разделении общего потока информации на отдельные компоненты по частоте модуляции приходящего сигнала (грубо говоря, частоте приходящих ПД) . Это происходит благодаря комбинированию разных рецепторов на постсинаптической мембране , . Некоторые рецепторы активируются очень быстро: например, AMPA-рецепторы (AMPA происходит от α-a mino-3-hydroxy-5-m ethyl-4-isoxazolep ropionic a cid). Если на постсинаптическом нейроне представлены только такие рецепторы, он может четко воспринимать высокочастотный сигнал (такой, как, например, на рис. 2в ). Ярчайший пример - нейроны слуховой системы, участвующие в определении местоположения источника звука и точном распознавании коротких звуков типа щелчка, широко представленных в речи , . NMDA-рецепторы (NMDA - от N -m ethyl-D -a spartate) более медлительны. Они позволяют нейронам отбирать сигналы более низкой частоты (рис. 2г ), а также воспринимать высокочастотную серию ПД как нечто единое - так называемое интегрирование синаптических сигналов . Есть еще более медленные метаботропные рецепторы , которые при связывании нейромедиатора, передают сигнал на цепочку внутриклеточных «вторичных посредников » для подстройки самых разных клеточных процессов. К примеру, широко распространены рецепторы, ассоциированные с G-белками . В зависимости от типа они, например, регулируют количество каналов в мембране или напрямую модулируют их работу .

Различные комбинации быстрых AMPA-, более медленных NMDA- и метаботропных рецепторов позволяют нейронам отбирать и использовать наиболее полезную для них информацию, важную для их функционирования . А «бесполезная» информация отсеивается, она не «воспринимается» нейроном. В таком случае не приходится тратить энергию на обработку ненужной информации. В этом и состоит еще одна сторона оптимизации синаптической передачи между нейронами.

Что еще?

Энергетическая эффективность клеток мозга исследуется также и в отношении их морфологии , . Исследования показывают, что ветвление дендритов и аксона не хаотично и тоже экономит энергию , . Например, аксон ветвится так, чтобы суммарная длина пути, который проходит ПД, была наименьшей. В таком случае энергозатраты на проведение ПД вдоль аксона минимальны.

Снижение энергозатрат нейрона достигается также при определенном соотношении тормозящих и возбуждающих синапсов . Это имеет прямое отношение, например, к ишемии (патологическому состоянию, вызванному нарушением кровотока в сосудах) головного мозга. При этой патологии, вероятнее всего, первыми выходят из строя наиболее метаболически активные нейроны , . В коре они представлены ингибиторными интернейронами, образующими тормозящие синапсы на множестве других пирамидальных нейронов , . В результате гибели интернейронов, снижается торможение пирамидальных . Как следствие, возрастает общий уровень активности последних (чаще срабатывают активирующие синапсы, чаще генерируются ПД). За этим немедленно следует рост их энергопотребления, что в условиях ишемии может привести к гибели нейронов.

При изучении патологий внимание уделяют и синаптической передаче как наиболее энергозатратному процессу . Например, при болезнях Паркинсона , Хантингтона , Альцгеймера происходит нарушение работы или транспорта к синапсам митохондрий, играющих основную роль в синтезе АТФ , . В случае болезни Паркинсона, это может быть связано с нарушением работы и гибелью высоко энергозатратных нейронов черной субстанции , важной для регуляции моторных функций, тонуса мышц. При болезни Хантингтона, мутантный белок хангтингтин нарушает механизмы доставки новых митохондрий к синапсам, что приводит к «энергетическому голоданию» последних, повышенной уязвимости нейронов и избыточной активации. Все это может вызвать дальнейшие нарушения работы нейронов с последующей атрофией полосатого тела и коры головного мозга. При болезни Альцгеймера нарушение работы митохондрий (параллельно со снижением количества синапсов) происходит из-за отложения амилоидных бляшек . Действие последних на митохондрии приводит к окислительному стрессу, а также к апоптозу - клеточной гибели нейронов.

Еще раз обо всем

В конце ХХ века зародился подход к изучению мозга, в котором одновременно рассматривают две важные характеристики: сколько нейрон (или нейронная сеть, или синапс) кодирует и передает полезной информации и сколько энергии при этом тратит , . Их соотношение является своего рода критерием энергетической эффективности нейронов, нейронных сетей и синапсов.

Использование этого критерия в вычислительной нейробиологии дало существенный прирост к знаниям относительно роли некоторых явлений, процессов , . В частности, малая вероятность выброса нейромедиатора в синапсе , определенный баланс между торможением и возбуждением нейрона , выделение только определенного рода приходящей информации благодаря определенной комбинации рецепторов - все это способствует экономии ценных энергетических ресурсов.

Более того, само по себе определение энергозатрат сигнальных процессов (например, генерация, проведение ПД, синаптическая передача) позволяет выяснить, какой из них пострадает в первую очередь при патологическом нарушении доставки питательных веществ , . Так как больше всего энергии требуется для работы синапсов, именно они первыми выйдут из строя при таких патологиях, как ишемия, болезни Альцгеймера и Хантингтона , . Схожим образом определение энергозатрат разных типов нейронов помогает выяснить, какой из них погибнет раньше других в случае патологии. Например, при той же ишемии, в первую очередь выйдут из строя интернейроны коры , . Эти же нейроны из-за интенсивного метаболизма - наиболее уязвимые клетки и при старении, болезни Альцгеймера и шизофрении .

Благодарности

Искренне благодарен моим родителям Ольге Наталевич и Александру Жукову, сестрам Любе и Алене, моему научному руководителю Алексею Браже и замечательным друзьям по лаборатории Эвелине Никельшпарг и Ольге Слатинской за поддержку и вдохновение, ценные замечания, сделанные при прочтении статьи. Я также очень благодарен редактору статьи Анне Петренко и главреду «Биомолекулы» Антону Чугунову за пометки, предложения и замечания.

Литература

  1. Прожорливый мозг ;
  2. SEYMOUR S. KETY. (1957). THE GENERAL METABOLISM OF THE BRAIN IN VIVO . Metabolism of the Nervous System . 221-237;
  3. L. Sokoloff, M. Reivich, C. Kennedy, M. H. Des Rosiers, C. S. Patlak, et. al.. (1977). THE DEOXYGLUCOSE METHOD FOR THE MEASUREMENT OF LOCAL CEREBRAL GLUCOSE UTILIZATION: THEORY, PROCEDURE, AND NORMAL VALUES IN THE CONSCIOUS AND ANESTHETIZED ALBINO RAT . J Neurochem . 28 , 897-916;
  4. Magistretti P.J. (2008). Brain energy metabolism . In Fundamental neuroscience // Ed by. Squire L.R., Berg D., Bloom F.E., du Lac S., Ghosh A., Spitzer N. San Diego: Academic Press, 2008. P. 271–297;
  5. Pierre J. Magistretti, Igor Allaman. (2015). A Cellular Perspective on Brain Energy Metabolism and Functional Imaging . Neuron . 86 , 883-901;
  6. William B Levy, Robert A. Baxter. (1996). Energy Efficient Neural Codes . Neural Computation . 8 , 531-543;
  7. Sharp P.E. and Green C. (1994). Spatial correlates of firing patterns of single cells in the subiculum of the freely moving rat . J. Neurosci. 14 , 2339–2356;
  8. H. Hu, J. Gan, P. Jonas. (2014). Fast-spiking, parvalbumin+ GABAergic interneurons: From cellular design to microcircuit function . Science . 345 , 1255263-1255263;
  9. Oliver Kann, Ismini E Papageorgiou, Andreas Draguhn. (2014). Highly Energized Inhibitory Interneurons are a Central Element for Information Processing in Cortical Networks . J Cereb Blood Flow Metab . 34 , 1270-1282;
  10. David Attwell, Simon B. Laughlin. (2001). An Energy Budget for Signaling in the Grey Matter of the Brain . J Cereb Blood Flow Metab . 21 , 1133-1145;
  11. Henry Markram, Maria Toledo-Rodriguez, Yun Wang, Anirudh Gupta, Gilad Silberberg, Caizhi Wu. (2004).

Искусственный интеллект, нейронные сети, машинное обучение - что на самом деле означают все эти нынче популярные понятия? Для большинства непосвященных людей, коим являюсь и я сам, они всегда казались чем-то фантастическим, но на самом деле суть их лежит на поверхности. У меня давно созревала идея написать простым языком об искусственных нейронных сетях. Узнать самому и рассказать другим, что представляет собой эта технология, как она работает, рассмотреть ее историю и перспективы. В этой статье я постарался не залезать в дебри, а просто и популярно рассказать об этом перспективном направление в мире высоких технологий.

Немного истории

Впервые понятие искусственных нейронных сетей (ИНС) возникло при попытке смоделировать процессы головного мозга. Первым серьезным прорывом в этой сфере можно считать создание модели нейронных сетей МакКаллока-Питтса в 1943 году. Учеными впервые была разработана модель искусственного нейрона. Ими также была предложена конструкция сети из этих элементов для выполнения логических операций. Но самое главное, учеными было доказано, что подобная сеть способна обучаться.

Следующим важным шагом стала разработка Дональдом Хеббом первого алгоритма вычисления ИНС в 1949 году, который стал основополагающем на несколько последующих десятилетий. В 1958 году Фрэнком Розенблаттом был разработан парцептрон - система, имитирующая процессы головного мозга. В свое время технология не имела аналогов и до сих пор является основополагающей в нейронных сетях. В 1986 году практически одновременно, независимо друг от друга американскими и советскими учеными был существенно доработан основополагающий метод обучения многослойного перцептрона . В 2007 году нейронные сети перенесли второе рождение. Британский информатик Джеффри Хинтоном впервые разработал алгоритм глубокого обучения многослойных нейронных сетей, который сейчас, например, используется для работы беспилотных автомобилей.

Коротко о главном

В общем смысле слова, нейронные сети - это математические модели, работающие по принципу сетей нервных клеток животного организма. ИНС могут быть реализованы как в программируемые, так и в аппаратные решения. Для простоты восприятия нейрон можно представить, как некую ячейку, у которой имеется множество входных отверстий и одно выходное. Каким образом многочисленные входящие сигналы формируются в выходящий, как раз и определяет алгоритм вычисления. На каждый вход нейрона подаются действенные значения, которые затем распространяются по межнейронным связям (синопсисам). У синапсов есть один параметр - вес, благодаря которому входная информация изменяется при переходе от одного нейрона к другому. Легче всего принцип работы нейросетей можно представить на примере смешения цветов. Синий, зеленый и красный нейрон имеют разные веса. Информация того нейрона, вес которого больше будет доминирующей в следующем нейроне.

Сама нейросеть представляет собой систему из множества таких нейронов (процессоров). По отдельности эти процессоры достаточно просты (намного проще, чем процессор персонального компьютера), но будучи соединенными в большую систему нейроны способны выполнять очень сложные задачи.

В зависимости от области применения нейросеть можно трактовать по-разному, Например, с точки зрения машинного обучения ИНС представляет собой метод распознавания образов. С математической точки зрения - это многопараметрическая задача. С точки зрения кибернетики - модель адаптивного управления робототехникой. Для искусственного интеллекта ИНС - это основополагающее составляющее для моделирования естественного интеллекта с помощью вычислительных алгоритмов.

Основным преимуществом нейросетей над обычными алгоритмами вычисления является их возможность обучения. В общем смысле слова обучение заключается в нахождении верных коэффициентов связи между нейронами, а также в обобщении данных и выявлении сложных зависимостей между входными и выходными сигналами. Фактически, удачное обучение нейросети означает, что система будет способна выявить верный результат на основании данных, отсутствующих в обучающей выборке.

Сегодняшнее положение

И какой бы многообещающей не была бы эта технология, пока что ИНС еще очень далеки от возможностей человеческого мозга и мышления. Тем не менее, уже сейчас нейросети применяются во многих сферах деятельности человека. Пока что они не способны принимать высокоинтеллектуальные решения, но в состоянии заменить человека там, где раньше он был необходим. Среди многочисленных областей применения ИНС можно отметить: создание самообучающихся систем производственных процессов, беспилотные транспортные средства, системы распознавания изображений, интеллектуальные охранные системы, робототехника, системы мониторинга качества, голосовые интерфейсы взаимодействия, системы аналитики и многое другое. Такое широкое распространение нейросетей помимо прочего обусловлено появлением различных способов ускорения обучения ИНС.

На сегодняшний день рынок нейронных сетей огромен - это миллиарды и миллиарды долларов. Как показывает практика, большинство технологий нейросетей по всему миру мало отличаются друг от друга. Однако применение нейросетей - это очень затратное занятие, которое в большинстве случаев могут позволить себе только крупные компании. Для разработки, обучения и тестирования нейронных сетей требуются большие вычислительные мощности, очевидно, что этого в достатке имеется у крупных игроков на рынке ИТ. Среди основных компаний, ведущих разработки в этой области можно отметить подразделение Google DeepMind, подразделение Microsoft Research, компании IBM, Facebook и Baidu.

Конечно, все это хорошо: нейросети развиваются, рынок растет, но пока что главная задача так и не решена. Человечеству не удалось создать технологию, хотя бы приближенную по возможностям к человеческому мозгу. Давайте рассмотрим основные различия между человеческим мозгом и искусственными нейросетями.

Почему нейросети еще далеки до человеческого мозга?

Самым главным отличием, которое в корне меняет принцип и эффективность работы системы - это разная передача сигналов в искусственных нейронных сетях и в биологической сети нейронов. Дело в том, что в ИНС нейроны передают значения, которые являются действительными значениями, то есть числами. В человеческом мозге осуществляется передача импульсов с фиксированной амплитудой, причем эти импульсы практически мгновенные. Отсюда вытекает целый ряд преимуществ человеческой сети нейронов.

Во-первых, линии связи в мозге намного эффективнее и экономичнее, чем в ИНС. Во-вторых, импульсная схема обеспечивает простоту реализации технологии: достаточно использование аналоговых схем вместо сложных вычислительных механизмов. В конечном счете, импульсные сети защищены от звуковых помех. Действенные числа подвержены влиянию шумов, в результате чего повышается вероятность возникновения ошибки.

Итог

Безусловно, в последнее десятилетие произошел настоящий бум развития нейронных сетей. В первую очередь это связано с тем, что процесс обучения ИНС стал намного быстрее и проще. Также стали активно разрабатываться так называемые «предобученные» нейросети, которые позволяют существенно ускорить процесс внедрения технологии. И если пока что рано говорить о том, смогут ли когда-то нейросети полностью воспроизвести возможности человеческого мозга, вероятность того, что в ближайшее десятилетие ИНС смогут заменить человека на четверти существующих профессий все больше становится похожим на правду.

Для тех, кто хочет знать больше

  • Большая нейронная война: что на самом деле затевает Google
  • Как когнитивные компьютеры могут изменить наше будущее

Искусственная нейронная сеть - это модель, имитирующая работу нервных клеток живого организма, и представляющая собой систему из соединённых и взаимодействующих между собой искусственных нейронов. Искусственный нейрон упрощённо моделирует работу биологического нейрона. У каждого искусственного нейрона есть набор входов, передающих входные сигналы разной интенсивности, тело, состоящее из сумматора и функции активации, и единственный выход, интенсивность сигнала которого и есть результат обработки входных сигналов.

Как правило, искусственные нейросети моделируются послойно: на первый слой нейронов передаются входные данные, затем используется один или более скрытых слоёв и, наконец, выходной слой показывает результат. Возвращаясь к примеру с распознаванием цифр: если взять число признаков порядка 100, то входной слой будет состоять из 100 нейронов, затем последуют несколько скрытых слоёв нейросети, а выходной слой может содержать 10 нейронов. Эта простая и изящная схема компоновки достаточно примитивных вычислительных блоков вместе со специальными методами обучения открывает большие возможности для обработки данных.

Как они обучаются?

Обучение с учителем. В этом случае сети подаются на вход данные из некоторого обучающего набора. В нашем примере это признаки объектов, которые преобразуются в интенсивность сигналов входных нейронов. Затем сигналы суммируются и активируют скрытые нейроны. Этот процесс повторяется слой за слоем, пока не будет достигнут выходной слой нейросети. Сигналы нейронов можно трактовать как ответ на некий вопрос, например, о принадлежности изображения какому-то классу. Если это ответ правильный, то переходят к следующему образцу, в противном случае происходит процесс обратного распространения ошибки. Это можно трактовать так: учитель поставил свою оценку за этот ответ, и нужно выучить новое правило. Если параметры нейросети подобраны верно, то, обработав достаточное количество обучающих образцов на входе, нейросеть становится способна классифицировать незнакомые объекты. В нашем примере можно собрать изображения чисел от 0 до 9, написанные множество раз и разными людьми. Это будет обучающий набор. Он делится на две части: одна используется для обучения классификатора, а вторая - контрольный набор - для проверки качества работы классификатора и для вычисления ошибок.

Обучение без учителя. При поступлении нового образца данных нейросеть пытается найти наиболее «похожий» образец из ранее обработанных и «объединяет» своё представление о целой группе образцов. Если встречается что-то действительно уникальное, это можно трактовать как выделение сетью нового кластера. Здесь никто не контролирует результат. Это используется для грубой оценки структуры данных. То есть мы показали сети 10000 изображений рукописных цифр, она сказала, что примерно может разбить их на 20-30 различных типов объектов. Верно ли это? Возможно верно, она уловила закономерности почерка и особенности написания цифр. Можем ли мы использовать это на практике? Не всегда, всё-таки чтобы распознать цифры, нам надо ограничить фантазию классификатора 10 классами цифр. Обучение без учителя используется для поиска зависимостей в больших объёмах необработанных и несистематизированных данных. Например, в медицине. Есть огромное число особенностей каждого пациента: уровень сахара в крови, артериальное давление, рост, вес, возраст, вредные привычки, наследственные болезни. Вручную выявлять закономерности очень сложно и трудоёмко. А так - анализ данных подскажет, что можно связывать сердечно-сосудистые заболевания с приёмом некоторого лекарства, и тому подобное.

Нейронные связи головного мозга обуславливают сложное поведение. Нейроны — маленькие вычислительные машины, способные оказывать влияние, только объединившись в сети.

Контроль простейших элементов поведения (например, рефлексов) не требует большого количества нейронов, но даже рефлексы часто сопровождает осознание человеком срабатывания рефлекса. Сознательное же восприятие сенсорных стимулов (и все высшие функции нервной системы) зависит от огромного числа связей между нейронами.

Нейронные связи делают нас такими, какие мы есть. Их качество влияет на работу внутренних органов, на интеллектуальные способности и эмоциональную стабильность.

"Проводка"

Нейронные связи головного мозга — проводка нервной системы. Работа нервной системы основана на способности нейрона воспринимать, обрабатывать и передавать информацию другим клеткам.

Информация передается через Поведение человека и функционирование его организма полностью зависит от передачи и получения импульсов нейронами через отростки.

У нейрона два типа отростков: аксон и дендрит. Аксон у нейрона всегда один, именно по нему нейрон передает импульс другим клеткам. Получает же импульс через дендриты, которых может быть несколько.

К дендритам "подведено" множество (иногда десятки тысяч) аксонов других нейронов. Дендрит и аксон контактируют через синапс.

Нейрон и синапсы

Щель между дендритом и аксоном — синапс. Т.к. аксон "источник" импульса, дендрит "принимающий", а синаптическая щель — место взаимодействия: нейрон, от которого идет аксон, называют пресинаптическим; нейрон, от которого идет дендрит, — постсинаптическим.

Синапсы могут формироваться и между аксоном и телом нейрона, и между двумя аксонами или двумя дендритами. Многие синаптические связи образованы дендритным шипиком и аксоном. Шипики очень пластичны, обладают множеством форм, могут быстро исчезать и формироваться. Они чувствительны к химическим и физическим воздействиям (травмы, инфекционные заболевания).

В синапсах чаще всего информация передается посредством медиаторов (химических веществ). Молекулы медиатора высвобождаются на пресинаптической клетке, пересекают синаптическую щель и связываются с мембранными рецепторами постсинаптической клетки. Медиаторы могут передавать возбуждающий или тормозящий (ингибирующий) сигнал.

Нейронные связи головного мозга представляют собой соединение нейронов через синаптические связи. Синапсы — функциональная и структурная единица нервной системы. Количество синаптических связей — ключевой показатель для работы мозга.

Рецепторы

Рецепторы вспоминают каждый раз, когда говорят про наркотическую или алкогольную зависимость. Почему же человеку необходимо руководствоваться принципом умеренности?

Рецептор на постсинаптической мембране — белок, настроенный на молекулы медиатора. Когда человек искусственно (наркотиками, например) стимулирует выброс медиаторов в синаптическую щель, синапс пытается вернуть равновесие: снижает количество рецепторов или их чувствительность. Из-за этого естественные уровни концентрации медиаторов в синапсе перестают оказывать действие на нейронные структуры.

Например, курящие люди никотином изменяют восприимчивость рецепторов к ацетилхолину, происходит десенсибилизация (уменьшение чувствительности) рецепторов. Естественный уровень ацетилхолина оказывается недостаточным для рецепторов с пониженной чувствительность. Т.к. ацетилхолин задействован во многих процессах, в том числе, связанных с концентрацией внимания и ощущением комфорта, курящий не может получить полезные эффекты работы нервной системы без никотина.

Впрочем, чувствительность рецепторов постепенно восстанавливается. Хотя это может занимать долгое время, синапс приходит в норму, и человеку больше не требуются сторонние стимуляторы.

Развитие нейронных сетей

Долговременные изменения нейронных связей происходят при различных болезнях (психических и неврологических — шизофрения, аутизм, эпилепсия, болезнях Хантингтона, Альцгеймера и Паркинсона). Синаптические связи и внутренние свойства нейронов изменяются, что приводит к нарушению работы нервной системы.

За развитие синаптических связей отвечает активность нейронов. "Используй или потеряешь" — принцип, лежащий в основе мозга. Чем чаще "действуют" нейроны, тем больше между ними связей, чем реже, тем меньше связей. Когда нейрон теряет все свои связи, он погибает.

Когда средний уровень активности нейронов падает (например, вследствие травмы), нейроны строят новые контакты, с количеством синапсов растет активность нейронов. Верно и обратное: как только уровень активности становится больше привычного уровня, количество синаптических соединений уменьшается. Подобные формы гомеостаза часто встречаются в природе, например, при регуляции температуры тела и уровня сахара в крови.

М. Бутс M. Butz отметил:

Формирование новых синапсов обусловлено стремлением нейронов поддерживать заданный уровень электрической активности...

Генри Маркрам, который участвует в проекте по созданию нейронной симуляции мозга, подчеркивает перспективы развития отрасли для изучения нарушения, восстановления и развития нейронных связей. Группа исследователей уже оцифровала 31 тысячу нейронов крысы. Нейронные связи мозга крысы представлены в видео ниже.

Нейропластичность

Развитие нейронных связей в головном мозге сопряжено с созданием новых синапсов и модификацией существующих. Возможность модификаций обусловлена синаптической пластичностью — изменением "мощности" синапса в ответ на активацию рецепторов на постсинаптической клетке.

Человек может запоминать информацию и обучаться благодаря пластичности мозга. Нарушение нейронных связей головного мозга вследствие черепно-мозговых травм и нейродегенеративных заболеваний благодаря нейропластичности не становится фатальным.

Нейропластичность обусловлена необходимостью изменяться в ответ на новые условия жизни, но она может как решать проблемы человека, так и создавать их. Изменение мощности синапса, например, при курении — это тоже отражение От наркотиков и обсессивно-компульсивного расстройства так сложно избавиться именно из-за неадаптивного изменения синапсов в нейронных сетях.

На нейропластичность большое влияние оказывают нейротрофические факторы. Н. В. Гуляева подчеркивает, что различные нарушения нейронных связей происходят на фоне снижения уровней нейротрофинов. Нормализация уровня нейротрофинов приводит к восстановлению нейронных связей головного мозга.

Все эффективные лекарства, используемые для лечения болезней мозга, независимо от их структуры, если они эффективны, они тем или иным механизмом нормализуют локальные уровни нейротрофических факторов.

Оптимизация уровней нейротрофинов пока не может осуществляться путем прямой их доставки в мозг. Зато человек может опосредованно влиять на уровни нейротрофинов через физические и когнитивные нагрузки.

Физические нагрузки

Обзоры исследований показывают, что упражнения улучшают настроение и познавательные способности. Данные свидетельствуют о том, что эти эффекты обусловлены изменением уровня нейротрофического фактора (BDNF) и оздоровлением сердечно-сосудистой системы.

Высокие уровни BDNF были связаны с лучшими показателями пространственных способностей, эпизодической и Низкий уровень BDNF, особенно у пожилых людей, коррелировал с атрофией гиппокампа и нарушениями памяти, что может быть связано с когнитивными проблемами, возникающими при болезни Альцгеймера.

Изучая возможности по лечению и профилактике Альцгеймера, исследователи часто говорят о незаменимости физических упражнений для людей. Так, исследования показывают, что регулярная ходьба влияет на размер гиппокампа и улучшает память.

Физические нагрузки увеличивают скорость нейрогенеза. Появление новых нейронов — важное условие для переучивания (приобретения нового опыта и стирания старого).

Когнитивные нагрузки

Нейронные связи головного мозга развиваются, когда человек находится в обогащенной стимулами среде. Новый опыт — ключ к увеличению нейронных связей.

Новый опыт — это конфликт, когда проблема не решается теми средствами, которые уже есть у мозга. Поэтому ему приходится создавать новые связи, новые шаблоны поведения, что связано с увеличением плотности шипиков, количества дендритов и синапсов.

Обучение новым навыкам приводит к образованию новых шипиков и дестабилизации старых соединений шипиков с аксонами. Человек вырабатывает новые привычки, а старые исчезают. Некоторые исследования связывают когнитивные расстройства (СДВГ, аутизм, умственную отсталость) с отклонениями в развитии шипиков.

Шипики очень пластичны. Количество, форма и размер шипиков связаны с мотивацией, обучением и памятью.

Время, требующееся на изменения их формы и размера, измеряется буквально в часах. Но это значит также, что настолько же быстро новые соединения могут исчезать. Поэтому лучше всего отдавать предпочтение кратким, но частым когнитивным нагрузкам, чем длительным и редким.

Образ жизни

Диета может повышать когнитивные способности и защищать нейронные связи головного мозга от повреждений, содействовать их восстановлению после болезней и противодействовать последствиям старения. На здоровье мозга, по всей видимости, оказывают положительное влияние:

— омега-3 (рыба, семена льна, киви, орехи);

— куркумин (карри);

— флавоноиды (какао, зеленый чай, цитрусовые, темный шоколад);

— витамины группы В;

— витамин Е (авокадо, орехи, арахис, шпинат, пшеничная мука);

— холин (куриное мясо, телятина, яичные желтки).

Большинство перечисленных продуктов опосредованно влияют на нейротрофины. Позитивное влияние диеты усиливается при наличии физических упражнений. Кроме того, умеренное ограничение количества калорий в рационе стимулирует экспрессию нейротрофинов.

Для восстановления и развития нейронных связей полезно исключение насыщенных жиров и рафинированного сахара. Продукты с добавленными сахарами снижают уровни нейротрофинов, что негативно сказывается на нейропластичности. А высокое содержание насыщенных жиров в еде даже тормозит восстановление мозга после черепно-мозговых травм.

Среди негативных факторов, затрагивающих нейронные связи: курение и стресс. Курение и длительный стресс в последнее время ассоциируют с нейродегенеративными изменениями. Хотя непродолжительный стресс может быть катализатором нейропластичности.

Функционирование нейронных связей зависит и ото сна. Возможно, даже больше, чем от всех остальных перечисленных факторов. Потому что сам по себе сон — "это цена, которую мы платим за пластичность мозга" (Sleep is the price we pay for brain plasticity. Ch. Cirelli - Ч. Цирелли).

Резюме

Как улучшить нейронные связи головного мозга? Положительное влияние оказывают:

  • физические упражнения;
  • задачи и трудности;
  • полноценный сон;
  • сбалансированная диета.

Негативно воздействуют:

  • жирная пища и сахар;
  • курение;
  • длительный стресс.

Мозг чрезвычайно пластичен, но "лепить" из него что-то очень сложно. Он не любит тратить энергию на бесполезные вещи. Быстрее всего развитие новых связей происходит в ситуации конфликта, когда человек не способен решить задачу известными методами.

Биологический нейрон состоит из тела диаметром от 3 до 100 мкм, содержащего ядро и отростки. Выделяют два вида отростков. Аксон обычно - длинный отросток, приспособленный для проведения возбуждения от тела нейрона. Дендриты - как правило, короткие и сильно разветвлённые отростки, служащие главным местом образования влияющих на нейрон возбуждающих и тормозных синапсов (разные нейроны имеют различное соотношение длины аксона и дендритов).

Нейрон может иметь несколько дендритов и обычно только один аксон. Один нейрон может иметь связи с 20-ю тысячами других нейронов. Кора головного мозга человека содержит десятки миллиардов нейронов.

Биологический нейрон является важнейшим элементом клеток нервной системы и строительным материалом мозга. Нейроны существуют в нескольких форма, в зависимости от их назначения и дислокации, но в целом они схожи по структуре.

Рис. 12.4 Схема нейрона

Каждый нейрон является устройством обработки информации, которое получает сигналы от других нейронов через специальную структуру ввода, состоящую из дендритов. Если совокупный входной сигнал превышает пороговый уровень, то клетка передает сигнал далее в аксон, а затем в структуру вывода сигнала, от которой он передается в другие нейроны. Сигналы передается с помощью электрических волн. (В течение жизни у человека число нейронов не увеличивается, но растет число связей между ними, как результат обучения).

Органы чувств человека состоят из большого числа нейронов, соединенных между собой множеством связей. Орган чувств включает в себя рецепторы и проводящие пути. В рецепторах формируются электрохимические сигналы, распространяющиеся со скоростью от 5 до 125 метров в секунду. Рецепторы кодируют различные виды сигналов в единый универсальный частотно-импульсный код.

Число нервных импульсов в единицу времени пропорционально интенсивности воздействия. Органы чувств имеют нижние и верхние пределы чувствительности. Реакция (Е) органов чувств человека на интенсивность (Р) раздражения можно приближенно представить законом Вебера - Фехнера:

Очевидно, если учесть при этом влияние шума, то можно прийти к формуле Шеннона, позволяющей оценить информационную способность такого органа чувств. Путем обучения и тренировки можно повысить разрешающую способность органов чувств. Кроме этого человек может различать сочетание частот и амплитуд , в такой степени, которая недоступна современным техническим устройствам. Но органы чувств функционируют в ограниченном диапазоне по частоте и амплитуде.

При переходе в возбужденное состояние в выходном отростке (аксоне) генерируется импульс возбуждения, распространяющийся по нему со скоростью от 1 до 100 м/с; в основе процесса распространения лежит изменение локальной проводимости мембраны аксона по отношению к ионам натрия и калия. Между нейронами нет прямых электрических связей. Перенос сигнала с аксона на входной отросток (дендрит) другого нейрона осуществляется химическим путем в специальной области – синапсе, где окончания двух нервных клеток подходят близко друг к другу. Некоторые из синапсов являются особыми, вырабатывающие сигналы обратной полярности для гашения сигналов возбуждения.

В настоящее время интенсивно изучаются и глобальные аспекты деятельности мозга – специализация его больших областей, функциональные связи между ними и т.п. В то же время мало известно, как же осуществляется обработка информации на промежуточном уровне, в участках нейронной сети, содержащей всего десятки тысяч нервных клеток.

Иногда мозг уподобляют колоссальной вычислительной машине, отличающейся от привычных компьютеров лишь существенно большим числом составляющих элементов. Считается, что каждый импульс возбуждения переносит единицу информации, а нейроны играют роль логических переключателей по аналогии с ЭВМ. Такая точка зрения ошибочна. Работа мозга основывается на совершенно иных принципах. В нем нет жесткой структуры связей между нейронами, которая была бы подобна электрической схеме ЭВМ. Надежность его отдельных элементов (нейронов) гораздо ниже, чем элементов, используемых для создания современных компьютеров. Разрушение даже таких участков, которые содержат довольно большое число нейронов, зачастую почти не влияет на эффективность обработки информации в этой области мозга. Часть нейронов отмирает при старении организма. Никакая вычислительная машина, построенная на традиционных принципах, не сможет работать при таких обширных повреждениях.

Современные ЭВМ выполняют операции последовательно, по одной операции на такт. Число извлекается из памяти , помещается в процессор , где над ним производится некоторое действие в соответствии с диктуемой программой инструкцией, и результат вновь заносится в память. Вообще говоря, при выполнении отдельной операции электрический сигнал должен пробежать по соединительным проводам определенное расстояние, что может ограничить быстродействие ЭВМ.

Например, если сигнал проходит расстояние в 30 см, то частота следования сигналов при этом не должна превышать 1 ГГц. Если операции выполняются последовательно, то предел быстродействия такой ЭВМ не превысит миллиарда операций в секунду. В действительности быстродействие, кроме того, ограничивается скоростью срабатывания отдельных элементов компьютера. Поэтому быстродействие современных ЭВМ уже довольно близко подошло к своему теоретическому пределу. Но этого быстродействия совершенно недостаточно, чтобы организовать управление сложными системами, решение задач «искусственного интеллекта» и др.

Если распространить приведенные рассуждения на человеческий мозг, то результаты будут абсурдными. Ведь скорость распространения сигналов по нервным волокнам в десятки и сотни миллионов раз меньше чем в ЭВМ. Если бы мозг работал, используя принцип современных ЭВМ, то теоретический предел его быстродействия составлял всего тысячи операций в секунду. Но этого явно недостаточно для объяснения существенно более высокой эффективности работы мозга.

Очевидно, деятельность мозга связана с параллельной обработкой информации. К настоящему времени организация параллельных вычислений уже используется в ЭВМ, например, с матричными процессорами, представляющими собой сеть из более простых процессоров, имеющих собственную память. Техника параллельного вычисления заключается в том, что элементарный процессор «знает» лишь о состоянии своего малого элемента среды. Основываясь на этой информации, каждый процессор вычисляет состояние своего элемента в следующий момент времени. При этом отсутствует ограничение быстродействия, связанное со скоростью распространения сигналов. Работа матричного процессора устойчива по отношению к локальным повреждениям.

Следующим этапом в развитие идеи параллельных вычислений явилось создание вычислительных сетей. Такое своеобразное «сообщество» компьютеров напоминает многоклеточный организм, который «живет своей жизнью». При этом функционирование вычислительной сети как сообщества компьютеров не зависит от того, как именно устроен каждый отдельный компьютер, какими процессами внутри него обеспечена обработка информации. Можно представить себе сеть, состоящую из очень большого числа примитивных компьютеров, способных выполнять всего несколько операций и хранить в своей памяти мгновенные значения нескольких величин.

С математической точки зрения подобные сети, состоящие из элементов с простым репертуаром реакций, принято рассматривать как клеточные автоматы . Мозг гораздо ближе по принципу работы и структуре к матричному процессору, чем к традиционной ЭВМ с последовательным выполнением операций. Однако существует фундаментальное различие между мозгом человека и любым параллельным компьютером. Дело в том, что нейронные сети мозга вообще не заняты никакими вычислениями. Абстрактное мышление (обращение с числами и математическими символами) вторично по отношению к фундаментальным механизмам работы мозга. Трудно себе представить, что когда, например, кошка настигает в прыжке птичку, ее мозг решает в считанные доли секунды системы нелинейных дифференциальных уравнений, описывающих траекторию прыжка и другие действия.

На эту тему можно привести следующее высказывание А. Эйнштейна: «Слова и язык, по-видимому, не играют никакой роли в моем механизме мышления. Физические сущности, которые в действительности, видимо, элементами мышления, - это определенные знаки и более или менее ясные образы, которые могут произвольно воспроизводиться и комбинироваться… Обычные слова приходиться подбирать лишь на второй стадии…».

Мозг работает как колоссальная «аналоговая» машина, где окружающий мир находит отражение в пространственно-временных структурах активности нейронов. Подобный механизм работы мозга мог естественно возникнуть в ходе биологической эволюции.

Для простейшего животного основная функция нервной системы состоит в том, чтобы преобразовать ощущения, вызываемые внешним миром, в определенную двигательную активность. На ранних стадиях эволюции связь между образом-ощущением и образом-движением является прямой, однозначной и наследственно закрепленной в исходной структуре соединений между нейронами. На более поздних стадиях эта связь усложняется, появляется способность к обучению. Образ-ощущение уже не связан жестко с планом действий. Вначале осуществляется его промежуточная обработка и сравнение с хранящимися в памяти картинами. Промежуточная обработка образов становится все более сложной по мере движения вверх по эволюционной лестнице. В конечном счете, после длительного развития, формируется процесс, называемый нами мышлением.

Для распознавания образов может быть использован принцип «клеточного автомата». Система обладает ассоциативной памятью, если при подаче на ее вход некоторой картинки она автоматически отбирает и подает на выход наиболее близкую к ней хранящуюся в памяти картину.