Для чего нейронные связи

Нейронные сети для начинающих. Часть 1

Привет всем читателям Habrahabr, в этой статье я хочу поделиться с Вами моим опытом в изучении нейронных сетей и, как следствие, их реализации, с помощью языка программирования Java, на платформе Android. Мое знакомство с нейронными сетями произошло, когда вышло приложение Prisma. Оно обрабатывает любую фотографию, с помощью нейронных сетей, и воспроизводит ее с нуля, используя выбранный стиль. Заинтересовавшись этим, я бросился искать статьи и «туториалы», в первую очередь, на Хабре. И к моему великому удивлению, я не нашел ни одну статью, которая четко и поэтапно расписывала алгоритм работы нейронных сетей. Информация была разрознена и в ней отсутствовали ключевые моменты. Также, большинство авторов бросается показывать код на том или ином языке программирования, не прибегая к детальным объяснениям.

Поэтому сейчас, когда я достаточно хорошо освоил нейронные сети и нашел огромное количество информации с разных иностранных порталов, я хотел бы поделиться этим с людьми в серии публикаций, где я соберу всю информацию, которая потребуется вам, если вы только начинаете знакомство с нейронными сетями. В этой статье, я не буду делать сильный акцент на Java и буду объяснять все на примерах, чтобы вы сами смогли перенести это на любой, нужный вам язык программирования. В последующих статьях, я расскажу о своем приложении, написанном под андроид, которое предсказывает движение акций или валюты. Иными словами, всех желающих окунуться в мир нейронных сетей и жаждущих простого и доступного изложения информации или просто тех, кто что-то не понял и хочет подтянуть, добро пожаловать под кат.

Первым и самым важным моим открытием был плейлист американского программиста Джеффа Хитона, в котором он подробно и наглядно разбирает принципы работы нейронных сетей и их классификации. После просмотра этого плейлиста, я решил создать свою нейронную сеть, начав с самого простого примера. Вам наверняка известно, что когда ты только начинаешь учить новый язык, первой твоей программой будет Hello World. Это своего рода традиция. В мире машинного обучения тоже есть свой Hello world и это нейросеть решающая проблему исключающего или(XOR). Таблица исключающего или выглядит следующим образом:

Соответственно, нейронная сеть берет на вход два числа и должна на выходе дать другое число — ответ. Теперь о самих нейронных сетях.

Что такое нейронная сеть?

Нейронная сеть — это последовательность нейронов, соединенных между собой синапсами. Структура нейронной сети пришла в мир программирования прямиком из биологии. Благодаря такой структуре, машина обретает способность анализировать и даже запоминать различную информацию. Нейронные сети также способны не только анализировать входящую информацию, но и воспроизводить ее из своей памяти. Заинтересовавшимся обязательно к просмотру 2 видео из TED Talks: Видео 1, Видео 2). Другими словами, нейросеть это машинная интерпретация мозга человека, в котором находятся миллионы нейронов передающих информацию в виде электрических импульсов.

Какие бывают нейронные сети?

Пока что мы будем рассматривать примеры на самом базовом типе нейронных сетей — это сеть прямого распространения (далее СПР). Также в последующих статьях я введу больше понятий и расскажу вам о рекуррентных нейронных сетях. СПР как вытекает из названия это сеть с последовательным соединением нейронных слоев, в ней информация всегда идет только в одном направлении.

Для чего нужны нейронные сети?

Нейронные сети используются для решения сложных задач, которые требуют аналитических вычислений подобных тем, что делает человеческий мозг. Самыми распространенными применениями нейронных сетей является:

Классификация — распределение данных по параметрам. Например, на вход дается набор людей и нужно решить, кому из них давать кредит, а кому нет. Эту работу может сделать нейронная сеть, анализируя такую информацию как: возраст, платежеспособность, кредитная история и тд.

Предсказание — возможность предсказывать следующий шаг. Например, рост или падение акций, основываясь на ситуации на фондовом рынке.

Распознавание — в настоящее время, самое широкое применение нейронных сетей. Используется в Google, когда вы ищете фото или в камерах телефонов, когда оно определяет положение вашего лица и выделяет его и многое другое.

Теперь, чтобы понять, как же работают нейронные сети, давайте взглянем на ее составляющие и их параметры.

Что такое нейрон?

Нейрон — это вычислительная единица, которая получает информацию, производит над ней простые вычисления и передает ее дальше. Они делятся на три основных типа: входной (синий), скрытый (красный) и выходной (зеленый). Также есть нейрон смещения и контекстный нейрон о которых мы поговорим в следующей статье. В том случае, когда нейросеть состоит из большого количества нейронов, вводят термин слоя. Соответственно, есть входной слой, который получает информацию, n скрытых слоев (обычно их не больше 3), которые ее обрабатывают и выходной слой, который выводит результат. У каждого из нейронов есть 2 основных параметра: входные данные (input data) и выходные данные (output data). В случае входного нейрона: input=output. В остальных, в поле input попадает суммарная информация всех нейронов с предыдущего слоя, после чего, она нормализуется, с помощью функции активации (пока что просто представим ее f(x)) и попадает в поле output.

Важно помнить, что нейроны оперируют числами в диапазоне [0,1] или [-1,1]. А как же, вы спросите, тогда обрабатывать числа, которые выходят из данного диапазона? На данном этапе, самый простой ответ — это разделить 1 на это число. Этот процесс называется нормализацией, и он очень часто используется в нейронных сетях. Подробнее об этом чуть позже.

Что такое синапс?

Синапс это связь между двумя нейронами. У синапсов есть 1 параметр — вес. Благодаря ему, входная информация изменяется, когда передается от одного нейрона к другому. Допустим, есть 3 нейрона, которые передают информацию следующему. Тогда у нас есть 3 веса, соответствующие каждому из этих нейронов. У того нейрона, у которого вес будет больше, та информация и будет доминирующей в следующем нейроне (пример — смешение цветов). На самом деле, совокупность весов нейронной сети или матрица весов — это своеобразный мозг всей системы. Именно благодаря этим весам, входная информация обрабатывается и превращается в результат.

Важно помнить, что во время инициализации нейронной сети, веса расставляются в случайном порядке.

Как работает нейронная сеть?

В данном примере изображена часть нейронной сети, где буквами I обозначены входные нейроны, буквой H — скрытый нейрон, а буквой w — веса. Из формулы видно, что входная информация — это сумма всех входных данных, умноженных на соответствующие им веса. Тогда дадим на вход 1 и 0. Пусть w1=0.4 и w2 = 0.7 Входные данные нейрона Н1 будут следующими: 1*0.4+0*0.7=0.4. Теперь когда у нас есть входные данные, мы можем получить выходные данные, подставив входное значение в функцию активации (подробнее о ней далее). Теперь, когда у нас есть выходные данные, мы передаем их дальше. И так, мы повторяем для всех слоев, пока не дойдем до выходного нейрона. Запустив такую сеть в первый раз мы увидим, что ответ далек от правильно, потому что сеть не натренирована. Чтобы улучшить результаты мы будем ее тренировать. Но прежде чем узнать как это делать, давайте введем несколько терминов и свойств нейронной сети.

Функция активации

Функция активации — это способ нормализации входных данных (мы уже говорили об этом ранее). То есть, если на входе у вас будет большое число, пропустив его через функцию активации, вы получите выход в нужном вам диапазоне. Функций активации достаточно много поэтому мы рассмотрим самые основные: Линейная, Сигмоид (Логистическая) и Гиперболический тангенс. Главные их отличия — это диапазон значений.

Эта функция почти никогда не используется, за исключением случаев, когда нужно протестировать нейронную сеть или передать значение без преобразований.

Это самая распространенная функция активации, ее диапазон значений [0,1]. Именно на ней показано большинство примеров в сети, также ее иногда называют логистической функцией. Соответственно, если в вашем случае присутствуют отрицательные значения (например, акции могут идти не только вверх, но и вниз), то вам понадобиться функция которая захватывает и отрицательные значения.

Имеет смысл использовать гиперболический тангенс, только тогда, когда ваши значения могут быть и отрицательными, и положительными, так как диапазон функции [-1,1]. Использовать эту функцию только с положительными значениями нецелесообразно так как это значительно ухудшит результаты вашей нейросети.

Тренировочный сет

Тренировочный сет — это последовательность данных, которыми оперирует нейронная сеть. В нашем случае исключающего или (xor) у нас всего 4 разных исхода то есть у нас будет 4 тренировочных сета: 0xor0=0, 0xor1=1, 1xor0=1,1xor1=0.

Итерация

Это своеобразный счетчик, который увеличивается каждый раз, когда нейронная сеть проходит один тренировочный сет. Другими словами, это общее количество тренировочных сетов пройденных нейронной сетью.

Эпоха

При инициализации нейронной сети эта величина устанавливается в 0 и имеет потолок, задаваемый вручную. Чем больше эпоха, тем лучше натренирована сеть и соответственно, ее результат. Эпоха увеличивается каждый раз, когда мы проходим весь набор тренировочных сетов, в нашем случае, 4 сетов или 4 итераций.

Важно не путать итерацию с эпохой и понимать последовательность их инкремента. Сначала n
раз увеличивается итерация, а потом уже эпоха и никак не наоборот. Другими словами, нельзя сначала тренировать нейросеть только на одном сете, потом на другом и тд. Нужно тренировать каждый сет один раз за эпоху. Так, вы сможете избежать ошибок в вычислениях.

Ошибка

Ошибка — это процентная величина, отражающая расхождение между ожидаемым и полученным ответами. Ошибка формируется каждую эпоху и должна идти на спад. Если этого не происходит, значит, вы что-то делаете не так. Ошибку можно вычислить разными путями, но мы рассмотрим лишь три основных способа: Mean Squared Error (далее MSE), Root MSE и Arctan. Здесь нет какого-либо ограничения на использование, как в функции активации, и вы вольны выбрать любой метод, который будет приносить вам наилучший результат. Стоит лишь учитывать, что каждый метод считает ошибки по разному. У Arctan, ошибка, почти всегда, будет больше, так как он работает по принципу: чем больше разница, тем больше ошибка. У Root MSE будет наименьшая ошибка, поэтому, чаще всего, используют MSE, которая сохраняет баланс в вычислении ошибки.

Принцип подсчета ошибки во всех случаях одинаков. За каждый сет, мы считаем ошибку, отняв от идеального ответа, полученный. Далее, либо возводим в квадрат, либо вычисляем квадратный тангенс из этой разности, после чего полученное число делим на количество сетов.

Задача

Теперь, чтобы проверить себя, подсчитайте результат, данной нейронной сети, используя сигмоид, и ее ошибку, используя MSE.

H1input = 1*0.45+0*-0.12=0.45
H1output = sigmoid(0.45)=0.61

H2input = 1*0.78+0*0.13=0.78
H2output = sigmoid(0.78)=0.69

O1input = 0.61*1.5+0.69*-2.3=-0.672
O1output = sigmoid(-0.672)=0.33

Результат — 0.33, ошибка — 45%.

Большое спасибо за внимание! Надеюсь, что данная статья смогла помочь вам в изучении нейронных сетей. В следующей статье, я расскажу о нейронах смещения и о том, как тренировать нейронную сеть, используя метод обратного распространения и градиентного спуска.

Источник

Для чего нейронные связи

В теле человека бессчетное количество клеток, каждая из которых имеет собственную функцию.

Бесплатные занятия с логопедом

В теле человека бессчетное количество клеток, каждая из которых имеет собственную функцию. Среди них самые загадочные – нейроны, отвечающие за любое совершаемое нами действие. Попробуем разобраться как работают нейроны и в чем их предназначение.

Что такое нейрон (нейронные связи)

Нейроны работают при помощи электрических сигналов и способствуют обработке мозгом поступающей информации для дальнейшей координации производимых телом действий.

Эти клетки являются составляющей частью нервной системы человека, предназначение которой состоит в том, чтобы собрать все сигналы, поступающие из вне или от собственного организма и принять решение о необходимости того или иного действия. Именно нейроны помогают справиться с такой задачей.

Каждый из нейронов имеет связь с огромным количеством таких же клеток, создаётся своеобразная «паутина», которая называется нейронной сетью. Посредством данной связи в организме передаются электрические и химические импульсы, приводящие всю нервную систему в состояние покоя либо, наоборот, возбуждения.

К примеру, человек столкнулся с неким значимым событием. Возникает электрохимический толчок (импульс) нейронов, приводящий к возбуждению неровной системы. У человека начинает чаще биться сердце, потеют руки или возникают другие физиологические реакции.

Мы рождаемся с заданным количеством нейронов, но связи между ними еще не сформированы. Нейронная сеть строится постепенно в результате поступающих из вне импульсов. Новые толчки формируют новые нейронные пути, именно по ним в течение жизни побежит аналогичная информация. Мозг воспринимает индивидуальный опыт каждого человека и реагирует на него. К примеру, ребенок, схватился за горячий утюг и отдернул руку. Так у него появилась новая нейронная связь.

Стабильная нейронная сеть выстраивается у ребенка уже к двум годам. Удивительно, но уже с этого возраста те клетки, которые не используются, начинают ослабевать. Но это никак не мешает развитию интеллекта. Наоборот, ребенок познает мир через уже устоявшиеся нейронные связи, а не анализирует бесцельно все вокруг.

Познание нового опыта на протяжении всей жизни приводит к отмиранию ненужных нейронных связей и формированию новых и полезных. Этот процесс оптимизирует головной мозг наиболее эффективным для нас образом. Например, люди, проживающие в жарких странах, учатся жить в определенном климате, а северянам нужен совсем другой опыт для выживания.

Сколько нейронов в мозге

Нервные клетки в составе головного мозга занимают порядка 10 процентов, остальные 90 процентов это астроциты и глиальные клетки, но их задача заключается лишь в обслуживании нейронов.

Подсчитать «вручную» численность клеток в головном мозге также сложно, как узнать количество звезд на небе.

Тем не менее ученые придумали сразу несколько способов для определения количества нейронов у человека:

Строение нейрона

На рисунке приведено строение нейрона. Он состоит из основного тела и ядра. От клеточного тела идет ответвление многочисленных волокон, которые именуются дендритами.

Мощные и длинные дендриты называются аксонами, которые в действительности намного длиннее, чем на картинке. Их протяженность варьируется от нескольких миллиметров до более метра.

Аксоны играют ведущую роль в передаче информации между нейронами и обеспечивают работу всей нервной системы.

Место соединения дендрита (аксона) с другим нейроном называется синапсом. Дендриты при наличии раздражителей могут разрастись настолько сильно, что станут улавливать импульсы от других клеток, что приводит к образованию новых синаптических связей.

Синаптические связи играют существенную роль в формировании личности человека. Так, личность с устоявшимся позитивным опытом будет смотреть на жизнь с любовью и надеждой, человек, у которого нейронные связи с негативным зарядом, станет со временем пессимистом.

Виды нейронов и нейронных связей

Нейроны можно обнаружить в различных органах человека, а не исключительно в головном мозге. Большое их количество расположено в рецепторах (глаза, уши, язык, пальцы рук – органы чувств). Совокупность нервных клеток, которые пронизывают наш организм составляет основу периферической нервной системы. Выделим основные виды нейронов.

Слаженная работа нейронов трех типов выглядит так: человек «слышит» запах шашлыка, нейрон передает информацию в соответствующий раздел мозга, мозг передает сигнал желудку, который выделяет желудочный сок, человек принимает решение «хочу есть» и бежит покупать шашлык. Упрощенно так это действует.

Самыми загадочными являются промежуточные нейроны. С одной стороны, их работа обуславливает наличие рефлекса: дотронулся до электричества – отдернул руку, полетела пыль –зажмурился. Однако, пока не объяснимо как обмен между волокнами рождает идеи, образы, мысли?

Единственное, что установили ученые, это тот факт, что любой вид мыслительной деятельности (чтение книг, рисование, решение математических задач) сопровождается особой активностью (вспышкой) нервных клеток определенного участка головного мозга.

Есть особая разновидность нейронов, которые именуются зеркальными. Их особенность заключается в том, что они не только приходят в возбуждение от внешних сигналов, но и начинают «шевелиться», наблюдая за действиями своих собратьев – других нейронов.

Функции нейронов

Без нейронов невозможна работа организма человека. Мы увидели, что эти наноклетки отвечают буквально за каждое наше движение, любой поступок. Выполняемые ими функции до настоящего времени в полной мере не изучены и не определены.

Существует несколько классификаций функций нейронов. Мы остановимся на общепринятой в научном мире.

Функция распространения информации

Данная функция:

Суть ее в том, что нейронами обрабатываются и переносятся в головной мозг все импульсы, которые поступают из окружающего мира или собственного тела. Далее происходит их обработка, подобно тому, как работает поисковик в браузере.

По результатам сканирования сведений из вне, головной мозг в форме обратной связи передает обработанную информацию к органам чувств или мышцам.

Мы не подозреваем, что в нашем теле происходит ежесекундная доставка и переработка информации, не только в голове и на уровне периферической нервной системы.

До настоящего времени создать искусственный интеллект, который бы приблизился к работе нейронных сетей человека, не удалось. У каждого из 85 миллиардов нейронов имеется, как минимум, 10 тысяч обусловленных опытом связей, и все они работают на передачу и обработку информации.

Функция аккумуляции знаний (сохранения опыта)

Человек обладает памятью, возможностью понимать суть вещей, явлений и действий, которые он единожды или многократно повторял. За формирование памяти отвечают именно нейронные клетки, точнее нейротрансмиттеры, связующие звенья между соседними нейронами.

Таким образом, за память отвечает не какая-то отдельная часть мозга, а маленькие белковые мостики между клетками. Человек может потерять память, когда произошло крушение этих нервных связей.

Функция интеграции

Данная функция позволяет взаимодействовать между собой отдельным долям головного мозга. Как мы уже сказали, сигналы от разных органов чувств поступают в разные отделы мозга.

Нейроны посредством «вспышек» активности передают и принимают импульсы в разных частях мозга. Так происходит процесс появления мыслей, эмоций и чувств. Чем больше таких разноплановых связей, тем эффективнее человек мыслит. Если человек способен к размышлениям и аналитике в определенном направлении, то он будет хорошо соображать и в другом вопросе.

Функция производства белков

Нейроны – настолько полезные клетки, что не ограничиваются только передаточными функциями. Нервные клетки вырабатывают необходимые для жизни человека белки. Опять же ключевую роль в производстве белков имеют нейротрансмиттеры, которые отвечают за память.

Всего в невронах индуцируется порядка 80 белков, вот основные из них, влияющие на самочувствие человека:

Прекращение выработки белков или их выпуск в недостаточном количестве способны привести к тяжелым заболеваниям.

Восстанавливаются ли нервные клетки

При нормальном состоянии организма нейроны могут жить и функционировать очень долго. К сожалению, случается так, что они начинают массово погибать. Причин разрушения нервных волокон может быть много, но до конца механизм их деструкции не изучен.

Установлено, что нервные клетки погибают из-за гипоксии (кислородное голодание). Нейронные сети рушатся при отдельных травмах головного мозга, человек теряет память или утрачивает способность к хранению информации. В этом случае сами нейроны сохранены, но теряется их передаточная функция.

Отсутствие допамина ведет к развитию болезни Паркинсона, а его переизбыток является причиной шизофрении. Почему прекращается выработка белка не известно, спусковой механизм не выявлен.

Гибель нервных клеток происходит при алкоголизации личности. Алкоголик со временем может совершенно деградировать и утратить вкус к жизни.

Формирование нервных клеток происходит при рождении. Долгое время ученые полагали, что со временем нейроны отмирают. Поэтому с возрастом человек утрачивает способность накапливать информацию, хуже соображает. Нарушение функции по выработке допамина и серотонина связывается с наличием практически у всех пожилых людей депрессивных состояний.

Гибель нейронов, действительно неизбежна, в год исчезает примерно 1 процент от их количества. Но есть и хорошие новости. Последние исследования показали, что в коре головного мозга есть особенный участок, именуемый гипокаммом. Именно в нем генерируются новые чистые нейроны. Подсчитано примерное количество генерируемых ежедневно нервных клеток – 1400.

В науке обозначилось новое понятие «нейропластичность», обозначающее возможность мозга регенерироваться и перестраиваться. Но есть одна тонкость: новые нейроны еще не имеют никакого опыта и наработанных связей. Поэтому с возрастом или после заболевания мозг нужно тренировать, как и все иные мышцы тела: получать новые знания, анализировать происходящие события и явления.

Подобно тому, как мы усиливаем бицепс при помощи гантели, активизировать процесс включения новых нервных клеток можно следующими способами:

Механизм возрождения прост. У нас имеются совершенно не задействованные новые клетки, которые нужно заставить работать, а сделать это можно лишь путем постановки новых задач и изучения неизвестных предметных сфер.

Источник

Мозг, общение нейронов и энергетическая эффективность

По всей видимости, в эволюции сформировались энергетически эффективные механизмы кодирования и передачи информации в мозге. Подпись: «Усердно пытаюсь минимизировать энергозатраты».

Автор

Редакторы

Статья на конкурс «био/мол/текст»: Клеточные процессы, обеспечивающие обмен информацией между нейронами, требуют много энергии. Высокое энергопотребление способствовало в ходе эволюции отбору наиболее эффективных механизмов кодирования и передачи информации. В этой статье вы узнаете о теоретическом подходе к изучению энергетики мозга, о его роли в исследованиях патологий, о том, какие нейроны более продвинуты, почему синапсам иногда выгодно не «срабатывать», а также, как они отбирают только нужную нейрону информацию.

Конкурс «био/мол/текст»-2017

Эта работа опубликована в номинации «Свободная тема» конкурса «био/мол/текст»-2017.

Генеральный спонсор конкурса — компания «Диаэм»: крупнейший поставщик оборудования, реагентов и расходных материалов для биологических исследований и производств.

Спонсором приза зрительских симпатий и партнером номинации «Биомедицина сегодня и завтра» выступила фирма «Инвитро».

Происхождение подхода

С середины ХХ века известно, что головной мозг потребляет значительную часть энергоресурсов всего организма: четверть всей глюкозы и ⅕ всего кислорода в случае высшего примата [1–5]. Это вдохновило Уильяма Леви и Роберта Бакстера из Массачусетского технологического института (США) на проведение теоретического анализа энергетической эффективности кодирования информации в биологических нейронных сетях (рис. 1) [6]. В основе исследования лежит следующая гипотеза. Поскольку энергопотребление мозга велико, ему выгодно иметь такие нейроны, которые работают наиболее эффективно — передают только полезную информацию и затрачивают при этом минимум энергии.

Это предположение оказалось справедливым: на простой модели нейронной сети авторы воспроизвели экспериментально измеренные значения некоторых параметров [6]. В частности, рассчитанная ими оптимальная частота генерации импульсов варьирует от 6 до 43 имп./с — почти так же, как и у нейронов основания гиппокампа. Их можно подразделить на две группы по частоте импульсации: медленные (

40 имп./с). При этом первая группа значительно превосходит по численности вторую [7]. Аналогичная картина наблюдается и в коре больших полушарий: медленных пирамидальных нейронов (

4—9 имп./с) в несколько раз больше, чем быстрых ингибиторных интернейронов (>100 имп./с) [8], [9]. Так, видимо, мозг «предпочитает» использовать поменьше быстрых и энергозатратных нейронов, чтобы те не израсходовали все ресурсы [6], [9–11].

Рисунок 1. Представлены два нейрона. В одном из них фиолетовым цветом окрашен пресинаптический белок синаптофизин. Другой нейрон полностью окрашен зеленым флуоресцентным белком. Мелкие светлые крапинки — синаптические контакты между нейронами [12]. Во вставке одна «крапинка» представлена ближе.
Группы нейронов, связанных между собой синапсами, называются нейронными сетями [13], [14]. Например, в коре больших полушарий пирамидальные нейроны и интернейроны образуют обширные сети. Слаженная «концертная» работа этих клеток обусловливает наши высшие когнитивные и другие способности. Аналогичные сети, только из других типов нейронов, распределены по всему мозгу, определенным образом связаны между собой и организуют работу всего органа.

Что такое интернейроны?

Нейроны центральной нервной системы разделяются на активирующие (образуют активирующие синапсы) и тормозящие (образуют тормозящие синапсы). Последние в значительной степени представлены интернейронами, или промежуточными нейронами. В коре больших полушарий и гиппокампе они ответственны за формирование гамма-ритмов мозга [15], которые обеспечивают слаженную, синхронную работу других нейронов. Это крайне важно для моторных функций, восприятия сенсорной информации, формирования памяти [9], [11].

Интернейроны отличаются способностью генерировать значительно более высокочастотные сигналы, чем другие нейроны. Они также содержат больше митохондрий, главных органелл энергетического метаболизма, «фабрик» по производству АТФ. Последние к тому же содержат большое количество белков цитохром-с оксидазы и цитохрома-с, являющихся ключевыми для метаболизма. Так, интернейроны являются крайне важными и, в то же время, энергозатратными клетками [8], [9], [11], [16].

Работа Леви и Бакстера [6] развивает концепцию «экономии импульсов» Горация Барлоу из Университета Калифорнии (США), который, кстати, является потомком Чарльза Дарвина [17]. Согласно ей, при развитии организма нейроны стремятся работать только с наиболее полезной информацией, фильтруя «лишние» импульсы, ненужную и избыточную информацию. Однако эта концепция не дает удовлетворительных результатов, так как не учитывает метаболические затраты, связанные с нейрональной активностью [6]. Расширенный подход Леви и Бакстера, в котором внимание уделено обоим факторам, оказался более плодотворным [6], [18–20]. И энергозатраты нейронов, и потребность в кодировании только полезной информации являются важными факторами, направляющими эволюцию мозга [6], [21–24]. Поэтому, чтобы лучше разобраться в том, как устроен мозг, стоит рассматривать обе эти характеристики: сколько нейрон передает полезной информации и сколько энергии при этом тратит.

За последнее время этот подход нашел множество подтверждений [10], [22], [24–26]. Он позволил по-новому взглянуть на устройство мозга на самых разных уровнях организации — от молекулярно-биофизического [20], [26] до органного [23]. Он помогает понять, каковы компромиссы между выполняемой функцией нейрона и ее энергетической ценой и в какой степени они выражены.

Как же работает этот подход?

Положим, у нас есть модель нейрона, описывающая его электрофизиологические свойства: потенциал действия (ПД) и постсинаптические потенциалы (ПСП) (об этих терминах — ниже). Мы хотим понять, эффективно ли он работает, не тратит ли неоправданно много энергии. Для этого нужно вычислить значения параметров модели (например, плотность каналов в мембране, скорость их открывания и закрывания), при которых: (а) достигается максимум отношения полезной информации к энергозатратам и в то же время (б) сохраняются реалистичные характеристики передаваемых сигналов [6], [19].

Поиск оптимума

Эти «оптимальные» значения параметров затем нужно сравнить с измеренными экспериментально и определить, насколько они отличаются. Общая картина отличий укажет на степень оптимизации данного нейрона в целом: насколько реальные, измеренные экспериментально, значения параметров совпадают с рассчитанными. Чем слабее выражены отличия, тем нейрон более близок к оптимуму и работает энергетически более эффективно, оптимально. С другой стороны, сопоставление конкретных параметров покажет, в каком конкретно качестве этот нейрон близок к «идеалу».

Далее, в контексте энергетической эффективности нейронов рассмотрены два процесса, на которых основано кодирование и передача информации в мозге. Это нервный импульс, или потенциал действия, благодаря которому информация может быть отправлена «адресату» на определенное расстояние (от микрометров до полутора метров) и синаптическая передача, лежащая в основе собственно передачи сигнала от одного нейрона на другой.

Потенциал действия

Потенциал действия (ПД) — сигнал, которые отправляют друг другу нейроны. ПД бывают разные: быстрые и медленные, малые и большие [28]. Зачастую они организованы в длинные последовательности (как буквы в слова), либо в короткие высокочастотные «пачки» (рис. 2).

Большое разнообразие сигналов обусловлено огромным количеством комбинаций разных типов ионных каналов, синаптических контактов, а также морфологией нейронов [28], [29]. Поскольку в основе сигнальных процессов нейрона лежат ионные токи, стоит ожидать, что разные ПД требуют различных энергозатрат [20], [27], [30].

Что такое потенциал действия?

ПД — это относительно сильное по амплитуде скачкообразное изменение мембранного потенциала.

Анализ разных типов нейронов (рис. 4) показал, что нейроны беспозвоночных не очень энергоэффективны, а некоторые нейроны позвоночных почти совершенны [20]. По результатам этого исследования, наиболее энергоэффективными оказались интернейроны гиппокампа, участвующего в формировании памяти и эмоций, а также таламокортикальные релейные нейроны, несущие основной поток сенсорной информации от таламуса к коре больших полушарий.

Рисунок 4. Разные нейроны эффективны по-разному. На рисунке представлено сравнение энергозатрат разных типов нейронов. Энергозатраты рассчитаны в моделях как с исходными (реальными) значениями параметров (черные столбцы), так и с оптимальными, при которых с одной стороны нейрон выполняет положенную ему функцию, с другой — затрачивает при этом минимум энергии (серые столбцы). Самыми эффективными из представленных оказались два типа нейронов позвоночных: интернейроны гиппокампа (rat hippocampal interneuron, RHI) и таламокортикальные нейроны (mouse thalamocortical relay cell, MTCR), так как для них энергозатраты в исходной модели наиболее близки к энергозатратам оптимизированной. Напротив, нейроны беспозвоночных менее эффективны. Условные обозначения: SA (squid axon) — гигантский аксон кальмара; CA (crab axon) — аксон краба; MFS (mouse fast spiking cortical interneuron) — быстрый кортикальный интернейрон мыши; BK (honeybee mushroom body Kenyon cell) — грибовидная клетка Кеньона пчелы.

Почему они более эффективны? Потому что у них малó перекрывание Na- и К-токов. Во время генерации ПД всегда есть промежуток времени, когда эти токи присутствуют одновременно (рис. 3в). При этом переноса заряда практически не происходит, и изменение мембранного потенциала минимально. Но «платить» за эти токи в любом случае приходится, несмотря на их «бесполезность» в этот период. Поэтому его продолжительность определяет, сколько энергетических ресурсов растрачивается впустую. Чем он короче, тем более эффективно использование энергии [20], [26], [30], [43]. Чем длиннее — тем менее эффективно. Как раз в двух вышеупомянутых типах нейронов, благодаря быстрым ионным каналам, этот период очень короткий, а ПД — самые эффективные [20].

Кстати, интернейроны гораздо более активны, чем большинство других нейронов мозга. В то же время они крайне важны для слаженной, синхронной работы нейронов, с которыми образуют небольшие локальные сети [9], [16]. Вероятно, высокая энергетическая эффективность ПД интернейронов является некой адаптацией к их высокой активности и роли в координации работы других нейронов [20].

Синапс

Передача сигнала от одного нейрона к другому происходит в специальном контакте между нейронами, в синапсе [12]. Мы рассмотрим только химические синапсы (есть еще электрические), поскольку они весьма распространены в нервной системе и важны для регуляции клеточного метаболизма, доставки питательных веществ [5].

Чаще всего, химический синапс образован между окончанием аксона одного нейрона и дендритом другого. Его работа напоминает. «переброс» эстафетной палочки, роль которой и играет нейромедиатор — химический посредник передачи сигнала [12], [42], [44–48].

На пресинаптическом окончании аксона ПД вызывает выброс нейромедиатора во внеклеточную среду — к принимающему нейрону. Последний только этого и ждет с нетерпением: в мембране дендритов рецепторы — ионные каналы определенного типа — связывают нейромедиатор, открываются и пропускают через себя разные ионы. Это приводит к генерации маленького постсинаптического потенциала (ПСП) на мембране дендрита. Он напоминает ПД, но значительно меньше по амплитуде и происходит за счет открывания других каналов. Множество этих маленьких ПСП, каждый от своего синапса, «сбегаются» по мембране дендритов к телу нейрона (зеленые стрелки на рис. 3а) и достигают начального сегмента аксона, где вызывают открывание Na-каналов и «провоцируют» его на генерацию ПД.

Такие синапсы называются возбуждающими: они способствуют активации нейрона и генерации ПД. Существуют также и тормозящие синапсы. Они, наоборот, способствуют торможению и препятствуют генерации ПД. Часто на одном нейроне есть и те, и другие синапсы. Определенное соотношение между торможением и возбуждением важно для нормальной работы мозга, формирования мозговых ритмов, сопровождающих высшие когнитивные функции [49].

Как это ни странно, выброс нейромедиатора в синапсе может и не произойти вовсе — это процесс вероятностный [18], [19]. Нейроны так экономят энергию: синаптическая передача и так обусловливает около половины всех энергозатрат нейронов [25]. Если бы синапсы всегда срабатывали, вся энергия пошла бы на обеспечение их работы, и не осталось бы ресурсов для других процессов. Более того, именно низкая вероятность (20–40%) выброса нейромедиатора соответствует наибольшей энергетической эффективности синапсов. Отношение количества полезной информации к затрачиваемой энергии в этом случае максимально [18], [19]. Так, выходит, что «неудачи» играют важную роль в работе синапсов и, соответственно, всего мозга. А за передачу сигнала при иногда «не срабатывающих» синапсах можно не беспокоиться, так как между нейронами обычно много синапсов, и хоть один из них да сработает.

Еще одна особенность синаптической передачи состоит в разделении общего потока информации на отдельные компоненты по частоте модуляции приходящего сигнала (грубо говоря, частоте приходящих ПД) [50]. Это происходит благодаря комбинированию разных рецепторов на постсинаптической мембране [38], [50]. Некоторые рецепторы активируются очень быстро: например, AMPA-рецепторы (AMPA происходит от α-amino-3-hydroxy-5-methyl-4-isoxazolepropionic acid). Если на постсинаптическом нейроне представлены только такие рецепторы, он может четко воспринимать высокочастотный сигнал (такой, как, например, на рис. 2в). Ярчайший пример — нейроны слуховой системы, участвующие в определении местоположения источника звука и точном распознавании коротких звуков типа щелчка, широко представленных в речи [12], [38], [51]. NMDA-рецепторы (NMDA — от N—methyl-D—aspartate) более медлительны. Они позволяют нейронам отбирать сигналы более низкой частоты (рис. 2г), а также воспринимать высокочастотную серию ПД как нечто единое — так называемое интегрирование синаптических сигналов [14]. Есть еще более медленные метаботропные рецепторы, которые при связывании нейромедиатора, передают сигнал на цепочку внутриклеточных «вторичных посредников» для подстройки самых разных клеточных процессов. К примеру, широко распространены рецепторы, ассоциированные с G-белками. В зависимости от типа они, например, регулируют количество каналов в мембране или напрямую модулируют их работу [14].

Различные комбинации быстрых AMPA-, более медленных NMDA- и метаботропных рецепторов позволяют нейронам отбирать и использовать наиболее полезную для них информацию, важную для их функционирования [50]. А «бесполезная» информация отсеивается, она не «воспринимается» нейроном. В таком случае не приходится тратить энергию на обработку ненужной информации. В этом и состоит еще одна сторона оптимизации синаптической передачи между нейронами.

Что еще?

Энергетическая эффективность клеток мозга исследуется также и в отношении их морфологии [35], [52–54]. Исследования показывают, что ветвление дендритов и аксона не хаотично и тоже экономит энергию [52], [54]. Например, аксон ветвится так, чтобы суммарная длина пути, который проходит ПД, была наименьшей. В таком случае энергозатраты на проведение ПД вдоль аксона минимальны.

Снижение энергозатрат нейрона достигается также при определенном соотношении тормозящих и возбуждающих синапсов [55]. Это имеет прямое отношение, например, к ишемии (патологическому состоянию, вызванному нарушением кровотока в сосудах) головного мозга. При этой патологии, вероятнее всего, первыми выходят из строя наиболее метаболически активные нейроны [9], [16]. В коре они представлены ингибиторными интернейронами, образующими тормозящие синапсы на множестве других пирамидальных нейронов [9], [16], [49]. В результате гибели интернейронов, снижается торможение пирамидальных. Как следствие, возрастает общий уровень активности последних (чаще срабатывают активирующие синапсы, чаще генерируются ПД). За этим немедленно следует рост их энергопотребления, что в условиях ишемии может привести к гибели нейронов.

При изучении патологий внимание уделяют и синаптической передаче как наиболее энергозатратному процессу [19]. Например, при болезнях Паркинсона [56], Хантингтона [57], Альцгеймера [58–61] происходит нарушение работы или транспорта к синапсам митохондрий, играющих основную роль в синтезе АТФ [62], [63]. В случае болезни Паркинсона, это может быть связано с нарушением работы и гибелью высоко энергозатратных нейронов черной субстанции, важной для регуляции моторных функций, тонуса мышц. При болезни Хантингтона, мутантный белок хангтингтин нарушает механизмы доставки новых митохондрий к синапсам, что приводит к «энергетическому голоданию» последних, повышенной уязвимости нейронов и избыточной активации. Все это может вызвать дальнейшие нарушения работы нейронов с последующей атрофией полосатого тела и коры головного мозга. При болезни Альцгеймера нарушение работы митохондрий (параллельно со снижением количества синапсов) происходит из-за отложения амилоидных бляшек. Действие последних на митохондрии приводит к окислительному стрессу, а также к апоптозу — клеточной гибели нейронов.

Еще раз обо всем

В конце ХХ века зародился подход к изучению мозга, в котором одновременно рассматривают две важные характеристики: сколько нейрон (или нейронная сеть, или синапс) кодирует и передает полезной информации и сколько энергии при этом тратит [6], [18], [19]. Их соотношение является своего рода критерием энергетической эффективности нейронов, нейронных сетей и синапсов.

Использование этого критерия в вычислительной нейробиологии дало существенный прирост к знаниям относительно роли некоторых явлений, процессов [6], [18–20], [26], [30], [43], [55]. В частности, малая вероятность выброса нейромедиатора в синапсе [18], [19], определенный баланс между торможением и возбуждением нейрона [55], выделение только определенного рода приходящей информации благодаря определенной комбинации рецепторов [50] — все это способствует экономии ценных энергетических ресурсов.

Более того, само по себе определение энергозатрат сигнальных процессов (например, генерация, проведение ПД, синаптическая передача) позволяет выяснить, какой из них пострадает в первую очередь при патологическом нарушении доставки питательных веществ [10], [25], [56]. Так как больше всего энергии требуется для работы синапсов, именно они первыми выйдут из строя при таких патологиях, как ишемия, болезни Альцгеймера и Хантингтона [19], [25]. Схожим образом определение энергозатрат разных типов нейронов помогает выяснить, какой из них погибнет раньше других в случае патологии. Например, при той же ишемии, в первую очередь выйдут из строя интернейроны коры [9], [16]. Эти же нейроны из-за интенсивного метаболизма — наиболее уязвимые клетки и при старении, болезни Альцгеймера и шизофрении [16].

В общем, подход к определению энергетически эффективных механизмов работы мозга является мощным направлением для развития и фундаментальной нейронауки, и ее медицинских аспектов [5], [14], [16], [20], [26], [55], [64].

Благодарности

Искренне благодарен моим родителям Ольге Наталевич и Александру Жукову, сестрам Любе и Алене, моему научному руководителю Алексею Браже и замечательным друзьям по лаборатории Эвелине Никельшпарг и Ольге Слатинской за поддержку и вдохновение, ценные замечания, сделанные при прочтении статьи. Я также очень благодарен редактору статьи Анне Петренко и главреду «Биомолекулы» Антону Чугунову за пометки, предложения и замечания.

Источник