Бухлотеории #1 - РБС, биологические НС и их отличие от ИНС

23 Dec 2018

Рекуррентная байесовская вероятностная сеть с задержками.

Копипаста с VK

Теоретически модель описывает логику работы (а точнее ее отсутствие) человеческого мозга ближе чем seq2seq LTSM нейронка.

Да и в отличии от нейронки ее не так долго учить.

В обычных искусственных нейронных сетях применяют нормализацию параметров и кучу прочей еблетристики ибо они не хотят симулировать работу настоящих нейронных комплексой.

А настоящий-то нейрон когда дернулся, потом отдыхает и надо сильно постараться чтоб его дернуть пока он не отдохнул.

А, ну и нейроны настоящие шлют сигналы импульсами практически неизменной амплитуды.

От возбуждения их зависит только частота этих импульсов.

Т.е. сравнивать их с нейронами в инс которые являются непрерывными функциями это все равно что сравнивать теплое с мягким.

Принципы работы не те.

У настоящих нейронов возбуждение медленно утекает, их чувствительность регулируется нейромедиаторами которые они сами или их соседи и вырабатывают.

По сути дела в мозгу едва ли не треть комплексной информации через нейромедиаторы и передается, например отношение хорошо/плохо, боль/удовольствие. Центры активности в обоих случаях, как ни странно, одни и теже. Различие понятий именно нейромедиаторами получается.

От того, кстати, такой прикол как мазохизм и возникает, лел.

Нейромедиаторы криво вырабатываются, сигнал не тормозится там где надо.

Как это переводится на язык белых людей

Суть всего вышеописанного:

  • Циклы активности каждого элемента как у органических нейронов (возбуждение-импульс-торможение-восстановление)

  • Вся сеть имеет некий запас энергии, если что-то начинает долго и последовательно ее потреблять — остальные голодают.

  • Возбуждение распространяется не мгновенно, а ровно столько, на сколько обучено. В мозгу полно подобных линий задержки из миллиардов нейронов, чем мы хуже?

  • Возбуждение можно давить aka отрицательные связи. Используем как аналог нейромедиаторов.

  • Случайность и неравномерный приток энергии. — Сеть постоянно подпитывается возбуждением, поддерживая среднюю температуру по больнице одинаковой, но вот уровень этого возбуждения приходящий на каждый элемент в единицу времени — случайный.

  • Вечный цикл — закономерный итог предыдущего пункта. Сеть никогда не нажодится в покое, в ней постоянно что-то происходит. И от этого изменчивого внутреннего состояния зависит и реакция на внешние раздражители.

То, как эти раздражители кодировать, как отделять вход и выход от внутренних элементов сети - в следующем номере Бухлотеорий!


И чего я не сплю в пятом часу ночи? Мда.