Любопытное в математике - Arhum.ru

Феникс Джонатанович ДонХуанЦзы · 27.10.2020, 16:57

Дано: 1) Гомеостатический императив
Отличительной способностью живых организмов является их способность поддерживать собственный гомеостаз — т.е. сохранять относительное динамическое постоянство состава и свойств внутренней среды и устойчивости основных физиологических функций в условиях изменяющейся внешней среды.

Сохранение гомеостаза — абсолютное условие выживания любого живого организма.

Это значит, что набор внутренних состояний живого организма есть некое подмножество всех возможных внутренних состояний. Причем состояния, совместимые с выживанием агента, составляют мизерную толику всех возможных состояний.

Под состояниями понимаются все положения и движения частей тела агента, электрохимические состояния его мозга, физиологические изменения в органах и т. д. Пока эти состояния находятся в области, совместимой с выживанием (в области гомеостаза), все в порядке — агент будет жить. Если же состояния организма окажутся за пределами области состояний, совместимых с выживанием, жизнь агента прекратится (например, если температура тела человека станет ниже 24° или выше 43°).
Следует, однако, иметь в виду, что для разных организмов области состояний, совместимых с выживанием могут сильно отличаться.

Но так уж устроен мир, что выживанию агента постоянно мешает хаос в окружающей его среде. В соответствии со 2-м законом термодинамики, энтропия мира в целом неуклонно растет. Это провоцирует увеличение числа возможных состояний агента, что грозит риском выхода за пределы области состояний, совместимых с выживанием. Агенту нужно как-то с этим бороться, ибо вопрос стоит о самом для него важном — о выживании.
Дано: 2) Прогнозирующий мозг
Согласно доминирующей в современной науке концепции «прогнозирующего мозга», в нем постоянно формируется и обновляется модель окружающего мира и самого агента в этом постоянно меняющемся окружении. Поступающие от органов чувств сенсорные данные (о состоянии среды и самого агента) постоянно сравниваются с прогнозами (ожиданиями) мозга, какими эти данные должны быть в соответствии с его моделью. При этом главная цель существования (см. в «дано 1» выше) постоянна и неизменна —

оставаться в области состояний, совместимых с выживанием.

На практике для агента возможны два варианта.

Если сенсорные данные совпадают с прогнозом, значит гомеостазу ничего не грозит, т.е.:
а) порядок поддерживается (энтропия не растет);
b) вероятность остаться в области гомеостаза высокая;
c) неприятные и опасные неожиданности отсутствуют.
Если же сенсорные данные расходятся с прогнозом — это трактуется мозгом, как:
a. порядок нарушается (энтропия растет);
b. вероятность остаться в области гомеостаза снижается;
c. организм столкнулся с неожиданностью (что неприятно и опасно).

2. Что экономит природа

В предыдущем разделе, на основании двух «дано», была представлена общая схема оценки ситуации прогнозирующим мозгом, стремящимся сохранить гомеостаз — состояния, совместимые с жизнью организма. В зависимости от величины неожиданности, у прогнозирующего мозга получаются два возможных результата: удовлетворительный для живого организма или неудовлетворительный.
Зададимся вопросом: что же в такой схеме должна «экономить» природа?
Исходя из того, что было «дано», ответ очевиден. Нужно «экономить» (т.е. стараться не давать снижаться) вероятности гомеостаза. А для этого нужно (как видно из приведенного выше рисунка) минимизировать неожиданность. Именно она — угроза для выживания.

Поскольку цель агента — во что бы то ни стало выжить, необходимо минимизировать неожиданность. Это, по сути, универсальный принцип выживания любого агента.

Но как измерять неожиданность?
Напрямую — получается, что никак. Окружающая среда — находится вне агента. А модель — внутри него (в мозге). Связь между ними непрямая — через органы чувств.

Тогда зададимся вопросом — а в чем суть неожиданности?
Интуитивный ответ однозначен — в том, что мы такого не ожидали. Т.е. произошло что-то невероятное с точки зрений наших ожиданий.
Воспользуемся этим пониманием неожиданности, как невероятности, в контексте прогнозирующего мозга. Есть модель мира (m) и сенсорные данные (s). Вероятность совпадения сенсорных данных с моделью мира можно записать так: log p (s | m). Тогда невероятность этого будет тем же самым выражением со знаком минус: -log p (s | m). Математически минимизация средней неожиданности (также называемой энтропией) становится тем же самым, что и максимизация обоснованности p (s | m ) модели.

Но вместо неожиданности, можно измерять ошибку модели, т.е. разницу между реальными сенсорными данными и их прогнозом в соответствии с моделью мира в мозге агента.

Тогда в качестве верхней границы неожиданности (максимума ошибки модели) будет величина, называемая в статистической физике «свободная энергия». Она по определению будет больше или равна неожиданности (ошибки модели), ибо

свободная энергия = неожиданность + дивергенция

Последняя — это некая мера удалённости друг от друга двух вероятностных распределений и, следовательно, неотрицательная величина. Из чего следует, что свободная энергия всегда будет верхним пределом неожиданности.

Принципиально важно зафиксировать.

Свободная энергия здесь не имеет ничего общего с энергией в общепринятом смысле. Это теоретико-информационное понятие, взятое Фристоном из статистической физики.

Вместе с тем, свободная энергия Фристона, будучи рассмотренной в контексте принципа наименьшего действия, вполне соответствует понятию «действие», в механике используемом в качестве меры изменения количества движения в ходе процесса, ведущего к изменению состояния. Как было показано в части 1, понятие действие обобщается и на немеханические формы движения, в которых под действием понимают количественную меру процесса, связанного с преодолением каких-либо сил. А сила — это понятие, относящееся к нескольким объектам. И в общем виде материальных взаимодействий можно говорить не только о механической природе сил, но и о химической, электрической, ядерной и прочими видами взаимодействий.
Озарение Фристона, сумевшего-таки найти таинственную величину, что «экономит» природа в живых агентах, основано на том, что он первым увидел ускользавшее ранее от других.

Что принцип наименьшего действия для живых агентов должен касаться их взаимодействия с окружающей средой, в ходе которого должна минимизироваться некая величина, являющаяся мерой данного процесса.
Что эта таинственная величина может решать ту же проблему, что в 1972 г. решал Ричард Фейнман в контексте квантовой статистической физики. Фейнман предложил использовать формализм интегралов по траекториям и вариационное исчисление, исходя из того, что минимизация свободной энергии эквивалентна (приблизительно) максимизации доказательств модели. Эти вариационные методы обеспечивают эффективные байесовские процедуры, и потому в настоящее время широко используются для анализа эмпирических данных.
Что те же вариационные схемы могут быть реализованы биологически правдоподобным способом. Это делает их важной метафорой для обработки информации нейронами мозга. И, следовательно, можно было бы применить аналогичный подход к задаче байесовского вывода мозгом, а именно, — к оценке доказательств генеративной модели окружающего мира, формируемой мозгом.

Фото лекции Ричарда Фейнмана, на которой он рассказывает, что фундаментальные законы можно облечь в форму принципа наименьшего действия. Источник фото и стенограмма лекции: https://www.feynmanlectures.caltech.edu/II_19.html

В результате этих догадок, у Фристона, как и у Фейнмана, происходит минимизация свободной энергии в смысле, эквивалентном максимизации доказательств модели. И делается это решением задачи оптимизации с применением вариационного принципа. Поэтому точное название того, что «экономит» природа в живых организмах — вариационная свободная энергия.

«Экономя» её, мозг, пытается максимизировать доказательства своей байесовской модели мира, неявно пытаясь при этом минимизировать свою энтропию.
Другими словами, сопротивляясь 2-му закону термодинамики, мозг прибегает к самоорганизации в борьбе с царящим в мире беспорядком. Из чего следует, что

мозг — это самоорганизующаяся система, минимизирующая свою энтропию и тем самым противостоящая естественной тенденции к беспорядку, поддерживая устойчивый и гомеостатический обмен с окружающей средой.

Таким образом, Фристон показал, что предложенный им принцип оптимальности (принцип свободной энергии — ПСЭ) является принципом экстремального действия, лежащим в основе работы мозга.
Теперь Фристону оставалось ответить на вопрос, — КАК мозг это делает?
3. Как минимизируется свободная энергия

Ответ на этот вопрос лежит на поверхности. Он вытекает из того, чем живое отличается от неживого.

Живой организм способен действовать, меняя состояния внешней среды. А ключевым фактором этой способности является движение.

Что делает организм столкнувшись с опасной для него неожиданностью? Вариантов всего два.
✔️ Действовать — воздействовать на мир (убегать, нападать, ломать, строить и т.д.)
✔️ Изменять представления о мире в своей модели (может, на самом деле, все не так плохо, как она прогнозирует, и если ее соответствующим образом подправить, глядишь, неожиданность исчезнет).
Получается такая схема.

Реализация данной схемы мозгом автоматически ведет к минимизации свободной энергии. Как эта происходит на практике, можете посмотреть в изложении Джули Питт (примерно 10 мин. с 21й минуты).

А можно послушать и самого Фристона (1 час 47 мин с переводом), дабы узнать куда больше, если пробиться сквозь непроходимую сложность изложения, присущую гениальному ученому.

Но как наиболее емкий и понятный рассказ, я бы рекомендовал доклад на совместном биолого-математическом семинаре ИПУ РАН и ИБР РАН д.ф.м.н. Людмилы Юрьевны Жиляковой (здесь можно скачать слайды доклада).

В докладе Л.Ю.Жиляковой в деталях рассматривается математическое описания мозговых функций с помощью ПСЭ, выполненое Фристоном на основе «Байесовской теории мозга». Мы же здесь лишь пробежимся по верхам этого математического описания, чтобы уловить главное.
Байесовская теория мозга содержит в себе набор математических инструментов для моделирования взаимодействия организмов с окружающим миром. В настоящее время это одна из самых влиятельных теорий в когнитивной нейробиологии. Ее суть в том, что мозг строит свои прогнозы в форме байесовских вероятностей, получая данные от органов чувств, и постоянно обновляя (выводя) свои убеждения (beliefs) о состоянии окружающего мира. Здесь термин “убеждение” обозначает ментальную репрезентацию, которой придерживается агент и которая может отражать его предшествующий опыт. Убеждения могут касаться конкретных (например, физических свойств объектов в мире) или абстрактных (например, намерений других людей) сущностей мира. Чтобы учесть неизбежную неопределенность, убеждения имеют вероятностное представление и соответствуют распределениям вероятностей. Т.о. они характеризуются статистическими данными, такими как математическое ожидание (среднее значение) или точность (обратная дисперсия). Более того, убеждения могут зависеть друг от друга и в совокупности составляют модель мира агента.

27.10.2020, 16:57	#11
Феникс Джонатанович ДонХуанЦзы Senior Member МегаБолтун Регистрация: 02.06.2006 Адрес: Москва Сообщений: 72,291 Записей в дневнике: 4 Вес репутации: 10	Дано: 1) Гомеостатический императив Отличительной способностью живых организмов является их способность поддерживать собственный гомеостаз — т.е. сохранять относительное динамическое постоянство состава и свойств внутренней среды и устойчивости основных физиологических функций в условиях изменяющейся внешней среды. Сохранение гомеостаза — абсолютное условие выживания любого живого организма. Это значит, что набор внутренних состояний живого организма есть некое подмножество всех возможных внутренних состояний. Причем состояния, совместимые с выживанием агента, составляют мизерную толику всех возможных состояний. Под состояниями понимаются все положения и движения частей тела агента, электрохимические состояния его мозга, физиологические изменения в органах и т. д. Пока эти состояния находятся в области, совместимой с выживанием (в области гомеостаза), все в порядке — агент будет жить. Если же состояния организма окажутся за пределами области состояний, совместимых с выживанием, жизнь агента прекратится (например, если температура тела человека станет ниже 24° или выше 43°). Следует, однако, иметь в виду, что для разных организмов области состояний, совместимых с выживанием могут сильно отличаться. Но так уж устроен мир, что выживанию агента постоянно мешает хаос в окружающей его среде. В соответствии со 2-м законом термодинамики, энтропия мира в целом неуклонно растет. Это провоцирует увеличение числа возможных состояний агента, что грозит риском выхода за пределы области состояний, совместимых с выживанием. Агенту нужно как-то с этим бороться, ибо вопрос стоит о самом для него важном — о выживании. Дано: 2) Прогнозирующий мозг Согласно доминирующей в современной науке концепции «прогнозирующего мозга», в нем постоянно формируется и обновляется модель окружающего мира и самого агента в этом постоянно меняющемся окружении. Поступающие от органов чувств сенсорные данные (о состоянии среды и самого агента) постоянно сравниваются с прогнозами (ожиданиями) мозга, какими эти данные должны быть в соответствии с его моделью. При этом главная цель существования (см. в «дано 1» выше) постоянна и неизменна — оставаться в области состояний, совместимых с выживанием. На практике для агента возможны два варианта. Если сенсорные данные совпадают с прогнозом, значит гомеостазу ничего не грозит, т.е.: а) порядок поддерживается (энтропия не растет); b) вероятность остаться в области гомеостаза высокая; c) неприятные и опасные неожиданности отсутствуют. Если же сенсорные данные расходятся с прогнозом — это трактуется мозгом, как: a. порядок нарушается (энтропия растет); b. вероятность остаться в области гомеостаза снижается; c. организм столкнулся с неожиданностью (что неприятно и опасно). 2. Что экономит природа В предыдущем разделе, на основании двух «дано», была представлена общая схема оценки ситуации прогнозирующим мозгом, стремящимся сохранить гомеостаз — состояния, совместимые с жизнью организма. В зависимости от величины неожиданности, у прогнозирующего мозга получаются два возможных результата: удовлетворительный для живого организма или неудовлетворительный. Зададимся вопросом: что же в такой схеме должна «экономить» природа? Исходя из того, что было «дано», ответ очевиден. Нужно «экономить» (т.е. стараться не давать снижаться) вероятности гомеостаза. А для этого нужно (как видно из приведенного выше рисунка) минимизировать неожиданность. Именно она — угроза для выживания. Поскольку цель агента — во что бы то ни стало выжить, необходимо минимизировать неожиданность. Это, по сути, универсальный принцип выживания любого агента. Но как измерять неожиданность? Напрямую — получается, что никак. Окружающая среда — находится вне агента. А модель — внутри него (в мозге). Связь между ними непрямая — через органы чувств. Тогда зададимся вопросом — а в чем суть неожиданности? Интуитивный ответ однозначен — в том, что мы такого не ожидали. Т.е. произошло что-то невероятное с точки зрений наших ожиданий. Воспользуемся этим пониманием неожиданности, как невероятности, в контексте прогнозирующего мозга. Есть модель мира (m) и сенсорные данные (s). Вероятность совпадения сенсорных данных с моделью мира можно записать так: log p (s \| m). Тогда невероятность этого будет тем же самым выражением со знаком минус: -log p (s \| m). Математически минимизация средней неожиданности (также называемой энтропией) становится тем же самым, что и максимизация обоснованности p (s \| m ) модели. Но вместо неожиданности, можно измерять ошибку модели, т.е. разницу между реальными сенсорными данными и их прогнозом в соответствии с моделью мира в мозге агента. Тогда в качестве верхней границы неожиданности (максимума ошибки модели) будет величина, называемая в статистической физике «свободная энергия». Она по определению будет больше или равна неожиданности (ошибки модели), ибо свободная энергия = неожиданность + дивергенция Последняя — это некая мера удалённости друг от друга двух вероятностных распределений и, следовательно, неотрицательная величина. Из чего следует, что свободная энергия всегда будет верхним пределом неожиданности. Принципиально важно зафиксировать. Свободная энергия здесь не имеет ничего общего с энергией в общепринятом смысле. Это теоретико-информационное понятие, взятое Фристоном из статистической физики. Вместе с тем, свободная энергия Фристона, будучи рассмотренной в контексте принципа наименьшего действия, вполне соответствует понятию «действие», в механике используемом в качестве меры изменения количества движения в ходе процесса, ведущего к изменению состояния. Как было показано в части 1, понятие действие обобщается и на немеханические формы движения, в которых под действием понимают количественную меру процесса, связанного с преодолением каких-либо сил. А сила — это понятие, относящееся к нескольким объектам. И в общем виде материальных взаимодействий можно говорить не только о механической природе сил, но и о химической, электрической, ядерной и прочими видами взаимодействий. Озарение Фристона, сумевшего-таки найти таинственную величину, что «экономит» природа в живых агентах, основано на том, что он первым увидел ускользавшее ранее от других. Что принцип наименьшего действия для живых агентов должен касаться их взаимодействия с окружающей средой, в ходе которого должна минимизироваться некая величина, являющаяся мерой данного процесса. Что эта таинственная величина может решать ту же проблему, что в 1972 г. решал Ричард Фейнман в контексте квантовой статистической физики. Фейнман предложил использовать формализм интегралов по траекториям и вариационное исчисление, исходя из того, что минимизация свободной энергии эквивалентна (приблизительно) максимизации доказательств модели. Эти вариационные методы обеспечивают эффективные байесовские процедуры, и потому в настоящее время широко используются для анализа эмпирических данных. Что те же вариационные схемы могут быть реализованы биологически правдоподобным способом. Это делает их важной метафорой для обработки информации нейронами мозга. И, следовательно, можно было бы применить аналогичный подход к задаче байесовского вывода мозгом, а именно, — к оценке доказательств генеративной модели окружающего мира, формируемой мозгом. Фото лекции Ричарда Фейнмана, на которой он рассказывает, что фундаментальные законы можно облечь в форму принципа наименьшего действия. Источник фото и стенограмма лекции: https://www.feynmanlectures.caltech.edu/II_19.html В результате этих догадок, у Фристона, как и у Фейнмана, происходит минимизация свободной энергии в смысле, эквивалентном максимизации доказательств модели. И делается это решением задачи оптимизации с применением вариационного принципа. Поэтому точное название того, что «экономит» природа в живых организмах — вариационная свободная энергия. «Экономя» её, мозг, пытается максимизировать доказательства своей байесовской модели мира, неявно пытаясь при этом минимизировать свою энтропию. Другими словами, сопротивляясь 2-му закону термодинамики, мозг прибегает к самоорганизации в борьбе с царящим в мире беспорядком. Из чего следует, что мозг — это самоорганизующаяся система, минимизирующая свою энтропию и тем самым противостоящая естественной тенденции к беспорядку, поддерживая устойчивый и гомеостатический обмен с окружающей средой. Таким образом, Фристон показал, что предложенный им принцип оптимальности (принцип свободной энергии — ПСЭ) является принципом экстремального действия, лежащим в основе работы мозга. Теперь Фристону оставалось ответить на вопрос, — КАК мозг это делает? 3. Как минимизируется свободная энергия Ответ на этот вопрос лежит на поверхности. Он вытекает из того, чем живое отличается от неживого. Живой организм способен действовать, меняя состояния внешней среды. А ключевым фактором этой способности является движение. Что делает организм столкнувшись с опасной для него неожиданностью? Вариантов всего два. ✔️ Действовать — воздействовать на мир (убегать, нападать, ломать, строить и т.д.) ✔️ Изменять представления о мире в своей модели (может, на самом деле, все не так плохо, как она прогнозирует, и если ее соответствующим образом подправить, глядишь, неожиданность исчезнет). Получается такая схема. Реализация данной схемы мозгом автоматически ведет к минимизации свободной энергии. Как эта происходит на практике, можете посмотреть в изложении Джули Питт (примерно 10 мин. с 21й минуты). А можно послушать и самого Фристона (1 час 47 мин с переводом), дабы узнать куда больше, если пробиться сквозь непроходимую сложность изложения, присущую гениальному ученому. Но как наиболее емкий и понятный рассказ, я бы рекомендовал доклад на совместном биолого-математическом семинаре ИПУ РАН и ИБР РАН д.ф.м.н. Людмилы Юрьевны Жиляковой (здесь можно скачать слайды доклада). В докладе Л.Ю.Жиляковой в деталях рассматривается математическое описания мозговых функций с помощью ПСЭ, выполненое Фристоном на основе «Байесовской теории мозга». Мы же здесь лишь пробежимся по верхам этого математического описания, чтобы уловить главное. Байесовская теория мозга содержит в себе набор математических инструментов для моделирования взаимодействия организмов с окружающим миром. В настоящее время это одна из самых влиятельных теорий в когнитивной нейробиологии. Ее суть в том, что мозг строит свои прогнозы в форме байесовских вероятностей, получая данные от органов чувств, и постоянно обновляя (выводя) свои убеждения (beliefs) о состоянии окружающего мира. Здесь термин “убеждение” обозначает ментальную репрезентацию, которой придерживается агент и которая может отражать его предшествующий опыт. Убеждения могут касаться конкретных (например, физических свойств объектов в мире) или абстрактных (например, намерений других людей) сущностей мира. Чтобы учесть неизбежную неопределенность, убеждения имеют вероятностное представление и соответствуют распределениям вероятностей. Т.о. они характеризуются статистическими данными, такими как математическое ожидание (среднее значение) или точность (обратная дисперсия). Более того, убеждения могут зависеть друг от друга и в совокупности составляют модель мира агента. __________________ Твори Любовь ЗДЕСЬ и СЕЙЧАС! ЗАВТРА может быть ПОЗДНО!