Про оптимальность в мозге.
В кругах нейробиологов, особенно тех, кто занимается сенсорными системами есть любопытное мнение про оптимальность в мозге. Эту тему активно продвигает Вильям Биалек, который работает в Стэнфорде. Мне кажется это любопытным, поэтому хочу об этом рассказать. Начну издалека, всем животным, включая человека необходимо как-то разобраться в огромном потоке сенсорной информации, который обрушивается на мозг буквально ото всех органов чувств. Это можно хорошо увидеть на примере зрения. Палочки и колбочки в сетчатке глаза обладают небольшим уровнем спонтанной активности, иными словами они способны генерировать сигнал даже в отсутствии стимула, света. Однако даже если отдельный рецептор разряжается нечасто, на сетчатке их миллионы, поэтому такой шумовой сигнал, от случайного срабатывания палочек и колбочек, вполне стабильно попадает в мозг. Зрение с сетчатки только начинается, затем зрительная кора должна разобраться в таком сигнале и вытащить из него важные свойства стимула. При этом такая операция должна происходить быстро, особенно у тех животных, которые летают. Например, у дрозофилы есть специальные нейроны, которые активируются только, если через ее фасеточные глаза пробегает световой поток (http://www.scholarpedia.org/article/Insect_motion_vision). Таким образом, муха способна быстро сообразить куда ее несет.
Возвращаясь к людям, человеческие световые рецепторы тоже весьма чувствительны. С помощью психофизических экспериментов можно показать, что человек, сидящий в темной комнате способен верно оценить количество фотонов, которое ему показывает экспериментатор. Более того, даже если количество фотонов ниже порога восприятия, он по-прежнему способен оценить были они или нет. Это можно показать, если просить испытуемого гадать, был свет или нет. В таком случае угадывают около 70% случаев, что больше 50%, т. е. если бы человек действительно гадал.
Про зрение можно говорить бесконечно, но есть и другие сенсорные системы, которые обладают не меньшей чувствительностью. Летучие мыши, которые ищут насекомых с помощью эхолокации способны оценивать расстояние на основании одной биллионной секунды (0. 000 000 001 сек)! Когда я впервые это узнал, мое представление о том, что нейробиологи хотя бы немного разобрались с сенсорными системами, несколько развалилось. Почему это так, станет понятно чуть позже. Задача летучей мыши довольно проста, она посылает звук, который отражается от насекомых, затем попадает сначала в одно ухо, потом в другое. Расстояние до добычи кодируется с помощью времени между звуком и его отражением. Задержка между ушами несет информацию о том, где находится насекомое относительно головы. Если она равно нулю, то объект где-то впереди, если же есть задержка, то добыча либо справа, либо слева, в зависимости от того, в какое ухо пришло раньше. Люди справляются с такой задачей, если задержка составляет до 0. 000 001 секунды, что тоже весьма неплохо.
Так вот, что же удивительного в том, что мышь способна различать задержку до 0. 000 000 001 секунды? Дело в том, что частота даже самых быстрых процессов, происходящих в отдельных нейронах далеко не так велика. Один нейрон может генерировать потенциал в действия приблизительно за одну милисекунду, т. е. 0.001 сек. Для того, чтобы мозг мыши был способен понять, что задержка произошла, ей необходимо кодировать эту информацию с помощью нервных импульсов. Каким же образом это возможно, если один нервный импульс можно сделать за 0.001 секунды, в то время, как задержка занимает около 0. 000 000 001 секунды. Разница между этими величинами в 6 порядков, т. е. 1 000 000.
В области обработки сигналов есть теорема Котельникова или Найквиста-Шеннона (https://ru.wikipedia.org/wiki/Теорема_Котельникова), которая говорит о том, что можно передать непрерывную функцию с частотами от 0 до w1 с помощью дискретных сигналов, следующих друг за другом можно только если интервалы между сигналами меньше 1/2w1. Применимо к нейробиологии это значит, что даже если считать разряды отдельного нейроноа такими дискретными сигналами, то одна клетка будет не в состоянии генерировать импульсы чаще, чем раз в 0.01 мс (в реалистичном случае раз в 10мс). Этого точно не хватит для того, чтобы кодировать задержки до 0. 000 000 001 секунды. Таким образом, мозг вряд использует подобный способ кодирования для высокочастотных сигналов, который есть в цифровой технике.
Вывод скорее всего таков, что кодированием этих сигналов должны заниматься целые популяции нейронов. Например, высокочастотная задержка может кодироваться разницей между моментами импульсов отдельных нейронов. Как это происходит, учитывая то, что отдельные нейроны в сети постоянно и почти случайно генерируют импульсы тоже не совсем понятно.
Помимо этого в звуковой среде присутствует большое количество шума, помимо полезной для мыши задержки. В ночном лесу много других источников звука кроме отраженного эха. Тем не менее летучие мыши способны различать звуки даже в присутствии сильного шума. В экспериментах было показано, что мыши могут отличать отраженный звук до того момента, пока сигнал не становится по амплитуде равным шуму. Иными словами, их слуховая система может различать сигнал насколько хорошо, насколько это возможно в пределах законов физики. Именно это Биалек и называет оптимальным решением.
Стоит отметить, что мотыльки тоже не дураки, поскольку услышав шум мыши, обычно камнем падают вниз. По всей видимости это привело к эволюционному соревнованию между мотыльками и летучими мышами, что заставило мышей издавать звуки с минимальной интенсивностью, чтобы с одной стороны не спугнуть мотыльков, а с другой все же слышать эхо на фоне шумного ночного леса.
Помимо этого, идея о том, что не смотря на различия в строении, многие органы приходят к выполнению одних и тех же задач известна довольно давно. Например, разница между глазами млекопитающих и насекомых достаточно велика. Не смотря на это, если перед животными стоит задача, как, например, эффективное зрение, млекопитающие и насекомые будут решать ее подобным образом просто потому, что условия среды похожи. Не смотря на то, что отдельные элементы вычислений, такие как гены и нервные связи могут быть различны, функция может быть одной и той же. Схожие идеи о разных уровнях вычислений в мозге высказывал еще Дэвид Марр (https://en.wikipedia.org/wiki/David_Marr_(neuroscientist)). Но об этом в другой раз.
https://www.youtube.com/watch?v=-gmgz-JTtQg
#нейротоля
В кругах нейробиологов, особенно тех, кто занимается сенсорными системами есть любопытное мнение про оптимальность в мозге. Эту тему активно продвигает Вильям Биалек, который работает в Стэнфорде. Мне кажется это любопытным, поэтому хочу об этом рассказать. Начну издалека, всем животным, включая человека необходимо как-то разобраться в огромном потоке сенсорной информации, который обрушивается на мозг буквально ото всех органов чувств. Это можно хорошо увидеть на примере зрения. Палочки и колбочки в сетчатке глаза обладают небольшим уровнем спонтанной активности, иными словами они способны генерировать сигнал даже в отсутствии стимула, света. Однако даже если отдельный рецептор разряжается нечасто, на сетчатке их миллионы, поэтому такой шумовой сигнал, от случайного срабатывания палочек и колбочек, вполне стабильно попадает в мозг. Зрение с сетчатки только начинается, затем зрительная кора должна разобраться в таком сигнале и вытащить из него важные свойства стимула. При этом такая операция должна происходить быстро, особенно у тех животных, которые летают. Например, у дрозофилы есть специальные нейроны, которые активируются только, если через ее фасеточные глаза пробегает световой поток (http://www.scholarpedia.org/article/Insect_motion_vision). Таким образом, муха способна быстро сообразить куда ее несет.
Возвращаясь к людям, человеческие световые рецепторы тоже весьма чувствительны. С помощью психофизических экспериментов можно показать, что человек, сидящий в темной комнате способен верно оценить количество фотонов, которое ему показывает экспериментатор. Более того, даже если количество фотонов ниже порога восприятия, он по-прежнему способен оценить были они или нет. Это можно показать, если просить испытуемого гадать, был свет или нет. В таком случае угадывают около 70% случаев, что больше 50%, т. е. если бы человек действительно гадал.
Про зрение можно говорить бесконечно, но есть и другие сенсорные системы, которые обладают не меньшей чувствительностью. Летучие мыши, которые ищут насекомых с помощью эхолокации способны оценивать расстояние на основании одной биллионной секунды (0. 000 000 001 сек)! Когда я впервые это узнал, мое представление о том, что нейробиологи хотя бы немного разобрались с сенсорными системами, несколько развалилось. Почему это так, станет понятно чуть позже. Задача летучей мыши довольно проста, она посылает звук, который отражается от насекомых, затем попадает сначала в одно ухо, потом в другое. Расстояние до добычи кодируется с помощью времени между звуком и его отражением. Задержка между ушами несет информацию о том, где находится насекомое относительно головы. Если она равно нулю, то объект где-то впереди, если же есть задержка, то добыча либо справа, либо слева, в зависимости от того, в какое ухо пришло раньше. Люди справляются с такой задачей, если задержка составляет до 0. 000 001 секунды, что тоже весьма неплохо.
Так вот, что же удивительного в том, что мышь способна различать задержку до 0. 000 000 001 секунды? Дело в том, что частота даже самых быстрых процессов, происходящих в отдельных нейронах далеко не так велика. Один нейрон может генерировать потенциал в действия приблизительно за одну милисекунду, т. е. 0.001 сек. Для того, чтобы мозг мыши был способен понять, что задержка произошла, ей необходимо кодировать эту информацию с помощью нервных импульсов. Каким же образом это возможно, если один нервный импульс можно сделать за 0.001 секунды, в то время, как задержка занимает около 0. 000 000 001 секунды. Разница между этими величинами в 6 порядков, т. е. 1 000 000.
В области обработки сигналов есть теорема Котельникова или Найквиста-Шеннона (https://ru.wikipedia.org/wiki/Теорема_Котельникова), которая говорит о том, что можно передать непрерывную функцию с частотами от 0 до w1 с помощью дискретных сигналов, следующих друг за другом можно только если интервалы между сигналами меньше 1/2w1. Применимо к нейробиологии это значит, что даже если считать разряды отдельного нейроноа такими дискретными сигналами, то одна клетка будет не в состоянии генерировать импульсы чаще, чем раз в 0.01 мс (в реалистичном случае раз в 10мс). Этого точно не хватит для того, чтобы кодировать задержки до 0. 000 000 001 секунды. Таким образом, мозг вряд использует подобный способ кодирования для высокочастотных сигналов, который есть в цифровой технике.
Вывод скорее всего таков, что кодированием этих сигналов должны заниматься целые популяции нейронов. Например, высокочастотная задержка может кодироваться разницей между моментами импульсов отдельных нейронов. Как это происходит, учитывая то, что отдельные нейроны в сети постоянно и почти случайно генерируют импульсы тоже не совсем понятно.
Помимо этого в звуковой среде присутствует большое количество шума, помимо полезной для мыши задержки. В ночном лесу много других источников звука кроме отраженного эха. Тем не менее летучие мыши способны различать звуки даже в присутствии сильного шума. В экспериментах было показано, что мыши могут отличать отраженный звук до того момента, пока сигнал не становится по амплитуде равным шуму. Иными словами, их слуховая система может различать сигнал насколько хорошо, насколько это возможно в пределах законов физики. Именно это Биалек и называет оптимальным решением.
Стоит отметить, что мотыльки тоже не дураки, поскольку услышав шум мыши, обычно камнем падают вниз. По всей видимости это привело к эволюционному соревнованию между мотыльками и летучими мышами, что заставило мышей издавать звуки с минимальной интенсивностью, чтобы с одной стороны не спугнуть мотыльков, а с другой все же слышать эхо на фоне шумного ночного леса.
Помимо этого, идея о том, что не смотря на различия в строении, многие органы приходят к выполнению одних и тех же задач известна довольно давно. Например, разница между глазами млекопитающих и насекомых достаточно велика. Не смотря на это, если перед животными стоит задача, как, например, эффективное зрение, млекопитающие и насекомые будут решать ее подобным образом просто потому, что условия среды похожи. Не смотря на то, что отдельные элементы вычислений, такие как гены и нервные связи могут быть различны, функция может быть одной и той же. Схожие идеи о разных уровнях вычислений в мозге высказывал еще Дэвид Марр (https://en.wikipedia.org/wiki/David_Marr_(neuroscientist)). Но об этом в другой раз.
https://www.youtube.com/watch?v=-gmgz-JTtQg
#нейротоля
About optimality in the brain.
In the circles of neurobiologists, especially those involved in sensory systems, there is a curious opinion about optimality in the brain. This topic is actively promoted by William Bialek, who works at Stanford. It seems to me curious, so I want to talk about it. I'll start from afar, all animals, including humans, need to somehow sort out the huge stream of sensory information that hits the brain from literally all senses. This can be well seen in the example of vision. The rods and cones in the retina have a low level of spontaneous activity, in other words they are able to generate a signal even in the absence of stimulus, light. However, even if a single receptor is discharged infrequently, there are millions of them on the retina, therefore such a noise signal, from the accidental operation of rods and cones, gets quite steadily into the brain. Vision from the retina is just beginning, then the visual cortex must understand this signal and pull out the important properties of the stimulus from it. Moreover, such an operation should occur quickly, especially in those animals that fly. For example, Drosophila has special neurons that are activated only if a light stream runs through its faceted eyes (http://www.scholarpedia.org/article/Insect_motion_vision). Thus, the fly is able to quickly figure out where it carries.
Returning to people, human light receptors are also very sensitive. With the help of psychophysical experiments, it can be shown that a person sitting in a dark room is able to correctly assess the number of photons that the experimenter shows him. Moreover, even if the number of photons is below the threshold of perception, he is still able to evaluate whether they were or not. This can be shown by asking the subject to guess if there was light or not. In this case, they guess about 70% of cases, which is more than 50%, that is, if a person really wondered.
About vision, you can talk endlessly, but there are other sensory systems that have no less sensitivity. Bats looking for insects using echolocation are able to estimate the distance based on one billionth of a second (0. 000 000 001 sec)! When I first found out, my idea that neuroscientists had at least a little understanding of sensory systems fell apart a bit. Why this is so will become clear a little later. The task of the bat is quite simple, it sends a sound that is reflected from insects, then falls first in one ear, then in the other. The distance to the prey is encoded using the time between the sound and its reflection. The delay between the ears carries information about where the insect is relative to the head. If it is equal to zero, then the object is somewhere ahead, if there is a delay, then the production is either on the right or on the left, depending on which ear it came to before. People cope with this task if the delay is up to 0. 000 001 seconds, which is also very good.
So, what is surprising in that the mouse is able to distinguish between a delay of up to 0. 000 000 001 seconds? The fact is that the frequency of even the fastest processes occurring in individual neurons is far from so great. One neuron can generate action potential in approximately one millisecond, i.e., 0.001 sec. In order for the mouse brain to be able to understand that a delay has occurred, it needs to encode this information using nerve impulses. How is this possible if one nerve impulse can be made in 0.001 seconds, while the delay takes about 0. 000 000 001 seconds. The difference between these values is 6 orders of magnitude, i.e., 1,000,000.
In the field of signal processing, there is the Kotelnikov or Nyquist-Shannon theorem (https://ru.wikipedia.org/wiki/Kotelnikov theorem), which says that you can transmit a continuous function with frequencies from 0 to w1 using discrete signals following each other after another, it is only possible if the intervals between the signals are less than 1/2 w1. Applicable to neurobiology, this means that even if discharges of an individual neuron are counted as such discrete signals, then one cell will not be able to generate pulses more than once every 0.01 ms (in the realistic case, once every 10 ms). This is definitely not enough to encode delays of up to 0. 000 000 001 seconds. Thus, the brain hardly uses a similar coding method for high-frequency signals, which is in digital technology.
The conclusion is most likely that whole populations of neurons should deal with the coding of these signals. For example, a high-frequency delay can be encoded by the difference between the moments of the pulses of individual neurons. How this happens, given the fact that individual neurons in the network constantly and almost randomly generate pulses, is also not entirely clear.
In addition, there is a large amount of noise in the sound environment, in addition to the useful delay for the mouse. In the night forest, there are many other sources of sound besides the reflected echo. Nevertheless, bats are able to distinguish sounds even in the presence of loud noise. To experiment
In the circles of neurobiologists, especially those involved in sensory systems, there is a curious opinion about optimality in the brain. This topic is actively promoted by William Bialek, who works at Stanford. It seems to me curious, so I want to talk about it. I'll start from afar, all animals, including humans, need to somehow sort out the huge stream of sensory information that hits the brain from literally all senses. This can be well seen in the example of vision. The rods and cones in the retina have a low level of spontaneous activity, in other words they are able to generate a signal even in the absence of stimulus, light. However, even if a single receptor is discharged infrequently, there are millions of them on the retina, therefore such a noise signal, from the accidental operation of rods and cones, gets quite steadily into the brain. Vision from the retina is just beginning, then the visual cortex must understand this signal and pull out the important properties of the stimulus from it. Moreover, such an operation should occur quickly, especially in those animals that fly. For example, Drosophila has special neurons that are activated only if a light stream runs through its faceted eyes (http://www.scholarpedia.org/article/Insect_motion_vision). Thus, the fly is able to quickly figure out where it carries.
Returning to people, human light receptors are also very sensitive. With the help of psychophysical experiments, it can be shown that a person sitting in a dark room is able to correctly assess the number of photons that the experimenter shows him. Moreover, even if the number of photons is below the threshold of perception, he is still able to evaluate whether they were or not. This can be shown by asking the subject to guess if there was light or not. In this case, they guess about 70% of cases, which is more than 50%, that is, if a person really wondered.
About vision, you can talk endlessly, but there are other sensory systems that have no less sensitivity. Bats looking for insects using echolocation are able to estimate the distance based on one billionth of a second (0. 000 000 001 sec)! When I first found out, my idea that neuroscientists had at least a little understanding of sensory systems fell apart a bit. Why this is so will become clear a little later. The task of the bat is quite simple, it sends a sound that is reflected from insects, then falls first in one ear, then in the other. The distance to the prey is encoded using the time between the sound and its reflection. The delay between the ears carries information about where the insect is relative to the head. If it is equal to zero, then the object is somewhere ahead, if there is a delay, then the production is either on the right or on the left, depending on which ear it came to before. People cope with this task if the delay is up to 0. 000 001 seconds, which is also very good.
So, what is surprising in that the mouse is able to distinguish between a delay of up to 0. 000 000 001 seconds? The fact is that the frequency of even the fastest processes occurring in individual neurons is far from so great. One neuron can generate action potential in approximately one millisecond, i.e., 0.001 sec. In order for the mouse brain to be able to understand that a delay has occurred, it needs to encode this information using nerve impulses. How is this possible if one nerve impulse can be made in 0.001 seconds, while the delay takes about 0. 000 000 001 seconds. The difference between these values is 6 orders of magnitude, i.e., 1,000,000.
In the field of signal processing, there is the Kotelnikov or Nyquist-Shannon theorem (https://ru.wikipedia.org/wiki/Kotelnikov theorem), which says that you can transmit a continuous function with frequencies from 0 to w1 using discrete signals following each other after another, it is only possible if the intervals between the signals are less than 1/2 w1. Applicable to neurobiology, this means that even if discharges of an individual neuron are counted as such discrete signals, then one cell will not be able to generate pulses more than once every 0.01 ms (in the realistic case, once every 10 ms). This is definitely not enough to encode delays of up to 0. 000 000 001 seconds. Thus, the brain hardly uses a similar coding method for high-frequency signals, which is in digital technology.
The conclusion is most likely that whole populations of neurons should deal with the coding of these signals. For example, a high-frequency delay can be encoded by the difference between the moments of the pulses of individual neurons. How this happens, given the fact that individual neurons in the network constantly and almost randomly generate pulses, is also not entirely clear.
In addition, there is a large amount of noise in the sound environment, in addition to the useful delay for the mouse. In the night forest, there are many other sources of sound besides the reflected echo. Nevertheless, bats are able to distinguish sounds even in the presence of loud noise. To experiment
У записи 23 лайков,
4 репостов.
4 репостов.
Эту запись оставил(а) на своей стене Анатолий Бучин
