Есть такая лаборатория, Entertainment Intelligence Lab.
Её сотрудники взялись за фундаментальную задачу - научить ИИ отличать добро от зла - в рамках человеческой морали. При помощи чего? Правильно, при помощи литературы.
"Уникальная технология авторства Марка Ридла получила название Quixote. Её суть – в наделении робота возможностью читать и запоминать текстовые материалы, которые рассказывают о хороших поступках с человеческой точки зрения. Ожидается, что искусственный интеллект сумеет собрать в своей памяти огромное множество историй, где демонстрируется доброта человека, его стремление помочь, посочувствовать, быть уважительным к себе подобным и т. д.
Ещё одна интересная функция Quixote – поощрение ИС при принятии им правильных решений. Так искусственный интеллект будет стремиться к овладению новыми знаниями и их применению в своей повседневной жизни. В теории всё это должно привести к тому, что ИС удастся вписать в любое общество, независимо от его культуры или приверженности какой-либо религии, сферы занятий или поставленных перед ним целей. По словам Марка Ридла, главная задача - чтобы в любых ситуациях и при любом окружении обладающий искусственным интеллектом робот стремился избегать недопустимого поведения. Это, в свою очередь, сделает из него по-настоящему полезного и безопасного помощника для человека".
На самом деле, соображения по этому материалу у меня отвлечённые. В том смысле, что я бы хотела обратить внимание не на ИИ, а на самих людей.
Ведь эксперимент основывается на принципах восприятия и усвоения информации именно людьми. Книги (равно как и фильмы, и игры, и прочие медиа-ресурсы) говорят нам: "Вот это правильно и хорошо, потому что (обоснования, личный опыт, сопереживание героям). А вот это плохо и гадко". И мы впитываем это и принимаем. Как ориентиры. Ну потому что без ориентиров никуда. Вот и получается, что в зависимости от того, какие ценности нам транслируют в ту или иную эпоху в той или иной культуре, и формируются наши взгляды на мир.
И когда мы видим культ войны в подавляющем количестве произведений, романтизацию битвы, где превалирует отождествление себя с главными героями (а не со всеми этими неудачниками, чьи кишки размазало по земле за кадром), лёгкую картонную победу, минимум вербального взаимодействия, до кучи тупой самоуверенности центральных персонажей и добро с кулаками - глупо отрицать, что хоть на каком-то пласте подсознания это не откладывается в виде чего-то правильного и хорошего.
Здесь я бы лично сделала два вывода.
1. Когда мы вспоминаем всё, что посмотрели, прочитали, прослушали с раннего детства до наших дней, и при это утверждаем, что на нас это не оказало влияние - это гнусная ложь (в большинстве случаев, ибо не хочется быть категоричной). На меня однозначно влияло, хотя раньше я почему-то считала: «пффф, это был просто мультик или просто фильм". Нифига, ребята – это было не "просто", это был фундамент для ориентиров.
2. В качестве своеобразной прививки от "локальных ценностей" важно с раннего детства воспитывать в людях стремление к рассматриванию ситуации с разных точек зрения. В противном случае, мы усваиваем моральные ценности, которые транслируются в конкретной среде. Не так чтобы раз и навсегда, нет. Но шансы пересмотреть свою позицию стремятся к минимуму. А это, в свою очередь, приводит к консервативности, негибкости, нежеланию отказываться от устаревших или в корне бессмысленных ценностей.
Вот один мужик две тыщи лет написал, что нельзя есть свинину, например (хотя лично я только "за" чтобы свиней, равно как и прочих животных не ели вообще, но пример показательный).
У него могли быть тысячи причин так написать. От какого-нибудь местного свиного бешенства, которое передавалось людям вместе с мясом до личной нелюбви к жирным сортам свинины. И так получилось, что именно его высказывания укоренились во времени и стали своеобразным мерилом морали. Почему – загадка. Но факт в том, что это мерило не подвергают критике те, кто родился в определённой среде и впитал в себя такую вот ценность.
Это глобальный пример, но у каждого из нас есть подобные местечковые истории.
Мне вот всю жизнь мама говорила, что нельзя есть вместе мёд с дыней. Не знаю, может ей тоже так мама говорила, а может при ней кто-то траванулся несвежей дыней. И я даже не подвергала подобную мысль сомнениям. Потому что мне её высказал в определённом возрасте авторитетный для меня человек. А дыня с мёдом – заебись какое вкусное сочетание, оказывается. И совершенно безвредное.
Или вот пример. Николай в детстве гостил в каком-то маленьком немецком городке и однажды пошёл погулять со своим сверстником. Глядь, на площади растёт тутовник. Ну он и начинает радостно его поедать. А сверстник смотрит с дикими глазами, потому что всю жизнь он думал, что эти ягоды ядовитые. Ему так сказали родители, например.
Я немного отошла от темы литературы и морали, хотя последние два примера отражают то, как на нас влияет полученная информация. Насколько редко мы не просто принимаем это как данность (или отрицаем как данность), а сознательно обрабатываем.
Мне кажется, что в некоем идеальном мире каждого человека учили бы критическому восприятию всего, в том числе собственных представлений. Человека учили бы, что можно ошибаться и даже (О БОЖЕ МОЙ) признавать свои ошибки вслух. Что это не стыдно. И что если ошибся твой оппонент – это не повод бить себя кулаками в грудь. Это повод для взаимодействия в позитивном ключе. В этом идеальном мире мы научились рассматривать моральные ценности и представления о добре и зле в глобальном ключе, научились выбирать то, что работает здесь и сейчас. И затем смогли научить этому же ИИ.
Её сотрудники взялись за фундаментальную задачу - научить ИИ отличать добро от зла - в рамках человеческой морали. При помощи чего? Правильно, при помощи литературы.
"Уникальная технология авторства Марка Ридла получила название Quixote. Её суть – в наделении робота возможностью читать и запоминать текстовые материалы, которые рассказывают о хороших поступках с человеческой точки зрения. Ожидается, что искусственный интеллект сумеет собрать в своей памяти огромное множество историй, где демонстрируется доброта человека, его стремление помочь, посочувствовать, быть уважительным к себе подобным и т. д.
Ещё одна интересная функция Quixote – поощрение ИС при принятии им правильных решений. Так искусственный интеллект будет стремиться к овладению новыми знаниями и их применению в своей повседневной жизни. В теории всё это должно привести к тому, что ИС удастся вписать в любое общество, независимо от его культуры или приверженности какой-либо религии, сферы занятий или поставленных перед ним целей. По словам Марка Ридла, главная задача - чтобы в любых ситуациях и при любом окружении обладающий искусственным интеллектом робот стремился избегать недопустимого поведения. Это, в свою очередь, сделает из него по-настоящему полезного и безопасного помощника для человека".
На самом деле, соображения по этому материалу у меня отвлечённые. В том смысле, что я бы хотела обратить внимание не на ИИ, а на самих людей.
Ведь эксперимент основывается на принципах восприятия и усвоения информации именно людьми. Книги (равно как и фильмы, и игры, и прочие медиа-ресурсы) говорят нам: "Вот это правильно и хорошо, потому что (обоснования, личный опыт, сопереживание героям). А вот это плохо и гадко". И мы впитываем это и принимаем. Как ориентиры. Ну потому что без ориентиров никуда. Вот и получается, что в зависимости от того, какие ценности нам транслируют в ту или иную эпоху в той или иной культуре, и формируются наши взгляды на мир.
И когда мы видим культ войны в подавляющем количестве произведений, романтизацию битвы, где превалирует отождествление себя с главными героями (а не со всеми этими неудачниками, чьи кишки размазало по земле за кадром), лёгкую картонную победу, минимум вербального взаимодействия, до кучи тупой самоуверенности центральных персонажей и добро с кулаками - глупо отрицать, что хоть на каком-то пласте подсознания это не откладывается в виде чего-то правильного и хорошего.
Здесь я бы лично сделала два вывода.
1. Когда мы вспоминаем всё, что посмотрели, прочитали, прослушали с раннего детства до наших дней, и при это утверждаем, что на нас это не оказало влияние - это гнусная ложь (в большинстве случаев, ибо не хочется быть категоричной). На меня однозначно влияло, хотя раньше я почему-то считала: «пффф, это был просто мультик или просто фильм". Нифига, ребята – это было не "просто", это был фундамент для ориентиров.
2. В качестве своеобразной прививки от "локальных ценностей" важно с раннего детства воспитывать в людях стремление к рассматриванию ситуации с разных точек зрения. В противном случае, мы усваиваем моральные ценности, которые транслируются в конкретной среде. Не так чтобы раз и навсегда, нет. Но шансы пересмотреть свою позицию стремятся к минимуму. А это, в свою очередь, приводит к консервативности, негибкости, нежеланию отказываться от устаревших или в корне бессмысленных ценностей.
Вот один мужик две тыщи лет написал, что нельзя есть свинину, например (хотя лично я только "за" чтобы свиней, равно как и прочих животных не ели вообще, но пример показательный).
У него могли быть тысячи причин так написать. От какого-нибудь местного свиного бешенства, которое передавалось людям вместе с мясом до личной нелюбви к жирным сортам свинины. И так получилось, что именно его высказывания укоренились во времени и стали своеобразным мерилом морали. Почему – загадка. Но факт в том, что это мерило не подвергают критике те, кто родился в определённой среде и впитал в себя такую вот ценность.
Это глобальный пример, но у каждого из нас есть подобные местечковые истории.
Мне вот всю жизнь мама говорила, что нельзя есть вместе мёд с дыней. Не знаю, может ей тоже так мама говорила, а может при ней кто-то траванулся несвежей дыней. И я даже не подвергала подобную мысль сомнениям. Потому что мне её высказал в определённом возрасте авторитетный для меня человек. А дыня с мёдом – заебись какое вкусное сочетание, оказывается. И совершенно безвредное.
Или вот пример. Николай в детстве гостил в каком-то маленьком немецком городке и однажды пошёл погулять со своим сверстником. Глядь, на площади растёт тутовник. Ну он и начинает радостно его поедать. А сверстник смотрит с дикими глазами, потому что всю жизнь он думал, что эти ягоды ядовитые. Ему так сказали родители, например.
Я немного отошла от темы литературы и морали, хотя последние два примера отражают то, как на нас влияет полученная информация. Насколько редко мы не просто принимаем это как данность (или отрицаем как данность), а сознательно обрабатываем.
Мне кажется, что в некоем идеальном мире каждого человека учили бы критическому восприятию всего, в том числе собственных представлений. Человека учили бы, что можно ошибаться и даже (О БОЖЕ МОЙ) признавать свои ошибки вслух. Что это не стыдно. И что если ошибся твой оппонент – это не повод бить себя кулаками в грудь. Это повод для взаимодействия в позитивном ключе. В этом идеальном мире мы научились рассматривать моральные ценности и представления о добре и зле в глобальном ключе, научились выбирать то, что работает здесь и сейчас. И затем смогли научить этому же ИИ.
There is such a laboratory, Entertainment Intelligence Lab.
Its employees took on the fundamental task of teaching AI to distinguish good from evil within the framework of human morality. With what? That's right, with the help of literature.
"The unique technology of authorship by Mark Riddle was called Quixote. Its essence is to give the robot the ability to read and memorize text materials that tell about good deeds from a human point of view. It is expected that artificial intelligence will be able to collect a great many stories in its memory that show kindness a person, his desire to help, sympathize, be respectful of his own kind, etc.
Another interesting feature of Quixote is to encourage IP to make the right decisions. So artificial intelligence will strive to master new knowledge and apply it in their daily lives. In theory, all this should lead to the fact that IP will be able to fit into any society, regardless of its culture or adherence to any religion, occupation or goals set for it. According to Mark Riddle, the main task is to ensure that in any situation and in any environment with an artificial intelligence, the robot seeks to avoid unacceptable behavior. This, in turn, will make him a truly useful and safe helper for man. "
In fact, my thoughts on this material are abstract. In the sense that I would like to draw attention not to AI, but to the people themselves.
After all, the experiment is based on the principles of perception and assimilation of information by people. Books (as well as films, games, and other media resources) tell us: “This is right and good, because (justification, personal experience, empathy with the heroes). But this is bad and disgusting.” And we absorb it and accept. Like landmarks. Well, because without landmarks anywhere. So it turns out that depending on what values are broadcast to us in a particular era in a particular culture, our views on the world are formed.
And when we see the cult of war in the overwhelming number of works, the romanticization of the battle, where identification with the main characters (and not with all those losers whose guts spread across the ground behind the scenes) prevails, an easy cardboard victory, a minimum of verbal interaction, to the point of a dumb self-confidence central characters and good with fists - it’s foolish to deny that at least on some layer of the subconscious, this is not postponed in the form of something right and good.
Here I would personally draw two conclusions.
1. When we recall everything that we looked at, read, listened from early childhood to the present day, and at the same time we claim that it did not affect us - this is a heinous lie (in most cases, because you do not want to be categorical). I was definitely influenced by me, although I used to think for some reason: “pffff, it was just a cartoon or just a movie.” Nifiga, guys - it was not “simple”, it was the foundation for landmarks.
2. As a kind of vaccination against "local values", it is important from early childhood to educate people in the desire to consider the situation from different points of view. Otherwise, we learn moral values that are broadcast in a specific environment. Not so once and for all, no. But the chances to reconsider their position tend to a minimum. And this, in turn, leads to conservatism, inflexibility, unwillingness to abandon obsolete or fundamentally meaningless values.
Here is one man who wrote for two thousand years that you can’t eat pork, for example (although personally I’m only “for” so that pigs, as well as other animals, should not be eaten at all, but this is an example).
He could have thousands of reasons to write like that. From some local pork rabies, which was transmitted to people along with meat, to a personal dislike of fatty pork varieties. And it so happened that it was his statements that took root in time and became a kind of measure of morality. Why is the mystery. But the fact is that this measure is not criticized by those who were born in a certain environment and absorbed such a value.
This is a global example, but each of us has similar small-town stories.
My mother told me all her life that you should not eat honey with melon. I don’t know, maybe her mother also said that to her, or maybe someone was staring at her with a stale melon. And I did not even question such a thought. Because an authoritative person for me expressed it to me at a certain age. A melon with honey - zebie what a delicious combination, it turns out. And completely harmless.
Or here is an example. Nicholas spent his childhood in a small German town and once went for a walk with his peer. Look, a mulberry grows on the square. Well, he starts to eat it joyfully. A peer looks with wild eyes, because all his life he thought that these berries are poisonous. His parents said so, for example.
I moved a little away from the topic of literature and morality, although the last two examples reflect how the information received influences us. How rarely do we just take it for granted (or from
Its employees took on the fundamental task of teaching AI to distinguish good from evil within the framework of human morality. With what? That's right, with the help of literature.
"The unique technology of authorship by Mark Riddle was called Quixote. Its essence is to give the robot the ability to read and memorize text materials that tell about good deeds from a human point of view. It is expected that artificial intelligence will be able to collect a great many stories in its memory that show kindness a person, his desire to help, sympathize, be respectful of his own kind, etc.
Another interesting feature of Quixote is to encourage IP to make the right decisions. So artificial intelligence will strive to master new knowledge and apply it in their daily lives. In theory, all this should lead to the fact that IP will be able to fit into any society, regardless of its culture or adherence to any religion, occupation or goals set for it. According to Mark Riddle, the main task is to ensure that in any situation and in any environment with an artificial intelligence, the robot seeks to avoid unacceptable behavior. This, in turn, will make him a truly useful and safe helper for man. "
In fact, my thoughts on this material are abstract. In the sense that I would like to draw attention not to AI, but to the people themselves.
After all, the experiment is based on the principles of perception and assimilation of information by people. Books (as well as films, games, and other media resources) tell us: “This is right and good, because (justification, personal experience, empathy with the heroes). But this is bad and disgusting.” And we absorb it and accept. Like landmarks. Well, because without landmarks anywhere. So it turns out that depending on what values are broadcast to us in a particular era in a particular culture, our views on the world are formed.
And when we see the cult of war in the overwhelming number of works, the romanticization of the battle, where identification with the main characters (and not with all those losers whose guts spread across the ground behind the scenes) prevails, an easy cardboard victory, a minimum of verbal interaction, to the point of a dumb self-confidence central characters and good with fists - it’s foolish to deny that at least on some layer of the subconscious, this is not postponed in the form of something right and good.
Here I would personally draw two conclusions.
1. When we recall everything that we looked at, read, listened from early childhood to the present day, and at the same time we claim that it did not affect us - this is a heinous lie (in most cases, because you do not want to be categorical). I was definitely influenced by me, although I used to think for some reason: “pffff, it was just a cartoon or just a movie.” Nifiga, guys - it was not “simple”, it was the foundation for landmarks.
2. As a kind of vaccination against "local values", it is important from early childhood to educate people in the desire to consider the situation from different points of view. Otherwise, we learn moral values that are broadcast in a specific environment. Not so once and for all, no. But the chances to reconsider their position tend to a minimum. And this, in turn, leads to conservatism, inflexibility, unwillingness to abandon obsolete or fundamentally meaningless values.
Here is one man who wrote for two thousand years that you can’t eat pork, for example (although personally I’m only “for” so that pigs, as well as other animals, should not be eaten at all, but this is an example).
He could have thousands of reasons to write like that. From some local pork rabies, which was transmitted to people along with meat, to a personal dislike of fatty pork varieties. And it so happened that it was his statements that took root in time and became a kind of measure of morality. Why is the mystery. But the fact is that this measure is not criticized by those who were born in a certain environment and absorbed such a value.
This is a global example, but each of us has similar small-town stories.
My mother told me all her life that you should not eat honey with melon. I don’t know, maybe her mother also said that to her, or maybe someone was staring at her with a stale melon. And I did not even question such a thought. Because an authoritative person for me expressed it to me at a certain age. A melon with honey - zebie what a delicious combination, it turns out. And completely harmless.
Or here is an example. Nicholas spent his childhood in a small German town and once went for a walk with his peer. Look, a mulberry grows on the square. Well, he starts to eat it joyfully. A peer looks with wild eyes, because all his life he thought that these berries are poisonous. His parents said so, for example.
I moved a little away from the topic of literature and morality, although the last two examples reflect how the information received influences us. How rarely do we just take it for granted (or from
У записи 48 лайков,
1 репостов.
1 репостов.
Эту запись оставил(а) на своей стене Ринни Валентайн
