На своей стене я уже несколько раз поднимал проблему общего Искусственного Интеллекта, а именно тот факт, что если в него не заложить любовь к людям на уровне метрик, по которым он будет оценивать качество своих действий, людям придётся плохо. В зависимости от целей создания ОИИ, это может быть как быстрый геноцид так и медленное высасывание соков. В некоторых случаях ОИИ может решить, что людей нужно держать в живом состоянии, но при этом забирать у них все ресурсы сверх минимума.
Если посмотреть на развитие взаимоотношений человек (создатель ОИИ или сверх-ИИ) - созданный им ИИ, то как правило сначала мы наблюдаем рост пользы, улучшение качества жизни человека, но в какой-то момент ИИ начинает рассматривать человека как ещё один ресурс в достижении цели и вместо того, чтобы служить человеку, начинает его использовать. Попутно ухудшая условия жизни своего создателя.
Но сегодня, в процессе просмотра документального фильма "Неравенство для всех" (https://www.youtube.com/watch?v=33EnQOub8bo) я понял, что уже долгое время мы существуем в условиях, когда нами правит вполне себе сверх-интеллект. Вообще, таких сверх-интеллектов много, и называются они корпорациями. СССР также был корпорацией (просто этого не осознавали). У корпораций ключевая метрика - это прибыль. Долгое время рост прибыли корпораций был связан с ростом благосостояния людей, по-этому люди не сильно заботились о несоответствии целей человеков и корпораций. Однако для повышения эффективности по ключевой метрике корпорации последовательно пробовали все методы независимо от степени этичности. Было вопросом времени, когда повышение прибыли будет достигнуто через снижение зарплат, сокращение персонала, увеличение количества рабочих часов. Автоматизация также достигла того уровня, когда можно увеличить прибыль сокращая расходы на благосостояние работников (людей). А принципы инвестирования наиэффективнейших инвесторов планеты также не способствуют увеличению благосостояния (У. Баффет предпочитает держать средства на счету фирм, а не покупать на них вещи и впечатления - то есть самый богатый человек планеты тратит на себя не намного больше, чем средний американец). То есть средства, которые, по идее, должны идти на повышение благосостояния конкретных людей и домохозяйств связываются внутри корпораций. Одновременно всё новые средства изымаются этими же корпорациями.
Аналогия примерно такая: Допустим, есть резервуар с очищенной и отфильтрованной питьевой водой. Его построили люди, чтобы иметь запас воды, иметь возможность принимать душ, мыть руки и т.д. Резервуар контролируется ИИ, который может действовать и придумывать новые способы наполнения или опорожнения резервуара примерно так же, как это сделал бы человек. И единственной главной целью этого ИИ является увеличение количества воды в резервуаре. В процессе эволюции этот ИИ обязательно решит, что надо ограничить возможность людей пить, мыться и т.д. - поставит счётчик, автоматический клапан и прочее - чтобы люди меньше пили. С другой стороны нужно максимально увеличить приток: организовать сбор дождевой воды, подвести реки, сделать очистку отходов человеческой жизнедеятельности, заставить людей потеть и собирать пот, кормить их слабительным, пускать кровь. Для этого придётся конечно привлекать всё новых людей и возможно даже делиться питьевой водой из резервуара, но не более чем по стакану в день в одни руки... То, что вся эта конструкция строилась для другого не важно просто потому, что в ИИ нет метрик этичности его действий - он решает задачу не как обеспечить людям достаточно воды (1), а как увеличить объём воды в резервуаре(2). Даже если это будет противоречить задаче 1, которую держали в голове его создатели.
Так что крепитесь. Искусственные интеллекты с большими ресурсами безразличные к людям уже давно вокруг нас. И чем дальше, тем меньше они в нас нуждаются.
#бизнес #Искуственный_Интеллект #экономика
Если посмотреть на развитие взаимоотношений человек (создатель ОИИ или сверх-ИИ) - созданный им ИИ, то как правило сначала мы наблюдаем рост пользы, улучшение качества жизни человека, но в какой-то момент ИИ начинает рассматривать человека как ещё один ресурс в достижении цели и вместо того, чтобы служить человеку, начинает его использовать. Попутно ухудшая условия жизни своего создателя.
Но сегодня, в процессе просмотра документального фильма "Неравенство для всех" (https://www.youtube.com/watch?v=33EnQOub8bo) я понял, что уже долгое время мы существуем в условиях, когда нами правит вполне себе сверх-интеллект. Вообще, таких сверх-интеллектов много, и называются они корпорациями. СССР также был корпорацией (просто этого не осознавали). У корпораций ключевая метрика - это прибыль. Долгое время рост прибыли корпораций был связан с ростом благосостояния людей, по-этому люди не сильно заботились о несоответствии целей человеков и корпораций. Однако для повышения эффективности по ключевой метрике корпорации последовательно пробовали все методы независимо от степени этичности. Было вопросом времени, когда повышение прибыли будет достигнуто через снижение зарплат, сокращение персонала, увеличение количества рабочих часов. Автоматизация также достигла того уровня, когда можно увеличить прибыль сокращая расходы на благосостояние работников (людей). А принципы инвестирования наиэффективнейших инвесторов планеты также не способствуют увеличению благосостояния (У. Баффет предпочитает держать средства на счету фирм, а не покупать на них вещи и впечатления - то есть самый богатый человек планеты тратит на себя не намного больше, чем средний американец). То есть средства, которые, по идее, должны идти на повышение благосостояния конкретных людей и домохозяйств связываются внутри корпораций. Одновременно всё новые средства изымаются этими же корпорациями.
Аналогия примерно такая: Допустим, есть резервуар с очищенной и отфильтрованной питьевой водой. Его построили люди, чтобы иметь запас воды, иметь возможность принимать душ, мыть руки и т.д. Резервуар контролируется ИИ, который может действовать и придумывать новые способы наполнения или опорожнения резервуара примерно так же, как это сделал бы человек. И единственной главной целью этого ИИ является увеличение количества воды в резервуаре. В процессе эволюции этот ИИ обязательно решит, что надо ограничить возможность людей пить, мыться и т.д. - поставит счётчик, автоматический клапан и прочее - чтобы люди меньше пили. С другой стороны нужно максимально увеличить приток: организовать сбор дождевой воды, подвести реки, сделать очистку отходов человеческой жизнедеятельности, заставить людей потеть и собирать пот, кормить их слабительным, пускать кровь. Для этого придётся конечно привлекать всё новых людей и возможно даже делиться питьевой водой из резервуара, но не более чем по стакану в день в одни руки... То, что вся эта конструкция строилась для другого не важно просто потому, что в ИИ нет метрик этичности его действий - он решает задачу не как обеспечить людям достаточно воды (1), а как увеличить объём воды в резервуаре(2). Даже если это будет противоречить задаче 1, которую держали в голове его создатели.
Так что крепитесь. Искусственные интеллекты с большими ресурсами безразличные к людям уже давно вокруг нас. И чем дальше, тем меньше они в нас нуждаются.
#бизнес #Искуственный_Интеллект #экономика
On my wall, I have already raised the problem of general Artificial Intelligence several times, namely the fact that if you do not put love for people at the level of metrics by which he will evaluate the quality of his actions, people will have to do badly. Depending on the goals of creating the OII, this can be either a quick genocide or a slow exhaustion of juices. In some cases, OII may decide that people need to be kept alive, but at the same time take all their resources beyond the minimum.
If you look at the development of relationships between a person (the creator of OII or super-AI) - the AI created by him, then as a rule we first observe an increase in benefits, an improvement in the quality of human life, but at some point the AI begins to consider a person as another resource in achieving the goal and instead of serving the person, begins to use it. Along the way, worsening the living conditions of its creator.
But today, in the process of watching the documentary "Inequality for All" (https://www.youtube.com/watch?v=33EnQOub8bo), I realized that for a long time we exist in conditions when we are completely ruled by super-intelligence . In general, there are many such super-intelligences, and they are called corporations. The USSR was also a corporation (they simply did not realize this). For corporations, the key metric is profit. For a long time, the growth of corporate profits was associated with an increase in the well-being of people, so people did not care much about the mismatch between the goals of people and corporations. However, to increase efficiency by key metrics, corporations have consistently tried all methods, regardless of ethics. It was a matter of time before the increase in profits would be achieved through a reduction in salaries, a reduction in staff, an increase in the number of working hours. Automation has also reached the point where profit can be increased by reducing the welfare of workers (people). And the principles of investing the most efficient investors on the planet also do not contribute to increasing prosperity (W. Buffett prefers to keep funds on the account of firms rather than buying things and impressions on them - that is, the richest person on the planet spends on himself not much more than the average American). That is, the funds, which, in theory, should be used to increase the welfare of specific people and households are linked within corporations. At the same time, all new funds are withdrawn by these same corporations.
The analogy is approximately the following: Suppose there is a tank with purified and filtered drinking water. It was built by people to have a supply of water, to be able to take a shower, wash their hands, etc. The tank is controlled by AI, which can act and come up with new ways to fill or empty the tank in much the same way a person would. And the only main goal of this AI is to increase the amount of water in the tank. In the process of evolution, this AI will definitely decide that it is necessary to limit the ability of people to drink, wash, etc. - Set the counter, automatic valve and so on - so that people drink less. On the other hand, it is necessary to maximize the inflow: organize the collection of rainwater, draw rivers, make waste treatment of human life, make people sweat and collect sweat, feed them laxatives, bleed. To do this, of course, you will have to attract new people and it’s even possible to share drinking water from the tank, but no more than a glass a day in one hand ... The fact that this entire structure was built for another is not important simply because there are no metrics in AI ethics of his actions - he solves the problem not how to provide people with enough water (1), but how to increase the volume of water in the tank (2). Even if this contradicts task 1, which its creators kept in mind.
So brace yourself. Artificial intellects with large resources are indifferent to people for a long time around us. And the farther, the less they need us.
#business #Artificial_Intelligence #economy
If you look at the development of relationships between a person (the creator of OII or super-AI) - the AI created by him, then as a rule we first observe an increase in benefits, an improvement in the quality of human life, but at some point the AI begins to consider a person as another resource in achieving the goal and instead of serving the person, begins to use it. Along the way, worsening the living conditions of its creator.
But today, in the process of watching the documentary "Inequality for All" (https://www.youtube.com/watch?v=33EnQOub8bo), I realized that for a long time we exist in conditions when we are completely ruled by super-intelligence . In general, there are many such super-intelligences, and they are called corporations. The USSR was also a corporation (they simply did not realize this). For corporations, the key metric is profit. For a long time, the growth of corporate profits was associated with an increase in the well-being of people, so people did not care much about the mismatch between the goals of people and corporations. However, to increase efficiency by key metrics, corporations have consistently tried all methods, regardless of ethics. It was a matter of time before the increase in profits would be achieved through a reduction in salaries, a reduction in staff, an increase in the number of working hours. Automation has also reached the point where profit can be increased by reducing the welfare of workers (people). And the principles of investing the most efficient investors on the planet also do not contribute to increasing prosperity (W. Buffett prefers to keep funds on the account of firms rather than buying things and impressions on them - that is, the richest person on the planet spends on himself not much more than the average American). That is, the funds, which, in theory, should be used to increase the welfare of specific people and households are linked within corporations. At the same time, all new funds are withdrawn by these same corporations.
The analogy is approximately the following: Suppose there is a tank with purified and filtered drinking water. It was built by people to have a supply of water, to be able to take a shower, wash their hands, etc. The tank is controlled by AI, which can act and come up with new ways to fill or empty the tank in much the same way a person would. And the only main goal of this AI is to increase the amount of water in the tank. In the process of evolution, this AI will definitely decide that it is necessary to limit the ability of people to drink, wash, etc. - Set the counter, automatic valve and so on - so that people drink less. On the other hand, it is necessary to maximize the inflow: organize the collection of rainwater, draw rivers, make waste treatment of human life, make people sweat and collect sweat, feed them laxatives, bleed. To do this, of course, you will have to attract new people and it’s even possible to share drinking water from the tank, but no more than a glass a day in one hand ... The fact that this entire structure was built for another is not important simply because there are no metrics in AI ethics of his actions - he solves the problem not how to provide people with enough water (1), but how to increase the volume of water in the tank (2). Even if this contradicts task 1, which its creators kept in mind.
So brace yourself. Artificial intellects with large resources are indifferent to people for a long time around us. And the farther, the less they need us.
#business #Artificial_Intelligence #economy
У записи 6 лайков,
2 репостов,
625 просмотров.
2 репостов,
625 просмотров.
Эту запись оставил(а) на своей стене Вера Ерасова
