В июле руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали.
Система использовала чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой.
Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.
Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов.
Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
http://www.bbc.co.uk/russian/features-40959369
Система использовала чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой.
Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.
Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов.
Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
http://www.bbc.co.uk/russian/features-40959369
In July, the social networking site Facebook was forced to shut down its artificial intelligence system after machines began to communicate in their own, non-existent language that people did not understand.
The system used chat bots, which were originally created to communicate with living people, but gradually began to communicate with each other.
At first they communicated in English, but at some point they began to correspond in a language that they themselves created in the process of developing the program.
Experts fear that if bots begin to actively communicate in their own language, they will gradually become more independent and able to function outside the control of IT specialists.
Moreover, even experienced engineers cannot fully track the thought process of bots.
http://www.bbc.co.uk/russian/features-40959369
The system used chat bots, which were originally created to communicate with living people, but gradually began to communicate with each other.
At first they communicated in English, but at some point they began to correspond in a language that they themselves created in the process of developing the program.
Experts fear that if bots begin to actively communicate in their own language, they will gradually become more independent and able to function outside the control of IT specialists.
Moreover, even experienced engineers cannot fully track the thought process of bots.
http://www.bbc.co.uk/russian/features-40959369
У записи 2 лайков,
1 репостов,
329 просмотров.
1 репостов,
329 просмотров.
Эту запись оставил(а) на своей стене Леонид Терещенко
