На geekpicnic [id69622|Иван Иванчей] очень интересно рассказывал про то, что сейчас происходит в области разработок нейросетей и искусственного интеллекта. Он говорил, что сейчас стоит задача разработать самосознающие нейросети, которые не только совершали бы какие-то выборы, но и определяли, как они это сделали. Все это для меня представляет большой интерес, и я хотел бы написать про те проблемы в создании искусственного разума, которые я вижу. Этих проблем две: самосознание как явление и потребности. Начну со второй проблемы.
Если взять человека или животное, то несложно понять, что основная задача для них – выжить. Выжить как отдельному существу, так и виду. Другими словами, нами движут желание сохранить себя, равновесие в своем организме, потребности. Если мы не будем их удовлетворять, то мы умрем. Другое дело искусственный разум, у которого этих потребностей нет. Зачем ему жить? Что будет его движущей силой, какая у нее будет мотивация? Если это машина, и у нее кончилась зарядка, она может отключиться, но она не умрет. Ее можно снова зарядить и включить. Говорить о том, что у нее могут быть потребности познавательные, которые и будут явятся ее двигателем, на мой взгляд, не совсем логично: все равно потребности в познании неотделимы от нашей биологии (здесь бы хотелось подискутировать). Так что вопрос того, для чего машине быть разумной, для меня пока остаётся без ответа.
С этим связан следующий момент: у человека кроме сознания, есть еще и бессознательное, которое в огромной мере влияет на поведение, большинство событий мы не осознаем, начиная от нашего дыхания, заканчивая нашими интерпретациями каких-то событий, все это происходит автоматически. Как будет себя вести искусственный разум, лишенный этого компонента, мне не совсем понятно, тем более, что самосознание этого разума будет построено на анализе принимаемых решений. Другими словами, он будет постоянно знать, что с ним происходит, почему и на основании чего он принял то или иное решение, т.е. самосознание этой машины будет сильно отличаться от самосознания человека, которое представляет из себя все же довольно субъективную, даже можно сказать уникальную, структуру.
Заметку про самосознание и уникальность человека я все никак не напишу, хотя тема постоянно вертится в голове…
П.С. Еще думаю, как будет решаться вопросы ценностей, взросления и времени.. но об этом потом.
Если взять человека или животное, то несложно понять, что основная задача для них – выжить. Выжить как отдельному существу, так и виду. Другими словами, нами движут желание сохранить себя, равновесие в своем организме, потребности. Если мы не будем их удовлетворять, то мы умрем. Другое дело искусственный разум, у которого этих потребностей нет. Зачем ему жить? Что будет его движущей силой, какая у нее будет мотивация? Если это машина, и у нее кончилась зарядка, она может отключиться, но она не умрет. Ее можно снова зарядить и включить. Говорить о том, что у нее могут быть потребности познавательные, которые и будут явятся ее двигателем, на мой взгляд, не совсем логично: все равно потребности в познании неотделимы от нашей биологии (здесь бы хотелось подискутировать). Так что вопрос того, для чего машине быть разумной, для меня пока остаётся без ответа.
С этим связан следующий момент: у человека кроме сознания, есть еще и бессознательное, которое в огромной мере влияет на поведение, большинство событий мы не осознаем, начиная от нашего дыхания, заканчивая нашими интерпретациями каких-то событий, все это происходит автоматически. Как будет себя вести искусственный разум, лишенный этого компонента, мне не совсем понятно, тем более, что самосознание этого разума будет построено на анализе принимаемых решений. Другими словами, он будет постоянно знать, что с ним происходит, почему и на основании чего он принял то или иное решение, т.е. самосознание этой машины будет сильно отличаться от самосознания человека, которое представляет из себя все же довольно субъективную, даже можно сказать уникальную, структуру.
Заметку про самосознание и уникальность человека я все никак не напишу, хотя тема постоянно вертится в голове…
П.С. Еще думаю, как будет решаться вопросы ценностей, взросления и времени.. но об этом потом.
0
У записи 8 лайков,
1 репостов,
755 просмотров.
1 репостов,
755 просмотров.
Эту запись оставил(а) на своей стене Сергей Чесноков
