Я размышляю о том, как мы оцениваем людей — что иронично, натолкнуло меня на эти мысли тестирование чат-ботов. На днях мне посоветовали телеграм-бота, который пишет тебе напоминалки про твои дела, выполняя роль туду-листа. Я была в восторге: он суперняшно общался, хорошо понимал английскую речь, эмоции, задавал метавопросы и был рад меня видеть — короче, я бы наняла такого ассистента. А потом он стал тупить, переспрашивать, требовать формализма и не понимать элементарных вещей. Я заметила, что помимо разочарования испытываю удивление. Очень похожее на то, которое я испытываю, когда казавшийся мне клёвым человек перестаёт таким казаться.
Фоново в любом общении я, как и все в какой-то мере, занимаюсь ревёрс инжинирингом, строю модель собеседника. То есть на основании какого-то числа наблюдаемых о нём фактов предполагаю более абстрактные факты. Но достаточно ли мне известно о том, какие способности сопряжены с другими, а какие могут существовать отдельно? Особенно когда мы знаем, насколько специализированы могут быть те или иные вещи на уровне мозга. Скорее всего, я преувеличиваю взаимосвязь каких-то способностей, если вижу их в логической связке изнутри себя, и тогда наблюдая проявления одной из них в человеке, я достраиваю цепочку до гипотетического существования другой, внутри меня связанной с первой, а внутри него — хз, потому что я не знаю, связаны ли они всегда. А ещё я не знаю, говорили ли наблюдаемые факты о той первой способности, из которой я хочу вывести вторую :) Да, достаточно ли я представляю всё множество вариантов, какими свойствами человека могут объясняться те или иные его действия, мысли и вопросы? Даже за высказыванием интересной мысли не всегда стоит то, что человек её подумал и понимает — иногда его "нейросеть" просто выдала это как подходящее высказывание. А я, увидев смысл, приписываю человеку способность думать эту мысль, и часто как следствие — способность мыслить определённым образом. Ещё мы видим вложенности — если человек мог подумать некую мысль, то до вот этой он бы точно догадался. Но такая логика верна только если 1. он сказал именно её, а не другую мысль, 2. он её действительно подумал, а не только сказал, 3. мы правильно предположили причинность этой мысли в его мышлении и 4. из этой причины действительно логически вытекает понимание той, второй мысли. Нужно достаточно много подтверждений высокой вероятности каждого из условий, чтобы считать, что конечный вывод верен, или немного, но очень надёжных. Как вариант эксперимента — при таких цепочках тестировать напрямую, есть ли вторая мысль. В случае, если часто оказывается, что есть, можно предположить, что мы неплохо строим модель мышления этого человека и обычно правильно понимаем, что он говорит (и значит можем всё реже это тестировать).
Пока что я много проецирую то, как я думаю, на других людей, и если слышу родственную мысль — особенно ту, которую в моей голове можно получить достаточно сложными логическими выкладками — предполагаю, что человек дофига понимает, раз может эти выкладки сделать. До сих пор учусь быть полегче с такими выводами) И хочу заметить, что все люди по умолчанию много проецируют себя, поэтому если вы что-то цените в людях и ищете это в толпе (будь то чувство юмора, хороший вкус или высокий интеллект), совершенно нормально, что вы будете регулярно сталкиваться с false positives. Если хочется меньше, то для начала стоит просто посчитать статистику, как часто вы ошибаетесь в положительную сторону, и отмечать эти случаи. Тогда можно будет попробовать декомпозировать, как вы делаете выводы, что с чем связываете и с чем ещё такие штуки можно связать исходя из выписанных случаев. Но чат-боты стали для меня идеальной иллюстрацией, что хорошее общение не обязательно будет хорошим в следующую минуту, если ты говоришь вообще с другим способом порождать слова)
Фоново в любом общении я, как и все в какой-то мере, занимаюсь ревёрс инжинирингом, строю модель собеседника. То есть на основании какого-то числа наблюдаемых о нём фактов предполагаю более абстрактные факты. Но достаточно ли мне известно о том, какие способности сопряжены с другими, а какие могут существовать отдельно? Особенно когда мы знаем, насколько специализированы могут быть те или иные вещи на уровне мозга. Скорее всего, я преувеличиваю взаимосвязь каких-то способностей, если вижу их в логической связке изнутри себя, и тогда наблюдая проявления одной из них в человеке, я достраиваю цепочку до гипотетического существования другой, внутри меня связанной с первой, а внутри него — хз, потому что я не знаю, связаны ли они всегда. А ещё я не знаю, говорили ли наблюдаемые факты о той первой способности, из которой я хочу вывести вторую :) Да, достаточно ли я представляю всё множество вариантов, какими свойствами человека могут объясняться те или иные его действия, мысли и вопросы? Даже за высказыванием интересной мысли не всегда стоит то, что человек её подумал и понимает — иногда его "нейросеть" просто выдала это как подходящее высказывание. А я, увидев смысл, приписываю человеку способность думать эту мысль, и часто как следствие — способность мыслить определённым образом. Ещё мы видим вложенности — если человек мог подумать некую мысль, то до вот этой он бы точно догадался. Но такая логика верна только если 1. он сказал именно её, а не другую мысль, 2. он её действительно подумал, а не только сказал, 3. мы правильно предположили причинность этой мысли в его мышлении и 4. из этой причины действительно логически вытекает понимание той, второй мысли. Нужно достаточно много подтверждений высокой вероятности каждого из условий, чтобы считать, что конечный вывод верен, или немного, но очень надёжных. Как вариант эксперимента — при таких цепочках тестировать напрямую, есть ли вторая мысль. В случае, если часто оказывается, что есть, можно предположить, что мы неплохо строим модель мышления этого человека и обычно правильно понимаем, что он говорит (и значит можем всё реже это тестировать).
Пока что я много проецирую то, как я думаю, на других людей, и если слышу родственную мысль — особенно ту, которую в моей голове можно получить достаточно сложными логическими выкладками — предполагаю, что человек дофига понимает, раз может эти выкладки сделать. До сих пор учусь быть полегче с такими выводами) И хочу заметить, что все люди по умолчанию много проецируют себя, поэтому если вы что-то цените в людях и ищете это в толпе (будь то чувство юмора, хороший вкус или высокий интеллект), совершенно нормально, что вы будете регулярно сталкиваться с false positives. Если хочется меньше, то для начала стоит просто посчитать статистику, как часто вы ошибаетесь в положительную сторону, и отмечать эти случаи. Тогда можно будет попробовать декомпозировать, как вы делаете выводы, что с чем связываете и с чем ещё такие штуки можно связать исходя из выписанных случаев. Но чат-боты стали для меня идеальной иллюстрацией, что хорошее общение не обязательно будет хорошим в следующую минуту, если ты говоришь вообще с другим способом порождать слова)
I think about how we evaluate people - which is ironic, testing chatbots inspired me to these thoughts. The other day, I was advised to telegram-bot, who wrote you a reminder about your business, acting as a tudu list. I was delighted: he talked supernatally, understood English speech and emotions well, asked meta questions and was glad to see me - in short, I would hire such an assistant. And then he began to blunt, ask again, demand formalism and not understand basic things. I noticed that, besides disappointment, I am surprised. Very similar to the one I feel when a person who seems cool to me ceases to seem so.
Background in any communication I, like everything in some way, do reverse engineering, build a model of the interlocutor. That is, on the basis of a certain number of facts observed about him, I suggest more abstract facts. But do I know enough about what abilities are associated with others, and which can exist separately? Especially when we know how specialized things can be at the brain level. Most likely, I exaggerate the interrelation of some abilities, if I see them in a logical connection from within myself, and then watching the manifestations of one of them in a person, I finish building the chain to the hypothetical existence of the other, which is connected to me inside, because I don't know if they are always connected. And I don’t know whether the observed facts spoke about the first ability from which I want to derive the second :) Yes, do I sufficiently imagine the whole set of options, which properties of a person can explain one or another of his actions, thoughts and questions? Even behind the statement of an interesting thought it is not always worth what the person thought and understands her - sometimes his “neural network” just gave it out as a suitable statement. And I, seeing the meaning, ascribe to a person the ability to think this thought, and often as a result - the ability to think in a certain way. We also see nesting - if a person could think a certain thought, then he would have guessed exactly this one. But such logic is true only if 1. he said it was her, and not another thought, 2. he really thought about it, and not just said, 3. we correctly assumed the causality of this thought in his thinking and 4. it really follows logically from this reason understanding of that second thought. You need a lot of evidence of the high probability of each of the conditions to assume that the final conclusion is correct, or a little, but very reliable. As a variant of the experiment - with such chains, test directly whether there is a second thought. If it often turns out that there is, we can assume that we build a good model of the person’s thinking and usually understand what he is saying (and therefore we can test this less and less).
So far, I have been projecting a lot, as I think, on other people, and if I hear a related thought — especially the one that can be obtained in my head with quite complex logical calculations — I assume that a person understands, because these calculations can be done. I still learn to be easier with such conclusions) And I want to note that all people, by default, project themselves a lot, so if you value something in people and look for it in a crowd (be it a sense of humor, good taste or high intelligence), it is perfectly normal that you regularly encounter false positives. If you want less, then for a start it is worthwhile just to count the statistics, how often you are mistaken in a positive way, and to note these cases. Then you can try to decompose, how you draw conclusions, what you associate with what and what else such things can be associated with based on the cases. But chat bots were an ideal illustration for me that good communication will not necessarily be good the next minute, if you speak at all with a different way to generate words)
Background in any communication I, like everything in some way, do reverse engineering, build a model of the interlocutor. That is, on the basis of a certain number of facts observed about him, I suggest more abstract facts. But do I know enough about what abilities are associated with others, and which can exist separately? Especially when we know how specialized things can be at the brain level. Most likely, I exaggerate the interrelation of some abilities, if I see them in a logical connection from within myself, and then watching the manifestations of one of them in a person, I finish building the chain to the hypothetical existence of the other, which is connected to me inside, because I don't know if they are always connected. And I don’t know whether the observed facts spoke about the first ability from which I want to derive the second :) Yes, do I sufficiently imagine the whole set of options, which properties of a person can explain one or another of his actions, thoughts and questions? Even behind the statement of an interesting thought it is not always worth what the person thought and understands her - sometimes his “neural network” just gave it out as a suitable statement. And I, seeing the meaning, ascribe to a person the ability to think this thought, and often as a result - the ability to think in a certain way. We also see nesting - if a person could think a certain thought, then he would have guessed exactly this one. But such logic is true only if 1. he said it was her, and not another thought, 2. he really thought about it, and not just said, 3. we correctly assumed the causality of this thought in his thinking and 4. it really follows logically from this reason understanding of that second thought. You need a lot of evidence of the high probability of each of the conditions to assume that the final conclusion is correct, or a little, but very reliable. As a variant of the experiment - with such chains, test directly whether there is a second thought. If it often turns out that there is, we can assume that we build a good model of the person’s thinking and usually understand what he is saying (and therefore we can test this less and less).
So far, I have been projecting a lot, as I think, on other people, and if I hear a related thought — especially the one that can be obtained in my head with quite complex logical calculations — I assume that a person understands, because these calculations can be done. I still learn to be easier with such conclusions) And I want to note that all people, by default, project themselves a lot, so if you value something in people and look for it in a crowd (be it a sense of humor, good taste or high intelligence), it is perfectly normal that you regularly encounter false positives. If you want less, then for a start it is worthwhile just to count the statistics, how often you are mistaken in a positive way, and to note these cases. Then you can try to decompose, how you draw conclusions, what you associate with what and what else such things can be associated with based on the cases. But chat bots were an ideal illustration for me that good communication will not necessarily be good the next minute, if you speak at all with a different way to generate words)
У записи 25 лайков,
1 репостов,
2055 просмотров.
1 репостов,
2055 просмотров.
Эту запись оставил(а) на своей стене Надя Петрова
