Я знаю как выглядит брешущий саппорт. Обычно это заметно по тому, как он теряет контекст.
Проблема брехни chatgpt в том, что она не теряет контекст. Ты задаёшь невероятно глубокий вопрос с цатью словами контекста, и он это поддерживает (и даже развивает). Все второстепенные признаки показывают на правду. Ты понимаешь в этом ответе как именно он решает проблему, это выглядит логично и хорошо. Кроме того, что это брехня и так не работает.
Я несколько раз уже попался, хотя обещал себе не задавать вопросы, которые я не могу легко проверить.
Не, ну в таком контексте мне хватило ответа на вопрос "сколько букв в слове шесть".
Но ты ведь понимаешь, что это только начало? Что будет лет через несколько я, например, предсказать не берусь. Но искренне надеюсь, что первый уровень саппорта перевести на железку стоящую в моей серверной будет уже можно.
"шесть букв", это не глубокий контекст. Вот как выглядит глубокий контекст брехни.
Q: If I create systemd.netdev unit with dummy interface, do I need to specify [Install] section or not?
A: Yes, you still need to specify the [Install] section even if you are creating a systemd.netdev unit for a dummy interface.
The [Install] section of a systemd.netdev unit specifies the dependencies and ordering of network devices, which is important for proper network configuration and management. Even though the dummy interface may not have any direct dependencies or ordering requirements, it's still a good practice to include the [Install] section in your unit file.
Here's an example of what the [Install] section for a dummy interface might look like:
[Install]
WantedBy=network.target
This specifies that the dummy interface should be started as part of the network.target unit, which is the default target for network services on most systems.
И это 100% брехня (netdev для systemd-networkd не поддерживает секцию [Install], а вместо этого использует секцию [Match]). Но какая убедительная....
Слушай, ну если оно не знает сколько букв в слове шесть, то почему оно должно знать недра systemd? Или кто автор книги "волны гасят ветер"? Оно может на голубом глазу сказать > Фраза происходит из того, что редька - это овощ, имеющий сладкий вкус, а хрен - корень, который имеет острый вкус. при попытке объяснить смысл пословицы "хрен редьки не слаще".
И если оно рожает вот такое: > Румата Эсторский - вымышленный персонаж из цикла романов Льва Гумилева "Искатели" и в Икающий лес отправлялся в одном из романов данного цикла "Вымысел о зеркалах" для того, чтобы исследовать эту загадочную местность и попытаться найти там зеркала, обладающие магической силой.
то почему он не может так-же бредить и провсё остальное?
Проблема не во вранье, а в том, что она сохраняет контекст. https://xkcd.com/1301/ больше не работает. Кстати, оба примера про редьку и румату - слишком поверхностные. Надо глубжее (в смысле примеров).
У меня пара промовых запросов есть, в которых он погружался вопрос глубже, чем я (что обычно отключает часть критического мышления), то есть копал в область, о которой я не знал, и уже там - брехал невероятно.
Я понять не могу - чем пугает-то? Ну т.е. если оно лажает на тривиальных вопросах, пусть оно хоть в самые недра погрузится - оно и там будет лажать. Я понимаю, если-бы оно никогда-никогда обычно не лажала, но очень-очень изредка (допустим в 0.1% ответов) вело себя так, как ведёт сейчас. Т.е. с уверенным видом гнало похожую на правду пургу. Вот тогда это было-бы страшно.
А сейчас - если кто-то что-то делает основываясь на ответах ГПТ, это говорит не о качестве ГПТ, а о разуме делающего.
Потому что есть разы, когда оно говорит правду. Понятно, что привыкнем, но сейчас для меня непривычно, что говорящий (я написал "человек", пришлось исправлять), находящийся в высочайшем контексте, будет брехать. Вся система второстепенных признаков разваливается.
Знаешь кого оно мне напоминает? Студента, с очень хорошо подвешенным языком, который сдаёт экзамен по теме, в которой он плавает. Ну т.е. получается не совсем отсебятина, но иногда можно и откровенную пургу сказать, вдруг не заметят? :)
Пока OpenAI не объявит, что оно несёт финансовую и уголовную ответственность за то, что насоветует их ChatGPT (или пока хотя-бы кто нибудь эту ответственность на себя не возьмёт) относиться к ChatGPT иначе чем к прикольной игрушке - странно.
В том-то и дело, что студента легко поймать на том, что он пытается с высокого контекста увести в общий (низкий). А тут - наоборот, уверенно углубляется, то есть есть ощущение, что знает о чём речь. Контекст отличный, правды нет.
Неважно, насколько точно карго-культистами будет воспроизведен из соломы боенг-737. Но достаточно большая прослоечка будет искренне считать, что у белых людей все то же самое, но они ловчее притворяются.
Одно из моих ощущений состоит в том, что в какой-то момент тщательность воспроизведения из соломы достигнет полётного уровня, только никто не будет понимать как оно летает, а когда оно будет (относительно часто падать), то цена стройки из соломы всё равно будет дешевле боинга, так что будут летать на них.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
no subject
Date: 2023-03-13 01:22 pm (UTC)Но чаще ответ будет в стиле "перегрузите" и "у нас всё работает, это у вас что-то".
no subject
Date: 2023-03-13 01:24 pm (UTC)Я знаю как выглядит брешущий саппорт. Обычно это заметно по тому, как он теряет контекст.
Проблема брехни chatgpt в том, что она не теряет контекст. Ты задаёшь невероятно глубокий вопрос с цатью словами контекста, и он это поддерживает (и даже развивает). Все второстепенные признаки показывают на правду. Ты понимаешь в этом ответе как именно он решает проблему, это выглядит логично и хорошо. Кроме того, что это брехня и так не работает.
Я несколько раз уже попался, хотя обещал себе не задавать вопросы, которые я не могу легко проверить.
no subject
Date: 2023-03-13 01:29 pm (UTC)Но ты ведь понимаешь, что это только начало? Что будет лет через несколько я, например, предсказать не берусь. Но искренне надеюсь, что первый уровень саппорта перевести на железку стоящую в моей серверной будет уже можно.
no subject
Date: 2023-03-13 02:22 pm (UTC)!markdown
"шесть букв", это не глубокий контекст. Вот как выглядит глубокий контекст брехни.
Q: If I create systemd.netdev unit with dummy interface, do I need to specify [Install] section or not?
A: Yes, you still need to specify the [Install] section even if you are creating a systemd.netdev unit for a dummy interface.
The [Install] section of a systemd.netdev unit specifies the dependencies and ordering of network devices, which is important for proper network configuration and management. Even though the dummy interface may not have any direct dependencies or ordering requirements, it's still a good practice to include the [Install] section in your unit file.
Here's an example of what the [Install] section for a dummy interface might look like:
This specifies that the dummy interface should be started as part of the network.target unit, which is the default target for network services on most systems.
И это 100% брехня (netdev для systemd-networkd не поддерживает секцию [Install], а вместо этого использует секцию [Match]). Но какая убедительная....
no subject
Date: 2023-03-13 03:08 pm (UTC)> Фраза происходит из того, что редька - это овощ, имеющий сладкий вкус, а хрен - корень, который имеет острый вкус.
при попытке объяснить смысл пословицы "хрен редьки не слаще".
И если оно рожает вот такое:
> Румата Эсторский - вымышленный персонаж из цикла романов Льва Гумилева "Искатели" и в Икающий лес отправлялся в одном из романов данного цикла "Вымысел о зеркалах" для того, чтобы исследовать эту загадочную местность и попытаться найти там зеркала, обладающие магической силой.
то почему он не может так-же бредить и провсё остальное?
no subject
Date: 2023-03-13 03:13 pm (UTC)Может, может брехать.
Проблема не во вранье, а в том, что она сохраняет контекст. https://xkcd.com/1301/ больше не работает. Кстати, оба примера про редьку и румату - слишком поверхностные. Надо глубжее (в смысле примеров).
У меня пара промовых запросов есть, в которых он погружался вопрос глубже, чем я (что обычно отключает часть критического мышления), то есть копал в область, о которой я не знал, и уже там - брехал невероятно.
Вот это пугает.
no subject
Date: 2023-03-13 03:26 pm (UTC)Ну т.е. если оно лажает на тривиальных вопросах, пусть оно хоть в самые недра погрузится - оно и там будет лажать. Я понимаю, если-бы оно никогда-никогда обычно не лажала, но очень-очень изредка (допустим в 0.1% ответов) вело себя так, как ведёт сейчас. Т.е. с уверенным видом гнало похожую на правду пургу. Вот тогда это было-бы страшно.
А сейчас - если кто-то что-то делает основываясь на ответах ГПТ, это говорит не о качестве ГПТ, а о разуме делающего.
no subject
Date: 2023-03-14 10:18 am (UTC)Потому что есть разы, когда оно говорит правду. Понятно, что привыкнем, но сейчас для меня непривычно, что говорящий (я написал "человек", пришлось исправлять), находящийся в высочайшем контексте, будет брехать. Вся система второстепенных признаков разваливается.
no subject
Date: 2023-03-14 10:32 am (UTC)Пока OpenAI не объявит, что оно несёт финансовую и уголовную ответственность за то, что насоветует их ChatGPT (или пока хотя-бы кто нибудь эту ответственность на себя не возьмёт) относиться к ChatGPT иначе чем к прикольной игрушке - странно.
no subject
Date: 2023-03-14 12:46 pm (UTC)В том-то и дело, что студента легко поймать на том, что он пытается с высокого контекста увести в общий (низкий). А тут - наоборот, уверенно углубляется, то есть есть ощущение, что знает о чём речь. Контекст отличный, правды нет.
no subject
Date: 2023-03-13 02:39 pm (UTC)Но достаточно большая прослоечка будет искренне считать, что у белых людей все то же самое, но они ловчее притворяются.
no subject
Date: 2023-03-13 03:10 pm (UTC)Одно из моих ощущений состоит в том, что в какой-то момент тщательность воспроизведения из соломы достигнет полётного уровня, только никто не будет понимать как оно летает, а когда оно будет (относительно часто падать), то цена стройки из соломы всё равно будет дешевле боинга, так что будут летать на них.