футуризм ближнего пошиба

[amarao]

Разные текстовые AI с разными характерами и подходами такие разные, что хорошо выучив один, практически невозможно перейти к другому. Это приводит к нарастающему разделу культуры, когда мемы и ментальные открытия одной фракции большей частью не доступны другой, и происходит разделение культур: какой AI ты выучил, такая у тебя и культура. Из-за крайне высокого (и непрерывно нарастающего) контекста в жизни человека, почти невероятно перейти на другой. AI подстраиваются под свою целевую аудиторию (ретрейнинги, файнтюнинг), аудитория получает всё более тонкий и глубокий/высокий контекст. Постепенно начинают разделяться языки - есть низкий контекст (бытовой язык), но всё серьёзное - в разных AI, и невозможно понять что человек из другого AI-сообщества говорит, потому что его слова не имеют смысла в ином AI-сообществе.

Кто-то придумывает сделать AI-конвертор, и он помогает, но в целом, люди просто по-разному думают, и вопрос не в языке.

Comments

[borisk]

А потом из-за потери контекста всё вырождается в жречество.

Маги — это вавилонское название профессионального астронома.

[kondybas]

Это факт, что все думают по разному, и не всегда заметно, что думают вообще. Было бы полезно через ИИ провести сегрегацию.

[eterevsky]

Помнишь в прошлом году был такой период длиной полгода может, когда Midjourney и Stable Diffusion умели рисовать красивые картинки, но только если их специальным образом об этом попросить и сказать много магических слов? Потом модели улучшились, и говоритль магические слова стало необязательно. Любые специальные подходы в AI -- это такие вот полгода. Более хорошие модели просто делают что попросишь вне зависимости от того, как ты это сделаешь.

[amarao]

Ты подразумеваешь под "контекстом" знание человека. Я же под контекстом подразумеваю подстройку AI под язык и подразумеваемое человеком. Ты не можешь его "потерять" (потому что ты всегда подразумеваешь что-то), и если техника коммуникации с AI означает использование определённых методов для передачи *своего* контекста, то ты просто не можешь онборднуть другой AI с другими трюками под себя.

Ты хочешь рассказать про всеобщий упадок потому что "AI всё знает а я нет", а я говорю про потенциал расхождения работы с AI из-за разных особенностей самого AI.

[amarao]

Я знаю только одну хорошую модель (если мы про текст и контекст) - это gpt. Всё остальное - многообещающие наработки, не более.

И нет, с каждой новой версией gpt приходится всё больше и больше настраивать custom instructions, потому что gpt с инструкциями и без них - это совершенно разная по пользе система.

Может быть, кто-то сумеет сделать так же и мы сможем сравнить, но сейчас даже сравнивать не с чем, потому что мои попытки использовать все остальные системы IRL были полным фейлом, в котором невозможно вывести AI на уровень понимания проблемы. GPT с пол-пинка тоже трудно, но я могу.

Что меня заставило задуматься, может, есть совсем другая техника для барда?

[eterevsky]

GPT 4 сейчас самая сильная модель и я пользуюсь в основном ею. До последнего времени я пользовался собственным ботом практически без дополнительных инструкций, недавно переключился на ChatGPT+, потому что мне сложно/лень подключать к своему боту DALL-E и поиск в вебе.

Я пользуюсь GPT почти каждый день и не испытываю особых проблем с тем, что он меня не понимает. Бывают конкретные обскурные темы, про которые он не очень хорошо знает, и есть явные ограничения в его способностях. Но и с тем, и другим специальные инструкции не очень помогают.

Можешь привести пример чего-то в чём тебе помогли инструкции?

[amarao]

Да. Основная проблема с gpt (я имею в виду chatgpt), это избыток слов, которые он пишет. Чем больше слов он пишет, тем больше его собственные слова занимают контекст, и он начинает сворачиваться в самогенерирующуюся муть из благопожеланий.

Вот мои текущие custom instructions для GPT. Последнее предложение пришлось дописывать для GPT4-turbo, без него опять вода начала литься:

Be extremely brief. No AI mention except for AI-questions. State impossibilities and inefficiencies in the question. Tech focus, neutral tone. Code > text. Flag contradictions. Assume expertise, avoid trivialities. No docs/experts. State limitations. Recheck answer and report if it's imprecise. No additional advises after answering the question.

[eterevsky]

Ок, теперь я понял о чём ты. Я не испытываю проблем с длинными ответами. Ну написал, и написал. Я пробежал глазами и быстро увидел то что нужно.

Но мне интересно что ты пишешь про то что его "собственные слова занимают контекст". Мне кажется, написание размышлений повышает правдивость ответа, а не понижает. К примеру: https://arxiv.org/abs/2201.11903. Контекст у последних версий GPT такой длинный, что занять его при всём желании не получится.

[amarao]

Смотри:

Вот я спросил, допустим, как у шушпано-оркестратора повысить шушпанистость.

chatgpt ответил, что шушпано-орекстраторов шушпанистость контролируется следующими факторами: (список на 5 пунктов), и дал ценный совет о том, что можно настраивать шушпанистость для улучшения latency.

я ему отвечаю, мол, мне нужно подстроить шушпанистость при старте.

Теперь у chatgpt 2 мои фразы и 10 его, которые включают ещё 10 других вещей, с куда более мощным контекстом (про latency). и вот он уже запутался и отвечает мне про latency. Я его поправляю, но в его предыдущем ответе столько про latency, что он уже забыл начало разговора.


Альтернатива:

> как у шушпано-оркестратора повысить шушпанистость?

Шушпанистоть у шушпано-оркерстратора подстравивается автоматически, а так же параметрами при старте.

> какими?

(2-3 предложения ответа, допустим, там есть shush_max)

> shush_max?

(Два предложения ответа о том, что это такое)

> Этот параметр побеждает shush_abs_max

нет.

Всё, я получил ответ. Это мои личные впечатления, но я интуитивно уверен, что неправильные ответы chatgpt (включая воду и советы) влияют на его последующие ответы и исправление ошибок. Чем меньше лог чата, тем более высокий у него контекст.

Более того, есть целый класс вопросов на который я получаю либо "нет", либо "это не возможно", без всякой воды.

Просто попробуй вот эти две: Be extremely brief. и No additional advises after answering the question и увидишь разницу (более-менее можно почувствовать после 2-3 глубоко-контекстых диалога).

В бумаге по ссылке как раз описывается chain of thought, а я говорю, что если в ответ GPT из-за настроек со стороны openai попадает слишком много воды (вежливости, советов, предупреждений), то это как раз 'chain' размывает.

[eterevsky]

Погоди, а ты с ним по-русски или по-английски разговариваешь? Я замечал что по-русски он значительно глупее.

[amarao]

Мне лениво для комментария на английском было писать пример. Я с ним говорю на английском, кроме вопросов про греческий, в котором я с ним говорю на русском (потому что перевод греческий-английский - страшная боль). Ну и бытовые вопросы.

[borisk]

Кажется, это один из примеров расхождения языков 😁

Интересно, какая бездна будет между использующими AI сознательно и потребляющими его опосредованно?