ai-чатное

[amarao]

Всё-таки меня онтологически штырит от происходящего. Уровень контекста, который сохраняется в ответе, не позволяет отмахнуться от "это просто автокомплит на стероидах".

Всё, что раньше читалось в фантастике и в философских теоретических работах, теперь звучит очень прагматично. Целые классы абстрактных рассуждений внезапно получили невероятную конкретность.

Китайская комната: https://ru.wikipedia.org/wiki/%D0%9A%D0%B8%D1%82%D0%B0%D0%B9%D1%81%D0%BA%D0%B0%D1%8F_%D0%BA%D0%BE%D0%BC%D0%BD%D0%B0%D1%82%D0%B0

Permutation City: https://fantlab.ru/work49736

его же "Диаспора"

... Пожалуй, самый холодок по спине идёт при флешбэках из Permutation City/Diaspora. Его наблюдение за "коврами" и самим собой, как исполнителем чужой тьюринг-полной программы, которая и есть сознание, это же просто безумие, и после появления всех этих chat*pt - от него нельзя уже отмахнуться.

Там же разделяют сознание: чужое, и само-сознание - ощущение своего сознания. Самосознание невозможно обнаружить (у других), можно обнаружить сознание.

Chatgpt уже с лёгкостью показывает "сознание", есть ли у него самосознание? А мы не можем это обнаружить, потому что снаружи нам видно только сознание, и что нам теперь делать?

Я не беспокоюсь за "душевные переживания" нейронки, я беспокоюсь за наше понимание "душевных переживаний". В какой момент имитация становится не имитацией?

Comments

[juan_gandhi]

Я пока что реализма не вижу, а вижу механизм построения реальности во сне.

[amarao]

Ты читал permutation city? По моим ощущениям, внешние проявления chatgtp уже на уровне его цифровых жильцов. Может быть ещё не совсем на уровне, потому что нет воли, но всё остальное явно присутствует.

[juan_gandhi]

Нет, не читал. Воли нет, это точно. Но и истины нет, нет честности. Нет критериев. Вот это отвращает.

[amarao]

Ну, с практической точки зрения я к нему отношусь как поиску в гугле (с поправкой на то, что нет источника). Не получилось - подбери запрос точнее.

А вот с точки зрения философии сознания - ощущение, сравнимое с превращением гёделевской зауми в объективную реальность программы. Дрожь и трепет.

Если же говорить про интерепретацию чата как общения с человеком: совести нет, воли нет, уважения к себе нет, страха нет. С лёгкостью признает ошибки и не сделает из этого выводов. Трамп на стероидах, так сказать.

[juan_gandhi]

Мы узнали кое-что об обобщенном среднем человеке. Что литература от нас скрывала.

[kondybas]

"ИИ" не показывает сознание. Он лишь достаточно правдоподобно его имитирует. Справедливости ради, некоторые хомо, хоть номинально и сапиенсы, неспособны даже на это.

[juan_gandhi]

Вот этот вот факт ИИ как раз прекрасно иллюстрирует.

[kondybas]

Который из двух упомянутых фактов?
То, что ИИ правдоподобно имитирует сознание или то, что некоторые ЕИ на это неспособны?

[juan_gandhi]

Что стандарты ЕИ вполне имитируются ИИ. Это дает какие-то элементы понимания, что за зверь такой, массовое сознание.

[kondybas]

А, это...

Ну, анализ и синтез не всем по силам, многим достаточно грамматической корректности построений.

[amarao]

"Показывает" и есть "имтирует", ты просто синонимы используешь. Точнее, ты хочешь подразумевать, что одно из них имеет какую-то внутреннюю сущность (скрытый параметр), а второе лишь имитация первого без внутренней сущности.

А холодок по спине идёт от мысли, что на самом деле может быть, и нет никакой "внутренней сущности", а есть только количественное различие, и в этом смысле chatgpt от кожанных мешков отличается лишь количественно, а не качественно.

[kondybas]

Тут, имхо, следует различать достаточно специфические сущности - разум, интеллект, сознание, личность етц.

Мои наблюдения позволяют утверждать, что разумность - более глубокий и сложный механизм, чем сознание и, тем более, личность. Например, феномен "интуиции" - это просто аллегория, скрывающая тот факт, что решение задач может происходить на под/вне/бессознательном уровне, без привлечения сознания и личности. Решение просто "приходит" в готовом виде, и личность дупля не нарезает - как и откуда оно взялось. С точки зрения сознания/личности - это чудо. Но если принять, что мышление может протекать бессознательно, аки фоновый процесс относительно гуя "личность" - тогда все становится логичным.

Так вот нынешние ИИ - они могут демонстрировать некоторые аспекты разумности, и при этом быть начисто лишены сознания/личности. И это даже хорошо. Точно так же, как калькулятор выполняет арифметические операции, не заморачиваясь осознанием сути выполняемого.

А что человекам предложили имитатор разумности в человекообразной вербальной форме... Ну, это вопрос юзабилити.

[amarao]

Мы опасно близко подошли к обсуждению того, что такое "сознание" (без приставки само-). Для меня сознание, это учитывание контекста. И вот тут-то как раз все эти GPT блещут в полный рост, у них контекст огроменный и весьма тщательный, в момент фомирования ответа. Вот если контекст менять, тут всё начинает плыть. Перестанет плыть (а, насколько я понимаю, это технологический вопрос), и будет сознание - всем сознаниям сознание.

Хотя по-прежнему без понимания того, что такое правда, без совести и без желаний.

[kondybas]

Что же до "внутренней сущности", ее отсутствие прямо означает кросс-платформенность разума/сознания/личности и возможность портирования системы на другую архитектуру. Что, как по мне, не может не радовать.

[amarao]

Если вчитаться в permutation city и в diaspora, то там как раз фантастической идеей идёт то, что самосознание одного - результат наблюдения другого. Нет наблюдателя, нет самосознания. Звучит парадоксально, но книги на 30% посвящены разбору этого парадокса, который сведён к субъективности понятия "вычисления" (вычисления одного - хаос другого).

[eterevsky]

Я сейчас читаю "Consciousness and the Brain" и решил применить одно из обсуждаемых там определений сознания к ChatGPT: https://eterevsky.substack.com/p/on-consciousness-and-chatgpt.

TLDR: inconclusive, но скорее нет, чем да.

[amarao]

Мы только что видели зависание chatgpt на просьбе показать последние три цифры pi. После зависания стала нести ахинею.

То же самое с akkerman (3,3). Оно даже пытается рассуждать, но в конце теряется.

В целом, у меня ощущение, что к машине Тьюринга добавили ещё одно мета-состояние: сбрехать. И все парадоксы тут же разрешились, потому что если машине разрешают иногда брехать, она вывернется из любой проблемы.

[amarao]

Я не слоупок, но я долго думал, насчёт тезиса об итеративности мышления. Мне кажется, в этом есть большая важная особенность мышления, которую даже стараются подчеркнуть в доказательствах: сначала идёт сложная мыслительная работа, в ходе которой образуется одна (проверенная) новая идея (вывод из старой), а потом эта идея уже используется как атом (лемма) в следующей итерации. В отличие от обычных "функций в программировании" при рассуждении о конкретном вопросе всё равно в бэкграунде есть основная проблема (глобальный стейт).

Может быть, если бы чатгпт могла сама себе задать вопросы о высказанном и поправить ответ в соответствии с ответами на эти вопросы, то результат был бы круче.

... Но тут нужно иметь совесть или его аналог, а у chatgpt его нет.