ai-чатное

[amarao]

Всё-таки меня онтологически штырит от происходящего. Уровень контекста, который сохраняется в ответе, не позволяет отмахнуться от "это просто автокомплит на стероидах".

Всё, что раньше читалось в фантастике и в философских теоретических работах, теперь звучит очень прагматично. Целые классы абстрактных рассуждений внезапно получили невероятную конкретность.

Китайская комната: https://ru.wikipedia.org/wiki/%D0%9A%D0%B8%D1%82%D0%B0%D0%B9%D1%81%D0%BA%D0%B0%D1%8F_%D0%BA%D0%BE%D0%BC%D0%BD%D0%B0%D1%82%D0%B0

Permutation City: https://fantlab.ru/work49736

его же "Диаспора"

... Пожалуй, самый холодок по спине идёт при флешбэках из Permutation City/Diaspora. Его наблюдение за "коврами" и самим собой, как исполнителем чужой тьюринг-полной программы, которая и есть сознание, это же просто безумие, и после появления всех этих chat*pt - от него нельзя уже отмахнуться.

Там же разделяют сознание: чужое, и само-сознание - ощущение своего сознания. Самосознание невозможно обнаружить (у других), можно обнаружить сознание.

Chatgpt уже с лёгкостью показывает "сознание", есть ли у него самосознание? А мы не можем это обнаружить, потому что снаружи нам видно только сознание, и что нам теперь делать?

Я не беспокоюсь за "душевные переживания" нейронки, я беспокоюсь за наше понимание "душевных переживаний". В какой момент имитация становится не имитацией?

Comments

[kondybas]

"ИИ" не показывает сознание. Он лишь достаточно правдоподобно его имитирует. Справедливости ради, некоторые хомо, хоть номинально и сапиенсы, неспособны даже на это.

[juan_gandhi]

Вот этот вот факт ИИ как раз прекрасно иллюстрирует.

[kondybas]

Который из двух упомянутых фактов?
То, что ИИ правдоподобно имитирует сознание или то, что некоторые ЕИ на это неспособны?

[juan_gandhi]

Что стандарты ЕИ вполне имитируются ИИ. Это дает какие-то элементы понимания, что за зверь такой, массовое сознание.

[kondybas]

А, это...

Ну, анализ и синтез не всем по силам, многим достаточно грамматической корректности построений.

[amarao]

"Показывает" и есть "имтирует", ты просто синонимы используешь. Точнее, ты хочешь подразумевать, что одно из них имеет какую-то внутреннюю сущность (скрытый параметр), а второе лишь имитация первого без внутренней сущности.

А холодок по спине идёт от мысли, что на самом деле может быть, и нет никакой "внутренней сущности", а есть только количественное различие, и в этом смысле chatgpt от кожанных мешков отличается лишь количественно, а не качественно.

[kondybas]

Тут, имхо, следует различать достаточно специфические сущности - разум, интеллект, сознание, личность етц.

Мои наблюдения позволяют утверждать, что разумность - более глубокий и сложный механизм, чем сознание и, тем более, личность. Например, феномен "интуиции" - это просто аллегория, скрывающая тот факт, что решение задач может происходить на под/вне/бессознательном уровне, без привлечения сознания и личности. Решение просто "приходит" в готовом виде, и личность дупля не нарезает - как и откуда оно взялось. С точки зрения сознания/личности - это чудо. Но если принять, что мышление может протекать бессознательно, аки фоновый процесс относительно гуя "личность" - тогда все становится логичным.

Так вот нынешние ИИ - они могут демонстрировать некоторые аспекты разумности, и при этом быть начисто лишены сознания/личности. И это даже хорошо. Точно так же, как калькулятор выполняет арифметические операции, не заморачиваясь осознанием сути выполняемого.

А что человекам предложили имитатор разумности в человекообразной вербальной форме... Ну, это вопрос юзабилити.

[amarao]

Мы опасно близко подошли к обсуждению того, что такое "сознание" (без приставки само-). Для меня сознание, это учитывание контекста. И вот тут-то как раз все эти GPT блещут в полный рост, у них контекст огроменный и весьма тщательный, в момент фомирования ответа. Вот если контекст менять, тут всё начинает плыть. Перестанет плыть (а, насколько я понимаю, это технологический вопрос), и будет сознание - всем сознаниям сознание.

Хотя по-прежнему без понимания того, что такое правда, без совести и без желаний.

[kondybas]

Что же до "внутренней сущности", ее отсутствие прямо означает кросс-платформенность разума/сознания/личности и возможность портирования системы на другую архитектуру. Что, как по мне, не может не радовать.

[amarao]

Если вчитаться в permutation city и в diaspora, то там как раз фантастической идеей идёт то, что самосознание одного - результат наблюдения другого. Нет наблюдателя, нет самосознания. Звучит парадоксально, но книги на 30% посвящены разбору этого парадокса, который сведён к субъективности понятия "вычисления" (вычисления одного - хаос другого).