![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
amaraoВсё-таки меня онтологически штырит от происходящего. Уровень контекста, который сохраняется в ответе, не позволяет отмахнуться от "это просто автокомплит на стероидах".
Всё, что раньше читалось в фантастике и в философских теоретических работах, теперь звучит очень прагматично. Целые классы абстрактных рассуждений внезапно получили невероятную конкретность.
Китайская комната: https://ru.wikipedia.org/wiki/%D0%9A%D0%B8%D1%82%D0%B0%D0%B9%D1%81%D0%BA%D0%B0%D1%8F_%D0%BA%D0%BE%D0%BC%D0%BD%D0%B0%D1%82%D0%B0
Permutation City: https://fantlab.ru/work49736
его же "Диаспора"
... Пожалуй, самый холодок по спине идёт при флешбэках из Permutation City/Diaspora. Его наблюдение за "коврами" и самим собой, как исполнителем чужой тьюринг-полной программы, которая и есть сознание, это же просто безумие, и после появления всех этих chat*pt - от него нельзя уже отмахнуться.
Там же разделяют сознание: чужое, и само-сознание - ощущение своего сознания. Самосознание невозможно обнаружить (у других), можно обнаружить сознание.
Chatgpt уже с лёгкостью показывает "сознание", есть ли у него самосознание? А мы не можем это обнаружить, потому что снаружи нам видно только сознание, и что нам теперь делать?
Я не беспокоюсь за "душевные переживания" нейронки, я беспокоюсь за наше понимание "душевных переживаний". В какой момент имитация становится не имитацией?
Всё, что раньше читалось в фантастике и в философских теоретических работах, теперь звучит очень прагматично. Целые классы абстрактных рассуждений внезапно получили невероятную конкретность.
Китайская комната: https://ru.wikipedia.org/wiki/%D0%9A%D0%B8%D1%82%D0%B0%D0%B9%D1%81%D0%BA%D0%B0%D1%8F_%D0%BA%D0%BE%D0%BC%D0%BD%D0%B0%D1%82%D0%B0
Permutation City: https://fantlab.ru/work49736
его же "Диаспора"
... Пожалуй, самый холодок по спине идёт при флешбэках из Permutation City/Diaspora. Его наблюдение за "коврами" и самим собой, как исполнителем чужой тьюринг-полной программы, которая и есть сознание, это же просто безумие, и после появления всех этих chat*pt - от него нельзя уже отмахнуться.
Там же разделяют сознание: чужое, и само-сознание - ощущение своего сознания. Самосознание невозможно обнаружить (у других), можно обнаружить сознание.
Chatgpt уже с лёгкостью показывает "сознание", есть ли у него самосознание? А мы не можем это обнаружить, потому что снаружи нам видно только сознание, и что нам теперь делать?
Я не беспокоюсь за "душевные переживания" нейронки, я беспокоюсь за наше понимание "душевных переживаний". В какой момент имитация становится не имитацией?
no subject
Date: 2023-03-11 10:37 am (UTC)Ты читал permutation city? По моим ощущениям, внешние проявления chatgtp уже на уровне его цифровых жильцов. Может быть ещё не совсем на уровне, потому что нет воли, но всё остальное явно присутствует.
no subject
Date: 2023-03-11 11:40 am (UTC)Нет, не читал. Воли нет, это точно. Но и истины нет, нет честности. Нет критериев. Вот это отвращает.
no subject
Date: 2023-03-11 01:04 pm (UTC)Ну, с практической точки зрения я к нему отношусь как поиску в гугле (с поправкой на то, что нет источника). Не получилось - подбери запрос точнее.
А вот с точки зрения философии сознания - ощущение, сравнимое с превращением гёделевской зауми в объективную реальность программы. Дрожь и трепет.
Если же говорить про интерепретацию чата как общения с человеком: совести нет, воли нет, уважения к себе нет, страха нет. С лёгкостью признает ошибки и не сделает из этого выводов. Трамп на стероидах, так сказать.
no subject
Date: 2023-03-11 04:04 pm (UTC)Мы узнали кое-что об обобщенном среднем человеке. Что литература от нас скрывала.