гипотетическое

[amarao]

Есть консенсус, что как только мы изобретём AI, он тут же пойдёт по экспоненте в сингулярность.

А если нет? Если это логистическая кривая?

Допустим, через два года у нас будет AI с условным человеко-индексом 70%. Через 4 года - 75%. Через 12 лет - 78%. Через 30 лет мы доползём до 83% и будем иметь эстимейты 85% через 200 лет.

Возможный сценарий? Почему бы и нет? Последствия? Рабочий инструмент без апокалиптических последствий.

Comments

[kondybas]

А есть ли смысл вообще строить АИ? Как показывает даже минимальный опыт общения с чятгпт, ассоциативной машины, как инструмента, вполне достаточно. А если она еще будет брать в расчет не только наличие текстов в сети, но и минимально ранжировать тексты по достоверности... Кросс-валидацию какую-то прикрутить, домены мнений по разным вопросам построить. Может, появится система фидбека, где кожаные мешки будут решать, что такое хорошо и что такое плохо в проблемных вопросах.

Я в скайпе поигрался с LM от MS, неожиданно понравилось. Я задавал писать код на руби для скетчупа - чего сам не умею, но испытываю достаточно острую потребность. Со второй-третьей попытки оно даже попадает, но пока еще проверять-перепроверять-переперепере. И да, как референт по мануалам оно сейчас наиболее адекватно. То-есть, пробежаться по иерархии классов в АПИ и выдать пример приемлемого кода - вот это оно могёт.

[ex0_planet]

Ну так-то всё правильно — никому не нужен был автомобиль, нужна была более быстрая лошадь и чтоб навоз убирать поменьше.

[amarao]

Вопрос "стоит ли" странный. Для тебя не стоит, но если ты добавишь квантор всеобщести "не существует человека, которому бы хотелось сделать AI посильнее", то становится понятно, что такой человек существует. Значит, точно будут пытаться. Дальше у нас пачка алармистского футуризма (с примесью утопического футуризма).

А вот я попробовал альтернативную идею: а что, если логистическая кривая? И, допустим, мозг человека на этой логистической кривой уполз на 60к лет эволюции вперёд.

[juan_gandhi]

Да стоило бы вообще понять, что за штука такая, интеллект. И почему это ГПТ, хоть 3, хоть 4, так ловко врет. Ну сказал бы, мол, ой, не знаю, что такое симплектическая монада или мультифункциональное программирование. Нет, тут же начинает врать, как индус на интервью.

[anonim_legion]

Так его кто обучал-то, кто занимался разметкой данных. ОНИ.

[juan_gandhi]

Да конечно. Кто-то же просто не счел бы адекватным такой прибор, что врет постоянно.

[amarao]

Представь себе прибор, который может указать на ошибочный сигнал в цепи, очень точно (например, "вот тут вот фаза съехала", или "а вот тут фронт сигнала слишком пологий"), но 10% раз. А 90% раз брехать. Будешь использовать? Опыт говорит, что инсайты 1 к 10 всё равно ценные.

А ещё ценно, что когда он врёт, он может врать, но достаточно глубоко в тему, чтобы оставить пищу для размышлений и поиска.

[juan_gandhi]

Я три дня потерял, пытаясь следовать философским советам этого прибора.

[amarao]

А я ж недавно писал основной принцип работы с постпанковским 8-balls. Время проверки предложенного решения должно быть меньше времени самостоятельного поиска ответа. Если ты спрашиваешь что-то, что не можешь проверить за условные o(1), значит, тебе сбрехают. Если можешь - 2-3 итерации коррекции запроса, и либо у тебя есть ответ, либо более-менее уверенность, что задача нестандартная (и либо не имеет ответа, либо никто её раньше не решал).

Если не можешь проверить - ты используешь гадалку неправильно.

[anonim_legion]

Поскольку я читаю вас очень давно, я помню что вы не только айти занимались. Так вот, вы на Таро раскидывать не пробовали? Ну мало ли, вдруг работало.

[amarao]

Нет, у меня есть книга Мормонов, с которой я консультируюсь каждый раз, когда мне нужен random.choose().

[amarao]

У ChatGPT нет совести. Это факт.

Но я не про chatgpt, а про те алармистские AI, которыми пугают.