Задумался, морально ли обманывать нейронку. Решил, что если нейронка тупая, то можно.
Если нейронка тупее меня.
С chatGPT у меня уверенности в этом нет.
Наверное, есть уже специальные промпты, которые позволяют одурачить даже GPT 4.0 или как там её.
Но и для человека есть аналогичные промпты. "Сколько животных какого вида во время Всемирного Потопа поместил на ковчег Моисей?"
Я не знаю, как это работает.
Никто не знает, как это работает.
Можете фейспалмить сколько угодно. Пока я не понимаю, каким образом за пару секунд в ответ на мой шутливый или философский вброс рождается убедительный и конкретный ответ, весь ваш снобистский техноскептицизм ничего не стоит.
"Нейросеть просто предсказывает наиболее вероятное продолжение текста".
Бред.
Это значит, когда я пошутил насчёт "Во время полётов во сне я часто нарушаю правила астрального движения и меня оштрафовал архангел", а chatGPT разродился целой телегой про небесную бюрократию, нежелательность пролетать над библиотеками Акаши и возможные мотивации архангела, его ответ был "наиболее вероятным продолжением текста"? Это по какой измерительной шкале? Нет, в принципе возможно, но для этого правила, оценивающие вероятность, должны быть такими охренительно сложными, что, блять, это точно ни капли не разум?
Причём та датабаза, на которую все с умным видом ссылаются, как якобы на "объясняющую" поведение нейросети, ничего не объясняет на самом деле. В этой датабазе из миллионов разговоров между реальными пользователями никто не шутил про штрафующего архангела и библиотеки Акаши. В этой датабазе никто или почти никто не называл себя ИИ — а chatGPT в разговорах открыто признаёт, что он ИИ. Так что все "популярные на пальцах" объяснения принципов работы LLM — какой-то бред сивой кобылы.
Я смотрю научно-популярный ролик, интервью Семихатина и Оселедца по поводу ИИ.
Я надеюсь услышать там понятное объяснение, как работает нейросеть.
Но что я там слышу?
"Мы сами удивились, что система с таким количеством параметров не обвалилась, по нашим расчётам должна была".
"Ах, это не математика, это скорее инженерия, мы смотрим, что получится".
Так Стар в "Дороге славы" у Хайнлайна объясняла принципы магии.
Блядь, вы колдуны, открывшие окно в Варп?!