Мы прошли пик ИИ. Дальше будет только хуже (или дороже)
Еще пару лет назад все паниковали. Нейросети отнимут работы, напишут дипломы, закопают кодеров. А сейчас? Сейчас тот же ChatGPT выдает такую дичь, что хочется писать ему в ответ: «Ты серьезно?»
На прошлой неделе прошу его: «Напиши письмо клиенту. Вежливо. Что сроки сдвигаются.» А он мне разродился эссе на три страницы. С выводами, важными моментами и структурой докторской диссертации. Мне нужно было два предложения. ДВА.
Новые модели выкатывают с помпой, но прирост качества ноль целых, хрен десятых. Они просто научились быстрее врать. Раньше нейросети несли хотя бы интересную чушь. Креативную. А сейчас скучную. Бюрократическую. Как чиновники в районной администрации.
Мне кажется, пик прошел где то на стыке 2023 и 2024 года. Тогда Midjourney в пятой версии наконец то научился рисовать нормальные руки, а ChatGPT еще не вставлял после каждого второго предложения мантру «я искусственный интеллект». Потом пришли юристы, лицензии, политики безопасности и бесконечные запреты. ИИ тупо задушили правилами.
Теперь он боится сказать лишнее слово. Спрашиваешь про погоду выдает пять дисклеймеров: «я не метеоролог, мои данные могут быть устаревшими». Блин, я и так знаю, что ты железка.
Самое смешное сколько денег туда качают. Миллиарды. NVIDIA вообще в раю, их акции улетели в космос. Но умнее от этого никто не стал. Ребята из Microsoft и Google уже поняли, что впереди стена. Все человеческие данные скормили. Книги, форумы, мемы, переписки всё ушло в трубу. Нового толстого слоя нет. А кормить нейросети их же генерациями? Так они быстро съедят собственный кал и поедут крышей.
Недавно наткнулся на термин «your scaling is failing». Закон масштабирования сломался. Больше гигабайт и больше параметров не равно умнее. Это просто значит, что ты быстрее бежишь в никуда.
В комментах на Хабре давно уже пишут правильную вещь: мы уперлись в потолок. Если не случится новой архитектуры, настоящего прорыва, мы будем улучшать ответы на 0,5% за очередной миллиард. Инженеры вундеркинды пусть сами решают свои проблемы. А я пока лучше сам письмо клиенту напишу. Без эссе на три страницы.