редакции Выбор
Тайны «подсознания ИИ» в исследовательском проекте Академии МАИД.РФ
Каждая нейросеть имеет свою уникальную особенность, потому что она обучена по определённой методике, на определённых данных, а веса настроены с точки зрения тех, кто обучал модель. Да, человек имеет непосредственное влияние на получаемый результат. Но все ли в руках разработчика? Нет и ещё раз нет. Когда в компании Google создали нейросеть для сжимания и разжимая видео, разработчики были озадачены. В нейросети родился новый нейрон — нейрон по распознаванию котиков. Да-да! Милые котики нравятся и нейросетям.
Мы немного отвлеклись и развлеклись, а суть вопроса в том, что до конца мы не понимаем, как работают нейросети и на что они способны. Исследуя возможности нейросетей мы в Академии МАИД.РФ пошли путём «от простого к сложному».
Когда пользователь пишет сложный запрос, нейросеть далеко не всегда интерпретирует его так, как нам бы хотелось. Почему? Потому что сила невидимых для нас связей вносит правки в понимание запроса. А что, если мы будем изучать простые запросы, самые простые, однословные, однобуквенные? К каким выводам и к каким результатам это может нас привести.
Эти задачи, позволяют нам объявить старт исследовательского проекта «Подсознание ИИ». Готовы увидеть первые увлекательные результаты?
Хорошо-хорошо! Делимся деталями.
Мы задались вопросом как нейросеть видит некоторые слова, которые совсем не имеют визуализации с точки зрения существования объектов, то есть абстрактные понятия. И были сильно удивлены! В подсознании нейросети хранятся потрясающие визуализации таких токенов как «если», «потому что», «для», «во имя», «во славу», «на», «перед», и так далее.
Открываем вам альбом первых исследовательских результатов Академии МАИД.РФ во главе с Еленой Пушкаренко!
В эксперименте мы исследовали 5 слов — «Eсли», «Потому что», «Когда», «Даже», «Между». Вдохновляйтесь подсознанием ИИ!