Пара занятных историй про ИИ
Талси Габбард занимает должность, которую можно описать как куратора всех разведывательных органов США. Ответственная должность, между прочим. Настолько же ответственно она подошла к задаче оптимизации работы с секретными документами. Ведь оптимизация значит что? Надо использовать ИИ. Она говорит, мол, вот раньше с секретными документами работали вручную, а теперь мы можем использовать ИИ коммерческих компаний для анализа, что именно нужно засекретить, а что нет. Вот и скормила все документы по Кеннеди ИИ...
Что ж, не забудьте скоро спросить у ChatGPT, что он может сказать по поводу убийства Кеннеди, посмотрим, что он скажет (если умные дядьки не успели всё подчистить).
Опуская вопрос необоснованного преклонения перед большими языковыми моделями (они именно языковые, а не божественные, и даже не могут нормально сыграть в шахматы) по анализу документов, имеющих отношение к государственной безопасности, я на всякий случай напоминаю, что информация, которую вы даёте таким нейросетям, является частью их обучения и она может быть запомнена и выдана стороннему человеку, если ранжирование доступа к определённым типам информации не было предусмотрено.
Это большая правовая проблема, что и как именно используют нейросетки при обучении как запоминают информацию и т.д., предоставляют об этом информацию сторонним людям, а также как именно от этого защищаться (в целом защита персональных данных от ИИ).
Ну и кроме того, набивший оскомину спор о том, нарушает ли условный Midjourney интеллектуальные права. Disney и Universal, два колосса Голливуда, объединившись, таки решили дать судебный бой. Основное обвинение — плагиат. Защита ИИ — концепция добросовестного использования (таким образом, к примеру, защищены пародии на известные хиты). Основной вопрос — является ли использование «преобразующим», т.е. добавляет ли оно новое значение или выражение.
Также занятен аргумент, что изображения персонажей в новых образах может наносить (и наносило раннее) ущерб брендам. Это, кстати перекликается с другим интересным спором из сферы Интеллектуальной собственности, пародийные средства индивидуализации товара (напишу пост, обещаю).
Если спросите меня, на какую лошадку ставить, я бы ставил на Midjourney, потому что факт обучения чего-то на примере чужой интеллектуальной собственности вообще ничего не значит, да и преобразующий элемент генерации, по-моему, очевиден. Я почти уверен, что настройки системы не позволяют скопировать чужую ip, и всегда «пародирует» что-то по дефолту, хотя, утверждать, конечно, не могу.
Но многое, как водится, зависит от качества оказанных сторонам юридических услуг.
Подводя подитог размышлениям на эту тему, нельзя забывать про влияние самого пользователя на обучение и результаты генерации. Я это к тому, что вполне может оказаться так, что сами же художники этих уважаемых студий в ту же Midjourney загружали дартов вейдеров, прототипы Pixar и т.д., а потом генерили картинки, выдавая за свои. Вот откуда ИИ знать, что это какая-то внутренняя разработка, и договоримся ли мы до того, что нейронка сама может подать на плагиат?