редакции
Nature опубликовали статью сотрудников Сбера об AI-технологиях для полиграфа
Публикация в научном журнале Scientific Reports (входит в группу журналов Nature Portfolio) посвящена созданию инструмента автоматизированной «детекции лжи». Исследователям банка удалось создать систему AI-рецензирования результатов проверок на полиграфе («детекторе лжи») — специалисты предложили применение машинного обучения (ML) для обнаружения ошибок экзаменатора. Теперь искусственный интеллект способен обрабатывать данные полиграфа, заключения специалистов и предлагать свое мнение. Согласно данным команды исследователей Сбера, им удалось создать первый в мире прототип такого инструмента для поддержки полиграфолога.
Специалисты создали модель, способную работать с любыми полиграммами независимо от методики проверки. Прототип умеет выявлять противодействие тестируемого и иные артефакты, а также операторские ошибки при отражении результатов в учетных системах. Следующий этап — сформировать золотой стандарт данных для усовершенствования модели.
С практической точки зрения мы разработали и успешно протестировали инструмент получения второго мнения для выявления человеческих ошибок в выводах экспертов, что снижает субъективность проверок на полиграфе. Мы сообщаем о новых функциях, которые повышают точность модели, и экспериментальных результатах о том, лгут ли люди по-разному в разных темах. Мы ожидаем, что наши результаты станут шагом к переосмыслению классических методов проверки на полиграфе,
Проверки на полиграфе проводятся в тех случаях, когда критически важно установить истину и делаются это только с согласия обследуемых лиц в соответствии с законодательством. Самое сложное в проверке на полиграфе — правильно интерпретировать полученные данные. По аналогии с инновациями в сфере здравоохранения психофизиологические исследования с применением полиграфа в Сбере теперь будут сопровождаться «вторым мнением» с помощью технологий ИИ.
Как отмечают в Сбере, это первый шаг к переосмыслению классических методов проверки на полиграфе. Разработанное AI-решение уже применяется в банке и проходит процедуру патентования.
Обзор нашей экспериментальной базы заключается в следующем. Наш основной подход заключается в обучении модели бинарного классификатора и применении ее к каждому из имеющихся в нашем распоряжении реальных 2094 скринингов, чтобы увидеть, не противоречит ли оценка модели заключению эксперта. Чтобы избежать применения модели к показам, которые он видел во время обучения, мы используем стандартную стратифицированную пятикратную валидацию. Здесь мы предполагаем, что модель не будет обучаться совершать ошибки, которые совершают экзаменаторы-люди, потому что доля ошибок экзаменатора незначительна. Мы также решили отклониться от соответствующей работы, не внедряя правила полиграфолога в качестве функций. Мы делаем это, чтобы избежать того, чтобы наша модель не попала в ловушку так же, как попадают эксперты-люди, когда некоторые правила являются спорными и имеют исключения,
