Специалисты по кибербезопасности всерьез обеспокоены развитием технологий подделки голоса и дипфейками

Программы с возможностью изменения и редактирования голосовых файлов известны еще с 2016 года. Они могут на основе нескольких минут записанной речи человека создать путем синтеза абсолютно новые слова и даже целые предложения. В прошлом году произошел весьма показательный случай такого рода мошенничества – ущерб исчислялся в сотнях тысяч евро.

Специалисты по антифроду в финансовых организациях (буквально в переводе с английского – «борьба с мошенничеством», система, предназначенная для оценки финансовых транзакций в интернете на предмет подозрительности с точки зрения мошенничества и предлагающая рекомендации по их дальнейшей обработке) всерьез обеспокоены появлением новых совершенных техник. Эти технологии становятся все более популярными и доступными, а это значит, что необходимо развивать методологию обнаружения и предотвращения подобных видов угроз.

В нынешнюю эпоху повсеместной удаленной работы и общения онлайн по средствам, например, видеоконференций, пока еще молодая технология подделки видео deepfake, из забавы начинает превращаться в опасный инструмент мошенников для обмана и манипуляций.

Современные дипфейки применяют продвинутые методы машинного обучения и искусственного интеллекта. В них используют так называемые генеративно-состязательные нейросети (GAN). Одна часть алгоритма учится на реальных фотографиях определенного объекта и создает изображение, буквально «состязаясь» со второй частью алгоритма, пока та не начнет путать копию с оригиналом.

В противовес укрепляющимся дипфейкам в 2019 году стали появляться облачные ресурсы, способные «проверить» залитое в них видео на наличие различных «примесей» (пикселизаций, деформаций и т.д.) и с некоторой долей вероятности установить: оригинальный ли это файл или нет. Что же способ, конечно, хороший, но он не подходит для проверки разговоров в режиме реального времени…

Из положительного: на сегодняшний день в смартфонах уже используется и машинное обучение, и искусственный интеллект, и теоретически можно создать приложение для автоматического выявления дипфейков. Задача это не простая и не быстрая, но производителям компьютерного оборудования стоит думать в этом направлении.