Діпфейки: Як визначити підроблені аудіо та відео

Ключові моменти

Діпфейки — це підроблені відео або аудіо, створені за допомогою штучного інтелекту, щоб виглядало, ніби хтось сказав чи зробив те, чого насправді не було.
Звертайте увагу на дивні мімічні вирази, неспівпадіння руху губ із мовою або незвичайне освітлення у відео. У випадку аудіо прислухайтесь до роботизованих відтінків або неприродних пауз.
Переконайтесь, що контент походить із надійного джерела. Якщо це підозрілий ресурс, можливо, це діпфейк.
Використовуйте інструменти, такі як розширення браузера або застосунки, щоб перевірити контент на ознаки маніпуляцій.

У наш час цифрових технологій стає все складніше відрізнити справжнє від фальшивого, особливо коли йдеться про аудіо та відео.

Уявіть, що ви бачите відео відомого техно-магната, який оголошує про унікальний криптопроєкт із акцією “купуєш одну монету — отримуєш другу безкоштовно”, або чуєте його голос із рекламою роздачі криптовалюти. Це виглядає переконливо, чи не так? А що, як усе це — підробка?

Це й є реальність діпфейків — відео- та аудіофайлів, створених за допомогою штучного інтелекту, щоб здавалося, ніби хтось сказав чи зробив те, чого насправді не було.

Хоча деякі діпфейки створюються заради розваги, інші використовуються для шахрайства, поширення дезінформації або навіть маніпулювання суспільною думкою. Наприклад, Австралійська федеральна поліція заявила, що шахраї використовують діпфейки та методику “свинячого оброблення”, щоб ошукувати жертв у країні.

Однак гарна новина полягає в тому, що є способи розпізнати ці підробки, і ви можете уникнути обману, просто розвиваючи обізнаність.

Давайте розглянемо, як ви можете навчитися знаходити діпфейки ще до того, як вони вас обмануть.

Що таке діпфейки?

Цифрово змінені відео чи аудіо, які використовують передові технології для маніпуляції зовнішністю чи голосом людини, називаються діпфейками. Діпфейкові відео або аудіо виглядають так, ніби людина сказала чи зробила щось нереальне. Але як взагалі можливо створити такий контент?

Все це стало можливим завдяки інструментам створення діпфейків, які зробили легшим для будь-кого створення таких підроблених відео чи аудіофайлів, деякі з яких навіть стали вірусними в інтернеті. У той час як деякі приклади діпфейків використовуються для розваги, їхній вплив на суспільство може бути шкідливим.

Наприклад, були випадки, коли в діпфейкових відео зображували відомих людей, таких як Ілон Маск, які, здавалося, схвалювали фальшиві криптосхеми. Такі відомі діпфейкові відео можуть поширювати дезінформацію, викликати плутанину й навіть шкодити репутації, бо вони легко вводять людей в оману, змушуючи інвестувати в шахрайські проєкти.

Найскладніша частина — це те, що технології діпфейкової маніпуляції стають настільки передовими, що іноді важко відрізнити діпфейк від реального відео.

Чи знали ви? Термін “діпфейк” виник як поєднання “глибокого навчання” (виду ШІ, який використовується для створення підробленого контенту) та “фейку”. Відео, створені ШІ, вперше привернули увагу публіки наприкінці 2017 року, коли користувач Reddit під ніком Deepfakes поділився порнографічними відео, створеними за допомогою алгоритму обміну обличчями на базі нейронних мереж.

Як працюють діпфейки?

Діпфейки навчаються на реальних даних за допомогою потужного ШІ, а потім створюють контент, який виглядає й звучить як реальний, але таким не є. Ось короткий огляд того, як вони створюються:

Збір даних: Спочатку технології потрібно багато прикладів обличчя чи голосу людини, щоб навчитися використовувати реальні дані. Це можуть бути фотографії, відео чи аудіозаписи.
Навчання ШІ: Ці приклади служать основою для того, щоб ШІ навчився, як виглядає й звучить людина. Це схоже на імітацію людини шляхом постійної практики.
Створення підробки: Після цього ШІ генерує новий контент. Для відео це виглядає реалістично, коли змінюються обличчя чи вирази. Для аудіо ШІ імітує голос людини, щоб сказати те, чого вона ніколи не говорила.
Тонке налаштування: ШІ може вносити незначні зміни, щоб зробити підроблений контент ще переконливішим. Це включає деталізацію, щоб підробка виглядала й звучала якомога автентичніше.

Тепер, коли ви знаєте, як створюються діпфейки, настав час дізнатися, як від них захиститися.

Як розпізнати діпфейкові відео?

Цікавитесь, як визначити діпфейкові відео? Ось кілька попереджувальних ознак, які слід враховувати, щоб зрозуміти, чи є відео справжнім, чи підробленим:

Звертайте увагу на невідповідності: У діпфейках іноді виникають проблеми з природними виразами. Якщо ви бачите відео з дивними мімічними виразами або неспівпадінням руху губ, це може бути результатом роботи ШІ.
Перевірте очі: Уважно дивіться на очі. У діпфейках часто виникають проблеми зі зворотним рухом очей або відображенням, що може виглядати неприродно.
Досліджуйте освітлення й тіні: Якщо освітлення на обличчі не відповідає решті сцени, відео може бути підробкою.
Прислухайтесь: Якщо це аудіодіпфейк, звертайте увагу на неприродні паузи, роботизовані відтінки або порушення емоційної виразності голосу.
Перевірте джерело: Якщо відео походить із невідомого чи підозрілого акаунта або ненадійного ресурсу, воно може бути фейковим.
Використовуйте інструменти виявлення: Існують інструменти, які можуть аналізувати відео на предмет маніпуляцій. Хоча вони не завжди безпомилкові, вони можуть стати корисним першим кроком.
Порівнюйте з надійними джерелами: Шукайте в інших джерелах або медіа, щоб підтвердити, чи контент справжній, або повідомлений як фейковий.

Чи знали ви? Один із діпфейкових криптошахрайств був пов’язаний із фейковим сайтом, на якому використовувались логотип “Make America Great Again” і зображення Дональда Трампа зі заявою про “найбільший крипторозіграш на суму $100,000,000”.

Як визначити діпфейкове аудіо

Уявіть, що ви отримали відео в Telegram із чиїмось голосом, що звучить, як відомий криптоінфлюенсер, заявляючи про запуск революційної нової монети.

Ось як можна зрозуміти, чи реальне це повідомлення, або діпфейк:

Роботизовані відтінки: Діпфейкові аудіо часто мають механічний відтінок. Наприклад, якщо голос надто плавний і без природних інтонацій, це може бути ознакою штучної маніпуляції.
Мовні моделі: Звертайте увагу на природність мови. Якщо паузи дивні, а мовний потік порушений, це може бути підробленим записом.
Емоційна невідповідність: Справжні голоси зазвичай передають відповідні почуття. Якщо голос здається надто радісним чи нейтральним у невідповідній ситуації, це може бути діпфейком.
Порівняння з реальними записами: Порівняйте з іншими записами цієї особи. Різниця у вимові чи інтонації може допомогти викрити підробку.
Шум у фоні: У реальних записах часто присутній фоновий шум, наприклад, офісні звуки чи гомін. Якщо запис дуже чистий, це викликає підозру.
Інструменти аналізу голосу: Існують програми для аналізу аудіо на ознаки маніпуляцій. Використання таких інструментів може додати шар перевірки.