Hany Farid, ученый из Dartmooth College в Штатах, специализируется на технологиях распознавания фейковых изображений и видео. Поскольку в post-truth мире должны быть post-truth эксперты, Nature решил сделать интервью с ученым и разобраться, как обстоят дела и чем вообще занимаются такого рода суд-фейк-эксперты.

Интервью в двух словах:

1. Чтобы понять, насколько подлинная картинка, для начала можно воспользоваться reverse image search через Google Image Search или TinEye. У Columbia University есть проект, который распознает кусочки изображений и ищет целый исходник. Проект, конечно, заказали из оборонного комплекса. Еще можно посмотреть на EXIF/compression информацию в JPEG-файле, и понять, как он был создан.

2. Высокоточных фейковых историй, аудиозаписей, фотографий и видео становится все больше. Примеры: Орел выкрадывает ребенка (45 млн просмотров) или речь Обамы, которую он никогда не произносил.

3. В фейке сложно сделать реалистично все-все-все. Например, полностью реалистичные тени в видео — это достаточно непростая работа. Или пульсация крови в капиллярах под кожей на лице людей, которую можно разглядеть на видео, если немного покрутить image adjustment. Так обычно можно понять, что царь в видео ненастоящий.

4. DARPA ведет огромный проект Media Forensics (MediFor) про распознавание фейковых изображений, видео и новостей, и вообще много в это дело инвестирует.

5. Генерация липовых новостей — это раз плюнуть для алгоритмов. Один из способов создания фейковых новостей — так называемые Generative Adversarial Networks. Обычно, GAN — это две или более нейронные сети, которые обучаются друг об друга, пока не натренируются создавать контент, которому позавидует

Fox News.

6. Ну и конечно, если кто-то тренирует GANs для создания фейковых текстов и медиа, то где-то кто-то тренирует GANs на распознавание таких текстов и медиа — и вновь продолжается бой. Страдает от всего, похоже, только наша с вами префронтальная кора.

www.nature.com/news/the-scientist-who-spots-fake-videos-1.22784

The scientist who spots fake videos

Hany Farid discusses how to detect image manipulations — and the increasing sophistication of forgers.

Орел и ребенок. Трудно сразу сообразить, что и ребёнок и 🦅нарисованные.

www.youtube.com/watch?v=CE0Q904gtMI

Golden Eagle Snatches Kid