В 2023 году количество цифровых атак с использованием дипфейков выросло на 3000%, сообщила компания Onfido, которая специализируется на анализе онлайн-мошенничества.
Например, в Индии в период предвыборной кампании активно распространяли дипфейк-контент с лицами и голосами умерших политиков и фальсифицировали заявления от имени болливудских актёров. В этом обвинили стартап Muonium. Чуть позже Верховный суд Дели постановил разработать правила использования дипфейков в избирательных кампаниях.
Вопрос регулирования ИИ во многих странах по-прежнему остаётся открытым. В США отсутствует единый федеральный закон, регулирующий подобные технологии. В России ИИ-разработки подпадают под экспериментальные правовые режимы. В Европейском союзе действует Artificial Intelligence Act, однако, по данным Европейской комиссии, распространение фейков продолжается.
Параллельно с правительственными организациями, технологические корпорации вводят собственные инструменты по регулированию контента, созданного или изменённого с помощью ИИ. Google в 2019 году запустил Deepfake Detection Challenge — сборник открытых инструментов для распознавания подделок. Microsoft и другие корпорации, например Meta1, внедряют алгоритмы анализа фото, видео и аудио для выявления признаков манипуляций.
В России с начала 2024 года зафиксирован рост дипфейк-атак на пользователей финансовых платформ — их стало на 13% больше. Мошенники создают поддельных финансовых консультантов, которые через видеозвонки убеждают жертв инвестировать в фиктивные проекты или передавать доступ к банковским данным. Основные механизмы обмана — это подмена голоса, мимики или генерация образа с нуля. При этом, по данным института развития журналистики Reuters Institute, только 39% пользователей интернета уверены, что могут отличить фейк от достоверной информации.
Доктор Бенджамин Ланге, специалист по этике искусственного интеллекта, рекомендует: «Я бы посоветовал лучше разобраться в работе некоторых моделей: как они генерируют текст или изображения и что делать, чтобы научиться лучше определять генеративные результаты ИИ. Кое-что может нам в этом помочь, например синтаксические шаблоны текста (допустимый порядок слов в предложениях, сами структуры предложений) или определенные элементы изображений, которые ИИ еще не так хорошо создает: руки, логические пропорции, относительные пропорции некоторых элементов, проработка фона».
Эксперты сходятся во мнении, что развитие генеративных технологий приводит к парадоксальной ситуации: чем совершеннее становятся инструменты для борьбы с дезинформацией, тем более продвинутые методы её создания появляются. Эффективность фактчекинга напрямую зависит не только от искусственного интеллекта, но и от скорости его внедрения, качества регулирования и уровня медиаграмотности пользователей.
Инновации — ее тема: новые аудиоформаты (конечно, благодаря технологиям), новые методы производства протезов, новые способы получить детали лего. Читайте, чтобы окунуться в будущее!