Вице-министр культуры и информации Евгений Кочетов сообщил, что в Казахстане разрабатывается технология автоматического выявления дипфейков.
«Мы создаём цифровую инициативу по автоматическому выявлению фейкового контента и определению дипфейков. Эта технология основана на искусственном интеллекте и уже показывает эффективность в борьбе с онлайн-наркоторговлей. Так, специальная система „МЕРГЕН“, работающая на основе ИИ, автоматически мониторит информационное поле, выявляет интернет-магазины наркотиков по прямым и косвенным признакам и блокирует их. На этой неделе был закрыт 5000-й такой ресурс. Сейчас мы обучаем LLM-модель, чтобы включить в неё функции выявления дипфейков», — сказал Кочетов.
Случайных блокировок не будет
Опасения о риске ошибочных решений вице-министр опроверг:
«Программа разработана нашими ребятами, отечественными программистами. Эта технология уже успешно применяется. Но эта программа — это лишь помощник. Она в большом массиве данных определяет возможные триггерные точки, на которые потом уже обращает внимание представители правового мониторинга. Поэтому случайных блокировок здесь не будет, это однозначно».
Обучение модели и сроки
Сейчас система справляется с текстовыми фейками, но для анализа дипфейков требуется дополнительное обучение.
«Мы работаем над этим. Я думаю, ну не два года. Мы полноценно, скажем, поймём что‑то в течение ближайших нескольких месяцев. Это процесс не быстрый, потому что это обучение. Нужно очень большое количество контента скормить. Это каждодневная работа. Наш информационно-цифровой блок в министерстве на это и направлен, чтобы как минимум идти в ногу со временем и где‑то опережать. Поэтому будем стараться, будем догонять. Если наши оппоненты в ежедневном поиске новых схем, то мы в ежедневном поиске новых решений, которые позволят эти схемы купировать», — отметил Кочетов.
Роль пользователей
Вице-министр также добавил, что значительная часть борьбы с фейками строится на жалобах самих пользователей, которые помогают выявлять мошеннический контент.