В Корее в преддверии всеобщих выборов кишат дипфейки.

Поскольку до апрельских парламентских выборов в Корее осталось менее 50 дней, опасения по поводу распространения дипфейковых видео и изображений, созданных с помощью искусственного интеллекта (ИИ), растут, что требует повышенной бдительности со стороны избирательных органов.

По данным Национальной избирательной комиссии (НИК), наблюдающей за выборами в стране, с 29 января по конец прошлой недели было обнаружено 129 медиаконтента, созданного искусственным интеллектом, что представляет собой нарушение недавно пересмотренного закона о выборах.

Этот закон, вступающий в силу 29 января, запрещает использование дипфейков в целях предвыборной агитации и предусматривает наказание до семи лет тюремного заключения или штраф в размере 10 миллионов вон (7499 долларов США) для правонарушителей.

Борьба НИК с дипфейками представляет собой активный ответ на развивающуюся картину дезинформации, чему способствуют достижения в области технологий искусственного интеллекта.

Пересмотренный закон, принятый Национальной ассамблеей в декабре, направлен на сдерживание распространения ложной информации и защиту целостности избирательного процесса от возникающих угроз.

Дипфейковые манипуляции уже использовались на прошлых выборах, как внутри страны, так и за рубежом, что вызывает обеспокоенность тем, что видео и изображения, созданные ИИ, представляют собой одну из самых больших угроз демократии, особенно в форме фейковых новостей и введения в заблуждение общественного мнения.

Например, во время провинциальных выборов 2022 года в социальных сетях было распространено видео, созданное искусственным интеллектом, на котором президент Юн Сок Ёль поддерживает местного кандидата от правящей партии.

В январе избиратели Нью-Гэмпшира получили сгенерированный искусственным интеллектом роботизированный звонок, в котором он выдавал себя за президента США Джо Байдена и советовал им не голосовать на первичных президентских выборах в штате.

Поскольку технология искусственного интеллекта продолжает развиваться и распространяться, эксперты предупреждают о растущей сложности и скорости производства дипфейков, опережающих традиционные процессы проверки, используемые избирательными органами. Властям трудно бороться с распространением дипфейков из-за непревзойденной скорости создания дипфейков по сравнению с усилиями по проверке.

«Скорость создания правдоподобных фейков с помощью технологий дипфейков намного выше, чем скорость процесса проверки НИК», — сказала Ким Мён Чжу, профессор Женского университета Сеула. «Это бесподобно».

Кроме того, постоянное развитие технологии дипфейков создает дополнительные препятствия для обнаружения и смягчения последствий, требуя многогранного подхода, отдающего приоритет строгим протоколам проверки.

«Технология создания дипфейков также постоянно развивается», — заявил представитель НИК. «У нас есть пошаговый процесс проверки для проверки, расследования и принятия мер в случае незаконности, а не просто использование программы конкретной компании».

Источник: https://www.koreatimes.co.kr/www/nation/2024/02/251_369037.html