Власти Китая вводят новые правила, запрещающие использовать технологии искусственного интеллекта для создания аудиовизуального контента, подпадающего под определение фейковых новостей, говорится на сайте управления по контролю за киберпространством в Китае.
Новые правила вступят в силу 1 января 2020 года, они предусматривают запрет на производство, распространение и трансляцию фейковых новостей и будут касаться как провайдеров услуг аудио и видеоинформации, так и пользователей.
Лица и организации, занимающиеся производством и распространением выдуманного контента, должны всегда помечать, что их продукт не является правдивой новостью. Невыполнение этих требований будет считаться уголовным преступлением.
За последние годы технологии подмены лиц достигли впечатляющих результатов, позволяя правдоподобно заменять лица на видео, не обладая специальными знаниями. Не последнюю роль в привлечении внимания общественности к такому использованию нейросетей сыграл пользователь Reddit, зарегистрированный под ником deepfakes, который в 2017 году начал подменять лица актрис в порнороликах. Сегодня дипфейками называют не только переделанные порноролики, но и вообще любые видео с подменой лиц.
Технология подмены лиц, очевидно, может использоваться не только как шутка, но и для создания правдоподобно выглядящих роликов, которые могут использоваться во вред и иметь самые разные последствия в зависимости от конкретного применения.
Термин Deepfake — соединение слов «глубокое обучение» (Deep learning) и «подделка» (Fake). Технология deepfake используется для соединения и наложения существующих изображений и видео на исходные изображения или видеоролики. В большинстве случаев, для создания таких видео используют генеративно-состязательные нейросети (GAN).
Источники:
N+1, 30 ноября 2019, Китай пригрозил уголовной ответственностью за дипфейки и VR
РИА Новости, 30.11.2019, В Китае запретят использовать ИИ для создания фейковых новостей