В лаборатории Google DeepMind разработали и начали испытывать детектор изображений, созданных с помощью искусственного интеллекта. Правда, пока он распознаёт только изображения, созданные собственной же разработкой Google - генеративным ИИ Imagen. Но разработанный метод выглядит перспективным.

Только для своих

 Google начал тестировать разработанную в подразделении DeepMind технологию маркировки водяными знаками графического контента, созданного ИИ.

 Пока речь идёт только о результатах выдачи собственного генератора изображений Google Imagen, а о не распознавании любых синтетических изображений, сгенерированных искусственным интеллектом.

 Хотя актуальность этой проблемы постоянно растёт: по мере развития технологий людям всё сложнее отличить рукотворный графический контент от сгенерированного искуственно. Об этом, в частности, свидетельствуют викторины, проведённые BBC.

 А поскольку генеративные ИИ выдают изображения просто по текстовому запросу, открываются широчайшие возможности для производства дипфейков - политических в том числе. И это, кстати, одна из причин, по которой вопросы идентификации и маркировки сгенерированного машиной контента встают всё острее именно сейчас: на будущий год назначены выборы в Европарламент, в Парламент Великобритании, а в США состоятся выборы президента. Во всех случаях ожидается очень бурные предвыборные кампании, где дипфейки могут стать крупнокалиберным оружием.

 Кроме того, генеративные ИИ, синтезирующие изображения, как правило обучаются на основе изображений, собранных из интернета - по сути, откуда попало. Многие из этих изображений защищены копирайтом, но этого ИИ не учитывают.

Что уже привело к судебным искам от художников к разработчикам генеративных ИИ.

Выраженное в пикселях

 «Водяной знак», придуманный в Google DeepMind, представляет собой изменение отдельных пикселей. Человеческому взгляду эти изменения не видны, а вот машина их уловит моментально.

 Традиционную маркировку (такую как логотип или значок копирайта) можно без особого труда с изображения удалить - или обрезав, или затерев нужный участок. Для маркировки сгенерированных ИИ изображений они не годятся.

 Технологические компании нередко используют хэширование, чтобы создать цифровые «отпечатки». В частности, известных видеороликов, демонстрирующих, например, насилие. Эти отпечатки позволяют автоматически блокировать и удалять ролики, если кто-то (или что-то) начинает снова распространять их по Сети. Однако, если видео каким-либо образом откадрируют или отредактируют, хэш, скорее всего, также поменяется и станет невидим для систем, осуществляющих поиск маркированных видео.

 Для обнаружения «водяного знака» Google понадобится лишь соответствующая утилита от самого вендора, позволяющая определить, создано ли изображение ИИ или это «ручная работа».

 И даже если сгенерированное изображение откадрировано по-новому или изменено как-то ещё, ПО Google всё равно распознает его.

 Сейчас система маркировки и распознавания запускается в тестовом режиме, чтобы компания получила обратную связь от пользователей - которые, естественно, будут проверять её надёжность всеми возможными способами.

Водяные знаки: всем или никому

 В июле Google и ещё шесть ведущих разработчиков генеративных ИИ подписали соглашение о безопасной разработке и использовании искусственного интеллекта. В рамках этого соглашения вендоры будут помечать всю выдачу своих ИИ с помощью незаметных для человека маркеров.

 Однако о разработке единой системы, которая будет работать с любым генеративным артом, вне зависимости от того, какой ИИ его произвёл, пока речи не идёт.«Без унифицирования систем детектирования видео или изображений, сгенерированных ИИ они практически бесполезны, - считает Алексей Водясов, технический директор компании SEQ. - Какой прок от них, если средства распознавания от Google не способны идентифицировать источник изображений, сгенерированных Midjourney или Stable Diffusion? Необходимо, чтобы средства распознавания работали с любыми изображениями, а значит, требуется унификация и способов маркировки, и средств, способных её обнаружить. Для этого потребуется не только соглашение между несколькими отдельными компаниями, но и некий международный стандарт».

 Эксперт добавил, что маркировке подлежат любые материалы, сгенерированные ИИ, в том числе текстовые. Но какими «водяными знаками» снабжать текст, пока неясно. «OpenAI пытались запустить инструмент распознавания сгенерированных машиной текстов, но он оказался настолько ненадёжным, что в конце июля этого года он был выведен из общего доступа», - отметил Водясов.

Источник:https://www.cnews.ru/news/top/2023-09-08_google_razrabatyvaet_vodyanye

Для комментирования вы должны авторизоваться.