Минбез США делает видео с помощью ИИ Google и Adobe

Как DHS использует ИИ для создания пропаганды

Министерство внутренней безопасности США раскрыло карты - ведомство активно применяет генераторы видео от технологических гигантов для производства контента. Новый документ показал, что агентство использует Google Veo 3 и Adobe Firefly для редактирования изображений, видео и других материалов, предназначенных для публики.

Это первое конкретное подтверждение того, что иммиграционные службы создают свои ролики с помощью нейросетей. Раньше можно было только догадываться, глядя на подозрительно гладкие видео в соцсетях ICE.

Документ раскрывает масштабы - у DHS есть от 100 до 1000 лицензий на эти инструменты. Кроме того, ведомство использует Microsoft Copilot Chat для написания черновиков и обобщения длинных отчетов, а также Poolside для программирования.

Что публикует иммиграционная служба

Иммиграционная и таможенная служба ICE, входящая в состав DHS, буквально заполонила соцсети своим контентом. С расширением операций по депортации в американских городах агентство стало публиковать провокационные материалы.

Среди постов - празднование "Рождества после массовых депортаций", библейские цитаты о рождении Христа, фотографии арестованных людей и рекламные ролики для набора новых агентов. Причем в видео часто используется музыка без разрешения артистов.

Многие ролики выглядят так, будто их создал искусственный интеллект, но до сих пор не было точных доказательств. Теперь эти подозрения подтвердились - AI Projects поможет вам разобраться в тонкостях использования подобных технологий.

Какие инструменты применяет ведомство

DHS использует Flow от Google - инструмент, объединяющий генератор видео Veo 3 с набором средств для создания фильмов. Пользователи могут генерировать клипы и собирать целые видео с помощью ИИ, включая ролики со звуком, диалогами и фоновым шумом. Результат получается гиперреалистичным.

Adobe запустила свой генератор Firefly в 2023 году, обещая не использовать защищенный авторским правом контент для обучения или создания материалов. Как и инструменты Google, решения Adobe могут генерировать видео, изображения, саундтреки и речь.

Документ не раскрывает подробностей о том, как именно агентство применяет эти генераторы видео. Проверить, какая компания помогла создать конкретный материал, по-прежнему невозможно.

Проблема с идентификацией ИИ-контента

Adobe предлагает опцию "водяного знака" для видео, созданных с помощью ее инструментов, чтобы раскрыть факт использования ИИ. Однако эта маркировка не всегда сохраняется при загрузке и распространении контента на разных платформах.

Это создает серьезную проблему прозрачности. Люди не могут понять, смотрят ли они реальные кадры или синтетический контент, созданный алгоритмами. А когда речь идет о правительственной пропаганде, это особенно важно.

Технологические компании молчат - Google, Adobe и DHS не ответили на запросы комментариев. Но давление на них растет.

Протесты сотрудников технологических гигантов

Более 140 нынешних и бывших сотрудников Google и более 30 работников Adobe в последние недели оказывают давление на своих работодателей. Они требуют занять позицию против действий ICE, особенно после стрельбы по Алексу Претти 24 января.

Руководство Google не делает никаких заявлений в ответ. В октябре Google и Apple удалили из своих магазинов приложений программы для отслеживания местонахождения ICE, ссылаясь на риски безопасности.

Дополнительный документ, опубликованный в среду, раскрыл новые детали о том, как агентство использует более нишевые ИИ-продукты, включая приложение для распознавания лиц, которое применяет ICE.

Что это значит для общества

Использование генеративного ИИ правительственными агентствами открывает ящик Пандоры. Технологии позволяют создавать убедительный контент в промышленных масштабах - быстро, дешево и без участия профессиональных видеографов.

Это поднимает вопросы об этике и прозрачности. Должны ли граждане знать, когда правительство использует синтетические материалы для коммуникации? Как отличить реальные события от сгенерированных сцен?

Проблема усугубляется тем, что иммиграционные службы используют эти инструменты для продвижения спорной политики массовых депортаций. Контент выглядит профессионально и убедительно, но может искажать реальность.

Перспективы регулирования

Вопрос использования ИИ государственными органами требует срочного регулирования. Пока нет четких правил о том, как правительство должно маркировать синтетический контент или раскрывать факт его использования.

Некоторые эксперты призывают к обязательной маркировке всех материалов, созданных с помощью ИИ. Другие предлагают создать реестр инструментов, которые могут использовать государственные агентства, с жесткими требованиями к прозрачности.

Технологические компании также должны взять на себя ответственность. Продавая свои инструменты правительству, они становятся соучастниками в создании пропаганды - AI Projects предлагает этичные решения для бизнеса, которые учитывают эти риски.

Выводы

Раскрытие информации о том, что Министерство внутренней безопасности США использует генераторы видео от Google и Adobe, открывает новую главу в дискуссии об искусственном интеллекте и государственной власти. Это первое документальное подтверждение того, что иммиграционные службы создают контент с помощью нейросетей.

Проблема выходит за рамки технологий - речь идет о прозрачности правительства, этике использования ИИ и праве граждан знать правду. Пока компании и агентства хранят молчание, а сотрудники технологических гигантов протестуют, общество остается в неведении о масштабах применения синтетического контента в государственной пропаганде.