КОМАНДОВАНИЕ СПЕЦИАЛЬНЫХ ОПЕРАЦИЙ США (SOCOM), ответственное за некоторые из самых секретных военных операций страны, готовится к проведению интернет-пропагандистских кампаний и кампаний по обману в Интернете с использованием дипфейковых видео, согласно федеральным контрактным документам, рассмотренным The Intercept.

Когда дело доходит до дезинформации, Пентагон не должен вести огонь огнем

В то время, когда цифровая пропаганда набирает обороты во всем мире, США должны делать все возможное для укрепления демократии, укрепляя поддержку общих представлений об истине и реальности. Дипфейки делают обратное. Ставя под сомнение достоверность любого контента и информации, реальной или искусственной, они в конечном итоге подрывают основы самой демократии

Если дипфейки будут использоваться для целевых военных и разведывательных операций, то их использование должно подлежать проверке и контролю

Передовые технологии для использования в операциях военной информационной поддержки (MISO)

операций влияния, цифрового обмана, нарушения связи и кампаний по дезинформации на тактическом и оперативном уровнях». SOCOM ищет возможность следующего поколения для сбора разрозненных данных через потоки информации из общедоступных и открытых источников, таких как социальные сети, местные СМИ и т. д., чтобы позволить MISO разрабатывать и направлять операции влияния

SOCOM обычно сражается в тени, но его публичная репутация и глобальное присутствие имеют большое значение. Состоящая из элитных подразделений армии, корпуса морской пехоты, флота и авиации, SOCOM ведет самые важные военные операции самой смертоносной нации в мире.

В то время как американский спецназ широко известен яркими подвигами, такими как убийство Усамы бен Ладена морскими котиками, их история — это история секретных миссий, уловок, саботажа и подрывных кампаний. Дезинформационные амбиции SOCOM «следующего поколения» — это лишь часть долгой и обширной истории обмана со стороны военных и разведывательных аппаратов США.



ХОТЯ КОМАНДОВАНИЕ СПЕЦИАЛЬНЫХ ОПЕРАЦИЙ в течение многих лет координировало иностранные «операции влияния», эти кампании по обману вновь стали предметом пристального внимания. В декабре The Intercept сообщил, что SOCOM убедила Twitter, в нарушение своей внутренней политики, разрешить сеть фиктивных учетных записей, которые распространяли фальшивые новости сомнительной достоверности, в том числе утверждения о том, что иранское правительство крадет органы афганских гражданских лиц.

Хотя пропагандистское наступление в Твиттере не использовало дипфейки, исследователи обнаружили, что подрядчики Пентагона использовали аватары, созданные с помощью машинного обучения, чтобы придать поддельным аккаунтам определенную степень реализма.

Провокационно, обновленный документ о возможностях показывает, что SOCOM хочет активизировать эти усилия по обману в Интернете с использованием дипфейковых видео «следующего поколения», более эффективного метода создания реалистичных подделок цифровых видео с использованием машинного обучения. В документе добавляется, что спецназ будет использовать эти фальшивые кадры для «генерации сообщений и влияния на операции по нетрадиционным каналам».

Как и в случае с кампаниями по «дезинформации» иностранных правительств, США в течение последних нескольких лет предупреждали о потенциальной угрозе национальной безопасности, которую представляют дипфейки. Государственные органы регулярно предупреждают , что использование дипфейков для преднамеренного обмана может оказать глубоко дестабилизирующее воздействие на гражданское население, подвергающееся их воздействию.

Однако на федеральном уровне разговор вращался исключительно вокруг угрозы, которую дипфейки иностранного производства могут представлять для США, а не наоборот. Ранее сообщавшиеся контрактные документы показывают, что SOCOM искала технологии для обнаружения интернет-кампаний, дополненных дипфейками, и теперь она хочет использовать эту тактику самостоятельно.

Технология дипфейковых видео впервые появилась в 2017 году благодаря сочетанию дешевого мощного компьютерного оборудования и научных достижений в области машинного обучения. Видео дипфейков обычно создаются путем передачи изображений человека на компьютер и использования полученного компьютерного анализа, чтобы по существу вставить очень реалистичный симулякр этого лица на другое. После того, как программное обеспечение будет достаточно обучено, его пользователь может создавать реалистичные сфабрикованные кадры.

Хотя основные социальные платформы, такие как Facebook, имеют правила против дипфейков, учитывая по своей природе изменчивый и взаимосвязанный характер Интернета, дипфейки, распространяемые Пентагоном, могут также рискнуть вернуться на американскую родину.

Если это нетрадиционная медиа-среда, я могу представить, что форма манипуляции зайдет довольно далеко, прежде чем ее остановит или осудит какой-то местный орган власти 

Возможность причинения вреда обществу, безусловно, существует

Мы вложили значительные средства в наших операторов пси-операций

разрабатывая новые возможности, в частности, для работы в цифровом пространстве, анализа социальных сетей и множества различных инструментов, которые были развернуты SOCOM, которые позволяют нам оценивать пространство социальных сетей, оценить киберпространство, увидеть анализ тенденций, узнать, куда движется общественное мнение, а затем узнать, как потенциально повлиять на эту среду с помощью наших собственных продуктов

Я считаю, что это следующая волна атак против Америки и Запада, демократии

Если общественность больше не сможет доверять записанным событиям или изображениям

это окажет разрушительное воздействие на нашу демократию

Это опасная технология

Вы не можете модерировать эту технологию, как мы подходим к другим видам контента в Интернете

Дипфейки как технология имеют больше общего с разговорами о нераспространении ядерного оружия

 Для желающих более подробно познакомиться со стратегией и планами SOCOM в их специальной презентации