Проекты, подразумевающие использование технологии искусственного интеллекта, требуют обязательной экспертизы профильных силовых структур. Об этом заявил советник Министра обороны РФ Андрей Ильницкий на конференции, которая проходит в рамках Международного военно-технического форума «Армия-2021».
«Необходима строгая и безусловная государственная экспертиза проектов, подразумевающих использование технологий ИИ. Такую экспертизу на межведомственном уровне (СБ РФ) следует поручить компетентным силовым органам РФ», — сказал Ильницкий.
При этом он отметил, что недостаточные компетенции, объективная неготовность «принимающих решения» к внедрению систем с элементами ИИ – «это серьезная управленческая угроза». «Кто будет принимать решения – человек, наделенный ответственностью или безответственная машина – вот в чем вопрос», — подчеркнул Ильницкий.
По его словам, как бы ни был силен ИИ, «конечное решение должно оставаться за человеком». «Но это в теории, — продолжил Ильницкий. — А на практике возникает опасность того, что при принятии решений — рекомендации технических специалистов, отвечающих за разработку и функционирование ИИ в конкретных государственных силовых, гражданских, а также — бизнес структурах — не будут должным образом верифицироваться теми, кто принимает решения — в силу отсутствия у них соответствующих знаний, образования и компетенций»
В итоге, сказал Ильницкий, «мы можем стать заложниками людей, групп, структур (действующих как внутри страны, так и из-за рубежа), которые де-юре не имеют полномочий на управление, а де-факто таковыми обладают». «В пределе — это фактически может привести к имитации государства, когда state (и даже могучее, таинственное deep-state) переродится в fake-state, где общество фактически устранено от процедуры принятия решений, а люди подменяются их цифровым следом/проекцией», — подчеркнул Ильницкий.
По его оценке, «это вызов суверенитету и власти – как системе управления страной». «В такой ситуации – пусть и незлонамеренное, но некомпетентное использование ИИ в системе принятия решений может стать роковым», — констатировал советник министра обороны.
Говоря об очевидных рисках использования ИИ в информационной социо-гуманитарной сфере, он отметил, что «технологические и социальные ресурсы влияния на людей огромны – а в области обороны и безопасности особенно».
«Искусственный интеллект уже способен создавать «фейковые новости», формировать искусственную реальность в режиме онлайн, взламывать аккаунты соцсетей и распространять там специальную информацию для того, чтобы влиять на сознание граждан, заставляя политиков принимать «нужные» заказчикам инфо-атак решения, продуцируя риски реальных конфликтов между странами», — отметил Ильницкий.
Новый тип войн – ментальные – становятся сегодня важнейшим инструментом межгосударственного противоборства, заявил в воскресенье на конференции советник министра обороны РФ Андрей Ильницкий.
«В настоящее время инструменты ведения войны и соперничества мирного времени схожи до степени смешения. Спектр угроз и способов межгосударственного противоборства изменяется настолько, что можно констатировать возникновение нового типа войны – ментальной войны. И эта война уже идёт», — сказал Ильницкий.
По его словам, эта война началась далеко не сегодня и даже не вчера, но оформилась как важнейший инструмент и тип глобального противоборства именно в наши дни».
«Цель войны нового типа — уничтожение самосознания, изменение ментальной, цивилизационной основы общества противника. Ментальные войны ведутся без объявления, последствия их проявляются хоть и не сразу, но необратимо. Им присущи стратегические и оперативные цели, определенные этапы и технологии реализации. Причём это весьма тонкие технологии, предназначенные для влияния как на определенные персоны, так и на массы людей», — отметил Ильницкий.
Говоря об информационной составляющей ментальной войны, он подчеркнул, что это перезагрузка (переформатирование) информационного поля, поля знаний, фактов и сведений. «Борьба за историю – один их главных фронтов этой войны», — полагает Ильницкий.
Психоэмоциональная составляющая ментальной войны, по его оценке, представляет не меньшую угрозу, поскольку основана на манипуляции сознанием, настроениями и эмоциями, когда индивидууму, группам людей и обществу в целом опосредованно внедряются нужные настроения, оценки, мнения, принимаемые людьми неосознанно, без понимания сути.
«Таким образом, в ментальной войне информационное пространство тотально заполняется «чуждым» нашей культуре и традициям контентом, дезориентируя людей, смещая приоритеты развития и цивилизационные основы общества. С использованием технологий ИИ ведется манипулирование общественным сознанием как на уровне смысла, так и на уровне эмоций, осуществляется воздействие и на разум, и на подсознание», — сказал Ильницкий.
По его словам, «российские культура, традиции, убеждения и мировоззрение людей выступают главным призом ментальной войны против нас».
«Проблема современной России не только в экономической зависимости от внешнего мира, но и в ментальном заражении чуждыми смыслами. Для нашего де-идеологизированного, разобщенного пост-ковидного общества, где элита во многом утратила волю и доверие, — ментальная война, ведущаяся против России с использованием, в том числе, технологий ИИ, является самым опасным типом «холодной войны»», — отметил советник министра обороны России.
«Фундаментальное образование может стать основой формирования российской идеологии и стратегии развития искусственного интеллекта (ИИ)», –заявил советник Министра обороны РФ Андрей Ильницкий.
«Характер глобальных трансформаций таков, что действовать рефлексивно, пытаясь реагировать на кризис — просто бессмысленно. Главной задачей становится формирование собственной российской идеологии и стратегии развития ИИ. В стратегической постановке в основе искомого решения — доступное всем россиянам лучшее в мире фундаментальное образование», — сказал Ильницкий на конференции в воскресенье.
По его словам, «повышение качества и статуса высшего и среднего образования, мобилизация его под задачу технологического прорыва, воспитание творческой национально ориентированной молодежи – ключ к будущему».
«Министр обороны России генерал армии Сергей Шойгу указывал на то, что основой технологического прорыва являются знания и компетенции. К сожалению, на протяжении последних 20-25 лет из системы образования просто системно выхолащивались фундаментальные естественно-научные дисциплины. В результате – лишь около 20% выпускников средней школы сдают ЕГЭ по физике. По химии – и того меньше. То есть молодые люди могут закончить школу, но так и не освоить азы этих фундаментальных наук. Школа готовит неучей. А ведь именно эти науки, наряду с математикой, учат ребенка думать. Резко снизилось качество инженерно-технического образования», — отметил Ильницкий.
Он считает, что если сегодня не начать интенсивно заниматься подготовкой и воспитанием кадров национально ориентированных и компетентных в применении ИИ, то можно провалиться «со всеми своими замыслами».
«На фоне отсутствия у общества, а у молодежи — особенно, ментального иммунитета к разного рода принесенным извне чуждым ценностям и целям – инерционная, пассивная работа в социо-гуманитарной сфере создает уязвимости национальной безопасности и угрозу существования российской цивилизации. Очевидно, что так дальше продолжаться не может», — констатировал Ильницкий.
По его мнению, «назрело введение в официальный оборот, в систему госуправления и правовое поле таких понятий, индикаторов/показателей как информационная и психо-эмоциональная устойчивость общества». «Отслеживание подобных показателей, мониторинг социальной среды на этот предмет, эффективные коммуникации с обратной связью и последующие политические решения, — определят способность государственных и общественных структур сохранять дееспособность в условиях осуществления в отношении России киберударных операций и агрессивного ментального воздействия», — сказал Ильницкий.
Он полагает, что «обеспечение заданного состояния информационно-психологической устойчивости общества должно рассматриваться как одна из важнейших целей России не только военно-силовой безопасности, но и в сфере социально-экономического развития РФ».
«Ситуация довольно серьёзна. Без системной политики в области обеспечения кибер-информационной и психо-эмоциональной безопасности мы можем постепенно уступить контроль над нашей жизнью зарубежным технологиям и центрам влияния, их пятой колонне внутри страны. Упустим контроль, инициативу в этой области, проиграем ментальную войну — лишимся суверенитета и потерям страну», — заявил Ильницкий.
В конференции, которую организовало военное ведомство совместно со Сколковским институтом науки и технологий, принимают участие ведущие специалисты страны по проблематике ИИ. Среди них, в частности, начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, генеральный директор группы компаний Info Watch Наталья Касперская, представители компании «Яндекс», другие профильные эксперты.
Источник: Международный военно-технический форум «АРМИЯ-2021», Новости форума, 22.08.2021, Проекты, подразумевающие использование технологии искусственного интеллекта, требуют обязательной экспертизы профильных силовых структур
О конференции по технологиям ИИ в рамках форума «Армия 2021»
Наталья Касперская: развивая технологии ИИ, необходимо учитывать все риски