В «Сириусе» решили обучить нейросети бороться с «пропагандой ложных установок и ценностей»

В университете «Сириуса» работает группа, которая занимается «вопросами безопасности искусственного интеллекта». Об этом президенту во время экскурсии по лаборатории университета рассказал замглавы научной группы в области кибербезопасности Константин Гнидко. По словам Гнидко, многие из членов группы — выходцы из силовых структур. Сам Гнидко — полковник запаса ВКС, а глава группы — бывший сотрудник ФСБ, свидетельствует анализ «Агентства». Группа занимается разработкой технологий противодействия «пропаганде ложных установок и ценностей», «распространения деструктивного контента в сообществе учащихся» и остановкой распространения вредной информации, свидетельствует грант, который получил Гнидко.

Детали. Во время посещения Путиным «Сириуса» Гнидко поручили рассказать о работе всего Научного центра информационных технологий и искусственного интеллекта университета «Сириуса». По словам Гнидко, главный проект центра — разработка методов противодействия квантовым угрозам. Эксперт объяснил, что после изобретения квантовых компьютеров будут «скомпрометированы все существующие у нас средства шифрования». «Мы не знаем, когда этот момент наступит, и должны загодя, на перспективу, разрабатывать алгоритмы постквантового шифрования…» — объяснил ученый.

• ️Гнидко уточнил, что отражение квантовых угроз — не единственное направление работы: «Есть и другие направления… мы занимаемся вопросами безопасности искусственного интеллекта, больших языковых моделей, других моделей».
• ️Он не рассказал детали других проектов. Однако информация по крайней мере об одном из них есть на странице Российского научного фонда. Там говорится, что в 2025 году Гнидко получил грант от фонда. В рамках гранта ему предстоит изучить «технологию раннего выявления угроз информационно-психологической безопасности учащихся образовательных организаций федеральной территории „Сириус“ на основе моделей и методов искусственного интеллекта».
• ️В рамках проекта команда Гнидко должна выявлять кибербуллинг, дезинформацию, склонение к суициду, а также пропаганду ложных установок и ценностей; использовать большие языковые модели для поиска опасных смыслов в текстах и сообщениях, прогнозировать распространение деструктивного контента, применять математические модели (в том числе эпидемий и квантовых формализмов) для прогнозирования и предотвращения распространения вредной информации.

Кому поручили ответственную задачу? В группу по отражению квантовых угроз вошли 27 ученых со всей страны, в том числе шесть докторов наук, сказал Гнидко Путину. Как отметил эксперт, многие из них — выходцы из силовых структур. «Ну, небольшой, наверное, секрет, что в области информационной безопасности многие — выходцы из силовых структур. Я, например, заканчивал известную Военно-космическую академию имени А. Ф. Можайского», — уточнил ученый.

• ️Возглавляет группу по квантовым угрозам доктор технических наук Сергей Петренко, свидетельствует сайт «Сириуса». Он также является выходцем из силовых структур — семь лет проработал в испытательной лаборатории ФСБ России по тематическим исследованиям. Удостоен наград ФСБ, ФСО, Совбеза и Минобороны.
• ️Беседовавший с Путиным 43-летний Гнидко — доктор технических наук. Он учился в академии им. Можайского, в том числе военной кибернетике.
• ️Научную карьеру прерывал на время участия во Второй чеченской кампании в 2000-х и работу военным наблюдателем ООН в 2010-х в Южном Судане, о чем рассказывал в интервью. В запас ушел в звании полковника ВКС России.
• ️В «Сириусе» Гнидко работает уже 10 месяцев, сообщал он у себя на странице в LinkedIn.

Больше новостей, о которых боятся писать в России, — в наших аккаунтах в Telegram, Twitter, Facebook