В России появится единый центр исследования безопасности для защиты от рисков, связанных с ИИ. Возможно, центр будет создан уже в 2024 г. Его содержание может обходиться до 30 млн руб. в год.
Центр быстрого реагирования
Минцифры ведет работу по созданию CERT (computer emergency response team — общепринятое название команд реагирования на инциденты информационной безопасности) по искусственному интеллекту (ИИ), пишут «Ведомости».
К работе привлечены заинтересованные участники, подтвердил замглавы Минцифры Александр Шойтов.
«С учетом того что вопросы безопасности ИИ в отдельных компаниях и госструктурах развиваются, создание единого центра исследований информационной безопасности (ИБ) искусственного интеллекта как единой точки исследований необходимо», — сказал замминистра.
Работа с ИИ требует «доверенности, верифицируемости и надежности, а также проверки инструментов разработки на наличие уязвимостей», считает управляющий директор «Лаборатории Касперского» в России и странах СНГ Анна Кулашова, нужно объединить усилия, быстро обмениваться информацией и рекомендациями по реагированию на инциденты: «В действующих CERT организовать тот же процесс сложно, поскольку технологии ИИ развиваются очень быстро и включают в себя большое количество участников, постоянно появляется что-то новое, и ни одна компания не может все отслеживать самостоятельно».
По ее словам, при активном взаимодействии с участниками такой центр может появиться уже в течение 2024 г.
Тема создания CERT для ИИ обсуждается в рамках готовящегося национального проекта «Экономика данных», который должен прийти на смену нацпроекту «Цифровая экономика», сказал советник генерального директора Positive Technologies Артем Сычев.
При среднерыночной стоимости специалистов госсектора и налогах, с учетом стоимости аренды, оборудования, ПО и амортизации содержание CERT может обходиться примерно в 25–30 млн руб. в месяц, оценил эксперт рынка НТИ SafeNet Игорь Бедеров.
Как работает CERT
CERT — это группа реагирования на инциденты, т. е. это могут быть организации и специалисты, имеющие подходящую квалификацию; их количество может варьироваться от нескольких до нескольких сотен человек, пояснил руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров. Действующие CERT — это, по сути, аутсорсинг специалистов по ИБ, которые в случае возникновения критического инцидента подключаются и работают в интересах заказчика.
Кулашова считает логичным создание на базе регулятора центра, к взаимодействию с которым могли бы присоединиться операторы связи, организации из Альянса в сфере ИИ или специализирующиеся на этой технологии компании, а также другие регуляторы: «В части классической кибербезопасности проводится регулярная проверка алгоритмов безопасной разработки ПО. То же самое может касаться и алгоритмов использования ИИ для разработки, проверки и мониторинга».
CERT по ИИ позволит специализироваться на прогнозировании новых и упреждении существующих угроз, которые могут быть связаны с использованием ИИ в различных сферах — от медицины до финансов, добавил эксперт «Университета 2035» Ярослав Селиверстов.
Борьба с угрозами ИИ
Атаки в сфере ИИ имеют мало общего с атаками на информационную инфраструктуру, поэтому и сбор информации о них, и ее анализ организованы по-другому, подчеркнул заместитель генерального директора ГК «Гарда» Рустэм Хайретдинов.
Технологии машинного обучения имеют специфичные угрозы безопасности, согласился руководитель Центра противодействия киберугрозам Innostage SOC Cyberart Максим Акимов. В качестве примера он привел «отравление» данных, используемых для обучения алгоритмов: «Алгоритмы принимают решения на основании данных, поэтому преднамеренное искажение таких выборок может привести к непредсказуемым последствиям».
По мнению управляющего директора практики «Данные и прикладной ИИ» Axenix Ларисы Мальковой, CERT также сможет осуществлять борьбу с дипфейками (цифровой технологией подмены личности).
В конце декабря 2023 г. премьер Михаил Мишустин дал поручение Минцифры проработать к 19 марта 2024 г. вопрос выявления фейков, созданных с помощью ИИ. А в феврале 2024 г. на заседании правительственной комиссии обсуждался вопрос необходимости регулирования применения этой технологии.
Озабоченность растущими угрозами, исходящими от очень быстро развивающихся технологий ИИ, звучит по всему миру. Первый в международной практике закон о регулировании искусственного интеллекта одобрил в марте 2024 г. Европарламент.
Документ довольно жестко, как писал CNews, ограничивает возможности применения ИИ с целью минимизировать риски от его использования. В частности, запрещается присвоение так называемого «социального рейтинга», ограничивается применение технологий распознавания лиц. Закон предписывает также, что сгенерированные ИИ изображения, видеоролики или аудиозаписи реально существующих людей, мест или событий должны быть помечены как искусственно созданные.
Источник:https://www.cnews.ru/news/top/2024-04-03_mintsifry_sozdaet_edinyj
Проблема с глобальной инфраструктурой DNSSEC, из-за которой возник масштабный сбой в работе Рунета, устранена. В Минцифры предупредили, что проблемы с доступом могут наблюдаться еще какое-то время
Проблема, вызвавшая сбои в работе сайтов в российской доменной зоне, устранена, сообщили в Минцифры и Координационном центре доменов .ru и .рф.
«Техническая проблема, связанная с глобальной инфраструктурой DNSSEC, вызвавшая недоступность сайтов в зоне .ru, устранена», — сообщили в последнем.
В Минцифры предупредили, что проблемы с работой DNS могут быть еще какое-то время, «пока обновленные данные не разойдутся по системе доменных имен».
Вечером 30 января пользователи и операторы начали сообщать о массовом сбое в работе мобильного интернета. Большинство неполадок были зафиксированы в Москве, Санкт-Петербурге, Краснодарском крае, Башкирии и Костромской области. Проблемы наблюдались и при попытке воспользоваться российскими приложениями из-за рубежа.
В Координационном центре доменов .ru и .рф и в Минцифры объяснили сбой проблемами с глобальной инфраструктурой DNSSEC. Это набор расширений протокола DNS, призванного гарантировать достоверность и целостность данных. Он позволяет исключить вероятность подмены IP-адреса в результате атак. Собеседники РБК рассказывали, что для решения проблемы операторы начали отключать DNSSEC.
Глава Минцифры заявил, что с февраля остались за рубежом 10% IT-специалистов.
Примерно 100 тыс. IT-специалистов покинули Россию с начала 2022 года. Об этом сообщил глава Минцифры Максут Шадаев во время правительственного часа в Государственное думе.
Руководитель ведомства отметил, что это количество составляет примерно 10% сотрудников всех компаний в стране. При этом 80% из них продолжают работать на российские организации. Тем не менее, поднимать вопрос о полном запрете на удаленную работу для мигрантов пока преждевременно, считает чиновник.
«Ключевая мера, которую мы сейчас предлагаем все-таки обсудить, — это не вводить жесткие ограничения, потому что это, конечно, подтолкнет их к тому, чтобы они устраивались на работу в зарубежные компании», — сказал Шадаев.
Ранее сенатор Андрей Клишас заявлял, что разрабатывается законопроект, согласно которому работа россиян, которые покинули страну, на удаленке будет «менее комфортной».
Ранее Шадаев предлагал правительству создать условия для возвращения айтишников в РФ, показав «на деле», что «здесь можно спокойно продолжать работать».
Система должна оперативно выявлять утечки данных, предоставляя место выявления, время, уникальность, а также сведения о характере и порядке распространения персональных данных
Подведомственный Минцифры НИИ «Интеграл» заказал доработку системы мониторинга фишинговых сайтов и утечки персональных данных.
Как сообщает « Коммерсант », стоимость тендера составляет 170,6 млн руб. Исполнитель должен закончить работы до 30 сентября 2023 года.
По итогам доработки система должна подключить новые источники данных, содержащих адреса фишинговых ресурсов, обработку информации из базы данных вновь зарегистрированных доменных имен (все русскоязычные ресурсы вне зависимости от доменной зоны).
Кроме того, на базе системы должен быть создан компонент «Инкубатор», позволяющий производить визуальное сравнение скриншотов страниц старой и новой версий ресурса, а также уведомлять об изменениях на ресурсе.
Сообщается, что также система должна помочь оперативно выявлять утечки данных, предоставляя место выявления, время, уникальность, сведения о характере персональных данных, сведения о порядке распространения утекших данных.
Список открытых источников, как следует из тендерной документации, должен включать: Twitter-аккаунты с публикациями индикаторов, репозитории Github, Telegram-каналы, публичные анонимайзеры (proxy, vpn, tor).
Глава Минцифры Максут Шадаев в ходе CNews Forum 2022 объявил, что к концу ноября текущего года будет разработан механизм для легализации зарубежного ПО, не имеющего российских аналогов, правообладатели которого ушли из РФ.
По словам Шадаева, необходимо "вывести из-под удара" компании, которые в отсутствии конкурентоспособных российских аналогов вынуждены использовать зарубежное ПО "с определенным нарушением условий их правообладателей (ушедших из РФ)". Но при этом в Минцифры осознают, что, если "дать полную свободу" использования зарубежного ПО, это негативно отразится на российских разработчиках софта.
Глава ведомства отметил, что рассматриваются различные варианты легализации. Один из них - создание спецсчетов, куда пользователи могли бы отчислять средства за использование зарубежного софта, которые правообладатель сможет получить после возвращения в РФ.
Минцифры надеется решить вопрос с регулированием использования ПО, ушедших из России вендоров до конца ноября.
-
Onion
Автору за прочтение (Любой может отредактировать чужие записи в Telegram (Onion)) / 0.50 баллы
-
Антон Максимов
Новый пользователь ( Добро пожаловать!) / 10.00 баллы
-
услуги на заказ
Добавление комментария(лента) / 1.00 баллы
-
Onion
Автору за прочтение (Любой может отредактировать чужие записи в Telegram (Onion)) / 0.50 баллы
-
marussia
За оценку статьи в ленте (лайк или дизлайк) / 1.00 баллы
-
marussia
За оценку статьи в ленте (лайк или дизлайк) / 1.00 баллы
-
marussia
За оценку статьи в ленте (лайк или дизлайк) / 1.00 баллы
-
marussia
Добавление комментария(лента) / 1.00 баллы
-
marussia
За оценку статьи в ленте (лайк или дизлайк) / 1.00 баллы
-
marussia
Добавление комментария(лента) / 1.00 баллы
Подробнее...