Подписка
МЕНЮ
Подписка

Онлайн-мероприятия для руководителей и специалистов по безопасности, защите  информации и  ИТ  1 декабря. Роботизация бизнес-процессов 5 декабря. Умные чат-боты и голосовые ассистенты для банков 6 декабря. Российский HRTech 7 декабря. Удаленная и гибридная работа  Жмите здесь, чтобы участвовать!

Китайские исследователи успешно внедрили вирус в нейросеть

26/07/21

AI errorКитайские исследователи сообщили, что смогли внедрить вредоносное ПО в половину узлов модели искусственного интеллекта. По их мнению, вредоносы можно успешно встраивать непосредственно в искусственные нейроны, составляющие модели машинного обучения, таким образом, чтобы их нельзя было обнаружить.

Как сообщает Securitylab, при этом сама нейросеть сможет продолжить выполнение поставленных задач в обычном режиме.

Скрытая доставка вредоносного ПО с возможностью уклонения от обнаружения имеет решающее значение для продвинутых кампаний по вредоносному ПО. Метод, представленный исследователями, обеспечивает скрытую доставку вредоносных программ и предотвращает их обнаружение с помощью моделей нейронных сетей.

Модели нейронных сетей обладают хорошей способностью к обобщению. Встраивая вредоносное ПО в нейроны, вредоносное ПО может быть доставлено незаметно с незначительным или даже нулевым влиянием на производительность нейронных сетей.

Эксперименты с реальными образцами вредоносных программ показали, что замена примерно 50 % нейронов в модели AlexNet на вредоносное ПО по-прежнему обеспечивает точность модели выше 93,1 %. Исследователи показали, что 36,9 МБ вредоносных программ можно встроить в модель AlexNet размером 178 МБ с потерей точности 1%. При этом вредоносное ПО остается незаметным для антивирусов.

«По мере того как нейронные сети становятся все более широко используемыми, этот метод станет универсальным для доставки вредоносных программ», — отмечают авторы исследования.

Темы:ИсследованиеКитайИскусственный интеллектНовостиКиберугрозы

Хотите участвовать?

Выберите вариант!

КАЛЕНДАРЬ МЕРОПРИЯТИЙ
ПОСЕТИТЬ МЕРОПРИЯТИЯ
ВЫСТУПИТЬ НА КОНФЕРЕНЦИЯХ
СТАТЬ РЕКЛАМОДАТЕЛЕМ