Уязвимость в ChatGPT открыла новые возможности для злоумышленников
Специалисты обнаружили в популярном приложении ChatGPT для macOS новую уязвимость: она позволяет злоумышленникам устанавливать шпионское программное обеспечение благодаря функции памяти искусственного интеллекта. Это грозит постоянной утечкой данных на компьютерах пользователей. Подробности о том, почему нейросети могут шпионить за пользователями, читайте в материале «Известий».
Преступление ИИ наказание: нейросети научились предсказывать нападения Точность прогнозов искусственного интеллекта превышает 82% Благодаря этой функции ChatGPT может «запоминать» определенные данные из разных чатов, поэтому пользователям не приходится повторять одну и ту же информацию. Но выяснилось, что тот же самый механизм может использоваться и для ввода вредоносных инструкций в память системы.
— Плюсы такой функции в том, что ИИ долгосрочно запоминает информацию и улучшает взаимодействие с пользователями, но минус в том, что эта функция также создает вектор для атакующего, если он получает доступ к памяти, — рассказывает специалист. — Уязвимость, найденная экспертами, демонстрирует, что контроль за функцией памяти ИИ требует повышенного внимания.
— Уязвимости, связанные с памятью чат-ботов, опасны тем, что они позволяют злоумышленникам длительное время получать доступ к данным пользователей без их ведома, — рассказывает эксперт. — Это особенно опасно для организаций, работающих с конфиденциальной информацией. Атаки с помощью SpAIware могут длиться неделями или даже месяцами. Кроме того, они не нуждаются в постоянном взаимодействии со стороны киберпреступников.
Понять, что ИИ оказался под воздействием злоумышленников, можно по неожиданным изменениям в поведении чат-бота, странным ответам или подозрительным запросам на получение информации. По словам Лена Рудольфа, именно поэтому важно следить за функцией памяти: если бот запоминает информацию без вашего явного разрешения или сохраняет неожиданное содержание, это может быть индикатором компрометации.
Механизмы защитыДля того чтобы обезопасить себя от рисков, связанных с уязвимостями в нейросетях, специалисты, опрошенные «Известиями», рекомендуют соблюдать определенные правила безопасности. В частности, Лен Рудольф советует отключать функцию памяти нейросетей, если она не нужна, или регулярно ее проверять и очищать.
Россия Последние новости, Россия Последние новости
Similar News:Вы также можете прочитать подобные новости, которые мы собрали из других источников новостей
По делу о поставке некачественных бронежилетов в МО проходят девять обвиняемыхКак сообщили в правоохранительных органах, расследование продолжается, в дальнейшем могут появиться новые обвиняемые
Прочитайте больше »
Минобороны показало работу расчетов БПЛА в Курской областиКак рассказали в российском военном ведомстве, военнослужащие из состава расчетов БПЛА в приграничном районе области, в частности, осуществляют разведку, корректировку огня артиллерии, ведут видеоф...
Прочитайте больше »
Politico: США могут передать Украине боеприпасы JSOM для применения с F-16Как пишет газета, эти боеприпасы могут войти в пакет военной помощи Киеву на сумму $375 млн
Прочитайте больше »
«Военная хроника»: ВС России могут создать под Покровском «зоны убоя»«Военная хроника» заявила, что российские войска могут создать под Покровском «зоны убоя», как в Артёмовске.
Прочитайте больше »
Военкор Казаков показал в эфире Первого канала сбитый украинский FPV-дрон. Новости. Первый каналПо его словам, такие дроны используются в районе Кинбурнской косы, так как могут перелететь через Днепр.
Прочитайте больше »
Сальдо рассказал о возвращении жителей Херсонской областиГраждане все чаще обращаются в властям региона с вопросами о том, как они могут вернуться.
Прочитайте больше »