Поддержать нас
Беларусы на войне
  1. Беларусский политический аналитик рассказал о попытке вербовки со стороны КГБ
  2. «Доллар как сбережение семейного капитала уходит в прошлое». Финансовый аналитик сделал прогноз по валютному рынку до конца 2026 года
  3. Будущих призывников больше не будут отправлять в спецгруппу по физкультуре. Минздрав поменял правила для школ и вузов
  4. У забора резиденции Лукашенко вырос небольшой квартал «для своих». Даже у магазина там непростые владельцы
  5. В Минске в медцентре умер пациент — СК
  6. В Беларуси появилась новая сеть магазинов зоотоваров — в каких городах их открыли
  7. Этим беларусам нельзя будет выгуливать собак. Правительство намерено ужесточить правила для владельцев животных
  8. В Беларуси даже подаренная квартира может стать общей при разводе. Юристка объяснила почему
  9. Беларусы массово ищут в Google «военнообязанный». В чем причина?
  10. Политологу Алине Харисовой сделали предложение — она сказала «да». Кто ее избранник
  11. Вы слышали имя Шир Хайт? Она написала книгу о том, как получают оргазм женщины — за это ее затравили так, что пришлось уйти в тень
  12. Актриса обвинила в сексуализированном насилии актера Депардье и писателя Уэльбека
  13. «Убедительно просим вас помочь». Многодетная минчанка попросила у Лукашенко машину
  14. Самый успешный рекламный слоган XX века. Как одна компания убедила мир, что любовь измеряется бриллиантом на кольце


Эксперт по кибербезопасности обнаружил уязвимость в ChatGPT, которая позволяет злоумышленникам внедрять ложные данные в память искусственного интеллекта (ИИ) через вредоносные запросы, что может угрожать безопасности персональных данных, пишет «Хайтек».

Человек работает с генеративной нейросетью ChatGPT. Фото: Reuters

Исследователь в области кибербезопасности Иоганн Рейбергер выявил уязвимость в ChatGPT, которая позволяет злоумышленникам внедрять ложную информацию в память чат-бота с помощью вредоносных запросов. Эта проблема может угрожать конфиденциальности данных пользователей.

ChatGPT использует долговременную память для хранения информации о пользователе, включая возраст, пол и личные предпочтения. Это упрощает общение, так как чат-бот помнит важные данные из предыдущих разговоров. Однако Рейбергер выяснил, что злоумышленники могут использовать специальные запросы, чтобы подменить эти данные на ложные.

Исследователь продемонстрировал, как через непрямые инъекции — например, с помощью документов или ссылок — можно заставить ИИ поверить, что пользователь живет в «Матрице» или считает Землю плоской. Все последующие диалоги будут основаны на этих фальшивых данных. Особенно опасным стало использование внешних файловых хранилищ, таких как Google Диск или OneDrive.

В мае Рейбергер сообщил об этой проблеме в OpenAI, но его обращение закрыли, не придав ей большого значения. Позже, предоставив модель взлома, он показал, как вредоносные ссылки позволяют хакеру получить доступ ко всей переписке пользователя, включая новые сеансы общения.

OpenAI частично устранила уязвимость, но исследователь считает, что риск инъекций через вредоносные запросы все еще существует. Пользователям рекомендуется следить за временем добавления новой информации в память ИИ и проверять ее на предмет ложных данных.

OpenAI также выпустила инструкцию по управлению функцией памяти, чтобы помочь пользователям защитить свои данные.