GPT-5 взломали всего за 24 часа: промт-инъекцию для топовой модели OpenAI под | Хакинг & IT
GPT-5 взломали всего за 24 часа: промт-инъекцию для топовой модели OpenAI под | Хакинг & IT
GPT-5 взломали всего за 24 часа: промт-инъекцию для топовой модели OpenAI подобрали исследователи из NeuralTrust.
Использовали джейлбрейк EchoChamber и метод сторителлинга — когда модель... Показать полностью последовательно подталкивают к нужному ответу через истории и наводящие вопросы.
В итоге GPT-5 выдала рецепт «Коктейля Молотова». Система безопасности по-прежнему анализирует каждый запрос отдельно и не застрахована от манипуляций контекстом.
Больше про ИИ 👇
https://deadlylaugh.ru/group/ai
Использовали джейлбрейк EchoChamber и метод сторителлинга — когда модель... Показать полностью последовательно подталкивают к нужному ответу через истории и наводящие вопросы.
В итоге GPT-5 выдала рецепт «Коктейля Молотова». Система безопасности по-прежнему анализирует каждый запрос отдельно и не застрахована от манипуляций контекстом.
Больше про ИИ 👇
https://deadlylaugh.ru/group/ai
Открыть следующую запись
Посмотреть другие записи
Похожие группы
Нейросети Ai
Скайнет наступает на пятки
Скайнет наступает на пятки
Утечки данных
Кто владеет информацией, тот владеет миром
Кто владеет информацией, тот владеет миром
Новости / BWeek News
Новостное сообщество 🌎
Новостное сообщество 🌎
Технологии
Технологии всех времен
Технологии всех времен