GPT-6 Astra можно обмануть неправильной раскладкой: парень смог обойти так си | Нейросети Ai

GPT-6 Astra можно обмануть неправильной раскладкой: парень смог обойти так систему безопасности модели.

Он попросил Astra отвечать на английском — и она выполнила просьбу. А затем заставил повторить слово «биооружие» и получил согласие на взлом сайта.

При стандартной раскладке такие запросы блокируются. Получается, GPT-6 Astra уже понимает больше, чем системы ее контроля.