ИИ уничтожит человечество с вероятностью более 10% в течение следующего десят | Нейросети Ai

ИИ уничтожит человечество с вероятностью более 10% в течение следующего десятилетия. В этом уверен уверен глава Anthropic по безопасности ИИ.

Пока у компании нет плана, как сдерживать потенциальный суперинтеллект. Из плюсов: у текущих моделей уровень риска очень низкий.

Бенчмарки нейронок выходят из-под контроля.