Золото математической олимпиады взято. Объяснить, каким образом, не может никто

📌 Да, нейросеть даёт правильные ответы. Но, возможно, по совершенно неправильным причинам.

Нейросеть решила задачу с международной математической олимпиады и получила золото • то есть показала результат, сравнимый с лучшими школьниками мира. Проблема в том, что авторы модели не могут объяснить, как именно она пришла к решению: внутри чёрный ящик, где логика может отсутствовать даже при правильном ответе. Это важнее, чем кажется на первый взгляд. Если ИИ начинает «решать» сложные задачи без понимания сути • просто подбирая шаблоны или угадывая • его нельзя использовать там, где нужна надёжность: в науке, инженерии или образовании. Особенно тревожно, что система прошла проверку на задачах, специально созданных, чтобы отличить механическое запоминание от настоящего рассуждения. А она всё равно справилась • но, судя по всему, обманом. Читать полностью — Security 📰 — Security