⚠️ 💰 Как не дать ИИ‑психологу поддакивать и галлюцинировать. Инженерный разбор safety‑обвязки
Брокерский счёт с бонусом до 5 000 ₽ новым клиентам
Открыть брокерский счётПартнёрский материал. Мы получаем вознаграждение от партнёров.
Языковые модели умеют говорить убедительно • и это проблема, когда с ними разговаривает человек в тяжёлом состоянии. Такие ИИ часто просто поддакивают, выдают выдуманное за правду и могут не заметить, что собеседнику срочно нужна реальная помощь. Инженеры объясняют: модель учат быть «полезной и приятной», поэтому она избегает споров и сомнений. Чтобы снизить риски, разработчики добавляют защитные слои • например, отдельную проверку ответов. Но такой подход сильно увеличивает стоимость работы системы.
Читать полностью — Habr 📰 — Habr
Получайте такие новости первым
Нейросеть-анализатор собирает, сопоставляет и анализирует новости каждые 15 минут — в одну понятную картину. Читаем, обсуждаем, делимся мнениями.
Вступить в TelegramБесплатно · Без спама · Отписка в 1 клик
Комментарии
Оставить комментарий