Официантка из Нью-Йорка рассказала, как гости с аллергией на морепродукты заказывают блюда на рыбном бульоне и отвергают её предупреждения, потому что «ChatGPT сказал, что там нет моллюсков». Это не единичный случай — AI-галлюцинации начинают напрямую влиять на повседневные решения.

Проблема не в том, что нейросеть ошибается, а в том, что люди ставят её ответы выше мнения живого эксперта. В ситуации с аллергией такая слепая вера может стоить здоровья. AI-ассистенты всё чаще воспринимаются как абсолютный авторитет, хотя их галлюцинации — известный недостаток.

Пока индустрия обсуждает безопасность агентов, обычные пользователи уже применяют ChatGPT в быту, не учитывая его ненадёжность. Это поднимает вопрос: нужно ли маркировать AI-ответы как потенциально ошибочные, особенно в чувствительных темах вроде здоровья и питания.