🤖 Почему ИИ нельзя сделать на 100% безопасным?
Даже если разработчики гордо заявляют о безопасности нейросети, на практике это значит лишь одно: она успешно сдала экзамены по заранее выбранным тестам и бенчмаркам.
Как объясняет эксперт Института AIRI Олег Рогов, любая нейросеть — это вероятностная система. Сделать ее абсолютно предсказуемой невозможно. В процессе работы модель может банально «забыть» контекст рассуждения и начать выдавать искаженную информацию.
💡 Простой совет: если нейросеть начала галлюцинировать и писать бред, не пытайтесь ее переубедить – просто начните новый диалог.
О том, почему пара неудачных примеров могут испортить поведение ИИ и какие решения ему категорически нельзя доверять – смотрите в полном интервью Олега Рогова для Наука Mail.
Даже если разработчики гордо заявляют о безопасности нейросети, на практике это значит лишь одно: она успешно сдала экзамены по заранее выбранным тестам и бенчмаркам.
Как объясняет эксперт Института AIRI Олег Рогов, любая нейросеть — это вероятностная система. Сделать ее абсолютно предсказуемой невозможно. В процессе работы модель может банально «забыть» контекст рассуждения и начать выдавать искаженную информацию.
💡 Простой совет: если нейросеть начала галлюцинировать и писать бред, не пытайтесь ее переубедить – просто начните новый диалог.
О том, почему пара неудачных примеров могут испортить поведение ИИ и какие решения ему категорически нельзя доверять – смотрите в полном интервью Олега Рогова для Наука Mail.