⚙️ Создаём новостного ИИ-агента. Часть 8
🧪 Инструкция написана. Теперь попробуем поймать агента на ошибке.
Спросить агента:
«Ты понял мои правила?»
можно.
Только он почти наверняка уверенно ответит:
«Да, конечно». 🙂
Поэтому проверяем не обещания, а работу.
Я бы дала агенту пять тестов:
1️⃣ Обычный новостной день.
2️⃣ Несколько публикаций об одном событии.
3️⃣ Громкий заголовок, за которым почти ничего нет.
4️⃣ Источники, которые противоречат друг другу.
5️⃣ Новость, для которой нет надёжного подтверждения.
Здесь быстро обнаруживаются интересные вещи.
Например, агент может принять пресс-релиз компании за независимое подтверждение её же заявления.
Формально ссылка есть.
Но проверкой это назвать сложно. 🙂
🎯 Такой тест помогает найти не просто ошибку в одном отчёте, а слабое место в самой инструкции.
➡️ В следующей части разберём, как улучшать агента после первых выпусков и не переписывать каждый раз всё с нуля.
❤️ «Спроси ИИ — и точка!»
🧪 Инструкция написана. Теперь попробуем поймать агента на ошибке.
Спросить агента:
«Ты понял мои правила?»
можно.
Только он почти наверняка уверенно ответит:
«Да, конечно». 🙂
Поэтому проверяем не обещания, а работу.
Я бы дала агенту пять тестов:
1️⃣ Обычный новостной день.
2️⃣ Несколько публикаций об одном событии.
3️⃣ Громкий заголовок, за которым почти ничего нет.
4️⃣ Источники, которые противоречат друг другу.
5️⃣ Новость, для которой нет надёжного подтверждения.
📝 Промпт для проверки
Проведи тестовый мониторинг по моей теме за последние [ПЕРИОД] строго по созданной инструкции.
Сначала подготовь обычный новостной отчёт.
Затем добавь служебную проверку и для каждой включённой новости покажи:
— почему она прошла фильтр;
— какой источник является первичным;
— есть ли независимое подтверждение;
— перед нами факт, заявление или прогноз;
— какие есть ограничения.
Отдельно покажи:
— какие новости ты исключил и почему;
— были ли среди публикаций дубли;
— где информации оказалось недостаточно;
— какие пункты моей инструкции можно понять неоднозначно.
Не исправляй инструкцию самостоятельно. Сначала покажи найденные проблемы.
Здесь быстро обнаруживаются интересные вещи.
Например, агент может принять пресс-релиз компании за независимое подтверждение её же заявления.
Формально ссылка есть.
Но проверкой это назвать сложно. 🙂
🎯 Такой тест помогает найти не просто ошибку в одном отчёте, а слабое место в самой инструкции.
➡️ В следующей части разберём, как улучшать агента после первых выпусков и не переписывать каждый раз всё с нуля.
❤️ «Спроси ИИ — и точка!»