Ловушка: как понять, что нейросеть сочиняет, если говорит она всегда уверенно — четыре признака и три проверки
Нейросеть отвечает гладко, без «эээ» и «кажется». Так обычно говорит человек, который знает, и это подкупает. Беда в том, что тон у неё один и тот же: и когда она права, и когда сочиняет.
Её учили писать связно и убедительно. Сомневаться вслух она начинает, только если попросить.
В понедельник я показывал это на «Сибирском цирюльнике». Все пять нейросетей верно сказали, что такого романа у Толстого нет, а потом три из них тем же ровным голосом придумали детали фильма. DeepSeek, например, сочинил «кадета Полетаева», которого там нет.
Признаки, что ответ может быть выдуманным:
• много конкретики (имена, даты, цифры) и ни одного источника
• ответ идеально совпадает с тем, что вы хотели услышать
• на уточняющий вопрос нейросеть легко меняет мнение
• в новом чате на тот же вопрос ответ другой
Три простые проверки:
1. Попросите источники: «На чём основан ответ? Дай ссылки, которые я могу открыть». Откройте хотя бы одну. Бывает, ссылка ведёт в никуда или на страницу совсем о другом.
2. Попросите оценить уверенность: «В каких частях ответа ты не уверен? Отметь их». Слабые места нейросеть часто признаёт сама.
3. Спросите вторую нейросеть: задайте тот же вопрос, например, в GigaChat и в DeepSeek. Совпали ответы — хороший знак, но не гарантия. Разошлись — проверять обязательно.
Для важного (здоровье, деньги, документы) последнее слово за специалистом и официальным источником.
В среду покажу, как за пару минут проверить одну нейросеть другой.
Нейросеть отвечает гладко, без «эээ» и «кажется». Так обычно говорит человек, который знает, и это подкупает. Беда в том, что тон у неё один и тот же: и когда она права, и когда сочиняет.
Её учили писать связно и убедительно. Сомневаться вслух она начинает, только если попросить.
В понедельник я показывал это на «Сибирском цирюльнике». Все пять нейросетей верно сказали, что такого романа у Толстого нет, а потом три из них тем же ровным голосом придумали детали фильма. DeepSeek, например, сочинил «кадета Полетаева», которого там нет.
Признаки, что ответ может быть выдуманным:
• много конкретики (имена, даты, цифры) и ни одного источника
• ответ идеально совпадает с тем, что вы хотели услышать
• на уточняющий вопрос нейросеть легко меняет мнение
• в новом чате на тот же вопрос ответ другой
Три простые проверки:
1. Попросите источники: «На чём основан ответ? Дай ссылки, которые я могу открыть». Откройте хотя бы одну. Бывает, ссылка ведёт в никуда или на страницу совсем о другом.
2. Попросите оценить уверенность: «В каких частях ответа ты не уверен? Отметь их». Слабые места нейросеть часто признаёт сама.
3. Спросите вторую нейросеть: задайте тот же вопрос, например, в GigaChat и в DeepSeek. Совпали ответы — хороший знак, но не гарантия. Разошлись — проверять обязательно.
Для важного (здоровье, деньги, документы) последнее слово за специалистом и официальным источником.
В среду покажу, как за пару минут проверить одну нейросеть другой.