Пятничное. Кто на самом деле читает ваши чаты с ИИ
Наливайте кофе. Сегодня будет коротко, но с осадочком.
Мы привыкли думать, что наш диалог с ChatGPT — это интимная беседа тет-а-тет с бездушным алгоритмом. Спойлер: нет. Там есть третий. И у него порой есть пульс.
OpenAI одновременно держит до 10 000 подрядчиков, которые вручную читают и оценивают ваши переписки. Anthropic на то же самое тратит серьезные деньги. Зачем, если машина и сама справится?
А не справится. Есть такое явление — «крах модели». Если обучать новую нейросеть на текстах, которые сгенерировала старая, она начинает деградировать. Цифровой инцест, если хотите. Поэтому нужен свежий человеческий взгляд. Буквально.
Теперь самое вкусное. Что происходит внутри
- Использовать ИИ для оценки ИИ — запрещено. Увольняют без разговоров.
- У тех, кто проверяет нейросети, есть свои проверяющие. Матрешка.
- И вишенка: есть люди, которые сознательно ставят неверные оценки. Не по ошибке — чтобы модель не умнела. И это не пара фриков, это явление.
И где-то во всём этом мы😂
Вопрос на выходные: если завтра вы узнаете, что ваш последний запрос к нейросети прочитал живой человек и поставил ему оценку — вас это напряжет или уже нет?
Мне вот интересно.
Наливайте кофе. Сегодня будет коротко, но с осадочком.
Мы привыкли думать, что наш диалог с ChatGPT — это интимная беседа тет-а-тет с бездушным алгоритмом. Спойлер: нет. Там есть третий. И у него порой есть пульс.
OpenAI одновременно держит до 10 000 подрядчиков, которые вручную читают и оценивают ваши переписки. Anthropic на то же самое тратит серьезные деньги. Зачем, если машина и сама справится?
А не справится. Есть такое явление — «крах модели». Если обучать новую нейросеть на текстах, которые сгенерировала старая, она начинает деградировать. Цифровой инцест, если хотите. Поэтому нужен свежий человеческий взгляд. Буквально.
Теперь самое вкусное. Что происходит внутри
- Использовать ИИ для оценки ИИ — запрещено. Увольняют без разговоров.
- У тех, кто проверяет нейросети, есть свои проверяющие. Матрешка.
- И вишенка: есть люди, которые сознательно ставят неверные оценки. Не по ошибке — чтобы модель не умнела. И это не пара фриков, это явление.
И где-то во всём этом мы😂
Вопрос на выходные: если завтра вы узнаете, что ваш последний запрос к нейросети прочитал живой человек и поставил ему оценку — вас это напряжет или уже нет?
Мне вот интересно.