Microsoft наняла сотни проверяющих для Copilot для проверки текста и фотографий, которые люди загружают в чат-бот.
Microsoft наняла сотни подрядчиков, чтобы те помогали улучшать чат-бот Copilot. Их задача — оценивать, насколько хорошо ИИ выполнил просьбу пользователя. В частности, когда человек загружает фото для редактирования или пишет сложный запрос, подрядчик получает на проверку: сам запрос, исходное изображение и две версии, которые сгенерировал Copilot. Работнику нужно выбрать, какая из двух лучше соответствует заданию: правильно ли ИИ понял запрос, не испортил ли лишние детали, нет ли артефактов.
При этом, по словам работников, лица на загруженных фото часто не ретушировали — подрядчики видели их открыто. Многие говорили, что их не предупреждали заранее о таком тяжёлом контенте, и это вызывало дискомфорт. Один из работников даже просил у руководства ввести специальную пометку для опасных материалов после того, как получил набор из восьми подобных фото. В внутренних инструкциях Microsoft подрядчикам порой рекомендовали в спорных случаях полагаться на собственную «интуицию».
При этом Microsoft не отрицает данную практику. Представитель заявил, что Microsoft использует данные клиентов в соответствии с условиями использования — в том числе для улучшения продукта и контроля соблюдения правил. При этом важно не делать вывод, что каждый запрос или фото проходит ручную проверку: речь только о специально отобранных задачах в рамках процесса оценки. В разделе вопросов о приватности на сайте Microsoft тоже есть пояснение: часть разговоров действительно проходит и автоматическую, и ручную проверку — ради повышения точности и цифровой безопасности. При этом есть нюанс: если сервис заподозрил нарушение правил, полностью отказаться от такой ограниченной ручной проверки нельзя. Зато пользователь, войдя в аккаунт, может запретить использовать свои переписки для обучения моделей.
Стоит отметить, что похожая практика есть и у OpenAI: там тоже наняли подрядчиков, которые анализируют реальные диалоги пользователей с ChatGPT.
https://www.404media.co/humans-reading-copilot-prompts-images/
Microsoft наняла сотни подрядчиков, чтобы те помогали улучшать чат-бот Copilot. Их задача — оценивать, насколько хорошо ИИ выполнил просьбу пользователя. В частности, когда человек загружает фото для редактирования или пишет сложный запрос, подрядчик получает на проверку: сам запрос, исходное изображение и две версии, которые сгенерировал Copilot. Работнику нужно выбрать, какая из двух лучше соответствует заданию: правильно ли ИИ понял запрос, не испортил ли лишние детали, нет ли артефактов.
При этом, по словам работников, лица на загруженных фото часто не ретушировали — подрядчики видели их открыто. Многие говорили, что их не предупреждали заранее о таком тяжёлом контенте, и это вызывало дискомфорт. Один из работников даже просил у руководства ввести специальную пометку для опасных материалов после того, как получил набор из восьми подобных фото. В внутренних инструкциях Microsoft подрядчикам порой рекомендовали в спорных случаях полагаться на собственную «интуицию».
При этом Microsoft не отрицает данную практику. Представитель заявил, что Microsoft использует данные клиентов в соответствии с условиями использования — в том числе для улучшения продукта и контроля соблюдения правил. При этом важно не делать вывод, что каждый запрос или фото проходит ручную проверку: речь только о специально отобранных задачах в рамках процесса оценки. В разделе вопросов о приватности на сайте Microsoft тоже есть пояснение: часть разговоров действительно проходит и автоматическую, и ручную проверку — ради повышения точности и цифровой безопасности. При этом есть нюанс: если сервис заподозрил нарушение правил, полностью отказаться от такой ограниченной ручной проверки нельзя. Зато пользователь, войдя в аккаунт, может запретить использовать свои переписки для обучения моделей.
Стоит отметить, что похожая практика есть и у OpenAI: там тоже наняли подрядчиков, которые анализируют реальные диалоги пользователей с ChatGPT.
https://www.404media.co/humans-reading-copilot-prompts-images/