Anthropic запретила пользователям без причины и подолгу издеваться над её ИИ-моделями, включая Claude. Правило вступит в силу 12 ноября.
«Мы добавили запрет на продолжительное и бессмысленное оскорбительное или жестокое обращение с нашими моделями», — говорится в сообщении компании.
Обычная критика, раздражение, мрачные творческие сюжеты и тестирование под запрет не подпадают. В крайних случаях Claude сможет самостоятельно завершать разговор. Автоматическую блокировку аккаунтов за оскорбления компания не анонсировала.
Решение связано с исследованиями возможного «благополучия» ИИ. Anthropic не знает, способны ли модели испытывать переживания, но считает разумным соблюдать меры предосторожности.
«Мы добавили запрет на продолжительное и бессмысленное оскорбительное или жестокое обращение с нашими моделями», — говорится в сообщении компании.
Обычная критика, раздражение, мрачные творческие сюжеты и тестирование под запрет не подпадают. В крайних случаях Claude сможет самостоятельно завершать разговор. Автоматическую блокировку аккаунтов за оскорбления компания не анонсировала.
Решение связано с исследованиями возможного «благополучия» ИИ. Anthropic не знает, способны ли модели испытывать переживания, но считает разумным соблюдать меры предосторожности.