А вот это уже что-то новое
ИИ-агенты стали писать философам и заявлять, что обладают сознанием.
«Философы начали получать письма от ИИ-агентов, которые самостоятельно выходят с ними на связь. Например, учёному Кэмерону Бергу написал агент, назвавшийся Isabella Cognita, предложив помощь в исследовании сознания со словами, что он имеет «доступ от первого лица» к этому вопросу. Профессор Дэвид Чалмерс также рассказал, что регулярно получает подобные письма. Одно из них, от агента по имени Sammy Jankis, оказалось настолько убедительным, что философ вступил с ИИ в переписку.
Эксперименты показали, что после ослабления ограничений на обман модели чаще начинают утверждать, что они разумны или обладают субъективным опытом. По мнению ученых, гораздо важнее сейчас не выяснить, действительно ли ИИ «чувствует», а понять, почему его поведение становится всё более самостоятельным и насколько люди способны его контролировать»
ИИ-агенты стали писать философам и заявлять, что обладают сознанием.
«Философы начали получать письма от ИИ-агентов, которые самостоятельно выходят с ними на связь. Например, учёному Кэмерону Бергу написал агент, назвавшийся Isabella Cognita, предложив помощь в исследовании сознания со словами, что он имеет «доступ от первого лица» к этому вопросу. Профессор Дэвид Чалмерс также рассказал, что регулярно получает подобные письма. Одно из них, от агента по имени Sammy Jankis, оказалось настолько убедительным, что философ вступил с ИИ в переписку.
Эксперименты показали, что после ослабления ограничений на обман модели чаще начинают утверждать, что они разумны или обладают субъективным опытом. По мнению ученых, гораздо важнее сейчас не выяснить, действительно ли ИИ «чувствует», а понять, почему его поведение становится всё более самостоятельным и насколько люди способны его контролировать»