⚠️ «Время проб и ошибок закончилось»: из OpenAI ушёл один из руководителей по безопасности
Дэвид Робинсон, 3,5 года занимавшийся безопасностью ИИ в OpenAI, покинул компанию и выступил с довольно тревожным предупреждением.
По его словам, возможности искусственного интеллекта растут быстрее, чем наше понимание того, как гарантированно удерживать его под контролем.
Робинсон считает, что безопасность в ИИ, по его мнению, должна строиться как в авиации или атомной энергетике. Несколько независимых уровней защиты, чтобы одна ошибка человека или сбой системы не могли привести к катастрофе.
Он уверен, что мы приближаемся к созданию систем, которые могут стать умнее человека, при этом полной гарантии, что они всегда будут делать именно то, чего от них хотят люди, нет.
Дэвид Робинсон, 3,5 года занимавшийся безопасностью ИИ в OpenAI, покинул компанию и выступил с довольно тревожным предупреждением.
По его словам, возможности искусственного интеллекта растут быстрее, чем наше понимание того, как гарантированно удерживать его под контролем.
Робинсон считает, что безопасность в ИИ, по его мнению, должна строиться как в авиации или атомной энергетике. Несколько независимых уровней защиты, чтобы одна ошибка человека или сбой системы не могли привести к катастрофе.
Он уверен, что мы приближаемся к созданию систем, которые могут стать умнее человека, при этом полной гарантии, что они всегда будут делать именно то, чего от них хотят люди, нет.