«Последний ИИ, созданный людьми»
Вышла большая работа с довольно вызывающим названием — The Last AI Built by Humans.
Но речь там пока не о том, что где-то уже собрали «последний человеческий ИИ». Авторы пытаются понять, что должно произойти, чтобы нейросеть научилась не просто выполнять работу лучше, а самостоятельно улучшать сам механизм собственного развития.
🤖Чтобы почувствовать разницу, представьте разработчика.
Сначала человек говорит ИИ:
А финальная стадия будет выглядеть примерно так:
Вот это авторы и называют recursive meta-improvement — рекурсивным метаулучшением.
Всего они выделяют пять уровней: от выполнения заданных человеком улучшений до системы, которая способна менять собственный механизм поиска, проверки и закрепления будущих изменений.
🤖Отдельные части этого мира существуют уже сейчас. ИИ умеет переписывать код, оптимизировать промпты, выбирать инструменты, учиться на обратной связи и самостоятельно проводить некоторые эксперименты.
Но есть принципиальная разница между:
Вот второй цикл пока полноценно не замкнулся. Авторы прямо пишут, что настоящего рекурсивного самоулучшения сегодня ещё нет.
Для обычного человека смысл здесь не в том, что завтра ChatGPT тайком перепишет себя, станет сверинтеллектом и захватит мир.
Пока это чуть про другое: если ИИ сможет сам ускорять исследования, тестировать идеи и улучшать инструменты для следующего поколения моделей, скорость развития ИИ начнёт всё меньше зависеть от того, насколько быстро работают люди.
Сегодня всё ещё выглядит примерно так:
«Последний ИИ, созданный людьми» — это не обязательно последняя нейросеть вообще. Это может быть последняя нейросеть, следующую версию которой люди ещё проектировали сами. К счастью или к сожалению — покажет время, но до этого мы пока не дошли.
max.ru/channel_v_seti
Вышла большая работа с довольно вызывающим названием — The Last AI Built by Humans.
Но речь там пока не о том, что где-то уже собрали «последний человеческий ИИ». Авторы пытаются понять, что должно произойти, чтобы нейросеть научилась не просто выполнять работу лучше, а самостоятельно улучшать сам механизм собственного развития.
🤖Чтобы почувствовать разницу, представьте разработчика.
Сначала человек говорит ИИ:
«Вот код. Исправь ошибку».Следующий уровень:
«Сам найди, что здесь можно улучшить».Потом:
«Сам пойми, каких знаний тебе не хватает, добудь их и стань лучше».
А финальная стадия будет выглядеть примерно так:
«Улучши сам способ, которым ты ищешь следующие улучшения».
Вот это авторы и называют recursive meta-improvement — рекурсивным метаулучшением.
Всего они выделяют пять уровней: от выполнения заданных человеком улучшений до системы, которая способна менять собственный механизм поиска, проверки и закрепления будущих изменений.
🤖Отдельные части этого мира существуют уже сейчас. ИИ умеет переписывать код, оптимизировать промпты, выбирать инструменты, учиться на обратной связи и самостоятельно проводить некоторые эксперименты.
Но есть принципиальная разница между:
«я стал лучше решать задачи»и
«я стал лучше придумывать, как сделать себя ещё лучше».
Вот второй цикл пока полноценно не замкнулся. Авторы прямо пишут, что настоящего рекурсивного самоулучшения сегодня ещё нет.
Для обычного человека смысл здесь не в том, что завтра ChatGPT тайком перепишет себя, станет сверинтеллектом и захватит мир.
Пока это чуть про другое: если ИИ сможет сам ускорять исследования, тестировать идеи и улучшать инструменты для следующего поколения моделей, скорость развития ИИ начнёт всё меньше зависеть от того, насколько быстро работают люди.
Сегодня всё ещё выглядит примерно так:
люди придумали архитектуру → люди собрали данные → люди провели эксперименты → люди выпустили следующую модель.При настоящем рекурсивном самоулучшении большая часть этой цепочки перейдёт самой системе. И тогда название работы не будет просто красивым кликбейтом.
«Последний ИИ, созданный людьми» — это не обязательно последняя нейросеть вообще. Это может быть последняя нейросеть, следующую версию которой люди ещё проектировали сами. К счастью или к сожалению — покажет время, но до этого мы пока не дошли.
max.ru/channel_v_seti