Нейросеть в Factorio: 6,4 млн параметров на комбинаторах
Пользователь RomaPro227 запустил языковую модель на 6,4 млн параметров прямо в Factorio — без модов и сторонних скриптов. Схема из 105 тыс. комбинаторов и 200 тыс. проводов выводит ответы на табло из 8 тыс. ламп.
В основе — трансформер с восемью слоями и головами внимания, контекст 256 символов. Ввод — по одному английскому символу, ответ появляется примерно за семь секунд на символ. Мир, веса и инструкции опубликованы на GitHub; нужны Factorio 2.0 и Space Age.
Пользователь RomaPro227 запустил языковую модель на 6,4 млн параметров прямо в Factorio — без модов и сторонних скриптов. Схема из 105 тыс. комбинаторов и 200 тыс. проводов выводит ответы на табло из 8 тыс. ламп.
В основе — трансформер с восемью слоями и головами внимания, контекст 256 символов. Ввод — по одному английскому символу, ответ появляется примерно за семь секунд на символ. Мир, веса и инструкции опубликованы на GitHub; нужны Factorio 2.0 и Space Age.