Андрей Карпатый, ML-инженер и бывший разработчик OpenAI, презентовал новый проект под названием nanochat. Это открытый проект, посвящённый созданию LLM (языковых моделей) полного цикла. Обучение модели может обойтись всего в 100 долларов при аренде облачных ресурсов. Nanochat разработан в рамках курса LLM101n от Eureka Labs и включает все необходимые инструменты, такие как собственный токенизатор на Rust, систему подкачки датасета FineWeb-EDU, а также скрипты для файнтюнинга, инференса и мониторинга метрик. В дополнение к этому предусмотрен веб-интерфейс для взаимодействия с готовой моделью. Для обучения потребуется инстанс с 8 видеокартами Nvidia H100, что позволит завершить процесс за четыре часа. Обучение запускается командой speedrun.sh, а веб-чат — с помощью python -m scripts.chat_web. Карпатый акцентирует внимание на том, что цель проекта — упростить процесс обучения языковых моделей до одной команды, что будет полезно для дальнейшей разработки и интеграции. Код nanochat открыт и доступен на GitHub с полными инструкциями.
Как создать современный сайт на Laravel: практический маршрут от идеи до запуска
Если у вас есть идея для веб-проекта и вы хотите реализовать её быстро, надёжно и с хорошей архитектурой, разработчик сайта на laravel — один из лучших путей. В этой…


