Андрей Карпатый запустил проект nanochat для обучения LLM

Андрей Карпатый, ML-инженер и бывший разработчик OpenAI, презентовал новый проект под названием nanochat. Это открытый проект, посвящённый созданию LLM (языковых моделей) полного цикла. Обучение модели может обойтись всего в 100 долларов при аренде облачных ресурсов. Nanochat разработан в рамках курса LLM101n от Eureka Labs и включает все необходимые инструменты, такие как собственный токенизатор на Rust, систему подкачки датасета FineWeb-EDU, а также скрипты для файнтюнинга, инференса и мониторинга метрик. В дополнение к этому предусмотрен веб-интерфейс для взаимодействия с готовой моделью. Для обучения потребуется инстанс с 8 видеокартами Nvidia H100, что позволит завершить процесс за четыре часа. Обучение запускается командой speedrun.sh, а веб-чат — с помощью python -m scripts.chat_web. Карпатый акцентирует внимание на том, что цель проекта — упростить процесс обучения языковых моделей до одной команды, что будет полезно для дальнейшей разработки и интеграции. Код nanochat открыт и доступен на GitHub с полными инструкциями.

  • Related Posts

    Как создать современный сайт на Laravel: практический маршрут от идеи до запуска

      Если у вас есть идея для веб-проекта и вы хотите реализовать её быстро, надёжно и с хорошей архитектурой, разработчик сайта на laravel — один из лучших путей. В этой…

    Huawei Mate 80 стал самым продаваемым флагманом на рынке Китая

    По информации известного китайского инсайдера Digital Chat Station, стандартная модель Huawei Mate 80 преодолела отметку в 1,5 миллиона активаций. Благодаря этому достижению, смартфон сумел опередить все остальные флагманы на китайском…

    You Missed

    Самосвальные полуприцепы: техника для стройки и добычи инертных материалов

    • От Redactor
    • 21 августа, 2026
    • 7 views

    Как сохранить букет свежим дольше

    • От Redactor
    • 19 августа, 2026
    • 8 views

    Чем отличается предчистовая отделка от чистовой

    • От Redactor
    • 17 августа, 2026
    • 14 views

    Сколько стоит грузчик на час

    • От Redactor
    • 10 августа, 2026
    • 24 views

    Как выбрать зал для конференции

    • От Redactor
    • 6 августа, 2026
    • 31 views

    Накрутка поведенческих факторов: быстрый эффект и высокая цена — что нужно знать, прежде чем рисковать

    • От Redactor
    • 16 июля, 2026
    • 29 views
    Накрутка поведенческих факторов: быстрый эффект и высокая цена — что нужно знать, прежде чем рисковать