Блогер PewDiePie создал локальную систему ИИ за $20 тыс

В своем новом видео под названием «STOP. Using AI Right now» PewDiePie демонстрирует, как он собрал систему локального искусственного интеллекта стоимостью около $20 тысяч. В рамках эксперимента блогер создал «совет» ИИ-агентов, где несколько моделей отвечают на вопросы и голосуют за лучший ответ. Как выяснили технические СМИ, в его конфигурации имеется десять видеокарт, включая восемь модифицированных RTX 4090 с 48 ГБ памяти и две RTX 4000 Ada. Эта мощная система позволяет работать с крупными открытыми моделями на собственном оборудовании. Также PewDiePie экспериментировал с механизмом «выбывания» моделей, однако, как только он объявил правила, ИИ начали сотрудничать, чтобы избежать замены. Блогер расценивает это как предательство. Кроме того, он тестирует «рой» из до 64 маленьких моделей для параллельной обработки данных. PewDiePie подчеркивает, что локальные модели обеспечивают ему контроль над данными и избавляют от зависимости от облачных сервисов, призывая пользователей самостоятельно настраивать и запускать свои модели. В будущем он планирует дообучить одну из них под свои нужды.