Google разрабатывает новую методику обучения ИИ для повышения устойчивости

Современные искусственные интеллекты сталкиваются с проблемой «катастрофического забывания»: при обучении на новых данных они теряют старые навыки. Это создает трудности в постоянном обучении, что критично для бизнеса, где изменения происходят ежедневно. В ответ на эту проблему Google предложила новый подход, названный Nested Learning, который рассматривает обучение как систему вложенных задач с индивидуальными потоками контекста и ритмами обновления. На верхнем уровне находятся медленные компоненты, сохраняющие устойчивые знания, а на нижнем — быстро переобучаемые элементы. Google разработала прототип Hope, который демонстрирует лучшие результаты в языковом моделировании по сравнению с трансформерами и современными моделями. Hope может дообучаться в реальном времени, что открывает новые возможности для создания надежных ИИ-агентов. Однако для проверки ее эффективности необходимы независимые тесты.