Исследователи из MIT опубликовали метод, который гарантирует, что ИИ-модели хаотических систем никогда не перейдут в физически невозможные состояния, независимо от длительности симуляции. Работа под руководством аспиранта Сунбочэня Тана (Sunbochen Tang) и профессоров Навида Азизана (Navid Azizan) и Фемистоклиса Сапсиса (Themistoklis Sapsis) из Лаборатории информационных систем и систем принятия решений (LIDS) опубликована в журнале Proceedings of the National Academy of Sciences [1][2]. Ключевым достижением является проекционный слой, который накладывает диссипацию энергии как жесткое ограничение внутри архитектуры модели, а не полагается на «мягкие» штрафы во время обучения [1][5].
Почему современные модели терпят неудачу на длинных горизонтах
Хаотические системы, такие как погода, климат и турбулентные потоки, крайне чувствительны к начальным условиям, поэтому даже крошечные различия приводят к кардинально разным результатам [1][6]. Нейронные сети могут хорошо соответствовать краткосрочным данным, но небольшие ошибки накапливаются до тех пор, пока моделируемые значения не начинают бесконечно расти, хотя реальная система остается ограниченной [1][5]. Азизан отмечает, что модель может выглядеть точной в течение короткого периода и все равно давать сбой при более длительном запуске, выдавая прогнозы, которые никогда не могли бы произойти в реальности [1][6]. Этот дрейф искажает долгосрочную статистику, которая часто является основной целью моделирования климата и турбулентности [2].
Жесткие ограничения против мягких штрафов
Предыдущие попытки использовали штрафы или поощрения во время обучения для достижения физической согласованности [1][5]. Тан объясняет, что эти мягкие ограничения действуют только во время обучения модели; после развертывания на новых входных данных нет никакой гарантии, что модель будет соблюдать заданные пределы [1][5]. Простое ограничение выходных данных произвольными значениями (например, запрет температуры выше 100 градусов) также не работает, так как это может помешать модели изучать сложные закономерности в данных [1][6]. Новый подход встраивает ограничение структурно, так что каждый прогноз, даже в неизвестных случаях, удовлетворяет физическим границам [1][8].
Как работает проекционный слой
Фреймворк одновременно обучает эмулятор динамики и энергоподобное представление системы [2][5]. Модульный проекционный слой затем корректирует прогнозируемую эволюцию: за пределами изученной границы энергоподобная величина должна уменьшаться, возвращая траектории в ограниченную область, при этом допуская хаотические вариации внутри нее [1][2]. Такая конструкция обеспечивает диссипацию по определению и дает формальные гарантии ограниченности траектории на сколь угодно длинных окнах прогноза [2][5]. Слой не зависит от конкретной архитектуры (model-agnostic), поэтому его можно добавлять в различные нейронные сети без их перепроектирования [2][5].
Что было продемонстрировано и что остается открытым
Тесты на классических системах, таких как модель Лоренца-96 и редуцированная модель Курамото — Сивашинского, показали, что метод точно отслеживает реальные результаты, в то время как традиционные подходы отклоняются в сторону невозможных значений [2][5]. Код находится в открытом доступе, а последующая статья об операторе с энергетическими ограничениями получила награду Best Paper Award на конференции Learning for Dynamics and Control [2][5]. Однако реалистичное моделирование погоды еще не тестировалось; исследователи планируют оценить метод на более крупных атмосферных системах, основанных на данных [2][7].
Почему это важно для инженерии и науки
Ограниченная долгосрочная статистика необходима для прогнозов климата, моделирования турбулентности в аэронавтике и гидрологии [1][6]. Гарантируя, что симуляции остаются в физически возможных пределах, этот подход позволяет специалистам использовать передовые архитектуры машинного обучения для прогнозирования и управления в областях с внутренней нестабильностью [1][6]. Открытый исходный код означает, что другие группы могут интегрировать проекционный слой в свои рабочие процессы и протестировать его на наиболее важных для них системах [5][8].
Источники
- New approach enables physically consistent AI models of chaotic systems …
- MIT Framework Keeps AI Models of Chaos Within Physical Bounds
- MIT researchers present method to keep AI models of chaotic systems …
- New Approach Creates Physically Consistent AI Models for Chaos
- MIT researchers develop hard constraints for AI models of chaotic systems
- MIT researchers develop a way to stop runaway predictions in AI physics …
- MIT Launches Physics-Consistent AI for Chaotic Systems
- New approach enables physically consistent AI models of…