Фізично-інформовані нейронні мережі (, PINN) — клас методів машинного навчання для наближеного розв'язування диференціальних рівнянь і визначення невідомих параметрів математичних моделей. Нейронна мережа подає наближений розв'язок як функцію просторових, часових або інших координат, а до її функції втрат включають нев'язку диференціального рівняння, початкові й граничні умови та, за наявності, похибку щодо експериментальних даних. Похідні наближеного розв'язку зазвичай обчислюють методом автоматичного диференціювання.

Фізично-інформовані нейронні мережі застосовують як до прямих задач, у яких відомі рівняння та їхні параметри, так і до обернених задач — для відновлення параметрів або прихованих станів системи за неповними чи зашумленими спостереженнями. Метод не потребує побудови традиційної обчислювальної сітки, однак використовує точки колокації та ітераційне оптимізаційне навчання. Стандартні PINN можуть бути складними в навчанні для жорстких, багатомасштабних або розривних розв'язків і не є універсальною заміною класичних чисельних методів.

Історія

Ідея застосовувати штучні нейронні мережі для наближеного розв'язування диференціальних рівнянь виникла раніше за термін «фізично-інформовані нейронні мережі». У 1994 році М. Діссанаяке та Н. Фан-Тьєн запропонували подавати розв'язок диференціального рівняння в частинних похідних нейронною мережею та визначати її параметри методом колокації, перетворюючи початкову задачу на задачу безумовної оптимізації.

У 1998 році Ісаак Лагаріс, Арістидіс Лікас і Дімітріос Фотіадіс розвинули цей підхід для початкових і крайових задач, заданих звичайними диференціальними рівняннями та рівняннями в частинних похідних. Вони подавали пробний розв'язок як суму двох частин: перша точно задовольняла початкові або граничні умови, а друга містила нейронну мережу й була побудована так, щоб не порушувати цих умов. Параметри мережі визначали мінімізацією нев'язки диференціального рівняння. Така конструкція передувала пізнішому розрізненню між жорстким виконанням обмежень, закладеним у форму виходу мережі, та їх м'яким урахуванням за допомогою штрафних складових функції втрат.

Сучасну назву й формулювання методу запропонували Мазіяр Раїссі, Паріс Пердікаріс і Джордж Карніадакіс у двох працях, оприлюднених 2017 року. Вони застосували термін physics-informed neural networks до глибоких нейронних мереж, під час навчання яких разом із наявними даними мінімізували нев'язку нелінійного диференціального рівняння. Автори розглядали два взаємопов'язані класи задач: відновлення розв'язку рівняння за даними та визначення невідомих рівнянь або їхніх параметрів.

У 2019 році ці результати було узагальнено в статті про застосування PINN до прямих та обернених задач для нелінійних диференціальних рівнянь у частинних похідних. На відміну від ранніх нейромережевих розв'язувачів, сучасні PINN розвивалися передусім як спосіб поєднання математичної моделі з неповними або зашумленими спостереженнями в єдиній задачі навчання. На початку 2020-х років метод став одним із напрямів ширшої галузі фізично-інформованого машинного навчання, що охоплює як нейронні мережі, так і інші методи регресії, які використовують фізичні закони як апріорну інформацію.

Застосування

Фізично-інформовані нейронні мережі досліджують для розв'язування прямих і обернених задач, асиміляції даних, визначення параметрів математичних моделей та відновлення величин, які складно виміряти безпосередньо. Метод особливо корисний у задачах, де відомі рівняння, що описують систему, але доступні лише розріджені або зашумлені спостереження. У такому разі рівняння обмежують множину можливих розв'язків і частково компенсують нестачу навчальних даних. Більшість застосувань PINN перебуває на стадії наукових досліджень; для стандартних прямих задач вони не обов'язково мають перевагу над спеціалізованими чисельними методами.

Механіка рідин і газів

Однією з найпоширеніших галузей застосування PINN є механіка рідин, де фізичним обмеженням слугують, зокрема, рівняння Нав'є — Стокса, рівняння неперервності та закони збереження енергії. Мережі використовують для наближення полів швидкості, тиску, густини й температури, визначення невідомих граничних умов і параметрів потоку, а також для поєднання результатів вимірювань із математичною моделлю.

Наприклад, фізично-інформовану модель, що враховувала рівняння Нав'є — Стокса, було застосовано для відновлення прихованих полів швидкості й тиску за просторово-часовими зображеннями перенесення пасивної домішки — барвника або диму. Такий підхід дає змогу оцінювати величини, які не спостерігаються безпосередньо на зображеннях, зокрема напруження зсуву на стінці або сили, що діють на занурені в потік тіла.

Тепло- і масоперенесення

У задачах теплоперенесення PINN застосовують для розв'язування рівнянь теплопровідності, конвекції та фазових переходів. У прямих задачах мережа наближує розподіл температури за відомих властивостей матеріалу й граничних умов. В обернених задачах за вимірюваннями температури визначають коефіцієнти теплопровідності й температуропровідності, положення рухомої межі фаз або невідомі джерела й теплові потоки. Аналогічні постановки застосовують до дифузії речовини, адвекційно-дифузійних процесів і перенесення домішок у пористих середовищах.

Механіка твердого тіла та матеріалознавство

У механіці деформівного твердого тіла фізично-інформовані мережі використовують для наближення полів переміщень, деформацій і напружень у задачах пружності, пластичності, руйнування та контакту. Обернені постановки дають змогу визначати параметри матеріалу, його конститутивні співвідношення, розподіл навантажень або пошкоджень за обмеженими вимірюваннями переміщень і деформацій.

На відміну від звичайної регресійної моделі, така мережа може навчатися одночасно за експериментальними даними, рівняннями рівноваги та відомими законами поведінки матеріалу. Водночас задачі з розривами, локалізованим руйнуванням і нерівностями типу контактних умов потребують спеціальних форм функції втрат або модифікованих архітектур.

Геофізика та підземні потоки

PINN застосовують до задач фільтрації підземних вод, перенесення забруднювачів і руху рідин у пористих середовищах. За розрідженими вимірюваннями напору, концентрації або насичення мережа може одночасно відновлювати стан системи та просторово змінні параметри, наприклад гідравлічну провідність. Також досліджується визначення невідомих конститутивних залежностей, що входять до диференціальної моделі.

Біомедичне моделювання

У біомедичних задачах PINN використовують для поєднання фізіологічних вимірювань із моделями кровообігу, дифузії та механіки тканин. Зокрема, мережі застосовували для відновлення швидкості крові, артеріального тиску й параметрів судинної моделі за розрідженими та зашумленими даними магнітно-резонансної томографії. Інші дослідження охоплюють визначення коефіцієнтів дифузії в тканинах, аналіз фізіологічних часових рядів і побудову персоналізованих моделей, однак клінічне застосування таких методів потребує незалежної перевірки точності та стійкості.

Див. також Автоматичне диференціювання Обернена задача Метод колокації Чисельні методи розв'язання диференційних рівнянь у частинних похідних Метод скінченних елементів Безсіткові методи

Примітки