Штучний інтелект у GMP-виробництві: європейський регулятор готує жорсткі правила для алгоритмів

Європейський Союз близький до фіналізації Додатка 22 (Annex 22) до керівництва EudraLex Volume 4, який стане першою профільною регуляторною базою для використання штучного інтелекту та машинного навчання у фармацевтичному виробництві. Нові вимоги виявляться значно суворішими, ніж очікувала більшість виробників, і назавжди закриють сіру зону, де алгоритми керувалися застарілими правилами для комп'ютеризованих систем.

Згідно з проєктом документа, регулятор дозволяє використання лише статичних моделей ШІ, параметри яких чітко зафіксовані. Динамічні алгоритми, здатні самостійно донавчатися в процесі роботи, повністю виключені з критичних процесів Належної виробничої практики (GMP). Під таку ж жорстку заборону потрапив і генеративний ШІ, включаючи великі мовні моделі (LLM), якщо йдеться про ухвалення критично важливих для якості рішень. Тобто використовувати популярні нейромережі дозволять лише для другорядних завдань — наприклад, для узагальнення звітів про відхилення або пошуку стандартних операційних процедур, але під обов'язковим контролем Уповноваженої особи (Qualified Person).

Нові правила впроваджують п'ять ключових вимог, які супроводжуватимуть увесь життєвий цикл моделі ШІ. По-перше, виробник зобов'язаний задокументувати точне призначення алгоритму та всі варіанти вхідних даних ще до початку тестування. По-друге, ефективність цифрового помічника має бути щонайменше такою ж високою, як і результати процесу, який він замінює. Третє правило вимагає суворого розділення тестових даних від масивів інформації для навчання, причому фахівці, які працювали з тестами, не мають допускатися до навчання моделі. По-четверте, система повинна наочно демонструвати логіку своїх рішень за допомогою спеціальних інструментів візуалізації. Нарешті, будь-які зміни в самому алгоритмі або обладнанні, з якого він зчитує інформацію, підпадають під класичний контроль змін і можуть вимагати повторної валідації.

Найбільше нововведення вплине на системи предиктивного технічного обслуговування, які аналізують вібрацію, температурні профілі та роботу датчиків для прогнозування поломок. Тепер такі алгоритми офіційно стають частиною системи забезпечення якості, а будь-яка заміна підшипника чи калібрування сенсора вважатиметься зміною вхідних даних для ШІ. Фармацевтичним компаніям доведеться провести повний аудит усіх впроваджених технологій, оскільки Додаток 22 покладає всю відповідальність за валідацію на виробника ліків, повністю виключаючи концепцію закритих розробок чи чорних скриньок від сторонніх постачальників програмного забезпечення.

Поява Додатка 22 нарешті усуне регуляторну невизначеність і дасть чіткі відповіді відділам забезпечення якості, перетворивши ШІ на передбачуваний, прозорий та надійний інструмент фармацевтичної індустрії.