ШІ-агенти: перший прецедент FDA

Американський регулятор вперше виставив офіційне попередження косметичній лабораторії за безконтрольне використання автономного штучного інтелекту у виробництві ліків. Цей інцидент чітко вказує на те, що сліпа довіра алгоритмам у фармацевтичній сфері є неприпустимою та карається зупинкою діяльності підприємства.

Під час перевірки лабораторії Purolea Cosmetics Lab інспектори виявили, що компанія повністю довірила цифровим помічникам створення специфікацій на препарати, технологічних інструкцій та головних протоколів серій. Усі ці критично важливі документи впроваджувалися у виробництво без жодної перевірки з боку кваліфікованих спеціалістів відділу якості. Регулятор наголошує, що генерація файлів за допомогою штучного інтелекту є лише допоміжним інструментом, а фінальну відповідальність за коректність даних завжди несе людина.

Окрім цього, виробник повністю проігнорував обов'язкову валідацію технологічних процесів перед випуском продукції на ринок. Представники компанії спробували виправдати це тим, що задіяний ШІ-агент просто не повідомив їм про існування такої юридичної вимоги. Наразі роботу підприємства повністю зупинено через виявлені критичні невідповідності стандартам якості.

Для відновлення діяльності компанія зобов'язана впровадити принцип безперервного людського контролю (human-in-the-loop). Будь-які рекомендації, аналітика чи специфікації, створені алгоритмами ШІ, відтепер мають проходити ретельний аудит та затверджуватися підписом уповноваженого представника служби якості.

Цей випадок створює важливий регуляторний прецедент для всього глобального фармацевтичного ринку, доводячи, що цифровізація не звільняє виробників від персональної відповідальності за безпеку пацієнтів.