Ostatnia szansa na bezpłatne szkolenie z AI dla placówek medycznych. CeZ podał ostatnie terminy

Centrum e-Zdrowia poinformowało, że trwa ostatnia faza cyklu bezpłatnych szkoleń z zakresu sztucznej inteligencji dla sektora ochrony zdrowia, organizowanych przez Akademię CeZ i współfinansowanych w ramach Projektu e-Zdrowie KPO. Zostały cztery ostatnie terminy:

• 20 maja, 
• 21 maja, 
• 22 maja,
• 27 maja.

Według danych CeZ w szkoleniach wzięło już udział blisko 1500 osób – przedstawicieli kadry medycznej, administracyjnej i zarządzającej podmiotów leczniczych.

Program obejmuje m.in. podstawy działania sztucznej inteligencji, przykłady wykorzystania AI w pracy lekarzy i personelu medycznego, zastosowania AI w administracji i zarządzaniu placówką, bezpieczeństwo danych, odpowiedzialne korzystanie z narzędzi AI, praktyczne case studies oraz informacje dotyczące założeń PUI, czyli Platformy Usług Inteligentnych. 

Szkolenia CeZ nie są wyłącznie ofertą edukacyjną. Dla zarządzających podmiotami leczniczymi mogą być dobrym punktem wyjścia do uporządkowania zasad korzystania z AI w placówce. Sztuczna inteligencja może wspierać analizę danych, diagnostykę obrazową, przygotowywanie dokumentacji, obsługę pacjenta, organizację pracy administracji czy zarządzanie informacją. Każde z tych zastosowań może jednak tworzyć inne ryzyka prawne i organizacyjne.

Największy problem pojawia się wtedy, gdy personel korzysta z AI bez jasnych zasad: wpisuje do narzędzi dane pacjentów, generuje fragmenty dokumentacji bez weryfikacji, traktuje odpowiedź systemu jako pewną albo używa narzędzi, których placówka nie zweryfikowała pod kątem bezpieczeństwa danych. W podmiocie leczniczym AI nie może być traktowana jak zwykły edytor tekstu czy wyszukiwarka. To narzędzie, które może wpływać na dokumentację medyczną, ochronę danych, proces decyzyjny i odpowiedzialność personelu.

Art. 4 AI Act nakłada na dostawców i podmioty stosujące systemy AI obowiązek podejmowania działań – w możliwie najlepszym zakresie – aby zapewnić odpowiedni poziom kompetencji AI u swojego personelu oraz innych osób, które zajmują się obsługą i używaniem systemów AI w ich imieniu. Oznacza to obowiązek staranności organizacyjnej.

Z wyjaśnień Komisji Europejskiej wynika, że nadzór i egzekwowanie tych zasad przez krajowe organy nadzoru rynku mają rozpocząć się od sierpnia 2026 r., jednak nie należy traktować tego jako okresu, w którym placówka może zignorować temat. Obowiązek już obowiązuje, a działania edukacyjne, procedury i dokumentowanie szkoleń mogą mieć znaczenie przy późniejszej ocenie należytej staranności organizacyjnej.

Podmiot leczniczy najczęściej będzie występował jako podmiot stosujący AI. Dotyczy to sytuacji, w której placówka korzysta z gotowego narzędzia dostarczonego przez zewnętrznego dostawcę, np. systemu wspierającego opis badań, analizę dokumentacji, obsługę pacjenta albo pracę administracyjną. Inaczej może być, gdy placówka rozwija własne rozwiązanie AI, zamawia jego stworzenie i udostępnia je pod własną nazwą albo dokonuje istotnej modyfikacji systemu. Wtedy może wejść w rolę dostawcy, czyli podmiotu, który rozwija system AI albo zleca jego rozwój i wprowadza go do obrotu lub oddaje do używania pod własną nazwą lub znakiem towarowym. To rozróżnienie jest istotne, bo obowiązki dostawcy są znacznie szersze niż obowiązki zwykłego użytkownika systemu.

Szczególnej ostrożności wymagają narzędzia AI używane w diagnostyce, analizie obrazów medycznych, wspomaganiu decyzji klinicznych lub triażu. Nie każde narzędzie AI w placówce będzie systemem wysokiego ryzyka, ale w określonych przypadkach taka kwalifikacja może wynikać z funkcji systemu, jego przeznaczenia, związku z wyrobem medycznym albo umieszczenia danego zastosowania w katalogu AI Act. Dla systemów wysokiego ryzyka przepisy przewidują dodatkowe obowiązki, w tym m.in. wymogi dotyczące używania systemu zgodnie z instrukcją, nadzoru człowieka, monitorowania działania systemu, logów oraz reagowania na ryzyka i poważne incydenty.

Jeżeli AI jest wykorzystywana do pracy z danymi pacjentów, placówka musi ocenić ten proces także z perspektywy RODO. W grę wchodzą przede wszystkim zasady legalności, minimalizacji danych, poufności i integralności, a także szczególna ochrona danych dotyczących zdrowia. W wielu przypadkach konieczne może być przeanalizowanie, czy dane pacjentów w ogóle mogą być wprowadzane do danego narzędzia AI, gdzie są przetwarzane, kto ma do nich dostęp, czy dostawca działa jako podmiot przetwarzający i czy zapewniono odpowiednie środki techniczne oraz organizacyjne.

Wykorzystanie AI nie przenosi odpowiedzialności za decyzję medyczną na system. Wynik wygenerowany przez AI powinien mieć charakter pomocniczy i wymagać weryfikacji przez osobę uprawnioną. Dotyczy to także ryzyka tzw. halucynacji, czyli generowania przez system AI fałszywych, nieistniejących lub błędnych informacji przedstawianych jako pewne. W dokumentacji medycznej takie ryzyko ma szczególne znaczenie, ponieważ błędnie wygenerowana informacja może trafić do historii choroby, zaleceń, opisu badania, korespondencji z pacjentem albo dokumentów organizacyjnych placówki.

Oparcie decyzji diagnostycznej lub terapeutycznej na wyniku AI bez odpowiedniej weryfikacji może rodzić ryzyko zarzutu nienależytej staranności, odpowiedzialności cywilnej oraz odpowiedzialności zawodowej. Dlatego procedura korzystania z AI w placówce powinna jasno wskazywać, kto może korzystać z narzędzi AI, w jakich procesach, na jakich danych, pod czyim nadzorem i w jaki sposób należy weryfikować wynik wygenerowany przez system.

Bezpłatne szkolenia CeZ są dobrą okazją, aby rozpocząć porządkowanie tematu AI w placówce medycznej. Bo kluczowe pytanie nie brzmi już, czy AI pojawi się w placówce. W wielu miejscach już się pojawiła – czasem oficjalnie, czasem poza kontrolą kierownictwa. Kluczowe jest to, czy placówka wie, kto z niej korzysta, w jakim celu, na jakich danych, w jakim narzędziu i według jakich zasad.

Szczegóły programu i zapisy na szkolenia pod adresem: akademiacez.gov.pl/szkolenia