PRAWO
Unieważnienie uchwały zgromadzenia wspólników
Czytaj więcej
Wypadek zagraniczny - co robić? Pobierz darmowy poradnik
%20(1).png)
Data publikacji: 20 maja 2026 r., godz. 13:47
Sztuczna inteligencja coraz wyraźniej wchodzi do codziennej pracy ochrony zdrowia. Nie chodzi już wyłącznie o medialne zapowiedzi czy rozwiązania testowane w pojedynczych ośrodkach. Z danych Centrum e-Zdrowia wynika, że z narzędzi AI korzysta już 4,7% badanych podmiotów wykonujących działalność leczniczą, a wśród samych szpitali odsetek ten sięga 13,2%. Najczęściej dotyczy to diagnostyki obrazowej, obsługi pacjenta i wsparcia decyzji klinicznych.
Ten trend wyraźnie wskazuje, że AI przestaje być technologiczną ciekawostką, a staje się kolejnym narzędziem używanym przy organizacji leczenia i analizie danych. Jednocześnie wraz z jej upowszechnieniem rośnie zainteresowanie regulacjami. Unijny AI Act wszedł w życie 1 sierpnia 2024 r., a Komisja Europejska wprost wskazuje, że oprogramowanie oparte na AI przeznaczone do celów medycznych może należeć do systemów wysokiego ryzyka. To oznacza, że temat AI w medycynie nie sprowadza się już do pytania, czy takie rozwiązania są przydatne, ale także do tego, jak korzystać z nich bez tworzenia nowych ryzyk prawnych.
Wniosek jest prosty: AI nie jest dziś dodatkiem z przyszłości, tylko narzędziem, które coraz częściej staje się częścią procesu leczenia. A skoro tak, to trzeba patrzeć na nią nie tylko przez pryzmat wygody czy szybkości działania, ale także odpowiedzialności, nadzoru i bezpieczeństwa podejmowanych decyzji.
To, że w procesie leczenia pojawia się system oparty na AI, nie oznacza jeszcze, że odpowiedzialność „przenosi się” z człowieka na technologię. AI może pomagać w analizie obrazów, porządkowaniu danych czy wspieraniu decyzji klinicznych, ale nadal pozostaje narzędziem. Komisja Europejska podkreśla, że AI w ochronie zdrowia ma poprawiać trafność diagnostyki, usprawniać organizację pracy i wspierać personel, a nie zastępować profesjonalną ocenę medyczną. Z kolei polska ustawa nadal wymaga od lekarza działania zgodnie z aktualną wiedzą medyczną, dostępnymi metodami i z należytą starannością.
Jeżeli lekarz bezrefleksyjnie ufa podpowiedzi systemu, nie weryfikuje jej w kontekście stanu pacjenta albo traktuje wynik AI jak gotową odpowiedź, problem nie znika, lecz może się pogłębić. Unijne materiały dotyczące AI Act wyraźnie pokazują, że przy systemach wysokiego ryzyka potrzebny jest realny nadzór człowieka, używanie narzędzia zgodnie z instrukcją, monitorowanie jego działania oraz reagowanie na zauważone ryzyka lub incydenty.
Dla lekarza i placówki wniosek jest więc dość prosty: nowe narzędzie może poprawić tempo i jakość pracy, lecz tylko wtedy, gdy pozostaje elementem rozsądnie ułożonego procesu, a nie jego niekontrolowanym „zamiennikiem”.
Łatwo wrzucić wszystkie narzędzia AI do jednego worka, ale z prawnego punktu widzenia to błąd. Unijny model regulacyjny opiera się na podejściu opartym na ryzyku. Oznacza to, że nie każda sztuczna inteligencja w ochronie zdrowia będzie oceniana tak samo. Inne obowiązki pojawią się przy prostym narzędziu pomocniczym, a inne przy systemie, który realnie wpływa na bezpieczeństwo pacjenta, wspiera decyzje kliniczne albo jest elementem wyrobu medycznego. Komisja Europejska wprost wskazuje, że AI-based software przeznaczone do celów medycznych może należeć do systemów wysokiego ryzyka, ale nie oznacza to, że każda medyczna AI automatycznie trafia do tej samej kategorii.
To rozróżnienie ma duże znaczenie praktyczne. Im większy wpływ narzędzia na zdrowie, bezpieczeństwo i decyzje podejmowane wobec pacjenta, tym większe znaczenie zyskują wymagania dotyczące zarządzania ryzykiem, jakości danych, przejrzystości informacji dla użytkownika i nadzoru człowieka. Z opublikowanych wyjaśnień dotyczących relacji między AI Act a regulacjami o wyrobach medycznych wynika też, że przy medycznej AI trzeba patrzeć nie tylko na samo hasło „AI”, ale na przeznaczenie systemu, jego funkcję i miejsce w całym procesie leczenia lub diagnostyki.
Przed wdrożeniem nowego rozwiązania warto więc najpierw ustalić, z jakim typem narzędzia mamy do czynienia i jakie obowiązki wiążą się z jego użyciem. To właśnie od tego często zależy, czy AI stanie się realnym wsparciem, czy źródłem problemów, które ujawnią się dopiero wtedy, gdy coś pójdzie nie tak.
Ryzyko prawne związane z AI nie zaczyna się dopiero wtedy, gdy system wskaże złą odpowiedź. Często pojawia się znacznie wcześniej — już na etapie wyboru narzędzia, sposobu jego wdrożenia i ustalenia, do czego właściwie ma służyć. W ochronie zdrowia szczególne znaczenie ma to, czy AI jest tylko wsparciem organizacyjnym, czy wpływa na diagnostykę, ocenę stanu pacjenta albo decyzje kliniczne. Im większy wpływ systemu na zdrowie i bezpieczeństwo pacjenta, tym większe znaczenie zyskują wymagania dotyczące jakości danych, zarządzania ryzykiem, przejrzystości działania i nadzoru człowieka.
Problem pojawia się także wtedy, gdy personel zaczyna traktować wynik AI jak gotową odpowiedź, a nie jak jedną z przesłanek do dalszej oceny. Oficjalne materiały unijne wyraźnie akcentują, że przy systemach wysokiego ryzyka potrzebny jest realny nadzór człowieka, używanie narzędzia zgodnie z instrukcją oraz bieżące reagowanie na zauważone nieprawidłowości i incydenty. To oznacza, że zagrożeniem nie jest wyłącznie błąd algorytmu. Równie poważnym problemem może być zbyt duże zaufanie do technologii, brak procedur w placówce albo sytuacja, w której nikt nie potrafi jasno powiedzieć, kto odpowiada za kontrolę sposobu jej używania.
Właśnie dlatego przy AI tak duże znaczenie ma nie tylko sama technologia, ale też sposób jej osadzenia w codziennej pracy. Jeżeli placówka nie wie, jakie dane trafiają do systemu, kto weryfikuje wynik, kiedy trzeba odejść od podpowiedzi narzędzia i jak udokumentować jego użycie, to nawet pozornie przydatne rozwiązanie może szybko stać się źródłem dodatkowego ryzyka. W ochronie zdrowia problem rzadko sprowadza się do pytania, czy AI działa. Znacznie częściej chodzi o to, czy ktoś potrafi nad nią rozsądnie zapanować.
Wokół AI łatwo ulec złudzeniu, że skoro w procesie pojawia się technologia, to odpowiedzialność rozmywa się między „system” a jego producenta. W rzeczywistości role są bardziej uporządkowane. Dostawca odpowiada za samo rozwiązanie, jego zgodność z wymaganiami i sposób wprowadzenia go do obrotu. Placówka odpowiada za to, jak takie narzędzie zostaje wdrożone, kto z niego korzysta, na jakich zasadach i pod czyim nadzorem. Lekarz nadal odpowiada natomiast za to, jak wykorzystuje wynik systemu przy ocenie konkretnego pacjenta i podejmowaniu decyzji medycznej. Unijne materiały wyraźnie rozróżniają obowiązki dostawcy i deployera, czyli podmiotu używającego systemu zawodowo, a polskie przepisy nadal wiążą wykonywanie zawodu lekarza z aktualną wiedzą medyczną, dostępnymi metodami i należytą starannością.
Najwięcej problemów pojawia się wtedy, gdy te role nie są w placówce jasno rozpisane. Jeżeli nikt nie weryfikuje, czy narzędzie jest używane zgodnie z instrukcją, nie wiadomo, kto ma reagować na błędne wyniki albo personel nie jest przygotowany do pracy z systemem, to ryzyko szybko rośnie. Oficjalne wyjaśnienia do AI Act wskazują, że podmiot korzystający z systemu wysokiego ryzyka powinien zapewnić odpowiedni nadzór człowieka, monitorować działanie systemu i dbać o to, by osoby obsługujące AI miały wystarczającą wiedzę i przygotowanie. To pokazuje, że odpowiedzialność nie znika, lecz rozkłada się na kilka poziomów organizacyjnych i zawodowych.
Z perspektywy sporu najtrudniejsze bywają więc nie same błędy algorytmu, ale brak porządku po stronie ludzi. Jeżeli lekarz traktuje wynik AI jak gotową odpowiedź, placówka nie ma procedur, a dostawca pozostaje „czarną skrzynką”, wtedy dużo trudniej obronić sposób działania. Im bardziej technologia wpływa na decyzje dotyczące zdrowia pacjenta, tym większe znaczenie ma jasny podział ról, odpowiedzialności i zasad korzystania z narzędzia jeszcze zanim pojawi się pierwszy problem.
Coraz częściej odpowiedź będzie brzmiała: tak, ale nie zawsze w taki sam sposób. Unijne przepisy nie wprowadzają jednej, prostej zasady dla każdego użycia AI w medycynie. Jeżeli chodzi o systemy wysokiego ryzyka zaprojektowane do podejmowania albo wspierania decyzji dotyczących konkretnej osoby, podmiot korzystający z takiego narzędzia ma obowiązek poinformować osobę, której ta decyzja dotyczy. Dodatkowo AI Act przewiduje także prawo do uzyskania jasnego i znaczącego wyjaśnienia wtedy, gdy wynik systemu wysokiego ryzyka został użyty do podjęcia decyzji wywołującej skutki prawne wobec tej osoby.
To nie znaczy jednak, że przy każdym kontakcie z pacjentem trzeba od razu tworzyć osobny komunikat o „udziale algorytmu”. Znaczenie ma rola, jaką dane narzędzie rzeczywiście odegrało. Czym innym będzie system porządkujący obieg dokumentów, a czym innym rozwiązanie, które wpływa na ocenę stanu pacjenta, wspiera diagnozę albo ukierunkowuje decyzję terapeutyczną. W tym drugim przypadku przemilczenie udziału AI może z czasem stać się coraz trudniejsze do obrony, zwłaszcza gdy technologia miała realny wpływ na tok postępowania. Taki kierunek dobrze współgra też z polskim modelem relacji z pacjentem, który od lat opiera się na informacji zrozumiałej dla pacjenta oraz na świadomej zgodzie poprzedzonej wyjaśnieniem istotnych okoliczności leczenia.
W praktyce nie chodzi więc o techniczne opisywanie pacjentowi działania systemu krok po kroku. Chodzi raczej o uczciwe pokazanie, że AI była elementem procesu diagnostycznego lub terapeutycznego, jeżeli rzeczywiście odegrała w nim istotną rolę. Im większy wpływ narzędzia na ocenę sytuacji pacjenta, tym większe znaczenie ma przejrzystość całego procesu. Właśnie tutaj temat AI przestaje być wyłącznie kwestią technologii, a zaczyna dotyczyć zaufania, komunikacji i bezpieczeństwa prawnego.
Im większą rolę AI odgrywa w procesie leczenia, tym ważniejsze staje się nie tylko to, co pokazuje system, ale też jak został użyty. Oficjalne materiały unijne podkreślają znaczenie nadzoru człowieka, jakości danych, przejrzystych informacji dla użytkownika i zarządzania ryzykiem przy medycznych systemach AI, zwłaszcza tych zaliczanych do wysokiego ryzyka. To oznacza, że sama obecność nowoczesnego narzędzia nie poprawia jeszcze bezpieczeństwa prawnego. Dużo zależy od tego, czy placówka potrafi odtworzyć sposób jego wykorzystania i pokazać, jakie miejsce zajmował on w całym procesie diagnostycznym albo terapeutycznym.
W praktyce największe problemy pojawiają się zwykle nie wtedy, gdy technologia po prostu zawodzi, ale wtedy, gdy nikt nie potrafi jasno odpowiedzieć na kilka podstawowych pytań: kto korzystał z narzędzia, czy wynik został zweryfikowany, jakie dane wprowadzono do systemu, kiedy można było odejść od jego sugestii i czy cały ten proces został odpowiednio opisany. Właśnie dlatego przy wdrażaniu AI tak duże znaczenie mają procedury wewnętrzne, podział ról, szkolenie personelu i dokumentacja pozwalająca odtworzyć tok postępowania. Bez tego nawet przydatne rozwiązanie może szybko stać się źródłem chaosu organizacyjnego i dodatkowego ryzyka.
W ochronie zdrowia technologia rzadko broni się sama. O jej wartości zaczyna się mówić dopiero wtedy, gdy zostaje rozsądnie włączona do codziennej pracy, a placówka potrafi pokazać, że AI była wsparciem dla człowieka, a nie niekontrolowanym zamiennikiem jego oceny. To właśnie organizacja, a nie sam algorytm, najczęściej przesądza o tym, czy nowe narzędzie rzeczywiście pomaga, czy tylko dokłada kolejny poziom odpowiedzialności.
Sztuczna inteligencja nie usuwa z medycyny odpowiedzialności. Zmienia raczej to, jak trzeba dziś myśleć o staranności, nadzorze i bezpieczeństwie podejmowanych decyzji. Unijny model regulacyjny opiera się na podejściu opartym na ryzyku, a przy systemach wysokiego ryzyka akcentuje takie elementy jak zarządzanie ryzykiem, jakość danych, przejrzystość informacji i human oversight. W medycynie oznacza to tyle, że samo wdrożenie nowoczesnego narzędzia nie jest jeszcze żadnym zabezpieczeniem. Znaczenie ma dopiero to, czy ktoś potrafi z niego korzystać rozsądnie i w sposób, który da się później obronić.
To właśnie dlatego rozmowa o AI w ochronie zdrowia nie powinna sprowadzać się do pytania, czy technologia jest skuteczna. Równie ważne jest to, kto nadzoruje jej działanie, jak wygląda podział ról, czy wynik systemu jest weryfikowany i czy placówka potrafi odtworzyć, jaką rolę AI odegrała w konkretnej decyzji. Oficjalne wyjaśnienia Komisji wskazują, że deployer systemu wysokiego ryzyka powinien używać go zgodnie z instrukcją, monitorować jego działanie, reagować na ryzyka i przypisać nadzór człowiekowi odpowiednio przygotowanemu do tej roli.
Im większy wpływ AI na ocenę stanu pacjenta, diagnozę albo wybór dalszego postępowania, tym bardziej rośnie znaczenie procedur, dokumentacji i świadomego zarządzania ryzykiem. Dobrze wdrożone narzędzie może realnie wspierać lekarza i placówkę. Źle wdrożone może stać się źródłem nowych problemów, które ujawnią się dopiero wtedy, gdy pojawi się spór, szkoda albo pytanie o to, kto i na jakiej podstawie podjął decyzję.
Absolwentka Wydziału Prawa i Administracji Uniwersytetu im. Adama Mickiewicza w Poznaniu. Członek Wielkopolskiej Izby Adwokackiej.
