AI Act (rozporządzenie UE 2024/1689) nie zabrania psychoterapeutom korzystania z AI. Dla terapeuty, który używa narzędzia do dokumentacji, najważniejsze są dwie rzeczy: znajomość możliwości i ograniczeń AI oraz wybór narzędzia, które nie podejmuje decyzji diagnostycznych ani terapeutycznych.
Artykuł ma charakter informacyjny i nie jest poradą prawną. Przepisy AI Act wchodzą w życie etapami i mogą być doprecyzowywane przez wytyczne Komisji Europejskiej.
Jaką rolę pełni terapeuta w AI Act?
AI Act rozróżnia dostawców systemów AI (firmy, które je tworzą i wprowadzają na rynek) oraz podmioty stosujące (osoby i organizacje, które używają systemów AI w pracy zawodowej). Terapeuta korzystający z TherapyGuide jest podmiotem stosującym. Większość obowiązków technicznych spoczywa na dostawcy.
Jakie obowiązki ma terapeuta już dziś?
Od 2 lutego 2025 r. obowiązuje art. 4 AI Act o kompetencjach w zakresie AI. Podmioty stosujące powinny zadbać, by osoby korzystające z systemu AI rozumiały, jak on działa, jakie popełnia błędy i jak sprawdzać jego wyniki. W praktyce oznacza to:
- wiedzieć, że model językowy może pomylić kontekst lub pominąć zastrzeżenie,
- sprawdzać treści przygotowane przez AI w źródłowym materiale, zanim trafią do dokumentacji,
- nie przenosić na AI decyzji klinicznych.
Wskazówki, jak to robić w TherapyGuide, znajdziesz w przewodniku sprawdzania treści AI.
Kiedy narzędzie AI staje się systemem wysokiego ryzyka?
AI Act uznaje za systemy wysokiego ryzyka m.in. oprogramowanie, które jest wyrobem medycznym w rozumieniu rozporządzenia MDR i wymaga oceny zgodności z udziałem jednostki notyfikowanej. Według reguły 11 MDR oprogramowanie przeznaczone do dostarczania informacji wykorzystywanych do podejmowania decyzji diagnostycznych lub terapeutycznych jest co najmniej wyrobem klasy IIa.
Oprogramowanie służące do porządkowania, przechowywania i przeszukiwania dokumentacji zwykle nie jest wyrobem medycznym. Granicę wyznacza przeznaczenie deklarowane przez producenta: co obiecuje na stronie, w aplikacji i w materiałach sprzedażowych.
Gdzie jest TherapyGuide?
TherapyGuide jest narzędziem do pracy z dokumentacją i materiałem z sesji. Nie stawia diagnoz, nie ocenia ryzyka i nie wybiera interwencji — opisujemy to w artykule czego TherapyGuide nie robi. Każda informacja na Mapie Pacjenta prowadzi do fragmentu rozmowy, z którego pochodzi, a każdy dokument jest projektem do Twojego przeglądu.
Na co uważać przy innych narzędziach?
| Sygnał | Dlaczego warto zapytać dostawcę |
|---|---|
| „Wsparcie diagnostyczne” lub „sugestie rozpoznań” | Takie przeznaczenie może oznaczać wyrób medyczny i obowiązki z MDR oraz AI Act. |
| Ocena ryzyka lub przewidywanie przebiegu terapii | To decyzje kliniczne, które wymagają walidacji i nadzoru. |
| Brak informacji o źródłach odpowiedzi | Trudniej spełnić obowiązek sprawdzania wyników AI. |
| Brak umowy powierzenia danych | Problem nie tylko z AI Act, ale przede wszystkim z RODO — zobacz AI w gabinecie a RODO. |
Potrzebujesz pomocy? Napisz do nas