AI w Healthcare: Recepta na cyfrową transformację

W dzisiejszym odcinku podcastu „Business Tech Talks powered by BlueSoft” Robert Wójcik, Founder & CEO Healthcare Innovation Embassy oraz Artur Mirończuk, Project Manager zajmujący się projekami AI w BlueSoft rozmawiają z dziennikarzem technologicznym, Pawłem Pilarczykiem na temat strategicznego i bezpiecznego wdrażania sztucznej inteligencji (AI) w medycynie, koncentrując się na kategoryzacji rozwiązań według stopnia ryzyka, budowaniu zaufania do algorytmów poprzez mechanizm „Human in the Loop” oraz praktycznych etapach implementacji technologii w organizacjach ochrony zdrowia i firmach farmaceutycznych. Poniżej skrót transkrypcji odcinka.

Bezpieczeństwo AI i dane poufne 

Wykorzystanie AI w obszarach krytycznych jest bezpieczne, pod warunkiem traktowania jej jako wsparcia, „drugiego oka” lub narzędzia typu „double check”, a nie jako samodzielnego decydenta. Kluczowym elementem budującym zaufanie jest podawanie źródeł, na których opiera się algorytm, co pozwala specjalistom weryfikować te informacje.

Zastosowania AI w branży healthcare

Sztuczną inteligencję w medycynie można podzielić na trzy światy:

• Wysokie ryzyko (Deep Tech): Rozwiązania w medycynie i life science wspomagające diagnozowanie, gdzie błędy mogą kosztować życie.

• Średnie ryzyko: Zarządzanie kierowaniem pacjentów, czyli tzw. triage.

• Niskie ryzyko: Administracja, harmonogramy i „papierologia”. AI znajduje również zastosowanie w usprawnianiu procesów wewnątrz organizacji (np. w firmach farmaceutycznych), co pozwala zaoszczędzić czas pracowników i skupić się na pracy naukowej lub na pacjencie.

Narzędzia certyfikowane a ogólne (np. Chat GPT)

Główną różnicą jest walidacja danych. Profesjonalne narzędzia medyczne opierają się na sprawdzonych podręcznikach i publikacjach naukowych, podczas gdy narzędzia ogólne często halucynują. Certyfikacja odróżnia algorytmy administracyjne od tych, które wspierają diagnozę.

Realne wdrożenia vs. hype

Obok medialnych doniesień o wykrywaniu chorób istnieją również bardzo konkretne, namacalne wdrożenia biznesowe. Przykładem jest automatyzacja bazy wiedzy, która oszczędza kilka minut na każdej interakcji, co w skali organizacji przekłada się na oszczędność całych etatów. Innym przykładem jest algorytmiczne układanie grafików lekarskich, co redukuje konflikty i skraca proces z tygodni do kilku kliknięć.

Zaufanie do wyników, niedeterminizm i halucynacje

Zaufanie buduje się poprzez zasadę Human in the Loop (człowiek w pętli) – zawsze niezbędna jest weryfikacja przez specjalistę. Technicznie problem halucynacji ogranicza się poprzez podawanie źródeł (RAG) oraz systemy wieloagentowe, które porównują kilka wygenerowanych odpowiedzi, aby upewnić się co do ich trafności.

Konsekwencje błędnych decyzji

W obszarach ratujących życie ryzyko jest ogromne, dlatego zaleca się rozpoczynanie wdrożeń od tych o niskim ryzyku, takich jak administracja lub analiza satysfakcji pacjentów. Pozwala to organizacji nauczyć się technologii bez narażania zdrowia pacjentów.

Prawidłowy proces wdrażania AI w organizacji

Wdrażanie powinno odbywać się w czterech etapach:

1. Spotkanie inspiracyjne: Omówienie możliwości i ograniczeń technologii.
2. Warsztaty: Wybór konkretnych obszarów do wdrożenia rozwiązań.
3. Prototypowanie (Proof of Concept): Szybkie sprawdzenie pomysłu przy niskich kosztach.
4. Decyzja o skalowaniu lub pivocie: Na podstawie wyników POC.

Strategia wdrożenia: małe kroki czy wiele zadań?

Nie ma jednej odpowiedzi, ale kluczowe są warsztaty, które zapewniają największy efekt. Najważniejszym fundamentem są uporządkowane dane – bez nich (zgodnie z zasadą garbage in, garbage out) system nie będzie działał poprawnie.

Największe ryzyka i bariery

Największą barierą nie jest technologia, lecz mentalne przygotowanie firmy oraz adopcja technologii przez pracowników. Wyzwaniem jest brak przestrzeni na eksperymenty (bieżączka) oraz brak odpowiednich kompetencji wewnątrz organizacji.

Rady dla firm wahających się przed wdrożeniem

• Testować i próbować: Wykorzystać bezpieczne i tanie środowiska do budowy prototypów (POC).
• Partnerstwa strategiczne: Nie wyważać otwartych drzwi, lecz korzystać z wiedzy doświadczonych partnerów.

• Konsultacja z ekspertem: Zapewnienie zgodności z regulacjami oraz ochrony danych.