Coraz więcej osób korzysta z chatbotów AI w celach medycznych
W obliczu długich kolejek i rosnących kosztów w przeciążonych systemach opieki zdrowotnej, wiele osób sięga po chatboty wspierane sztuczną inteligencją, takie jak ChatGPT, aby samodzielnie diagnozować swoje dolegliwości. Jak wynika z niedawnego badania, około jedna na sześć dorosłych osób w USA korzysta z chatbotów w celu uzyskania porad zdrowotnych przynajmniej raz w miesiącu.
Jednak nadmierne zaufanie do odpowiedzi chatbotów może być ryzykowne. Problemem jest m.in. to, że użytkownicy często nie wiedzą, jakie informacje powinni przekazać chatbotom, aby uzyskać najlepsze rekomendacje zdrowotne – wskazuje badanie przeprowadzone pod kierunkiem naukowców z Oxfordu.
Badanie pokazuje problemy w komunikacji z chatbotami
„Badanie ujawniło dwukierunkowy problem w komunikacji” – powiedział Adam Mahdi, dyrektor studiów podyplomowych w Oxford Internet Institute i współautor badania, w rozmowie z TechCrunch. „Osoby korzystające z chatbotów nie podejmowały lepszych decyzji niż uczestnicy, którzy polegali na tradycyjnych metodach, takich jak wyszukiwanie w internecie czy własna ocena”.
W badaniu wzięło udział około 1300 osób z Wielkiej Brytanii, którym przedstawiono scenariusze medyczne przygotowane przez grupę lekarzy. Uczestnicy mieli za zadanie zidentyfikować potencjalne schorzenia na podstawie tych scenariuszy, a następnie wykorzystać chatboty oraz własne metody, aby zdecydować, jakie działania podjąć (np. wizyta u lekarza czy udanie się do szpitala).
Chatboty mogą prowadzić do błędnych wniosków
Uczestnicy korzystali z domyślnego modelu AI napędzającego ChatGPT, czyli GPT-4o, a także z modeli Command R+ firmy Cohere oraz Llama 3 Meta, który wcześniej wspierał asystenta Meta AI. Według autorów badania chatboty nie tylko zmniejszały szansę na prawidłowe rozpoznanie stanu zdrowia, ale także sprawiały, że uczestnicy częściej bagatelizowali powagę zidentyfikowanych schorzeń.
Mahdi zauważył, że uczestnicy często pomijali kluczowe informacje w pytaniach do chatbotów lub otrzymywali odpowiedzi trudne do zinterpretowania. „Odpowiedzi chatbotów często łączyły dobre i złe rekomendacje” – dodał. „Obecne metody oceny chatbotów nie odzwierciedlają złożoności interakcji z ludźmi”.
TechCrunch Sessions: AI – wydarzenie dla branży
Zaprezentuj swój projekt na TC Sessions: AI i pokaż go ponad 1200 osobom podejmującym kluczowe decyzje – bez konieczności dużych inwestycji. Oferta ważna do 9 maja lub do wyczerpania miejsc.
Lokalizacja: Berkeley, CA | Data: 5 czerwca
Firmy technologiczne inwestują w AI w medycynie
Wyniki badania pojawiają się w momencie, gdy firmy technologiczne coraz częściej promują sztuczną inteligencję jako sposób na poprawę opieki zdrowotnej. Apple podobno pracuje nad narzędziem AI, które będzie doradzać w kwestiach związanych z ćwiczeniami, dietą i snem. Amazon bada możliwość wykorzystania AI do analizy baz danych medycznych pod kątem „społecznych determinantów zdrowia”. Microsoft natomiast pomaga w budowie systemu AI, który będzie sortować wiadomości od pacjentów do lekarzy.
Mieszane reakcje na zastosowanie AI w medycynie
Jak wcześniej informował TechCrunch, zarówno specjaliści, jak i pacjenci mają różne opinie na temat gotowości AI do zastosowań w obszarach wysokiego ryzyka. Amerykańskie Towarzystwo Medyczne odradza lekarzom korzystanie z chatbotów takich jak ChatGPT przy podejmowaniu decyzji klinicznych. Również wiodące firmy AI, w tym OpenAI, ostrzegają przed stawianiem diagnoz na podstawie odpowiedzi ich chatbotów.
„Rekomendujemy poleganie na sprawdzonych źródłach informacji przy podejmowaniu decyzji zdrowotnych” – powiedział Mahdi. „Obecne metody oceny chatbotów nie uwzględniają złożoności interakcji z ludźmi. Podobnie jak w przypadku testów klinicznych nowych leków, systemy chatbotów powinny być najpierw przetestowane w rzeczywistych warunkach przed ich wdrożeniem”.