Popularni AI chatbotovi često daju problematične zdravstvene savjete
U nedavnoj studiji objavljenoj u stručnom medicinskom časopisu BMJ Open, znanstvenici su revidirali točnost, referenciranje i čitljivost pet popularnih chatbotova vođenih umjetnom inteligencijom (AI) kako bi istražili kako su odgovorili na zdravstvene upite u područjima sklonim dezinformacijama. Studija je koristila 250 upita u pet kategorija sklonih dezinformacijama, a rezultate su procijenila dva stručnjaka za predmetnu materiju u svakoj kategoriji koristeći unaprijed definirane kriterije.
Rezultati studije otkrili su da, iako se agregatne performanse nisu značajno razlikovale među modelima (p = 0,566), alarmantnih 49,6% odgovora generiranih umjetnom inteligencijom bilo je problematično ili se nije jasno podudaralo sa znanstvenim konsenzusom i odgovarajućim okvirom. Nadalje, pojedinačni modeli pokazali su različite ranjivosti u ponašanju (npr. loša autentičnost referenci i rezultati čitljivosti na fakultetskoj razini), što naglašava hitnu potrebu za većim nadzorom i oprezom korisnika pri korištenju tehnologija umjetne inteligencije u zdravstvu usmjerenih prema javnosti.
Kako chatbotovi umjetne inteligencije (AI) postaju sveprisutni u svakodnevnom životu (procjenjuje se da ih 75% radnika koristi za rutinske zadatke), njihova uloga u širenju zdravstvenih informacija podvrgnuta je intenzivnom nadzoru.
Situaciju pogoršavaju nedavna izvješća koja pokazuju da dvije trećine interakcija javnih chatbotova uključuju upite za traženje informacija, u kojima korisnici tretiraju ove alate umjetne inteligencije kao digitalne liječnike.
Ova studija ističe značajne nedostatke u pouzdanosti zdravstvenih informacija koje pružaju popularni javno dostupni AI chatbotovi. Njeni rezultati ukazuju na visoke (gotovo 50%) razine problematičnog sadržaja i neopravdanog pretjeranog samopouzdanja u modele, uz netočne ili nepotpune citate (samo 0,8% od 250 pitanja model je odbio odgovoriti).
Znanstvenici stoga preporučuju da korisnici budu izuzetno kritični kada traže medicinski savjet od AI chatbotova i da se prije primjene preporuka modela obavezno konzultiraju s liječnikom. Nadalje, ističu hitnu potrebu za edukacijom javnosti i nadzorom kako bi se osigurala sigurnost.
Izvor:
BMJ Open