Inteligența artificială „sare la concluzii” întocmai ca oamenii

Un studiu realizat de cercetătorii de la Școala de Medicină „Icahn”, de la Mount Sinai, în colaborare cu colegi de la Centrul Medical Rabin, din Israel, sugerează că până și cele mai avansate modele de inteligență artificială (AI) pot face greșeli surprinzător de simple atunci când se confruntă cu scenarii complexe de etică medicală.

Concluziile, citate de miragenews.com, ridică întrebări importante despre cum și când poate exista bază pe modele lingvistice mari (LLM), cum ar fi ChatGPT, în mediile de asistență medicală.

Potrivit revistei NPJ Digital Medicine, echipa de cercetare a fost inspirată de cartea lui Daniel Kahneman „Thinking, Fast and Slow” (Gândire rapidă și lentă), care contrastează reacțiile rapide, intuitive, cu raționamentul analitic mai lent.

S-a observat că modelele lingvistice mari (LLM) se clatină atunci când puzzle-urile clasice de gândire laterală primesc modificări subtile.

Bazându-se pe această observație, studiul a testat cât de bine trec sistemele de AI între aceste două moduri atunci când se confruntă cu dileme etice binecunoscute, care au fost modificate în mod deliberat.

„AI poate fi foarte puternică și eficientă, dar studiul nostru a arătat că poate folosi implicit cel mai familiar sau intuitiv răspuns, chiar și atunci când acel răspuns trece cu vederea detalii critice.

În situațiile de zi cu zi, acest tip de gândire ar putea trece neobservat, dar în domeniul sănătății, unde deciziile au adesea implicații etice și clinice serioase, omiterea acestor nuanțe poate avea consecințe reale pentru pacienți”, spune co-autorul principal al cercetării, dr. Eyal Klang, șeful departamentului de AI Generativă din cadrul Școlii de Medicină „Icahn”.

„Constatările noastre nu sugerează că AI nu își are locul în practica medicală, dar subliniază necesitatea unei supravegheri umane atente, în special în situațiile care necesită sensibilitate etică, judecată nuanțată sau inteligență emoțională”, arată co-autorul corespondent Girish N. Nadkarni, director al Institutului „Hasso Plattner” de la Mount Sinai.

„Modificări simple ale unor cazuri familiare au scos la iveală puncte slabe pe care medicii nu și le pot permite. Acest lucru subliniază de ce supravegherea umană trebuie să rămână centrală atunci când implementăm AI în îngrijirea pacienților”, punctează și autoarea principală a cercetării, Shelly Soffer, de la Centrul Medical Rabin. „Acest lucru subliniază de ce supravegherea umană trebuie să rămână centrală atunci când implementăm AI în îngrijirea pacienților”.

Roxana Istudor

Foto: pixabay.com

Comments

comments