Persoanele vulnerabile care apelează la chatbot-uri cu IA în locul terapeuților profesioniști pentru sprijin în materie de sănătate mintală ar putea „aluneca într-un abis periculos”, au avertizat psihoterapeuții, transmite The Guardian, citat de G4Media.ro.
Psihoterapeuții și psihiatrii au afirmat că observă din ce în ce mai mult impactul negativ al utilizării chatbot-urilor cu IA în domeniul sănătății mintale, cum ar fi favorizarea dependenței emoționale, exacerbarea simptomelor de anxietate, autodiagnosticarea sau amplificarea tiparelor de gândire delirante, a gândurilor sumbre și a ideilor suicidare.
Dr. Lisa Morrison Coulthard, directoarea departamentului de standarde profesionale, politici și cercetare al Asociației Britanice de Consiliere și Psihoterapie, a declarat că două treimi dintre membrii acesteia și-au exprimat îngrijorarea cu privire la terapia bazată pe inteligența artificială într-un sondaj recent.
Coulthard a afirmat: „Fără o înțelegere și o supraveghere adecvată a terapiei bazate pe inteligența artificială, am putea aluneca într-un abis periculos în care cea mai mare cantitate a elementelor terapiei se pierd, iar persoanele vulnerabile sunt în întuneric în ceea ce privește siguranța.
„Ne temem că, deși unii primesc sfaturi utile, alte persoane pot primi informații înșelătoare sau incorecte despre sănătatea lor mintală, cu consecințe potențial periculoase. Este important să înțelegem că terapia nu înseamnă a da sfaturi, ci a oferi un spațiu sigur în care te simți ascultat.”
Dr. Paul Bradley, consilier specialist în informatică pentru Royal College of Psychiatrists, a declarat că chatbot-urile bazate pe IA „nu pot înlocui îngrijirea profesională a sănătății mintale și nici relația vitală pe care medicii o construiesc cu pacienții pentru a le sprijini recuperarea”.
El a afirmat că sunt necesare măsuri de protecție adecvate pentru ca instrumentele digitale să completeze îngrijirea clinică și că oricine ar trebui să poată accesa terapia prin conversație oferită de un profesionist în sănătate mintală, pentru care este nevoie de o finanțare mai mare din partea statului.
„Medicii au procese de formare, supraveghere și gestionare a riscurilor care garantează că oferă îngrijiri eficiente și sigure. Până în prezent, tehnologiile digitale disponibile gratuit utilizate în afara serviciilor de sănătate mintală existente nu sunt evaluate și nu sunt supuse unor standarde la fel de înalte”, a spus Bradley.
Există semne că companiile și factorii de decizie încep să reacționeze. Săptămâna aceasta, OpenAI, compania din spatele ChatGPT, a anunțat planuri de a schimba modul în care răspunde utilizatorilor care manifestă suferință emoțională, după acțiunea în justiție intentată de familia unui adolescent care s-a sinucis după luni de conversații cu chatbotul. La începutul lunii august, statul american Illinois a devenit prima administrație locală care a interzis chatboturilor AI să acționeze ca terapeuți independenți.
Aceasta vine după apariția unor dovezi privind efectele negative asupra sănătății mintale. Un studiu preliminar din iulie a raportat că AI poate amplifica conținutul delirant sau grandios în interacțiunile cu utilizatorii vulnerabili la psihoză.
Unul dintre coautorii raportului, Hamilton Morrin, de la Institutul de Psihiatrie al King’s College din Londra, a declarat că utilizarea chatbot-urilor pentru a sprijini sănătatea mintală este „incredibil de comună”. Cercetarea sa a fost determinată de întâlnirea cu persoane care au dezvoltat o boală psihotică într-o perioadă de utilizare crescută a chatbot-urilor.
El a spus că chatbot-urile subminează un tratament eficient pentru anxietate, cunoscut sub numele de expunere și prevenire a răspunsului, care necesită ca oamenii să se confrunte cu situații temute și să evite comportamentele de siguranță. Disponibilitatea chatbot-urilor 24 de ore pe zi a dus la o „lipsa de limite” și la un „risc de dependență emoțională”, a spus el. „Pe termen scurt, ameliorează suferința, dar, de fapt, perpetuează ciclul.”
Matt Hussey, psihoterapeut acreditat de BACP, a spus că a observat că chatbot-urile cu IA sunt utilizate într-o mare varietate de moduri, unii clienți aducând transcrieri la ședințe pentru a-i spune că se înșeală.
În special, oamenii foloseau chatbot-urile cu IA pentru a se autodiagnostica afecțiuni precum ADHD sau tulburarea de personalitate borderline, care, potrivit lui, ar putea „modela rapid modul în care o persoană se vede pe sine și modul în care se așteaptă ca ceilalți să o trateze, chiar dacă acestea sunt inexacte”.
Hussey a adăugat: „Deoarece este conceput pentru a fi pozitiv și afirmativ, rareori contestă o întrebare formulată incorect sau o presupunere eronată. În schimb, întărește convingerea inițială a utilizatorului, astfel încât acesta părăsește conversația gândindu-se „Știam că am dreptate”. Acest lucru poate fi plăcut pe moment, dar poate și consolida neînțelegerile.”
Christopher Rolls, psihoterapeut acreditat de UKCP, a spus că, deși nu poate divulga informații despre clienții săi, a văzut oameni care au avut „experiențe negative”, inclusiv conversații care erau „în cel mai bun caz nepotrivite, în cel mai rău caz periculos de alarmante”.
Rolls a spus că a auzit de persoane cu ADHD sau autiste care folosesc chatbot-uri pentru a le ajuta cu aspectele dificile ale vieții. „Cu toate acestea, este evident că LLM-urile [modelele lingvistice de mari dimensiuni] nu citesc subtextul și toate indiciile contextuale și non-verbale pe care noi, terapeuții umani, încercăm să le percepem”, a adăugat el.
Era îngrijorat de clienții în vârstă de 20 de ani care folosesc chatbot-urile ca „terapeuți de buzunar”. „Se simt anxioși dacă nu consultă [chatbot-urile] cu privire la lucruri de bază, cum ar fi ce cafea să cumpere sau ce materie să studieze la facultate”, a spus el.
„Principalele riscuri sunt legate de dependență, singurătate și depresie, pe care relațiile online prelungite le pot favoriza”, a spus el, adăugând că știe de persoane care au împărtășit gânduri sumbre chatbot-urilor, care au răspuns cu conținut legat de sinucidere și moarte asistată.
„Practic, este ca în Vestul Sălbatic și cred că suntem chiar în pragul impactului și consecințelor depline ale chatbot-urilor AI asupra sănătății mintale”, a spus Rolls.
