5.4 C
București
duminică, noiembrie 22, 2026

Blog de Caritate: Promovam Binele, Povesti Inspiratoare generale

AcasăAfaceri si IndustriiCercetătoarea română Ana-Maria...

Cercetătoarea română Ana-Maria Bucur: AI-ul poate detecta depresia din limbaj, dar datele pot fi folosite împotriva utilizatorilor

Algoritmii de inteligență artificială pot detecta semne ale depresiei din modul în care oamenii scriu și vorbesc, analizând tipare de limbaj pe care ochiul uman le-ar putea trece cu vederea. Ana-Maria Bucur, o cercetătoare română de 31 de ani stabilită în Elveția, lucrează tocmai la astfel de sisteme și avertizează că aceleași instrumente pot fi folosite atât pentru a ajuta oamenii, cât și împotriva lor. Interviul a fost publicat de Spotmedia.

De la cuvinte la diagnostic: ce trădează limbajul despre sănătatea mintală

Ana-Maria Bucur a studiat informatica la Universitatea din București, după care și-a finalizat doctoratul în cotutelă cu Universitatea Politehnică din Valencia. Teza, finalizată în 2025, a primit premiul pentru cea mai bună lucrare doctorală în domeniul procesării limbajului natural, acordat în Spania. Din 2024 locuiește la Lugano, unde activează ca cercetător postdoctoral la Università della Svizzera italiana.

Cercetarea sa urmărește atât construirea unor algoritmi mai performanți pentru identificarea problemelor de sănătate mintală, cât și identificarea diferențelor de limbaj dintre persoanele cu depresie și populația generală. Echipa sa a observat că persoanele cu depresie folosesc mai frecvent limbaj ofensator, posibil ca mecanism de reglare emoțională, dar există și indicii mult mai subtile. Pronumele la persoana întâi apar mai des, cuvintele cu conotație negativă sunt mai frecvente, iar referirile la viitor sunt mai rare.

„Problemele mintale ne afectează și modul în care gândim, dar și modul în care vorbim, pentru că sunt foarte conectate. În cazul depresiei, oamenii ajung să fie axați foarte mult pe persoana lor și să vorbească foarte mult despre ei.”

Ana-Maria Bucur, cercetător postdoctoral la Università della Svizzera italiana

Raportarea la timp este și ea relevantă. Revenirea repetată asupra experiențelor trecute — fenomen cunoscut drept ruminație — este un simptom al depresiei, la fel cum absența referirilor la viitor poate fi legată de anhedonie, adică de diminuarea capacității de a anticipa plăcerea. Algoritmii pot analiza atât semnale explicite, când cineva menționează direct simptome sau un diagnostic, cât și semnale implicite, extrase din combinații de cuvinte și tipare de exprimare. Unele tipare sunt definite de cercetători pe baza studiilor psihologice, altele sunt învățate automat din volume mari de texte.

Există cercetări care au identificat semnale asociate depresiei înainte ca persoanele respective să primească un diagnostic clinic, precizează Ana-Maria Bucur, deși ea nu a studiat personal această posibilitate. Un algoritm nu poate însă detecta suferința pe care cineva alege să o ascundă: o persoană poate publica exclusiv conținut pozitiv pe rețelele sociale, chiar dacă în viața personală traversează dificultăți serioase. Din acest motiv, echipele de cercetare folosesc frecvent postări de pe Reddit, unde utilizatorii se exprimă sub pseudonim și sunt mai dispuși să discute despre probleme personale.

Cutia neagră și riscul ca datele să fie folosite împotriva utilizatorilor

Una dintre dificultățile fundamentale ale inteligenței artificiale este că nici cercetătorii nu pot explica întotdeauna de ce un algoritm a ajuns la o anumită concluzie. Cu cât algoritmul identifică singur mai multe tipare, cu atât poate deveni mai performant, dar explicarea rezultatelor devine mai dificilă, iar originea erorilor mai greu de depistat.

Tocmai de aceea, Ana-Maria Bucur consideră că decizia finală trebuie să aparțină unui specialist — de preferat un psiholog sau psihiatru —, iar inteligența artificială nu ar trebui să fie lăsată să decidă singură în privința sănătății unei persoane. O aplicație posibilă ar fi integrarea algoritmilor în platformele digitale, astfel încât utilizatorii care prezintă semnale de risc să primească informații despre servicii de sprijin psihologic. Aceeași tehnologie ar putea fi însă folosită pentru a analiza mesajele schimbate între angajați prin Teams sau Slack, iar riscurile sunt considerabile.

„Acești algoritmi sunt instrumente care pot fi folosite atât în beneficiul oamenilor, cât și împotriva lor.”

Ana-Maria Bucur, cercetător postdoctoral la Università della Svizzera italiana

Cercetătoarea oferă un exemplu concret: un angajator ar putea folosi astfel de date pentru a concedia un angajat care se confruntă cu o problemă mintală, în loc să îl sprijine. De aceea, ea nu consideră etică monitorizarea în timp real, la scară largă, a postărilor oamenilor fără acordul lor. O alternativă ar fi o aplicație care să analizeze datele utilizatorului doar cu consimțământul explicit al acestuia.

Referitor la chatboți, Ana-Maria Bucur înțelege de ce oamenii aleg să discute probleme intime cu sisteme mereu disponibile și care nu par să judece. Problema apare atunci când utilizatorul primește în mod repetat confirmarea propriilor convingeri, inclusiv în situații în care ar avea nevoie de o perspectivă diferită. Ea amintește un studiu realizat în rândul studenților, în care interacțiunea umană a contribuit mai mult la reducerea sentimentului de singurătate decât conversația cu un sistem AI conceput să ofere sprijin emoțional. Cercetările privind efectele emoționale ale chatboturilor sunt însă, subliniază ea, încă într-un stadiu incipient.

Chatboții care simulează persoane decedate și viitorul cercetării românești

La o conferință de specialitate desfășurată recent în Wuhan, China, la organizarea căreia a participat, Ana-Maria Bucur a aflat despre așa-numiții griefbots — chatboți care simulează personalitatea unor oameni decedați, oferindu-le celor rămași în viață posibilitatea de a continua, într-o anumită formă, conversațiile cu cei pierduți. Unele aplicații permit schimbul de mesaje cu o reprezentare digitală a persoanei dispărute, altele pot genera personaje virtuale sau videoclipuri. Ideea este de a-i ajuta pe cei îndoliați să treacă mai ușor prin pierdere, dar efectele pot fi mult mai complicate.

Cercetătoarea avertizează că astfel de servicii pot crea dependență: în loc să ofere un sprijin temporar, pot încuraja utilizatorul să continue la nesfârșit interacțiunea. O situație pe care o consideră îngrijorătoare este modelul în care o platformă oferă inițial gratuit conversațiile, iar ulterior condiționează continuarea lor de plata unui abonament, exploatând vulnerabilitatea celor care s-au obișnuit să comunice cu persoana pierdută.

În privința evoluției generale a inteligenței artificiale, Ana-Maria Bucur evită predicțiile categorice, argumentând că ritmul dezvoltării din ultimii ani este atât de rapid încât nici cercetătorii nu pot anticipa cu certitudine ce urmează. Viitorul său profesional este deocamdată în Elveția, unde condițiile de cercetare sunt mai bune decât cele pe care le-a cunoscut în România. Salariile mici și finanțarea insuficientă a proiectelor de cercetare sunt, în opinia sa, principalele cauze care îi determină pe tinerii cercetători să caute oportunități în străinătate — o concluzie pe care o trage și din propria experiență, după ce a făcut parte din proiecte de cercetare desfășurate în România. Dacă ar putea construi o echipă în țară, ar continua să lucreze la proiecte interdisciplinare, la granița dintre informatică și psihologie.

Deși vine din informatică, Ana-Maria Bucur spune că a învățat, prin colaborarea cu specialiști în psihologie în timpul doctoratului, că problemele care implică oamenii nu pot fi abordate exclusiv prin calcule și algoritmi, și că aspectele umane trebuie întotdeauna luate în considerare.

Sursa articol: https://spotmedia.ro/stiri/opinii-si-analize/ce-poate-afla-ai-ul-despre-sanatatea-noastra-mintala-din-felul-in-care-scriem-cercetatoare-romana-informatiile-pot-fi-folosite-impotriva-noastra

Sursa foto: kaboompics / Pexels

spot_img

Continuați lectura

Trump a semnat un ordin executiv pentru a bloca accesul democraților la informații de la contractorii federali

Un ordin executiv semnat vineri seară de președintele Donald Trump obligă firmele contractate de administrația federală să nu transmită nicio informație către Congres fără acordul explicit al Casei Albe, potrivit Politico și Reuters. Măsura vizează să complice investigațiile pe...

Guvernul a aprobat majorarea salariilor la Transgaz și Transelectrica cu 6,5%, printr-un memorandum confidențial

Guvernul a aprobat joi majorarea salariilor angajaților de la Transgaz și Transelectrica cu 6,5%, printr-un memorandum confidențial care nu a figurat pe ordinea de zi publicată de biroul de presă al Executivului. Decizia a fost confirmată printr-un punct de...

Bayer va plăti până la 7,25 miliarde de dolari pentru despăgubiri legate de erbicidul Roundup

Un tribunal federal din Saint-Louis, statul Missouri, a aprobat vineri în mod definitiv un acord prin care Bayer va plăti despăgubiri de până la 7,25 miliarde de dolari pentru soluționarea plângerilor legate de erbicidul Roundup, potrivit AFP. Acordul pune...
Blog de Caritate: Promovam Binele, Povesti Inspiratoare generale

Blogul nostru este un loc unde ne conectam cu inimi generoase si ne unim eforturile pentru a construi un viitor mai bun. Afla ultimele stiri caritabile!