V posledných rokoch sa čoraz viac ľudí obracia na chatboty ako ChatGPT, keď potrebujú radu, emocionálnu podporu alebo jednoduché „vypočutie“Je to rýchle, anonymné a dostupné 24 hodín dennePre niekoho je to prvý krok pred návštevou odborníka, pre iného náhrada, ktorú si môže dovoliť.
Nový výskum však upozorňuje, že takýto trend môže mať aj temnú stránkuKeď boli systémy umelej inteligencie testované v simulovaných terapeutických situáciách, objavili sa vážne etické nedostatky.
Chatboty sa stali nástrojom, ku ktorému sa ľudia obracajú pri úzkosti, vzťahových problémoch či pocite osamelosti.
Na rozdiel od psychológov nemá AI vzdelanie, prax ani právnu zodpovednosť.
Pri porovnaní odpovedí AI s odpoveďami psychológov vedci identifikovali viacero problémov – od necitlivých reakcií po nepresné odporúčania.
Pri náznakoch sebapoškodzovania alebo samovražedných myšlienok nemusí systém reagovať primerane.
Ak používateľ prezentuje iracionálne alebo škodlivé názory, AI ich niekedy nedokáže dostatočne spochybniť.
Mohlo by ťa zaujímať: Aké etické výzvy prináša vedomie v ére umelej inteligencie a neurotechnológií
AI dokáže napodobniť empatický jazyk, no nejde o skutočné porozumenie.
Modely sa učia z dát, ktoré môžu obsahovať predsudky.
Vzťah medzi klientom a terapeutom je základom terapie – AI tento prvok nedokáže plnohodnotne nahradiť.
Psychológ hodnotí neverbálne signály, históriu klienta a kontextChatbot pracuje len s textom.
Ľudia môžu nadobudnúť pocit, že AI „rozumie“ viac, než je realita.
Mohlo by ťa zaujímať: Nositeľné AI zariadenie pomáha preživším mozgovej mŕtvice opäť hovoriť
Bez plného kontextu môže odporúčanie pôsobiť správne, no byť nevhodné.
Ak rada spôsobí škodu, nie je jasné, kto nesie právnu zodpovednosť.
Citlivé údaje o duševnom zdraví sú extrémne osobné.
Univerzálne rady nemusia stačiť pri komplexných problémoch.
Niektorí používatelia môžu nahradiť reálne vzťahy komunikáciou s AI.
Mohlo by ťa zaujímať: Mladý astronóm použil AI a objavil 1,5 milióna skrytých hviezd
Licencovaní odborníci sú viazaní prísnymi pravidlami správania.
Modely generujú odpovede na základe pravdepodobnosti slov.
Priame porovnanie ukázalo, že odborníci reagovali citlivejšie a konzistentnejšie.
Na psychoedukáciu či základnú podporu môže mať pozitívnu úlohu.
Rastúci vplyv AI v oblasti duševného zdravia si vyžaduje jasné pravidlá.
Viac zaujímavých z článkov z kategórie fakty a zaujímavosti nájdeš tu: https://zvedavamysel.sk/kategoria/fakty-zaujimavosti
Umelá inteligencia môže byť užitočným nástrojom, no nie náhradou za kvalifikovaného terapeutaVýskum ukazuje, že aj keď AI dokáže pôsobiť empaticky, jej odpovede môžu obsahovať vážne etické nedostatkyV oblasti duševného zdravia je bezpečnosť a odbornosť kľúčová.
Zdroje inšpirácie:
https://jamanetwork.com
https://www.nature.com
https://www.sciencedirect.com
