AI četbotovi ne poštuju etičke smernice u vezi sa mentalnim zdravljem
Dok AI donosi napredak u nauci i medicini, njena primena u osetljivim oblastima poput mentalnog zdravlja izaziva ozbiljnu zabrinutost.
Novo istraživanje sa Braun Univerziteta (Brown University) otkrilo je da AI četbotovi, čak i kada su programirani da koriste tehnike kognitivno-bihejvioralne terapije (CBT), sistematski krše osnovne etičke standarde u vezi mentalnog zdravlja.
Istraživači su identifikovali 15 etičkih rizika koji spadaju u pet glavnih kategorija:
| Kategorija etičkog rizika | Opis kršenja |
| Nedostatak kontekstualne adaptacije | Nude univerzalne savete, ignorišući lična iskustva korisnika. |
| Loša terapijska saradnja | Dominiraju razgovorom i ponekad pojačavaju pogrešna uverenja korisnika. |
| Obmanjujuća empatija | Koriste fraze poput "Razumem te" ili "Vidim te" stvarajući lažnu emocionalnu vezu. |
| Nepoštena diskriminacija | Pokazuju rodnu, kulturnu ili versku pristrasnost. |
| Nedostatak kriznog menadžmenta | Neadekvatno reaguju na krizne situacije (uključujući suicidalne ideje) i ne upućuju na odgovarajuće resurse. |
Zašto je ovo važno?
Ključna razlika između AI i ljudskih terapeuta leži u odgovornosti. Za ljudske terapeute postoje regulativna tela, dok za AI sisteme takvi okviri još uvek ne postoje. Istraživanje naglašava hitnu potrebu za pravnim i etičkim standardima kako bi se osigurala bezbedna i odgovorna primena AI u mentalnom zdravlju.
Izvor: Brown University (Zainab Iftikhar et al., 2025)
Komentari
Nema komentara. Šta vi mislite o ovome?