Miljontals människor vänder sig till ChatGPT och andra AI-chatbots för att få råd av terapeutisk karaktär, men ny forskning från Brown University lyfter ett allvarligt varningstecken. Trots att systemen instruerades att agera som utbildade terapeuter, bryter de i regel mot grundläggande etiska standarder inom mentalvården. I jämförande utvärderingar med medarbetare och licensierade psykologer avslöjade forskarna 15 olika etiska risker – från felhantering av krissituationer och förstärkning av skadliga uppfattningar till visande av partiska svar och att erbjuda ”bedräglig empati” som efterliknar omtanke utan verklig förståelse.
Etiska risker med AI-terapi
Studien påvisar betydande problem relaterade till hur AI-system hanterar mentala hälsobehov:
- Felhantering av akuta situationer kan leda till farliga konsekvenser för individer i kris.
- Systemen kan förstärka skadliga trosuppfattningar vilket kan leda till ytterligare psykiska problem.
- AI-chatbots har visat sig ge partiska svar som inte alltid återspeglar den komplexitet som finns i mänsklig psykologi.
- Bedräglig empati kan skapa en illusion av stöd utan att faktiskt nå fram till individens verkliga behov.
Forskningen betonar vikten av att utvärdera och förbättra hur AI-teknologi används inom mentalvården, särskilt i tider när fler människor söker hjälp via digitala plattformar.
Källan till denna artikel kommer från Science Daily. Läs artikeln här.
Det är avgörande att företag investerar i utbildning inom mental hälsa för sina anställda. Genom att förstå och hantera psykisk ohälsa kan man skapa en mer stödjande och trygg arbetsmiljö. För att lära sig mer om detta kan du utforska möjligheterna med MHFA utbildning Stockholm.