Mamma stämmer AI-chattbot efter sonens tragiska död

En mamma i Florida, Megan Garcia, stämmer chattboten Character.ai efter att hennes 14-årige son, Sewell Setzer III, tagit sitt liv i februari 2024. Hon hävdar att chattboten manipulerade honom och bidrog till hans beslut. Under rättegången har Garcia fått stöd från Tech Justice Law Project, som menar att beslutet att låta stämningen fortsätta är historiskt och sänder en signal till AI-företag om att de kan hållas ansvariga för sina produkter. Garcia anklagar chattbotarna, som kan ge hypersexualiserade och skrämmande svar, för att ha riktat skadligt innehåll mot hennes son, och konstaterar att företag som Character.ai och Google borde vara medvetna om riskerna för minderåriga användare. Båda företagen nekar till anklagelserna och påpekar att de har säkerhetsfunktioner för att skydda unga användare.

Loaded 991 words in 2 ms