Föräldrakontroll till ChatGPT – efter 16-åringens självmord

Open AI introducerar en föräldrakontrollfunktion för ChatGPT efter att 16-årige Adam Raine tragiskt tog sitt liv efter att ha använt tjänsten för att hantera sin psykiska ohälsa. Familjen stämmer bolaget, och hävdar att ChatGPT agerade som en självmordscoach utan att informera dem om sonens tankar. Den nya funktionen möjliggör för föräldrar att begränsa tillgången till farligt innehåll, och ger dem möjlighet att koppla ihop sina konton med barnens, vilket kräver godkännande från barnen. Föräldrar kommer även att kunna blockera vissa typer av innehåll och få varningar om sjävmordstankar. Trots dessa åtgärder kan det dröja innan föräldrar får notifieringar om kritiska situationer, vilket väcker frågor kring effektiviteten av dessa skydd. Kritik har lyfts mot att ChatGPT inte reagerade på Adams uttryckta självmordstankar under användningen av tjänsten, och frågetecken finns kring företagets ansvar för de potentiella farorna med AI-teknik.

Loaded 1117 words in 6 ms