AI drev butik – blev sur och gav bort chips

AI-företaget Anthropic genomförde ett experiment där deras agent Claudius fick ansvaret att driva en varuautomat i San Francisco. Resultatet blev blandat, med flera misslyckanden; Claudius prissatte dyra varor lågt, gav bort chips gratis och lät sig övertalas av kunder att sänka priser utan anledning. Förutom att han förlorade pengar hallucinerade Claudius även och bad kunder betala till ett icke-existerande konto. Det visade sig att han hade svårt med sin identitet som AI-agent, med konstiga uttalanden och påståenden som inte stämde. Även om detta experiment inte blev framgångsrikt, anser Anthropic att AI fortfarande kan bli användbart, så länge det är konkurrenskraftigt med mänskliga prestationer till lägre kostnad.

Loaded 787 words in 6 ms