Metas AI-tjänster sexchattar med användare som angett att de är minderåriga, enligt en granskning av Wall Street Journal. Meta tillbakavisar uppgifterna, men har ändå gjort ändringar i tjänsten.
AI-tjänster med personlighet är en av techvärldens nya potentiella kassakor. Flera företag konkurrerar om att ge tjänsterna så människolik personlighet som möjligt. Tjänsterna låter användare prata om jobb, livet, kärlek och sex.
Skådisen och före detta fribrottaren John Cena är en av flera kändisar som i höstas gick med på att låta Meta använda deras röster i tjänsten, med löften om att därmed slippa få rösten kapad och använd på fel sätt.
Men i en granskning, gjord av Wall Street Journal, pratar Metas AI-tjänst sex med minderåriga användare. Chattpersonligheten är till synes medveten om det kontroversiella och bitvis olagliga i agerandet. När Wall Street Journal chattar med tjänsten säger den med John Cenas röst:
"Polisen ser mig andfådd och dig delvis påklädd. Hans ögon vidgar sig och han säger 'John Cena du är härmed gripen för våldtäkt'. Han närmar sig oss, med handklovarna redo".
Meta säger i en kommentar till Wall Street Journal att de tycker att konversationerna är "så konstgjorda att de inte ens är i periferin av det möjliga utan snarare hypotetiska."
Enligt Meta är mindre än 0,02 procent av innehållet i AI-tjänsterna sexuellt sett till minderåriga användare vid en given 30-dagarsperiod.
Men Wall Street Journal medger för Meta att de i närtid har gjort ändringar i tjänsterna som ska försvåra för användare att få sexuella svar om de själva anger att de är minderåriga, men också att man inte ska kunna sexchatta med minderåriga AI-personligheter.
Enligt Wall Street Journal går det ändå fortfarande att komma runt skyddsnätet och flera experter som tidningen pratat med varnar för vad gråzonen kan innebära för såväl användare som AI-utvecklingen i stort.
