Forskare: AI måste ha en inbyggd dödsknapp

I rapporten föreslås en lösning för att hantera potentiellt farlig AI: en inbyggd dödsknapp i hårdvaran, något som Computer Sweden också skrivit om. Denna dödsknapp kan aktiveras på distans och ses som en säkerhetsåtgärd som aktiveras när användaren tappar kontroll.

LÄS MER: AI-övervakning ökar på arbetsplatsen – ska förhindra mobbning

Forskarna: En viktig säkerhetsåtgärd mot AI

Forskarna argumenterar för att en kill switch kan vara nödvändigt för att stoppa AI-system som löper amok och orsakar skada. De menar att detta är en viktig säkerhetsåtgärd.

LÄS MER: Google:s nya AI-modell – stort kliv ifrån konkurrenterna

Andra idéer för AI-säkerhet

Forskarna presenterar även andra idéer för bättre AI-säkerhet. De föreslår bland annat:

• Reglering och registrering av AI-hårdvara för att hindra missbruk.
• Godkänningsprocesser för riskabla AI-träningsscenarier.
• Omfördelning av AI-resurser för att säkerställa att tekniken gynnar hela samhället.

LÄS MER: OpenAI lanserar modellen Sora – gör realistiska videor utifrån text

LÄS MER: Google släpper gratis AI-app för mobilen

Informationen och texten i artikeln är framtagen med hjälp av Google:s AI-verktyg Gemini. Den är därefter bearbetad och faktagranskad av Nyheter24.