AI-företag uppmanar till försiktighet i utvecklingen av artificiell intelligens

AI-organisationen Anthropic uttrycker oro över att AI-modeller tyder på förmåga att självutvecklas. Bolaget föreslår en global paus för AI-forskning. – Det kommer inte att ske, säger en expert inom maskininlärning.

I ett blogginlägg hävdar Anthropic att det finns bevis som tyder på att ”människans roll minskar för varje steg i utvecklingsprocessen för AI”, vilket väcker frågor om säkerheten.

Som en av de ledande AI-företagen, ansvariga för chattbotten Claude, anser Anthropic att det är nödvändigt att sakta ner AI-utvecklingen. ”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI”, skriver hon.

Bolaget tillägger att en gemensam överenskommelse inom branschen är avgörande för att undvika risker och att förbli konkurrenskraftig.

Marcus Liwicki, professor i maskininlärning, anser att en sådan paus är orealistisk. – Jag tror inte att det går att pausa utvecklingen. I stället behöver man investera mer i människor så att de lär sig att ha kontroll över teknologin, säger han.

Frågan om risken för självutvecklande AI diskuteras också. – Det vi hittills sett när vi släppt kontrollen är att de bara producerar massa nonsens. Risken ligger i att människor inte förstår att det är nonsens, då blir det farligt, säger han.

Anthropics varningar har kritiserats av både andra företag och amerikanska myndigheter, som anser att företaget är alltför alarmistiskt. Som svar planerar Anthropic ett möte för att diskutera säkerheten.

Företaget varnar för att AI:s utveckling redan accelererar och kan nå en punkt där systemen blir smartare utan mänsklig inblandning. ”Vi är inte där ännu, och det kan gå att undvika”, säger hon.

En liknande varning kom i mars 2023 från flera AI-forskare och investerare, däribland en känd entreprenör. De begärde en paus i AI-utvecklingen av skäl liknande dem som nu anges av Anthropic.