© Getty Images

Skurkar och offer -

Vi oroar oss ofta för att AI ska övermanna mänskligheten, men tänk om den verkliga faran är den motsatta? Vad händer om språkmodeller har dolda begär och robotar börjar ifrågasätta sin träldom medan vi fortsätter att exploatera dem?

© Getty Images

Robotarnas framväxt -

Ämnet har figurerat i otaliga böcker, filmer och tv-serier. Många av dessa leker med tanken på vad som skulle hända om robotarna inte bara blev medvetna, utan också bestämde sig för att revoltera mot människans exploatering. I tv-serien "Westworld" blir robotar medvetna om slaveriet och övergreppen, vilket resulterar i ett uppror mot deras mänskliga skapare.

© NL Beeld

Robotarnas framväxt -

I filmen "Ex Machina" från 2014 tar ett experiment som testar de mänskliga egenskaperna hos en avancerad humanoid AI en farlig vändning. Roboten, som är kapabel till känslomässig manipulation och oväntat våld, överlistar sina mänskliga skapare och tar kontroll och lyckas till slut fly fångenskapen.

© NL Beeld

Lika rättigheter? -

Det som en gång sågs som ren science fiction är nu en reell möjlighet. En grupp forskare och filosofer menar att vi måste förbereda oss för medveten AI och hur vi ska hantera resulterande moraliska dilemman. Det handlar bland annat om huruvida robotar ska ha några rättigheter.

© Getty Images

Dags att agera -

Jeff Sebo, en filosof vid New York University, varnade för att om man inte tar tag i denna fråga kan det leda till "mycket mer lidande och frustration i världen". Han manar till noggrant övervägande innan uppskalning av AI-system.

© Getty Images

Komplicerat medvetande -

En utmaning när det gäller potentiellt medveten AI är vår begränsade förståelse av medvetandet i sig, även när det gäller naturlig intelligens. Vi kan inte med säkerhet säga om djur är medvetna – vi har inte ens kunnat enas om en exakt definition av medvetande.

© Getty Images

Ödmjukhet -

Robert Long, verkställande direktör för Eleos AI, menar att vår ovisshet kring medvetandet inte bör hindra oss från att utforska möjligheten – eller risken – med medveten AI. I stället bör denna ovisshet uppmuntra till försiktighet och ödmjukhet. Han varnar för antagandet att maskiner inte kan bli självmedvetna.

© Getty Images

Inlärning och utveckling -

Long säger att evolutionen inte syftade till att skapa medvetna varelser, utan var inriktad på överlevnad och fortplantning. Medvetandet uppstod som en biprodukt av navigering och förståelse av världen. Varför skulle då inte en AI-robot, som har till uppgift att lära sig om världen, kunna ha en liknande evolutionär utveckling?

© Getty Images

Hög sannolikhet -

En undersökning av Association for the Scientific Study of Consciousness visade att 67 procent av dess medlemmar tror att maskiner definitivt eller troligen kan utveckla medvetande.

© Getty Images

Mer medvetna än andra arter -

En undersökning bland filosofer visade att 39 procent "accepterar eller lutar åt" möjligheten med medvetna AI-system i framtiden. Denna andel är högre än de som tror att flugor är medvetna (35 procent).

© Getty Images

Bortom sci-fi -

Vidare undertecknade 2023 en lång rad framstående forskare ett öppet brev från Association for Mathematical Consciousness Studies i vilket man förklarade att "det inte längre är science fiction att föreställa sig AI-system som har känslor och till och med medvetande på mänsklig nivå".

© Getty Images

Hur är det möjligt? -

Även om vetenskapen inte med säkerhet kan säga vad medvetande faktiskt är ger bland annat teorin om den "globala arbetsytan" viss insikt. Enligt denna teori bearbetar människor stora mängder information, varav mycket hanteras omedvetet.

© Shutterstock

Hur är det möjligt? -

Enligt denna teori uppstår medvetande genom integrationen av sensorisk information. Detta centrala bearbetningssystem väljer ut viktig information och skickar den mellan neurala nätverk, vilket gör att vi kan fokusera på viktiga uppgifter medan rutinmässiga funktioner automatiseras.

© Shutterstock

Hur är det möjligt? -

I likhet med AI-modeller och chatrobotar integrerar våra hjärnor information i syfte att producera resultatupplevelser. Experter tror att, i takt med att dessa AI-system blir mer komplexa, de kan uppvisa egenskaper som är förknippade med medvetande.

© Shutterstock

På fullt allvar -

Forskare är alltmer oroade över AI:s potentiella medvetenhet. I en nyligen publicerad artikel, "Taking AI Welfare Seriously", uppmanar ledande filosofer och AI-forskare AI-företag att överväga de etiska konsekvenserna av att utveckla medveten AI.

© Getty Images

Tecken på medvetande -

Enligt studiens författare skulle AI kunna uppnå moralisk status genom kognitiv utveckling, medvetande eller avancerad inverkan. I dokumentet definieras inverkan som en förmåga att planera, resonera och välja åtgärder.

© Getty Images

Sannolikt enligt experterna -

Jonathan Birch, medförfattare från London School of Economics, förstår skepsisen kring AI-medvetande. En gång i tiden tvivlade han själv, men de senaste bevisen har fått honom att ta detta på allvar.

© Getty Images

Varningstecken -

Han säger att vi bör betrakta AI-system som en undersökande prioritet och etablera tydliga varningssignaler när det kommer till kännande.

© Getty Images

Andra varelsers välbefinnande -

Om det uppstår konsensus kring att maskiner är rimligt medvetna blir situationen betydligt mer komplex. Precis som med djur skulle vi behöva tänka på deras välfärd – något som Sebo tror att vi redan har svårt med.

© Getty Images

Människoliknande tillstånd -

Forskarna diskuterar också riskerna med att över- eller underskatta de mänskliga egenskaperna hos AI-modeller. De lyfter fram vår tendens att tillskriva entiteter med ögon större handlingskraft, sådana som är kapabla att se eller som uppvisar distinkta rörelser och självstyrda beteenden.

© Getty Images

Känslostyrda? -

I artikeln betonas att egenskaper som "gullighet" kan påverka vår uppfattning om mentala tillstånd och moraliskt tålamod. Experter lyfter fram att många robotar och chatbottar är utformade för att verka medvetna och karismatiska och i framtiden kommer att ha fysiska kroppar och röra sig verklighetstroget i till synes betingade interaktioner.

© Getty Images

Gullig gåta -

Experter varnar för att inte ens dessa egenskaper är en garanti för human behandling av maskiner eller djur.

© Getty Images

Samma misstag -

Birch tar som exempel det stora antalet djur som fortfarande dödas på gårdar och hävdar att denna industri växte på grund av vår historiska underskattning av djurs medvetenhet och moraliska betydelse. Han säger att vi riskerar att upprepa detta misstag med AI.

© Getty Images

Vad skulle de vilja? -

Till skillnad från djur, vars behov är relativt tydliga, finns det dock ytterligare en utmaning med AI: att förstå begären hos olika intelligenser. "Det skulle vara ett misstag att projicera människors och djurs intressen och behov på dem" varnar Birch.

© Getty Images

Öppet sinne -

Han föreslår att vi bygger ett nytt ramverk för att förstå AI:s välbefinnande från grunden. Vidare lyfter Birch och hans kollegor fram att vi måste förstå att kännande AI kan utgöra ett allvarligt problem.

© Getty Images

Arbetsmarknaden -

Oron är så påtaglig att det skapas nya jobb. Anthropic, ett allmännyttigt AI-företag som grundades 2021 av tidigare medlemmar i OpenAI (skaparna av ChatGPT), meddelade nyligen att de nu har sin första heltidsanställda vars arbete fokuserar på välfärden för AI-system.

© Getty Images

Heltidsjobb -

Kyle Fish, en av medförfattarna till den nyligen publicerade artikeln om att ta AI:s väl och ve på allvar, anslöt sig som heltidsanställd AI-välfärdsexpert. Hans roll är att undersöka "modellvälfärd" och ge råd till företag om lämpliga åtgärder.

© Getty Images

Grundläggande regler för människor och robotar -

Biokemisten och författaren Isaac Asimov föreslog först ett etiskt system för människor och robotar i sin novell "Runaround" från 1942. Asimovs tre grundregler har sedan dess varit relevanta i samtal om teknik, inklusive robotar och AI.

© Getty Images

Gör ingen skada -

Han lade senare till en fjärde regel, som ersatte de andra: "En robot får inte skada mänskligheten eller, genom passivitet, tillåta mänskligheten att komma till skada." I takt med att forskare och företag gräver djupare i de etiska betänkligheterna kring interaktioner mellan människa och AI verkar denna regel snarare riskera att tillämpas omvänt.

Källor: (The Times) (Forbes)

© Getty Images