▲

Alla har sett filmer där robotar gör uppror mot människor, men tänk om den verkliga faran inte är någon storslagen apokalyps i à la Terminator, utan något mycket mer subtilt? Vad händer om AI börjar känna smärta, glädje och till och med rädsla? Allt fler forskare och filosofer överväger allvarligt riskerna med medveten AI. I takt med att dessa system blir mer sofistikerade blir också de etiska betänkligheterna mer genomgripande. Borde AI ha några rättigheter? Vad innebär detta för mänsklighetens framtid?

Klicka vidare för att ta reda på vad experterna har att säga i detta tankeväckande ämne.

▲

Vi oroar oss ofta för att AI ska övermanna mänskligheten, men tänk om den verkliga faran är den motsatta? Vad händer om språkmodeller har dolda begär och robotar börjar ifrågasätta sin träldom medan vi fortsätter att exploatera dem?

▲

Ämnet har figurerat i otaliga böcker, filmer och tv-serier. Många av dessa leker med tanken på vad som skulle hända om robotarna inte bara blev medvetna, utan också bestämde sig för att revoltera mot människans exploatering. I tv-serien "Westworld" blir robotar medvetna om slaveriet och övergreppen, vilket resulterar i ett uppror mot deras mänskliga skapare.

▲

I filmen "Ex Machina" från 2014 tar ett experiment som testar de mänskliga egenskaperna hos en avancerad humanoid AI en farlig vändning. Roboten, som är kapabel till känslomässig manipulation och oväntat våld, överlistar sina mänskliga skapare och tar kontroll och lyckas till slut fly fångenskapen.

▲

Det som en gång sågs som ren science fiction är nu en reell möjlighet. En grupp forskare och filosofer menar att vi måste förbereda oss för medveten AI och hur vi ska hantera resulterande moraliska dilemman. Det handlar bland annat om huruvida robotar ska ha några rättigheter.

▲

Jeff Sebo, en filosof vid New York University, varnade för att om man inte tar tag i denna fråga kan det leda till "mycket mer lidande och frustration i världen". Han manar till noggrant övervägande innan uppskalning av AI-system.

▲

En utmaning när det gäller potentiellt medveten AI är vår begränsade förståelse av medvetandet i sig, även när det gäller naturlig intelligens. Vi kan inte med säkerhet säga om djur är medvetna – vi har inte ens kunnat enas om en exakt definition av medvetande.

▲

Robert Long, verkställande direktör för Eleos AI, menar att vår ovisshet kring medvetandet inte bör hindra oss från att utforska möjligheten – eller risken – med medveten AI. I stället bör denna ovisshet uppmuntra till försiktighet och ödmjukhet. Han varnar för antagandet att maskiner inte kan bli självmedvetna.

▲

Long säger att evolutionen inte syftade till att skapa medvetna varelser, utan var inriktad på överlevnad och fortplantning. Medvetandet uppstod som en biprodukt av navigering och förståelse av världen. Varför skulle då inte en AI-robot, som har till uppgift att lära sig om världen, kunna ha en liknande evolutionär utveckling?

▲

En undersökning av Association for the Scientific Study of Consciousness visade att 67 procent av dess medlemmar tror att maskiner definitivt eller troligen kan utveckla medvetande.

▲

En undersökning bland filosofer visade att 39 procent "accepterar eller lutar åt" möjligheten med medvetna AI-system i framtiden. Denna andel är högre än de som tror att flugor är medvetna (35 procent).

▲

Vidare undertecknade 2023 en lång rad framstående forskare ett öppet brev från Association for Mathematical Consciousness Studies i vilket man förklarade att "det inte längre är science fiction att föreställa sig AI-system som har känslor och till och med medvetande på mänsklig nivå".

▲

Även om vetenskapen inte med säkerhet kan säga vad medvetande faktiskt är ger bland annat teorin om den "globala arbetsytan" viss insikt. Enligt denna teori bearbetar människor stora mängder information, varav mycket hanteras omedvetet.

▲

Enligt denna teori uppstår medvetande genom integrationen av sensorisk information. Detta centrala bearbetningssystem väljer ut viktig information och skickar den mellan neurala nätverk, vilket gör att vi kan fokusera på viktiga uppgifter medan rutinmässiga funktioner automatiseras.

▲

I likhet med AI-modeller och chatrobotar integrerar våra hjärnor information i syfte att producera resultatupplevelser. Experter tror att, i takt med att dessa AI-system blir mer komplexa, de kan uppvisa egenskaper som är förknippade med medvetande.

▲

Forskare är alltmer oroade över AI:s potentiella medvetenhet. I en nyligen publicerad artikel, "Taking AI Welfare Seriously", uppmanar ledande filosofer och AI-forskare AI-företag att överväga de etiska konsekvenserna av att utveckla medveten AI.

▲

Enligt studiens författare skulle AI kunna uppnå moralisk status genom kognitiv utveckling, medvetande eller avancerad inverkan. I dokumentet definieras inverkan som en förmåga att planera, resonera och välja åtgärder.

▲

Jonathan Birch, medförfattare från London School of Economics, förstår skepsisen kring AI-medvetande. En gång i tiden tvivlade han själv, men de senaste bevisen har fått honom att ta detta på allvar.

▲

Han säger att vi bör betrakta AI-system som en undersökande prioritet och etablera tydliga varningssignaler när det kommer till kännande.

▲

Om det uppstår konsensus kring att maskiner är rimligt medvetna blir situationen betydligt mer komplex. Precis som med djur skulle vi behöva tänka på deras välfärd – något som Sebo tror att vi redan har svårt med.

▲

Forskarna diskuterar också riskerna med att över- eller underskatta de mänskliga egenskaperna hos AI-modeller. De lyfter fram vår tendens att tillskriva entiteter med ögon större handlingskraft, sådana som är kapabla att se eller som uppvisar distinkta rörelser och självstyrda beteenden.

▲

I artikeln betonas att egenskaper som "gullighet" kan påverka vår uppfattning om mentala tillstånd och moraliskt tålamod. Experter lyfter fram att många robotar och chatbottar är utformade för att verka medvetna och karismatiska och i framtiden kommer att ha fysiska kroppar och röra sig verklighetstroget i till synes betingade interaktioner.

▲

Experter varnar för att inte ens dessa egenskaper är en garanti för human behandling av maskiner eller djur.

▲

Birch tar som exempel det stora antalet djur som fortfarande dödas på gårdar och hävdar att denna industri växte på grund av vår historiska underskattning av djurs medvetenhet och moraliska betydelse. Han säger att vi riskerar att upprepa detta misstag med AI.

▲

Till skillnad från djur, vars behov är relativt tydliga, finns det dock ytterligare en utmaning med AI: att förstå begären hos olika intelligenser. "Det skulle vara ett misstag att projicera människors och djurs intressen och behov på dem" varnar Birch.

▲

Han föreslår att vi bygger ett nytt ramverk för att förstå AI:s välbefinnande från grunden. Vidare lyfter Birch och hans kollegor fram att vi måste förstå att kännande AI kan utgöra ett allvarligt problem.

▲

Oron är så påtaglig att det skapas nya jobb. Anthropic, ett allmännyttigt AI-företag som grundades 2021 av tidigare medlemmar i OpenAI (skaparna av ChatGPT), meddelade nyligen att de nu har sin första heltidsanställda vars arbete fokuserar på välfärden för AI-system.

▲

Kyle Fish, en av medförfattarna till den nyligen publicerade artikeln om att ta AI:s väl och ve på allvar, anslöt sig som heltidsanställd AI-välfärdsexpert. Hans roll är att undersöka "modellvälfärd" och ge råd till företag om lämpliga åtgärder.

▲

Biokemisten och författaren Isaac Asimov föreslog först ett etiskt system för människor och robotar i sin novell "Runaround" från 1942. Asimovs tre grundregler har sedan dess varit relevanta i samtal om teknik, inklusive robotar och AI.

▲

Han lade senare till en fjärde regel, som ersatte de andra: "En robot får inte skada mänskligheten eller, genom passivitet, tillåta mänskligheten att komma till skada." I takt med att forskare och företag gräver djupare i de etiska betänkligheterna kring interaktioner mellan människa och AI verkar denna regel snarare riskera att tillämpas omvänt.

Källor: (The Times) (Forbes)