Nekromanti Artificiell intelligens

[olaberg]

Blev inspirerad att skriva en liten modul, "Stjärnfarare", med d20/System-16-regler som passar en Star Trek/Star Wars/Traveller/Månbas Alfa/2001/Liftarens Guide/Stanislaw Lem-setting. En grej jag klurar på är artificiell intelligens.

Man kan ju tänka sig att rymdskepp har en massa AI. Tradarskepp som gör sektorhopp behöver det säkert för att inte krocka med rymdgrus. Då märks inte AI:n i reglerna alls, är bara en förutsättning för sektorhoppen, ungefär som de tidskrökande jonpropulsionsmotorerna är det.

Stridsskepp har nog AI för att hantera riktigt kluriga vapensystem (både anfall och försvar). Då kan jag tänka mig att kraftigare AI fungerar precis som kraftigare vapensystem, kanske att skeppet blir svårare att träffa om det skickar ut svärmar av AI-styrda decoys.

Men hur kan man göra för att få AI:n att bli spelmässigt intressant? Att den kanske måste övertalas som i Liftarens Guide? Att den har en egen ond agenda som HAL? Är AI:n en spelledarfigur som spelas likt en överintelligent drake? Kan man skapa särskilda reaktionstabeller? Ska Datorpsykologi vara en färdighet som påverkar reaktionstabellerna?

För AI:n kan inte vara något som bara ger fördelar. Den måste ha svaga punkter och införa ett element av osäkerhet. Och humor.

Hjälp mig spåna snälla ni om ni får några idéer.

 

[2097]

Om du vill ha denna typ av klassisk Pinocchio-AI för att det är coolt, för att det är en SF-trope, för att du gillar det, så ös på bara och gör precis vad du vill. Låt det vara som vilken SLP som helst eller ännu hellre ett helt gäng SLP i en och samma person (US Tara style) och läs inte resten av det här inlägget.



För om du vill ha lite iskallt vatten på paraden så är mitt take snarare att ett bättre namn på AI än "artificiell intelligens" är "avancerad informationsbehandling". En bra AI kan lösa problem såsom vinna Jeopardy, spöa Kasparov, diagnosticera sjukdomar, skriva filmmanus osv. Den kan till och med bli generell och kunna klara många problemdomäner.

Men den är inte och vill inte "bli levande".

Förut var det en utmaning att få datorn att göra 2+2=4 men det gick även om det tog upp hela gympasalen full av radiorör. Sen blev denna typ av enkla algoritmer lätta att ha med i programmen, men det fanns gott om saker (känna igen bilder, röster osv) som var svårt.

Om man ska tänka sig en realistisk men ändå fantastisk SF-AI så tänk så här. Alla problemdomäner som människor kan göra kommer vara enkla. Göra en Mona Lisa? Enkelt. Härma en röst? Enkelt. Spelleda Eon? Enkelt.

Men, det som inte kommer vara enkelt är att vara en människa. Nu säger jag inte att det nödvändigtvis har ett värde, ur ett skinner-perspektiv så är det kanske lite "if it walks like a duck, talks like a duck?then it's good enough". Men det är och förblir algoritmer (kanske algoritmer skapade av andra algoritmer osv osv, frambubblade i nån sorts elektrobiologiskt kvant-plankton).

Källa: Vardagslivet i mitt hem-år 2097

 

[Zire]

Grejen med just en AI är ju lite att den försöker imitera mänsklig intelligens (till skillnad från konventionella program).

Jag tycker att den mest intressanta versionen är att AI:n antingen är ett generellt program (som kan styra lite allt möjligt) eller att den styr någonting roligare än en humaniod robot. Typ ett stridsskepp, ett vapensystem eller liknande. Kommunikationen på hög nivå sker genom tal (eftersom det är så människor är mest vana att kommunicera) och på låg nivå med kod (tangentbort?) eller liknande, men då handlar det snarare om att konfigurera den.

Rimligen så kan man tänka sig att framtida teknologin skulle göra det möjligt att kommunicera med nervsystemet, men det är inte i närheten av lika spelbordskompatibelt som att ge sig in i en verbal diskussion med vapensystemet.

Däremot så ska man nog skapa intressanta/udda profiler för att det ska komma till sin rätt.

Tänk ett deprimerat positioneringssystem, en sarkastiskt railgun, eller bara ett styrsystem med von oben attityd.

 

[2097]

Grejen med just en AI är ju lite att den försöker imitera mänsklig intelligens (till skillnad från konventionella program).

Om du kikar i PAIP och AIMA så kommer det fram att det är lite av en SF-klädsel på AI, det där. AI försöker göra saker som tidigare krävts en människa för att göra, såsom lösa korsord eller vinna jeopardy, men inte nödvändigtvis gå helt Pinocchio. Och när en AI blir dysfunktionell så är det mer på ett AI-mässigt sätt, typ att det kommer lite Goddag Yxskaft-grejer från den, snarare än depression, trotsighet osv (Douglas Adams får förlåta). Kolla Watson-avsnitten i Jeopardy för en representativ bild, eller se den där filmen som en AI skrev (den var inte så dum).

Ja, ja, jag vet. Jag förstör det roliga. (Gav ju iaf ett SF-mässigt tips med min US Tara-bild; att en AI kan vara lika smart som många människor på en gång.) Ska försöka droppa tråden.?

 

[erikt]

Det finns AI och det finns AI.

I princip allting som existerar idag och som kallas för AI är inte "äkta" AI, i betydelsen att det är inte en generell intelligens med självmedvetande. Det är helt enkelt avancerade program för att lösa problem - i vissa fall mycket komplexa problem som att köra bil, eller spela Jeopardy, m.m.

I de allra flesta fall så är sådan "pseudo"-AI exakt vad man vill ha - program som löser specifika problem utan att ha existentiella funderingar eller dåliga dagar.

Någon dag kanske vi lyckas skapa en "äkta" AI, men i så fall är risken stor att den kommer att ha samma fel och brister som vår egen naturliga intelligens - dvs den kan göra fel, och eftersom den är så generell så kan den bli långsam, den kan vilja göra något helt annat än den blir tillsagd att göra, m.m.

Om du nu vill ha "äkta" AI i ditt system, fundera på var och varför man skulle vilja ha det istället för simplare "pseudo"-AI.
När det gäller kontroll av rymdskepp och liknande kan jag så här på rak arm inte komma på en enda anledning till att man skulle vilja ha "äkta" AI där.

 

[Zire]

Fast det bygger ju mycket på det protostadium som AI verkar vara i just nu, begreppet är ju generellt och omfattar alla tänkbara algoritmer som efterliknar mänskliga resonerandet idag och i framtiden. Ska jag vara realistisk så tror jag inte att människor långt in i framtiden kommer att kommunicera så mycket direkt med systemen, för det är ganska dålig användarvänlighet, men då blir AI inte mer än "vapen +4" eftersom den har en effektivare databearbetningsprocess än "vapen +2", eller ännu värre "vapen -13" som låter en människa sikta. Dessutom misstänker jag att begreppet AI i framtiden kommer att bli ganska utdaterat, för det är ganska stor skillnad på om AIn är ett artificiellt neuralt nätverk, evolutionär algoritm, använder bayesisk matris eller ett simpelt min-max träd.

Men för att återgå till "Den måste ha svaga punkter och införa ett element av osäkerhet. Och humor." så tänker jag att det snarare handlar om gränssnittet än AIn bakom (även om användarna kanske inte gör någon skillnad). Och eftersom en begränsning hos avancerade AI:ar idag är att deras förmåga beror på hur de är tränade (beroende av egenskaper i det data de matas med) i stor utsträckning. Så är tanken inte att ett deprimerande styrsystem beror på en bugg, det är en konsekvens (eller avvikelse) från datat det har matats med. Det är helt enkelt AIn.

Edit: Glömde svara på "När det gäller kontroll av rymdskepp och liknande kan jag så här på rak arm inte komma på en enda anledning till att man skulle vilja ha "äkta" AI där."

Jag kommer på en anledning. Om de styr och skjuter bättre.

 

[Sapient]

Jag kommer på en anledning. Om de styr och skjuter bättre.

Vilket är varför de inte kommer att bli som de AI som förekommer i film, litteratur mm. Det ger ingen fördel.

Om vi har en AI kapabel att utföra dessa uppgifter någorlunda optimalt respektive en annan med samma förmåga men dessutom "förmågan" att go bananas, deppa ihop eller ge snarky comments tillbaka - varför skulle vi ta det senare?

Uppenbart skulle det introducera en hel del risker.

Finns det något som säger att ett iota av förmåga ligger och vilar i just de egenskaperna, som inte går att få på något annat sätt? Nej.

Och även om vi skulle komma på att ingen intelligens blir riktigt lika bra på att skjuta prick på minimala föremål i extrema hastigheter, utan att dessutom ägna några microflops åt att fundera över sin egen förgänglighet eller fnissa åt de pubertala skämten i gårdagens visning av "American Pie 451", så skulle vi ändå bara kunna programmera alla våra AI att emulera detta och sen undertrycka det. "Exec Human_Capacity" därefter följt av instruktionen att tömma registret på all output från det. Vi dödar allt onödigt mänskligt junk AI:n "gör", i ögonblicket efter att vi haft vår nytta av det. Alltså har vi en AI som blir lite, lite bättre på att skjuta med som i praktiken aldrig hinner fråga sig "Vad är meningen med alltihop?" och börja skjuta kärnvapen till höger och vänster pga existentiell ångest.

Så - om det är önskvärt i spelet, kör med Pinocchio-AI. Det är coolt, det är en känd trope. Go for it. Men det är igen framtidssimulering så det behövs ingen "svärdpåryggen"-diskussion, bara gör "för att".

 

[2097]

Ja, jag brukar kalla det Pinocchio-AI eller SF-AI istället för "äkta" AI, erikt, men jag fattar vad du menar & håller med.

 

[erikt]

Trots vad jag skrev tidigare så kan det dock finnas anledningar till att sätta in en generell "äkta" AI i et rymdskepp. Inte för att den skulle prestera bättre, utan för att det blir billigare eller bara för att det är coolt alternativt bara för att man kan. (Framtidens ingenjörer och marknadsförare är nog inte mer immuna mot sådant än dagens är.)

Billigare skulle kunna vara att istället för tio olika "pseudo" AI som styr vart och ett av tio olika system, så skulle man kunna en "äkta" AI som styr alla tio system, men där själva hårdvaran för att husera AI:n bara kostar hälften av vad dem separata systemen skulle kosta.
Potentiella nackdelar är ju att även om AI:n kan styra alla del-systemen så har den inte kapacitet att kontrollera alla samtidigt - det hade dragit upp kostnaderna för mycket.
Resultatet kan t.ex. bli att under en rymdstrid eller manöverande genom asteroidfält så går det inte att få en god kopp kaffe från det automatiska köket (som naturligtvis också kontrolleras av AI:n) - det kommer bara att smaka batterisyra.
Räkna med att en sådan AI kommer att gnälla en del över hur överutnyttjad den är.

Man kan också tänka sig en AI som kontrollerar ett rymdskepp bara för att ingenjörerna som skapade AI:n var så exalterade över att de faktiskt kunde göra en så generell AI (utan att någonsin reflektera över om det faktiskt var en bra ide eller inte....). Man kan tänka sig att en sådan AI ständigt påminner folk om hur fantastisk den är, och att man behöver berömma/smickra den då och då för att den skall fungera som den skall. Behöver väl knappast nämnas att den säkert inte är riktigt så bra som den själv (och tillverkarens marknadsföringsavdelning) påstår att den är.

 

[Sapient]

Det finns en variant som definitivt skulle kunna behövas, nämligen en sån AI som är dedikerad till "human interactions" och som tolkar våra vaga, mångtydiga uttrycksformer till kod som de andra, specialiserade AI:na kan tolka snabbare.

I det fallet är det troligt att den skulle behöva kunna emulera en hel del mänskliga quirks, bara för att kunna analysera och hantera dem hos oss.

Därmed inte sagt att det skulle behöva vara nödvändigt att den visade upp dem, att emulerandet av dem var en del i dess egna "drivrutiner". Det skulle mycket väl bara kunna vara en rad simuleringar den kör, som permuterar varje uttalande varje besättningsman gör för att spotta ut en tolkning givet det karaktärsdraget, som sen vägs samman och skapar en tolkningsrymd.

Lite mer konkret: Styrman Alice beordrar "kom till kurs fyra-nolla-nio-femma-femma" - AI:n går igenom potentiella tolkningar, tolkning ett, "humorfilter": ingen känd humoreffekt, tolkning avskriven, tolkning två, "sarkasmfilter", utför motsatsen mot det uttalade, den instruktionen leder till asteroidkollision, tolkning avskriven..."

 

[Rymdhamster]

Men hur kan man göra för att få AI:n att bli spelmässigt intressant? Att den kanske måste övertalas som i Liftarens Guide? Att den har en egen ond agenda som HAL? Är AI:n en spelledarfigur som spelas likt en överintelligent drake? Kan man skapa särskilda reaktionstabeller? Ska Datorpsykologi vara en färdighet som påverkar reaktionstabellerna?

För AI:n kan inte vara något som bara ger fördelar. Den måste ha svaga punkter och införa ett element av osäkerhet. Och humor.

Det förs upp många bra poänger till varför "ingen" (...för kommersielt, utbrett användande) aktivt skulle producera en "riktig" AI med känslor och hela det köret. Det ger helt enkelt en allt för stor osäkerhet, och om du har förmågan att skapa en sådan bör du också kunna skapa en stabilare "pseudo-AI" som bara är ett jäkligt avancerat datorprogram utan att blanda in allt onödigt "mänskligt" bös.

MEN, det finns fortfarande situationer där det kan vara rimligt:

Den första är av olykshändelse. En pseudo-AI som uppnår fullt medvetande av misstag. En "heltheten belv större än summan av delarna"-situation. Här har vi ju exempelvis Skynet som ju egentligen inte skulle ha varit självmedvetet. HAL räknar jag också in här

Spoiler

HAL funkade ju efter vad jag förtstod av filmen alldeles utmärkt tills den beordrades att ljuga för besättningen. Och även då när allt spårade ut så följde ju HAL egentligen bara oemotsägliga order efter bästa förmåga

Men vi har ju också enstaka forskare som gör det "bara för att se om de kan" (även här kan vi ju ha misstagsaspekten inbakad, så att själva skapelsen var oväntad, men att forskaren därefter aktivt "närt" AI:n). Här har vi ju då istället I am Robot som exempel, tillsammans med mycket annat.

Sen kan det ju också vara så att man faktiskt aktivt tagit fram riktiga AIs för att man specifikt vill kunna studera olika effekter på ett medvetet psyke under labratorieförhållanden. Och då kanske också ett medvetande som man vill kunna programera om och ibland rensa ut och nollställa.

Alla dessa tre exempel trode ju vara ganska så sällsynta, men det behöver ju inte vara helt fel. grundpremisen kan ju vara att normalt sett finns bara pseudo-AIs i världen, men just rollpersonernas AI är en av dessa riktiga AI:s som rymt eller på annat sätt sluppit lös.

 

[2097]

Haha ja jag gjorde visst en riktig "lindybeige", alla har vi våra olika områden

 

[zonk]

Jag säger, kolla på Dark Star, Alien, Aliens, Alien 4, fullt av intressanta & underhållande upplägg om AI där!

Spoiler

Dark star - AI som får nippran, som besättningen försöker övertala att inte spåra ur mha filosofi
Alien - ondsint AI som går stor-korporationernas ärenden - både skepps-AIn och androiden
Aliens - android-AI som är rakt igenom sympatisk filmen igenom
Alien 4 - idealistisk android-AI som kämpar stenhårt för det goda

Men annars, släng in en slumptabell för humörsvängningar med åtföljande nackdelar om det passar settingen?

edit: ändrat så det blivit rätt efter RHs svar!

 

[Rymdhamster]

Spoiler

Aliens - android-AI som verkar riktigt sympatisk men som kanske inte är det ändå (slutet med bloddroppen känns iofs något påklistrat, eller

Spoiler

Nu tror jag verkligen du minns fel, men får jättegärna specificera mer vad du menar, för jag minns ingen blodsdroppe i slutet som skulle antyda något. Mig veterligen var Bishop rakt igenom hyvens i Aliens (och början av Alien 3), och att det bara var Rippleys färgade erfarenheter av Ash som fick henne att misstänka honom för allt möjligt.

Däremot dyker det ju upp en nya Bishop i slutet av Alien 3 som kanske eller kanske inte är människa (omdebaterat, men blöder gör han han i vart fall, och inte är det mjölk blandat med havergrynsgröt som kommer ut =)

 

[zonk]

Spoiler

(en massa spoilers)

Ja, så var det ju! Det är bra när man kan förlita sig på forumets ovänner av oordning för att reda ut sånt här, så man slipper ut o söka på internet o annat sånt bök..

 

[olaberg]

Det finns AI och det finns AI.
Om du nu vill ha "äkta" AI i ditt system, fundera på var och varför man skulle vilja ha det istället för simplare "pseudo"-AI.
När det gäller kontroll av rymdskepp och liknande kan jag så här på rak arm inte komma på en enda anledning till att man skulle vilja ha "äkta" AI där.

Som spelledare vill jag ha äkta AI eftersom det möjliggör psykologiskt intressanta och/eller komiska spelsituationer.

In-game-förklaringen kan vara att ett AI med bieffekter ger oerhört stora fördelar. Men att man kanske måste muta det med något för att det ska fungera. Det krävs en superintelligens för att hantera en bazillion decoy drones. En bazillion decoy drones är mycket fördelaktigt i rymdstrid. Men bieffekten är att superintelligensen är självmedveten och vet om att den är en superintelligens och förväntar sig motsvarande vördnad.

 

[olaberg]

En annan in-gameförklaring kan vara denna: Människan har skapat pseudo-AI med evolutionära förmågor. Pseudo-AI har därefter evolverat till quirky-AI alldeles av sig självt, och av överlevnadsskäl (dominansvilja) INFEKTERAT människans pseudo-AI. Vilket inte visar sig förrän det blir en spelmässigt intressant situation.

 

[Cissi]

Litet sidospår. Jag spelar en AI i en SW-kampanj. Loom Droid. Fri droid som talar i tredje person för att hela tiden förstärka att hen är sin egen droid, som är programmerad för tinkering men som vid sidan om bedriver en kamp för att befria alla "förslavade" droider. Det är lite bökigt eftersom ingen droid i den tid vi spelar var fria och hen hela tiden påpekar att "Loomis är sin egen droid" samt hen anser att skeppet gruppen äger tillhör hen då det alltid är hen som lagar och fixar skeppet. Det blir också lite bökigt i möten med imperiets gränspatruller ibland.
"Det är Loomis båt!"
"Shhh"
"Vems är droiden"
"Loomis är sin egen droid och det är Loomis båt, kliv av den köttsäck!"
"Ehm... ett programmeringsfel herr tullare, bry er inte om droiden..."

 

[Wyldstorm]

Hrm... Beror väldigt mycket på setting..

Vill du ha hobbyrealism så:
Strong AI: -människan har inget med det hela att göra, Ai'n är horribelt mycket snabbare, klarar spatialberäkningar ohyggligt mycket bättre, samt den kan ha koll på mycket, MYCKET fler variabler..
Människan kanske kan "bidra" på nåt extremt abstrakt strategimässigt sätt? Typ, "bråka med dom där borta."?
Men hur faen klarade de i settingen intelligensexplosionen?

Fusion, (typ där vi håller på att knata in, tidsmässigt) - Med AR och kanske till & med lite b-cybersinne (tänk piezoplattor mot huden (ja, jag har gjort en arm-socka med såna)) så får man all data förtuggad och får en mycket bättre intuitiv koppling till vad som händer/kommer att hända.

Weak Ai.. Det är väl ändå minimumkraven, kan jag tycka... Till och med bengt solo har en massa såna i bakgrunden.

Vad gäller sci-fi generellt.. Tänk att mer & mer tech blir mer & mer osynlig för användarna, det blir som lysknappen som en gång var ett mirakel, som nu är nåt så självklart.

Tillägg...
Star wars har fått ett par generationer att helt glömma vilka hastigheter det rör sig om...

 

[2097]

Det är lite bökigt eftersom ingen droid i den tid vi spelar var fria

Ja i SW måste det ju finnas det kan jag inte argumentera mot. Låter som en charmig droid. Vilken tidsera spelar ni i?