Nekromanti Kan maskiner drömma?

Snow

Swashbuckler
Joined
17 May 2000
Messages
2,617
Location
Klippan
Re: Att programmera AI

<I>Jag tror inte AI:n är så enkelt beskriven...den "flyttar" nog mellan hårdvara ständigt, och när hårdvaran kan stå i serverrum över hela världen så är det svårt att sätta nåt finger på AI:ns hårdvara. En server här, en där, sedan finns det nog förstås en central, där AI:n åtminstone var från början, när den programmerades. </I>

Det beror ju på AI:n. Jag kan inte tänka mig att en standard issue AI sätter igång och ta över alla datorer den hittar. Om den har som mål att kontrollera allt så försöker den ju med det. Om man ger den som delmål att förbättra sig själv kanske den kommer på att "tar jag över den här superdatorn blir jag bättre" vilket hade varit ganska korkat. Man kommer antagligen begränsa AI:n "fy! inte skriva maskinkod utanför denna grinden"

Huruvida en AI kan köra på vilken hårdvara eller om den är specialbyggd för en viss arkitektur, tex MIPS eller INTEL är ju en bra fråga. Den kan alla gånger emulera valfri arkitektur men med performanceproblem. Den har sin egen burk att köra på och den är effektivast där. Den kan accessa andras system men medvetandet finns på den egna burken. Skall den köra något tyngre på någon annas burk blir den upptäckt. Det är dumt.

För övrigt finns det inga projekt som går till så att man sätter en programmerare med en manual över ett språk och ber honom skriva ett program. Om man får fram AI i en eller annan form är risken (eller chansen) stor att den är med och skriver stora system eller tex är med och utför tester på mjukvara (som är jävligt tråkigt, dyrt och opålitligt om människor utför det).

En AI är ett program. Precis som en människa är ett ryggradsdjur.

Snow
Dead, but still walking around
 
G

Guest

Guest
Re: Förstå AI:er

Nej dom kanske inte är så lika människor, då de har växt upp i en annan miljö än vi själva men det finns minst en liket: Båra är intelligenta. Och sedan så är ju AI:sar skapade av människor och för att förstå det skapade måste man först skaparna...

Mvh Ezzy
 
G

Guest

Guest
Re: Gränser

Jaa... men ifall människorna skulle stänga av så många maskiner som möjligt så skulle AI:na inte få så mycket ställen att vara på... och sedan ligger det ju till så att människorna tillstöre delen kontrollera alla vapen...

Mvh Ezzy
 

Krille

Super Moderator
Joined
7 Feb 2000
Messages
29,540
Location
Mölndal, Sverige
Re: Förstå AI:er

"Och sedan så är ju AI:sar skapade av människor och för att förstå det skapade måste man först skaparna..."

Inte så säkert. AIer bör nog vara tämligen dynamiska och självmodifierande för att kunna bli intelligenta. Och en sak man har lärt sig från dynamiska självmodifierande system är att de sällan är begripliga.

Ett exempel var en forskare i AI som kopplade ihop ett antal logikceller med en uppgift: gör åtskillnad på en ton på 1000 Hz och 10.000 Hz. Han skapade lite slumpvisa nät, och lät ett datorprogram välja ut de som liknade resultatet bäst, mutera dem och sedan köra de muterade näten.

Efter några hundra generationer hade nätet börjat fungera så att den gav ut en viss voltstyrka vid en ton, och en annan voltstyrka vid en annan ton. Nånstans omkring 700 generationer hade nätet blivit stabilt.

Vid närmare undersökning visade det sig att det till att börja med inte fanns någon klocka i nätet. En klocka är en sån där grundläggande sak man behöver för att jämföra toner, men det här nätet fungerade ändå med någon skum återkoppling. Vidare var hela nätet på omkring 35 celler. Man kunde ta bort några celler och nätet fungerade fortfarande, men andra celler som inte ens var en del av nätet kunde man inte ta bort. Och viktigast av allt: ingen hade någon aning om hur nätet fungerade. Det borde inte fungera över huvud taget - ett sådant människokonstruerat nät borde ligga på omkring 400 logikceller, inte omkring 30 - men det struntade nätet högaktningsfullt i.

Så var inte så säker på att en AI är begriplig bara för att en människa konstruerat den.

- Krille
<A HREF="http://www.foxtail.nu" target="_new">http://www.foxtail.nu</A>
 
G

Guest

Guest
Re: Förstå AI:er

Nej, det är jag inte... det är däför jag diskuterar...! annars hade jag hoppat över den här diskusionen... men att börja jämför AI med människor verkar för mig rimligt...

Mvh Ezzy
 

Confusion

Veteran
Joined
7 Jun 2000
Messages
182
Re: Att programmera AI

Jag tror inte ripperdoc menade att AI'n tog över andra datorer helt utan vidare när han skrev att den flyttade mellan olika hårdvara samtidigt, utan att det utnyttjade resurser från massa ställen samtidigt och att själva kärnan av AI'n ligger på en central plats.
Jag kan även tänka mig att det är förbjudet att ha en AI som kan flytta sig själv mellan olika platser då detta gör det i stort sett omöjligt att stoppa AI'n om (eller kanske när) skulle löpa amok.
Om man skulle skriva en AI som plockade hårdvara den behövde eller överhuvudtaget skrev en AI som hade som mål att bli bättre skulle man nog ganska snabbt få både Turing-polisen och ett antal megaföretag, som fått sina servrar övertagna av en skenande AI, efter sig.

Sen hur nätet är uppbyggt i N2 är en annan fråga, om det körs ett distribuerat allround-OS typ Mach eller om man fortf står och stampar med inkompabilitet mellan plattformar...

Och vad gäller uppgiften för en AI så kan den vara väldigt olika när det gäller olika AI'er. Många AI'er har nog som uppgift att testa och vara med att utveckla programvara, just som du påpekar, men långt ifrån alla...


>En AI är ett program. Precis som en människa är ett ryggradsdjur.

Beror på hur man definerar Intelligens, AI, människa, ryggradsdjur och program...
Jag kan tänka mig personer som hävdar att en människa också är ett program, och även personer som hävdar att AI'er i vissa fall är ryggradsdjur.

Är en klonad människa en AI?

/Henning
 

Snow

Swashbuckler
Joined
17 May 2000
Messages
2,617
Location
Klippan
Re: Att programmera AI

<I>Jag tror inte ripperdoc menade att AI'n tog över andra datorer helt utan vidare när han skrev att den flyttade mellan olika hårdvara samtidigt, utan att det utnyttjade resurser från massa ställen samtidigt och att själva kärnan av AI'n ligger på en central plats.</I>

Precis som en jäkla massa system idag. Den kan hämta webbsidor, skicka epost, prata bluetooth mm. Stor nytta den har av det. Men det jag tror ripperdock menade är att en AI kan för att undvika en attack som raderar den helt enkelt flyttar sitt medvetande. (Jag kan ju ha fel här.) Detta är duktigt olagligt och bör vara extremt sällsynt.

Speciella miljöer kräver speciella OS. Jag kan inte tänka mig att man vill ha samma OS i telefonen/tv:n som i ett företags labb.

<I>Beror på hur man definerar Intelligens, AI, människa, ryggradsdjur och program...</I>

Jag kan inte definiera varken AI eller intelligens. Men människa är ett ryggradsdjur och en AI måste vara något slags program. Om man definierar ett program som en algoritm som körs i en automat.

Kan du komma med ett antagande för en AI som inte gäller för ett program?

<I>Är en klonad människa en AI?</I>

beror på om den är intelligent :)
Jag kan inte definiera en AI på ett för mig tillfredsställande sätt. Hur vet vi att vi inte är AI:ar hela bunten som krigar, uppfinner hjul och liknande i ledbandet på dansmöss.

Snow
Dead, but still walking around
 

Snow

Swashbuckler
Joined
17 May 2000
Messages
2,617
Location
Klippan
Re: Förstå AI:er

700 generationer låter jäkligt lite. Genetiska algoritmer brukar inte vara snabba precis. Var kan man läsa om detta försök?

Eller var det ett neuralt nätverk? det lät mer som det. Fast träningen fungerar oftast inte alls så.

Snow
Dead, but still walking around
 

Confusion

Veteran
Joined
7 Jun 2000
Messages
182
Re: Att programmera AI

Precis som en jäkla massa system idag. Den kan hämta webbsidor, skicka epost, prata bluetooth mm. Stor nytta den har av det.Men det jag tror ripperdock menade är att en AI kan för att undvika en attack som raderar den helt enkelt flyttar sitt medvetande. (Jag kan ju ha fel här.) Detta är duktigt olagligt och bör vara extremt sällsynt.

Jag ska inte tala åt ripperdoc så det är upp till honom vad han menade, men vi har nu iaf. kommit fram till att AI'er oftast har sin kärna placerad på en fast plats och att distribuerade AI'er med möjlighet att röra sig fritt (typ Wintermute/Neuromancer i boken Neromancer av Gibson) bör vara extremt sällsynta och är i så fall strikt olagliga då det är i stort sätt omöjligt att stoppa den.

Speciella miljöer behöver olika hårdvara och därmed olika OS, skillnaden är väl att t ex Mach är ett microOS som man kan köra det mesta ovanpå... oavsett om du kör ett sådant OS på telefonen eller på en SGI Onyx 3000 så har det samma API och fungerar till synes likadant för användaren.
I neotech förresten har jag känslan att telefon och terminal är ett så det är nog svårt att hitta en telefon som är som en telefon i dagsläget...

Jag kan inte definiera varken AI eller intelligens.

inte jag heller...:)

Men människa är ett ryggradsdjur och en AI måste vara något slags program. Om man definierar ett program som en algoritm som körs i en automat.

Om man definierar ett program som en algoritm som körs i en automat så betyder det att människan är ett program, med kroppen som automat...:)

Kan du komma med ett antagande för en AI som inte gäller för ett program?

nej, men jag har heller inte definierat intelligens och program för mig själv, på något tillfredsställande sätt så vill du disskutera detta får vi gå över till ett mera formellt språk (logo?) så vi vet vad vi pratar om...

Jag kan inte definiera en AI på ett för mig tillfredsställande sätt. Hur vet vi att vi inte är AI:ar hela bunten som krigar, uppfinner hjul och liknande i ledbandet på dansmöss.

Svaret finns nog att hitta på <url>http://www.h2g2.com</url>


/Henning
 

Krille

Super Moderator
Joined
7 Feb 2000
Messages
29,540
Location
Mölndal, Sverige
Re: Förstå AI:er

"700 generationer låter jäkligt lite. Genetiska algoritmer brukar inte vara snabba precis. Var kan man läsa om detta försök? Eller var det ett neuralt nätverk? det lät mer som det. Fast träningen fungerar oftast inte alls så."

Det var något slags mellanting - genetiska algoritmer applicerade på hårdvara - och urval och mutationer skapades av en dator bredvid. Försöket utfördes 1993 av en Adrian Thompson. Sök efter namnet - du borde hitta en del referenser om det.

Jag hade fel på siffrorna på antalet generationer: efter 700 generationer klarade den av den låga tonen och efter 4100 generationer var signalerna stabila.

- Krille
<A HREF="http://www.foxtail.nu" target="_new">http://www.foxtail.nu</A>
 

ripperdoc

Myrmidon
Joined
17 May 2000
Messages
5,399
Location
Tokyo
Re: Gränser

AI:n ser säkert till att folk _inte_ kan stänga av maskinerna...den ser även till att ta kontroll över någon reservgenerator och ta el från den ifall det behövs. Jag tror som Krille att det inte skulle bli några problem för en AI att skydda sig mott människan i Neotechs samhälle.

/RD

<A HREF="http://www.nogo.nu" target="_new">http://www.nogo.nu</A>
 

ripperdoc

Myrmidon
Joined
17 May 2000
Messages
5,399
Location
Tokyo
Re: Gränser

Fast, vad säger att AI:n inte tänker göra samma sak med människan som människan gjorde med AI:n. D.v.s. att AI:n använder människan för sina syften och ger människan livsmål, utan att de ens vet om det. Genom att tänka lite smart behöver man inte ens fippla med nån DNA-kod, bara se till att folk säger rätt saker till varandra. Sedan byggs en illusion upp och människorna är helt i AI:ns händer.

/RipperDoc - kan föreställa mig scenariet

<A HREF="http://www.nogo.nu" target="_new">http://www.nogo.nu</A>
 

ripperdoc

Myrmidon
Joined
17 May 2000
Messages
5,399
Location
Tokyo
Re: Mänskliga livsmål

Jag skulle påstå att det inte alls behöver gruna sig i överlevnadsinstinkten. Saker som ger glädje behöver inte bidra till överlevnaden, bara att den blir mer trevlig.

Och sedan skall jag rätta ett missförstånd som många har: människan kämpar inte för rasens överlevnad, utan för individens överlevnad. Detta gäller all evolution, iaf enligt neodarwinistisk teori. Risken med "rastänkandet" är förstås ex. rasism, men jag menar förstås inte att rasism över huvud taget ens tagits upp här.

/RipperDoc

<A HREF="http://www.nogo.nu" target="_new">http://www.nogo.nu</A>
 

Confusion

Veteran
Joined
7 Jun 2000
Messages
182
Re: Gränser

Jag tror att människan sett till så att AI'n inte får så mkt kontroll att den får tillgång till vad den vill för att skydda sin existens... om inte människan ser till detta ser Turingpolisen till det..

/Henning
 

Confusion

Veteran
Joined
7 Jun 2000
Messages
182
Re: Mänskliga livsmål

Jag vill inte ge mig in i denna diskussion då den är hyffsat luddig och kan pågå hur länge som helst... Dessutom hör den inte hemma här...

och jag vill klargöra att när jag skriver den mänskliga rasen menar jag alla människor (oavsett om de är svarta, vita, blåa, gula, bruna, orange, röda, gröna, regnbågsfärgade eller heter Gunnar)

/Henning
 

ripperdoc

Myrmidon
Joined
17 May 2000
Messages
5,399
Location
Tokyo
Re: Att programmera AI

Vad jag menade, som ni diskuterat så mycket om :), var att en AI inte är så enkel att man kan säga "den är installerad i den foldern" eller "den ligger på den burken". Eftersom en "vanlig" AI som räknar på lönshameten för ett företag har kontakter som sträcker sig till hela nätet, börser, anställdas datorer, banker etc. så finns den lite överallt. Eftersom den är högst dynamisk "flyter" den omkring på sitt "paxade" område i alla dessa datorer. Visst, ofta blir de låsta, de får inte röra sig vart som helst, men den låsningen kan aldrig göras total, och vill AI:n det så kan den antagligen lätt programmera om sig så att teknikerna som övervakar den inte märker något.

AI:er ligger på gränsen till vad som är lagligt; därför finns Turingpolisen. För det andra _är_ äkta AI:er mycket sällsynta. För någon har dragit en gräns, och den går vid människans ungefärliga intelligens. AI:er under det är bara smarta program. Mindre AI:er kanske t.o.m. kan installeras på en vanlig hemterminal, eller cyberdäck. Den kan itne sägas vara självmedveten, ex.

Så, som Krille sade finns det ingen som kan överblicka en AI. De kan inte förstå koden, bara delar av den. Så även om man försöker installera spärrar så går det inte alltid så bra. Men man är aldrig riktigt säker. Kanske är den trevliga företags AI:n som med vacker kvinnoröst presenterar budgeten en ängel på nätet, som har fått folk att starta krig i Sibirien och som äger investmentbolag till miljardbelopp. Till exempel alltså. Därför har ju vissa kört med knepet att installera en mindre intelligent AI att vakta en mer intelligent. VIll påminna om Cerberus och Cassandra i Pandoras Complex.

Sist vill jag säga att jag inte är en expert på varken programmering eller hårdvara; mitt exempel med programmeraren med manual var just ett exempel, och drivet till sin spets till råga på allt. Men jag tror inte man kan förstå en AI: alls på hårdvarunivå, och det är mycket svårt att förstå den på kodnivå.

/RipperDoc

<A HREF="http://www.nogo.nu" target="_new">http://www.nogo.nu</A>
 
Top