Nekromanti Den försvunna tråden/AI
- Thread starter Krille
- Start date
Krille
Super Moderator
"Håller det är det bra. Håller det inte är det dåligt, men håller det inte är det för sent"
Det beror ju förstås på. Det räcker för mig att hålet korkas igen efter att det upptäcks, men innan skadan sker. Med nuvarande "mänskliga" felrättningssystem så får man ju vara glad om Microsoft ens erkänner att felen finns, och det är snudd på klang och jubel om det kommer upp en hotfix inom två månader. För min del vore det ett stort steg framåt om systemet kunde korka igen hålet av sig själv efter någon sekund.
Komplettera sedan med en vakthund som aktivt försöker hitta hål (även det genetiskt programmerat, så att den kommer på nya sätt att leta sig in), så har du ett rätt praktiskt sätt att hålla ett system rätt praktiskt vattentätt.
Det beror ju förstås på. Det räcker för mig att hålet korkas igen efter att det upptäcks, men innan skadan sker. Med nuvarande "mänskliga" felrättningssystem så får man ju vara glad om Microsoft ens erkänner att felen finns, och det är snudd på klang och jubel om det kommer upp en hotfix inom två månader. För min del vore det ett stort steg framåt om systemet kunde korka igen hålet av sig själv efter någon sekund.
Komplettera sedan med en vakthund som aktivt försöker hitta hål (även det genetiskt programmerat, så att den kommer på nya sätt att leta sig in), så har du ett rätt praktiskt sätt att hålla ett system rätt praktiskt vattentätt.
Det beror ju förstås på. Det räcker för mig att hålet korkas igen efter att det upptäcks, men innan skadan sker. Med nuvarande "mänskliga" felrättningssystem så får man ju vara glad om Microsoft ens erkänner att felen finns, och det är snudd på klang och jubel om det kommer upp en hotfix inom två månader. För min del vore det ett stort steg framåt om systemet kunde korka igen hålet av sig själv efter någon sekund.
Risken är att AIn (som förhoppningsvis är smart) hittar felet först... precis som felen i verkligheten ofta hittas av andra än företaget själva.
Komplettera sedan med en vakthund som aktivt försöker hitta hål (även det genetiskt programmerat, så att den kommer på nya sätt att leta sig in), så har du ett rätt praktiskt sätt att hålla ett system rätt praktiskt vattentätt.
Dilemma: är vakthunden smartare än AIn är det den man skall spärra in. Är den mindre smart finns det en definitiv risk att den misslyckas. Visst kan den ha fördelar (överblick och information) men det är ingalunda vattentätt.
Risken är att AIn (som förhoppningsvis är smart) hittar felet först... precis som felen i verkligheten ofta hittas av andra än företaget själva.
Komplettera sedan med en vakthund som aktivt försöker hitta hål (även det genetiskt programmerat, så att den kommer på nya sätt att leta sig in), så har du ett rätt praktiskt sätt att hålla ett system rätt praktiskt vattentätt.
Dilemma: är vakthunden smartare än AIn är det den man skall spärra in. Är den mindre smart finns det en definitiv risk att den misslyckas. Visst kan den ha fördelar (överblick och information) men det är ingalunda vattentätt.
Krille
Super Moderator
"Dilemma: är vakthunden smartare än AIn är det den man skall spärra in. Är den mindre smart finns det en definitiv risk att den misslyckas. Visst kan den ha fördelar (överblick och information) men det är ingalunda vattentätt."
Att vara smart behöver inte innebära samma sak som att vara självmedveten eller ens farlig. För att vakthunden ska vara farlig så krävs det att den hittar på något som den inte är avsedd att göra. Så det räcker med att vakthunden är snabb, effektiv, genetisk och inriktad på sin enda uppgift, att finna säkerhetshål och rapportera dem till det genetiska och självtätande operativsystemet.
Men visst, helt vattentätt blir det inte. Bara jävligt svårt.
Att vara smart behöver inte innebära samma sak som att vara självmedveten eller ens farlig. För att vakthunden ska vara farlig så krävs det att den hittar på något som den inte är avsedd att göra. Så det räcker med att vakthunden är snabb, effektiv, genetisk och inriktad på sin enda uppgift, att finna säkerhetshål och rapportera dem till det genetiska och självtätande operativsystemet.
Men visst, helt vattentätt blir det inte. Bara jävligt svårt.
Petimeter: det var inte ett konverteringsfel
Ytterligare petimeter. Vi har båda rätt faktiskt. Det grundläggande exekveringsflet som skedde var ett konverteringsfel mellan ett 64-bits tal och ett 16-bits. Men du har också rätt i att man inte korrekt hade ändrat programmet från simuleringsstadie till körsstadie. Typ. Läs mer på http://stwww.weizmann.ac.il/G-CS/BENARI/articles/ariane.pdf.
Du förutsätter dock att all buggsäkring görs av en programmerare som avlusar programmen..
Hitills hade vi ju talat om vad programmerarna kunde göra för att skapa säkra system. Men genom att ta det här exemplet så ville jag just visa att just AI:er kan fixa näst intill buggfria system (och därmed också är ena jäklar på hitta dem, kanske för egen vinning). Den här diskussionen förs dock lite längre upp i den här tråden med Vindhand, och jag tycker den med allt tydlighet pekar på problemet med att försöka skaffa ett buggfritt system.
Jag ser dock att vi trots allt har tämligen lika syn på vad framtidens datavetenskap kan bära med sig. Självhelande program är mycket intressanta skapelser, men de medför inte en slutgiltig lösning (se diskussionen med Vindhand ovan som du själv avslutar).
...fast flygandet sker ju inte i strid med gravitationslagen och man får jobba en hel del för att gå runt den
Ja, då är vi ju inne på vad liknelsen egentligen kan användas till. Som jag ser det är människans lösning på flygproblemet samma sak som en AI:s lösning på att ta sig ut ur ett system. Alla datorer har en hel del "naturlagar", och en AI:s uppgift är inte att bryta dem, utan att gå runt dem. Det görs inom operativsystemets gränser. Visst, du kan definera liknelsen som att en av OS:ets naturlagar är "En AI kan inte kopiera sig ut från sitt system" (om detta går att göra hör ju till en annan diskussion). AI:n tvingas då lyda denna lag, förutsatt att OS:et är tillräckligt skickligt skrivet, men i stället kan den söka andra lösningar som uppnår ungefär samma effekt. Kanske kan den fortfarande ligga kvar på datorn, utan möjlighet att kopiera sig själv, men fortfarande agera fritt ute på nätet, eftersom den maskerar sina handlingar i oskyldiga informationsanrop och pingar ut mot nätet. Det är alltså bara ett exempel på hur man går runt en naturlag, inte ett exempel på vad som faktiskt kan göras (eftersom jag är medveten om att det finns gott om vettiga metoder att hindra maskerad nätverkstrafik...ZoneAlarm här nere till höger är ex. rätt duktig på det).
Det skall bli mycket spännande att se vad framtiden har att komma med (och statistiskt sett kommer jag dessutom att få ett tiotal fler år av framtid än du,
). Frågan vad som gäller i Neotech är upp till varje spelledare, som förhoppningsvis åtminstone blivit inspirerade av den här diskussionen 
Inte sant?
/RipperDoc - nytt försök...over and out
Ytterligare petimeter. Vi har båda rätt faktiskt. Det grundläggande exekveringsflet som skedde var ett konverteringsfel mellan ett 64-bits tal och ett 16-bits. Men du har också rätt i att man inte korrekt hade ändrat programmet från simuleringsstadie till körsstadie. Typ. Läs mer på http://stwww.weizmann.ac.il/G-CS/BENARI/articles/ariane.pdf.
Du förutsätter dock att all buggsäkring görs av en programmerare som avlusar programmen..
Hitills hade vi ju talat om vad programmerarna kunde göra för att skapa säkra system. Men genom att ta det här exemplet så ville jag just visa att just AI:er kan fixa näst intill buggfria system (och därmed också är ena jäklar på hitta dem, kanske för egen vinning). Den här diskussionen förs dock lite längre upp i den här tråden med Vindhand, och jag tycker den med allt tydlighet pekar på problemet med att försöka skaffa ett buggfritt system.
Jag ser dock att vi trots allt har tämligen lika syn på vad framtidens datavetenskap kan bära med sig. Självhelande program är mycket intressanta skapelser, men de medför inte en slutgiltig lösning (se diskussionen med Vindhand ovan som du själv avslutar).
...fast flygandet sker ju inte i strid med gravitationslagen och man får jobba en hel del för att gå runt den
Ja, då är vi ju inne på vad liknelsen egentligen kan användas till. Som jag ser det är människans lösning på flygproblemet samma sak som en AI:s lösning på att ta sig ut ur ett system. Alla datorer har en hel del "naturlagar", och en AI:s uppgift är inte att bryta dem, utan att gå runt dem. Det görs inom operativsystemets gränser. Visst, du kan definera liknelsen som att en av OS:ets naturlagar är "En AI kan inte kopiera sig ut från sitt system" (om detta går att göra hör ju till en annan diskussion). AI:n tvingas då lyda denna lag, förutsatt att OS:et är tillräckligt skickligt skrivet, men i stället kan den söka andra lösningar som uppnår ungefär samma effekt. Kanske kan den fortfarande ligga kvar på datorn, utan möjlighet att kopiera sig själv, men fortfarande agera fritt ute på nätet, eftersom den maskerar sina handlingar i oskyldiga informationsanrop och pingar ut mot nätet. Det är alltså bara ett exempel på hur man går runt en naturlag, inte ett exempel på vad som faktiskt kan göras (eftersom jag är medveten om att det finns gott om vettiga metoder att hindra maskerad nätverkstrafik...ZoneAlarm här nere till höger är ex. rätt duktig på det).
Det skall bli mycket spännande att se vad framtiden har att komma med (och statistiskt sett kommer jag dessutom att få ett tiotal fler år av framtid än du,
). Frågan vad som gäller i Neotech är upp till varje spelledare, som förhoppningsvis åtminstone blivit inspirerade av den här diskussionen Inte sant?/RipperDoc - nytt försök...over and out
