Re: Att programmera AI
okej...jag tror inte att man kan tillåta en AI att bli så mäktig som du säger, och programmerarna lär ha spärrat den i sin grundkonstrukt från att göra vissa saker, tex koda om sin egna kärna, då detta gör att man förlorar kontrollen över AI'n och detta är något ingen känar på (utom möjligtvis AI'n)..
Min uppfatting av N2-världen är att AI'er är såpass strikt kontrollerade att de inte får "flyta omkring" (visst minnesbankar och annat trams får juh självklart "flyta omkring"). Att en AI skulle få programmera om sina grunddvalar låter fruktansvärt okontrollerbart om man låter det hända i det vilda och är nog inget någon skulle vilja ge sig på, även om de skulle ge sig på det så skulle Turingpolisen snabbt se till att detta inte sker.
Ja, jag håller med om att det är otroligt svårt att överblicka koden, precis som det är otroligt svårt att överblicka en annan människa. Spärrar läggs in i kärnan och ser till så att utvecklingen/evolutionen av AI'n inte går helt åt hel...
jag kan tänka mig att Turingpolisen ser till att ha folk eller övervakningsprogram (eller AI'er) på plats när nya AI'er skapas för att se till så att korrekta spärrar läggs in.
Jag tror snarare tvärtom vad gäller din sista fundering, angående om man kan förstå en AI på hård och mjukvarunivå.. jag tror det är som människor, att förstå den på hårdvarunivå är enkelt (se hur det fungerar) men att se helheten är som att titta på neuronerna i människans hjärna för att se hur en människa är(eller som datorer, genom att titta på bitarna, se hur ett komplext program är). Att titta på mjukvarunivå är enklare, men säger inte särskilt mkt om AI'n ifråga, då det vore som att beskriva hur en nyfödd bebis fungerar ur detta se hur en personen ifråga är 30 år efteråt.
/Henning
okej...jag tror inte att man kan tillåta en AI att bli så mäktig som du säger, och programmerarna lär ha spärrat den i sin grundkonstrukt från att göra vissa saker, tex koda om sin egna kärna, då detta gör att man förlorar kontrollen över AI'n och detta är något ingen känar på (utom möjligtvis AI'n)..
Min uppfatting av N2-världen är att AI'er är såpass strikt kontrollerade att de inte får "flyta omkring" (visst minnesbankar och annat trams får juh självklart "flyta omkring"). Att en AI skulle få programmera om sina grunddvalar låter fruktansvärt okontrollerbart om man låter det hända i det vilda och är nog inget någon skulle vilja ge sig på, även om de skulle ge sig på det så skulle Turingpolisen snabbt se till att detta inte sker.
Ja, jag håller med om att det är otroligt svårt att överblicka koden, precis som det är otroligt svårt att överblicka en annan människa. Spärrar läggs in i kärnan och ser till så att utvecklingen/evolutionen av AI'n inte går helt åt hel...
jag kan tänka mig att Turingpolisen ser till att ha folk eller övervakningsprogram (eller AI'er) på plats när nya AI'er skapas för att se till så att korrekta spärrar läggs in.
Jag tror snarare tvärtom vad gäller din sista fundering, angående om man kan förstå en AI på hård och mjukvarunivå.. jag tror det är som människor, att förstå den på hårdvarunivå är enkelt (se hur det fungerar) men att se helheten är som att titta på neuronerna i människans hjärna för att se hur en människa är(eller som datorer, genom att titta på bitarna, se hur ett komplext program är). Att titta på mjukvarunivå är enklare, men säger inte särskilt mkt om AI'n ifråga, då det vore som att beskriva hur en nyfödd bebis fungerar ur detta se hur en personen ifråga är 30 år efteråt.
/Henning
</I>