Är SkyNet äntligen här?

[stenhöna]

Chinese room - Wikipedia

en.wikipedia.org

The Chinese room argument holds that a digital computer executing a program cannot have a "mind", "understanding" or "consciousness",[a] regardless of how intelligently or human-like the program may make the computer behave. The argument was presented by philosopher John Searle in his paper, "Minds, Brains, and Programs", published in Behavioral and Brain Sciences in 1980. Similar arguments were presented by Gottfried Leibniz (1714), Anatoly Dneprov (1961), Lawrence Davis (1974) and Ned Block (1978). Searle's version has been widely discussed in the years since.[1] The centerpiece of Searle's argument is a thought experiment known as the Chinese room.[2]

 

[God45]

Chinese room - Wikipedia

en.wikipedia.org

The Chinese room argument holds that a digital computer executing a program cannot have a "mind", "understanding" or "consciousness",[a] regardless of how intelligently or human-like the program may make the computer behave. The argument was presented by philosopher John Searle in his paper, "Minds, Brains, and Programs", published in Behavioral and Brain Sciences in 1980. Similar arguments were presented by Gottfried Leibniz (1714), Anatoly Dneprov (1961), Lawrence Davis (1974) and Ned Block (1978). Searle's version has been widely discussed in the years since.[1] The centerpiece of Searle's argument is a thought experiment known as the Chinese room.[2]

Jag har aldrig förstått varför jag inte ska anta att andra människor är kinesiska rum också.

 

[stenhöna]

Jag har aldrig förstått varför jag inte ska anta att andra människor är kinesiska rum också.

Spegelneuroner? Eller egentligen bara hypersketicism vs vanlig skepticism.

 

[Bolongo]

Jag har aldrig förstått varför jag inte ska anta att andra människor är kinesiska rum också.

Ja, artikeln noterar ju att tankeexperimentet kan ses som en version av "other minds"-problemet.

 

[EvilSpook]

Ja, artikeln noterar ju att tankeexperimentet kan ses som en version av "other minds"-problemet.

Hur vet man att man inte själv är bara är en Weak AI / Kinesiskt rum?
Man borde ju vara bäst på att lura sig själv?

//EvilSpook

 

[Bolongo]

Hur vet man att man inte själv är bara är en Weak AI / Kinesiskt rum

Tja, "inner theater"-modellen har många problem. Min favorit är att det leder till en infinit regress.

D.v.s. om jag tänker att inuti mitt huvud sitter en liten person, som är mitt egentliga "jag", och sorterar sinnesintryck och skickar kommandon till kroppen.... vad finns då inuti huvudet på den personen? O.s.v.

 

[God45]

Sorcelator - Penny Arcade

Videogaming-related online strip by Mike Krahulik and Jerry Holkins. Includes news and commentary.

www.penny-arcade.com

 

[Man Mountainman]

Jag har aldrig förstått varför jag inte ska anta att andra människor är kinesiska rum också.

Ja, artikeln noterar ju att tankeexperimentet kan ses som en version av "other minds"-problemet.

Det var verkligen inte det som John Searle avsåg med argumentet iaf. Han tog för givet att människor hade det kinesiska rummet saknar.

Man får väl se det så här. Vi människor har onekligen nåt. Frågan Searle ville besvara var ifall det kinesiska rummet (och då per analogi datorer) också har detta nåt, vad det nu är. Argumentet bygger inte på någon särskild teori om vad detta nåt är, så att man skulle kunna ifrågasätta ifall teorin korrekt beskriver människor. Vi har det, närmast per stipulation, och frågan är om datorer har det också.

 

[krank]

Man får väl se det så här. Vi människor har onekligen nåt. Frågan Searle ville besvara var ifall det kinesiska rummet (och då per analogi datorer) också har detta nåt, vad det nu är. Argumentet bygger inte på någon särskild teori om vad detta nåt är, så att man skulle kunna ifrågasätta ifall teorin korrekt beskriver människor. Vi har det, närmast per stipulation, och frågan är om datorer har det också.

Det känns som att det kinesiska rummet är ett ganska dåligt tankeexperiment för att undersöka saken. Jag tänker att om man ska designa ett experiment för att undersöka om datorer har det människor saknar, så måste man först dubbelkolla så att experimentet inte lika gärna kan användas för att visa att människor inte har det.

Det känns helt enkelt, för mig, rätt märkligt att betrakta kinesiska rummet som ett användbart tankeexperiment. Just eftersom det lika gärna kan beskriva människor som maskiner. Jag vet, helt ärligt, inte att mitt medvetande inte är ett kinesiskt rum. Hur skulle jag kunna veta det?

Jag vet inte om det direkt är "onekligt" att vi människor "har nåt". Och det känns som en sak som måste avgöras innan man kan börja designa experiment för att se vilka ting som har "nåt" och vilka som inte har "nåt".

 

[Man Mountainman]

Det känns som att det kinesiska rummet är ett ganska dåligt tankeexperiment för att undersöka saken. Jag tänker att om man ska designa ett experiment för att undersöka om datorer har det människor saknar, så måste man först dubbelkolla så att experimentet inte lika gärna kan användas för att visa att människor inte har det.

Som sagt, "det" (förståelse, intentionalitet) är, per stipulation, det människor har. Så tankeexperimentet kan knappast visa att människor saknar det. Det kan visa att datorer också har det, eller att datorer saknar det, eller misslyckas med att visa något alls, eftersom det är otillräckligt beskrivet.

Min uppfattning är det tredje. Så på det sättet håller jag med dig om att

Det känns helt enkelt, för mig, rätt märkligt att betrakta kinesiska rummet som ett användbart tankeexperiment.

 

[Genesis]

Som sagt, "det" (förståelse, intentionalitet) är, per stipulation, det människor har.

Mjo, fast det finns ju en filosofisk gren som hävdar att människor inte har ett medvetande. Illusionism nånting nånting (intressant video här, dock på franska). Men det är ju svårt att säga om det, heller, går att påvisa.

(Lite förundrad över att den här tråden inte är låst än?)

 

[Beastslayer]

Jag har reagerat på den.

Mest genom att sucka och himla med ögonen, tror jag.

Liksom, nej, det har den inte. Jag fattar inte riktigt om Lemoine tror på det här på riktigt (och antingen har vanföreställningar eller blivit lurad) eller om han medvetet ljuger. Men nä, det verkar inte finnas någon som helst anledning att tro att det här är något annat än bullshit.

Tyvärr.

Och sedan blev vi atombombade

 

[Man Mountainman]

Mjo, fast det finns ju en filosofisk gren som hävdar att människor inte har ett medvetande. Illusionism nånting nånting (intressant video här, dock på franska). Men det är ju svårt att säga om det, heller, går att påvisa.

(Lite förundrad över att den här tråden inte är låst än?)

Det stämmer, men Kinesiska rummet-argumentet handlar inte om medvetande.

 

[Genesis]

Det stämmer, men Kinesiska rummet-argumentet handlar inte om medvetande.

Just det, det har du såklart rätt i. Jag hoppade in lite snabbt där.

 

[Genesis]

Det intressantaste med detta är kanske de sociologiska implikationerna. Oavsett om AI är medveten eller inte så kommer fler och fler människor vilja tro att de är det. Och de kommer att anse sig utkämpa en rättfärdig kamp, eftersom de förläst sig på SF-berättelser där kampen för AI-rättigheter beskrivs som något upplyst och rättmätigt. Det lär kunna bli rätt bisarrt.

Ja, jag såg just en bra video på ämnet (länk, på spanska den här gången ). En poäng Dot CSV gör i videon är att denna AI är explicit designad för att anta och spela en viss roll. Om man säger "Du är planeten Mars" så kan man ställa frågor till den om planeten Mars, och den kommer att svara på de frågorna och tala om sig själv som planeten Mars. Så om man talar om för den att den är en självmedveten AI …

Men ja, det intressanta här är väl att den lyckades övertyga en ingenjör på Google. Det lär nog inte vara den ende som blir övertygad.

 

[Genesis]

Jag antar att Boston Dynaimcs använder rätt mycket ANN för styra motoriken i sina robotar.

I princip noll, eller nära noll, som jag förstått det. Allt är handkodat och ingen träning sker. Om de inte bytt approach nyligen.

 

[Lupus Maximus]

I princip noll, eller nära noll, som jag förstått det. Allt är handkodat och ingen träning sker. Om de inte bytt approach nyligen.

Ah, intressant. Rätt imponerande att handjaga kod för det.

Jag hittade dock att University of Berkeley verkar gå maskinlärningsrutten. https://www.unite.ai/robot-teaches-itself-to-walk-through-reinforcement-learning/

 

[stenhöna]

I princip noll, eller nära noll, som jag förstått det. Allt är handkodat och ingen träning sker. Om de inte bytt approach nyligen.

Pjaaa, har de visuella sensorer används kanske NN eller liknande för att koda bilderna. Mönsterigenkänning är inget man handkodar.

 

[Man Mountainman]

Just det, det har du såklart rätt i. Jag hoppade in lite snabbt där.

Sen känner jag mig tvungen att meddela att jag är extremt skeptisk mot alla teser av typen "X är en illusion", där X är något allmänt begrepp som användes innan filosofer började teoretisera kring dem, som medvetande eller moral eller förnuft eller vad det nu kan vara.

Människor myntade ordet "medvetande" för att de ville fånga en verklighet de såg omkring sig. Det är en uppenbar skillnad mellan mig och, låt säga, en sten. Det är också en uppenbar skillnad mellan mig och en medvetslös person, eller mellan mig nu, i vaket tillstånd, och mig när jag sover. Vi har valt att kalla den skillnaden, den grejen som jag har och de saknar, "medvetande". Och det är svårt att förneka, tycker jag, att den grejen finns.

Sen kan man i ett senare led teoretisera detta något och skapa sig olika föreställningar om vad det är. Och dessa föreställningar kan mycket väl vara illusioner eller missförstånd eller önsketänkande. Men själva den där grejen, den där skillnaden som ordet först myntades för att beteckna, försvinner inte bara för att våra föreställningar om den visar sig vara felaktiga -- det betyder bara att vi måste skaffa oss en bättre teori.

Men det är ett perspektiv.

 

[Lupus Maximus]

Pjaaa, har de visuella sensorer används kanske NN eller liknande för att koda bilderna. Mönsterigenkänning är inget man handkodar.

Jag hade kommenterat motoriken, så jag tolkade svaret just att det var den biten Genesis svarade på och inte hur de kodat övriga delar.