Diskussion om AI-genererade bilder

[Vitulv]

Det här hade varit roligt, om det inte vore så deppigt.

https://twitter.com/i/web/status/1640153100064309250

 

[Rymdhamster]

Så vad är grejen? Bara ännu ett inlägg som hånar en AIbild utan vidare poäng?

Vad är historian bakom bilden?

Annars det som ett rätt vanligt återkommande tema att måla en konstnär medan de målar.

 

[Vitulv]

Så vad är grejen? Bara ännu ett inlägg som hånar en AIbild utan vidare poäng?

Vad är historian bakom bilden?

Annars det som ett rätt vanligt återkommande tema att måla en konstnär medan de målar.

”Grejen” är att uppmärksamma ett beteende kopplat till ai-genererade illustrationer som åtminstone inte jag sett tidigare. Man låtsas inte bara att man är upphovsman till en plagierad bild, utan går till såna längder att man låter ai-generera en bild där det ser ut som att man faktiskt målat plagiatet själv.

I en tråd som handlar om ai-genererade illustrationer känns ett sådant inlägg inte orimligt. Det är en ny form av bedräglighet med direkt koppling till teknologin som diskuteras. Det står dig ju så klart fritt att anmäla det till moderatorerna om du tycker att det inte hör hemma här.

 

[Rymdhamster]

Man låtsas inte bara att man är upphovsman till en plagierad bild, utan går till såna längder att man låter ai-generera en bild där det ser ut som att man faktiskt målat plagiatet själv.

Är det vad personen faktiskt försökt göra då? Jag kunde inte hitta någon länk till den ursprungliga användningen av bilden i ett sånt sammanhang.

Det skulle lika gärna kunna vara den där McKernan som skapat bilden i nån AI-motor enbart för att kunna driva med ett fenomen som kanske inte ens existerar på riktigt.

 

[Vitulv]

Är det vad personen faktiskt försökt göra då? Jag kunde inte hitta någon länk till den ursprungliga användningen av bilden i ett sånt sammanhang.

Det skulle lika gärna kunna vara den där McKernan som skapat bilden i nån AI-motor enbart för att kunna driva med ett fenomen som kanske inte ens existerar på riktigt.

Så kan det så klart vara, och vi får nog vänja oss vid att källkritik kommer bli svårare och svårare vartefter ai-teknologin utvecklas, möjligen till den grad att begreppet blir irrelevant.

 

[Rymdhamster]

Det kommer säkerligen bli allt lättare att förfalska olika former av "bevis". Men grundläggande källkritik kommer alltid vara relevant eftersom många person är lata och tänker väldigt kortsiktigt.

Och oftast är det [alltså förfalskade bevis] tyvärr också helt onödigt. Man kan slänga ur sig totalt ogrundade påståenden, och så länge det är ett ämne folk har starka känslor om kommer det finns gott om folk som gladeligen kommer gilla och dela de påståendena om och om igen eftersom det passar in i deras egen världsbild utan en tillstymmelse av eftertanke eller kritisk granskning.

 

[Magnus Seter]

Så kan det så klart vara, och vi får nog vänja oss vid att källkritik kommer bli svårare och svårare vartefter ai-teknologin utvecklas, möjligen till den grad att begreppet blir irrelevant.

Förhoppningsvis kommer AI att hjälpa oss med källkritik också framöver, så att vi får verktyg för att bedöma om något är hittepå eller inte.

Om inte så blir källkritik sjukt viktigt, men givet nivån på källkritik jag dagligen ser på Internet så är mina förhoppningar om att folk ska tänka kritiskt kring vad de ser på Internet tyvärr låga. Jag tror dock inte att begreppet i sig kommer att bli irrelevant, snarare tvärtom.

 

[Lemur]

Så kan det så klart vara, och vi får nog vänja oss vid att källkritik kommer bli svårare och svårare vartefter ai-teknologin utvecklas, möjligen till den grad att begreppet blir irrelevant.

Jag skulle nog vilja påstå att AI-tekniken kommer göra källkritik mer relevant än någonsin.

 

[Lemur]

Lyssnade på ett riktigt trevligt avsnitt av filosofiska rummet om AI idag. Rekommenderas.

 

[Vitulv]

Förhoppningsvis kommer AI att hjälpa oss med källkritik också framöver, så att vi får verktyg för att bedöma om något är hittepå eller inte.

Om ai är det enda som kan avslöja ai (vilket jag absolut tror kan bli fallet) är vi nog riktigt illa ute, är jag rädd. Och om ai är det enda verktyget som kan upprätthålla källkritiken så är jag av uppfattningen att källkritik som begrepp faktiskt riskerar att bli irrelevant.

 

[Magnus Seter]

Om ai är det enda som kan avslöja ai (vilket jag absolut tror kan bli fallet)

Jag tror inte att så kommer att bli fallet. Det finns mycket andra saker att titta på, som avsändare, sammanhang, stödjande kringinformation och budskap så jag tror i alla fall inte att vi kommer att vara helt utlämnade till AI framöver. Där är det egentligen inte AI:n som skrämmer mig mest utan mobben som går igång på vilken falsk information som helst (och det ser vi ju tyvärr även utan AI-inblandning, även om just de kommer att kunna luras lättare framöver med manipulerad video).

Dock så kommer säkert vissa saker att förändras, till exempel kanske vi skriver uppsatser i en skrivsal igen, på en dator utan Internetkoppling, som jag gjorde när jag var ung. Och så måste vi lära oss att konsumera media och information på ett annat sätt.

Ju mer saker förändras, desto mer blir det som förr, kanske.

 

[Oldtimer]

... kanske vi skriver uppsatser i en skrivsal igen, på en dator utan Internetkoppling, som jag gjorde när jag var ung.

Bah! När jag var ung skrev vi alla uppsatser för hand.

 

[Troberg]

Om ai är det enda som kan avslöja ai (vilket jag absolut tror kan bli fallet) är vi nog riktigt illa ute, är jag rädd. Och om ai är det enda verktyget som kan upprätthålla källkritiken så är jag av uppfattningen att källkritik som begrepp faktiskt riskerar att bli irrelevant.

Fast är inte det lite som att säga "Om bara vetenskapsmän kan avslöja dålig vetenskap på är vi nog riktigt illa ute"? Så fort man hamnar på ett område där expertkompetens behövs så hamnar man i precis samma läge.

Där är det egentligen inte AI:n som skrämmer mig mest utan mobben som går igång på vilken falsk information som helst (och det ser vi ju tyvärr även utan AI-inblandning, även om just de kommer att kunna luras lättare framöver med manipulerad video).

AI skrämmer inte mig, men vad människor kan göra med AI skrämmer mig. Om man har tillgång till all komunikation varje person har (vilket vi vet att staten till stor del har, och snart kommer att ha totalt), så är det en baggis för en AI att lista ut vad du röstar på, din religion, din sexuella läggning, vem du umgås med och så vidare. Politikerna kan snacka hur mycket de vill om goda intentioner, men i slutänden så handlar det om kapacitet. Har de kapaciteten så kommer de att utnyttja den. Det är inte svårt att se hur sådan information kan missbrukas.

 

[Magnus Seter]

AI skrämmer inte mig, men vad människor kan göra med AI skrämmer mig.

Jag tror att jag inte skräms av det AI kan göra som jag kan föreställa mig idag, för just nu verkar det som att AI kan göra samma som vi ändå kan göra med andra verktyg, fast billigare och snabbare. Vi kan redan fejka videos, vi kan cruncha data och lista ut vad folk röstar på med stor sannolikhet, vi kan hyra superbillig arbetskraft att måla bilder eller spela spel istället för oss, och så vidare (jag säger inte att detta är bra grejer, men det är ju grejer vi redan kan göra).

Kapacitet är ju inte samma som AI.

Det som är läskigt är just sånt som jag inte kan föreställa mig att AI kan leda till. Vad det är ... ja, det vet jag inte.

 

[Aesmondih]

Dock så kommer säkert vissa saker att förändras, till exempel kanske vi skriver uppsatser i en skrivsal igen, på en dator utan Internetkoppling, som jag gjorde när jag var ung.

Uppsala Universitet där jag pluggar har helt slutat med hemtentor, det är bara datorer med Safe Exam Browser (dvs ingenting annat funkar när du är i tentan) i skrivsal som gäller nu.

/ Aes

 

[Vitulv]

AI skrämmer inte mig, men vad människor kan göra med AI skrämmer mig.

Fast är inte det lite som att säga ”kärnvapen och kemiska stridsmedel skrämmer inte mig, men vad människor kan göra med de vapnen skrämmer mig”? Jag tycker inte man kan föra en diskussion om teknik utan människan som del av ekvationen. Teknik existerar inte i ett vakuum.

Nej, det är så klart inte ai-teknologin i sig som bekymrar mig. Det är teknologin i händerna på människor som gång efter annan visar sig utnyttja den på hänsynslösa sätt. Drömmen om det demokratiska internet slogs i spillror när just det hände, och istället för det fria nätet fick vi en helt hänsynslös övervakningskapitalism centraliserad till ett gäng megaföretag och diverse regimer. Det finns absolut ingenting som får mig att tro att utvecklingen inom ai kommer få ett särskilt annorlunda utfall.

 

[cogitare]

Om nån skulle ge ut ett spel ni verkligen gillar (säg nya Drakar och Demoner i mitt fall) med bara AI bilder, skulle ni köpa det eller bojkotta pga. att det är oetiskt?

Köpa (även att det är en teoretisk diskussion för jag har inte köpt ett spel på många år). Särskilt om det är någon mindre tillverkare. Men jag är nog osedvanligt okänslig för bilder i spel. Självklart är det trevligt med stämningsfulla och (för spelet och settingen) passande bilder men det fäller inte domen om jag skall köpa eller inte.
För mig spelar det mer roll om vilket spel jag får och kan spela med min grupp. Inte vilka bilder som är i boken jag använder som bas för det spelandet. För mig är en regelbok främst ett uppslagsverk för att slå upp olika saker.

Ärligen bryr jag mig inte så mycket var bilderna kommer ifrån. Och jag säger inte det för att vara taskig mot någon eller för att jag tycker att folk inte skall få betalt för sina grejor eller något sånt. Utan det är bara så att jag inte tänker så mycket på det.

Cog.

 

[soda]

Fast är inte det lite som att säga ”kärnvapen och kemiska stridsmedel skrämmer inte mig, men vad människor kan göra med de vapnen skrämmer mig”?

Nåja, snarare "kärn- och kemiteknik skrämmer inte mig...".

 

[Troberg]

Fast är inte det lite som att säga ”kärnvapen och kemiska stridsmedel skrämmer inte mig, men vad människor kan göra med de vapnen skrämmer mig”? Jag tycker inte man kan föra en diskussion om teknik utan människan som del av ekvationen. Teknik existerar inte i ett vakuum.

Fast med just AI så kan man det. Folk är rädda för att AI ska gå all out Terminator, och ta över. Ain't gonna happen.

 

[Vitulv]

Nåja, snarare "kärn- och kemiteknik skrämmer inte mig...".

Hårklyverier. Min poäng är att de flesta inte är rädda för tekniken i sig, utan hur människor tillämpar den. Det är självklart och ska inte behöva förtydligas.