Etiskt rollspelsmakande och AI-genererade bilder

[krank]

Men det är ett sidospår. Den här tråden handlar om hur vi rollspelsmakare rent praktiskt förhåller oss. Vi har andra trådar för samhällstendenser, tänker jag.

Det känns som att i stort sett alla skapare i tråden är ganska restriktiva, hittills. Det speglar nog min egen magkänsla också. Även om det för mig är frestande att välja en stance där jag tillåts använda AI-bilder fritt så tror jag inte att jag kommer att landa i den.

Min inställning kommer nog att förändras allt eftersom utvecklingen går framåt, men just nu känns det såhär för mig:

• I mina egna produkter, oavsett om de säljs eller läggs ut som gratis-PDF:er, använder jag inga AI-genererade bilder.
• Vid sidan av produkterna – i forumtrådar, på Discord, i klassrummet – fortsätter jag leka med AI-genererade bilder. Någon gång kanske jag använder en för att piffa upp en trådstart som inte handlar om just AI-bilder, men det är så långt jag sträcker mig.
• Jag lägger inga hårda restriktioner på folk jag arbetar åt eller med. Jag kan tänka mig, tills vidare, leverera texter eller göra layout åt företag och personer som använder AI-bilder, om jag i övrigt bedömer dem vara schyssta aktörer.

En sak jag gärna skulle vilja se, och som nog skulle ha potential att förändra saker och ting, vore om det fanns AI-generatorer som enbart var tränade på bilder som upphovspersonerna godtagit att de används. Jag tror det blir svårt att genomföra eftersom det krävs så ofantligt många bilder för att träna upp en AI.

Det här betyder också att min plan om att använda bilder från GAN-nätverk t.ex. Thispersondoesnotexist till mitt kommande Agency också inte längre gäller. Jag får hitta vanliga ansiktes-porträttfoton som släppts med snäll licens istället, eller be folk här på WRNU att bidra med sina nunor.

 

[Gabrielle de Bourg]

Hur ser ni på AI genererat material som arbetats vidare på. Där det används som delmängd, grund eller inspiration för en illustratör.

Det ser jag som en skillnad på, beroende på nivån. Redigera kan ju i praktiken bara betyda lite färgkorrigering. Men om det står för en grund som ett verk som sedan bearbetats tillräckligt för att uppnå den magiska verkshöjden tycker jag absolut det kan funka; där vore det som att utgå från ett foto du redigerat.

 

[krank]

En annan gränsdragningsproblematik förresten: Det finns ju olika sorters AI-nätverk och olika sorters generering.

• Adobe Photoshop har ett par verktyg som är AI-tränade. De har en upscaling-funktion till exempel. Eller Content-Aware Fill, som analyserar bilder och "magiskt" suddar bort saker.
• Det finns andra AI-upscaling-verktyg också, som Topaz Labs Gigapixel AI eller Waifu2x.
• Det finns verktyg som gör om en bild till en annan stil.
• Det finns GAN-nätverk som genererar bilder i princip utan input – thispersondoesnotexist till exempel, och dess kusiner som skapar katter och hästar och grejer.
• Och så har vi de fullödiga "ge mig en bild av den här prompten"-generatorer. Wombo dream, Midjourney, Stable Diffusion etc.

Jag vet inte hur t.ex. @Vitulv tänker här (känn inget krav att svara; du är bara den som tydligast och starkast uttryckt en koherent och i mina ögon rimlig nolltolerans, därav omnämnande), men för min del tänker jag nog instinktivt att gränsen går någonstans kring de där som "gör om till annan stil". Jag har svårt att se speciellt många etiska bekymmer i att kunna skala upp en bild eller att köra content-aware fill.

Men de där "gör till annan stil" måste ju ha övats upp på folks verk, och det man får i slutänden är något man hade behövt en illustratör till. "Rita av personen i det här fotot som mangafigur" känns som helt klart en illustratörs-brief. Medan "gör den här bilden till 8K" eller "sudda bort den här personen i bakgrunden" kanske inte känns som det lika mycket.

Hur tänker ni där, rollspelsmakare som tänker ha nolltolerans eller som är kritiska? Tänker ni låta bli alla AI-verktyg eller bara de som genererar helt nya bilder?

 

[Rickard]

För mig är det för tidigt att uttala sig. Generera bilder tar tid och om man inte kör på en väldigt artistisk stil kommer man få sitta och redigera dem. Bilder som visas upp är säkert (minst) en av trettio bilder och då har personen säkert fått pröva med ett antal prompter.

Tekniken kommer att skifta i framtiden och att vara alltför kategorisk redan nu är för konstigt för mig. Kommer vara nyfiken på vad folk gör med tekniken och kommer antagligen klassa produkter som ser AI-genererade ut som en billigare produkt, men det är väl allt. Riotminds artbook är väl den lägsta formen av produkter i mina ögon. Hade de sålt den som en "story book" med tillhörande bilder för att göra den snyggare hade jag varit mer öppen till den.

Tror hela min ståndpunkt kommer att baseras på vad företagen kommer att göra med tekniken. Jag tror den kommer att föda en ny yrkeskategori.

Jag förstår fortfarande inte vad etik har med saken att göra, särskilt ur en upphovsrättssynpunkt. Moralpolis har ingen mått bra av.

Men jag vet inte. Det har snackats om att AI ska kasta bort hela design-fåran i flera år, så jag är väl mer förberedd på det.

 

[Vitulv]

Moralpolis har ingen mått bra av.

Nej, verkligen inte, och det har jag inte sett någon på det här forumet påstå heller.

Men att göra ett moraliskt ställningstagande är ju inte samma sak som att försöka agera moralpolis.

 

[Genesis]

För mig är det ju ett lite annorlunda beslut än för många andra, då mina vanor kring produktion och konsumtion är annorlunda än de flestas.

På produktionssidan: Alla mina spel är gratis för nedladdning. Många finns också som bok, och den kostar pengar att köpa. Jag får själv inget betalt, dock, utan det är självkostnadspris. Däremot får såklart Lulu betalt.

Jag har aldrig anlitat en illustratör i mitt liv. Alla mina spel hittills använder gratisbilder från unsplash eller liknande, photoshop-bilder gjorda av mig, eller så är de helt utan illustrationer. Jag vill ju generellt ändå inte ha illustrationer i mina spel, eftersom det inte passar stilen jag vill ha. Jag föredrar foton. Kanske kommer det en dag då jag vill ge ut ett spel som ska ha illustrationer, men hittills har det inte hänt.

Jag är på väg att ge ut ett nytt rollspel, och i detta har jag använt AI till två bilder. Den ena är framsidan. Jag hittade ett foto jag gillade på en stad vid foten av ett berg, men bergstoppen doldes i ett moln. Jag använde då DALL-E för att radera dimman och ersätta den med en bergstopp från Himalaya. Det är i mina ögon ingen större skillnad mellan detta och vad jag tidigare gjort, att sätta ihop två bilder i Photoshop. Noll chans att jag hade betalat någon för att göra detta.

Den andra bilden är en illustration. Japp, efter att jag just sagt att jag inte använder illustrationer! Denna är dock helt diegetisk. På en plats i staden finns en affish med reklam för en mässa om religion i det 21:a århundradet. Den har en illustration av en buddha intrasslad i kablar. Den som gjort affishen i spelvärlden har använt en AI för att generera bilden, och placerat den på affishen. Jag visar affischen i spelet. Även här finns noll möjlighet att jag hade använt mig av en illustratör, såklart. Hade jag inte haft DALL-E så hade jag letat upp en gratisbild på nätet (eller skippat bilden).

Så jag har använt AI-bilder i ett spel och någon (Lulu, men inte jag) kommer att tjäna pengar på den produkten när den köps.

På konsumtionsfronten är jag ju också lite annorlunda än de flesta. Jag köper inte särskilt mycket rollspel, och aldrig stora, flådiga projekt som Fria ligans eller Helmgasts. I det fåtal fall jag köper ett rollspel är det oftast direkt från personen som skrivit det, som jag generellt känner, så som till exempel DYD eller franska indiespel. Jag har en personlig relation med personen och tycker antagligen att det är en trevlig prick. Jag kommer inte att avstå från att köpa spelet eller säga upp vänskapen på grund av att hen använt sig av AI. Jag litar på min väns egen moraliska bedömning.

 

[Mekanurg]

Så är det.

Idag.

Testa igen om ett år. Eller varför inte redan till jul?

Jag älskar framtiden -- den är fantastisk. Det ansåg jag redan på 1970-talet. Så, javisst, om några år är bildkvaliteten säkert okay. (Ungefär som med Boston Dynamics robotar, vilka jag följt från deras första stapplande steg.) Mitt ställningstagande baseras alltså på mina kvalitetskrav, inget annat.

 

[Rickard]

Men att göra ett moraliskt ställningstagande är ju inte samma sak som att försöka agera moralpolis.

Jo, när man försöker slänga in någon påhittad moralisk ställning baserat på något som ännu inte finns och sedan går hårt ut och bojkottar.

Det är AI-generade bilder. Det är ingenting som stjäls, det är ingenting som (ännu) förstör. Det enda idag som finns är i era huvuden. Det kommer att vara vilda västern och folk kommer att testa än det ena och än det andra och sedan kommer det att stabilisera sig, ungefär som jag känner att det gjort med Voi och alla andra elsparkcyklar. Kaos och sedan ordning.

Ska man basera sin moral på en framtid vi inte vet ... på en framtid som är påhittad? Känns jättelustigt ... eller snarare olustigt.

Därför avvaktar jag och ser. De jämförelser jag fört fram tidigare har varit positiva, även där min faster fick exempelvis byta yrkesroll.

 

[Quadrante]

Nu som förr som sen, kommer det behövas ett gott redaktörskap. Välja ut och välja bort. Oavsett om det automatiskt genererats eller skapats av en illustratör. Med produkten i fokus (visionen, stilen et.c).

 

[Mogger]

Jo, när man försöker slänga in någon påhittad moralisk ställning baserat på något som ännu inte finns och sedan går hårt ut och bojkottar.

Det är AI-generade bilder. Det är ingenting som stjäls, det är ingenting som (ännu) förstör. Det enda idag som finns är i era huvuden. Det kommer att vara vilda västern och folk kommer att testa än det ena och än det andra och sedan kommer det att stabilisera sig, ungefär som jag känner att det gjort med Voi och alla andra elsparkcyklar. Kaos och sedan ordning.

Ska man basera sin moral på en framtid vi inte vet ... på en framtid som är påhittad? Känns jättelustigt ... eller snarare olustigt.

Därför avvaktar jag och ser. De jämförelser jag fört fram tidigare har varit positiva, även där min faster fick exempelvis byta yrkesroll.

Det är ju inte framtiden vi pratar om. Det är nu. Nu kommer jag inte ersätta våra illustratörer med AI-bilder. Ja, det finns en moral här. Att jag värderar mänsklig kultur framför digital imitation. Inget konstigt alls. Jag köper inte heller möbelkopior eller liknande.

 

[Vitulv]

Jo, när man försöker slänga in någon påhittad moralisk ställning…

Berätta om en moralisk ställning som inte är påhittad.

 

[Rickard]

Det är ju inte framtiden vi pratar om. Det är nu.

Men vi har inte sett konsekvenserna som ni talar om, att illustratörer drivs till fattigdom, att konsten kommer att urvattnas, att ingen människa kommer att vara kreativ längre eller vad nu jag läst för dumheter enbart fyllda av pathos. Om fem år kan vi komma tillbaka och diskutera konsekvenserna av AI-bildgenerering.

Eller så kan du visa mig konsekvenserna av AI-bildgenerering idag. Någon konstnär går ut och ojar sig. OK? Vad mer?

Berätta om en moralisk ställning som inte är påhittad.

OK, så när du börjar med dessa typer av semantiska argument antar jag att du håller med om resten jag skrev.

 

[Rymdhamster]

Nu har jag ju lyxen att vara väldigt långt ifrån att faktiskt publicera något, I vart fall något kommersiellt, så jag kan gott ta mig tiden att avvakta och se vad som händer.

Först och främst vill jag se den legala biten utforskas lite djupare, och att det gärna testas i ett par domstolar. Både när det kommer till eventuellt upprättshovsbrott vad gäller träningen av AI och användandet av etablerade stilar, men också angående ägandet av de genererade bilderna.

Sen är jag inne på samma linje som Ceruleanfive att jag behöver sätta mig in betydligt mer i vad den potentiella etiska problematiken ligger. Här blir det väl extra klurigt eftersom det alltid kommer vara ganska subjektivt.

Först om jag kommer igenom båda de två lagren med intresset i behåll är det dags att börja fundera på om det ens är värt det. För än så länge har jag inte upplevt att AI:n kan ersätta en illustratör när det kommer till rollspel. I vart fall inte de spel jag hoppas på att en gång skapa. Men där kommer ju tiden påverka.

 

[krank]

Därför avvaktar jag och ser.

Fast grejen är ju den att om du inte tänkt sluta skapa rollspelsgrejer medan du väntar på att saker och ting ska lugna ner sig så behöver du ju fatta beslut om de produkter du skapar under tiden. Det går idag att skapa bilder som kan användas i rollspel. Kommer du att använda sådana bilder?

Det är klart, kanske är det så att de projekt du gör nu i mellanperioden kanske inte passar med de typer av bilder en AI kan skapa. Då slipper du ju fatta beslut.


Sedan får jag nog säga att jag tycker att det är mycket intressantare att läsa om vilka beslut du fattar med dina produkter, jämfört med att läsa vad du tycker om huruvida andra borde fatta beslut.

 

[Vitulv]

OK, så när du börjar med dessa typer av semantiska argument antar jag att du håller med om resten jag skrev.

Det är ett av de mest felaktiga antaganden jag någonsin läst, och då är ändå internet förhållandevis mättat av felaktigheter.

 

[Mogger]

Men vi har inte sett konsekvenserna som ni talar om, att illustratörer drivs till fattigdom, att konsten kommer att urvattnas, att ingen människa kommer att vara kreativ längre eller vad nu jag läst för dumheter enbart fyllda av pathos. Om fem år kan vi komma tillbaka och diskutera konsekvenserna av AI-bildgenerering.

Eller så kan du visa mig konsekvenserna av AI-bildgenerering idag. Någon konstnär går ut och ojar sig. OK? Vad mer?

Jag pratar om mitt personliga ställningstagande. Jag gör ingen omvärldsanalys här. Mina egna fria val är i detta fall helt oberoende av framtida konsekvenser. De sker här och nu. Dina analyser, eller frånvaron av analyser, är inget jag baserar mina åsikter på

Jag vet inte vad det är du argumenterar för/emot. Tycker du att jag inte får bilda mig en uppfattning nu, utan måste vänta? Vilken är din poäng?

 

[Vitulv]

Jag pratar om mitt personliga ställningstagande. Jag gör ingen omvärldsanalys här. Mina egna fria val är i detta fall helt oberoende av framtida konsekvenser. De sker här och nu. Dina analyser, eller frånvaron av analyser, är inget jag baserar mina åsikter på

Jag vet inte vad det är du argumenterar för/emot. Tycker du att jag inte får bilda mig en uppfattning nu, utan måste vänta? Vilken är din poäng?

Känner lite samma sak. Vem är egentligen moralpolisen i tråden?

 

[Rickard]

Jag vet inte vad det är du argumenterar för/emot. Tycker du att jag inte får bilda mig en uppfattning nu, utan måste vänta? Vilken är din poäng?

Andra gången nu på kort tid du svarar mig och sedan tillskriver mig åsikter baserat på vad du börjat prata om.

Vi kan väl sluta där.

 

[Rickard]

Sedan får jag nog säga att jag tycker att det är mycket intressantare att läsa om vilka beslut du fattar med dina produkter, jämfört med att läsa vad du tycker om huruvida andra borde fatta beslut.

"För mig är det för tidigt att uttala sig. /.../ Kommer vara nyfiken på vad folk gör med tekniken och kommer antagligen klassa produkter som ser AI-genererade ut som en billigare produkt, /.../ Tror hela min ståndpunkt kommer att baseras på vad företagen kommer att göra med tekniken."

Jag vet inte om jag kommer att använda AI-genererade bilder i tryckta produkter - är jag tidig på tåget kommer jag att göra det, men mest för att jag inte spenderat pengar på sådana projekt annars. Jag har inte släppt någonting nytt på 10 år. Kommer använda AI-genererade bilder i gratis-pdf:er.

 

[Mogger]

Andra gången nu på kort tid du svarar mig och sedan tillskriver mig åsikter baserat på vad du börjat prata om.

Vi kan väl sluta där.

Tips; meningar som slutar med frågetecken är just frågor, inte påståenden. Kan vara bra att ta med sig om du tänker fortsätta läsa skriven text

Ja, slutar gärna här.