Etiskt rollspelsmakande och AI-genererade bilder

[Genesis]

Jag är på väg att ge ut ett nytt rollspel, och i detta har jag använt AI till två bilder. Den ena är framsidan. Jag hittade ett foto jag gillade på en stad vid foten av ett berg, men bergstoppen doldes i ett moln. Jag använde då DALL-E för att radera dimman och ersätta den med en bergstopp från Himalaya. Det är i mina ögon ingen större skillnad mellan detta och vad jag tidigare gjort, att sätta ihop två bilder i Photoshop. Noll chans att jag hade betalat någon för att göra detta.

Den andra bilden är en illustration. Japp, efter att jag just sagt att jag inte använder illustrationer! Denna är dock helt diegetisk. På en plats i staden finns en affish med reklam för en mässa om religion i det 21:a århundradet. Den har en illustration av en buddha intrasslad i kablar. Den som gjort affishen i spelvärlden har använt en AI för att generera bilden, och placerat den på affishen. Jag visar affischen i spelet. Även här finns noll möjlighet att jag hade använt mig av en illustratör, såklart. Hade jag inte haft DALL-E så hade jag letat upp en gratisbild på nätet (eller skippat bilden).

Så jag har använt AI-bilder i ett spel och någon (Lulu, men inte jag) kommer att tjäna pengar på den produkten när den köps.

Jag är genuint nyfiken på vad folk tycker om dessa exempel, då jag känner att de befinner sig i en intressant gråzon, lite som @krank nämnde med Photoshops AI-funktioner.

I det första fallet är bilden en enkel fotomanipulering. Ta bort dimman på bergstoppen och ersätt med Himalaya.

I det andra fallet är bilden diegetisk. Personen i fiktionen har använt en AI för att generera en bild.

Båda bilderna är inkluderade i ett spel som jag själv inte tjänar pengar på, men som Lulu däremot gör profit på i och med tryckkostnaderna.

Undrar lite vad de mer konservativa i tråden känner om dessa exempel.

 

[Mogger]

Jag är genuint nyfiken på vad folk tycker om dessa exempel, då jag känner att de befinner sig i en intressant gråzon, lite som @krank nämnde med Photoshops AI-funktioner.

I det första fallet är bilden en enkel fotomanipulering. Ta bort dimman på bergstoppen och ersätt med Himalaya.

I det andra fallet är bilden diegetisk. Personen i fiktionen har använt en AI för att generera en bild.

Båda bilderna är inkluderade i ett spel som jag själv inte tjänar pengar på, men som Lulu däremot gör profit på i och med tryckkostnaderna.

Undrar lite vad de mer konservativa i tråden känner om dessa exempel.

Jag lägger ingen värdering i andras användade av tekniken. Tycker det låter som du har genomtänkta och vettiga idéer. I vårt fall rör det sig om ett långsiktigt projekt där vår illustratör är en bärande del. Det skulle ju vara rent förkastligt att nu ändra den (visserligen muntliga) överenskommelsen och ersätta honom med AI-bilder.

Jag är nyfiken på tekniken och kommer leka med den. Men det är allt. Längre fram, I helt andra projekt, är det kanske aktuellt. Men absolut inte nu, och absolut inte så som tekniken funkar idag.

 

[Vitulv]

Undrar lite vad de mer konservativa i tråden känner om dessa exempel.

Det är inte dumma frågor, men innan jag lägger tid på att svara vill jag veta: bryr du dig?

Jag vill absolut inte verka konfrontativ, men jag får av dina tidigare inlägg i ämnet intrycket att du inte bryr dig så jäkla mycket om det här ämnet. Du tycker liksom inte att det ska finnas illustrationer i rollspelsprodukter.

Så för mig som visuell rollspelskreatör undrar jag lite vad ditt engagemang i frågan grundar sig i?

Jag hoppas som sagt att du inte upplever min fråga som konfrontativ eller provokativ. Tolka mig välvilligt, är du snäll. Men berätta om dina motiv.

 

[Lemur]

Vad räknas som kommersiella produkter undrar jag? Jag säljer mina böcker till självkostnadspris och ligger än så länge back ca 15000kr, varav alla omkostnader är arvoden till illustratörer. Är det fortfarande underlag för total bojkott om en eller annan GAN-bild (som sedan kraftigt bearbetats och målats om) slinker med? Var går gränsen? Är det helt svart eller vitt, typ som att man inte kan vara lite nazist?
Många mobiltelefoner har AI i sina kameror som gör att bilderna blir bättre än vad de borde kunna bli givet hårdvaran. Är alla som fotar med mobilkameror automatiskt persona non grata också då?

 

[Genesis]

Det är inte dumma frågor, men innan jag lägger tid på att svara vill jag veta: bryr du dig?

Jag vill absolut inte verka konfrontativ, men jag får av dina tidigare inlägg i ämnet intrycket att du inte bryr dig så jäkla mycket om det här ämnet. Du tycker liksom inte att det ska finnas illustrationer i rollspelsprodukter.

Så för mig som visuell rollspelskreatör undrar jag lite vad ditt engagemang i frågan grundar sig i?

Jag hoppas som sagt att du inte upplever min fråga som konfrontativ eller provokativ. Tolka mig välvilligt, är du snäll. Men berätta om dina motiv.

Absolut en rimlig fråga, och min egen fråga är mer av nyfikenhet. Mina beslut om att använda AI-bilder eller inte kommer som sagt inte att påverka någon illustratör, och heller inte min konsumtion (eftersom jag typ aldrig köper illustrerade rollspel eller andra produkter som illustratörer varit involverade i att skapa). Så frågan är inte ställd från ett perspektiv av ”Jag vill ha vägledning i den här frågan”. Så i den betydelsen bryr jag mig inte. Jag kommer inte att ändra mitt beteende baserat på svar. Däremot är jag genuint intresserad var du och andra känner att ”gränsen går”, så att säga. Jag tycker att det är en intressant debatt. Så på det planet bryr jag mig. Jag är intresserad av att veta.

 

[krank]

Vad räknas som kommersiella produkter undrar jag? Jag säljer mina böcker till självkostnadspris och ligger än så länge back ca 15000kr, varav alla omkostnader är arvoden till illustratörer. Är det fortfarande underlag för total bojkott om en eller annan GAN-bild (som sedan kraftigt bearbetats och målats om) slinker med? Var går gränsen? Är det helt svart eller vitt, typ som att man inte kan vara lite nazist?
Många mobiltelefoner har AI i sina kameror som gör att bilderna blir bättre än vad de borde kunna bli givet hårdvaran. Är alla som fotar med mobilkameror automatiskt persona non grata också då?

Jag kan bara tala för mig själv här, så det här ska inte tas som något slags pekpinne:

När det gäller mina egna produkter betraktar jag alla jag tar betalt för som "kommersiella". Så alla tryckprodukter räknar jag som kommersiella, men däremot inte t.ex. de äventyr som bara finns som PDF. Däremot gör ju jag ingen skarp skiljelinje där i hur jag använder eller inte använder AI-bilder, så mitt svar där kanske inte är så intressant.

Jag klumpar ihop kamerors inbyggda AI-förbättring med de andra exemplen jag gav på verktyg som förbättrar – t.ex. AI-upscalers.

Jag kommer inte att, åtminstone tills vidare, vilja använda bilder som grundar sig på AI-grejer som sedan bearbetats. Men för mig beror det nog på vad vi menar med "bearbetats". Har en illustratör tagit en AI-bild och sedan i princip målat på ett eget verk ovanpå så är det ju ett helt nytt verk. Då har AI-bilden bara fått agera inspirerande förlaga, lite som att man kan måla av ett fotografi. Det krävs fortfarande illustrationsskicklighet.

Men hur många procent är "tillräckligt"? Jag vet inte. Dyker situationen upp att en illustratör jag anlitar gjort en bild som är 30% AI-skapad så får jag ta ställning till det då, tänker jag.

 

[Mogger]

Vad räknas som kommersiella produkter undrar jag? Jag säljer mina böcker till självkostnadspris och ligger än så länge back ca 15000kr, varav alla omkostnader är arvoden till illustratörer. Är det fortfarande underlag för total bojkott om en eller annan GAN-bild (som sedan kraftigt bearbetats och målats om) slinker med? Var går gränsen? Är det helt svart eller vitt, typ som att man inte kan vara lite nazist?
Många mobiltelefoner har AI i sina kameror som gör att bilderna blir bättre än vad de borde kunna bli givet hårdvaran. Är alla som fotar med mobilkameror automatiskt persona non grata också då?

Jag tror inte de flesta av oss förespråkar total bojkott. Jag gör det inte. Jag kommer avgöra från fall till fall.

Jag följer ett instakonto som jag nyligen insåg var AI-bilder. Vet fortfarande inte om jag är imponerad eller förfärad Little bit of both, antar jag.

 

[krank]

Jag vill för övrigt säga att jag är väldigt tacksam för alla som tar sig tiden att svara med sina resonemang i den här tråden. Framför allt de av er som är på den mer s.k. "konservativa" sidan.

Även om jag nu inte skulle bry mig själv så är det ju för mig som inte kan rita alls själv ganska viktigt att ha lite koll på hur resonemangen går hos er andra – Det är ju rätt bra att veta att om jag vill anlita t.ex. @Vitulv till något, att jag nog bör avhålla mig från AI-illustrationer. Därför har jag ju ett direkt, materiellt intresse av att höra hur tankar går kring gränsdragningar och så. Både från makare och från illustratörer.

Jag inser nu att jag helt glömde nämna illustratörerna i trådstarten. För det ber jag om ursäkt! Jag är såklart väldigt intresserad av det rent praktiska och principiella förfarandet hos alla inblandade i de relevanta transaktionerna.

(Sedan är det ju så att jag också både bryr mig själv om att agera etiskt och schysst, och dessutom gärna vill att andra ska tycka att jag beter mig schysst.)

 

[Genesis]

Mitt eget etiska resonemang är väl ungefär såhär:

Jag har full förståelse för att man som illustratör tycker att det här är skitjobbigt och läskigt och suger jävligt mycket. Jag tycker inte att man ska minimera detta och kalla det för "gnäll". Man kan jämföra med sabotörerna och vävstolsförstörande, men grejen är ju att det säkert var skitjobbigt för dem och att deras reaktioner och sabotage var fullt förståeliga. Det fanns säkert många som fick sina liv helt förstörda av den tekniska utvecklingen.

Inget av detta betyder att den tekniska utvecklingen inte är av godo i det långa loppet, för människan i stort. Teknisk utveckling kan vara både bra för mänskligheten och katastrofalt för individen.

Jag tycker att det är toppen om folk kan försörja sig på sin konst, på att göra det de älskar, och hoppas att folk kan fortsätta göra det. Däremot tycker jag inte att det är en rättighet. Jag älskar att plugga språk och en av mina stora stoltheter är min kunskap som polyglott. Jag talar någonstans runt sju till tio språk beroende på definition och har spenderat tusentals timmar på detta. Det är dock inget jag kan försörja mig på, för ingen är beredd att betala mig för att göra det. Samma sak med mina rollspel, egentligen. Det finns folk som är villiga att betala för mina rollspel, och jag har lagt otroligt mycket tid på att bli en duktig rollspelsskapare, men det finns inte tillräcklig efterfrågan för att jag ska kunna försörja mig på det. Illustratörerna har kunnat försörja sig på sin konst för att de varit populära, medan andra konstformer inte funkar att försörja sig på för att de inte är tillräckligt populära. Det är svårt att försörja sig på att skriva poesi på samiska, även om det är en fullt jämförbar konstform med grafiska illustrationer i djup, skönhet och mening.

Det är det som är det fundamentala för mig, och om ingen är beredd att betala folk för att de ska skapa illustrationer så ser jag inte att det finns någon annan utväg än att folk inte kan leva på att skapa illustrationer. Huruvida vi är på väg dit eller inte vet jag inte, men jag ser inte riktigt det som en etisk fråga i förhållande till konsumtion, precis som att jag inte ser det som en etisk fråga att ingen vill betala mig för att jag ska lära mig språk eller skriva spelledarlösa rollspel om vardagsångest. Eller för den delen att se det som oetiskt att konsumera amerikansk kultur, eftersom den tränger ut kultur på andra språk. Om ingen i Sverige konsumerade amerikansk kultur skulle många fler kunna arbeta med svenskspråkig kultur och försörja sig på det.

Jag har full förståelse för att andra ser detta som en etisk grej, och jag har inget problem med att folk kan ha olika åsikter. Jag kan tycka att en människa är vettig även om hen inte håller med mig i olika frågor. Men enda anledningen till att detta blir en etisk fråga är ju för att folk tidigare har kunnat försörja sig på detta, men i framtiden (kanske) inte kan det. Det är ju därför folk lider av det (och det är, återigen, ett verkligt lidande man inte ska minimera).

Däremot finner jag det fullt rimligt att inte konsumera AI-konst för att man inte gillar det. Om upphovspersonen är viktig för ens upplevelse av konst, om det är viktigt att en människa har gjort den där bilden, om man vill bli imponerad av dennes hantverksskicklighet, då är det ju jätterimligt att hålla sig till mänskliga illustratörer och undvika AI-konst. Men då hamnar vi också i ett läge där man är villig att betala illustratörer för detas arbete, för att man tycker att det är värdefullt. Och då är ju illustratörerna (eller i alla fall en del av dem) räddade. Jag själv undviker att konsumera amerikansk kultur och föredrar kultur på andra språk, och en del av detta är också för att jag finner det sorgligt hur många språk författigas och långsamt svälter på grund av den engelskspråkiga dominansen. Tycker att det är jättesorgligt. Men jag ser det inte riktigt som en etisk fråga och undviker inte andra som konsumerar den.

 

[Lemur]

Jag tycker att det är intressant att vilja rädda konsten och kulturen - genom att drakoniskt bojkotta kreatörer och begränsa vilka verktyg de får använda.

 

[Vitulv]

En annan gränsdragningsproblematik förresten: Det finns ju olika sorters AI-nätverk och olika sorters generering.

• Adobe Photoshop har ett par verktyg som är AI-tränade. De har en upscaling-funktion till exempel. Eller Content-Aware Fill, som analyserar bilder och "magiskt" suddar bort saker.
• Det finns andra AI-upscaling-verktyg också, som Topaz Labs Gigapixel AI eller Waifu2x.
• Det finns verktyg som gör om en bild till en annan stil.
• Det finns GAN-nätverk som genererar bilder i princip utan input – thispersondoesnotexist till exempel, och dess kusiner som skapar katter och hästar och grejer.
• Och så har vi de fullödiga "ge mig en bild av den här prompten"-generatorer. Wombo dream, Midjourney, Stable Diffusion etc.

Jag vet inte hur t.ex. @Vitulv tänker här (känn inget krav att svara; du är bara den som tydligast och starkast uttryckt en koherent och i mina ögon rimlig nolltolerans, därav omnämnande), men för min del tänker jag nog instinktivt att gränsen går någonstans kring de där som "gör om till annan stil". Jag har svårt att se speciellt många etiska bekymmer i att kunna skala upp en bild eller att köra content-aware fill.

Men de där "gör till annan stil" måste ju ha övats upp på folks verk, och det man får i slutänden är något man hade behövt en illustratör till. "Rita av personen i det här fotot som mangafigur" känns som helt klart en illustratörs-brief. Medan "gör den här bilden till 8K" eller "sudda bort den här personen i bakgrunden" kanske inte känns som det lika mycket.

Hur tänker ni där, rollspelsmakare som tänker ha nolltolerans eller som är kritiska? Tänker ni låta bli alla AI-verktyg eller bara de som genererar helt nya bilder?

Jag väljer att svara på det här inlägget, och då tror jag att jag också svarar på Genesis frågeställningar (åtminstone i någon mån) och även mer generella frågeställningar om "var gränsen går".

Mitt svar är att det inte finns en gräns. Bara fascister och sith-lorder kan avgöra i någon sorts exakthet vad som är svart eller vitt. Alla vi andra, mer eftertänksamt lagda människor, kommer alltid att agera i gråzoner.

Min egen, högst subjektiva uppfattning, är att kultur är mer värdefullt ju mer skaparen tvingas göra själv. Varje verktyg som används, och ju mer förmåga till massproduktion som tillförs - i förhållande till resultatet (märk väl!) - desto mindre värt är det för mig. Men var gränsen går för vad som är bra och etiskt, och vad som är dåligt och oetiskt är omöjligt att säga. Det är inte ens individuellt, för jag kan inte ens som unik individ bestämma mig för var gränsen går. Absoluta gränser är för jurister och matematiker - inte för skapare.

Inget imponerar på mig som en människa som plockar upp en bit kol och skapar något vackert på en stenhäll. Men det betyder inte att jag inte kan känna djup beundran för en annan konstnär som skapar något oerhört i Photoshop. En av de för mig mest inflytelserika illustratörerna inom den visuella rollspelskulturen på senare är Johan Nohr som använder digitala verktyg.

Personligen, och märk väl: personligen, värdesätter jag den som kan skapa med så få eller primitiva verktyg som möjligt - men jag kan också beundra den som genom övning och kreativitet bemästrar verktyg på ett sätt som höjer sig över "gemene man". Den typen av AI som du beskriver (upscale, content-fill) anser jag vara verktyg, men de tar inte ifrån behovet av att hänge sig och bemästra verktygen.

Men, och jag ska försöka sluta svamla och linda in saker; jag tycker inte att AI (den AI som "skapar" - alltså typ Midjourney eller DALL-E) är ett verktyg. AI är enbart en genväg. Någon på Twitter gjorde en liknelse med att påstå sig ha skapat genom AI är som att påstå att man lagat mat för att man själv valt ingredienserna på en hämtpizza. Att köpa en ny kniv för att förbättra sin matlagning är att skaffa sig ett verktyg, på samma sätt som att köpa nya digitala penslar till Photoshop. Att säga till en AI vad den ska måla är inte att skapa, det är att beställa en pizza.

Så efter flera stycken text i något som är lite för långt för att vara ett bra foruminlägg kan jag fortfarande inte svara på din fråga. Sorry

 

[Vitulv]

Jag tycker att det är intressant att vilja rädda konsten och kulturen - genom att drakoniskt bojkotta kreatörer och begränsa vilka verktyg de får använda.

Tycker du att det är drakoniskt att bojkotta någon som använder vad man själv anser vara oetiska produktionsmetoder?

 

[krank]

Så efter flera stycken text i något som är lite för långt för att vara ett bra foruminlägg kan jag fortfarande inte svara på din fråga. Sorry

Jag tycker att ditt resonemang är intressant – och bättre och mer värdefullt för mig än om du bara hade kommit med ett fast svar. Jag tycker att det verkar som att vi ändå ligger relativt lika varandra i hur vi resonerar, och även i att ingen av oss verkar vara helt redo att dra alla superskarpa linjer i det här läget åtminstone. Det där senare tror jag är bra.

Och jag föredrar långa foruminlägg. Så tack! =)

 

[Lemur]

Tycker du att det är drakoniskt att bojkotta någon som använder vad man själv anser vara oetiska produktionsmetoder?

Ja om man inte kan se att det finns en moralisk gråskala tycker jag det.
Jag tror inte att konsten och kulturen mår bra av att sätta upp förbud för kreatörer.

Konst för mig är kommunikation mellan människor. Hur, och med vilka medel, konsten skaps är inte det intresseranta utan vad det är som sägs. När Andy Warhol ställde ut ett paket såpa på ett stort galleri var det, enligt mig, ett stort postmodernistiskt konstverk. Trots att Andy bara gått och köpt såpan i en butik.

 

[Vitulv]

Jag väljer att svara på det här inlägget, och då tror jag att jag också svarar på Genesis frågeställningar (åtminstone i någon mån) och även mer generella frågeställningar om "var gränsen går".

Mitt svar är att det inte finns en gräns. Bara fascister och sith-lorder kan avgöra i någon sorts exakthet vad som är svart eller vitt. Alla vi andra, mer eftertänksamt lagda människor, kommer alltid att agera i gråzoner.

Min egen, högst subjektiva uppfattning, är att kultur är mer värdefullt ju mer skaparen tvingas göra själv. Varje verktyg som används, och ju mer förmåga till massproduktion som tillförs - i förhållande till resultatet (märk väl!) - desto mindre värt är det för mig. Men var gränsen går för vad som är bra och etiskt, och vad som är dåligt och oetiskt är omöjligt att säga. Det är inte ens individuellt, för jag kan inte ens som unik individ bestämma mig för var gränsen går. Absoluta gränser är för jurister och matematiker - inte för skapare.

Inget imponerar på mig som en människa som plockar upp en bit kol och skapar något vackert på en stenhäll. Men det betyder inte att jag inte kan känna djup beundran för en annan konstnär som skapar något oerhört i Photoshop. En av de för mig mest inflytelserika illustratörerna inom den visuella rollspelskulturen på senare är Johan Nohr som använder digitala verktyg.

Personligen, och märk väl: personligen, värdesätter jag den som kan skapa med så få eller primitiva verktyg som möjligt - men jag kan också beundra den som genom övning och kreativitet bemästrar verktyg på ett sätt som höjer sig över "gemene man". Den typen av AI som du beskriver (upscale, content-fill) anser jag vara verktyg, men de tar inte ifrån behovet av att hänge sig och bemästra verktygen.

Men, och jag ska försöka sluta svamla och linda in saker; jag tycker inte att AI (den AI som "skapar" - alltså typ Midjourney eller DALL-E) är ett verktyg. AI är enbart en genväg. Någon på Twitter gjorde en liknelse med att påstå sig ha skapat genom AI är som att påstå att man lagat mat för att man själv valt ingredienserna på en hämtpizza. Att köpa en ny kniv för att förbättra sin matlagning är att skaffa sig ett verktyg, på samma sätt som att köpa nya digitala penslar till Photoshop. Att säga till en AI vad den ska måla är inte att skapa, det är att beställa en pizza.

Så efter flera stycken text i något som är lite för långt för att vara ett bra foruminlägg kan jag fortfarande inte svara på din fråga. Sorry

Som referens den tweet jag refererade till.

 

[Genesis]

Ja om man inte kan se att det finns en moralisk gråskala tycker jag det.
Jag tror inte att konsten och kulturen mår bra av att sätta upp förbud för kreatörer.

Fast ingen har väl pratat om förbud? Om jag inte missat något. Vitulv har ju bara talat om hur han personligen resonerar om vad han konsumerar och vem han jobbar för och med.

 

[Vitulv]

Ja om man inte kan se att det finns en moralisk gråskala tycker jag det.

Jag anser att det finns en moralisk gråskala. Jag anser att det i princip alltid finns en moralisk gråskala.

Men menar du att man aldrig ska bojkotta eller välja bort något eftersom det alltid finns en moralisk gråskala?

Jag menar fuck, det finns gråskalor i rasism och sån skit, men jag drar ändå en gräns där jag bojkottar kreatörer jag uppfattar som rasistiska.

 

[Gurgeh]

MODERERING

Det är så mycket smånypande att jag gör en generell moderering här: Tänk på att försöka tolka varandra välvilligt, argumentera tydligt för er ståndpunkt istället för att ställa upp en halmgubbe av andras ståndpunkter och gå lös på den.

Och ha en trevlig helg!

 

[JohanL]

Så är det.

Idag.

Testa igen om ett år. Eller varför inte redan till jul?

Säg så här, AI-konst kommer inte att klara av att göra något som funkar till t.ex. Partisan på många år - att göra det historiskt korrekt kommer att kvarstå som ett svårt problem även efter att många andra mer omedelbara har lösts.

För närvarande verkar AI vara bäst på impressioner - stämningsbilder i Fantasy och SF är nog det som funkar bäst. Eftersom nivån än så länge är att de inte förstår hur händer fungerar, är det väldigt långt kvar…

 

[JohanL]

Själv ser jag över huvud taget inga etiska problem så länge man inte avsiktligt försöker kopiera någons konst (och även då är det inte värre än litet dålig stil). Däremot tror jag på svåra praktiska problem i många år, särskilt om ambitionsnivån är professionell.

Och, förstås, sociala problem när de som inte ser några problem utan bara vill ha illustrationer på minimal budget ryker ihop med de som tycker att det här är något alldeles fruktansvärt…