Diskussion om AI-genererade bilder

[Franz]

Något för NeoTech kanske

Helt klart ett bra koncept för ett scenario!

 

[zo0ok]

Jag har inte pysslat med Stable Diffusion på några månader. Och jag gjorde ett kort försök med ChatGPT en stund emellan.

Idag behövde jag en bild för vårt nästa spelmöte, på ingången till en gammal dvärggruva. Jag letade först på Pinterest, hittade inget jättebra. Så jag startade upp DiffusionBee (min användarvänliga mac-version av Stable Diffusion) och genererade några tiotals usla AI-bilder, varefter jag gick tillbaka och tog något på Pinterest.

Så, min egen erfarenhet är att det här med att generera AI-bilder... det är inte SÅ användbart, det blir inte SÅ bra, eller det är i varje fall inte SÅ lätt att få det SÅ bra. Jag är kanske bara för dålig eller för lat för att skriva prompter.

För övrigt finner jag min Facebook-feed fylld av halvpornografiska AI-deepfakes (efter att jag började följa någon grupp med fantasy-art). Man klickar bort alla en hel dag, så försvinner de någon vecka, och sedan kommer de tillbaka igen.

Än så länge längtar jag bara tillbaka till en värld utan "AI" (det har ju inte mycket med intelligens att göra).

Så, av samma anledning, så tror och hoppas jag att rädslan för AI-konst är lite uppskruvad.

 

[Rickard]

Ett avsnitt av Corridor Crew belyste vad jag anser är styrkan i AI - att snabbare kunna jobba igenom det repetitiva i ens arbete. Jag vet själv hur meningslöst det är att sitta och kladda med kod som bara ska finnas där, istället för att gör den givande programmeringen där man faktiskt fokuserar på funktionaliteten.

Det är ungefär 3 minuter av avsnittet som jag tänker på, till och med 15:30.

 

[Ondsint roBot]

Det har hänt en del på AI-området sen vi tjafsade om AI senast. USA har presenterat regleringar, som bland annat kräver märkning av AI-genererat material och att myndigheter får insyn i AI-företagens data och deras riskanalyser. Ersättning till de som bidrar med träningsdata lyfts också. Man reglerar helt enkelt ett nytt område som har potentiell destruktiv effekt på samhället. EU jobbar med liknande lagar.

Ett annat spår är att skapare kan skydda sina verk med en digital vattenstämpel. Night Shade är en intressant twist, som inte bara gör materialet oanvändbart för en AI, utan förgiftar datan. Den besmittade datan sprider sig tydligen snabbt genom hela träningssystemet och korrumperar all utdata. Efterhand så ger till exempel prompten ”hund” en bild på en katt.

Så en motreaktion är på väg. Men också insikten att vi bara har sett början på vad AI kan göra. Här är en ny intervju med Open AI:s forskningschef:

https://www.technologyreview.com/20...-on-his-hopes-and-fears-for-the-future-of-ai/

Night Shade är det andra försöket att förgifta AI:n. Det första fungerade inte, av samma anledingar som gör det svårt för den här att lyckas. Det kallas "adversial training" och går helt enkelt ut på på att man genererar ett antal bilder med "giftet", och lär AI:n att känna igen dem. Det är just vad AI modellerna att byggda för, vilket gör det svårt för giftmakarna att vinna mer än högst tillfälligt. Det finns andra hinder.

Inga existerande modeller berörs, eftersom attacken sker när man skapar modellen.
Man måste skapa ett gift specifikt för varja modell. Eftersom nya modeller som tränas inte är tillgängliga än så kan det bli ett moment-22 för giftskaparen.
Om man skalar om eller komprimerar bilderna försvinner "giftet". Det är dessvärre vanligt att göra när man tränar modeller.

Personligen tror jag att det blir som när grammofonen slog igenom. Plötsligen kunde man lyssna på musik när som helst utan att betala en musiker (om man redan hade en skiva). En massa halvdana musiker blev arbetslösa. Musiken överlevde. Folk fortsatte att lära sig att spela och sjunga. Radion, spela in på kassett från radion, DJ:s och strömmad musik på internet har inte heller förintat musiken, trots domedagsprofetior varje gång.

Hur många av dagens illustratörer livnär sig på reproduktioner av sina äldre verk på internet? Jag gissar på att det inte är många. Ny konst på fysiska medier av olika slag kommer att ha en marknad även i framtiden. Vissa kommer att tjäna mer än förut, andra mindre. Det kommer att produceras mer konst än någonsin tidigare i mänsklighetens historia. Även de som inte lagt ner sitt liv på att lära sig rita, eller har pengar för att betala en konstnär, kommer att kunna få bilder på vad de vill. Precis som även de som inte kunde spela, eller betala en musiker, plöstligen kunde lyssna på musik när de vill, för ett sekel sen ungerfär.

 

[krank]

Musiken överlevde. Folk fortsatte att lära sig att spela och sjunga. Radion, spela in på kassett från radion, DJ:s och strömmad musik på internet har inte heller förintat musiken, trots domedagsprofetior varje gång.

Kan en större eller lägre andel av mänskligheten försörja sig på musik nu jämfört med innan?

Musiken är kanske inte förintad, men det bryr jag mig heller inte så mycket om.

Även de som inte lagt ner sitt liv på att lära sig rita, eller har pengar för att betala en konstnär, kommer att kunna få bilder på vad de vill. Precis som även de som inte kunde spela, eller betala en musiker, plöstligen kunde lyssna på musik när de vill, för ett sekel sen ungerfär.

Och det kan bara ses som något positivt om man betraktar musik och konst som något som i första hand är till för att passivt konsumeras, snarare än något som skapar välmående och har positiva effekter i övrigt när de utövas.

Idag har vi en situation där det är rätt svårt att överleva som musiker. Visst kan man hobbymusicera, men samhället vi konstruerat innebär att roliga jobb görs av maskiner och tråkiga jobb av människor. Musikerna har svårt att gå runt, skivbolag och musikströmningstjänster tjänar pengar. Men jag antar att det är något, bra, för folk "slipper" lära sig spela musik, "slipper" gå på konsert, och har direkt tillgång till att passivt konsumera hela världens musikbibliotek.

Man kan såklart se den här utvecklingen som ofrånkomlig, självklar. En naturkraft. Jag hörde samma argument om NFT:er och krypto för inte alltför länge sedan.

Poängen med ludditerna är ju att de i rätt hög grad hade rätt.

Men det finns såklart grupper som har intresse av att framställa viss utveckling som ofrånkomlig, självklar. En naturkraft.


(Jag tycker inte att det är något positivt alls att det "kommer att skapas mer [bilder] än tidigare i mänsklighetens historia". Det är nämligen inte kvantiteten som är det viktiga. Att världen svämmar över av bilder, och det blir svårare och svårare att avgöra ifall något är gjort av en människa, är renodlat negativt. Det jag vill se är konst, det vill säga sådant som är skapat av en konstnär. Och nej, det är inte det minsta elitistiskt.)

 

[Ymir]

Ett avsnitt av Corridor Crew belyste vad jag anser är styrkan i AI - att snabbare kunna jobba igenom det repetitiva i ens arbete. Jag vet själv hur meningslöst det är att sitta och kladda med kod som bara ska finnas där, istället för att gör den givande programmeringen där man faktiskt fokuserar på funktionaliteten.

Det är ungefär 3 minuter av avsnittet som jag tänker på, till och med 15:30.

sure, men det innebär fortfarande i förlängningen att färre människor kan göra samma mängd arbete, vilket gör att några måste avskedas. När jag jobbade på Paradox bad jag hela tiden min producent att skaffa oss AI-verktyg för att skippa det astråkiga dokumentationsarbetet, men upptäckte sedan att mina design-kollegor i Stockholm försökte verka för att facket skulle kräva ett förbud mot AI. Och de hade en bra poäng...för nu har jag ju själv fått sparken, och hade in hindsight inte haft något emot att göra lite mer tråkig dokumentation om det gjort att jag kunnat behålla mitt roliga designer-jobb.


Med detta skulle jag dock också vilka påpeka att två saker kan vara sanna samtidigt, vilket ofta tycks glömmas bort i den här debatten. På tidigt 1900-tal fanns det massvis, massvis av fotografistudior i Malmö, och i synnerhet var det en bransch som försörjde många kvinnor. Dessa studior är i princip helt borta idag, men i gengäld har det skett en demokratisering av fotografiet, där alla och deras mamma fått förmågan att ta hyfsat bra bilder. Samtidigt kan allt färre försörja sig på fotografi, och vi blir bombarderade med miljontals bilder om dagen, på gott och ont.

Likadant är det med AI-konst. Jag som inte kan teckna ens ett rakt streck kan tycka det är jättekul att jag äntligen kan få mina hobby-alster snyggt illustrerade, samtidigt som jag kan tycka att vi bör skydda professionella konstnärers jobb. Emellertid är jag mest orolig för nyrekryteringen av tecknare i framtiden - varför lära sig teckna alls, om en AI kan göra det åt en?


Men egentligen fruktar jag att inget av detta spelar någon roll, för tyvärr verkar det som att kapitalisterna har öppnat Pandoras box vad gäller AI och ingen med tillräcklig makt för att stoppa det tar det hotet på allvar, så om 20-30 år kommer mänskligheten kanske vara utplånad och ersatt av AI:erna den har skapat i sin enfald.

 

[Ondsint roBot]

En stor del av min poäng är att vi fortfarande går på konsert. Det är där pengarna finns om du är artist. Och vi går för att vi gillar konserter.

Att det skulle vara en dålig utveckling att vi kan lyssna på musik även vid andra tillfällen än live håller jag personligen inte alls med om.

Fördelningen av pengar i musikbranschen är snedvriden till storföretagens fördel. Det håller jag absolut med om, även om det är ett stickspår i diskussionen.

Vart pengarna kommer att gå i konstbranchen i framtiden har mycket lite med AI-tekniken att göra, och mycket med politiska beslut. Mycket av skrämselpropagandan kring AI kommer från AI-företagen själva. De vill ha lagar som gör det dyrt att starta och driva AI-modeller, så att endast jättelika företag kan ha råd. Elon Musk vill ha en "paus" i utvecklingen av AI. Han har själv ett AI-företag som ligger efter, och blir det en paus har hans företag en chans att komma ikapp.

På samma sätt är det med frågan om hur vi ska försörja oss. Det finns nog många på det här forumet som vill försörja sig på att göra rollspel. Att fördela om samhällets resurser så att fler kan ägna sig åt roliga och utvecklande saker, som konst och musik, samtigt som de allra rikaste inte får råd med sin tredje privatjet är en politisk fråga.

Du har inte alls en unik smak som vill se riktig konst, skapad av människor. Jag har tavlor hemma på väggarna, och kommer att köpa fler om jag hittar något som jag gillar. Jag målar på små plastfigurer för att jag gillar det, och jag kommer att fortsätta även om det dyker upp ett AI-genererat sätt att färglägga dem på. Att se världar man själv hittar på till rollspel har varit nästan ingen förunnat. Nu kan man få bilder på sin värld om man vill (eller låta bli om man inte vill, det är högst frivilligt). Att SL producerar en bild till sitt hemskrivna scenario förlorar ingen konstnär pengar på, eftersom så gott som ingen har råd att betala professionella konstnärer för bilder till kvällens äventyr. Att det skulle vara en rättlighet som endast stenrika har håller jag inte med om.

Att jag inte kan rita har inget att göra med att jag "slipper". I likhet med de flesta har man inte så mycket tid över, och jag har lagt min fritid på annat. En stor del av fritiden i min ungdom gick till "passiv konsumtion" av fantasyromaner av tveksam kvalitet. Jag ångrar ingenting. Nu kan jag generera bilder på fantasyvärldar (av tveksam kvalitet, de hamnar inte på väggen) i alla fall.

@krank Hoppsan. Jag tänkte klicka på "reply", men missade det.

 

[Zimeon]

Även de som inte lagt ner sitt liv på att lära sig rita, eller har pengar för att betala en konstnär, kommer att kunna få bilder på vad de vill. Precis som även de som inte kunde spela, eller betala en musiker, plöstligen kunde lyssna på musik när de vill, för ett sekel sen ungerfär.

Lite tycker jag att parallellen haltar; det är snarare så att läget vi befinner oss i är att de som inte kan spela, eller betala en kompositör, nu kan generera ett musikstycke. Grammofonskivan var inte som AI, den var som en tavla: Man kunde nu 1) avnjuta konstverket utan att skaparen var där, och 2) duplicera skaparens verk. Men något nytt kunde man inte skapa.

Bildkonsten har ju på så vis alltid haft en "grammofonskiva", alltså att den kan avnjutas även när konstnären inte är där. Skillnaden nu är att det inte behövs en konstnär (eller en kompositör) alls.

Och jag är benägen att hålla med Krank; det är nog en ostoppbar utveckling, men frågan är väl om vi verkligen kommer att bli gladare. Vi är som sagt tyvärr ganska bra på att komma på saker som verkar skitbra på kort sikt, men som egentligen inte alls gör livet trevligare för individerna. Dussinteckneriet är ju i stort sett redan ersatt om man inte vill ha 1) en väldigt specifik stil, 2) ett väldigt specifikt motiv och 3) många bilder som ser ungefär likadana ut. Men det är ju bara en tidsfråga innan det är löst det också. Vi har helt enkelt tecknat så mycket att man kan variera det i oändlighet och inte behöva mer.

Jag ser utvecklingen inom konst snarare som att det kommer gå dit drejeri, skomakeri, klädsömnad och snickeri har gått, alltså "Oj, har du snickrat bordet SJÄLV!? Imponerande!"" –"Nej nej, jag anlitade en snickare, men jag behövde ju just EXAKT ett sådant här bord, och det fanns ju inte på IKEA". Alltså, handgjort är fint, men den förkrossande majoriteten av dussinbilder kommer att vara AI-genererade. Vilka svallvågseffekter det kommer att få är mer än jag kan gissa.

 

[Franz]

Det som gör mig lite hoppfull är att jag tycker att det i diskussionen om AI finns en sund framsynthet (hos många) om vilka faror som det kan medföra (den diskussionen finns om AI i stort, men jag håller fokus på bilder här då diskussionen blir för bred annars). Jag tycker ju att sociala medier utgör en lika stor fara som AI och redan har sabbat världen på sätt som vi nog inte riktigt fattat vidden av än. Men det var ingen som kunde förutse det när sociala medier kom.

Min förhoppning gällande AI-konst är att även om den är ostoppbar så finns möjligheter att tack vare att vi den här gången är förutseende finna sätt att använda den som är så lite skadlig som möjligt för så många människor som möjligt. Det är ju en svår diskussion att ha då frågan väcker väldigt starka känslor åt alla håll, men jag tror det är vår bästa chans att göra något förhållandevis bra av något som har kapacitet att leda till något väldigt dåligt.

 

[Lemur]

Att livnära sig på kultur har alltid varit svårt och det var inte bättre förr. Förr kunde endast förmögna människor hänge sig åt meningsfullt konstnärligt skapande medans fattigare målare och musiker fick nöja sig med att bara göra beställningsjobb för dålig ersättning. Att det var kasst förr gör inte automatiskt att AI är en bra grej, men "det var bättre förr" funkar dåligt som faktoid tycker jag.

Kan en större eller lägre andel av mänskligheten försörja sig på musik nu jämfört med innan?

Kanske, kanske inte. Men en stor skillnad nu från tiden innan kassetten (och senare mp3 osv) är att makten till viss del har flyttats från ett fåtal jättestora företag till flera mindre ( även om stora musikbolag fortfarande har mycket makt såklart). När kassetten kom kunde folk enkelt spela in musik hemma och själva distribuera den, tidigare hade de varit beroende av en musikproducent. CD försäljning genererade mer pengar, men pengarna gick i fösta hand till skivbolagen och till ett fåtal jätterika artister. Att inte ha ett skivkontrakt betydde att ingen fick höra din musik.

Dussinteckneriet är ju i stort sett redan ersatt om man inte vill ha 1) en väldigt specifik stil, 2) ett väldigt specifikt motiv och 3) många bilder som ser ungefär likadana ut.

Jag tycker inte att AI går att använda överhuvudtaget för professionellt bruk (även bortsett de etiska och legala problemen). Det är för dåligt helt enkelt. Man kan med viss ansträngning få till något som ser typ ut som det man tänkte sig, men inte exakt. Och nästan alltid är det viktigt att det är just exakt, i professionella sammanhang. Och nu kanske någon säger att "vänta bara, generatorerna kommer att bli bättre och snart kommer du kunna få exakt rätt". Men jag funderar på om det stämmer, tekniken bygger på att skapa ett randomiserat brus och sedan förädla bruset gradvis till en bild. Och jag tror att just det randomiserade bruset är ett problem som är svårt att gå runt utan att helt tänka om hela tekniken från grunden.

Slutligen
Jag är inte orolig för att AI ska förstöra mänsklig kultur. Det är inte för att jag är en "techbro" som älskar Elon Musk (jag avskyr Elon Musk). Det är inte heller för att jag har en blind tilltro till oreglerad kapitalism (jag är ganska vänster politiskt). Det är för att jag har en optimistisk tilltro till människors vilja att fylla sina liv med mening. Att klicka fram en bild med AI känns inte meningsfullt, inte heller att titta på någons frampromptade verk. Det är skillnad att en människa har gjort något med möda, noggrannhet och intention. Vi måste inte springa maraton då det finns bilar som är mycket bättre än oss på förflyttning. Vi måste inte baka surdegsbröd hemma, det är både billigare och snabbare att köpa färdigskivat bröd i butiken. Vi måste inte lära oss sy då det finns billiga kläder på HM. Vi måste inte bestiga berg. Osv osv. Vi gör alla de där grejerna ändå, för att fylla våra liv med mening.

 

[Übereil]

sure, men det innebär fortfarande i förlängningen att färre människor kan göra samma mängd arbete, vilket gör att några måste avskedas.

Bara om vi utgår ifrån att 40-timmarsveckan är huggen i sten. Vi kan, i teorin, dela på arbetet om vi vill också. Det är nog en diskussion som är ofrånkomlig i längden, allt eftersom att mer och mer jobb automatiseras bort.

Übereil

 

[JohanL]

Bara om vi utgår ifrån att 40-timmarsveckan är huggen i sten. Vi kan, i teorin, dela på arbetet om vi vill också. Det är nog en diskussion som är ofrånkomlig i längden, allt eftersom att mer och mer jobb automatiseras bort.

Det här tror jag inte alls på. Det är inte så att det finns en fix mängd jobb som behöver göras och som vi behöver dela på - det är ett av de skadligaste ekonomiska argument som alls existerar. Tvärtom skapas mer behov av fler jobb om många jobbar (av mer än ett skäl), och det är bristen på kompetent arbetskraft som begränsar, inte att det inte ”finns mer jobb”.

Än så länge i världshistorien har teknikutveckling och automatisering aldrig inneburit färre jobb, bara andra jobb och nya krav på kompetenser. Kanske kan detta bli annorlunda med AGI, men dit är vi inte ens nära ännu.

 

[Gurgeh]

MODERERING

Innan det här spårar iväg för långt åt helt fel håll vill jag påminna om att ämnet för tråden är AI-genererade bilder, inte andra saker som kan påverka arbetsmarknaden, eller världen i allmänhet.

Snart är det helg!

 

[Zimeon]

Jag tycker inte att AI går att använda överhuvudtaget för professionellt bruk (även bortsett de etiska och legala problemen). Det är för dåligt helt enkelt. Man kan med viss ansträngning få till något som ser typ ut som det man tänkte sig, men inte exakt. Och nästan alltid är det viktigt att det är just exakt, i professionella sammanhang.

Det stämmer förstås helt. Men i många fall kanske det handlar om "jag vill ha en bild ungefär typ såhär, typ kanske", och i de lägena fungerar ju AI-genererade bilder helt OK. Jag har dock fortfarande problem med att få en AI att generera den sortens bilder som jag skulle vilja ha till ett möjligen tänkt rollspel, men det är ju just för att jag har en mycket specifik sak jag vill uppnå (och kanske för att jag inte har rätt verktyg)

 

[JohanL]

Jag tycker inte att AI går att använda överhuvudtaget för professionellt bruk (även bortsett de etiska och legala problemen).

I mångt och mycket håller jag med, men vi har samtidigt sett att den kan vinna konst- och fototävlingar, att bara lätt manuellt bearbetade AI-bilder används till professionella bokomslag till bestseller-böcker, och så vidare.



Jag tror mer att det är att man inte kan få precis vad man vill - där är den fortfarande undermålig. Historiska dräkter, svärd som inte ser rubbade ut, exakta miljöer, arkitektur, konsekvens mellan flera bilder, den sortens saker - där suger AI hårt fortfarande. Stämningsbilder där det inte är så noga, däremot, eller bokomslag? Inga större problem.

 

[olaberg]

Det finns både bildkonst och ordkonst som skapas med hjälp av slump. Resultaten lika väl som konstnärens utväljande av de bra resultaten bedömts ha verkshöjd. Att processen varit algoritmisk har inte påverkat.

Borde inte AI vara jämförbart?

 

[Franz]

Det finns både bildkonst och ordkonst som skapas med hjälp av slump. Resultaten lika väl som konstnärens utväljande av de bra resultaten bedömts ha verkshöjd. Att processen varit algoritmisk har inte påverkat.

Borde inte AI vara jämförbart?

Detta vad konst är för något är så invecklat och fullt av personliga preferenser att jag tycker det kan vara svårt att diskutera. För mig personligen är det nog inte jämförbart även om jag helt och fullt förstår att jämförelsen görs. Man kan säkert hitta undantagsfall där en konstnär jobbat under premisser där paralleller till en person som gör AI-bilder görs. Å andra sidan skulle jag nog kunna hitta gemensamma nämnare mellan en lagerhållare och en konstnär inom någon viss inriktning också. Vill understryka att detta inte är menat som en diss mot folk som gör AI-bilder. Jag hade ju en, från min sida, intressant diskussion med bland annat @Magnus Seter om att en bättre liknelse är en slags art director. Och det är ju också en trevlig titel

 

[olaberg]

Detta vad konst är för något är så invecklat och fullt av personliga preferenser att jag tycker det kan vara svårt att diskutera.

Tonvikten inom upphovsrätt är väl ändå verkshöjden på resultatet, mer än på hur svårt det var att göra? Även om dessa två är sammanlänkade.

 

[JohanL]

Tonvikten inom upphovsrätt är väl ändå verkshöjden på resultatet, mer än på hur svårt det var att göra? Även om dessa två är sammanlänkade.

Det rimliga känns som att man kommer fram till att man inte behöver några specialregler kring AI och copyright, utan bara kör med verkshöjdsbegreppet här med.

 

[Franz]

Tonvikten inom upphovsrätt är väl ändå verkshöjden på resultatet, mer än på hur svårt det var att göra? Även om dessa två är sammanlänkade.

Förlåt, jag missuppfattade dig. Jag trodde att du pratade om konst i form av vad som ur sociokulturell syn borde räknas som konst. Vad gäller upphovsrätt och juridik vet jag alldeles för lite och törs inte gissa