AI-"konstens" baksida är redan här

[JohanL]

Sökmotorn genererar ju inte nya bilder utifrån vad den lärt sig från existerande bilder.

Däremot börjar de generera sammanfattning från text, på ett helt identiskt vis.

Av någon anledning verkar ingen bry sig om att klaga på text-AI (på ett principiellt plan), trots att situationen är exakt symmetrisk mot bild-AI - inlärning gentemot ett enormt grundmaterial. Kanske för att det är så uppenbart att ingen kopieras av ChatGPT annat än om man beställer det (och även då är det maximalt sådär än så länge), kanske för att ingen känner att de själva är extra utsatta av det (kanske skulle det vara annorlunda om bara en liten minoritet kunde skriva och ville försvara sin kompetens mot det?).

 

[PhilArt]

Däremot börjar de generera sammanfattning från text, på ett helt identiskt vis.

Av någon anledning verkar ingen bry sig om att klaga på text-AI (på ett principiellt plan), trots att situationen är exakt symmetrisk mot bild-AI - inlärning gentemot ett enormt grundmaterial. Kanske för att det är så uppenbart att ingen kopieras av ChatGPT annat än om man beställer det (och även då är det maximalt sådär än så länge), kanske för att ingen känner att de själva är extra utsatta av det (kanske skulle det vara annorlunda om bara en liten minoritet kunde skriva och ville försvara sin kompetens mot det?).

Det är en jättediskussion inom den akademiska världen om just det bl.a., så du tittar nog bara på fel ställe.

 

[JohanL]

Det är en jättediskussion inom den akademiska världen om just det bl.a., så du tittar nog bara på fel ställe.

Fast det handlar om risken för fusk, vilket är något helt annat.

 

[PhilArt]

Fast det handlar om risken för fusk, vilket är något helt annat.

Inte bara det, även risken för att man kommer bli tvungen att använda en AI-skribent för att hålla uppe publikationstakten, problem med att man förlitar sig på AI för att skriva delar av texter och vem som ansvarar för om det inte stämmer, m.m. Därtill är det ju en diskussion bland journalister och andra som skriver för pengar om t.ex. ChatGPT är ett hot mot journalistiken, inte minst den kritiska granskningen som journalister ju idealt sett ska ägna sig åt.

Men visst, just stilimitation är väl inte lika mycket en fråga som lyfts där, men det är inte så svårt att se att det rör liknande frågor: AI tar ifrån folk arbetsuppgifter/aktiviteter som de tjänar pengar på och tycker är roliga. Således är risken att AI tar ifrån människor kul eftersom kul blir svårare att tjäna pengar på samtidigt som vi lever i ett samhälle där man är beroende av att tjäna pengar. Det är väl inte så konstigt att folk inte vill att en AI tar ifrån dem saker som är kul?

 

[JohanL]

Inte bara det, även risken för att man kommer bli tvungen att använda en AI-skribent för att hålla uppe publikationstakten, problem med att man förlitar sig på AI för att skriva delar av texter och vem som ansvarar för om det inte stämmer, m.m. Därtill är det ju en diskussion bland journalister och andra som skriver för pengar om t.ex. ChatGPT är ett hot mot journalistiken, inte minst den kritiska granskningen som journalister ju idealt sett ska ägna sig åt.

Vi kan ju säga så här - om en AI kan skriva din vetenskapliga artikel, är kraven för lågt ställda till att börja med.

Vilket de antagligen är.

Det den kan ersätta behöver inte finnas.

Hot mot journalistiken köper jag däremot absolut - stora mängder av den texten är på så låg nivå att den rätt enkelt borde kunna bytas ut mot en AI (som antagligen rätt snart kommer att göra färre faktafel). För standardiserade sportresultat har det redan hänt.

 

[PhilArt]

Vi kan ju säga så här - om en AI kan skriva din vetenskapliga artikel, är kraven för lågt ställda till att börja med.

Vilket de antagligen är.

Det den kan ersätta behöver inte finnas.

Om vi pratar om en hel artikel ja, men delar av en artikel, t.ex. state of the art, kan en AI redan göra helt ok. Ge det fem år. Det är därtill ett extremt fördomsfullt uttalande om forskning, eftersom du antar att forskningens kvalitet står i praitet med hur lätt en AI skulle kunna reproducera den. Jag har inte sett något som tyder på att det skulle va fallet. Inte minst som att AIns förmåga att reproducera forskningen kommer bero extremt mycket på vilken typ av data du använder, om den finns tillgänglig digitalt eller om du aktivt måste skapa den exempelvis.

 

[PhilArt]

Vi kan ju säga så här - om en AI kan skriva din vetenskapliga artikel, är kraven för lågt ställda till att börja med.

Vilket de antagligen är.

Det den kan ersätta behöver inte finnas.

Det kan tom va så att det som är svårast att reproducera är dålig forskning eftersom den kommer uppvisa mer av sådana faktorer som AI inte erbjuder, så som bias, felaktigt dragna slutsatser utifrån givna premisser, felaktiga beräkningar, osv. Den bra forskningen strävar ju i regel efter ideal som just logisk stringens, saklighet, korrekthet och tydlighet, sådant som datorer generellt är mycket mer skapade för att erbjuda än poetik, passion osv.

 

[JohanL]

Om vi pratar om en hel artikel ja, men delar av en artikel, t.ex. state of the art, kan en AI redan göra helt ok. Ge det fem år. Det är därtill ett extremt fördomsfullt uttalande om forskning, eftersom du antar att forskningens kvalitet står i praitet med hur lätt en AI skulle kunna reproducera den.

Jag menar snarare att om AIn kan skriva en fullgod artikel, så behöver inte en människa skriva den. I normalfallet gör man ju egen forskning, och inte bara en litteratursammanfattning av vad som finns på nätet - det senare får en AI gärna göra vad mig anbelangar om den fixar det med fullgod kvalitet, och om man låter det stå för kanske en del av en artikel så känns det helt OK för mig också.

Alltså, om AI:n kan göra en fullgod artikel på något, borde mänskliga forskare syssla med sådant den inte kan göra. Annars gör man ju saker helt i onödan vad gäller kunskapsproduktion.

 

[JohanL]

Det kan tom va så att det som är svårast att reproducera är dålig forskning eftersom den kommer uppvisa mer av sådana faktorer som AI inte erbjuder, så som bias, felaktigt dragna slutsatser utifrån givna premisser, felaktiga beräkningar, osv. Den bra forskningen strävar ju i regel efter ideal som just logisk stringens, saklighet, korrekthet och tydlighet, sådant som datorer generellt är mycket mer skapade för att erbjuda än poetik, passion osv.

Bättre och bättre!

I nuläget känns det som ett allvarligt problem att ChatGPT självt ljuger friskt och ohämmat, dock.

 

[PhilArt]

Jag menar snarare att om AIn kan skriva en fullgod artikel, så behöver inte en människa skriva den. I normalfallet gör man ju egen forskning, och inte bara en litteratursammanfattning av vad som finns på nätet - det senare får en AI gärna göra vad mig anbelangar om den fixar det med fullgod kvalitet, och om man låter det stå för kanske en del av en artikel så känns det helt OK för mig också.

Alltså, om AI:n kan göra en fullgod artikel på något, borde mänskliga forskare syssla med sådant den inte kan göra. Annars gör man ju saker helt i onödan vad gäller kunskapsproduktion.

1. Fast det här resonemanget missar avgörande faktorer i sammanhanget. Först, "om AIn kan skriva en fullgod artikel, så behöver inte en människa skriva den" kan ju vara rätt i sak men samtidigt kan konsekvensen av det bara blir att människan måste ägna sig åt något tråkigare än att skriva artikeln för att tjäna sitt levebröd. Det är en förlust men inte kan ignorera.

2. "I normalfallet gör man ju egen forskning, och inte bara en litteratursammanfattning av vad som finns på nätet" Du missar att det finns massor av data på nätet som inte är existerande forskning, t.ex. användardata, dataset från stora organisationer (FN, Världsbanken), osv. Därtill bygger den mesta teoriutveckling på att man grundar sig på existerande studier och använder dem för att kritisera eller verifiera olika teoretiska modeller eller resonemang. Extremfallen är väl teoretisk matematik och filosofi, där beräkningar så väl som argument och logiska slutledningar inte kräver någon insamling av data i köttrymden.

 

[JohanL]

1. Fast det här resonemanget missar avgörande faktorer i sammanhanget. Först, "om AIn kan skriva en fullgod artikel, så behöver inte en människa skriva den" kan ju vara rätt i sak men samtidigt kan konsekvensen av det bara blir att människan måste ägna sig åt något tråkigare än att skriva artikeln för att tjäna sitt levebröd. Det är en förlust men inte kan ignorera.

Fast då är det ju bara make-work för en människa, och omöjligt att motivera ekonomiskt. Visst, det kan vara tråkigt för den personen, på samma vis som det kan vara tråkigt att förlora sitt jobb till annan automatisering, men det kan ju inte vara ett argument? Men det är lååångt kvar till att en AI kan göra all sådan forskning.

2. "I normalfallet gör man ju egen forskning, och inte bara en litteratursammanfattning av vad som finns på nätet" Du missar att det finns massor av data på nätet som inte är existerande forskning, t.ex. användardata, dataset från stora organisationer (FN, Världsbanken), osv. Därtill bygger den mesta teoriutveckling på att man grundar sig på existerande studier och använder dem för att kritisera eller verifiera olika teoretiska modeller eller resonemang. Extremfallen är väl teoretisk matematik och filosofi, där beräkningar så väl som argument och logiska slutledningar inte kräver någon insamling av data i köttrymden.

Just det där är ju en av de mest lovande sakerna med AI, dessutom - att hitta mönster i stora datamängder som är bortom vad vi kan göra som människor. Jämför resultatet nyligen att en AI med rimlig konfidens kan avgöra kön från foton på iris, något vi inte trodde var möjligt och inte vet hur den lyckas med. Men det skedde inte av sig självt, utan genom att folk skapade hypotesen, satte upp testet, och så vidare.

 

[Genesis]

Det har ju redan inträffat att en AI har producerat ny kunskap som inte tidigare kunnat framställas av människor, i det matematiska området matrismultiplikation. Med hjälp av människor, såklart. Men det är en intressant parallell till bilderna. Forskning som använder sig av en AI kan producera bättre resultat snabbare. Man kan ju också tänka sig att man kan använda AI för att hjälpa till med faktakoll och liknande, samt att hjälpa till med skrivandet av artikeln. Jag gissar nog också att artikelskrivandet kanske inte tillhör de flesta forskares favoritdel. Men det kan såklart ställa till med problem där också.

På samma sätt kan AI hjälpa konstnärer att framställa bättre bilder snabbare, och bilder och framförallt filmer som aldrig skulle kunna göras utan AI. Men det kan också ställa till med en del problem och få jobbiga konsekvenser. Jag r på det stora hela positiv, men tror såklart inte att utvecklingen kommer att ske helt utan negativa konsekvenser. Som alla förändringar finns det bra och dåliga sidor, och det är ju bra om folk försöker att maximera de bra och minimera de dåliga.

 

[JohanL]

Jag gissar nog också att artikelskrivandet kanske inte tillhör de flesta forskares favoritdel. Men det kan såklart ställa till med problem där också.

Det är ett välkänt problem inom arkeologin att arkeologer tycker om att gräva, och att titta på de intressanta sakerna, men avskyr att skriva rutinrapporterna så mycket att det ofta inte blir gjort ordentligt. Kanonjobb för AI!

 

[PhilArt]

Fast då är det ju bara make-work för en människa, och omöjligt att motivera ekonomiskt. Visst, det kan vara tråkigt för den personen, på samma vis som det kan vara tråkigt att förlora sitt jobb till annan automatisering, men det kan ju inte vara ett argument? Men det är lååångt kvar till att en AI kan göra all sådan forskning.
vidare.

Fast poängen är att vissa arbeten har andra värden för de som utför dem än de ekonomiska. Ekonomi är ju ett verktyg för att skapa ett bra samhälle, inte ett mål i sig. Det jag (med en dåres envishet) försöker få fram är att de arbeten som ger minst till de som utför dem är de vi i första hand ska automatisera så att så många som möjligt kan få en lön för att göra något de tycker är kul att göra. Om vi inte ska byta ekonomiskt system borde det va den bästa vägen till att skapa ett så bra samhälle som möjligt. Vissa arbeten bör alltså inte automatiseras så länge vi fördelar resurser med hjälp av löner eftersom de är så pass roliga för de som utför dem att de annars skulle tvingas ha det tråkigare, samtidigt som automatiseringen inge löser några stora problem som finns med det icke-automatiserade arbetet.

Just det där är ju en av de mest lovande sakerna med AI, dessutom - att hitta mönster i stora datamängder som är bortom vad vi kan göra som människor. Jämför resultatet nyligen att en AI med rimlig konfidens kan avgöra kön från foton på iris, något vi inte trodde var möjligt och inte vet hur den lyckas med. Men det skedde inte av sig självt, utan genom att folk skapade hypotesen, satte upp testet, och så vidare.

Fast du missar poängen igen, poängen är att du då kan tvinga forskare att lämna ifrån sig roliga analytiska arbetsuppgifter till en AI bara för att AIn gör det effektivare, inte för det i slutändan gör något bättre på det stora hela - men det ger utrymme att ställa högre krav på output från forskare istället - för att man kan (vad gäller nya innovationer är det inte analysprocesserna som är flaskhalsen, det ligger i tillstånd, implementering, marknadsföring och industriell skalning, så ur någon sorts snabbare teknikutvecklinggsynpunkt är det meningslöst att effektivisera de analysprocesser vi talar om).

 

[PhilArt]

Det är ett välkänt problem inom arkeologin att arkeologer tycker om att gräva, och att titta på de intressanta sakerna, men avskyr att skriva rutinrapporterna så mycket att det ofta inte blir gjort ordentligt. Kanonjobb för AI!

Risken är dock att det bara leder till att man anställer färre arkeologer, inte att det underlättar arbetet för samma mängd arkeologer som idag. Det är så det brukar sluta när man för in olika effektiviseringar av arbeten som folk uppskattar att utföra utöver att de får betalt och social status.

 

[JohanL]

Fast poängen är att vissa arbeten har andra värden för de som utför dem än de ekonomiska. Ekonomi är ju ett verktyg för att skapa ett bra samhälle, inte ett mål i sig. Det jag (med en dåres envishet) försöker få fram är att de arbeten som ger minst till de som utför dem är de vi i första hand ska automatisera så att så många som möjligt kan få en lön för att göra något de tycker är kul att göra. Om vi inte ska byta ekonomiskt system borde det va den bästa vägen till att skapa ett så bra samhälle som möjligt. Vissa arbeten bör alltså inte automatiseras så länge vi fördelar resurser med hjälp av löner eftersom de är så pass roliga för de som utför dem att de annars skulle tvingas ha det tråkigare, samtidigt som automatiseringen inge löser några stora problem som finns med det icke-automatiserade arbetet.

Jag tycker inte att det är försvarligt att använda mina skattemedel till att forskare ska få ha kul - ska de gå till forskning (vilket de gärna får) är det för att producera värdefulla resultat, och kan man då göra det på effektivare vis...

Troligtvis tycker aktieägare samma sak inom sina företag.

(Men nu tror jag som sagt inte att all forskning kan ersättas på det viset inom överskådlig framtid, även om vissa delar kanske kan det. AI är och förblir ett verktyg, inte en universallösning.)

 

[PhilArt]

Det har ju redan inträffat att en AI har producerat ny kunskap som inte tidigare kunnat framställas av människor, i det matematiska området matrismultiplikation. Med hjälp av människor, såklart. Men det är en intressant parallell till bilderna. Forskning som använder sig av en AI kan producera bättre resultat snabbare. Man kan ju också tänka sig att man kan använda AI för att hjälpa till med faktakoll och liknande, samt att hjälpa till med skrivandet av artikeln. Jag gissar nog också att artikelskrivandet kanske inte tillhör de flesta forskares favoritdel. Men det kan såklart ställa till med problem där också.

På samma sätt kan AI hjälpa konstnärer att framställa bättre bilder snabbare, och bilder och framförallt filmer som aldrig skulle kunna göras utan AI. Men det kan också ställa till med en del problem och få jobbiga konsekvenser. Jag r på det stora hela positiv, men tror såklart inte att utvecklingen kommer att ske helt utan negativa konsekvenser. Som alla förändringar finns det bra och dåliga sidor, och det är ju bra om folk försöker att maximera de bra och minimera de dåliga.

Ja. Alltså. Klart AI har en plats inom forskning, problemet är om man i praktiken tvingas använda AI för att effektivisera sig själv för att hinna med sitt arbete, så att arbetet blir tråkigare. Att använda AI för att ta fram kunskap som annars inte skulle kunna skapas är såklart oproblematiskt och det kan ju finnas roliga sätt att använda AI på i forskning.

 

[PhilArt]

Jag tycker inte att det är försvarligt att använda mina skattemedel till att forskare ska få ha kul - ska de gå till forskning (vilket de gärna får) är det för att producera värdefulla resultat, och kan man då göra det på effektivare vis...

Troligtvis tycker aktieägare samma sak inom sina företag.

(Men nu tror jag som sagt inte att all forskning kan ersättas på det viset inom överskådlig framtid, även om vissa delar kanske kan det. AI är och förblir ett verktyg, inte en universallösning.)

Fast inget säger att det finns en motsättning mellan att forskare gör bra forskning och att de har roligt. Det är en falsk dikotomi.

Jag tycker också det verkar va en ganska futtig vision för samhället att göra skattebetalare och aktieägare nöjda jämför med att försöka se till att så många människor har så roligt som möjligt. Men det är såklart min åsikt.

Därtill är forskning som bedöms utefter vad man får för pengarna en vetenskapssyn som omöjliggör fri forskning som någon sorts kunskapssökande som drivs av nyfikenhet och vilja att förstå verkligheten. Det senare skulle jag säga i högre grad präglar ett gott samhälle än det tidigare, och det tenderar att på oväntade sätt - men på lång sikt - kombinera roligt med viktiga upptäckter och insikter.

 

[JohanL]

Fast inget säger att det finns en motsättning mellan att forskare gör bra forskning och att de har roligt. Det är en falsk dikotomi.

Nej, det klart. Men nu var ju frågan hur man skulle göra om de visade sig vara mindre effektiva på det viset. Att sponsra hur kul de har på jobbet känns inte som skattebetalarnas uppgift.

Bättre resultat på lång sikt är också resultat. Och resultaten behöver inte vara omedelbart ekonomiska, men de behöver finnas där - vad betalar man annars för?

 

[PhilArt]

Nej, det klart. Men nu var ju frågan hur man skulle göra om de visade sig vara mindre effektiva på det viset. Att sponsra hur kul de har på jobbet känns inte som skattebetalarnas uppgift.

Fast kvaliteten kan ju va oförändrad på forskningen även om den går lite snabbare med AI.