Oväntad AI-twist

[clarence redd]

Hittills har alla (?) trådar om AI spårat ur och @Magnus Seter har behövt låsa dem. För att inte förstöra hans semester får vi skärpa till oss den här gången.

Här är AI-twisten som dök upp i mitt flöde idag:

”Should the internet increasingly fill with AI-generated content, it might become a problem for the AI companies themselves. That is because their large language models, the software that forms the basis of chatbots such as ChatGPT, train themselves on public data sets. As these data sets become increasingly filled with AI-generated content, researchers worry that the language models will become less useful, a phenomenon known as ’model collapse’.”

Det är en slags poetisk rättvisa över det här. Och det skulle vara ironiskt om AI-företagen blev tvungna att utesluta AI-skapat material i sina datamängder. Ungefär som att Marabou skulle bojkotta sig själva för sina kopplingar till Ryssland.

Här är hela artikeln:

https://omni.se/sa-fororenar-ai-genererade-sopor-internet/a/nQPad5

 

[JohanL]

Någon skrev att Internet 2021 kommer att vara det sista som man kan säga var okontaminerat av AI och därför värdefullt, på samma vis som stål tillverkat före 1945 är unikt (och har särskilda användningsområden) genom att inte innehålla någon mänskligt orsakad strålning (en av de bästa reserverna för sådant stål är där den tyska högsjöflottan ligger sänkt i Scapa Flow).

 

[Mogger]

I mitt cyberpunk- projekt är AI en av orsakerna till att internet har gåttisönner (som di säger i Skåne). Känns fortfarande som en väldigt rimlig utveckling (om än inte önskvärd).

 

[Rymdhamster]

I mitt cyberpunk- projekt är AI en av orsakerna till att internet har gåttisönner (som di säger i Skåne). Känns fortfarande som en väldigt rimlig utveckling (om än inte önskvärd).

100%

Jag satt häromdagen och funderade i samma banor. Internet finns där, och innehåller i teorin massor av information. Men Det finns också dröser av AI-baserade virus och annat som försöker replikera vad du än söker efter, och svårigheten blir att försöka lista ut vilka sidor som faktiskt innehåller information, vilka som är AI-genererade hittepå-resultat, och vilka som förvisso är riktiga sidor men som baserat sitt innehåll på AI-generade hittepå-resultat.

 

[BiobunkerVII]

100%

Jag satt häromdagen och funderade i samma banor. Internet finns där, och innehåller i teorin massor av information. Men Det finns också dröser av AI-baserade virus och annat som försöker replikera vad du än söker efter, och svårigheten blir att försöka lista ut vilka sidor som faktiskt innehåller information, vilka som är AI-genererade hittepå-resultat, och vilka som förvisso är riktiga sidor men som baserat sitt innehåll på AI-generade hittepå-resultat.

+ all skit som vanligt folk hittat på....mission impossible snart att lista ut vad som stämmer

 

[JohanL]

I mitt cyberpunk- projekt är AI en av orsakerna till att internet har gåttisönner (som di säger i Skåne). Känns fortfarande som en väldigt rimlig utveckling (om än inte önskvärd).

Jag tyckte om bilden av "the Old Net" i Cyberpunk: Edgerunners som ett helt förstört ställe med virus och vilda AIs som man nöjligen kan skicka Netrunner-expeditioner till men som är alldeles för farligt annars (eventuellt är det så här i normal-Cyberpunk också, det känner jag inte till). Det nya nätet är proofat mot sådant.

 

[terje]

Ett sådant av AI förstört internet skulle väl iofs bara fortsätta existera så länge som någon brydde sig om att hålla igång servrarna. När det blivit oanvändbart drar man ur sladden.

 

[Vitulv]

100%

Jag satt häromdagen och funderade i samma banor. Internet finns där, och innehåller i teorin massor av information. Men Det finns också dröser av AI-baserade virus och annat som försöker replikera vad du än söker efter, och svårigheten blir att försöka lista ut vilka sidor som faktiskt innehåller information, vilka som är AI-genererade hittepå-resultat, och vilka som förvisso är riktiga sidor men som baserat sitt innehåll på AI-generade hittepå-resultat.

Ja alltså när jag menar att AI kommer ha katastrofal påverkan på mänsklig kultur så menar jag ju inte bara att folk kommer sluta rita. Jag tror att påverkan på internet (som är mänsklighetens överlägset största bärare av kultur) kommer vara kulturellt apokalyptisk.

 

[Mogger]

Ett sådant av AI förstört internet skulle väl iofs bara fortsätta existera så länge som någon brydde sig om att hålla igång servrarna. När det blivit oanvändbart drar man ur sladden.

Tror det kan finnas tillräckligt med ekonomiska intressen I ett sådant nät även om det innebär en mardröm för oss idag. Men vi har ju också levt i en unik period där personlig integritet för typ första gången någonsin varit möjligt. Det var kanske bara en anomali?

 

[EvilSpook]

Det är en slags poetisk rättvisa över det här.

Den parallellen jag drar är med danskan, som nu blivit så grötig och otydlig att knappt ens danskarna själva förstår varandra.

Där kanske all information de kan ta till sig i framtiden blir på andra språk? Och danskan blir ett krympande svart hål av obegriplig envägskommunikation?

Den som lever får se…
//EvilSpook

 

[Mogger]

Den parallellen jag drar är med danskan, som nu blivit så grötig och otydlig att knappt ens danskarna själva förstår varandra.

Där kanske all information de kan ta till sig i framtiden blir på andra språk? Och danskan blir ett krympande svart hål av obegriplig envägskommunikation?

Den som lever får se…
//EvilSpook

Kabeloso?

 

[Quadrante]

Såg denna häromdagen och sparade den (har inte kollat upp vem tecknaren är). (tydligen så vet jag inte vilken apparat jag satt och sparade på ... men kontentan är att det är två personer som sitter på gatan i en futuristisk miljö. Den ene säger: Jag saknar internet. Den andre tecknar en bild (meme) och texten, "saknar du internet eller alla memes" varpå den förste säger tack ...) ...

(saknad bild)

 

[Selly]

Såg denna häromdagen och sparade den (har inte kollat upp vem tecknaren är). (tydligen så vet jag inte vilken apparat jag satt och sparade på ... men kontentan är att det är två personer som sitter på gatan i en futuristisk miljö. Den ene säger: Jag saknar internet. Den andre tecknar en bild (meme) och texten, "saknar du internet eller alla memes" varpå den förste säger tack ...) ...

(saknad bild)

 

[Quadrante]

Tack

 

[terje]

Tror det kan finnas tillräckligt med ekonomiska intressen I ett sådant nät även om det innebär en mardröm för oss idag. Men vi har ju också levt i en unik period där personlig integritet för typ första gången någonsin varit möjligt. Det var kanske bara en anomali?

Ja, jag tänkte främst på det som skrevs om Edgerunners (borde ha citerat). Men du har nog rätt i ett hypotetiskt verkligt scenario, ett riktigt dåligt (shitified som Doctorow säger) internet kan nog puttra på länge bara för att andra alternativ saknas.

 

[Herr Grönstedt]

Om den data som genereras görs på ett smart sätt så går att använda som det som syntetisk träningsdata för maskininlärning. Det är en metod som används när man inte har tillgång till tillräckliga riktiga data.

Det är också relaterat till Generative Adverserial Networks, GAN, där man tränar en generativ modell med en generatormodell som skapar nya exemplar och en diskriminatormodell (om det nu heter så på svenska) som försöker klassificera exemplen som riktiga eller syntetiska. De två modellerna tränas tillsammans i ett nollsummespel (adversarial) tills diskriminatormodell inte kan skilja på riktiga och syntetiska exempel (50/50). GAN är en konkurrerande ansats till latent diffusion systems, som t.ex.Stable Diffusion. Fast jag har sett att det finns synteser mellan ansatserna också.

 

[Vitulv]

Kabeloso?

Kamelåså

 

[Mogger]

Kamelåså

Du ser.