Jeg bad ChatGPT lave mit første blog-indlæg – om nogle af udfordringerne ved anvendelse af generativ AI. Lidt sjovt, synes jeg selv. Her er min prompt:
“Beskriv på cirka en side nogle af de udfordringer generativ AI stiller os alle over for i de kommende par år. Herunder hvordan generativ AI med tiden kommer til at bruge sit eget output som input for nyt output og der kan gå ‘rundhyl’ i den..?”
Og her er ChatGPTs respons:
“Generativ kunstig intelligens (AI) har vist sig at være en spændende og kraftfuld teknologi med mange anvendelsesmuligheder. Den kan skabe realistiske billeder, skrive tekst, komponere musik og meget mere. Men med udviklingen af generativ AI følger også en række udfordringer, som vi står over for i de kommende år. Lad os udforske nogle af disse udfordringer og diskutere konceptet om “rundhyl” i forhold til generativ AI.
En af de største udfordringer ved generativ AI er etisk ansvarlighed og misbrug af teknologien. Når det bliver let at generere realistiske falske billeder, tekst og videoer, kan det have alvorlige konsekvenser for samfundet. For eksempel kan generativ AI anvendes til at skabe falske nyheder, forfalske beviser eller skabe manipulerende indhold til desinformation. Dette stiller os over for spørgsmål om, hvordan vi kan regulere og kontrollere brugen af generativ AI for at minimere skaderne.
En anden udfordring er manglen på kontrol over outputtet fra generativ AI-systemer. Selvom AI-modeller kan trænes til at generere indhold af høj kvalitet, kan de stadig producere upassende, vildledende eller skadeligt indhold. Dette kan være et problem, når generativ AI anvendes til at assistere i forskellige kreative processer eller til at generere indhold til offentligheden. Vi skal finde måder at kontrollere og styre generativ AI for at undgå uønskede resultater.
En særlig udfordring opstår, når generativ AI begynder at bruge sit eget output som input til fremtidigt output. Dette koncept kaldes ofte for “rundhyl” eller “feedback-loop”. I denne situation kan generativ AI potentielt generere indhold, der gradvist afviger fra den oprindelige hensigt eller bliver mere og mere uregelmæssigt. Hvis et AI-system gentagne gange bruger sit eget output som input, kan det føre til eksponentiel afvigelse og tab af kontrol over resultatet.
Det er vigtigt at bemærke, at “rundhyl” i generativ AI ikke nødvendigvis er en uundgåelig konsekvens. Det afhænger af, hvordan AI-systemet er designet og kontrolleret. Forskere og udviklere arbejder på at finde løsninger, der kan begrænse eller undgå sådanne feedback-loops. Det kan indebære at indføre mekanismer til at overvåge og regulere AI-systemets adfærd, implementere sikkerhedsmekanismer for at opdage og afbryde rundhyl-processen eller ved at have menneskelig tilsyn og godkendelse af output.
For at håndtere udfordringerne ved generativ AI er samarbejde mellem forskere, udviklere, lovgivere og samfundet som helhed afgørende. Der skal etableres klare etiske retningslinjer, reguleringer og standarder for brugen af generativ AI. Der skal også investeres i forskning for at forbedre teknologien og udvikle mere effektive kontrolmekanismer.
Generativ AI har et enormt potentiale til at forbedre vores liv og fremme kreativiteten. Men det er vigtigt at forstå og adressere udfordringerne for at sikre, at teknologien anvendes på en ansvarlig måde til gavn for samfundet som helhed. Ved at tage disse udfordringer seriøst og arbejde sammen kan vi håndtere dem og skabe en fremtid, hvor generativ AI kan bruges til at styrke vores kreativitet og innovation.”
Jeg synes teksten springer lidt let hen over de mulige problemer. Men jeg har jo også bedt den holde det relativt kort. Jeg synes også jeg kan genkende den ‘neutrale’/generiske (tilstræbt leksikale måske?) måde at skrive på som ‘maskinskrevet’. Jeg føler mig tryg ved at der er, og også i fremtiden vil være, brug for originale menneskelige skribenter. Der kan og tør formulere sig klarere og stærkere og mere originalt!
Hvad tænker du?
Jérôme, juni ’23.
