Det her runder flere ting for mig.
Først og fremmest: Jonas fandt det ud selv. Han skulle læse sig ind i 18 sider for at mærke noget var forkert, spørge om aktindsigt, og så kunne kommunen først erkende det. Hvor mange andre sager ligger der hvor borgerne aldrig opdager det? Og hvorfor er kontrollen lagt hos borgeren frem for hos myndigheden?
Så har vi problemet med datasikkerheden. Sagsbehandleren har slettet sine chats. Ingen kan verificere om persondata er blevet overført til AI-værktøjet. Som Jonas siger: “Jeg stoler ikke en skid på det.” Han har ret i det. Hvis de havde gjort det rigtige, ville de kunne dokumentere det. I stedet vælger de at slette sporene og håbe på ingen finder ud af det.
Datatilsynet nævner mindst 50 anmeldelser over nogle år. Det lyder meget, men jeg tvivler på det er andet end toppen. De fleste vil nok bare acceptere afgørelsen og se videre. Kun dem som Jonas, der sidder og dykker ned i detaljerne, finder fejlene.
Og så kommer svaret fra Glostrup: “Vi præciserer nu vores retningslinjer.” Problemet er jo ikke manglende viden om reglerne. Det er at muligheden er der, og tidspres på arbejdspladsen er der. En medarbejder der er presset vil vælge den hurtige løsning. Uden tekniske spærringer eller ordentlige konsekvenser ved bruddet ændrer en ny regeltekst ingenting.
Så undrer det mig virkelig, som fagprofessionel at det lyder til arbejdspladsen opfordrer til brug, men den fag-professionelle her har brugt Copilot og ChatGPT. I kommunen jeg arbejder er der forsøg med intern LLM for at overholde intern gennemgang, datadeling, GDPR osv. Men vigtigste at data forbliver i sagsakterne. Hvordan kan man overhovedet bruge ChatGPT eller lignende af de store LLM’er uden at der er et klart databrud?
Jeg kunne virkelig godt tænke mig, at høre andres meninger om det her, og at det her bare er starten på hvordan vi ser det offentlige system bruge AI.
Hvordan kan man overhovedet bruge ChatGPT eller lignende af de store LLM’er uden at der er et klart databrud?
Den kommune jeg arbejder i har en aftale med MS, og serverne til kommunens brug af AI ligger alle Indenfor EU. Gdpr skulle gerne være overholdt, selv om der deles personfølsomme oplysninger.
Nu er jeg totalt anti AI. Jeg hader det som pesten og holder mig så vidt som muligt fra alt der har noget at gøre med det. Så det er ikke en særlig nuanceret holdning jeg har.
Men det sagt, så er det jo bare en algoritme, så jeg kan godt se at det kan bruges til 100 % kvantitative opgaver, hvor der er et korrekt svar udfra faste parametre.
Men alt kvalitativt, hvor der skal fortolkes og vurderes skal AI efter min mening holdes langt væk fra.
Denne her sag viser efter min mening tydeligt at kommunerne som helhed ikke tager datasikkerheden seriøst nok til at håndhæve reglerne, og at de enkelte medarbejdere ikke kan vurdere hvordan værktøjet kan bruges fornuftigt, og derfor skal det slet ikke bruges.
Jeg er enig, og det er tydeligt i denne sag og i de mange kommende sager.
Jeg må dog fremhæve min egen arbejdsplads (også en smule kommunen som helhed), da de har været virkelig gode til at udbyde og kræve kurser og uddannelse i GDPR og retssikkerhed for borgeren ift. korrekt brug af den enkeltes data. Dertil har der været kurser i, hvordan vi kan bruge, og hvordan vi absolut ikke kan bruge AI/LLM’er til.
Dertil er især kurserne omkring korrekt databrug vedvarende. Jeg har været igennem 3 nu på 2 år. Og selvom det virker som spild af tid, der kunne bruges på borgeren, ved jeg, at det for mange andre er givet rigtig godt ud.
Men det er kun én kommunes handlingsplan.
Jeg ved godt at det er et sidespor i forhold til denne diskussion.
Men min største hurdle med AI generelt (generativ AI er en helt anden snak), er det store misbrug af ressourcer jeg synes det er. Nu hører jeg kun om de amerikanske datacentre og hvordan de ødelægger lokalområder i forhold til vand og energinettet. Foruden alt det areal der kunne bruges på mad eller natur.
Men jeg tænker at der er lignede problemer med de europæiske datacentre. Og så vidt jeg har forstået bruger hvert eneste promt relativt meget energi.
Så jeg er ret nysgerrig på, hvordan du egentlig har det med det i forhold til at leve planetært? Tager du det med i regnestykket eller er det lidt sat uden for?
Edit: fjernet en sætning som var nem at misforstå.
>Men min største hurdle med AI generelt (generativ AI er en helt anden snak)
Hvad mener du her? LLM’er, som er det der er tale om her, er generativ AI. Alle de datacentre der bliver bygget overalt i verden, er til generativ AI.
AI generelt (hvis vi ser bort fra generativ AI) har lavet fantastiske ting, som fuldstændigt at løse proteinfoldnings-problemet, hvilket har ledt til opdagelsen af en masse medicin, såsom flere nye slags antibiotika. AI kan bruges til at sortere affald, så vi slipper for 32 forskellige affaldsspande. AI bruges til talegenkendelse og text to speech. Og mens det også kræver ressourcer, så generelt på en helt anden skala, end hvad vi ser til generativ AI for tiden.
Interresant vinkel, tak, ja det er selvfølgelig værd at have med, når vi taler om det. At være skarpe på. Så det ikke er alle over en kam
Fair, jeg har tydeligvis ikke styr på termerne.
Med generativ AI mener jeg det der bliver brugt til at ødelægge kunst/kreaverdenen. Der er så meget slob der bliver produceret og solgt uden nogen kvalitetskontrol, at det er virkelig svært at købe mønstre af små designere, som jeg jo faktisk gerne vil støtte.
Med generelt, mente jeg nok bare LLM, som største delen af befolkningen efter min mening bruger til at blive dummere og miste evnen til kritisk tænkning.
Men du har 100 % ret i, at der findes rigtig god brug af AI, hvor det faktisk gør verden bedre, men i mit søde lille hoved er det jo bare algoritmer, så derfor kan jeg skære AI over en kam og hade det hele.
Men jeg kan jo så stadig bare skære generativ AI over en kam og hade alt det.
For det første, fedt! 🌺 Jeg er helt enig i dine betragtninger.
Privat bruger jeg i øvrigt stort set ikke AI bortset fra et par gange f.eks. ift. idé til drivhusopsætningen, hjælp til dahlierne og nogle grammatiske rettelser. Alt det er ført ind i mit personlige regnskab.
Hvad angår datacentre, er det hos mig klart, når jeg eller ungerne ser f.eks. Bluey på SmartTube eller DR. I går så jeg fodbold, og det tror jeg også koster langt mere (jeg har beregnet ca. 100 g CO₂) end et par sætninger til en LLM. :)
Alt jeg foretager mig på arbejde, tæller ikke med i mit personlige planetære regnskab. Jeg tænker selvfølgelig over alt hvad jeg gør, men det sætter ikke præg på min private optælling. F.eks. er jeg nødt til at bruge de biler, der er stillet til rådighed, generelt benytter amerikansk teknologi, og ja, også AI. Men det eneste jeg bruger AI til, er hvis jeg mangler en formulering.
Det er virkelig vigtigt for mig, i mit arbejde, at jeg lyder som mig selv og ikke som en maskine.
Åh fuck. I min lille hyggelige boble havde jeg ægte ikke overvejet at streaming selvfølgelig også er en stor faktor i forhold til datacentre. Det er vildt hvor blind man kan være nogen gange. Men i det regnskab har du jo nok ret i, at jeg ikke kan bruge det som anti-AI argument.
Det giver mening. På arbejdet gør jeg også ting som direkte går i mod mine private principper. Fx har jeg ansvaret for non-food afdelingen, så mit “arbejdsjeg” håber at der er solgt rigtig meget, men mit private jeg forstår ikke at folk køber alt det bras de ikke har brug for.
💛
Og bliv i den boble, vi kan ikke ændre det hele og slet ikke vide alting :)
Mit projekt er at tage det til det yderste, hvor jeg jo så bliver lidt klogere på det hele. Med mange op- og nedture i det.
Der er dog mange andre gode anti-AI-argumenter, heldigvis. :)
Da jeg snakkede med Morten Sommer fra DTU, som forsker i netop det med de planetære grænser, var det en kæmpe forløsning, at det vi foretager os på arbejdet (selvfølgelig ud fra hvad der forventes af en) ikke er og ikke kan blive en del af vores individuelle aftryk, men arbejdspladsernes.
Ikke relevant for tråden.
Men hvad med et lave mad over bål? Det er en sindssygt ineffektiv opvarmningsmetode, og en vi i familien ofte anvender rekreativt.
Ville have svært ved at vinke farvel til bål.
Ved du btw noget om plantning af skov og co2? Hvis jeg tilplanter en hektar, hvor meget forurening nulstiller det så? Kan man evt sige en hektar skov = hvor mange km kørt i en dieselbil der kører 20 pr liter.
Det er bare en ret åbenlys ting at overse 🤣
Ja, du gør det ret ekstremt, men det er sygt inspirerende, også selv om du ikke nævner det så ofte længere, så bare det at vide I lever på den måde gør et eller andet.
Rigtig god pointe, men arbejdspladserne gør jo heller ikke noget for at ændre det, hvis ting ikke bliver påtalt af både, ansatte og kunder/brugere.
Fordi du har nævnt den fik jeg fat i hans bog, som jeg regner med at læse i år.
Hvad angår datacentre, er det hos mig klart, når jeg eller ungerne ser f.eks. Bluey på SmartTube eller DR. I går så jeg fodbold, og det tror jeg også koster langt mere (jeg har beregnet ca. 100 g CO₂) end et par sætninger til en LLM. :)
Har du en beregning der understøtter dette? Jeg er ærlig talt ikke sikker på hvordan jeg overhoved ville opgøre det, men LLMer bruger jo vildt meget strøm og beregningskraft… kan streaming virkelig tage mere CO2?
Jeg skal hjem og åbne filerne (bogen fra DTU), men i mellem tiden har jeg denne artikel fra Forbes (2025)
“Like just watching YouTube, or participating in a Zoom conference call. An hour bingeing Netflix consumes .12 kilowatt-hours, releasing 42 grams of CO2 into the environment. An hour on Zoom is more efficient, taking just .05 kWh and releasing 17 grams of CO2.”
Og
"Here’s the relative impact to our environment of common digital activities:
- YouTube or Netflix, 1 hour (HD) ~0.12 kWh → 42 g CO₂ Tied for the dirtiest single activity in the study.
- Text-to-video generation, 6–10 seconds ~0.05 kWh → 17.5 g CO₂ Roughly the same as an hour-long Zoom call.
- Zoom, 1 hour ~0.0486 kWh → 17 g CO₂ Short email, no attachment ~0.0133 kWh → 4.7 g CO₂ One email is tiny, billions per day are not.
- AI image generation, 1 image ~0.003 kWh → 1 g CO₂
- Voice assistant query (Alexa/Siri/etc.) ~0.0005 kWh → 0.175 g CO₂
- Google search or AI chatbot prompt ~0.0003 kWh → 0.105 g CO₂
- Two Gemini prompts ~0.00024 kWh → 0.084 g CO₂ total (~0.042 per prompt)"
Vi skal huske dette kun er et parameter af de planetære grænser.
Fra bogen (Er mit liv bæredygtigt af Morten Sommer) og forskningen fra DTU:
Ved streaming på TV (65" 240W 3 timer) 1,1 kg co2 ækvivalenter. Ikke nævnt hvad der streames, eller hvad dataen bagveds CO2 grundlag. Mm. Produktionen og TVets levetid er medregnet (her 8 år).
Jeg benytter mig så meget jeg kan (når jeg bruger en AI) af Ecosia, som ud over at dække deres energibehov med dobbelt så meget vedvarende energi, benytter AI modeller som bruger relativt lidt energi.
Hvordan kan man overhovedet bruge ChatGPT eller lignende af de store LLM’er uden at der er et klart databrud?
Det kan du vel ved, at personen og personhenførbar information ikke gives til LLM’en?
Teksten fra ChatGPT er
Det her er efter min vurdering en meget robust beregning, fordi du bruger præcis samme metode som ved forsikring: handicapbil kontra den bil, I har vurderet, at han ville havde haft uden handicap
Hvis prompten er noget i stil med
Jeg er ved at udregne merudgifter, vi som kommune skal dække for en person, der har ekstra udgifter til dæk på grund af et handicap, som skal dækkes med en handicapbil. Vi påtænker at bruge samme beregningsmetode som ved forsikring, at normale udgifter til en bils dæk fratrækkes de samlede udgifter for dæk til handicapbilen, så vi kun skal dække merudgiften. Ser denne beregning korrekt ud? Indsæt beregning
Den prompt kan give sagsbehandleren en second opinion uden at Jonas på noget tidspunkt er identificerbar i prompten.
Om det så reelt er det der er sket er nok tvivlsomt, eftersom sagsbehandleren pludselig fik travlt med at Mette-slette.
Du har helt ret i, at det teoretisk set kan lade sig gøre. Din prompt er et rigtig godt eksempel på, hvordan man kan få en second opinion uden at afgive persondata. Den tilgang burde være et minimumskrav, dette er også hvad der forsøges igennem kurserne på min arbejdsplads.
Men problemet i denne sag er jo netop, at det sandsynligvis ikke er det, der er sket. Sagsbehandleren har slettet sine chats. Hvis prompten havde været anonymiseret som din, havde der ikke været behov for at slette noget. Sletningen er i sig selv et stærkt signal om, at der har været persondata i spil.
Dertil kommer, at det kræver ret meget af den enkelte sagsbehandler at vurdere, hvad der er personhenførbart og hvad der ikke er. Det er ikke altid åbenlyst. En kombination af sagens kontekst, cpr-nummerets cifre, adressen, forholdet mellem handicaps og bilmodel, alt sammen ting der kan virke uskyldige enkeltvis, men som tilsammen kan identificere en borger. Din prompt fungerer, fordi du har tænkt over det. Men vi kan ikke stole på, at alle sagsbehandlere har den refleksion, særligt ikke når der er tidspres på.
Og så er der dokumentationsaspektet. Selv hvis man anonymiserer korrekt, skal det kunne efterprøves ved en aktindsigt eller en klage. Med ChatGPT og andre eksterne LLM’er findes der ingen log i sagsakterne. Der er ingen revisor der kan gå tilbage og se, hvad der blev spurgt om, og hvad svaret var. Det er et fundamentalt brud med sagsbehandlingsprincipperne uanset om data er anonymiseret eller ej.
Derfor holder jeg fast i, at eksterne LLM’er ikke hører hjemme i sagsbehandling, medmindre der er tekniske spærringer, logging og datalagring der lever op til samme standard som resten af sagsystemet. Min arbejdsplads har valgt den vej med en intern LLM, og selv om det er dyrere og mindre kraftfuldt, så er det den eneste model der giver mening i et offentligt system.
Skriver du alle dine svar med en LLM eller den her bruger en bot? Alle kommentarer fra den her konto har en lidt spøjs kunstig formulering.
Det er en ret seriøs beskyldning. Hvis du virkelig mener du har beviser for det, så rapporter beviserne til en moderator. Det er ikke en særlig pæn ting at beskylde nogen for.
Personligt har jeg overhoved ikke den opfattelse af Sommerhavens kommentarer - tværtimod.
Hvorfor skulle være en “seriøs beskyldning”? Der er jo intet hverken ulovligt eller forkert i det, hvis det var sandt.
Jeg synes det er ret seriøst at beskylde en anden bruger for at være en bot eller at bruge LLM i alle kommentarerne. Selvfølgelig kan brug af LLM være rent uskyldigt (hjælp til stavning, grammatik og enkelte svære formuleringer måske) men jeg synes ikke ideen med et forum som Feddit.dk er at sidde og snakke med LLMer, så at være en bot eller at bruge en LLM overdrevent i ens indhold ville nok høre ind under regel 4 som spam, hvilket betyder bandlysning.
Det behøver ikke være ulovligt for at være seriøst.
Hvis du læser min oprindelige besked så beskylder jeg sådan set heller ikke nogen for noget som helst, men stiller spørgsmål fordi jeg syntes der er noget lidt underligt.
Nej, hvis svaret virker kunstigt, kan det være fordi jeg forsøger at give det bedste svar med udgangspunkt i, hvordan vi bliver skolet i håndtering af borgernes data. Det er vigtigt for mig at fastholde, hvorfor jeg mener det er absolut nødvendigt, at vi på ingen måde bruger eksterne LLM’er, hvor vi både kan dele borgernes data ulovligt og være med til at videreudvikle disse på borgernes data.
Samtidig så, skal jeg med den fagprofessionelle kasket, og udtaler mig om noget, der handler om retssikkerhed og databeskyttelse, er det vigtigt for mig at det er formuleret korrekt.
Desuden, alle mine kommentarer? Hvorfor tænker du det?
for mig virker det bare kunstigt og uorganisk skrevet, ikke nødvendigvis fagligt tungt men mere som om det skal virke sådan. Lidt som når folk starter på uni og forsøger at skrive akademisk.
Desuden, alle mine kommentarer?
Måske ikke alle, jeg har ikke tjekket din bruger, men når jeg har læst en kommentar hvor jeg tænkte det var bot/LLM så står du oftest som brugeren.
Jeg værdsætter rigtig meget din feedback! En anden grund til, at pædagoger ikke skal være akademikere :-)
Det er slet ikke min stærke side, og jeg forsøger at gemme mig lidt bag usikkerheden.
Men tak i gen, jeg tager det til mig.
Fair nok…
Jeg kan forstå på andre (og nedstemmer) at jeg åbenbart stiller et ganske forfærdeligt spørgsmål her, ikke at jeg kan se hvorfor det skulle være det.
Do you have the wrong language settings or do I? I thought I have hidden all “non english” posts?
Other users who may want to see this may not see it if their language settings are borked. We’ve seen this happen before. Also I really can’t be bothered to select the language every time I post something. You can just block Feddit.dk as an instance if you don’t want to see stuff from here. Or use your follow feed instead of all feed.
