Du har helt ret i, at det teoretisk set kan lade sig gøre. Din prompt er et rigtig godt eksempel på, hvordan man kan få en second opinion uden at afgive persondata. Den tilgang burde være et minimumskrav, dette er også hvad der forsøges igennem kurserne på min arbejdsplads.
Men problemet i denne sag er jo netop, at det sandsynligvis ikke er det, der er sket. Sagsbehandleren har slettet sine chats. Hvis prompten havde været anonymiseret som din, havde der ikke været behov for at slette noget. Sletningen er i sig selv et stærkt signal om, at der har været persondata i spil.
Dertil kommer, at det kræver ret meget af den enkelte sagsbehandler at vurdere, hvad der er personhenførbart og hvad der ikke er. Det er ikke altid åbenlyst. En kombination af sagens kontekst, cpr-nummerets cifre, adressen, forholdet mellem handicaps og bilmodel, alt sammen ting der kan virke uskyldige enkeltvis, men som tilsammen kan identificere en borger. Din prompt fungerer, fordi du har tænkt over det. Men vi kan ikke stole på, at alle sagsbehandlere har den refleksion, særligt ikke når der er tidspres på.
Og så er der dokumentationsaspektet. Selv hvis man anonymiserer korrekt, skal det kunne efterprøves ved en aktindsigt eller en klage. Med ChatGPT og andre eksterne LLM’er findes der ingen log i sagsakterne. Der er ingen revisor der kan gå tilbage og se, hvad der blev spurgt om, og hvad svaret var. Det er et fundamentalt brud med sagsbehandlingsprincipperne uanset om data er anonymiseret eller ej.
Derfor holder jeg fast i, at eksterne LLM’er ikke hører hjemme i sagsbehandling, medmindre der er tekniske spærringer, logging og datalagring der lever op til samme standard som resten af sagsystemet. Min arbejdsplads har valgt den vej med en intern LLM, og selv om det er dyrere og mindre kraftfuldt, så er det den eneste model der giver mening i et offentligt system.
Det er en ret seriøs beskyldning. Hvis du virkelig mener du har beviser for det, så rapporter beviserne til en moderator. Det er ikke en særlig pæn ting at beskylde nogen for.
Personligt har jeg overhoved ikke den opfattelse af Sommerhavens kommentarer - tværtimod.
Jeg synes det er ret seriøst at beskylde en anden bruger for at være en bot eller at bruge LLM i alle kommentarerne. Selvfølgelig kan brug af LLM være rent uskyldigt (hjælp til stavning, grammatik og enkelte svære formuleringer måske) men jeg synes ikke ideen med et forum som Feddit.dk er at sidde og snakke med LLMer, så at være en bot eller at bruge en LLM overdrevent i ens indhold ville nok høre ind under regel 4 som spam, hvilket betyder bandlysning.
Det behøver ikke være ulovligt for at være seriøst.
Hvis du læser min oprindelige besked så beskylder jeg sådan set heller ikke nogen for noget som helst, men stiller spørgsmål fordi jeg syntes der er noget lidt underligt.
Nej, hvis svaret virker kunstigt, kan det være fordi jeg forsøger at give det bedste svar med udgangspunkt i, hvordan vi bliver skolet i håndtering af borgernes data. Det er vigtigt for mig at fastholde, hvorfor jeg mener det er absolut nødvendigt, at vi på ingen måde bruger eksterne LLM’er, hvor vi både kan dele borgernes data ulovligt og være med til at videreudvikle disse på borgernes data.
Samtidig så, skal jeg med den fagprofessionelle kasket, og udtaler mig om noget, der handler om retssikkerhed og databeskyttelse, er det vigtigt for mig at det er formuleret korrekt.
Desuden, alle mine kommentarer? Hvorfor tænker du det?
for mig virker det bare kunstigt og uorganisk skrevet, ikke nødvendigvis fagligt tungt men mere som om det skal virke sådan. Lidt som når folk starter på uni og forsøger at skrive akademisk.
Desuden, alle mine kommentarer?
Måske ikke alle, jeg har ikke tjekket din bruger, men når jeg har læst en kommentar hvor jeg tænkte det var bot/LLM så står du oftest som brugeren.
Måske det kom lidt hårdt ud, ift. en enkelt observation? :) især når der er megen debat om netop LLM og AI.
Jeg må indrømme, det var også lidt en øv følelse, at modtage. Men modsat havde vi en dialog omkring det, og jeg fik en ny synsvinkel.
Tag det ikke ilde op her fra, måske formuler det anderledes næste gang.
Du har helt ret i, at det teoretisk set kan lade sig gøre. Din prompt er et rigtig godt eksempel på, hvordan man kan få en second opinion uden at afgive persondata. Den tilgang burde være et minimumskrav, dette er også hvad der forsøges igennem kurserne på min arbejdsplads.
Men problemet i denne sag er jo netop, at det sandsynligvis ikke er det, der er sket. Sagsbehandleren har slettet sine chats. Hvis prompten havde været anonymiseret som din, havde der ikke været behov for at slette noget. Sletningen er i sig selv et stærkt signal om, at der har været persondata i spil.
Dertil kommer, at det kræver ret meget af den enkelte sagsbehandler at vurdere, hvad der er personhenførbart og hvad der ikke er. Det er ikke altid åbenlyst. En kombination af sagens kontekst, cpr-nummerets cifre, adressen, forholdet mellem handicaps og bilmodel, alt sammen ting der kan virke uskyldige enkeltvis, men som tilsammen kan identificere en borger. Din prompt fungerer, fordi du har tænkt over det. Men vi kan ikke stole på, at alle sagsbehandlere har den refleksion, særligt ikke når der er tidspres på.
Og så er der dokumentationsaspektet. Selv hvis man anonymiserer korrekt, skal det kunne efterprøves ved en aktindsigt eller en klage. Med ChatGPT og andre eksterne LLM’er findes der ingen log i sagsakterne. Der er ingen revisor der kan gå tilbage og se, hvad der blev spurgt om, og hvad svaret var. Det er et fundamentalt brud med sagsbehandlingsprincipperne uanset om data er anonymiseret eller ej.
Derfor holder jeg fast i, at eksterne LLM’er ikke hører hjemme i sagsbehandling, medmindre der er tekniske spærringer, logging og datalagring der lever op til samme standard som resten af sagsystemet. Min arbejdsplads har valgt den vej med en intern LLM, og selv om det er dyrere og mindre kraftfuldt, så er det den eneste model der giver mening i et offentligt system.
Skriver du alle dine svar med en LLM eller den her bruger en bot? Alle kommentarer fra den her konto har en lidt spøjs kunstig formulering.
Det er en ret seriøs beskyldning. Hvis du virkelig mener du har beviser for det, så rapporter beviserne til en moderator. Det er ikke en særlig pæn ting at beskylde nogen for.
Personligt har jeg overhoved ikke den opfattelse af Sommerhavens kommentarer - tværtimod.
Hvorfor skulle være en “seriøs beskyldning”? Der er jo intet hverken ulovligt eller forkert i det, hvis det var sandt.
Jeg synes det er ret seriøst at beskylde en anden bruger for at være en bot eller at bruge LLM i alle kommentarerne. Selvfølgelig kan brug af LLM være rent uskyldigt (hjælp til stavning, grammatik og enkelte svære formuleringer måske) men jeg synes ikke ideen med et forum som Feddit.dk er at sidde og snakke med LLMer, så at være en bot eller at bruge en LLM overdrevent i ens indhold ville nok høre ind under regel 4 som spam, hvilket betyder bandlysning.
Det behøver ikke være ulovligt for at være seriøst.
Hvis du læser min oprindelige besked så beskylder jeg sådan set heller ikke nogen for noget som helst, men stiller spørgsmål fordi jeg syntes der er noget lidt underligt.
Nej, hvis svaret virker kunstigt, kan det være fordi jeg forsøger at give det bedste svar med udgangspunkt i, hvordan vi bliver skolet i håndtering af borgernes data. Det er vigtigt for mig at fastholde, hvorfor jeg mener det er absolut nødvendigt, at vi på ingen måde bruger eksterne LLM’er, hvor vi både kan dele borgernes data ulovligt og være med til at videreudvikle disse på borgernes data.
Samtidig så, skal jeg med den fagprofessionelle kasket, og udtaler mig om noget, der handler om retssikkerhed og databeskyttelse, er det vigtigt for mig at det er formuleret korrekt.
Desuden, alle mine kommentarer? Hvorfor tænker du det?
for mig virker det bare kunstigt og uorganisk skrevet, ikke nødvendigvis fagligt tungt men mere som om det skal virke sådan. Lidt som når folk starter på uni og forsøger at skrive akademisk.
Måske ikke alle, jeg har ikke tjekket din bruger, men når jeg har læst en kommentar hvor jeg tænkte det var bot/LLM så står du oftest som brugeren.
Jeg værdsætter rigtig meget din feedback! En anden grund til, at pædagoger ikke skal være akademikere :-)
Det er slet ikke min stærke side, og jeg forsøger at gemme mig lidt bag usikkerheden.
Men tak i gen, jeg tager det til mig.
Fair nok…
Jeg kan forstå på andre (og nedstemmer) at jeg åbenbart stiller et ganske forfærdeligt spørgsmål her, ikke at jeg kan se hvorfor det skulle være det.
Måske det kom lidt hårdt ud, ift. en enkelt observation? :) især når der er megen debat om netop LLM og AI.
Jeg må indrømme, det var også lidt en øv følelse, at modtage. Men modsat havde vi en dialog omkring det, og jeg fik en ny synsvinkel. Tag det ikke ilde op her fra, måske formuler det anderledes næste gang.