Pludselig havde alle elever adgang til AI-chatbot: Efter to måneder vil kommunen nu lukke ned

Pludselig var det der bare. Det ovale ikon med et forstørrelsesglas og teksten ‘AI Mode’, der betød, at Jesper Graugaards søn nu havde adgang til en AI-chatbot direkte i browseren på sin skole-chromebook.

Jesper Graugaard blev landskendt fra den såkaldte chromebook-sag i Helsingør Kommune.

Den startede med, at hans søn automatisk fik oprettet en Youtube-konto, fordi Google havde tilføjet videotjenesten til skole-programpakken Workspace for Education, uden nogen i kommunen havde taget stilling til det.

Samme mønster tegnede sig, efterhånden som han skrev rundt til lærere, skoleledere og forvaltningen om den nye opdatering af chromebook-browseren:

Det lod til, at da Google i oktober udrullede AI-tilstand i Danmark som et af 50 nye lande, skete det også i browseren på de chromebooks, elever i 52 danske kommuner bruger som skolecomputere – uden nogen i Helsingør Kommune havde taget stilling til det.

Den 10. december fik Jesper Graugaard endelig svar fra kommunen.

Her lyder det, at der nu af “forsigtighedshensyn” vil blive lukket for adgangen til eksterne AI-tjenester. Og at der vil blive udrullet en løsning, der tvinger browseren på elevernes chromebooks over i klassisk visning – uden hverken AI-tilstand eller AI-oversigt.

Adgangen til SkoleGPT vil blive holdt åben som et sikkert værktøj til, at eleverne fortsat kan lære om AI, lyder det desuden i brevet fra kommunen.

Det understreges dog, at “blokeringerne ikke kan gøres 100 pct. vandtætte, bl.a. fordi AI også kan være indlejret som plugin i andre tjenester, som ikke nødvendigvis fremgår af kommunens blokeringslister”.

Oplever berøringsangst

Jesper Graugaard er glad for, at kommunen nu reagerer og lukker for adgangen.

Men han er ærgerlig over, at det sker på baggrund af en borgerhenvendelse og medieomtale, og ikke fordi kommunen har retningslinjer for det.

Han mener, at processen vidner om, at der tre år efter, at lanceringen af ChatGPT bragte spørgsmålet om generativ AI på alles læber, fortsat mangler at blive taget en grundlæggende drøftelse af, hvordan teknologien skal bruges i skolen og undervisningen.

“Man laver lovgivning om smartphones og sociale medier. Men hvad angår AI, må man nøjes med nogle løse anbefalinger. Der er en form for berøringsangst. Vi snakker om noget, der er undergravende for hele den måde, vi underviser på i dag”, siger han og tilføjer:

“Hvordan sikrer vi os, at eleverne undgår den fristelse at få en chatbot til at gøre arbejdet på et sekund i stedet for at træne deres færdigheder selv? Der er så så mange lag, når vi snakker AI og undervisning, og vi har dårligt kradset i overfladen”.

Skolerne skal på forkant

Derfor ender man i den situation, at det først er “når chromebook-faren råber og skriger”, at nogen tager stilling, som han siger.

Han efterlyser en drøftelse fra centralt hold, der kan give skoler og kommuner principper at forholde sig til, der gør, at de kan komme på forkant.

“Digitaliseringen af skolen er foregået temmelig bevidstløst. Man så store potentialer i at få skolecomputere ind og bøgerne ud. Man har ikke, synes jeg, forholdt sig til, hvordan det ændrede undervisningen. Jeg er bekymret for, at det er det samme, man nu er i gang med med AI,” siger Jesper Graugaard.

Men han savner også, at lærerne melder sig på banen med deres oplevelser fra undervisningen.

”Hvis ikke vi får en klogere samtale om vores børns brug af de her teknologier, bliver de implementeret hovedkulds med henvisning til, at det jo er fremtiden, og derfor skal eleverne også møde det i skolen. Men hvad med alle de negative konsekvenser for læringsprocesserne? Dem skal vi altså have på banen”.

Ekspert: Politikerne skal på banen

Gry Hasselbalch forsker i dataetik og politisk regulering af teknologi. Hun er desuden medstifter af tænketanken DataEthics.

Hun glæder sig også over, at Helsingør Kommune nu lukker for adgangen til AI-chatbots i chromebook-browseren.

”Vi skal generelt være på vagt over for ting, der bliver sneget ind i skolen og bliver en del af elevernes kultur og infrastruktur, uden vi har taget stilling og reflekteret over det. Og det er dybt problematisk, at kunstig intelligens uden videre bliver en del af børnenes læringsmiljø, fordi de her værktøjer har en indflydelse på, hvad børn lærer, og hvilke kompetencer de tilegner sig,” siger hun og tilføjer:

”Værktøjerne er udviklet af amerikanske techgiganter, hvis værdier ligger langt fra dem, vi gerne vil have kendetegner den danske folkeskole,” siger Gry Hasselbalch.

Også hun mener, forløbet vidner om, at det er på tide, at der bliver taget stilling til spørgsmålet om AI i undervisningen på et højere niveau.

”Desværre er det for nuværende for det meste op til aktivisterne at gøre opmærksom på, at der er et problem. Men nu må det så være op til politikerne at få gjort noget ved det,” siger hun.

Skolelederne vil have centrale drøftelser

Også Skolelederforeningen efterlyser på baggrund af den nye sag fra Helsingør Kommune en vision og en politik på området.

“Jeg synes, at undervisningsministeren skal invitere alliancen for teknologiforståelse ind, så vi kan formulere rammerne, og hvad vi vil med kunstig intelligens. Det handler ikke om at være for og imod”, siger formand Dorte Andreas til mediet Radar.

Fra børne- og undervisningsminister Mattias Tesfaye (S) lyder det, at han forstår bekymringen og vil række ud til digitaliseringsminister Caroline Stage (M) og KL.

“Det var naiv digitaliseringsbegejstring, der fik mange skoler til at købe tablets til skolebørn på seks år. Det endte med, at mange årgange blev digitale forsøgskaniner. Nu skal vi ikke gentage denne naivitet. Det er formelt den enkelte kommune og skole, der har ansvaret. Men jeg forstår godt, hvis der efterspørges national handling”, siger han til Radar.

Jesper Graugaard glæder sig over ministerens udmelding. Men han er bekymret over tempoet, erkendelserne kommer i.

“Derfor er jeg også frustreret over, at vi ikke er kommet i gang for længe siden,” siger han.

Han mener, at man til en start kan udrulle det forsigtighedshensyn, Helsingør Kommune skriver til ham, at de nu vil tage, til nationalt niveau:

“Man arbejder med forsigtighedsprincipper alle mulige steder. Så hvorfor ikke også sige, at indtil vi har styr på det her område, så er svaret, hvis man er i tvivl, mindre AI og ikke mere AI?”