Chatbotten SkoleGPT, som er særligt udviklet til brug i undervisningen på landets folkeskoler, kritiseres for at have givet detaljerede beskrivelser af selvskade og selvmord, hvis man for eksempel spurgte den om hjælp til en skoleopgave om netop de emner.
Det skriver dr.dk, efter DR Nyheder og P1-programmet K-Live har testet botten. Det mener overordnet leder af selvskadeindsatsen i Region Hovedstadens Psykiatri Lotte Rubæk er bekymrende.
"Det vil gøre, at der vil der være kortere fra tanke til handling", siger hun.
Center for Undervisningsmidler på Københavns Professionshøjskole, som står bag SkoleGPT, fortæller, at de nu har ændret chatbottens svar.
Læs også
"Det er ikke nogle ting, vi har lyst til, at platformen bliver brugt til. Derfor har vi også taget forholdsregler nu, sådan at man ikke længere kan få informationer om de her emner", siger institutchef Martin Sønderlev Christensen til dr.dk.
SkoleGPT har eksisteret siden 2023.
dr.dk: Chatbot lavet til folkeskoler chokerer eksperter: Gav detaljerede beskrivelser af selvskade
Skole-chatbot kritiseres for at give detaljerede beskrivelser af selvskade
Velkommen til debatten. Tjek eventuelt vores retningslinjer.