Subscribe
Share
Share
Embed
En podkast som tar for seg ulike aspekter ved det å være underviser i høyere utdanning. Produsert av Seksjon for UH-pedagogikk ved Universitetet i Innlandet.
Vi har et ansvar – som undervisere, forskere, administrativt ansatte, studenter og som institusjon. Våre studenter skal kunne gå ut i arbeidslivet med evnen til å løse kompliserte oppgaver innenfor trygge og forsvarlige rammer. Trygg og ansvarlig bruk er en forutsetning for å bruke kunstig intelligens i høyere utdanning.
Mange av oss har allerede begynt å bruke slike verktøy, men det er fortsatt noen som står igjen på perrongen og lurer på hvordan de skal komme i gang. Utfordringene kan handle om hvordan man får tilgang til verktøyene, at de ikke er gode nok eller oppleves irrelevante, eller at man ikke vet helt hva som er innafor å gjøre. Det handler ikke om å mestre all verdens teknologi eller å drive med nybrottsarbeid, men om å få på plass et grunnleggende ferdighetsnivå. Vi kan kanskje tenke på det som et trafikalt grunnkurs. Og hva er egentlig forskjellen på rødt, grønt og gult lys?
Så hva betyr det å bruke KI på en trygg og ansvarlig måte når du er student eller ansatt ved et universitet? Både myndigheter, studenter og utdanningsinstitusjonene selv krever at vi lærer oss å bruke KI-verktøy på en ansvarlig måte. De uttrykker alle en tydelig forventning om at digital kompetanse, kritisk refleksjon og etisk bruk av teknologi skal være en del av grunnlaget vi bygger utdanning og forskning på. For vi har alle en eller annen tilknytning til universitetet – for eksempel ved at vi har et adgangskort til universitetsbygninger, biblioteker og kontorer, eller en Feide-konto som gir tilgang til lukkede digitale områder, portaler og tjenester.
Med dette følger et ansvar for ikke å misbruke de tilgangene og privilegiene som kommer med det å være knyttet til et universitet. Men vet alle egentlig hva det innebærer? La oss begynne med det mest elementære: All bruk av KI handler om hva vi legger inn, og hva vi får ut – inn- og ut-data.
Inn-data kan være en tekst vi selv har skrevet, hele eller deler av en fagartikkel, en transkripsjon av et forskningsintervju, deltakerlister eller simpelthen en ledetekst (prompt). Alt dette lagres og bearbeides av KI-verktøyet og kan bli brukt til videre opptrening av KI-tjenesten, eller bli solgt videre til en tredjepart. Derfor har vi et ansvar for å vite hvilke tjenester vi kan bruke, og hvordan vi behandler og deler ulike typer data. Dette ansvaret har vi både overfor oss selv og institusjonen vi er tilknyttet.
Som student eller ansatt ved et universitet, og ofte med tilgang til verdifull og noen ganger sensitiv informasjon, må du bruke interne, datasikre og lukkede KI-tjenester. Da unngår du at informasjonen risikerer å komme på avveie eller brukes videre utenfor din kontroll.
Et eksempel er opphavsrettslig beskyttet materiale, som vitenskapelige artikler bak betalingsmur. Selv om du har tilgang til artikkelen, kan det være problematisk å laste den opp i et åpent KI-verktøy – ikke nødvendigvis fordi du deler selve teksten, men fordi innholdet kan brukes som grunnlag for nye tekster eller inngå i trening av språkmodellen. Dette kan i noen tilfeller være i strid med opphavsretten og få både juridiske og økonomiske konsekvenser.
Vi har derfor interne KI-løsninger som Sikt KI-chat, GPT UiO og Autotekst når vi arbeider med opphavsrettslig beskyttet materiale. Disse løsningene er utviklet for utdanningssektoren og behandler data i tråd med personvernreglene og klassifiseringsnivå inntil gult nivå. Informasjonen brukes ikke til å trene modellen og lagres ikke for fremtidig gjenbruk. Som ansatt eller student er det derfor tryggest å velge slike verktøy.
På den andre siden har vi kommersielle og åpne verktøy, som det ikke er trygt å dele alle typer datamateriale med. Disse verktøyene kan lagre det du skriver, bruke det videre til å trene modeller eller dele informasjonen uten at du vet det. Dette gjelder mange av de store kommersielle tjenestene, som ChatGPT, Gemini, Claude og såkalte produktivitets-KI-er som brukes i apper og utvidelser.
I praksis betyr dette at alt du legger inn kan brukes videre av noen andre. Det kan lagres, analyseres, selges eller i verste fall brukes mot deg. Tommelfingerregelen er derfor: Ikke legg noe inn i en kommersiell KI som du ikke ville delt offentlig. Dette gjelder ikke bare åpenbart sensitiv informasjon, men også vurderinger, personkarakteristikker, prosjektbeskrivelser, ansatt- og studentopplysninger og data som ikke er anonymisert. Er du usikker, bruk et KI-verktøy godkjent av universitetet ditt.
Retningslinjene sier blant annet:
Ikke legg inn andres tekster, som fagfellevurderte artikler eller bøker, i kommersielle tjenester, selv om du har tilgang via biblioteket.
Ikke del personopplysninger (navn, kontaktinfo, helseopplysninger o.l.) i kommersielle KI-verktøy.
Ikke last opp interne dokumenter som møtenotater, prosjektbeskrivelser og foreløpige data i ikke-godkjente verktøy.
Studentarbeider skal ikke deles med KI-modeller uten frivillig samtykke fra den enkelte student.
Derimot kan du bruke:
Open Access-artikler og egne data, også i kommersielle tjenester, så lenge det er i tråd med interne retningslinjer.
Offentlig tilgjengelig materiale, som NOU-er, offentlige dokumenter og åpne artikler, både i lukkede og åpne KI-verktøy, hvis lisensbetingelsene tillater det.
Anonymiserte data, så lenge de ikke kan spores tilbake til enkeltpersoner eller organisasjoner.
La oss se på et eksempel fra vår egen organisasjon: En forsker bruker et KI-verktøy til å analysere og oppsummere artikler og bokkapitler som grunnlag for egen forskning. I slike tilfeller må man være oppmerksom på om materialet er beskyttet av opphavsrett. Hvis dette er usikkert, bør man bruke sikre verktøy som GPT UiO eller Sikt KI-chat. Opplasting av opphavsrettslig materiale i en kommersiell tjeneste kan være ulovlig.
Et annet eksempel, utenfor organisasjonen: En tidligere student ved INN jobber i Storebrand. Hvis en nyansatt laster opp budsjetter, strategiutkast og kundedata i en kommersiell samtalerobot, utgjør det en risiko for virksomheten, kundene og medarbeideren selv. Kommersielle KI-verktøy kan lagre og bruke dataene til å trene modellen eller selge dem videre, med mindre organisasjonen har en særskilt avtale som forhindrer det.
Det holder altså ikke bare å ha riktige verktøy – vi må også utvikle gode vaner for trygg KI-bruk. Det innebærer å fjerne navn fra data, tenke gjennom hva slags tekst vi legger inn, hvem som har opphavsretten, og når vi kan navigere trygt i åpne verktøy.
Når det gjelder ut-data – altså det vi får tilbake fra KI – må vi huske at teknisk datasikkerhet ikke er det samme som faglig kvalitet. En lukket og datasikker tjeneste beskytter informasjonen du legger inn, men det er fortsatt du som må vurdere om svaret holder mål. KI gir deg forslag, ikke fasiter.
Vanlige svakheter i KI-svar inkluderer overgeneralisering, hallusinasjoner (oppdiktet informasjon), språklig profesjonalitet uten faglig substans, manglende forståelse for nyanser, og innbygde skjevheter fra treningsmaterialet. Derfor bør vi stille kritiske kontrollspørsmål: Har KI-en oppgitt reelle kilder? Stemmer svaret med kildene? Hvordan kan jeg kvalitetssikre dette?
I undervisning og forskning må vi bruke KI som en samtalepartner – ikke en autoritet. Den kan gi ideer, starte prosesser og forbedre språk, men den kan ikke erstatte faglige vurderinger.
Fremover bør vi forme og bruke KI etter våre egne behov, for eksempel ved å utvikle og dele gode ledetekster eller lage fagspesifikke KI-assistenter. For å få til dette må fagpersoner og teknologer samarbeide.
Til syvende og sist handler det om å navigere trygt i både lukkede og åpne verktøy, vite når man kan bruke hva, og huske at ansvaret for hva vi legger inn – og hvordan vi tolker det vi får ut – alltid ligger hos oss.