Den økte bruken av KI i akademia har ikke nødvendigvis vært like godt fulgt opp med tilhørende risiko og ansvar hos den enkelte institusjon. Forberedelsene før det nye KI-regelverket må påbegynnes nå, og for å hjelpe institusjonene gjennom det komplekse regelverket, har Direktoratet for høyere utdanning og kompetanse (HK-dir) publisert temarapporten «KI-forordningen kort fortalt». Rapporten forklarer hvordan de nye reglene påvirker alt fra opptak og vurdering til forskning og administrasjon, og er rettet mot ledere og ansatte som anskaffer, utvikler eller bruker KI. Den er også relevant for ledere og ansatte med ansvar for internkontroll og for å følge regelverket.
Ledere på utdanningsinstitusjonene bør gjøre følgende nå:
- Kartlegg all bruk av KI i undervisning, forskning og administrasjon.
- Bygg kompetanse om kravene i den nye forordningen.
- Avklar rollen: Er dere leverandør, idriftsetter eller begge deler?
- Risikovurder systemene etter forordningens kategorier.
- Etabler rutiner og internkontroll for ansvarlig bruk.
Når KI-forordningen trer i kraft, vil flere utdanningsinstitusjoner være idriftsettere eller leverandører av KI-systemer. Leverandørene vil være de som utvikler KI-systemer eller får andre til å utvikle de systemene for seg, mens idriftsettere tar KI-systemene i bruk i egen organisasjon. Pliktene rundt rollene de har vil omfatte eksempelvis spørsmål knyttet til personvern, menneskelig tilsyn og kontroll når det gjelder opptak. Institusjonen må også kunne dokumentere nødvendig og tilstrekkelig kompetanse på KI for å forstå og håndtere risiko.
