Viðauki A – Leiðbeiningar, áhættustjórnun

Gervigreind:

• Hefur enga siðferðiskennd.
• Getur viðhaldið eða magnað upp hlutdrægni sem finnst í þjálfunargögnum (t.d. varðandi kyn, uppruna, o.s.frv.).
• Getur gefið rangar eða villandi upplýsingar („ofskynjanir”).
• Getur byggt niðurstöður á úreltum, ófullnægjandi eða óyfirförnum gögnum sem geta veitt óáreiðanlegar upplýsingar um nýjustu þróun eða staðreyndir.

Notendur skulu því:

• Gagnrýna og sannreyna: Staðfesta allar upplýsingar, tölulegar niðurstöður og tilvísanir með traustum, uppfærðum heimildum.
• Tryggja gæði og samhengi: Gæta þess að úttak sé rökrétt, samhangandi og uppfylli fagleg viðmið og hæfniviðmið verkefnis.
• Leiðrétta villur og hlutdrægni: Vera meðvitaðir um villur, kerfisbundna hlutdrægni eða mögulega úrelta þekkingu og leiðrétta slíkt.
• Taka ábyrgð: Axla fulla ábyrgð á innihaldi og siðferðilegum þáttum tengdum efninu, líkt og um eigin verk væri að ræða.

Slíkt framlag felur meðal annars í sér:

• Upphaflega hugmyndavinnu og skilgreiningu rannsóknarspurningar eða markmiðs.
• Þróun eigin röksemdafærslu, túlkunar eða greiningar.
• Skipulag og uppbyggingu verksins.
• Hönnun markvissra og ígrundaðra fyrirmæla (prompts).
• Gagnrýnt val, úrvinnslu og samþættingu úttaks gervigreindar.
• Túlkun gagna eða niðurstaðna, jafnvel þótt gervigreind hafi aðstoðað við gagnavinnslu.

Telst ekki verulegt framlag:

• Að nota aðeins almenn eða óútfærð fyrirmæli (prompts) til gervigreindar án þess að styðja við þau með sjálfstæðri greiningu, úrvinnslu eða ígrunduðum breytingum á niðurstöðum líkansins.
• Að afrita og skila hráu, lítt breyttu eða óyfirförnu úttaki gervigreindar og kynna það sem eigin verk.

Ítarlegri lýsing er nauðsynleg ef:

• Gervigreind hafði veruleg áhrif á niðurstöður eða aðferðafræði.
• Hún var notuð til að skrifa kóða, framkvæma gagnaúrvinnslu, búa til myndefni eða þróa kjarnaröksemdir.
• Niðurstöður byggja á úttaki gervigreindar að því marki að endurgerð (reproducibility) getur krafist að fyrirmæli (prompts), útfærslur eða stillingar séu skráðar og afhentar sem viðauki, í aðferðafræðikafla eða í viðbótargögnum, eftir því sem við á. Þetta á sérstaklega við í rannsóknum og verkefnum þar sem gagnsæi aðferðafræði og möguleiki á endurtekningu er mikilvægur.

Markmiðið er að tryggja að matsaðilar geti skilið, metið og, ef nauðsyn krefur, endurgert vinnsluferlið og niðurstöður.

Athugið: Umfang gagnsæis skal vera sambærilegt því sem krafist er við notkun sérhæfðra verkfæra (t.d. tölfræðiforrita) eða aðstoðar samstarfsfólks. Sérstakar kröfur námskeiða og verkefnaleiðbeininga ganga framar.

Tilgangur

HA skal framkvæma reglubundið hættumat vegna nýrra eða breyttra gervigreindarverkfæra sem notuð eru í námi, kennslu, rannsóknum, stoðþjónustu eða stjórnsýslu. Markmiðið er að stuðla að ábyrgu innleiðingarferli í samræmi við áherslur stefnunnar og alþjóðleg viðmið, sérstaklega kröfur samkvæmt EU AI Act (2024) og GDPR.

Lýsing á áhættumati

HA skal nýta einfalt og skilvirkt áhættumatslíkan þegar ný verkfæri eru tekin í notkun eða verulegar breytingar verða á núverandi kerfum.

Sex meginflokkar skulu skoðaðir og metnir á kvarða frá 1 (lítil áhætta) upp í 5 (mjög mikil áhætta):

Við mat á áhættu skal jafnframt skoða:

• Eðli og umfang notkunar (t.d. í kennslu, stjórnsýslu, rannsóknum).
• Möguleika til að milda áhættu (t.d. með mannlegu eftirliti, skýrum ferlum, takmörkun aðgangs o.fl.).

Áhættumat skal skjalfest og varðveitt af verkefnastjóra gervigreindar.

Ákvörðun og ráðstafanir

Ef áhættumat leiðir í ljós háa eða mjög háa áhættu (stig 4 eða 5 á einhverjum flokki) skal:

• Framkvæma ítarlegra mat í samráði við öryggis- og persónuverndarteymi HA.
• Tryggja skýra samþykkt stjórnenda áður en innleiðing fer fram.
• Setja skýrar reglur um notkun og mannlegt eftirlit.

Ef áhættan telst lág til miðlungs (stig 1–3) má halda áfram með innleiðingu samkvæmt almennum ferlum og skilyrðum stefnunnar.

Meðferð á grun um misnotkun

Ef grunur vaknar um að nemandi hafi notað gervigreind á óleyfilegan hátt skal fylgja þeim reglum sem gilda um brot á akademískum heiðarleika við Háskólann á Akureyri.

Háskólinn á Akureyri notar sjálfvirk greiningartæki (s.s. Turnitin) til að greina mögulegan ritstuld. Hins vegar er viðbótarvirkni slíkra kerfa til að greina uppruna texta með tilliti til gervigreindar talin óáreiðanleg og skal því ekki notuð sem grundvöllur ákvarðana um brot tengd notkun gervigreindar.

Rannsóknir (Mobin & Islam, 2025) styðja þetta varúðarsjónarmið og sýna að jafnvel öflugustu kerfi geta verið óáreiðanleg, sérstaklega þegar textar eru frá ólíkum uppruna eða módelum. Því geta niðurstöður verið villandi (false positives) eða sleppt raunverulegum brotum (false negatives).

Áhersla á faglegt mat

Í stað þess að reiða sig á sjálfvirka tækni skal leggja mat á aðstæður með faglegri innsýn og beinu samtali við nemanda, t.d. með munnlegri yfirferð eða spurningum um vinnuferlið. Traust, fagmennska og samræmi skulu vera leiðarljós í meðferð málsins.