En regel om ansvar, inte om verktyg
Sydkoreas ministerium för vetenskap och IKT har fastställt riktlinjer för AI-forskningsetik i nationell forskning och utveckling, efter granskning och godkännande av styrkommittén i det nationella rådgivande rådet för vetenskap och teknik. Den styrande principen är smal och tydlig: i offentligt finansierad forskning är AI:s roll begränsad till verktygets, och ansvaret och rättigheterna till slutresultatet ligger hos forskaren.
Det är en ståndpunkt, inte en självklarhet. Den stänger dörren för försvaret att felet gjordes av modellen, och håller kvar författarskap och ansvar hos en människa.
Sju krav
Riktlinjerna ställer upp sju, enligt Digital Today. Forskaren måste själv kontrollera fel, luckor och källornas tillförlitlighet i det AI:n producerar. Hen måste granska utdata mot sin egen sakkunskap i stället för att godta det. Hen måste redovisa modellen, dess version, syftet och omfattningen av användningen.
Hen måste kunna förklara hur ett AI-stött resultat kom till. Hen måste följa sitt lärosätes egna regler. Hen får inte mata in personuppgifter i externa AI-tjänster och bör använda verktyg som institutionen godkänt. Och bedömare måste värdera inlämnat material helt utan externa AI-tjänster.
Redovisningsregeln är den bärande
Sex av de sju formulerar om professionellt omdöme i ett nytt sammanhang. Den tredje gör något de andra inte gör: den gör modellen och versionen till en del av handlingarna.
Det spelar roll därför att ett resultat framtaget med en version av en modell inte går att upprepa med en annan, och därför att de fel ministeriet räknar upp — felaktig information, återskapad snedvridning, läckta person- eller säkerhetsuppgifter, otydlig källhänvisning — är versionsberoende. Utan redovisningen kan en läsare inte avgöra vilken av riskerna som gällde.
Förbudet vid bedömning
Den sjunde regeln är strängast. Den som bedömer ansökningar inom nationell forskning och utveckling får inte köra materialet genom en extern AI-tjänst. Oron gäller inte bara omdömet utan sekretessen: en opublicerad ansökan som klistras in i en kommersiell chattbot har redan lämnat institutionen.
Vad som händer härnäst
Ministeriet planerar att sprida riktlinjerna och förklarande material till forskningsinstitutionerna, tillhandahålla checklistor för självskattning och skapa redovisningsformulär för AI-användning i forskningsrapporter. Det är där detta blir verkligt. En princip i ett vägledningsdokument är ett råd; en ruta i en obligatorisk rapport är en handling som kan granskas, och den punkt där forskaren skriftligen måste binda sig vid vad maskinen gjorde.
