Artikkelen har tittelen “Cognitive technology development and end-user involvement in the Norwegian petroleum industry – Human factors missing or not?”, og har utspring fra et prosjekt Safetec gjorde i 2021.

– Publiseringen i et så prestisjetungt tidsskrift viser at flere av Safetecs prosjekter både har akademisk og praktisk relevans, sier medforfatter og senior sikkerhetsrådgiver i Safetec, Jørgen Ernstsen.

• Her er linken til Safety Science.

Involvering av sluttbrukeren

Forskningen ser på implementeringen av kunstig intelligens i petroleumsindustrien, spesielt kognitive teknologier og maskinlæring. I studien fant forskerne blant annet at sluttbrukerinvolvering ofte er fraværende i de tidligste fasene av algoritmeutvikling, og at det er usikkerhet knyttet til når og hvordan sluttbrukeren bør involveres.

– Funnene fra denne studien setter søkelyset på viktige problemstillinger når det kommer til å utnytte maskinlæring i operasjoner med storulykkespotensiale. Fra et praktisk perspektiv så vil det være særlig viktig å forstå når i utviklingen av maskinlærte datamodeller sluttbruker skal involveres, og på hvilken måte dette bør gjøres på, forklarer Ernstsen.

– Det å få sluttbrukere av ny teknologi involvert tidlig i designfasen, er avgjørende for at menneskene skal kunne bruke teknologien på en sikker og god måte. Menneskets begrensninger må tas hensyn til i utviklingen for å unngå å bygge inn feilfeller som kan bidra til økt risiko, sier han.

Ønsker tydeligere regelverkskrav

Det kommer også frem i studien at tilgangen til sluttbrukerkompetanse raskt vil bli en knapp ressurs i prosjekter, og spesialiserte underleverandører som utvikler datamodellene ender raskt ned på prioriteringslista over tilgang til sluttbrukere.

– Det kan derfor være særlig viktig at regelverkskrav brukes til å gi risikoeierene insentiver til å tilgjengeliggjøre den knappe sluttbrukerressursen også for utviklerne av maskinlærte datamodeller, sier Ernstsen.

At Safetec nå har fagpersoner med stor kunnskap om disse problemstillingene og spesialkompetanse på området, har allerede vekket interesse fra nye kunder.

– Vi er allerede i dialog med kunder som er interesserte i å se på hvordan de kan dra nytte av dette. På land brukes datamodeller i analyser, men i den skarpe enden ute på en plattform er det andre krav til rask tolkning av output fra datamodeller, sier Jens Christen Rolfsen i Safetec.