Report

Meningsfull,menneskelig, kontroll?

Published: 8 Apr 2020
Summary:

Denne rapproten tar for seg konseptet «meningsfull menneskelig kontroll» som har dukket opp som det førende temaet i debatten rundt autonomi og våpensystemer. For å belyse spørsmålet om hva menneskelig kontroll er, hvordan det bør forstås og hvordan man kan «sikre» det må vi tenke nytt rundt forholdet mellom mennesker og maskiner. Ikke bare se maskiner som vertøy som mennesker kan bruke av fri vilje, men snarere se på autonome systemer i sin helhet der de gjensidige relasjonene mellom mennesker og maskin former hverandre og gir opphav til nye måter å tenke og handle på. Altså at både mennesker og maskiner forandres i møte mellom dem. Gitt en slik vinkling åpner man også for muligheten for å belyse dagens debatt om autonomi og kontroll på nye måter. Ikke minst at den utøvende fasen av en operasjon, liv og død-avgjørelser, er et for snevert nedslagsfelt hvis vi skal forstå hva kontroll er og hvordan det utøves. Vikitgheten av dette blir illustrert via en gjennomgang av prosessene og praksisene rundt militær targeting. En prosess der militæret definerer mål og beslutter operasjoner. Gjennom denne illustrasjonen ser man at beslutningstaking ikke bare er ett valg gjort på et bestemt tidspunkt, som avgjørelsen om å sende et missil mot et bestemt mål, men noe som er avledet av en rekke valg gjort over tid. Dette åpner opp for å se på beslutningstaking og dermed også kontroll som et resultat av en rekke praksiser og prosesser, distribuert over flere faser, mellom diverse elementer, der noen valg blir foretrukket fremfor andre. Et slikt fokus setter søkelys på de mer sammensatte og komplekse teknologiske systemene for datainnhenting, analyse og lagring, som spiller en nøkkelrolle i utformingen av valg og beslutninger, men som ofte blir neglisjert. Hvis vi bedre forstår hvordan disse systemene fungerer, hvordan de produserer kunnskap, hva de legger vekt på og hva de utelater, kan vi øke vår forståelse av kontroll og bedre «sikre» de etiske, legale og strategisk-politiske sider ved økende autonomisering av militære teknologier.