Last ned brevet som pdf

Innledning

Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT) viser til henvendelsen fra Osman Kibar, Dagens Næringsliv, 9. september 2013 vedrørende utvikling og finansiering av overvåkningsteknologi. NENT er bedt om å ta stilling til følgende spørsmål:

”1. Er aktivitetene til Squarehead Technology i konflikt med de forskningsetiske retningslinjene dere har skissert?

2. Da selskapet ble etablert, var ikke overvåkning hovedfokus. Burde Forskningsrådet og Innovasjon Norge fortsette å finansiere dette selskapet, etter at det har snudd sin orientering fra mer sivile bruksmuligheter (sportsarrangementer, konferanser) til sikkerhetsmessige/militære i det internasjonale overvåkningsmarkedet?

3. Hvilke temaer bør Forskningsrådet vurdere når det får søknader fra overvåkningsselskaper på bordet fremover, hva bør rådet kreve av selskaper som retter seg mot dette markedet som en forutsetning for å gi støtte?”

NENT er et rådgivende organ i forskningsetikk innen sine fagområder, og skal blant annet gi råd og anbefalinger i konkrete saker som forelegges den. Komiteen diskuterte saken på møte 25. november. Komitéleder Dag E. Helland meldte seg inhabil i saken og forlot møtet under diskusjonen av henvendelsen.

Forskningsetiske retningslinjer

Spørsmål 1) dreier seg om hvorvidt aktivitetene til selskapet er i konflikt med Forskningsetiske retningslinjer for naturvitenskap og teknologi, utviklet av NENT.

Feltet forskningsetikk inneholder mange elementer. Forskningsetikken dreier seg om relasjonene forskere imellom og relasjonen mellom forskere og andre mennesker. Samtidig understreker forskningsetikken at forskningen har et videre samfunnsansvar – et ansvar som går utover det ansvaret forskere har overfor de som utforskes. Forskningsetiske retningslinjer for naturvitenskap og teknologi søker å dekke alle disse elementene for alle som befatter seg med forskningsvirksomhet.

Det er flere punkter om forskernes samfunnsansvar i NENTs retningslinjer som kommer til anvendelse i denne saken. I pkt 7 i retningslinjene heter det blant annet følgende:

Forskeren har et ansvar for å foreta en kritisk vurdering av hvorvidt egen forskning direkte eller indirekte vil kunne komme samfunnet til gode. Forskeren har et selvstendig ansvar for at forskningen direkte eller indirekte vil kunne komme samfunnet til gode og for å sikre at den ikke gjør skade. Forskeren har derfor plikt til å være kritisk overfor valg av tema og forskningsstrategi.

Her oppstilles for det første prinsippet om ikke-skade; at forskningen ikke skal påføre skade. For det andre legges det til grunn at det hører til forskerens ansvar å bestrebe seg på at forskningen skal komme samfunnet til gode, direkte eller indirekte. Kravet henger sammen med forskningens betydning i samfunnet. Der forskningen er finansiert av offentlige midler, får kravet om samfunnsnytte ekstra vekt. Det er rimelig at de som betaler for forskning får noe igjen.

I pkt 1 heter det:

Forskningen skal være i overensstemmelse med menneskerettighetene: Forskningen må ikke bryte med de rettighetene som er nedfelt i internasjonale konvensjoner om sivile, politiske, økonomiske, sosiale og kulturelle menneskerettigheter.

I pkt 4 heter det:

Forskningen skal bidra til og ta del i demokratisk utvikling… Der vitenskapelig og teknologisk utvikling kan misbrukes til å svekke individenes selvbestemmelse, menneskeverd og demokratiske rettigheter skal forskere bestrebe seg på å hindre og ikke bli delaktige i slik misbruk av forskningen.

Punkt 1 og 4 angir dermed mer spesifikt hva det innebærer at forskningen kommer samfunnet til gode, direkte eller indirekte, og hva skade kan bety i denne sammenhengen.

Retningslinjene er rådgivende og er blant annet ment å stimulere forskeren til egen refleksjon. Bredden i innholdet innebærer at de enkelte bestemmelsene har ulik form; noen uttrykker ubetingede påbud eller forbud (for eksempel krav knyttet til personvern), mens andre beskriver ideelle målsetninger som forskningen bør søke å nå. Retningslinjene som omhandler forskerens samfunnsansvar faller i den siste kategorien. Spørsmålet om hvorvidt aktivitetene og handlingene til forskningsaktøren (bedriften) og forskningsfinansierende instanser er i konflikt med etiske retningslinjer blir derfor primært et spørsmål om å vurdere prosessen i utviklingen av teknologien og salget av den. Mer bestemt mener komiteen at det er relevant å vurdere hvorvidt målsetningene som beskrives er tatt i betraktning, og i hvilken grad man har søkt å tilpasse aktivitetene til disse målsetningene.

Etisk vurdering av selskapets aktiviteter

NENTs vurdering av forskningen er begrenset til forskningsaktivitetene ved Squarehead Technology AS, og vurderingene er gjort på bakgrunn av en redegjørelse fra selskapet. Det er innvilget unntak fra offentligheten for denne redegjørelsen (jf forvaltningslovens § 13 første ledd, nr 2), da det antas at det er av konkurransemessig betydning å hemmeligholde opplysninger i redegjørelsen.

Squarehead Technology AS forsker på og utvikler såkalte mikroarraystemer. Systemet innebærer at man kan zoome inn og ta opp enkeltsamtaler på store, støyende plasser. På lengre avstander er mulighetene for å skille mellom flere lydkilder færre, men det er mulig dersom det kun er et begrenset antall personer som snakker. I alle tilfeller tillater teknologien at man kan foreta lydanalysering slik at man kan karakterisere lyden (latter, aggresjon, sang, etc.) man tar opp.

Når det gjelder formålet med overvåknings- og sikkerhetsteknologien, sier selskapet at det sentrale, i tillegg til det forretningsmessige, er utviklingen av verktøy og utstyr for bekjempelse og oppklaring av kriminalitet, herunder vinningsforbrytelser, overgrep og terror. Selskapet uttrykker at de også ønsker å bidra med produkter som kan sikre mennesker, bygninger og andre verdier. Som eksempel nevnes at en retningsstyrt mikrofon vil kunne sikre målrettet avlytting. Et annet eksempel er muligheten til å avverge vold fra innsatte i fengsler, idet systemet vil kunne analysere lyd og oppdage aggressiv atferd før en konflikt eskalerer.

Overvåkningsteknologi til sivil bruk reiser en del etiske problemstillinger som bør adresseres. Teknologien kan også brukes på en måte som svekker individers selvbestemmelse, menneskeverd og demokratiske rettigheter. Det kan skje dersom det foretas registrering av atferd uten å informere om dette på forhånd, og særlig dersom opptakene skal lagres og brukes av ulike aktører uten samtykke fra dem det gjelder. På et mer overordnet plan reises spørsmål knyttet til tillit til teknologi og forskning. I den grad det utvikles og brukes teknologi som er egnet til å undergrave individers grunnleggende rettigheter, vil tilliten til forskning og teknologi også være skadelidende.

I sin søknad om BIA-midler til Forskningsrådet skriver Squarehead Technology AS at man må forsøke å finne den rette balansen mellom sikkerhet på den ene siden, og personvern på den andre siden. NENT vil i den forbindelse bemerke at det ikke er en enkel balansegang. Mens personvern i stor grad handler om enkeltindividers rettigheter, er sikkerhet snarere å anse som et gode. Avhengig av etisk ståsted vil enkelte mene at en del personvernhensyn er absolutte, og at de ikke kan settes til side uansett hvor stort gode man mener å oppnå ved å gjøre det. Komiteen oppfordrer forøvrig selskapet til å sette seg inn i utviklingene i EU når det gjelder databeskyttelseslovgivningen, ikke minst såkalt Privacy Impact Assessments. Forslaget til nytt datareguleringsdirektiv går langt i å gjøre slike vurderinger obligatoriske for en stor del produktutvikling og innovasjonsaktiviteter.

Når det gjelder salget av overvåkningssystemet, reises ytterligere spørsmål knyttet til forskerens ansvar for den videre bruken av forskningen og teknologiutviklingen. NENTs utgangspunkt er at det er relevant å vurdere forskerens ansvar, også når det gjelder bruksområdet for en gitt teknologi. Forskeren har et særlig ansvar der teknologien kan tenkes å brukes innenfor kontroversielle områder, eller ved utviklingen av en teknologi der som kan brukes til flere formål (såkalt ”dual use”). Overvåkningsteknologien som er utviklet av selskapet kan misbrukes og brukes til kriminelle formål. I hendende på totalitære regimer som forfølger, fengsler og torturerer dissidenter og kritikere av regimet, er det ikke urimelig å forestille seg at teknologien kan benyttes utover det uttalte formålet, å bekjempe terror og kriminalitet.

Dette fordrer at forskere på forhånd utvikler strategier for å minimere risikoen for misbruk. Dersom konsekvensene av misbruk er store og alvorlige og sannsynligheten for misbruk er vesentlig, bør man helt avstå fra å selge produktene. Anses risikoen for å være mindre, kan det være tilstrekkelig å modifisere produktene. I alle tilfeller er det helt vesentlig å sikre en god prosess når disse vurderingene skal gjøres. Som en del av risikoanalysen må det vurderes grundig hvem man selger produktene til og hvem som dermed kan tenkes å få tilgang til dem.

Selskapet sier det er besluttet å selge overvåkingsutstyret til offentlige etater, og ikke i et åpent marked, for slik i størst mulig grad å kunne forsikre seg om at sluttbrukerne benytter teknologien innenfor gjeldende lovgivning. Selskapet hemmeligholder imidlertid hvilke land de selger til og begrunner dette ved å vise til kundenes behov, og at offentliggjøring vil kunne svekke en enhets fordeler i kampen mot kriminalitet. Mangel på åpenhet og innsyn om virksomhetenes kunder har imidlertid en del problematiske sider utover det selskapet selv påpeker, nemlig at dette vil kunne skape spekulasjoner om selskapets virksomhet. Først og fremst medfører hemmeligholdet at selskapets beslutninger er unntatt informerte kritiske spørsmål og at selskapet dermed i stor grad er overlatt til sine egne etiske vurderinger når vanskelige beslutninger skal tas.

Selskapet uttrykker i brevet til NENT at de benytter en tilnærming som også benyttes av Etikkrådet til Oljefondet, der det gjøres vurderinger i henhold til proporsjonalitetsprinsippet. Som antydet over, er slike avveiinger kompliserte og krever solid faktakunnskap, etisk kompetanse og god skjønnsutøvelse. Det sies at selskapet har begrensede ressurser til å foreta slike vurderinger, og at de derfor i stor grad støtter seg på offentlige retningslinjer. Disse vil ikke alltid være oppdaterte eller relevante. Dette gjør at selskapet desto mer er avhengig av råd og innspill fra andre instanser når etiske vurderinger skal foretas. NENT anbefaler at selskapet fortløpende vurderer behovet for uavhengige vurderinger. Råd og innspill fra andre instanser bør innhentes når en nyansert analyse er særlig påkrevd, som når selskapet skal utvikle teknologi som kan ha både sivile og militære bruksområder og når slik teknologi skal selges til andre aktører.

Ansvaret til instanser som finansierer forskning

Spørsmål 2) handler om hvorvidt Forskningsrådet og Innovasjon Norge burde ha fortsatt å finansiere selskapet etter at det snudde sin orientering fra mer sivile bruksmuligheter (sportsarrangementer, konferanser) til mulig sikkerhetsmessig/militær bruk. Spørsmål 3) er av mer fremoverskuende art, og det spørres om hvilke temaer Forskningsrådet bør vurdere når det får søknader fra overvåkningsselskaper på bordet fremover, og hva Forskningsrådet bør kreve av selskaper som retter seg mot dette markedet som en forutsetning for å gi støtte.

Komiteen finner det hensiktsmessig å besvare de to spørsmålene samlet, da begge i hovedsak dreier seg om hvilke krav instanser som finansierer forskning skal stille til søkere fra overvåkningsselskaper.

Komiteen har innhentet redegjørelser fra henholdsvis Forskningsrådet og Innovasjon Norge, der de særlig bes om å redegjøre for hvilke etiske vurderinger som lå til grunn da Squarehead Technology AS fikk innvilget støtte. I Forskningsrådet er det skattefradragsordningen SkatteFUNN og programmet Brukerstyrt innovasjonsarena (BIA) som har gitt økonomiske støtte til Squarehead Technology. SkatteFUNN-sekretariatet opplyser om at de kun vurderer FoU-innholdet i søknadene. Så lenge bedriftene opererer i henhold til norsk lov vil det ikke gjennom SkatteFUNN være anledning til å avstå fra å gi støtte. Komiteen registrerer at ordningen dermed først og fremst er en refusjonsordning, og at systemet legger opp til at det er forskeren alene som har ansvar for å påpeke forskningsetiske utfordringer. Fra BIA opplyses det om at prosjekter vurderes i flere trinn og at Forskningsrådets administrasjon vurderer prosjektet i henhold til blant annet etikk og samfunnsansvar. Forskningsrådet opplyser for øvrig om at forskningsetiske retningslinjer utgjør et rammeverk for Forskningsrådets arbeid generelt og i vurderingen av søknader spesielt. Som en hovedregel skal det i søknaden redegjøres for relevante etiske spørsmål og Forskningsrådet kan avvise søknader som ikke oppfyller grunnleggende krav.

I dette tilfellet vurderte Forskningsrådet den samfunnsøkonomiske nytteverdien til å være meget god med følgende begrunnelse: ”Teknologien er tenkt brukt i konkrete overvåkningssituasjoner i fengsler/institusjoner og kan ha nytte for det sivile samfunnet og for offentlig sektor” (side 4 i brev 24.09.2013). I tillegg påpekes det at prosjektet også kan bygge mer kunnskap i FoU-miljøer, da det skal ansettes en stipendiat eller postdoc. Det opplyses videre om at prosjektet ble vurdert å følge de forskningsetiske retningslinjene, og da spesielt kravet om at forskningen ikke skal ha diskutable militære/forsvarsmessige implikasjoner (jf Forskningsetisk sjekkliste). Det ble konkludert med at man i søknaden hadde tatt tilstrekkelig hensyn til de etiske implikasjonene av teknologien.

Innovasjon Norge uttaler at det ved alle søknader om finansiering gjøres en vurdering av kundens samfunnsansvar. I dette tilfellet ble selskapets teknologi vurdert dit hen at den kunne misbrukes av enkelte aktører. Samtidig ble selskapets bevissthet om etiske utfordringer ved teknologien ansett som tilfredsstillende. Det opplyses om at det ble stilt krav om at selskapet skulle implementere oppdaterte etiske retningslinjer. Det er imidlertid uklart for komiteen hvilke etiske retningslinjer det her siktes til, og om dette ble fulgt opp.

NENT mener det er helt vesentlig at instanser som finansierer forskning har et tydelig fokus på etikk. Ansvaret for å ivareta forskningsetiske hensyn tilligger ikke kun forskeren, men også bevilgende myndigheter. Det betyr at prosjekter som vurderes støttet også må vurderes i henhold til relevante forskningsetiske utfordringer, og nasjonale og internasjonale forskningsetiske retningslinjer må legges til grunn for vurderingene. Komiteen vil for øvrig minne om sin rolle som en nasjonal rådgivende instans i forskningsetikk innenfor naturvitenskap og teknologi, og oppfordrer til konferering og dialog der kompliserte spørsmål oppstår.

Det bør være et krav om at forskere klart angir bruksområdene for teknologien – både den bruken som er intendert og som oppgis å være formålet med teknologiutviklingen, og den bruken som ikke er intendert, men der man med rimelighet kan tenke seg at slik bruk kan forekomme. De som finansierer forskning bør etterspørre slik informasjon, dersom den ikke fremkommer i søknaden. I vurderingen av hvorvidt bruksområdene er akseptable, bør et bredt spektrum av etiske hensyn inkluderes; hensyn til enkeltpersoner, så vel som hensyn til samfunn og miljø. Videre bør det stilles krav om at forskere bestreber seg på å hindre og ikke bli delaktige i misbruk av forskning og teknologiutvikling. Komiteen mener for øvrig at vurderingen av prosjekter ikke bør stoppe ved bevilgningen; dersom det blir klart at det oppstår vesentlige endringer i for eksempel bruksområdet som reiser nye forskningsetiske problemstillinger, bør den opprinnelige vurderingen suppleres.

NENT forstår det slik at Forskningsrådet først og fremst har lagt Forskningsetisk sjekkliste, utarbeidet av NENT, til grunn, og ikke Forskningsetiske retningslinjer for naturvitenskap og teknologi. Mens sjekklisten kan være nyttig som en innføring i de mest sentrale spørsmål som bør stilles i forkant av et forskningsprosjekt, anbefaler komiteen at man fremover i større grad gjør seg kjent med Forskningsetiske retningslinjer for naturvitenskap og teknologi, som er langt mer utfyllende når det gjelder forskernes ansvar og forskningsetiske hensyn for de fagområdene komiteen dekker. Det er også utviklet egne forskningsetiske retningslinjer for samfunnsvitenskap, humaniora, juss og teologi av Den nasjonale forskningsetiske komité for samfunnsvitenskap og humaniora (NESH).

Konklusjoner

NENTs vurderinger kan oppsummeres som følger:

  1.  Aktivitetene til selskapet reiser etiske utfordringer knyttet til forskerens samfunnsansvar, slik det særlig er beskrevet i Forskningsetiske retningslinjer for naturvitenskap og teknologi, pkt 1, 4 og 7. Heller enn å snakke om rene brudd på disse punktene i retningslinjene, mener komiteen det er relevant å vurdere hvorvidt målsetningene som er beskrevet er tatt i betraktning og i hvilken grad man har søkt å tilpasse aktivitetene til disse målsetningene. NENT vurderer det slik at selskapet til en viss grad har vurdert målsetningene som beskrives, og at det også er gjort forsøk på å tilpasse produktet og salget av mikroarraysystemet til disse målsetningene. Samtidig legger komiteen til grunn at denne teknologien kan brukes på måter som krever særskilt grundige vurderinger. Gitt at selskapet selv besitter begrensede ressurser for å foreta slike vurderinger, anbefaler NENT at det rutinemessig innhentes uavhengige råd og innspill når selskapet utvikler teknologi som kan ha både sivile og militære bruksområder, og når slik teknologi skal selges til andre aktører.
  2. Instanser som finansierer forskning bør ha et tydelig fokus på etikk og komiteen anser at det viktigste i denne sammenhengen er å legge til rette for gode prosesser der det skapes rom for solide forskningsetiske vurderinger. I redegjørelsene fra Forskningsrådet og Innovasjon Norge beskrives langt på vei slike prosesser. Samtidig er det noe uklart for komiteen hvem som faktisk gjør disse vurderingene og hvilke (forsknings)etiske retningslinjer som legges til grunn. Instansene bør innhente råd i kompliserte saker, og de som gjør vurderingene bør kjenne til og anvende Forskningsetiske retningslinjer for naturvitenskap og teknologi, eventuelt andre relevante retningslinjer.
  3. I vurderingen av forskning og teknologi generelt og overvåkningsteknologi spesielt, bør det stilles krav med hensyn til oppgitte og mulige bruksområder. I vurderingen av hvorvidt bruksområdene er akseptable, bør et bredt spektrum av etiske hensyn inkluderes: hensyn til enkeltpersoner, så vel som hensyn til samfunn og miljø. Det bør videre stilles krav om at forskere utvikler strategier for å minimere risiko for skade og misbruk.

På vegne av Den nasjonale forskningsetiske komité for naturvitenskap og teknologi,

Helene Ingierd
Sekretariatsleder, NENT

Svein Nordenson,
Medlem, NENT