<strong>SKREMMENDE:</strong> - Jeg ble kjempeskremt, sier administrerende direktør Heidi Arnesen Austlid over resultatet av ansiktsanalysen hun testet på verdens største teknologimesse SXSW i USA. Foto: IKT-Norge
SKREMMENDE: - Jeg ble kjempeskremt, sier administrerende direktør Heidi Arnesen Austlid over resultatet av ansiktsanalysen hun testet på verdens største teknologimesse SXSW i USA. Foto: IKT-Norge Vis mer

Vettskremt av ny maskin: «Lovbryter»

Den avanserte teknologien skulle definere personlighet ut fra et bilde. Opplevelsen ble særdeles skremmende.

Publisert
Sist oppdatert

- Jeg ble kjempeskremt. Plutselig var det noen som definerte meg som noe jeg overhodet ikke kjente meg igjen i, sier administrerende direktør Heidi Arnesen Austlid.

Toppsjefen i bransje- og interesseorganisasjonen IKT-Norge deltok på konferansen South By Southwest (SXSW) i Austin i Texas da hun fikk seg en real bakoversveis.

<strong>«DØMT»:</strong> Ifølge denne analysen tilsier bildet at Austlid er en dårlig person. Foto: Privat
«DØMT»: Ifølge denne analysen tilsier bildet at Austlid er en dårlig person. Foto: Privat Vis mer

- Jeg testet ut et program for ansiktsgjenkjennelse. Basert på kunstig intelligens skulle programmet definere personlighetstrekk ut fra et bilde. Resultatene var sjokkerende, sier Austlid.

Hadde jetlag, men …

Så overrasket ble IKT-Norge-direktøren at hun måtte gjenta testen. Tre ganger kjørte hun analysen. Det ble ikke bedre av den grunn.

<strong>«EKLING»:</strong> Denne bildeanalysen mener at Austlid er en «ekling».Foto: Privat
«EKLING»: Denne bildeanalysen mener at Austlid er en «ekling».Foto: Privat Vis mer

Lovbryter, skadevolder, domfelt, creep (ekling) og weirdo (snåling).

Det var noen av karakteristikkene som kom ut fra bildeanalysen.

- Riktig nok hadde jeg skikkelig jetlag, men likevel, sier Austlid.

Hun forteller om den skremmende testen etter at Børsen har spurt om et intervju om kunstig intelligens.

<strong>«UVANLIG»:</strong> Litt mildere i dommen denne gangen, men fortsatt en «uvanlig» person. Foto: Privat
«UVANLIG»: Litt mildere i dommen denne gangen, men fortsatt en «uvanlig» person. Foto: Privat Vis mer

- En enkel lærdom av denne opplevelsen er vel at kunstig intelligens må kombineres med menneskelig intelligens. Vi må ikke slutte å bruke hodene våre. Og vi må ha med oss det norske verdigrunnlaget i møte med all teknologiutvikling, sier Austlid.

Advarer

Skal man tro norske ingeniører og teknologer som jobber med utvikling av kunstig intelligens, er det et stykke fram til den bevisstgjøringen Austlid etterlyser.

Fire av ti ingeniører som er involvert i arbeid med kunstig intelligens mener nemlig at deres bedrift har for liten oppmerksomhet på mulige systematiske skjevheter som kan oppstå. Tallene avdekkes i en undersøkelse NITO har gjennomført blant sine medlemmer.

Det kan gi uheldige utslag, for eksempel ved ansettelser, advarer organisasjonen:

- Kunstig intelligens baserer seg i stor grad på maskinlæring og bruk av store datasett fra den virkelige verden. Derfor risikerer vi å reprodusere og forsterke skjevheter. Det betyr at man kan gjenta tidligere valg eller prioriteringer, for eksempel hvis man bruker det i ansettelser. Enkelt sagt kan forslaget fra maskinen være en person som er lik de man har ansatt før. Det kan hindre mangfold knyttet til eksempelvis alder, kjønn og etnisitet, advarer NITO-president Trond Markussen.

Uklart ansvar

I tillegg til risikoen for feil beslutninger, mener NITO at det er en fare for at tilliten til ny teknologi svekkes.

- På den måten kan vi gå glipp av den enorme nytteverdien som kunstig intelligens kan gi oss i arbeidet med alt fra bærekraft til effektivitet, sier Markussen.

- Dine medlemmer mener etikk har for liten oppmerksomhet. Hvor svikter det?

- Kunstig intelligens har kommet så raskt inn i norsk Arbeids- og næringsliv at man rett og slett ikke har rukket å ta en pust i bakken og vurdere hvordan man skal sette etikk på dagsorden. Kanskje tenker man ikke over det før det en dag går galt. Vår erfaring er at det ofte er uklart hvem sin oppgave det er å stille spørsmål ved om grunnleggende etiske hensyn er vurdert, sier NITO-presidenten.

Utfordrer giganter

Regjeringen la nylig fram en strategi for kunstig intelligens.

- Her lanseres sju etiske prinsipper, og det er bra. Men planen gir ikke svar på hvordan dette skal endre praksis på den enkelte arbeidsplass. Vi er spent på hvordan dette feltet blir framover, nå etter statsrådsbyttet. Vi hadde god dialog med Nikolai Astrup, som har vist god innsikt i tematikken, sier Markussen.

FREMTIDEN?: Eirik Norman Hansen har operert inn en databrikke i hånda. Han mener at i fremtiden kan vi se en verden hvor chipping blir like vanlig som å klippe navlestrengen. Video: Nicolai Delebekk Vis mer

Han mener også at Norge må bli tøffere i klypa overfor internasjonale giganter:

- Jeg ønsker at regjeringen utfordrer de store internasjonale plattformene mer. Facebook har avslørt at de forbyr såkalt deepfakes, som er en form for avansert videomanipulering. Samtidig er de motvillige til å dele data om overgrep. Som land må vi ikke gi fra oss viktig selvråderett til disse plattformene. Makten de har bør begrenses, sier Markussen.

Barn deler ukritisk

IKT-Norge-direktør Heidi Arnesen Austlid deler noe av den samme bekymringen:

- Vi må dele en del data for å tilpasse kunstig intelligens. Men Norge har et helt annet verdigrunnlag enn Kina og USA, som er de fremste i å utvikle kunstig intelligens. Så det er veldig viktig at vi er bevisst på hva vi deler, understreker hun.

Medietilsynets årlige undersøkelse «Barn og medier» som nylig ble lagt fram, avdekker at 95 prosent av alle norske barn og unge i alderen 9-18 år bruker YouTube, 80 prosent bruker Snapchat, 65 prosent TikTok, 65 prosent Instagram og rundt halvparten Facebook.

- Barna har det kjempegøy. De skaper, samarbeider og lærer seg nye ting. Men det de leverer vekk av data, det kan det brukes til ting som er utilsiktet og med uheldig sider. De diskusjonene må vi våge å ta. Jeg har ikke noe svar, men svaret er ikke å forby, sier Austlid.

Avgjørende mating

Austlid ønsker seg en debatt om hvordan norske grunnverdier kan ivaretas i møte med kunstig intelligens og annen teknologiutvikling.

- Kunstig intelligens styrker og utvider menneskelige evner, kunnskap og potensial. Det er viktig å huske at kunstig intelligens er menneskeskapt. Derfor er det ekstremt viktig å ha et bevisst forhold til hvem som har skapt den kunstige intelligensen, og hvilke motiver og hensikter de har, sier IKT-Norge-direktøren.

- Hva med NITO-ingeniørenes bekymring for at skjevheter kan forsterkes ved uvettig bruk av kunstig intelligens i ansettelsesprosesser?

- Kunstig intelligens kan like gjerne bidra til å avdekke skjulte fordommer, avskaffe skjev rekruttering og rette opp skjevheter. Vi mennesker kan være notorisk diskriminerende. Hvis vi mater med riktige data og utvikler riktig, kan vi få en mer etisk og nyansert rekrutteringsprosess, understreker Austlid.

Vi bryr oss om ditt personvern

borsen er en del av Aller Media, som er ansvarlig for dine data. Vi bruker dataene til å forbedre og tilpasse tjenestene, tilbudene og annonsene våre.

Les mer