Whitebox AI vil løse store problemer

19-06-2018

Statistiske modeller er motoren i kunstig intelligens. Men denne andre kunstig intelligens-bølgen vi er inne i bygger opp beslutningsmodeller mer eller mindre på egenhånd - som «black boxes». Neste bølge blir verktøy med transparente modeller for å løse ekte, store problemer.

Maskinlæring utvikler seg utakt med markedets behov. Det startet på 80- og 90-tallet med regelbasert algoritmer. Datamaskiner ble programmert med regelsett og behandlet data ut i fra dette. Ut kom beslutningsforslag og prognoser, litt som fra en avansert kalkulator.

Nå befinner vi oss et eller annet sted midt i den andre kunstig intelligens-bølgen, som ofte blir kalt statistisk lærings-bølgen.

Se Ulf Schønebergs innlegg under Finansnæringens Digitaliseringskonferanse 2018:

Black box AI

I denne bølgen har vi meget sofistikerte modeller som ikke en gang kyndige ingeniører eller matematikere kan fortelle nøyaktig hvordan virker. Hovedprinsippet er at stordata lærer opp statistiske modeller som produserer algoritmer som kan klassifisere nye data - såkalte klassifikatorer. Når du mater algoritmene med data vil de produsere saker du kan bruke som for eksempel beslutningsgrunnlag.

De er som svarte bokser og blir internasjonalt betegnet som «black box AI», hvor AI står for artificial intelligence.

– Det kjedelige er at modellene er svært kompliserte. Du kan ikke kikke inn og se hva som foregår. I mange situasjoner er dette ikke til å leve med, sier Ulf Schöneberg. Han er Head of data science i Basefarm Groups datterselskap the Unbelievable Machine Company (*UM).

– En kirurg ville selvsagt ikke begi seg i kast med skalpellen uten å kjenne grunnlaget for en diagnose fra en datamaskin. På samme måte vil finansfolk være svært tilbakeholdne med å ta beslutninger uten å kjenne grunnlaget for en analyse, sier Schöneberg.

btn-top

Maskinlæring, ikke kunstig intelligens

– Når vi først er inne på det, så er vi tilbakeholdne med å kalle dette for kunstig intelligens. Vi foretrekker maskinlæring. Kunstig intelligens er i dag i stor grad et begrep brukt i markedsføring. Når maskiner kan overføre læring fra et område til et annet, da snakker vi KI, sier han.

Og hvordan kommer vi dit? I henhold til Schöneberg er veien frem ennå ikke ryddet. Mye arbeid gjenstår.

Noe som også er tilfellet med den neste og tredje kunstig intelligens-bølgen.

– Vi kan ikke si hvor veien går, men vi kan beskrive hvordan den bør være. Det er bare et spørsmål om tid før vi finner retningen fordi den tredje kunstig intelligens-bølgen er høy etterspurt. Derfor jobber mange kloke hoder med å finne utav dette.

btn-top

Whitebox AI

Den tredje bølgen har til og med fått sitt eget navn: Whitebox AI, også dette en betegnelse som mest sannsynlig er oppfunnet av markedsførere (de er overalt!).

– Transparant AI gir en bedre beskrivelse, sier han. – Når vi kan se inn i modellene og forstå hvordan de virker, kan vi bruke dem for store og ekte problemer. Vi ønsker rett og slett å kjenne bakgrunnen for forslag som algoritmer produserer.

I og med at mennesket ennå ikke behersker kunsten å reise i tid, må vi enn så lenge jobbe videre med den andre kunstig intelligens-bølgen (igjen, et markedsføringsbegrep!) som utgangspunkt. Hvordan kan så Schöneberg og teamet hans levere noen som helst?

– Teamet vil bare le av meg dersom jeg bestiller kunstig intelligens-magi. De har slike tunge, tekniske utdannelser og matchende integritet.

– Like fullt er det mange muligheter. For det første trenger du streng kontroll og må fôre dine datasjøer med veldokumenterte data av høy kvalitet. På denne måten vet du nøyaktig hva de statistiske modellene tygger på og kan i større grad stole på algoritmene de skaper.

btn-top

LIME

Hjelpeverktøy for å forstå dagens maskinlæring er også på markedet. «Local Interpretable Model-Agnostic Explanations» (LIME) er en teknikk som blir brukt for å forklare prognoser fra maskinlæring og evaluere nytten.

– Du kan bare bruke LIME for å verifisere i hvilken utstrekning og innenfor hvilke feilmarginer klassifikatorene fungerer.

Så, når kan du egentlig stole på maskinlæring?

Fra data til regler – om omvendt

– En ideell algoritme kan du fôre med regler og data som kan skape nye regelsett som passer overens med dataene – og omvendt. Slik vil algoritmene være forståelige og virke i begge retninger fra data til regler og vice versa. Men, dette må vente til den tredje AI-bølgen, sier Schöneberg.

btn-top

Ønsker du mer informasjon om kunstig intelligens?

btn-top