Hvad har kunstig intelligens, kunstværker og buksetrolde med hinanden at gøre? Det fik 120 deltagere blandt meget andet svar på til Signaturprojektkonferencen, der foregik den 25. oktober 2021 på SMK - Statens Museum for Kunst.
Konferencen handlede om erfaringer med anvendelse af kunstig intelligens (AI) i kommuner og regioner i de såkaldte signaturprojekter, samt de videre perspektiver i AI.
I 2020 og 2021 har i alt 28 signaturprojekter modtaget støtte fra en investeringsfond, som regeringen, KL og Danske Regioner i samarbejde har oprettet for at fremme afprøvningen. Konferencen var arrangeret af KL, Danske Regioner og Digitaliseringsstyrelsen i samarbejde med COI.
Kunstig intelligens i kunst
Som en af de første oplægsholdere fortalte Jonas Heide Smith, Digital Leder på SMK, om museets arbejde med kunstig intelligens. SMK har en samling på cirka 250.000 kunstværker, og på SMK's hjemmeside kan man via en søgemaskine nemt få adgang til en digital udgave af omkring 40.000 af disse. Værkerne er nemlig blevet systematiseret og kategoriseret ved hjælp af AI.
SMK-projektet illustrerer de muligheder og begrænsninger, som brugen af kunstig intelligens har i dag:
Blandt værkerne er der tusindvis, som afbilder Jesusbarnet. Den kunstige intelligens eller algoritme, som SMK anvendte, genkendte imidlertid ikke umiddelbart Jesusbarnet på billederne men opfattede i stedet en 'buksetrold' - altså et lille barn med bukser på. Derfor fik man ikke et retvisende resultat i søgningen.
Om Signaturprojekterne
Regeringen, KL og Danske Regioner har ved aftalen om kommunerne og regionernes økonomi for 2020 oprettet en investeringsfond, der støtter afprøvning af nye teknologier i den offentlige sektor.
Investeringsfonden støtter en række projekter, der anvender kunstig intelligens i den offentlige sektor. Projekterne kaldes også signaturprojekter med kunstig intelligens. Regeringen, KL og Danske Regioner aftaler løbende hvilke projekter, der skal tildeles støtte. Det sker i forbindelse med de årlige økonomiaftaler. Der tildeles midler til nye signaturprojekter ved økonomiaftalerne for 2020, 2021 og 2022.
Signaturprojekterne skal afprøve kunstig intelligens på områder, hvor der er potentiale for at løfte kvaliteten og kapaciteten i fremtidens offentlige sektor gennem skalering af teknologien, men hvor der i dag er få konkrete erfaringer.
Projekterne skal give erfaringer med anvendelse af teknologien både på velfærdsområderne, klimaområdet og administrationsområdet. Projekterne har fokus på at udnytte de muligheder teknologien giver, men samtidig gøre os klogere på teknologiens begrænsninger og udfordringer.
Der blev ved økonomiaftalerne for 2020 tildelt 67 mio. kr. til 15 signaturprojekter og ved økonomiaftalerne for 2021 tildelt 60 mio. kr. til 13 signaturprojekter.
Vigtigt at få erfaringer
Eksemplet illustrerer de muligheder og begrænsninger, som man også oplever i de igangværende signaturprojekter i kommuner og regioner. Projekterne om kunstig intelligens skal give erfaringer med at anvende teknologien inden for både velfærd, klima og administration.
At høste disse erfaringer er vigtige, hvis Danmark skal bevare førertrøjen på det digitale område, understregede Tanja Franck, direktør i Digitaliseringsstyrelsen, i sin indledende tale på konferencen.
"Danmark er et digitalt foregangsland, men ikke førende, når det gælder kunstig intelligens. Der er et politisk ønske om at fremme kunstig intelligens i Danmark, og også i den offentlige sektor er der enighed om at udnytte mulighederne. Danmark skal fortsat være et digitalt foregangsland, og derfor er det helt afgørende, at vi får flere praktiske erfaringer med at bruge kunstig intelligens," sagde hun.
Algoritmens begrænsninger
En temperaturmåling på signaturprojekterne fra foråret har vist, at man i arbejdet med projekterne blandt andet oplever udfordringer inden for jura, datakvalitet, datamængder, it-infrastruktur og etiske spørgsmål.
Dagens hovedtaler, professor i logik og kunstig intelligens ved DTU Thomas Bolander, fortalte, hvordan man med kunstig intelligens forsøger at efterligne menneskers kognitive evner ved hjælp af matematiske modeller (algoritmer), og dermed få computere til fx at genkende billeder, køre bil eller diagnosticere patienter.
De algoritmer, vi har i dag, er imidlertid meget simple i forhold til processerne i den menneskelige hjerne, og det skaber nogle udfordringer.
Komplekse problemer kræver mere data
Algoritmer kan fx være gode til at spille skak eller genkende billeder, men er (endnu) ikke gode til at efterligne sproglig og social intelligens.
Under alle omstændigheder er algoritmerne afhængige af de data, som de bliver fodret med.
"Jo mere komplekse emner algoritmerne skal tage stilling til, jo mere data er der brug for, og derfor er en af problemstillingerne, om vi har tilstrækkeligt med data. Hvis vi har for lidt data, risikerer vi en for lav præcision i forhold til det ønskede output," fortalte Thomas Bolander med udgangspunkt i et af museets C.W. Eckersberg-malerier.
Skal kunstig intelligens træffe beslutninger?
Et andet problem kan være, at algoritmer 'træffer beslutninger' på grundlag af statistik, men ikke reagerer på undtagelser.
Som i den opsigtsvækkende sag, hvor autopiloten i en Tesla i 2016 forvekslede en lastbil med et vejskilt. Algoritmens analyse af statistiske data fra genkendelse af omgivelserne fik angiveligt autopiloten til at 'se' et vejskilt, hvor der i virkeligheden var tal om en lastbil.
"Hvis en algoritme skal træffe beslutninger på individniveau, er det problematisk, og det kan være svært at opdage fejlen," sagde Thomas Bolander.
Ser frem til en tredje bølge
Algoritmerne trænes i sammenhængen mellem de data, vi fordrer dem med, og de resultater, som algoritmerne leverer til os. Her er der nogle udfordringer, fx at eksisterende data kan fastholde mønstre og bias, og at de leverede resultater ikke kommer med en årsagsforklaring.
DTU-professoren understregede derfor, at man skal være påpasselig med at benytte resultater baseret på kunstig intelligens som grundlag eller støtte for beslutninger.
Han så samtidig frem til den tredje bølge inden for kunstig intelligens, som vil byde på mere 'robuste' systemer, der kan lære, ræsonnere logisk, tænke abstrakt og tilpasse sig den aktuelle kontekst.
Rundtur på museet
Efter Thomas Bolanders hovedtale fik konferencedeltagere lejlighed til – i mindre grupper – at høre nærmere om tre udvalgte signaturprojekter ud af de første 15 projekter, da både regionale og kommunale projektejere fortalte om deres erfaringer og udfordringer med at bruge kunstig intelligens.
Med SMK's smukke skulpturgade som ramme tog hver projektejer udgangspunkt i et af museets kunstværker, som symboliserede de udfordringer, de havde oplevet i arbejdet med kunstig intelligens.
"Vi kan ikke vente på toget"
Charlotte Trap-Kinberg, Project Manager, RAIT (Radiological Artificial Intelligence Testcenter), Herlev og Bispebjerg Hospital, havde udvalgt L.A. Rings maleri "Når toget ventes" til at fortælle om arbejdet med signaturprojektet AI-KOA.
AI-KOA projektet handler om brug af et kunstig intelligens-baseret (AI) produkt udviklet af Radiobotics, der automatisk analyserer stående røntgenbilleder af knæ for slidgigt.
Antallet af radiologiske undersøgelser er stærkt stigende, samtidig med der er en stor mangel på radiologer. Kunstig intelligens kan være med til at lette presset ved at indgå som beslutningsunderstøttelse i radiologens arbejde.
"I senromantikken kunne man roligt vente på, at toget passerede, men hvis vi i dag bare står på perronen i det danske sygehusvæsen og venter på, at teknologien buldrer afsted, får vi aldrig frigjort potentialet i den datadrevne teknologi," sagde Charlotte Trap-Kinberg.
Behov for bedre tolkning
To af de store udfordringer inden for kunstig intelligens er, at adgangen til data er kompliceret, samt en for snæver tolkning af lovgivningen.
Der er brug for, at juristerne forstår domænet omkring kunstig intelligens, og dermed bedre er i stand til at tolke og rådgive på en måde, der understøtter sundhedsvæsenet.
Et eksempel er den klassiske måde AI-projekter inddeles på af jurister, når anmeldelser og kontrakter skal på plads: Er der tale om et forskningsprojekt eller drift? Den inddeling ønsker de i RAIT af bevæge sig væk fra, da det ikke er så simpelt.
Valideringsprocessen hvor RAIT tester, at algoritmen er tilpasset danske borgere og dansk klinisk praksis, er vigtigt. Men hvor hører den til i den klassiske opdeling af projekterne? Det er et nyt element for juristerne at forholde sig til, og det giver en række komplikationer i vores projekter.
"...hvis vi i dag bare står på perronen i det danske sygehusvæsen og venter på, at teknologien buldrer afsted, får vi aldrig frigjort potentialet i den datadrevne teknologi"
Kan blokere for livsvigtig innovation
Generelt er der et behov for, at det kliniske, juridiske og teknologiske domæne bliver meget bedre til at forstå hinanden.
"Hertil er det er vigtigt, at politikere og jurister ser alvoren i, at hvis de bliver ved med at, fastholde det gamle paradigmes synsvinkel på ny datadreven teknologi, kan de risikere, at blokere for livsvigtig forskning og innovation," mener Charlotte Trap-Kinberg og afslutter:
"Hvis vi vender tilbage til vores ven ved jernbaneoverskæringen og de overvejelser han gør sig, så tror jeg, at han har besluttet sig for at hoppe på toget og finde et sted, hvor bommen ikke er gået ned."
Oplæg fra tre udvalgte signaturprojekter
1) Region Sjællands Universitetshospital: Kunstig intelligens til forebyggelse af komplikationer efter tarmkræftkirurgi.
Regionen vil etablere en ’patients-like-me’ platform på tarmkræftområdet som klinisk beslutningsstøtteværktøj, baseret på eksisterende anonymiserede registerdata på over 55.000 sygdomsforløb over de sidste cirka 20 år. Formålet med projektet er at anvende kunstig intelligens til at identificere højrisikopatienter før de kirurgiske indgreb, så behandlingsforløbet tilpasses, og man reducerer risikoen for komplikationer eller genindlæggelser.
2) Frederiksberg og Bispebjerg Hospital: Diagnose af slidgigt i knæ med hjælp af kunstig intelligens
Slidgigtprojektet anvender kunstig intelligens til at analysere røntgen af knæ for slidgigt og udarbejde udkast til en radiologisk rapport. Formålet er at implementere kunstig intelligens, der giver alle røntgenbilleder af knæ-artrose en mere ensartet beskrivelse, der matcher specialisterne på området. Projektet skal foruden at bidrage til at reducere antallet af fx MR-scanninger og fejltolkninger, skabe erfaring med de juridiske og etiske dilemmaer forbundet med datadeling- og opbevaring (fx intern serverkapacitet versus eksterne cloudløsninger).
3) Prognoseværktøj til beslutningsstøtte for planlægning, kortlægning samt varsling af oversvømmelser i land- og byområder
Projektet omfatter udvikling og afprøvning af et prognoseværktøj, som ved hjælp af kunstig intelligens skal bidrage med beslutningsstøtte ved fx lokalplanlægning, kortlægning samt varsling af oversvømmelser i land- og byområder. Værktøjet skal supplere eksisterende risikoværktøjer og give beslutningstagere en langt større præcision i de datadrevne prognoser på såvel kort sigt, fx varslinger inden for kommende døgn, som prognoser, der peger længere frem. Værktøjet skal indgå i eksisterende sagsbehandlingsprocesser, forbedre kommunens mulighed for tidligt at varsle oversvømmelser til lodsejere og borgere, og dermed yde en bedre service i lokalområderne.
Sidste punkt på programmet
Det afsluttende punkt på programmet var paneldebatten på hovedscenen.
Med konferencier Henrik Føhns som ordstyrer kredsede debatten blandt andet om konflikten mellem GDPR-lovgivningens beskyttelse af personlige oplysninger og behovet for data i projekter om kunstig intelligens.
Paneldeltagerne var Birgitte Kofod Olsen, partner i Carve Consulting og medstifter af tænkehandletanken DataEthics.eu, Peder Jest, ejer af Jest Consulting og tidligere lægelig direktør på Odense Universitetshospital, Peter Hesseldahl, fremtidsforsker og Ugebladet Mandag Morgens redaktør for digital omstilling, og Thomas Bolander, professor DTU.
Den gordiske knude: GDPR
"GDPR gør det svært at bruge nyttige data. Tænk hvis man kunne hugge den gordiske knude over og finde en måde, hvor man både kan være personlig og anonym på samme tid," sagde Peter Hesseldal.
Birgitte Kofod Olsen talte for at sætte mennesket i centrum i arbejdet med kunstig intelligens og forsvarede også GDPR-lovgivningens beskyttelse af personlige oplysninger. Men hun understregede samtidig, at der er et behov for mere dialog.
"Jurister skal være bedre til at gå ind i dialog sammen med forskere og it-aktører, så vi får nogle løsninger, som gavner os alle sammen. Det vil måske tage længere tid, men det bliver mere bæredygtigt og levedygtigt," sagde hun.
Går glip af vigtig data
Peder Jest var enig i vigtigheden af GDPR-lovgivningen, men så også behov for ændringer i lovgivningen omkring data.
"Jeg synes, man er for restriktiv. Vi skal på en eller anden måde hjælpe til, at vi nemmere kan dele data med hinanden. Man misser fx data fra ældre patienter, som har mange forskellige sygdomme, fordi man ikke kan få adgang til data over mange forskellige sygdomme samtidig," sagde Peder Jest.
Revolutionen venter
Thomas Bolander konkluderede, at det på trods af fortsat mange udfordringer og begrænsninger, er vigtigt fortsat at arbejde med at afprøve mulighederne i kunstig intelligens.
Man må blot tilpasse ambitionerne i det enkelte projekt og ikke forvente en revolution, påpegede DTU-professoren.
Men revolutionen kan måske komme på længere sigt, for som ordstyrer Henrik Føhns sagde i sin afsluttende bemærkning med en henvisning til et citat fra Bill Gates: "Man har en tendens til at overvurdere teknologi på kort sigt og undervurdere det på lang sigt."