Konstgjord intelligens måste utbildas bättre

LEAD: Den som har makt över AI har makt över mänskligheten. Många är rädda för det. Men hur realistiskt är detta uttalande?

Prof. Dr. Simon Hegelich: Idag finns det många outlandiska scenarier i nätet där artificiell intelligens tar över världsdominansen. Det är verkligen överdrivet. Men med hjälp av artificiell intelligens skapas kraftfulla verktyg idag och dessa verktyg är ofta i händerna på stora företag. Vem som har dessa verktyg har makten. Min önskan därför: främja öppen källkod. När allt kommer omkring kommer allt till frågorna: vem har uppgifterna och kunskapen?

LEAD: Det finns en annan fråga: Vem måste skapa de grundläggande reglerna för AI: s framtid? Måste regeringen agera och lagstifta?

Hegelich: Ja, vår regering behöver inte bara agera. Hon är redan aktiv. I oktober kommer till exempel ett strategidokument om AI-ämnet. Men för närvarande ser det ut som att Tyskland koncentrerar sig på nisch AI och robotik enligt mottoet: Amerikanerna har uppgifterna. Kineserna har halvledartekniken. Tyskarna har Industry 4.0. Men denna åsikt lämnar big data-problemet helt utan tvekan. Som en nationell strategi tycker jag att det är farligt eftersom det utesluter en så stor utveckling på AI-området.

display

LEAD: Pratar om strategi. Finner inte ämnet konstgjord intelligens sig in i vår utbildningspolitik?

Hegelich: Det krävs ofta att våra barn är beredda i skolor för ämnet AI. Jag tror dock att vi har ett mycket större problem – med de människor som är mitt i arbetslivet idag. De kommer inte att kunna hålla jämna steg på två till tre år, när hanteringen av robotassistenter och artificiell intelligens blir standard i en professionell miljö. Vi kommer därför att behöva en utbildningsoffensiv inte bara för barn utan för samhället som helhet.

LEAD: Vad är mönstret för en AI? Vilket värdesystem kommer intelligenta maskiner att handla i framtiden? Vilka värden ligger till grund för deras programmering?

Hegelich: Maskininlärning är i princip mycket konservativ. Datorn hittar bara mönster som redan finns i data och som också kan vara diskriminerande. Och det är mycket svårt att ta reda på det från uppgifterna. Ett exempel: Om en KI ska lära sig relationer utan att ta hänsyn till kön misslyckas detta ofta eftersom många andra data som används beror på kön. Därför krävs ofta en TÜV för algoritmer. Jag tror dock att en TÜV för algoritmer är meningsfull. För att undersöka de sociala effekterna av användningen av algoritmer måste man känna till applikationsområdet, samhället och algoritmen. Detta kan inte göras av en byrå som måste vara en del av forskning och produktutveckling.

LEAD: Vad är situationen i praktiken?

Hegelich: Mycket av vad företag gör är inte det nuvarande forskningsstatus. Under tiden har vi höga standarder för maskininlärning för att kontrollera att modellerna är robusta: till exempel korsvalidering. I ansökan beaktas ofta inte dessa metoder. Eftersom företag inte har tid eller anser att det är för dyrt eller eftersom det inte finns några detaljerade testscenarier. Och det finns ett annat problem: AI används ofta av människor som inte förstår vad de gör.

LEAD: Vad kan vara en möjlig lösning då?

Hegelich: Jag ser problemet med förfarandena. Konstgjord intelligens är baserad på så många olika matematiska operationer som körs i en svart låda. Den komplexa modellen är obegriplig. Men vad människor kan förstå är kostnadsfunktionen. Exempel Facebook: Kommer jag till exempel främja hur länge en användare hanterar en enda artikel eller vill jag uppmuntra användaren att se så många artiklar som möjligt? Så uppehållstid kontra rullningsbeteende.

Detta påverkar annonseringen. Det kan göras öppet. Men forskning är alltid alltid förbryllad: I neurala nätverk vet man inte alltid varför i slutändan ett visst resultat uppstår. Därför strävar vetenskapen att göra anslutningar i den svarta rutan visualiserbara. Om detta lyckas blir det klart: Vad lärde AI faktiskt?

Teaserbild Ny

Minimal online- eller teknisk entusiast?

Tinder ersätter baren, Alexa sekreteraren. Den digitala världen har för länge sedan blivit en med den verkliga världen. Men alla vill inte tro på verkligheten. Hur säkert rör du dig i nätverkslivet?

Gör testet här

Lämna ett svar

E-postadressen publiceras inte. Obligatoriska fält är märkta *