Forskning som tar oss ett steg närmare helt självkörande bilar

För att en bil ska kunna köras helt och hållet av datorer krävs att vi kan verifiera hur säkra systemen är. Det här är utmaningen som bilbranschen just nu står inför och det som gör att du i dag måste hålla händerna på ratten när bilen ”kör själv”. Kruxet är att modellerna som hanterar bilderna från bilens kameror är så komplexa att man inte riktigt vet hur de kommer fram till olika beslut när de agerar på obekant data. Alltså när något oväntat händer.

- Jens Henriksson, industridoktorand på Semcon.

Ett viktigt steg för att nyttja AI:s fulla kraft

Jens har fokuserat på bildhantering, vilket är centralt i tekniken för självkörande bilar. Han har kommit fram till en metod för hur säkerhetsingenjörer kan fördela säkerhetskrav på modeller för djupinlärning och utvärdera hur de uppför sig när de arbetar med obekant data. Jens forskning är ett viktigt steg på vägen mot att kunna använda den fulla kraften i AI inom en rad områden.

– Djupinlärning används idag inom en mängd områden, till exempel i din smartphone för att känna igen din röst. Men just nu är säkerheten i andra applikationer, som självkörande fordon och inom medicinområdet, en stor utmaning. Det hindrar de här systemen från att kunna användas och bidra mer till att förbättra världen. Därför är det här så intressant och viktigt, säger Jens.

Målet med Jens avhandling har varit att undersöka hur vi kan koppla ihop parametrar från djupinlärning med verifiering och testning för säkerhetskritiska applikationer, som självkörande bilar. Det innebär också att han behövt undersöka vilka tillägg som behövs för att verifiera djupa neuronnät.

Vi måste veta att bilen fattar säkra beslut.

I en självkörande bil får modellen data från bilens kameror. Bilderna tolkas i realtid och ligger sedan till grund för hur bilen agerar när du låter den köra själv. För det mesta rullar allt på utan bekymmer, eftersom modellen är så pass träffsäker i att tolka bilderna den matas med på ett korrekt sätt. Men vad händer om det plötsligt blir dimmigt? Eller ett ljusfenomen uppstår, som modellen inte stött på tidigare?

– Eftersom modellen bygger på data från tidigare erfarenheter, går det inte säkerställa att den fattar rätt beslut i relation till säkerhet när den möter en helt ny situation. Det beror på att modellen kanske inte ens är medveten om att det finns risker i situationen, vilket är svårt att verifiera på grund av modellernas komplexitet, säger Jens.

Det Jens har kommit fram till är en viktig byggsten i att använda djupinlärning inom områden där säkerheten är avgörande. Potentialen är enorm, eftersom kapaciteten i AI-modeller överstiger vanliga traditionella algoritmer med råge.

Det här är djupinlärning
Den mänskliga hjärnan har en unik förmåga att hantera och behandla information. Djupinlärning, eller djup maskininlärning, är en metod inom AI som inspirerats av hur den mänskliga hjärnan fungerar. Tekniken bygger på en AI-modell som på egen hand lär sig att dra slutsatser utifrån olika typer av data.

Läs mer om Jens forskning
Den 20 oktober 2023 försvarade Jens Henriksson sin avhandling med titeln ”Outlier Detection as a Safety Measure for Safety Critical Deep Learning”

Läs mer om hur det är att vara industridoktorand på Semcon.