Vetenskapsförfattaren Simon Singh står bredvid en Enigma-maskin och pratar om de 15 354 393 600 lösenordsvarianter som den tyska krypteringsboxen tillåter med sin spagetti av ledningar, pseudo-slumpmässiga rotorer och omkonfigurerbara plugboard. Han pratar om det topphemliga arbetet på Bletchley Park för att bryta koden – grunden för polska matematiker; Alan Turings bombe; år av frustrerade ansträngningar i väntan på ett genombrott.
Bakom honom visar en skärm att en artificiell intelligens har knäckt den på 13 minuter.
Stuntet görs av ett dataanalysföretag. Den visar upp sin verktygsuppsättning för maskininlärning med en livedemonstration, som konkurrerar med de allra bästa inom 1930-talets kryptering. Enigma mönster har återskapat en kodknäckande bomb för Enigma-maskinen med Python, inrättad för att testa alla möjliga kombinationer av en fyrarotors marintypsmaskin. Använda cloud computing, tillhandahållet av DigitalOcean, kan systemet utnyttja 2 000 virtuella servrar för att köra igenom 41 miljoner kombinationer per sekund.
Denna råa kraft är dock bara hälften av tillvägagångssättet. Bombens produktion; de möjliga kombinationerna av bokstäver, matas in i ett AI-neuralt nätverk som tränats på en datauppsättning av bröderna Grimms sagor. Dessa gör det möjligt för den att identifiera ord som den anser vara tyska, så den kan automatiskt sålla bland möjliga kombinationer tills den hittar något begripligt. Istället för att begränsa ingången, minskar den den stora mängden utdata till en enda, förnuftig linje.
I det här fallet är den kombinationen: ”Deutsch ist eine schöne Sprache [German is a beautiful language]”.
”Det viktiga är att det inte har sammanställt en ordbok av de orden”
”Det viktiga är att det inte har sammanställt en ordbok av de orden”, förklarar Mike Gibbons, medgrundare av Enigma Pattern. ”Vad den har gjort är att lära sig att tyska ord ofta är, säg, så här långa, eller ofta har två eller tre stavelser, eller att när ett ’S’ förekommer så följs det ofta av ett ’T’. Så det bygger upp den typen av regler, snarare än att försöka matcha ord.”
Tekniken som visas är utformad för att ge en referensram till vilken typ av skala Enigma Pattern kan erbjuda företag som sträcker sig från finansiella företag till medicinska företag. Mata oss med din data, hela konfigurationen skryter, så får vi dig information. Även om inte många människor sannolikt kommer att använda neurala nätverk för att bryta kryptering från andra världskriget, går demon långt för att visa hur en kombination av artificiell intelligens och ren datorkraft har skapat ett helt annat paradigm kring datasekretess.
”Det här är en orättvis kamp”, erkänner Gibbons. ”Gubbarna som ursprungligen satte ihop Enigma-maskinen visste vilka möjligheter det fanns för att knäcka en kod, så det var därför de kom på den designen. Om du designar en kod idag vet du att det finns människor som vi med de möjligheter vi har, och förmodligen regeringar med ännu mer kapacitet. Så du designar utifrån det.”
(Ovan: Simon Singh med en original Enigma-maskin)
Även om det blev kort med en krypterad tysk fras, har Enigma Patterns ansträngning allvarliga begränsningar. Grimm-träningssetet, till exempel, kunde ha hjälpt det att urskilja rytmen och strukturen hos tyska ord, men samma system skulle vara ganska värdelöst med engelska ord, eller något annat språk för den delen. Det finns också de mer allmänna problem som maskininlärningstekniker måste brottas med: problemet med den svarta lådan.
Det här är frågan om att inte veta varför avancerade algoritmer gör vad de gör. Du kan se input och du kan se resultaten, men processen för maskininlärning är ogenomskinlig. Det är ett stort problem när man tänker på att verktygen som används för att knäcka en Enigma-maskin som är fördator kan användas av stora sociala infrastrukturer, från sjukvård till rättssystemet.
”Du säger i slutändan till en maskin: den är för komplex för mig, du tar hand om den.”
”Anledningen till att vi lämnar över den här analysen till en maskin är för att den är bortom normal mänsklig kapacitet”, säger Gibbons. ”Du säger i slutändan till en maskin: den är för komplex för mig, du tar hand om den. Så det ger dig några resultat. Då säger du till den: Förklara nu för mig, i termer som jag kan förstå, hur du kom fram till det. Du ställer en stor fråga.
”Men det behövs revisionskrav här”, erkänner han. ”AI används för att bedöma ansökningar om villkorlig frigivning i till exempel USA, och en grundläggande mekanism i rättssystemet är rätten att överklaga. Under dessa omständigheter måste det helt klart hanteras på ett sätt som kan förklaras. Så det måste finnas en förklaringsmotor som kommer tillbaka åt andra hållet.”
Tillbaka i rummet verkar själva Enigma-lådan begriplig i jämförelse. Efter demot frågade jag Simon Singh om det är något fundamentalt annorlunda i att ha en mekanisk och elektrisk maskin, jämfört med de immateriella algoritmerna i Enigma Patterns AI.
”Vi tar in det här i skolor och du kan visa det för barn, och de förstår alla aspekter av det”, säger han till mig. ”Om jag visade dig diagram skulle du förstå hur ledningarna fungerar, och du kan höra klirrandet. Med digital kryptering kan du göra det också. Det finns inget klumpigt, inget mekaniskt, men jag kan säga: här är ditt meddelande i ASCII, här är ni algoritmer som kommer att kryptera det.
Han pausar. ”Men det är något trevligt med att ha en sak som är mekanisk och elektrisk; något du fysiskt kan se framför dig”, tillägger han och vrider på en rotor.
