Hun ble døpt i en nedslitt kirke på et torg i en jugoslavisk landsby. Bestemoren hennes tok henne dit uten at foreldrene visste det, ba presten senke den lille jenta i det hellige vannet, tegne korsets tegn, lese de gamle ordene en gang til.
I all hemmelighet der inne blant kommunistenes betongblokker.
«Den som har ører, hør». Hun er for sen, slik hun alltid er. Hun sier hun har mistet paraplyen sin. Sånn er mennesket: Fullt av feil.
Det har vært to tunge foredrag i dag, hun har snakket, som hun pleier, om digitalisering, genteknologi, om robotene som tar over, maskiner som kjører bilene våre, flyr flyene, styrer markedene og helbreder sykdommer. Hun har blitt kalt et av Norges smarteste mennesker, sitter i Regjeringens teknologiråd og en rekke bedriftsstyrer. Hun sier at vi er i ferd med å bli tatt av en digital tsunami, at vi må våkne.
– En gang var jeg i en rafting-flåte, sier Silvija Seres og forsøker å legge ned håret som står opp mot taket i den halvtomme restauranten på jernbanestasjonen. Aksenten er østeuropeisk. Hun har gull på fingrene, rundt halsen.
– Vi veltet i første stryk, gikk rett under. Da vi kom det til det andre, rodde vi som bare pokker. Det handler om erfaring.
Hun plukker et langt hårstrå av den hvite skjorten.
– Nå er det bare å ro for livet, i stedet for å vente og se om det går bra.
Søvngjengere. Det har snart gått 20 år siden hun ble hentet fra Oxford til Silicon Valley for å lage verdens første søkemotor, Alta Vista. Hun pleide å lunsje med utviklerne på Google. De var 17 stykker den gangen, ingen av dem ante hvordan de skulle klare å tjene penger på internett. På Oxford hadde hun jobbet med optimalisering av kunstig intelligens-algoritmer. Hun hadde ingen tro på at det skulle bli noe av, var nesten flau for å si til folk hva hun holdt på med.
– Men nå ser vi at dette plutselig fungerer litt for godt. Vi har blitt overrasket de siste årene over at Deep Learning og nøytrale nettverk operer på nivåer vi ikke kunne forestille oss. Det går utrolig fort. Maskiner er nå i stand til å kjenne deg igjen på alle kameraer, sier hun og peker mot taket.
– Mens de målet blodtrykket ditt, kobler alt du har gjort på internett gjennom livet. De kan regne ut dine politiske preferanser, koble seg til bilen og huset ditt, hente dine finansielle data på et blunk. Vi er i en verden der bare fantasien setter grenser, men det er viktig å forstå at hvordan vi anvender all teknologien fortsatt er opp til oss. Vi må slutte å gå rundt som søvngjengere.
Servitøren kommer med suppe.
– Vi kan forby Über, men i lengden er det ingen god løsning. Eller genteknologien som vil gi mer og sunnere mat. Eller selvkjørende biler som kommer til å redde hundretusenvis av menneskeliv, men som gir oss vanskelige etiske valg. Skal bilen som krasjer drepe den lille jenta i veien med 30 prosent sannsynlighet eller svinge unna og ta livet av føreren med 60 prosent? Hva om prosentene er motsatt? Hva om det er en gammel dame, ikke en liten jente? Slike spørsmål presser seg på overalt. Da nytter det ikke med politikere som setter ned utvalg og venter med svarene til spørsmålene er utdaterte. Vi står overfor et grunnleggende demokratisk problem fordi demokratiet trenger tid.
Hun stikker ut underleppa, snur håndflatene opp.
– Det jeg vet er at hvis vi ikke gjør det på vår måte, så vil Silicon Valley bestemme på våre vegne. Jeg elsker de guttene, men de er en gjeng Red Bull-drikkende store egoer med Asperger. De tror med hver celle i kroppen at de vet bedre enn deg hva som er best for verden – og for deg.
Blokkene. Alle disse lørdagene. Hun ligger i køyesengen med søsteren og hun er ikke helt våken ennå, men hun kan lukte kaffen moren og faren drikker inne i stuen, hun kan høre at de spiller Ray Conniff der inne. Hun hører så vidt hva de snakker om. Når hun er sammen med dem, snakker de aldri kritisk om systemet. Det er ting man ikke prater høyt om i disse nybygde blokkene i Novi Sad der alle leilighetene er 56 kvadratmeter, og alle menneskene like lykkelige.
På skolen lærer hun om Marx og Lenin og Mao og Nehru, de har partisanfeiringer. I alle klasserommene henger et bilde av Tito. Hun husker dagen han døde. Hun gråt.
– Mamma og pappa var ungarere, men plasserte meg på en serbisk skole, så jeg skulle bli del av majoriteten. Vi heter Seres, et vanlig ungarsk etternavn, som på serbisk betyr «du driter». Du kan tenke deg hvordan det var å forholde seg til for en syv-åring. Jeg ble tidlig vant til å være annerledes; Hun høye, tynne med briller som leste litt for avanserte ting og så russiske science fiction-filmer på kino.
– Du var litt utafor?
– Jeg har alltid vært… En utfordrer.
Skjønnhet. Mor hadde direktørstilling i Nasjonalbanken, far var universitetsprofessor. Han kom til Beograd som guttunge uten å kunne språket. Han forteller fortsatt om hvordan han så kålhoder på markedet og drømte om å få råd til å kjøpe et. Så var det en lærer som skjønte at den lille ungareren var en matematisk begavelse.
– Faren min er et geni, sier hun og smiler.
En gang midt på 80-tallet ble han tilbudt et gjesteopphold som professor i Norge. Det var sånn hun endte her. Før bildene av Tito ble tatt ned fra veggene. Før bombingen.
– Han er et av disse menneskene som kan ta tusenmilssteg innenfor matematiske områder. Det var han som gjorde at jeg forelsket meg i matte. Han fortalte historier. Hvis du bare ser den matematiske likningen, kan du ikke se skjønnheten.
– Er du også et geni?
– Jeg har vært omgitt av genier og jeg er god nok i matte til å vite at jeg ikke er en av dem. Hun stopper, trekker stolen nærmere bordet.
– Ta Gödels ufullstendighetsteoremer eller Turings bidrag. Jeg forstår ikke at mennesker kan klare å… Altså, det er så vakkert at jeg kjenner hårene mine reise seg når jeg snakker om det.
Hun holder frem hånden for å vise.
Så begynner hun å forklare Euklidsk geometri, som hun tydeligvis liker veldig godt, men hun blir nødt til å nyse og mister tråden.
Sukker. Et minne: Hun slet med å bli kjent med folk da hun kom til Norge. I tillegg strøk hun to ganger på førerprøven fordi hun kjørte så aggressivt. En medstudent på Blindern foreslo at de kunne øvelseskjøre. Han het Andreas. Han hadde en gammel Ford Fiesta. Sammen kjørte de innover i Sørkedalen. Etterpå drakk de te. Han tok fem skjeer med sukker i koppen. Hun husker at hun tenkte for seg selv: «Dette lover godt».
Ren business. – La oss snakke om Facebook, sier hun.
– Jeg tror folk i Norge misforstår. Her har vi en idé om at vi liksom kan lære Facebook om samfunnsansvar og ytringsfrihet.
Hun fnyser.
– Facebook er et privat, kommersielt selskap. De har først og fremst ansvar overfor sine aksjonærer. De må tjene mest mulig penger. Det gjør de ved at annonser får mest mulig trafikk. Derfor følger de grunnleggende relevans-algoritmer: Du liker det du har likt før. Dette driver ekkokamre og «fake news». Det leder igjen til polarisering og populisme. Og Brexit. Og Trump.
– Det er deprimerende.
– Men det er ren business. Og nå har de så mye data om oss, så og si alle medieselskaper i verden er avhengig av dem og… Så lenge Mark Zuckerberg er en ordentlig kar, og det er jeg 100 prosent overbevist om at han er, så går alt dette bra. Men etter hvert vil det være nettverkene som eier oss, ikke Zuckerberg. Hvis systemet programmeres til å kunne optimalisere seg selv, hvis det kjenner deg bedre enn du kjenner deg selv, hvis dette kan kombineres med helse slik alle de store selskapene ønsker, så åpner det seg nærmest uendelige kommersielle muligheter.
Hun lener seg frem.
– Hvis du kan fri barna dine fra kreftmarkøren du er bærer av, vil du gjøre det? Hva om du kan bruke ti prosent mer av hjernekapasiteten din? Eller hvis de bestemmer seg for å gjøre dette i Kina, har vi råd til å la være i Norge? I Silicon Valley snakker de nå om å leve i 300 år, sier hun og slår ut med armene.
– Jeg er for døden, jeg vil ikke kontrollere den. Den gir livet verdi. Men hva om jeg eller et av barna mine får en alvorlig diagnose, og jeg kan betale for å forlenge livet med ti kvalitets-år? Jeg mistenker at jeg er villig til å bruke alt jeg eier og har for å gjøre det.
– Når begynner varsellampene å blinke for din del?
Hun smiler, trekker i smykket rundt halsen.
– De har blinket lenge.
Hjem. Et øyeblikk: Han møtte henne på busstasjonen i Oxford. Hun kom tilbake fra Silicon Valley, og de hadde hatt en pause, de hadde kranglet og vært uenige, hun hadde funnet en annen. Men nå sto han og ventet på busstasjonen, og han hadde med seg en sykkel. Og de gikk derfra sammen, han trillet sykkelen nedover gaten og hun ble fylt av en følelse av å komme hjem.
Det menneskelige. Suppen har blitt kald. Hun ser på de pillede rekene som dupper i den.
– Av og til tenker jeg – uærbødig – på Prometheus. Han som ga menneskene ilden, men ble evig straffet for det. Vi teknologer som skjønner hva som foregår, vi har vært med på å gi forretningsfolk og politikere denne teknologien og…
Hun rynker på nesen.
– Vi har gitt dem noe farlig. De leker med ild. Alt som optimaliseres kan perverteres, og vi har sett nok av menneskelig historie til å skjønne at det kan skje.
– Det kan være livsfarlig for oss?
– Ja, men vi har alltid hatt teknologi som er livsfarlig.
Hun blir sittende og skyve gifteringen opp og ned på fingeren. De giftet seg i Oxford. Hun og han fra Ford Fiestaen. Så reiste hun til Saudi-Arabia for å starte et universitet for kvinner. Etter å ha gitt opp å få barn, fikk de fire. Det var hun som ville flytte tilbake til Norge, ikke han.
– Vi kan ikke forby denne fantastiske teknologien, det er som å tro at vi kan forby tyngdekraften. Vi har ikke råd til å la være å bli med. Jeg tror på en symbiose, teknologien analyserer og optimaliserer, mens vi stiller de vanskelige spørsmålene og tolker de tvetydige svarene. Vi tar oss av det irrasjonelle, det menneskelige.
Utenfor vinduet står to politibiler med blålysene på, de slår stille over bygningene rundt.
– Jeg liker samtalen med deg bedre enn en om du var en Kunstig intelligens-journalist.
– Hvorfor det, om vi høres helt like ut?
– Fordi jeg er nysgjerrig på hvordan din kjemi tolker meg. På hva du liker og ikke ved meg. På det menneskelige i deg.
Mot-dynamikk. Hun legger til at hun også vil foretrekke en menneskelig frisør selv om maskinene snart blir mye flinkere. Om 15 år er 65 prosent av dagens yrker borte, sier hun.
– Å bo i Norge har lært meg å se verdien av et likt samfunn. I en verden der alt er polariserende, har vi en mot-dynamikk som bringer oss sammen. Det er større enn vi forstår, det er gullet vårt. Det må vi ta med oss i møtet med alt det som kommer. Teknologien må speile våre verdier.
Hun nikker til speilbildet i vinduet.
– I stedet for å forby Über, kanskje vi må forstå verdien av det, av hva det betyr for kundene. Og så må vi regulere på våre måter, tvinge inn en minstelønn eller begrense kontrollen over sjåførene. De samme utfordringene vil snart komme på alle andre områder, og…
Hun stopper.
– Nå babler jeg i vei igjen, sier hun og humrer litt, løfter opp en skje.
Gud. Hun forteller om en kusine som hadde en god jobb ved et produksjonsanlegg, en flott mann. En dag forlot hun alt. Hun ble nonne, pusser opp et gammelt ortodokst kloster i skogene sør i Serbia. Der lever hun alene med en hund som brukes for å jage bort ulver.
– Du har vel aldri trodd på Gud?
– Vel… Jeg har gått fra å tenke at det er uinteressant til å tro at det er noe, en struktur rundt oss eller i oss som gjør at det lønner seg å være god. Det gode belønnes, det onde straffes. Det er egentlig det grunnleggende premisset i alle religioner.
Hun trekker pusten dypt, politibilene er borte.
– Og jeg tror vi mennesker har godt av å vite at noe er større og klokere enn oss. Jeg tror vi savner det i livene våre.
Sangen. Telefonene hennes lyser. Hun har dette minnet fra barndommen: Hun ligger i sengen, det er varme fra en peis i det gamle jordhuset, det er gårdsdyr utenfor, morbærtrær, en elv som renner. Bestemoren hennes stryker henne gjennom håret og synger på ungarsk:
Az a szép, az a szép, akinek a szeme kék,
akinek a szeme kék.