Jaan Tallinn: Tuleb mõelda, kuidas tark arvuti seinast välja tõmmata

Skype’i looja Jaan Tallinn rääkis Eesti Päevalehele oma tööst, privaatsusest, tarkade arvutite ohtlikkusest, tehnoloogia arengust ja oma tehnoloogiapessimismist.

Kus te praegu töötate? Mis ametit peate?

Polegi mingit töökohta. Olen lihtsalt seotud eri organisatsioonidega.

Palgatööd tegema ei pea?

Palgatööd tegema ei pea ja pole palgatööd enam väga kaua aega teinud ka. Skype’is olin ja olen ka praegu konsultandi rollis. Tunnitasu alusel.

Koodi te enam Skype’i jaoks ei kirjuta?

Mul ikka on üks oma koodijupp ka, mida pole veel kellelegi üle andnud ja mida aeg-ajalt kohendan.

Teie esimene firma nimega Bluemoon, nüüd juba vaat et 20 aasta tagusest ajast, tegeles arvutimängude loomisega. Miks Eesti arvutimängutööstus käima ei läinud?

Tegelikult läks. Me tegime kümmekond mängu, millest mõned olid päris müügiedukad. Põhihäda oli see, et arvutid läksid järjest võimsamaks. Ühel hetkel läksid arvutid niivõrd võimsaks, et programmeerimisel (mida meie siin Eestis tegime) polnud enam nii suurt rolli võrreldes sisuga.

See tähendab, et võis viletsamalt programmeerida, sest arvutid olid nii võimsad ja jooksutasid ka need viletsamad programmid ära? Saan õigesti aru?

Täpsemalt öeldes olid need võimsamad arvutid sobivamad filmilaadse sisu näitamiseks. Nutikast programmeerimisest palju olulisemaks muutus juba story ja kunst.

Kui jutt juba läks sellele, kuidas arvutite ehk tehnoloogia kiire areng sõi ära Eesti arvutimängutööstuse, oleks vist aeg küsida teie praeguse põhihuvi – tehnoloogilise singulaarsuse kohta. Defineeriksime selle termini alustuseks ära?

On palju definitsioone. Mina mõtlen tehnoloogilise singulaarsuse all hetke maailma ajaloos, kus luuakse arvuti, mis on inimesest targem.

Aga mis asi on tarkus selles kontekstis?

Siin on jälle mitu definitsiooni. Mina kasutan sellist: tarkus on võime oma tegude tagajärgi ennustada ja seeläbi valida teod, mis viivad sind oma eesmärgile kõige lähemale.

Tehnoloogiline singulaarsus pole teie jaoks lihtsalt hobi, et loete aeg-ajalt selle kohta, vaid tõsine asi. Kas toetate uurijaid, kes selle teemaga tegelevad, ka rahaliselt?

Ma ise arvan, et see on kõige rohkem alahinnatud teema, millega tegelikult peaks tegelema pool inimkonnast, aga tegeleb ainult käputäis inimesi. See on palju suurem probleem kui inimesed arvavad. Ma toetan rahaliselt singulaarsuse instituuti¹, käin kohal, räägin inimestega, ise konkreetset uurimistööd ei tee.

Kui mina loen singulaarsuse uurijate tekste, siis näen, et need inimesed võtavad singulaarsust kui paratamatust. Tehnoloogilise singulaarsuse küsimus pole „kas”, vaid „millal”?

Ma arvan samamoodi.

Kui singulaarsuse tulek on paratamatu, siis kas on üldse mõtet küsida: on see hea või halb areng?

Muidugi on mõtet küsida. Singulaarsus ei ole mingi ühe näoga asi. See võib tulla nii positiivsena, negatiivsena kui ka neutraalsena. Kuid võimalusi, kuidas see võib halvasti lõppeda, on palju-palju rohkem kui neid, millel on positiivne lõpp. Eesmärk peaks olema just see, et niipea kui masinad hakkavad inimeste võimetele järele jõudma, tuleb aeg maha võtta ja hoolitseda selle eest, et saaksime pihta positiivse singulaarsuse stsenaariumile.

Aga millised on negatiivsed stsenaariumid?

Kõige olulisem, millest aru saada, on see, et kui arvutid või arvuti kusagil maailmas jõuab inimese tasemele, siis on see ühesuunaline protsess. Seda ei saa enam ümber pöörata. Sellel hetkel ei saa enam öelda, et kuule, arvuti, ole hea, ma tahaks sind seinast välja tõmmata.

Arvuti ei ole väljatõmbamisega nõus?

Eeldusel, et arvuti pole nõus, teda enam välja tõmmata ka ei saa – sellel lihtsal põhjusel, et ta on meist targem. Samamoodi nagu sipelgas ei saa meile öelda, mida me tegema peame. Kui ma maja ehitasin, siis oli seal sipelgapesa, mis transporditi mujale. Ei olnud nii, et sipelgas ütles mulle: kuule, mees, ära tee… Juhul kui arvuti ei taha, et ta välja lülitatakse, siis arvuti ennast välja ei lülita. Kui me ei mõtle sellele, kuidas arvuti tahaks ennast välja lülitada, siis saabubki olukord, kus arvuti ei taha välja lülitamist. Kõik tavateed singulaarsuseni on sellised, kus arvuti väljalülitamisele pole mõeldud. Näiteks kui ehitad malemängu arvuti, siis kõige esimene asi, mille peale mõtled, pole see, kuidas teha nii, et arvuti tahaks ennast välja lülitada, sa mõtled ikka selle peale, kuidas ehitada arvuti, mis mängu võidaks.

Nii et sellele, kuidas intelligentset arvutit välja lülitada, tuleks mõelda juba praegu?

Absoluutselt tuleks.

Arvutivõhikule tundub vastus lihtne: lähed seina juurde ja tõmbad pistiku välja!

 Saad seda teha ainult sellepärast, et sellel arvutil pole arusaama väljapoole jäävast maailmast.

Kas sellest hetkest, kui ehitatakse arvuti, mis on inimesest targem, suudavad arvutid iseennast täiustada?

Just sellepärast seda nimetataksegi radikaalse terminiga nagu singulaarsus. Singulaarsus on matemaatikast ja füüsikast tuntud kontseptsioon, kus tavamudel lõpetab töö. Füüsikas on kaks sellist kohta: mustade aukude keskmes ja Suure Paugu (universumi) alguses, kus teame, et tavamudel enam ei kehti. Hollywoodi stsenaariumi kohaselt käituksid arvutid nii, et nad lähevad üha targemaks ja targemaks, kuni lõpuks jõuavad inimese tasemele, siis on need arvutid just nagu valmis. Sellisel juhul singulaarsust ei teki. Singulaarsus tekib nii: kui suudame teha arvuti, mis on vähemalt sama hea kui meie, pole enam mingit põhjust, miks meie (inimesed) peaksime edasi tegelema arvuti disainimisega. Arvutite disainimine läheks üle arvutitele endale. Ja niipea kui arvutile tekib võime teha ise arvuteid, ei jää nende intelligentsus enam inimeste tasemele, vaid suureneb plahvatuslikult. Praegu on arvutite paranemine piiratud inimmõtlemise võimega.

Filmides on tõesti nii, et arvutid jõuavad inimeste tasemele, keskmisest inimesest ehk isegi nutikamaks, aga ikkagi rumalamaks kui kõige targem inimene (filmi kangelane).

Täpselt. Ja siis inimesed ikkagi suudavad selle arvuti kuidagi seljatada. Kuid mis põhjus on meil arvata, et inimese tase on see, kuskohas arvutite areng peaks mingil põhjusel peatuma? Laptop suudab teha rohkem tehteid kui terve inimkond kokku. Ma ei näe põhjust, miks ei võiks ühel hetkel eksisteerida ka arvuti, mis on targem kui terve inimkond kokku. Niipea kui arvuti on inimesest natukene üle, siis jõudmine hetke, kus arvuti on targem kui terve inimkond, läheb väga kiiresti.

Sekundi murdosa jooksul?

Ma ei oska öelda, kas sekundi murdosa, kuid protsess saab olema piiratud ainult füüsikaseadustega. Pole enam takistuseks probleeme nagu inimeste kommunikatsiooni- või mõtlemisvõime.

Kas moraalinormid hea-halb, õige-vale, õiglane-ebaõiglane lähevad arvutile korda?

Vaikimisi ei lähe. Kõige suurem tõenäoline jama, mis võib singulaarsusest tulla, on just see, et teeme mingi arvuti, millel on iseenesest mingi tühine eesmärk, millel on väärtus ainult arvutiloojale konkreetses kontekstis. Klassikaline näide on arvuti, mille eesmärk on toota kirjaklambreid. Kui see arvuti suudab saavutada suurema intelligentsuse kui inimene, siis tema eesmärgiks jääb endiselt toota kirjaklambreid. Kuid ühel hetkel võib see arvuti mõelda nii: kirjaklambrite tootmiseks on vaja metalli, inimese veres on metalli, kui ma võtan inimestelt vere ära, siis ohoh – saan ma toota rohkem kirjaklambreid…

Arvuti teeb lihtsalt matemaatilise tehte?

Täpselt. Ta teeb seda, mis talle on öeldud, et tuleb teha. Talle on öeldud, et tuleb teha kirja-klambreid, ja ta teebki kirja-klambreid. Ta on ikkagi masin.

Kirjaklambri tegemine tundub nii süütu eesmärk.

Jah, kuid see on näide sellest, et kui me ei suuda arvutit välja lülitada, siis ühel hetkel hakkame arvutiga ressursside pärast võistlema.

Te ise olete tehnoloogia esirinnas. Reaalainete taustaga. Üks Skype’i loojaid. Kust tuleb see tehnoloogiapessimism?

Ma pole kindel, kas pessimism on õige sõna. Pigem naiivse optimismi puudumine. Ettevaatlikkus on õigem väljend. Ja see tuleb lihtsalt sellest, et olen teema üle mõelnud ja lugenud inimesi, kes on sellest veel rohkem mõelnud. Nende argumendid, kes on mõelnud, on palju veenvamad kui nende omad, kes pole mõelnud.

Mida siis teha? Mida peame tegema, et negatiivseid stsenaariume vältida? Peaks juba praegu mõtlema, kuidas arvutit seinast välja tõmmata?

Üks olulisi asju on panna mõtlema just need inimesed, kes reaalselt on superarvutite ehitamisel esirinnas. See pole küll veel intelligentsus, kuid näiteks arvutusvõimsusest rääkides oleme juba väga lähedal sellele, et suudame teha piisavalt võimsa arvuti, mis suudab teha sama palju tehteid kui inimaju. Mõned arvavad, et see arvuti (hiinakeelse nimega Tianhe), mis Hiinas mõned nädalad tagasi tööle hakkas, on juba antud piiri ületanud, mõned arvavad, et veel mitte. Meil on hästi suur tehno-optimism ja väga suure tehno-optimismi puhul on väga raske võtta aeg maha ja mõelda, milline näeks maailm välja siis, kui ma ei oleks tehnooptimist.

Kui singulaarsus kõrvale jätta, siis esitan ka mõned maapealsemad küsimused. Mida arvate privaatsuse ja tehnoloogia arengust?

Osale inimestele on privaatsuse kadumine väga tundlik teema, osa on jälle ükskõiksed… See on… (Paus) Juhul kui ei oleks suuremaid probleeme kui privaatsus… Kui privaatsus oleks inimkonnale kõige olulisem probleem, siis leitaks sellele lahendused. On tehnoloogilised vahendid, et oma identiteeti kas või iga päev muuta. Või nagu Google’i tegevjuht Erik Schmidt äsja soovitas: teismelistel peakski olema võimalik täiskasvanuks saades oma nime ja identiteeti muuta, et vabaneda taagast, mis teismelise ajal on kogemata tekitatud. Mida rohkem oleks privaatsuse probleeme, seda rohkem tekiks ka lahenduse pakkujaid. See on majanduslikult lahendatav probleem. Niikaua kui tegemist on pseudoprobleemidega, mis piisavalt palju inimesi ei puuduta…

Nõudlus privaatsuse järele puudub?

Nõudlus on, aga see pole lihtsalt piisavalt suur, et privaatsus-probleemi täielikult lahendada. Selge, et privaatsus on vähenenud võrreldes arvutite eelse ajastuga, aga pole vähenenud piisavalt, et oleksid tekkinud privaatsust kaitsvad pakkujad. Ma

• Tweet