Midagi Alice'i ja Bobi kohta

• Kategooria: Veerud

Loomingulise keeleoskusega robotid on haaranud populaarse kujutlusvõime. Samuti on nad taaselustanud ärevust robokalüpsise pärast

Alice ja Bob, Facebooki robotid, mis on saavutanud kurikuulsuse ootamatu programmeerimisloogika puudujäägi tõttu, on osa läbirääkimismasinate ehitamise eksperimendist. C R Sasikumar

Internet on põlenud dramaatiliselt hukatuslikuks koormatud pealkirjadest, mis kuulutavad, et Facebook pidi tõmbama voolu petturitest tehisintellekti (AI) robotitest, mis arendasid välja oma keele, milles nad pidasid ebainimlikult eravestlusi. Need loevad nagu tiiserid Terminaatori globokalüpsist, mis on tööriistu kasutava primaadi halvim õudusunenägu – mis tuleb asendada tema enda loominguga, masinaga.

Tegelikkus on vähem dramaatiline, kuid põnevam. Botid on autonoomsed agendid, mis on algselt programmeeritud täitma sidekanalites majapidamistöid või proovima Turingi testi läbida. Nad saavad teid sisse logida, välja saata, kui käitute halvasti, hoida jututubasid lahti, kui kedagi pole kodus, anda teavet ja maskeeruda inimesteks. Internet Relay Chat süsteemis oli Eggdrop bot kõigi aegade lemmik.

Selliste majahoidjarobotite lapselapsed on integreeritud kaasaegsetesse otsinguagentidesse ja sõnumitoojatesse ning neil on tehisintellekti võimalused. Nad räägivad kasutajatega pigem nagu inimene, vastavad rutiinsetele päringutele ja annavad nõu. Kui tundub, et teie telefon teab teie mõistust ja otsib õigeid asju ilma, et teilt küsitaks, peab suur osa au jääma kulisside taga töötavatele robotitele. Nagu inimesed, saavad ka robotid kogemustest õppida ja on reaalsetes olukordades ette nähtud suuremateks asjadeks.

Alice ja Bob, Facebooki robotid, mis on saavutanud kurikuulsuse ootamatu programmeerimisloogika puudujäägi tõttu, on osa läbirääkimismasinate ehitamise eksperimendist. Nad lihtsalt mõtlesid välja, kuidas jagada esemete komplekti, näiteks palle, nii et kumbki osapool ei tunneks end petetuna. Kauplemise ajal tegi Alice esialgu arusaamatuid väiteid, nagu 'Pallidel on null minu jaoks minu jaoks minu jaoks minu jaoks minu jaoks minu jaoks... Ja järgnesid hirmutavad pealkirjad.

Õppimist juhivad stiimulid, nagu õpetajad ja lapsevanemad teavad. Sel juhul määrati harjutuse tasusüsteem - parem jagamine ja vastastikune rahulolu, läbirääkimiste olemus. Kuid robotid ei motiveerinud suhtlema inglise keeles, mis on kurikuulsalt ebaloogiline keel. Nii libisesid nad lihtsustatud ja tõhusamasse Newspeaki-laadsesse argotisse, mis pole küll päris ingliskeelne, kuid mitte ka arusaamatu, nagu reklaamitakse.

Alice'i avaldus, mida on valesti peetud masina iseseisvuse väiteks, viitas ainult hämmeldusele selle üle, et see on lühidalt muudetud (null on null), ja igaüks seisis minu jaoks ühe objekti eest, mida ta nõudis. Ta tegi täpselt seda tööd, milleks ta oli programmeeritud: kauples sama kõvasti kui poepidaja Istanbuli suures turus. Ja kui ta avastas, et kuninganna inglise keel jäi teele, polnud ta üksi. Paljud endiste kolooniate rassid arvasid, et meistrikeel takistas nende kogukondades suhtlemist.

Ainult professionaalsed inimläbirääkijad peavad olema mures, kui Silicon Valley hiiglased investeerivad läbirääkimisprogrammidesse. Terroristid ja tippkohtumised peaksid kartma ka vanaduspensioni, sest pantvangisituatsioonides ja rahvusvahelistes tehingutes võivad nad leida end silmitsi läbimõtlematu ja lepitamatu masinaga, mis on palju targem kui Deep Blue, IBM-i superarvuti, mis esitas 1996. aastal väljakutse malemeister Garri Kasparovile.

Tung erakeeli arendada on väga inimlik omadus. Enne börside arvutistamist edastasid börsimaaklerid pakkumisi käesignaalidega, mis olid teistele arusaamatud. Õiguskaitseorganid on sajandeid hämmeldunud varaste röökimiste pärast, süüdimõistetute tehiskeeltest, mis on nende vangivalvurite jaoks jaburad. 20. sajandi inglise keelt kõnelevate kurjategijate seas tähendas jabur sõna arkitnay: Ole vait, keegi kuulab pealt. Indias uuris William Henry Sleeman Ramaseeanat, Thuggee häält, ja avaldas sõnavara 1836. aastal. Üks Tom Stoppardi kõige vähem esitletud, kuid kõige intrigeerivamaid näidendeid on Doggi Hamlet, milles koolilapsed esitavad Shakespeare'i oma keeles Dogg. See sarnanes mõneti transponeerimisšifriga. Näiteks pärastlõunad tähendasid Doggis tere.

Hoolimata hukkamõistutest, Alice'i ja Bobi puhul on huvitav see, et keele loomisel on nad reetnud väga inimliku iseloomujoone, mida nad ei olnud otseselt programmeeritud näitama. Kuuskümmend aastat tagasi kirjutati esimesed robotid, et uurida täpselt seda küsimust: kas masinaid saab programmeerida käituma nagu inimesed? Kas nad suudaksid Turingi testi läbida? 1950. aasta artiklis pealkirjaga Computing Machinery and Intelligence ütles Turing sisuliselt, et kui masina side näib olevat inimlik, tuleks masinat pidada inimeseks.

Esimene loomuliku keele töötlemise robot, mis laborist välja astus ja massilist populaarsust kogus, oli Eliza, mille lõi 1964. aastal Joseph Weisenbaum MIT-s. Ta kirjutas selle näitamaks, et inimese ja masina tekstisuhtlus ei saa tõusta inimvestluse tasemele. Vastupidi, Eliza tekitas avalikkuses ootusi, et see läbib Turingi testi. Kolmkümmend aastat hiljem inspireeris Julia veelgi suuremaid lootusi, mille lõi Lycose asutaja Michael Mauldin, et võistelda Loebneri auhinna ehk Turingi testimise Püha Graali nimel. Kuid üle punkti ulatusid Julia vestlused juhuslikeks mõtisklusteks koerte ja kasside omaduste üle (tema kaasaegse versiooniga saate vestelda aadressil scratch.mit.edu/projects/2208608).

Nüüd on loomingulise keeleoskusega robotid haaranud populaarse kujutlusvõime, tekitades taas ärevust robokalüpsise pärast. Kuid Google'i AI-labori areng on tegelikult põnevam. 2016. aasta septembris alustas Google oma neuraalse masintõlkesüsteemiga, mis rakendab keele süvaõpet. Kaks kuud hiljem lükkasid nad ümbriku: kui masin õpiks tõlkima näiteks hindi ja saksa keelt ning hindi ja inglise keelt, kas see saaks tõlkida inglise ja saksa vahel ilma hindi sildkeeleta? See võib viidata sellele, et närvivõrk on õppinud midagi põhjapanevat selle kohta, kuidas mõistus seob mõisted ja grammatika keelte sepistamiseks. Väike, kollane kaanelaadne Paabeli kala, elav universaalne tõlkija, mille Douglas Adams unistas seitsmekümnendate lõpus, hõljub nüüd teie kõrva ääres.

Muidugi, kuna tehisintellekti jaoks pole pikaajalist prognoosi, tuleks nende inimeste hoiatustele, kes peaksid paremini teadma, nagu Elon Musk ja Stephen Hawking, pöörata piisavalt tähelepanu. Hoolimata uuendusvabaduse pooldajate, näiteks Mark Zuckerbergi protestidest, peaks olema reguleerimine. Ja peaks kujunema üldine konsensus, milles lepitakse kokku piirides, mida ei tohi ületada, nagu inimgenoomi sekkumiste puhul. Kuid ei saa eitada, et Facebooki ja Google'i katsed edendavad AI algset eesmärki, milleks oli inimmõistuse aspektide modelleerimine ja mõistmine. Ägedad meedialood, mida nad meelitavad, on mööduvad sensatsioonid. Järgmisel päeval sobivad need kala pakkimiseks.