Kažkas apie Alisą ir Bobą

• Kategorija: Stulpeliai

Kūrybiškų kalbos įgūdžių turintys robotai užvaldė populiarią vaizduotę. Jie taip pat atgaivino nerimą dėl robokalipsės

Alisa ir Bobas, „Facebook“ robotai, išgarsėję dėl netikėto programavimo logikos trūkumo, yra derybų mašinų kūrimo eksperimento dalis. C R Sasikumar

Internetas užsidegė dramatiškai pasmerktomis antraštėmis, skelbiančiomis, kad „Facebook“ turėjo ištraukti kištuką nuo nesąžiningų dirbtinio intelekto (AI) robotų, kurie sukūrė savo kalbą, kuria jie vedė nežmoniškai privačius pokalbius. Jie skaitosi kaip anonsai apie Terminatoriaus globokalipsę, kuri yra pats baisiausias primatų košmaras, kurį jis naudoja naudojantį įrankį, kurį turi pakeisti jo paties kūrinys, mašina.

Realybė ne tokia dramatiška, bet įdomesnė. Botai yra savarankiški agentai, iš pradžių užprogramuoti atlikti namų tvarkymo užduotis ryšių kanaluose arba bandyti išlaikyti Turingo testą. Jie gali jus užregistruoti, išmesti, jei elgiatės netinkamai, atidaryti pokalbių kambarius, kai nieko nėra namuose, teikti informaciją ir apsirengti žmonėmis. „Internet Relay Chat“ sistemoje „Eggdrop“ robotas buvo visų laikų mėgstamiausias.

Tokių sargybinių robotų anūkai yra integruoti į šiuolaikinius paieškos agentus ir pasiuntinius ir turi dirbtinio intelekto galimybes. Su vartotojais jie kalbasi kaip su žmonėmis, atsako į įprastas užklausas ir pataria. Jei atrodo, kad jūsų telefonas žino jūsų mintis ir randa reikiamus dalykus be jo paklausimo, didžioji dalis nuopelnų tenka robotams, dirbantiems užkulisiuose. Kaip ir žmonės, robotai gali mokytis iš patirties ir yra skirti didesniems dalykams realiose situacijose.

Alisa ir Bobas, „Facebook“ robotai, išgarsėję dėl netikėto programavimo logikos trūkumo, yra derybų mašinų kūrimo eksperimento dalis. Jie tiesiog sugalvojo, kaip pasidalinti daiktų rinkiniu, pavyzdžiui, kamuoliais, kad nė viena šalis nesijaustų apgauta. Derėdamasi Alisa iš pradžių išsakė nesuprantamus teiginius, pavyzdžiui, „Balls have zero to me man me man to me man to me...“ Ir sekė baisios antraštės.

Mokytojai ir tėvai žino, kad mokymasis skatinamas paskatų. Šiuo atveju buvo apibrėžta pratybų atlygio sistema – geresnė dalis ir abipusis pasitenkinimas, derybų esmė. Tačiau robotams nebuvo jokios paskatos ir toliau bendrauti anglų kalba, kuri yra žinoma nelogiška kalba. Taigi jie paslydo į supaprastintą, efektyvesnį į Newspeak panašų argotą, kuris nėra visiškai angliškas, bet nėra nesuprantamas, kaip reklamuojama.

Alisos pareiškimas, kuris buvo klaidingai suprastas kaip tvirtinimas apie mašinos nepriklausomybę, tik rodė pasipiktinimą dėl to, kad jis buvo trumpai pakeistas (turi nulį), ir kiekvienas iš manęs pasisakė už objektą, kurio ji reikalavo. Ji dirbo būtent tą darbą, kuriam buvo užprogramuota: derėjosi taip pat sunkiai, kaip Stambulo Didžiajame turguje. Ir jei ji pastebėjo, kad karalienės anglų kalba trukdo, ji nebuvo viena. Daugelis buvusių kolonijų rasių manė, kad šeimininko kalba trukdo bendrauti jų bendruomenėse.

Tik profesionalūs derybininkai turi nerimauti, jei Silicio slėnio milžinai investuoja į derybų programas. Teroristai ir viršūnių viršūnių dalyviai taip pat turėtų bijoti senatvės, nes įkaitų situacijose ir tarptautiniuose sandoriuose jie gali susidurti su nesuprantama, nenumaldoma mašina, kuri yra daug protingesnė nei Deep Blue, IBM superkompiuteris, metęs iššūkį šachmatų čempionui Gariui Kasparovui 1996 m.

Noras plėtoti privačias kalbas yra labai žmogiška savybė. Prieš kompiuterizuojant biržas, biržos makleriai apie pasiūlymus pranešdavo kitiems nesuprantamais rankos signalais. Daugelį amžių teisėsaugą glumino vagių apkalbos – dirbtinės nuteistųjų kalbos, kurios savo kalėjimo prižiūrėtojams apkalba. Tarp XX amžiaus anglakalbių nusikaltėlių beprasmis žodis arkitnay reiškė: „Užsičiaupk, kažkas klausosi“. Indijoje Williamas Henry Sleemanas studijavo Ramaseeana, Thuggee giedojimą, ir 1836 m. paskelbė žodyną. Viena mažiausiai vaidinamų, bet labiausiai intriguojančių Tomo Stoppardo pjesių yra Doggo Hamletas, kuriame moksleiviai atlieka Šekspyrą savo kalba Dogg. Tai buvo šiek tiek panašus į transponavimo šifrą. Pavyzdžiui, popietės Dogge reiškė „labas“.

Nesvarbu, kad pražūtingi žmonės, Alisa ir Bobas įdomūs yra tai, kad kurdami kalbą jie išdavė labai žmogišką bruožą, kurio demonstruoti jie nebuvo aiškiai užprogramuoti. Prieš šešiasdešimt metų buvo parašyti pirmieji robotai, skirti tiksliai ištirti šį klausimą: ar mašinos gali būti užprogramuotos elgtis kaip žmonės? Ar jie galėtų išlaikyti Turingo testą? 1950 m. straipsnyje „Computing Machinery and Intelligence“ teigiama, kad Turingas iš esmės pasiūlė, kad jei mašinos ryšiai yra žmogiški, tada mašina turėtų būti laikoma žmogumi.

Pirmasis natūralios kalbos apdorojimo robotas, pasitraukęs iš laboratorijos ir įgijęs masinį populiarumą, buvo Eliza, kurį 1964 m. sukūrė Josephas Weisenbaumas iš MIT. Jis parašė jį norėdamas parodyti, kad žmogaus ir mašinos tekstinis bendravimas negali pakilti iki žmonių pokalbio lygio. Priešingai, Eliza sukėlė visuomenės lūkesčius, kad ji išlaikys Turingo testą. Po trisdešimties metų dar didesnes viltis įkvėpė Julija, kurią sukūrė Lycos įkūrėjas Michaelas Mauldinas, siekdamas varžytis dėl Loebnerio prizo – Tiuringo testų Šventojo Gralio. Tačiau Julios pokalbiai peraugo į atsitiktinius mąstymus apie šunų ir kačių savybes (su modernia jos versija galite pabendrauti adresu scratch.mit.edu/projects/2208608).

Dabar robotai, turintys kūrybingų kalbos įgūdžių, užgrobė populiarią vaizduotę, sukeldami nerimą dėl robokalipsės. Tačiau plėtra „Google“ AI laboratorijoje iš tikrųjų yra įdomesnė. 2016 m. rugsėjį „Google“ pradėjo veikti su savo Neural Machine Translation System, kuri taiko gilų kalbos mokymąsi. Po dviejų mėnesių jie nustūmė voką: jei mašina išmoktų versti, tarkime, iš hindi į vokiečių ir iš hindi į anglų kalbas, ar ji galėtų išversti iš anglų ir vokiečių be tilto kalbos hindi? Tai gali reikšti, kad neuroninis tinklas išmoko kažko esminio apie tai, kaip protas susieja sąvokas ir gramatikas su kalbų kūrimu. Maža, geltona, dėlės primenanti Babelio žuvelė – gyvas universalus vertėjas, kurį septintojo dešimtmečio pabaigoje susapnavo Douglasas Adamsas, dabar sklando prie ausies.

Žinoma, kadangi nėra ilgalaikės AI prognozės, reikėtų atkreipti deramą dėmesį į žmonių, kurie turėtų geriau žinoti, kaip Elonas Muskas ir Stephenas Hawkingas, įspėjimams. Turėtų būti reguliavimas, nepaisant laisvės diegti naujovių šalininkų, tokių kaip Markas Zuckerbergas, protestų. Ir turėtų būti pasiektas bendras sutarimas, susitarimas dėl linijų, kurių negalima kirsti, kaip ir intervencijos į žmogaus genomą atveju. Tačiau negalima paneigti, kad „Facebook“ ir „Google“ eksperimentai skatina pirminį AI tikslą – modeliuoti ir suprasti žmogaus proto aspektus. Juokingos žiniasklaidos istorijos, kurias jie traukia, yra praeinantys pojūčiai. Kitą dieną jie tinka žuvims įvynioti.