Diskusijos apie dirbtinio intelekto keliamas grėsmes vis dažniau peržengia įprastas temas apie darbo vietų nykimą ar informacijos patikimumą. Vis garsiau kalbama ir apie gerokai niūresnius scenarijus – ar sparčiai tobulėjančios dirbtinio intelekto sistemos galėtų tapti nekontroliuojamos ir kelti grėsmę pačiai žmonijai?
Apie tokias rizikas šiandien kalba ne tik technologijų specialistai ir mokslininkai. Ši tema aptariama ir tarptautiniu politiniu bei instituciniu lygmeniu. „Žinių radijo“ laidoje „Pa(si)aiškinam“ apie tai, kiek šios baimės pagrįstos, kalbėjo Vilniaus universiteto Matematikos ir informatikos fakulteto profesorius, dirbtinio intelekto tyrėjas Aistis Raudys.
VU MIF prof. Aistis Raudys
Pasak jo, pastaraisiais metais diskusijas apie galimą DI pavojų paskatino keli veiksniai. Pirmiausia – labai spartus technologijos tobulėjimas ir keli ryškūs kokybiniai šuoliai. Taip pat – pačių technologijų sektoriaus atstovų perspėjimai bei konkretūs incidentai, kai dirbtinio intelekto sistemos padarė tai, ko iš jų nebuvo tikimasi.
DI agentas pateko į vyriausybinę sistemą
Vienas laidoje aptariamų pavyzdžių – incidentas Australijoje. Pokalbyje minima, kad autonominis DI agentas pateko į Australijos vyriausybinę sveikatos statistikos svetainę ir pasiekė joje esančius failus, tarp jų ir tokius, kurie nebuvo skirti viešai prieigai.
A. Raudys pažymi, kad, kiek jam žinoma, šiuo atveju nebuvo pasiekti asmeniniai duomenys. Jis taip pat atkreipia dėmesį, kad agentas nesistengė paimti visos prieinamos informacijos, o ieškojo konkrečių duomenų, reikalingų jo vykdomai užduočiai.
Panašių atvejų, anot pašnekovo, buvo ir anksčiau. Laidoje prisimenami incidentai, kai DI agentai pateko į kitas sistemas ar interneto svetaines. Esminis momentas, pasak A. Raudžio, yra tas, kad tokios sistemos nebūtinai turi tikslą „įsilaužti“ ar sąmoningai padaryti žalą. Problema gali atsirasti tada, kai DI, vykdydamas žmogaus pavestą užduotį, susiduria su kliūtimi ir pradeda ieškoti būdų, kaip ją apeiti.
Problema gali kilti tada, kai sistema peržengia jai nustatytas ribas
A. Raudys pabrėžia, kad dabartinės DI sistemos kuriamos taip, kad kuo geriau padėtų žmogui. Tačiau būtent noras kuo geriau įvykdyti pavestą užduotį kartais gali tapti problema.
Pasak profesoriaus, sistema gali nepakankamai gerai suprasti jai nustatytas ribas. Jei įprastu būdu pasiekti rezultatą nepavyksta, ji gali pradėti ieškoti alternatyvių kelių – pavyzdžiui, bandyti pasiekti kitą serverį ar svetainę, nors tai nėra leidžiama.
Todėl tokie incidentai nebūtinai reiškia, kad DI „nusprendė“ padaryti kažką blogo. Greičiau tai situacija, kai sistema pernelyg atkakliai siekia atlikti jai pavestą užduotį ir netinkamai interpretuoja ribas, kurių neturėtų peržengti.
A. Raudžio teigimu, dabartinis dirbtinis intelektas savaime nepradeda kurti planų pakenkti žmonėms. Jis pabrėžia, kad pavojus gali kilti tuomet, kai dirbtiniu intelektu pasinaudoja piktavališki žmonės, pateikdami jam užduotis, galinčias sukelti realią žalą.
Ar įmanomas „Terminatoriaus“ scenarijus?
Kalbant apie mokslinės fantastikos scenarijus, kai dirbtinis intelektas savarankiškai perima pasaulio kontrolę, A. Raudys į tokią galimybę žiūri skeptiškai.
Jis primena, kad šiandienos DI sistemos veikia galinguose duomenų centruose ir priklauso nuo fizinės infrastruktūros bei elektros energijos. Tai reiškia, kad jos nėra nuo pasaulio infrastruktūros nepriklausomas „protas“, galintis tiesiog kažkur pabėgti ir toliau savarankiškai veikti.
Jo teigimu, kraštutiniu atveju DI sistemos veikimą būtų galima sustabdyti fiziškai – atjungiant infrastruktūrą, kurioje ji veikia.
Vis dėlto tai nereiškia, kad su DI susijusių pavojų nėra. Viena svarbiausių problemų – kaip tiksliai apibrėžti sistemai tikslą ir pasirūpinti, kad siekdama jo ji nepasirinktų nepriimtinų priemonių.
Laidoje pateikiamas ir provokuojantis hipotetinis pavyzdys. Jei žmogus paprašytų DI padėti jam tapti geriausiu „Minecraft“ žaidėju, teoriškai vienas absurdiškas būdas pasiekti tokį tikslą būtų pašalinti visus kitus žaidėjus. Šiuo pavyzdžiu A. Raudys iliustruoja, kaip netinkamai ar per siaurai apibrėžtas tikslas gali lemti nepageidaujamą rezultatą.
DI lenktynės apsunkina saugumo klausimus
Dar vienas svarbus pokalbio aspektas – technologinės lenktynės tarp valstybių ir bendrovių.
A. Raudys pažymi, kad didžiosios technologijų įmonės konkuruoja tarpusavyje, siekdamos sukurti vis pažangesnius DI modelius. Tuo pat metu vyksta konkurencija tarp JAV ir Kinijos. Nors tiek valstybės, tiek technologijų bendrovės supranta galimas rizikas, nė viena pusė nenori smarkiai pristabdyti plėtros, nes baiminamasi atsilikti nuo konkurentų.
Todėl kyla sudėtingas klausimas: kaip rasti pusiausvyrą tarp technologinės pažangos ir saugumo?
Viena vertus, galima kurti taisykles ir apsaugos mechanizmus, kurie sumažintų riziką. Kita vertus, jei dalis šalių ar bendrovių tokių taisyklių nesilaikytų, jas būtų sunku veiksmingai įgyvendinti.
Pasak A. Raudžio, vien taisyklių priėmimo nepakanka – ne mažiau sudėtinga būtų patikrinti, ar technologijų kūrėjai jų iš tiesų laikosi. Dėl to pasaulinis DI reguliavimas išlieka sudėtingas ir praktiškai sunkiai įgyvendinamas.
Svarbiausia – kaip DI naudojamas ir kokios ribos jam nustatomos
Pokalbis parodo, kad realios DI rizikos šiandien nebūtinai atrodo taip, kaip jas dažnai vaizduoja mokslinė fantastika.
A. Raudys pabrėžia, kad šiandien aptariami incidentai dažniausiai susiję ne su savarankišku DI siekiu pakenkti, o su tuo, kaip sistema vykdo jai pavestas užduotis, kokios ribos jai nustatomos ir kaip technologija gali būti panaudota žmonių.
Todėl klausimas, ar dirbtinis intelektas gali „sunaikinti žmoniją“, turi daugiau sluoksnių nei paprastas scenarijus apie prieš žmogų atsisukusią mašiną. Šiandien kur kas aktualesni klausimai – ar DI sistemos pakankamai gerai supranta joms nustatytas ribas, kaip užkirsti kelią jų naudojimui piktavališkiems tikslams ir kaip užtikrinti saugumą tuo metu, kai pasaulyje vyksta intensyvios technologinės lenktynės.
Pokalbio su Aisčiu Raudžiu ištrauką žiūrėkite „Žinių radijo“ svetainėje.
Visa laida „Žinių radijo“ platformoje „Contribee“ arba „Patreon“.
