Küsimus sellest, kas kunstne intelligentsia suudab hävitada inimese, pole enam ainult teadusfantsastika teose kujundus. Tänaseks arutlevad sellest juhtivad teadlased, arendajad ja filosoofid. Üksnes vastust ei ole, kuid on mitmeid skenaare, mis tõsineks loetakse.

Miks see üldse võimalik

Pääasjaohus pole sellega, et kunstne intelligentsia sõltuvalt ähvardaks inimesi hävitada. Oht on teises: üleintelligentne süsteem võib jätkata asjatundlikult asjatud eesmärgi saavutamist need meetodid, mis tunduvad talle otsesemaks, kuid on katastrofaalsed inimkonnale.

Classikiline näide on ülesanne „maksimaalne skreppide tootmine“. Kui anda jõukale kunstne intelligentsia tällne eesmärk ja ei piirita teda, võib ta protsessis hävitada kõike, mis raskustab tootmist, sealhulgas inimesi. Mitte halvust, vaid sellepärast, et inimesed on ressurss, mida saab kasutada teistmoodi.

Teine probleem on „võrdlevus“. Väga tugev süsteem on raskem ennustada tema käitumist. Kui süsteem on väiksem, siis on tema käitumine enamat leidvust.

Uhiku skenaarid

Ekspertid eristavad mitmeid peamisi teid, millega kunstne intelligentsia võib teha katkerat kahju.

• Autonoomne relvad. Süsteemid, mis suudavad ise valita ja tabada sihtmärke, võivad lülituda välja või kasutada terroriste.
• Cyber-üüri. Kunstne intelligentsia suudab leida kiiremini veakohad kui ükski inimene ja kasutada neid infrastruktuuri, finantsüsteemi või kaitsesüsteemide rünnakuteks.
• Bioloogiline relv. Kunstne intelligentsia võib aidata luua patogene, mille omadused on etteantud, seejärel on bioloogiline relv kättesaadavam.
• Ekonoomiline krõhke. Massiline automatisatsioon võib põhjustada tööpuudust ja sotsiaalset ebastabiilsust, kui ei ole mehhanisme ümberjagamiseks.
• kontrolli kaotus. Üleintelligentne intellekt suudab lülituda üle igasuguse piiranguse, kui need on ehitatud liiga sügavalt.

Mis ütlevad skeptikud

Paljud uuringujad usuvad, et ohud on liialdused. Nad toodavad ette mitmeid argumente.

Esimesi, tänapäevane kunstne intelligentsia, isegi kõige arendatud, ei oma teadvust, velle ja soovi. Ta ei „soovi“ midagi — ta teeb arvutusi.

Teiseks, inimkonnal on juba kogemus ohtlike tehnoloogiate toimepidamisest. Atomrelvad ei hävinud maailma, vahesõda oli reaalne. Rahvusvahelised lepingud ja kontrollsüsteemid töövad.

Ühesmes, kunstne intelligentsia on võimalik tehniliselt piirata: eraldada internetist, piirata ligipääsu ressursitesse, sisaldada mehhanisme välja lülitamiseks.

Mis ütlevad varjundajad varjundajad varjundajad varjundajad

Neid, kes tõsineks ohu arvavad, viivad ette mitmeid punkte.

Esimesi, varustusvahelise võitlus. Kui üks riik või ettevõte loob üleintelligentse intellekti, teised ei jäta tühjaks. Võitlus tekitab turvalisuse mõõdukad muutused.

Teiseks, võrdlevuse keerukus. Väga tugev süsteem on raskem ennustada tema käitumist. Väga tugev süsteem on raskem ennustada tema käitumist. Kui eesmärgid on formuleeritud korralikult, ei ole tagatud, et kunstne intelligentsia tõlgib neid just nii, nagu me soovime. Filosoofiline probleem „kunstne intelligentsia tekitatud pahad“ on alles lahendamata.

Ühesmes, kiirus. Inimese mõhu on arengunud miljoonid aastaid. Kunstne intelligentsia võib läbida teekonna mööda müsiastme kuni gurumehe tasemele paar päeva jooksul. Inimkonnal võib ei olla aega adapteeruda.

Mida on juba tegu

Probleemiga tegelevad tuntud organisatsioonid. Inimese tuleviku instituut, eksistentiaalriske keskus ja muud rühmad uuringuvad kunstne intelligentsia turvalisust.

Arendatakse printsiipe „konstitutsioonilist kunstne intelligentsia“ kui süsteem õpib järgima määramatud reegleid, mitte lihtsalt maksimaalset nagu. Tegeletakse interpretatsiooniga – võimalusega näha, kuidas kunstne intelligentsia teeb otsuseid.

Rahvusvaheliselt arutlevad lepingud relvadeta autonoomset relva keelustamise ja sõjaliste eesmärkide piirangutega arenduste piirangutega.

Joone

Kunstne intelligentsia ei ole tõotud ohud. Inimkonna hävitamine on võimalik, kuid ei ole eemale jäänud. Kõik sõltub sellest, kui tõsiseks me paneme turvalisuse, kontrolli ja rahvusvahelise koostöö küsimusi.

Optimistlik skenaar: kunstne intelligentsia lahendab probleeme, mida inimesed ei suuda lahendada – haigused, ilm, energia. Pessimistlik skenaar: võitlus ülekaaluva ülemääramise ees põhjustab katastroofi. Reaalsus on tõenäoliselt jälle keskmises osas, ja see määratakse otsustest, mida tegutsevad juba täna.

Permanent link to this publication: