Aprēķini rāda, ka kontrolēt augsti attīstītu mākslīgo intelektu būtu neiespējami (2)

Lai kontrolētu augsti attīstītu mākslīgo intelektu, mums būtu nepieciešama šā intelekta simulācija, lai mēs to varētu analizēt. Tomēr, ja mēs šo mākslīgo intelektu nekādā veidā nevaram kontrolēt, mēs arī nevaram izveidot šo simulāciju.

Tādus noteikumus kā "nedarīt pāri cilvēkiem" nevar uzstādīt, ja mēs nezinām, kādus scenārijus šis mākslīgais intelekts izgudros, raksta pētnieki. Ja reiz datorsistēma ir pārāka par programmētājiem, tad mēs vairs nevaram uzstādīt limitus.

"Superintelekts rada ievērojami citādākas problēmas nekā tās, kuras mēs iedomājamies "robotu ētikas" sakarā. Tas ir tāpēc, ka superintelekts ir daudzpusīgs un var mobilizēt dažādus resursus, lai sasniegtu cilvēkam neuzminamus mērķus," raksta pētnieki.

Daļa no pētnieku argumentācijas sastāv no tā saucamās "uzkāršanās problēmas", kuru izvirzīja Alans Tūrings 1936. gadā. Problēma saistīta ar zināšanu, vai dators nonāks pie secinājuma un atbildes vai "uzkārsies" jeb bezgalīgi meklēs šo atbildi.

Piemēram, katra programma, kas uzrakstīta, lai mākslīgais intelekts nekaitē cilvēkiem un neiznīcina pasauli, var "uzkārties" vai ne. Matemātiski mums nav iespējams noskaidrot, kas notiks. Mums arī nav iespējas padarīt kādu algoritmu nelietojamu.

Alternatīva, lai iemācītu mākslīgo intelektu neiznīcināt pasauli, ir limitēt superintelekta spējas. To, piemēram, varētu atslēgt no noteiktiem tīkliem vai interneta. Tiesa, jaunajā pētījumā noraidīta arī šī ideja.

Ja mēs turpināsim attīstīt mākslīgo intelektu, mēs varam palaist garām brīdi, kad tas sāks kļūt nekontrolējams. Tas nozīmē, ka mums jāsāk uzdot nopietni jautājumi par virzienu, kur dodamies.

Pētījums publicēts zinātniskajā žurnālā "Journal of Artificial Intelligence Research".