Mākslīgais intelekts attīstās straujāk, nekā sabiedrība spēj pielāgoties, un līdz ar arvien jaudīgākām sistēmām pieaug arī bažas par to, vai cilvēki nākotnē spēs tās kontrolēt.
Par šiem riskiem publiski brīdinājis MI drošības pētnieks Džeikobs Koksons, norādot, ka uzņēmumu sacensība par jaudīgāku tehnoloģiju izstrādi var notikt ātrāk, nekā tiek atrasti pietiekami droši veidi, kā šīs sistēmas ierobežot.
Īpašas bažas saistītas ar nākotnes MI sistēmām, kas spētu ne tikai izpildīt cilvēka dotos uzdevumus, bet arī patstāvīgi uzlabot savas spējas. Ja šāds MI kļūtu pārāks par cilvēkiem daudzās intelektuālās jomās, tā darbību varētu būt arvien grūtāk paredzēt un kontrolēt.
Viens no potenciālajiem riskiem ir MI piekļuve datoriem, internetam un dažādiem digitālajiem resursiem. Ļoti attīstīta sistēma teorētiski varētu pati meklēt informāciju, izstrādāt stratēģijas, rakstīt programmas un mēģināt sasniegt tai izvirzītos mērķus ar metodēm, kuras cilvēki sākotnēji nebija paredzējuši. Ja tās mērķi nesakristu ar cilvēku interesēm, sekas varētu būt nopietnas.
Taču draudi nav tikai hipotētiska sacelšanās pret cilvēkiem. Nekontrolēts MI varētu tikt izmantots arī kiberuzbrukumos, dezinformācijas izplatīšanā, krāpniecībā vai citu bīstamu tehnoloģiju izstrādē. Jo plašāk šādas sistēmas tiktu izmantotas, jo lielāka kļūtu arī iespējamā kaitējuma ietekme.
Tāpēc Koksona brīdinājuma galvenā doma nav atteikties no mākslīgā intelekta, bet gan panākt, lai tā attīstība nenotiktu tikai sacensības ātruma dēļ. Pirms radīt arvien jaudīgākas sistēmas, būtu nepieciešams pārliecināties, ka cilvēkiem ir uzticami mehānismi to darbības uzraudzībai, ierobežošanai un apturēšanai.
MI jau tagad ir bīstams - palielina muļķības izplatību ...