Mākslīgais intelekts attīstās straujāk, nekā sabiedrība spēj pielāgoties, un līdz ar arvien jaudīgākām sistēmām pieaug arī bažas par to, vai cilvēki nākotnē spēs tās kontrolēt.
Par šiem riskiem publiski brīdinājis MI drošības pētnieks Džeikobs Koksons, norādot, ka uzņēmumu sacensība par jaudīgāku tehnoloģiju izstrādi var notikt ātrāk, nekā tiek atrasti pietiekami droši veidi, kā šīs sistēmas ierobežot.
Īpašas bažas saistītas ar nākotnes MI sistēmām, kas spētu ne tikai izpildīt cilvēka dotos uzdevumus, bet arī patstāvīgi uzlabot savas spējas. Ja šāds MI kļūtu pārāks par cilvēkiem daudzās intelektuālās jomās, tā darbību varētu būt arvien grūtāk paredzēt un kontrolēt.
Viens no potenciālajiem riskiem ir MI piekļuve datoriem, internetam un dažādiem digitālajiem resursiem. Ļoti attīstīta sistēma teorētiski varētu pati meklēt informāciju, izstrādāt stratēģijas, rakstīt programmas un mēģināt sasniegt tai izvirzītos mērķus ar metodēm, kuras cilvēki sākotnēji nebija paredzējuši. Ja tās mērķi nesakristu ar cilvēku interesēm, sekas varētu būt nopietnas.
Taču draudi nav tikai hipotētiska sacelšanās pret cilvēkiem. Nekontrolēts MI varētu tikt izmantots arī kiberuzbrukumos, dezinformācijas izplatīšanā, krāpniecībā vai citu bīstamu tehnoloģiju izstrādē. Jo plašāk šādas sistēmas tiktu izmantotas, jo lielāka kļūtu arī iespējamā kaitējuma ietekme.
Tāpēc Koksona brīdinājuma galvenā doma nav atteikties no mākslīgā intelekta, bet gan panākt, lai tā attīstība nenotiktu tikai sacensības ātruma dēļ. Pirms radīt arvien jaudīgākas sistēmas, būtu nepieciešams pārliecināties, ka cilvēkiem ir uzticami mehānismi to darbības uzraudzībai, ierobežošanai un apturēšanai.
1) Labi aizsargātā datu centrā (kāda no lielajiem telekomunikāciju operatoriem) elektreķi veļkot elektrību pievadīja skapim tikai fāzes un nevienas nulles, gana daudz elektronikas jutās stipri pārsteigta un izlaida zilu dūmu.
2)Savā karjeras sākumā esmu bijis atbildīgs par dažiem DC aprīkojumu projektiem, bez elektriķu līdzdalības pats biju nosipies līks ar to lai izplānotu kā visu izdarīt tā lai papildu elektrības ievilkšana ar sekojošu pārslēgšanu neradītu visa DC pēkšņu apstāšanos ... Pa ceļam vienu vidējo "rack mount" UPSi gan tāpat nosvilinājām, jo tomēr nepamanīju kā bez manas ziņas tam bija piekabinājuši veselu 5 pagarinātāju "maģistrālo loku" uz vienu 220/240V 16A izeju.
3) Pēdejā gada laikā man atnāca liela/populāra ražojāta Intel severis, kuru "joka pēc" pie sevis atvērām un apskatījām kas iekšā ( Mums šis modelis vēl nebija ticis "nagos") . Kolēģis jau grasījās likt vāku virsū un iepakot serveri klientam - kad es nobrēcos - stop, šitam tā nav jābūt ...
Uz mātes plates "mētājās" nepieskrūvēta 100% metāliska skava/plāksne. Orģinālā vienam no servera barošanas bloku tipiem tā strādā kā atdure, un šeit tā nebija pieskrūvēta paredzētajā vietā. Labi ka jamā uz to brīdi atradās uz plastmasa aizsarga, bet serveri montējot serveru statnē tā viegli noslīdētu uz pašas mātes plates ... un to ieslēdzot vistcimaāk serveris būtu metams ( un pat ja paveiktos, tad paša servera vibrāciju rezultātā tā pati nokristu uz kontaktvirsmām ar strāvas padevi ... Īsumā iniciējām diezgan nopietnu kvalitātes pārbaudi konkrētajam ražotājam. Mūsu igauņu kolēģi vienu serveri ( tyā paša ražotāja bet jau senāk) ar lielu blīkšķi "pieslēdza" klientu datu centrā, un nav tā ka tas būtu paslīdejis garām bez ietekmes uz apkārtējo apratūru ...