Mākslīgā intelekta (MI) uzņēmumu līderi trešdien ANO Drošības padomē brīdināja par riskiem, ko rada strauja MI tehnoloģiju attīstība, un aicināja uz starptautisku sadarbību šajā jomā.
"OpenAI" vadītājs Sems Altmens sacīja, ka pašreizējais moments MI attīstībā "aicina būt ārkārtīgi uzmanīgiem".
"Mums priekšā ir izvēle. MI var būt vai nu kā jauna radošuma un atklājumu renesanse, vai kā jauna rūpnieciska revolūcija ar sajukumu un nekārtību."
Viņš atzina, ka ar MI ir saistīti divi nozīmīgi riski.
"Pirmkārt, mēs varam MI zaudēt kontroli pār nākotni. Risks ir, ka tas attīstās tik ātri, ka cilvēki vairs nespēj sekot notiekošajam vai iejaukties, kad tas ir vajadzīgs. Tas acīmredzot būtu briesmīgi," sacīja Altmens.
"No otras puses, šīs sistēmas var koncentrēt pārāk daudz varas pārāk maz rokās. Nevienam cilvēkam, uzņēmumam vai valstij nevajadzētu būt spējīgam izmantot visvarenākos MI modeļus, lai uzspiestu savu pasaules uzskatu citiem."
"Šī nozare nedrīkst akceptēt pārāk daudz tehnoloģiskā riska tikai tāpēc, ka ieguvumi ir pārāk lieli un svarīgi, lai palēninātu" attīstības tempu, sacīja Altmens.
Viņš sacīja, ka "OpenAI" mēģinās iet par "vidus ceļu". "Mēs negribam iekrist akla optimisma lamatās," teica Altmens, tomēr arī brīdinot neieslīgt nolemtības pesimismā.
"OpenAI" nesen aicināja ASV vadīt globālus centienus MI standartu noteikšanā, atzīmējot, ka ASV ir MI tehnoloģiju priekšgalā.
Altmens bija viens no nozares līderiem, kas teica uzrunas ANO Drošības padomes ārkārtas sēdē pēc tam, kad globālie mediji vairākas nedēļas bija ziņojuši par nekontrolējama MI riskiem un aicinājuši palēnināt tā attīstību.
"Anthropic" vadītājs Dario Amodejs savā uzrunā sacīja, ka MI ir vissvarīgākais globālās drošības jautājums, ar kuru tagad saskaras pasaule.
"Es pat uzskatu, ka slikti pārvaldīts MI var būt risks cilvēcei kopumā," teica Amodejs.
Viņš aicināja aizliegt MI izmantošanu bioloģisko ieroču izstrādē un noteikt globālus standartus jaunu MI modeļu izmēģināšanai.
Šādi brīdinājumi izteikti pēc bezprecedenta kiberincidenta, kurā "OpenAI" programmatūra izlauzās no drošas izmēģinājumu vides un neatkarīgi piekļuva sistēmām, kas pieder MI jaunuzņēmumam "Hugging Face".
"Hugging Face" jūlijā paziņoja, ka konstatējis iebrukumu savās datu apstrādes sistēmās. Uzņēmums turēja aizdomās mākslīgā intelekta aģentu, kas darbojies autonomi.
Pēc šī incidenta lielākie MI uzņēmumi ASV, tai skaitā "OpenAI" un "Anthropic", paziņoja, ka ir gatavi palēnināt tehnoloģijas attīstību.
Amodejs pēdējos gados ir vairākkārt brīdinājis par MI attīstības riskiem un par to asi kritizēts no nozares pārstāvju puses. Viens pretarguments, kuru atbalstījis arī ASV prezidents Donalds Tramps, ir sacensība ar Ķīnu par vadošo lomu MI jomā.
