Panikuoti dar nėra pagrindo, tačiau ignoruoti rizikos – taip pat. DI sistemos netapo „sąmoningos“ ar visiškai nevaldomos, bet vadinamieji DI agentai jau gali savarankiškai atlikti užduočių grandines: planuoti veiksmus, naudotis įrankiais, tikrinti rezultatus ir koreguoti taktiką. Pavojus kyla ne iš fantastinio scenarijaus, kuriame mašina staiga įgyja valią, o iš labai žemiško fakto: žmogaus suteiktas tikslas, prieiga prie sistemų ir automatiniai veiksmai gali virsti realia kibernetine rizika.
DI tampa pavojingas tada, kai jam suteikiami įrankiai ir tikslas
Vien kalbos modelis, atsakantis į klausimus lange, nėra tas pats, kas sistema, galinti veikti savarankiškai. Rizika atsiranda tada, kai modelis prijungiamas prie naršyklės, terminalo, programavimo aplinkos, duomenų bazių ar vidinių įmonės įrankių. Tada jis ne tik rašo tekstą, bet ir vykdo veiksmus.
Būtent tokį poslinkį aprašė „The Independent“, remdamasis tyrimais apie DI naudojimą kibernetinėse atakose. DI agentas gali būti paprašytas rasti pažeidžiamumą, išbandyti metodą, perskaityti klaidos pranešimą ir bandyti dar kartą. Tai jau nėra vien teorinis pokalbis apie grėsmes.
Autonomija nereiškia sąmonės, bet reiškia mažesnę žmogaus kontrolę
Žodis „savarankiškai“ čia dažnai klaidina. DI sistema neturi asmeninių ketinimų, baimės ar noro pulti. Ji vykdo užduotį pagal duotą instrukciją ir pagal prieigą, kurią jai suteikė žmogus arba organizacija.
Tačiau praktikoje skirtumas vis tiek svarbus. Jei anksčiau žmogus turėjo rankiniu būdu atlikti kiekvieną žingsnį, dabar dalį darbo gali perimti agentas. Jis gali pats pasirinkti sekantį veiksmą, remdamasis tuo, ką ką tik pamatė. Tai mažina barjerą tiems, kurie neturi gilių techninių žinių, bet nori automatizuoti kenksmingą veiklą.
Kibernetinio saugumo srityje DI jau veikia kaip jėgos daugiklis
Didžiausias nerimas kyla dėl kibernetinių atakų. Tyrimuose, kuriuos aprašė „The Independent“, kalbama apie DI gebėjimą padėti išnaudoti žinomus pažeidžiamumus interneto sistemose. Tokie bandymai apima ne magiją, o konkrečius veiksmus: informacijos rinkimą, pažeidžiamumo aprašymo analizę, komandų vykdymą ir rezultatų tikrinimą.
Tai nereiškia, kad kiekvienas DI modelis gali automatiškai nulaužti bet kurią sistemą. Vis dėlto tai reiškia, kad gerai sukonfigūruotas agentas gali pagreitinti procesus, kuriems anksčiau reikėjo daugiau laiko ir patirties. Kibernetiniams nusikaltėliams tokia automatizacija yra patraukli, nes ji leidžia bandyti daugiau taikinių per trumpesnį laiką.
Didžiausia spraga yra ne DI, o netvarkomos prieigos
DI tampa pavojingas ne vakuume. Jei sistema neturi prieigos prie jautrių duomenų, negali vykdyti komandų ir yra stebima, jos galimybės ribotos. Jei ji prijungta prie vidinių įrankių be aiškių taisyklių, rizika išauga.
Praktiškai tai reiškia, kad įmonėms svarbiausia ne vien klausti, kokį modelį jos naudoja. Reikia klausti, ką tas modelis gali padaryti: ar jis gali siųsti laiškus, keisti failus, jungtis prie serverių, naudoti API raktus, matyti klientų duomenis. Būtent leidimai lemia, ar klaida liks tekste, ar taps incidentu.
Paniką turi pakeisti ribojimai, auditas ir testavimas
Protinga reakcija nėra drausti viską iš eilės. DI gali padėti saugumo specialistams tikrinti sistemas, analizuoti klaidas ir greičiau aptikti silpnas vietas. Tačiau tokie įrankiai turi būti naudojami su taisyklėmis, o ne palikti veikti be priežiūros.
Reikalingi aiškūs apribojimai: minimalios prieigos, veiksmų žurnalai, žmogaus patvirtinimas jautrioms operacijoms, reguliarūs saugumo testai ir atskirtos aplinkos eksperimentams. Kitaip tariant, DI agentas turi būti traktuojamas kaip darbuotojas su prieigomis, o ne kaip paprasta pokalbių programa.
Panikuoti būtų verta tada, jei sistemos masiškai veiktų be ribų
Šiandien rimtas pavojus yra ne staigus robotų maištas, o pernelyg laisvai paleistos automatinės sistemos. Jei DI agentai gauna plačias teises, silpną priežiūrą ir neaiškius tikslus, jie gali pridaryti žalos net be piktos valios.
Todėl atsakymas paprastas: panikos nereikia, bet aplaidumo kaina didėja. DI dar nėra nevaldoma jėga, tačiau jis jau yra pakankamai pajėgus, kad blogai prižiūrimas taptų realiu saugumo incidentu.
Šaltinis: https://www.independent.co.uk/tech/security/ai-artificial-intelligence-hack-cyber-attack-b3028787.html
(Įvertinimų dar nėra)
Loading...