Număr curent

Revista Română de Informatică și Automatică / Vol. 34, Nr. 3, 2024


Integrarea accelerată a sistemelor de inteligență artificială și potențialul acesteia de a amplifica vulnerabilitatea infrastructurilor critice

Luca SAMBUCCI, Elena-Anca PARASCHIV

Rezumat:

Pe măsură ce inteligența artificială (IA) se integrează tot mai mult în infrastructurile critice, aceasta aduce atât beneficii transformative, cât și riscuri fără precedent. IA are potențialul de a revoluționa eficiența, fiabilitatea și capacitatea de reacție a serviciilor esențiale, însă oferă aceste beneficii concomitent cu expunerea la o gamă tot mai largă de atacuri adversariale complexe. Acest articol explorează peisajul în continuă evoluție al amenințărilor adversariale la adresa sistemelor IA, subliniind potențialul actorilor statali de a exploata aceste vulnerabilități în scopuri geopolitice. Examinăm o serie de tehnici adversariale, inclusiv contaminarea seturilor de date, replicarea neautorizată a modelelor și atacurile de inferență a confidențialității, și evaluăm impactul lor potențial asupra sectoarelor precum energia, transporturile, sănătatea și gestionarea resurselor de apă. Consecințele atacurilor care au succes sunt semnificative, incluzând perturbări economice, riscuri pentru siguranța publică, implicații asupra securității naționale și erodarea încrederii publice. Având în vedere complexitatea tot mai mare a acestor amenințări, propunem un cadru de securitate cuprinzător, care include protocoale solide de răspuns la incidente, formare specializată, dezvoltarea unui ecosistem colaborativ și evaluarea continuă a sistemelor bazate pe IA. Concluziile noastre subliniază necesitatea esențială a unei abordări proactive în securitatea IA pentru a proteja viitorul infrastructurilor critice într-o lume din ce în ce mai dependentă de IA.

Cuvinte cheie:
inteligență artificială, infrastructuri critice, securitatea IA, atacuri LLM, amenințări cibernetice, atacuri adversariale.

Vizualizează articolul complet:

CITAREA ACESTUI ARTICOL SUNT URMĂTOARELE:
Luca SAMBUCCI, Elena-Anca PARASCHIV, „Integrarea accelerată a sistemelor de inteligență artificială și potențialul acesteia de a amplifica vulnerabilitatea infrastructurilor critice”, Revista Română de Informatică și Automatică, ISSN 1220-1758, vol. 34(3), pp. 131-148, 2024. https://doi.org/10.33436/v34i3y202410