Cum ajung inteligența artificială și instrumentele de afaceri armele hakerilor?

Pot instrumentele clasice de securitate să oprească aceste atacuri?

Atacatorii cibernetici folosesc tot mai des sistemele legitime de inteligență artificială din companii pentru a lansa atacuri la nivel global.

Specialiștii în securitate IT numesc această tendință emergentă „trăirea pe seama AI-ului” (living off the AI land), o strategie care amintește de tacticile folosite în trecut cu utilitarele administrative integrate, cum ar fi PowerShell.

În loc să instaleze malware tradițional, grupurile infracționale manipulează modelele de învățare automată deja existente pentru a sparge apărarea corporativă.

Rețelele companiilor se confruntă acum cu provocări unice de securitate, pe măsură ce organizațiile se grăbesc să adopte platforme avansate de automatizare. Hakerii deturnează aceste medii de încredere pentru a rula comenzi, a culege informații și a ocoli filtrele clasice de detecție.

Deoarece software-ul exploatat este legitim și aprobat de departamentele IT, activitățile neautorizate se amestecă perfect cu operațiunile de zi cu zi. Echipele de securitate se luptă efectiv să facă diferența dintre interogările legitime ale angajaților și manipulările rău intenționate ale AI-ului.

Analiștii de securitate subliniază că utilizarea instrumentelor corporative standard le permite intrușilor să rămână ascunși în sistem fără să dea alarme false prea devreme.

Atacatorii profită de puterea de calcul și de accesul la date ale modelelor de AI pentru a automatiza recunoașterea și a-și extinde operațiunile în mod eficient.

Această schimbare reduce nevoia de a dezvolta malware personalizat și îi ajută să evite sistemele de detecție de la nivelul endpoint-urilor. Organizațiile sunt acum obligate să monitorizeze interacțiunile cu platformele de AI la fel de atent ca pe terminalele tradiționale din rețea și conturile administrative.

Ce trebuie să știi despre noile amenințări AI?

Echipele de apărare au nevoie de o vizibilitate specializată asupra modului în care angajații și sistemele automate interacționează cu modelele lingvistice mari.

Fără o supraveghere adecvată, asistenții de AI din companii pot divulga din greșeală date sensibile sau pot executa instrucțiuni dăunătoare venite din partea unor adversari versați.

Arhitecții de securitate se întrec acum contracronometru să implementeze bariere mai stricte și protocoale de monitorizare pentru toată infrastructura de machine learning.

Software-ul antivirus convențional și firewall-urile eșuează adesea în fața abuzului asupra inteligenței artificiale, deoarece comenzile folosesc canale legitime de afaceri.

Protejarea rețelelor moderne cere instrumente de analiză comportamentală capabile să depisteze interogările suspecte adresate AI-ului și modelele neautorizate de acces la date.

Ce înseamnă mai exact folosirea abuzivă a AI-ului corporativ? Termenul descrie modul în care infractorii cibernetici exploatează instrumente legitime de inteligență artificială din companii pentru a lansa atacuri, eliminând necesitatea unor programe malware tradiționale.

De ce sunt atât de greu de depistat aceste atacuri? Intrușii se folosesc de software autorizat și de canale standard de afaceri, ceea ce face ca acțiunile lor rău intenționate să se piardă în masa operațiunilor curente ale companiei.