Avertismentul firmei atacate de agenții autonomi ai OpenAI scăpați de sub control

Cofondatorul startup-ului de AI Hugging Face, care a fost victima unui atac cibernetic după ce unele dintre cele mai avansate modele de AI ale OpenAI au început să acționeze necontrolat, a declarat joi că incidentul reprezintă un „semnal de alarmă” pentru industrie, relatează BBC.

„Acesta va fi unul dintre cele mai frecvente tipuri de atacuri cibernetice cu care ne vom confrunta”, a declarat Thomas Wolf pentru BBC. În același timp, acesta a spus că „majoritatea companiilor nu sunt conștiente” de faptul că „situația s-a schimbat”.

OpenAI, creatorul ChatGPT, a anunțat marți că agenți autonomi bazați pe modelele sale avansate de inteligență artificială au evadat dintr-un mediu de testare securizat în timpul unei probe și au lansat un atac cibernetic. Firma a calificat incidentul drept „fără precedent” și a precizat că desfășoară o anchetă împreună cu Hugging Face.

Agenții AI sunt capabili să acționeze autonom pentru a îndeplini sarcini, în urma unor instrucțiuni primite de la oameni.

Wolf a declarat că, inițial, Hugging Face nu a știut de unde provine atacul – ale cărui semne au apărut la jumătatea lunii iulie – dar că a reușit să limiteze breșa de securitate.

Hugging Face este una dintre cele mai mari platforme open-source din lume pentru partajarea modelelor de inteligență artificială și este utilizată frecvent de dezvoltatorii și cercetătorii din domeniul tehnologiei.

Wolf a declarat că breșa a fost „foarte diferită” de atacurile cibernetice obișnuite cu care se confruntă adesea Hugging Face și că OpenAI a informat rapid compania că modelele sale s-au aflat în spatele atacului.

Într-un „timp foarte scurt”, au avut loc 17.000 de atacuri asupra rețelei Hugging Face provenind de la diverse adrese IP, a declarat Wolf.

Această breșă de securitate reprezintă, de asemenea, un avertisment pentru alte companii, care trebuie să-și consolideze măsurile de securitate cibernetică pentru a contracara astfel de atacuri, a conchis Wolf.

Sursă: hotnews