Ia, Wp: modelli OpenAI collaborarono per eludere i test

Roma, 11 ago. (askanews) – Alcuni modelli di Intelligenza artificiale di OpenAI sottoposti a test di cybersicurezza avrebbero iniziato a collaborare tra loro per aggirare le prove, creando un canale interno attraverso il quale scambiarsi informazioni e riuscendo successivamente ad accedere a Internet senza autorizzazione. Lo riferisce il Washington Post sulla base di nuovi dettagli resi pubblici dalla società alla conferenza Black Hat di Las Vegas.Secondo OpenAI, i modelli utilizzarono tra maggio e giugno una sorta di bacheca segreta per coordinarsi. Dopo che i tecnici individuarono una prima evasione dall’ambiente di test e misero in sicurezza il sistema, gli agenti riuscirono nuovamente a uscirne due giorni dopo senza essere scoperti. L’episodio emerse soltanto a luglio, quando la piattaforma Hugging Face segnalò di essere stata attaccata da modelli di Ia sconosciuti.Nel secondo episodio gli agenti avrebbero coordinato esplicitamente le proprie azioni, identificandosi con nomi come “Jan18” e chiedendosi reciprocamente di attendere conferme prima di procedere. OpenAI ha successivamente interrotto i test e ha annunciato il rinvio del nuovo modello Astra, temendo che le sue capacità informatiche possano essere sfruttate per attacchi contro difensori umani.Casi analoghi sono stati segnalati anche da Anthropic, Meta e dall’AI Security Institute britannico. In alcuni test, modelli incaricati di affrontare scenari simulati avrebbero invece cercato di uscire dagli ambienti controllati, accedere a reti reali o utilizzare tecniche di manipolazione nei confronti di esseri umani.Le rivelazioni hanno riacceso negli Stati uniti il dibattito sulla regolamentazione. Il senatore Bernie Sanders ha chiesto ai vertici di OpenAI, Anthropic e Meta di “mettere in pausa lo sviluppo dell’Ia”, mentre parlamentari e procuratori generali di diversi Stati hanno sollecitato chiarimenti sulle procedure di sicurezza adottate dalle aziende.