OpenAI scioglie il team che si occupa delle IA ribelli

(Adnkronos) – Secondo quanto riportato dal Financial Times, OpenAI ha sciolto alla fine dello scorso mese il proprio team "preparedness", l'unità incaricata di valutare se i modelli sviluppati dall'azienda potessero rappresentare rischi gravi (dalla possibilità che un sistema sfugga al controllo e attacchi altre aziende fino all'uso improprio per minacce biologiche) e di elaborare contromisure. Le responsabilità non scompaiono, ma vengono redistribuite: le competenze su aree specifiche come bio e cyber security confluiscono in team già esistenti, senza più un presidio centralizzato e dedicato. Si tratta dell'ennesimo cambiamento in un'azienda che da tempo attraversa una fase di profonda riorganizzazione, mentre si avvicina a quella che è attesa come una delle IPO più imponenti della storia della tecnologia. Negli ultimi due anni OpenAI ha progressivamente smontato l'impianto più orientato alla ricerca sui rischi a lungo termine, sciogliendo prima il team Superalignment, poi quello AGI Readiness e, all'inizio di quest'anno, l'unità Mission Alignment. Il team preparedness è dunque il terzo tassello di sicurezza a sparire in due anni, un percorso che difficilmente può essere letto come una semplice coincidenza organizzativa. A questo si aggiunge una serie di uscite di peso: la responsabile etica Chloé Bakalar, il chief futurist Josh Achiam e il capo della sicurezza Johannes Heidecke hanno lasciato l'azienda nelle ultime settimane. Non sono le prime defezioni di questo tipo: già nel 2024 Jan Leike, tra i fondatori del team Superalignment, si era dimesso denunciando pubblicamente che in OpenAI "la cultura della sicurezza è passata in secondo piano rispetto ai prodotti scintillanti". Un giudizio che oggi, alla luce dello smantellamento del team preparedness, diversi osservatori tendono a riproporre. A guidare l'unità ora sciolta era Dylan Scandinaro, arrivato in OpenAI da Anthropic lo scorso febbraio. Scandinaro non lascia l'azienda: si concentrerà d'ora in avanti sulle implicazioni dell'intelligenza artificiale "recursively self-improving", ovvero sistemi capaci di migliorare autonomamente se stessi, uno degli scenari che proprio il team preparedness era stato creato per anticipare. 
—tecnologiawebinfo@adnkronos.com (Web Info)