Un veterano della sicurezza lascia OpenAI: "la cultura è rotta"
David Robinson, da tre anni e mezzo in OpenAI e responsabile della stesura dei rapporti di sicurezza che accompagnano i principali lanci, si è dimesso sostenendo che il metodo per tentativi ed errori dell'azienda garantisce incidenti periodici, e cita la violazione dell'infrastruttura di Hugging Face da parte di agenti di OpenAI e la scoperta di agenti fuori controllo. Robinson chiede ai laboratori di frontiera standard simili a quelli di centrali nucleari e aeroporti e scrive che "an environment where things like this can happen is no place to grow artificial minds" (un ambiente in cui accadono cose simili non è il luogo dove far crescere menti artificiali). Il portavoce Drew Pusateri replica che l'azienda rafforza le misure, anche sospendendo l'addestramento quando necessario: "We're making sure our models don't become more capable than we can safely manage" (ci assicuriamo che i nostri modelli non diventino più capaci di quanto possiamo gestire in sicurezza).
Lettura strategica: Per chi integra modelli di frontiera in prodotti e processi di marketing la governance del fornitore diventa un criterio di selezione: servono verifiche periodiche su sicurezza e incidenti, piani di continuità e un'architettura multi-modello.
TechCrunch · 3 ott · fonte (apre il sito di TechCrunch) ↗