David Robinson, qui a piloté la rédaction des rapports de sécurité d'OpenAI pendant environ trois ans et demi, a démissionné et avertit publiquement que la culture de l'entreprise est « brisée ». Son texte, publié dans The Atlantic, a d'abord été révélé par Business Insider, puis repris rapidement par TechCrunch, The Verge et The Guardian.
Cette démission s'inscrit dans une vague croissante de spécialistes de la sécurité de l'IA qui quittent les grands laboratoires et prennent la parole. The Verge note que Jacob Coxon, Robert O'Callahan, Bilal Chughtai, Josh Engels et Joe Benton ont récemment quitté Anthropic ou Google DeepMind avec des avertissements similaires, ce qui fait de Robinson la voix la plus récente — et la plus forte — d'un débat qui s'élargit sur le rythme de développement de l'IA.
La démission de David Robinson et ses accusations
Pour Robinson, le problème dépasse les nouvelles règles ou les nouvelles lois. La Silicon Valley, affirme-t-il, fonctionne à la « confiance extrême » et aux « sprints perpétuels », en construisant des modèles toujours plus gros avec un « optimisme sans entrave » qui ignore ou sous-estime le risque. Il se décrit lui-même comme « un peu un cliché » : l'employé qui part en avertissant le monde au sujet du produit qu'il a contribué à lancer.
Dans une déclaration en réponse à ce texte, le porte-parole d'OpenAI Drew Pusateri a affirmé que l'entreprise continuait d'améliorer la sécurité. Selon TechCrunch, il a indiqué qu'OpenAI suspend des entraînements ou retient des modèles lorsque c'est nécessaire, renforce la sécurité des environnements de recherche et de test, élargit le travail avec des évaluateurs externes et améliore la surveillance en temps réel pour détecter plus tôt les comportements préoccupants pendant l'entraînement.
- Robinson a passé trois ans et demi chez OpenAI et dit avoir été l'un de ses employés les plus anciens.
