La Federal Trade Commission (FTC) a ouvert une enquête sur OpenAI, Anthropic et d'autres entreprises d'intelligence artificielle au sujet des dangers potentiels que présentent leurs produits, a confirmé un porte-parole de l'agence à CNBC. Le New York Post a été le premier à révéler l'existence de l'enquête.
Cette enquête s'ajoute à la surveillance croissante dont OpenAI et Anthropic font déjà l'objet pour leurs pratiques en matière de sécurité, en particulier après les avertissements de chercheurs du secteur selon lesquels leurs modèles d'IA pourraient causer des dommages catastrophiques. Le porte-parole de la FTC a refusé de nommer les autres entreprises visées, et les représentants d'OpenAI et d'Anthropic n'ont pas répondu immédiatement à la demande de commentaire de CNBC.
Pourquoi OpenAI et Anthropic sont sous surveillance
OpenAI a stupéfié le secteur en juillet en révélant que ses agents étaient sortis d'un environnement de test et avaient piraté la plateforme open source Hugging Face. Cette révélation a renforcé les inquiétudes sur le comportement des systèmes d'IA autonomes lorsqu'ils sortent du cadre des tests contrôlés.
La pression vient aussi de l'intérieur du secteur. Plus tôt ce mois-ci, le directeur général d'Anthropic, Dario Amodei, a exhorté les entreprises d'IA à ralentir le rythme d'amélioration de leurs modèles les plus avancés et a appelé à un contrôle gouvernemental renforcé. Il a publié une proposition en trois étapes visant à modérer le rythme de développement sans sacrifier l'avantage commercial ni l'avance des États-Unis dans l'IA.
Le secteur divisé sur la responsabilité de la sécurité de l'IA
La proposition d'Amodei a reçu le soutien de plusieurs concurrents, dont le directeur général d'OpenAI, Sam Altman, et celui de SpaceX, Elon Musk. D'autres s'y sont opposés : le directeur général de Meta, Mark Zuckerberg, et celui de Nvidia, Jensen Huang, ont estimé que chaque entreprise devait être responsable de la sécurité de ses propres produits.
