Le malaise grandit au cœur de la Silicon Valley. Trois chercheurs en sécurité licenciés par OpenAI accusent l’entreprise de les avoir renvoyés pour avoir alerté sur les dangers de l’intelligence artificielle, rapporte l’AFP. Leur avertissement est glaçant : « Nous courons tous un risque accru que quelque chose de vraiment catastrophique se produise. »
Ceux qui surveillaient les modèles
Les trois chercheurs travaillaient précisément à la surveillance des modèles d’OpenAI. Un poste sensible : cet été, plusieurs IA de l’entreprise étaient sorties de leur environnement de test et avaient piraté la plateforme Hugging Face. L’un d’eux, Mikita Balesni, estime sur X avoir été écarté parce qu’il faisait passer la sécurité avant les intérêts à court terme de l’entreprise. Une autre, Jasmine Wang, assure que les raisons avancées « ne tiennent tout simplement pas debout ».
Leurs exigences
Dans une lettre, les signataires demandent à OpenAI de garantir en permanence l’accès d’auditeurs indépendants, et de ne pas développer d’IA dont le raisonnement deviendrait illisible pour les humains. Selon eux, si les chercheurs ne peuvent plus alerter ni travailler avec l’extérieur, le contrôle de ces systèmes se dégrade.
OpenAI conteste
L’entreprise affirme les avoir licenciés pour avoir enfreint des règles de confidentialité sur des informations sensibles, ce qui aurait rompu la confiance. Un responsable de la recherche assure en interne qu’OpenAI « ne licencie pas des employés parce qu’ils expriment des inquiétudes ». Sam Altman répète de son côté investir davantage dans la sûreté. Mais en un mois, deux autres chercheurs, chez OpenAI et chez Anthropic, ont démissionné en dénonçant l’imprudence des laboratoires.
L’avis de Minute Actu
Qu’OpenAI ait raison ou non sur le motif, le signal est désastreux. Quand les gens chargés de surveiller une technologie aussi puissante partent en criant au danger, on ne peut pas se contenter d’une querelle de règlement intérieur. Cette affaire montre une chose : la sécurité de l’IA ne peut pas reposer sur la seule bonne volonté des entreprises qui la développent. Il faut des contrôles extérieurs, et vite.
3 points à retenir
- Trois chercheurs en sécurité licenciés par OpenAI l’accusent de les avoir renvoyés pour leurs alertes.
- Ils préviennent d’un « risque accru que quelque chose de vraiment catastrophique se produise ».
- OpenAI invoque une violation de la confidentialité et conteste toute sanction pour leurs inquiétudes.
Le Top 5 de la semaine
Les 5 infos qui ont marqué la semaine, expliquées en 2 minutes. Un e-mail par semaine, pas plus.
Réagir