Le message surprend.
Alors que la course à l’intelligence artificielle bat son plein entre OpenAI, Google, Meta ou encore Microsoft, Anthropic, l’un des acteurs les plus puissants du secteur, estime qu’il pourrait être nécessaire de ralentir, voire de suspendre temporairement certains développements.
Une prise de position rare venant d’une entreprise qui participe elle-même à cette révolution technologique.
Anthropic tire la sonnette d’alarme
Anthropic est loin d’être un acteur marginal.
La société américaine est à l’origine de Claude, l’un des principaux concurrents de ChatGPT. Elle est soutenue par des géants comme Amazon et Google et fait partie des entreprises les plus avancées au monde dans l’intelligence artificielle générative. (anthropic.com)
Pourtant, plusieurs responsables de l’entreprise estiment aujourd’hui que la vitesse de développement de l’IA devient préoccupante.
Selon eux, les futurs modèles pourraient atteindre des capacités si avancées qu’il deviendrait difficile d’en contrôler les conséquences.
Une course mondiale devenue incontrôlable ?
Depuis l’explosion de ChatGPT fin 2022, les géants de la technologie investissent des centaines de milliards d’euros dans l’intelligence artificielle.
Chaque mois, de nouveaux modèles apparaissent avec :
- davantage de puissance,
- plus d’autonomie,
- une meilleure compréhension du langage,
- et des capacités de raisonnement toujours plus impressionnantes.
Cette compétition mondiale pousse les entreprises à accélérer sans cesse.
C’est précisément ce phénomène qui inquiète certains chercheurs.
Selon eux, la pression économique pourrait conduire à déployer des systèmes insuffisamment testés.
Les risques évoqués par Anthropic
L’entreprise ne demande pas l’arrêt définitif de l’intelligence artificielle.
Elle plaide plutôt pour davantage de prudence et de contrôle.
Parmi les dangers régulièrement évoqués :
- la désinformation massive,
- les cyberattaques automatisées,
- les manipulations politiques,
- les pertes d’emplois à grande échelle,
- ou encore l’apparition de systèmes devenus difficiles à superviser.
Anthropic estime que certains modèles de prochaine génération pourraient posséder des capacités inédites nécessitant de nouvelles règles de sécurité. (anthropic.com)
Un débat qui divise la Silicon Valley
Cette position ne fait pas l’unanimité.
Certains experts considèrent qu’un ralentissement permettrait de mieux comprendre les conséquences de l’IA avant d’aller plus loin.
D’autres estiment au contraire qu’une pause serait impossible à mettre en œuvre.
Selon eux, si les entreprises occidentales ralentissent, d’autres pays continueront leurs recherches sans attendre.
La Chine est souvent citée dans ce débat.
Les partisans de l’accélération estiment qu’un frein imposé aux entreprises américaines pourrait leur faire perdre leur avance technologique.
L’Europe tente déjà d’encadrer l’IA
Face à ces inquiétudes, plusieurs gouvernements cherchent à instaurer des règles.
L’Union européenne a adopté l’AI Act, considéré comme la première grande réglementation mondiale sur l’intelligence artificielle.
Les États-Unis travaillent également sur plusieurs mécanismes de contrôle.
Mais pour de nombreux spécialistes, la technologie évolue beaucoup plus vite que les lois.
Une révolution qui soulève de plus en plus de questions
Il y a encore quelques années, les discussions autour de l’intelligence artificielle relevaient presque de la science-fiction.
Aujourd’hui, même certaines entreprises qui développent ces technologies alertent sur leurs propres créations.
Le paradoxe est frappant.
Ceux qui construisent les systèmes les plus puissants du monde sont aussi parfois ceux qui demandent le plus de prudence.
Et cela montre à quel point la révolution de l’IA ne fait probablement que commencer.
Les 3 choses à retenir
- Anthropic, créateur de Claude, estime qu’il pourrait être nécessaire de ralentir le développement de l’IA.
- L’entreprise craint que certains futurs modèles deviennent trop puissants sans encadrement suffisant.
- Le débat oppose les défenseurs de la prudence aux partisans d’une accélération de l’innovation.
