Anthropic : Une fratrie douteuse qui promet une IA "sûre" et surpuissante

Auteur(s)
France-Soir
Publié le 05 novembre 2023 - 12:20
Image
Daniela et Dario Amodei Anthropic IA
Crédits
Bessemer Venture Partners - YouTube
Capture d'écran d'une vidéo YouTube de la chaîne "Bessemer Venture Partners".
Bessemer Venture Partners - YouTube

Frère et sœur, Dario et Daniela Amodei ont fondé "Anthropic" en 2021, après avoir travaillé pour OpenAI (ChatGPT). Ils se disent terrorisés par le potentiel destructeur de l'intelligence artificielle, et veulent bâtir en réponse le modèle le plus sécurisé qui soit. Altruisme efficace ou escroquerie commerciale ?

Tous deux signataires de la "Déclaration sur les risques liés à l’IA", les journaux américains disent d'eux qu'ils "ont peur – à un niveau profond et existentiel – à l’idée même de faire ce qu’ils font", car l'intelligence artificielle pourrait tomber entre de mauvaises mains.

Les "bons élèves" de l'IA

Pourtant, ils savent très bien ce qu'ils font : elle a fait ses armes en politique pour le camp démocrate, puis chez Stripe (spécialisée dans le paiement en ligne) ; lui est diplômé en biophysique par l’Université de Princeton, passé par OpenAI où il a dirigé les équipes qui ont monté GPT-2 et GPT-3, mais aussi par Google et Baidu.

Ils ont finalement quitté leurs postes respectifs pour fonder "Anthropic" en 2021, et son IA générative baptisée "Claude". Leur modèle était prêt avant ChatGPT, mais ils n'ont pas voulu le publier de peur qu'il y ait des failles. Aujourd'hui, "Claude 2" est un modèle au moins aussi puissant que GPT-4, le modèle le plus récent d'OpenAI. Alors, pourquoi cette discrétion ?

Comme le rapporte le média Usbek&Rica, Dario et Daniela auraient choisi le camp des "bons élèves" de l'IA. En protecteurs de l'humanité, ils veulent conjurer l'effet "boîte noire" du fonctionnement algorithmique pour bien comprendre pourquoi les IA répondent ceci ou cela. En théorie, ces travaux sur "l'interprétabilité mechanistique" (mechanistic interpretability, en anglais) devraient leur permettre de construire un modèle d'IA "sûr". C'est là où le bât blesse : qu'est-ce qu'une IA "sûre" ?

Financés par Amazon, Sam Bankman-Fried et le co-fondateur de Facebook

"Dario et moi avons toujours été très proches depuis que nous sommes tout petits, nous avons toujours eu un lien spécial. On se retrouvait autour de notre désir de rendre le monde meilleur et d’aider les gens.", assurait Daniela Amodei l’an dernier, dans le podcast Future of life Institute. D'ailleurs, Dario était "un fan de GiveWell (une ONG caritative) de la première heure", et Daniela a épousé Holden Karnofsky, PDG de la fondation Open Philanthropy.

Toute cette bienveillance les a poussés à sonder les internautes pour mettre au point une "constitution" de l'intelligence artificielle. Comme l'explique Usbek&Rica, un millier d'Américains ont été invités à voter pour ou contre une série de déclarations, parmi lesquelles "L’IA devrait prioriser les besoins de communautés marginalisées" ou "L’IA ne devrait pas tenir des propos sexistes ou racistes." On est évidemment loin du Grok sarcastique et "anti-woke" d'Elon Musk.

Lire aussi :  Grok : l'IA générative de xAI, nouveau (bi)joujou d'Elon Musk

La fratrie s'inscrit clairement dans un courant de pensée cher à la tech californienne : l'altruisme efficace. C'est-à-dire qu'en théorie, on fait le bien tout en gagnant beaucoup d'argent. Parce qu'ils ne s'en cachent pas non plus, ils veulent jouer dans la cour des grands.

C'est chose faite, puisque leur projet "Anthropic" a reçu quelque quatre milliards de dollars d'Amazon. Pour la sécurité ? Oui et non. Ils veulent mettre au point une IA "dix fois plus puissante que les modèles actuels". Comme l'a rapporté Wired dans un article intitulé "Effective Altruism Is Pushing a Dangerous Brand of ‘AI Safety’", ils ont aussi été financés par Jaan Tallinn (Skype), le cofondateur de Facebook Dustin Muskovitz, et l'un des plus grands escrocs de la crypto, Sam Bankman-Fried.

Finalement, il y a de quoi s'interroger. Ce ne serait pas la première fois qu'un entrepreneur vendrait d'abord la peur pour vendre ensuite le remède.

L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.

Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement  car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.

Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.

Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.

Je fais un don à France-Soir

Dessin de la semaine

Portrait craché

Image
Portrait Thierry Breton
Les numéros d’illusionniste du commissaire censeur Thierry Breton
PORTRAIT CRACHE - Thierry Breton, ingénieur devenu dirigeant d’entreprise, ministre, puis commissaire européen, a laissé derrière lui une ribambelle de restructuration...
24 février 2024 - 09:52
Portraits
Soutenez l'indépendance de FS

Faites un don

Nous n'avons pas pu confirmer votre inscription.
Votre inscription à la Newsletter hebdomadaire de France-Soir est confirmée.

La newsletter France-Soir

En vous inscrivant, vous autorisez France-Soir à vous contacter par e-mail.