PartenairesNewspaper WordPress Theme
FinanceGagner de l'argentRisques à court, moyen et long terme de l'IA PDG anthropique

Risques à court, moyen et long terme de l’IA PDG anthropique

L’anxiété concernant les dangers de l’IA est un problème très 2023, alimenté par l’adoption rapide d’outils tels que les systèmes de génération de texte en image et les chatbots réalistes.

La bonne nouvelle, pour ceux qui sont enclins à s’inquiéter, est que vous pouvez organiser vos inquiétudes en trois catégories bien distinctes : les risques à court terme de l’IA, les risques à moyen terme et les risques à long terme. C’est ainsi que Dario Amodei, cofondateur et PDG d’Anthropic, le fait.

Amodei devrait le savoir. En 2020, il a quitté OpenAI, le créateur de ChatGPT, pour cofonder Anthropic sur le principe que les grands modèles de langage ont le pouvoir de devenir exponentiellement plus performants à mesure que la puissance de calcul qui leur est consacrée augmente, et que par conséquent, ces modèles doivent être conçus dès le départ en tenant compte de la sécurité. En mai, la société a levé 450 millions de dollars de financement.

❤️️ Ca peut vous plaire aussi ❤️️ :  ExGen : Mise à jour du projet de la mine Empire

Intervenant lors de la conférence Fortune Brainstorm Tech à Deer Valley, Utah, le lundi, Amodei a exposé son modèle de peur en trois niveaux en réponse à une question de Jeremy Kahn de Fortune sur les risques existentiels posés par l’IA. Voici comment Amodei s’inquiète de l’IA :

  • Risques à court terme : le genre de problèmes auxquels nous sommes confrontés aujourd’hui, “autour de choses comme les biais et la désinformation”.
  • Risques à moyen terme : “Je pense que dans quelques années, à mesure que les modèles s’amélioreront dans des domaines tels que la science, l’ingénierie, la biologie, vous pourrez simplement faire des choses très mauvaises avec les modèles que vous n’auriez pas pu faire sans eux”.
  • Risques à long terme : “À mesure que nous passerons à des modèles qui ont pour caractéristique clé l’autonomie – ce qui signifie qu’ils ne produisent pas seulement du texte, mais qu’ils peuvent agir, que ce soit avec un robot ou sur Internet – alors je pense que nous devons nous inquiéter de leur devenir trop autonomes, et qu’il sera difficile d’arrêter ou de contrôler ce qu’ils font. Et je pense que l’extrême de cela suscite des préoccupations concernant le risque existentiel.”
❤️️ Ca peut vous plaire aussi ❤️️ :  Le dollar se renforce, les actions asiatiques augmentent dans le contexte de la Chine : résumé des marchés

Les grands modèles de langage sont incroyablement polyvalents. Ils peuvent être utilisés dans de nombreux domaines et situations – “la plupart d’entre eux sont bons. Mais il y en a quelques-uns de mauvais qui se cachent là-dedans et nous devons les détecter et les prévenir”, a déclaré Amodei.

Nous ne devrions pas “paniquer à propos” du scénario de risque existentiel à long terme, a-t-il conseillé. “Ils n’arriveront pas demain, mais à mesure que nous progressons de manière exponentielle dans le domaine de l’IA, nous devons comprendre que ces risques se trouvent à la fin de cette exponentielle.”

Mais lorsque Kahn lui a demandé s’il était finalement optimiste ou pessimiste quant à l’IA, le PDG d’Anthropic a offert une réponse ambivalente qui sera soit réconfortante, soit terrifiante, selon que vous êtes du genre à voir le verre à moitié plein ou à moitié vide : “Je suppose que les choses se passeront vraiment bien. Mais il y a un risque, peut-être de 10% ou 20%, que cela tourne mal, et il nous incombe de veiller à ce que cela n’arrive pas.”

❤️️ Ca peut vous plaire aussi ❤️️ :  Le PDG Sam Altman partage les règles que ChatGPT du créateur OpenAI a enfreintes.
Abonnez-vous à Well Adjusted, notre newsletter regorgeant de stratégies simples pour travailler plus intelligemment et vivre mieux, de la part de l’équipe de Fortune Well. Inscrivez-vous dès aujourd’hui.

Retour à l’accueil Worldnet

Mettre une note à ce post
Abonnez-vous à la newsletter (gratuit)

Rejoindre la newsletter gratuitement

OBTENEZ UN ACCÈS COMPLET EXCLUSIF AU CONTENU PREMIUM

SOUTENIR LE JOURNALISME À BUT NON LUCRATIF

ANALYSE D'EXPERTS ET TENDANCES ÉMERGENTES EN MATIÈRE DE PROTECTION DE L'ENFANCE ET DE JUSTICE JUVÉNILE

WEBINAIRES VIDÉO THÉMATIQUES

Obtenez un accès illimité à notre contenu EXCLUSIF et à nos archives d'histoires d'abonnés.

Contenu exclusif

Article récents

Plus d'articles