Marc Andreessen : « La police de la pensée » tente de supprimer l’I.A.

Dans un manifeste de près de 7 000 mots publié mardile cofondateur d’Andreessen Horowitz a appelé à un développement beaucoup plus important et plus rapide des nouveaux outils d’intelligence artificielle, tout en s’attaquant à plusieurs arguments en faveur de garde-fous et de limites à la nouvelle technologie.

Andreessen a attaqué plusieurs de ces mythes « doomers » dans son billet, publié sur le site web d’Andreessen Horowitz, qu’il a qualifié de panique morale « irrationnelle ».

L’un de ces mythes, affirme Andreessen, est l’idée que l’I.A. pourrait causer un préjudice social important en travaillant contre les « valeurs humaines », par exemple par le biais de discours de haine et de désinformation.

L’investisseur en capital-risque a accusé « une petite coterie isolée d’ingénieurs sociaux partisans » d’essayer d’imposer leurs vues sur les nouvelles technologies de l’I.A., susceptibles de devenir « la couche de contrôle de tout ce qui existe dans le monde ».

« Ne laissez pas la police de la pensée supprimer l’I.A. », a-t-il averti.

Les développeurs ont mis fin à de précédentes expériences d’IA, comme l’éphémère Tay de Microsoft, après que les programmes ont commencé à débiter des propos racistes et d’autres propos offensants. Les outils d’IA ont également reflété les préjugés sociaux existants et fourni des informations factuellement incorrectes. Les experts s’inquiètent également de la capacité de l’IA à créer des informations erronées par le biais de « deepfakes ».

Cela a conduit certaines entreprises à mettre des garde-fous à ce que leurs programmes peuvent faire, afin d’éviter un tel résultat dangereux, ou du moins embarrassant. OpenAI, par exemple, arrête le ChatGPT de fournir des réponses à des questions portant sur des contenus haineux, violents ou pour adultes.

Pourtant, les commentateurs conservateurs affirment que ces contrôles sont redevables d’idéologies prétendument de gauche. Elon Musk, par exemple, s’est plaint des « former l’I.A. à être éveillée. » Musk a déclaré qu’il envisageait de développer son propre chatbot « TruthGPT », qu’il a décrit comme une « IA maximale à la recherche de la vérité » dans une interview avec Tucker Carlson au début de l’année.

Andreessen a écrit que le débat sur les garde-fous de l’I.A. lui rappelait des débats antérieurs sur la modération des contenus sur les plateformes de médias sociaux, ce qui, selon lui, était un autre exemple de gouvernements et d’activistes imposant leurs points de vue sur les plateformes numériques.

L’investisseur en capital-risque a fait l’éloge de Twitter et de Substack en tant qu’exceptions. Le premier, sous l’égide de Musk, est revenu sur plusieurs de ses décisions de modération antérieures, notamment en autorisant l’ancien président américain Donald Trump à revenir sur la plateforme.

Le service de lettres d’information Substack adopte également une vision plus laxiste de la modération des contenus. ont déclaré qu’ils « résister à la pression publique visant à supprimer les voix que les opposants bruyants jugent inacceptables ».

Dans son billet, Andreessen n’a pas cité d’exemples spécifiques de ce qu’il considérait comme un exemple de censure allant trop loin dans l’espace de l’I.A., et a admis que toute plateforme devrait se conformer à certaines restrictions d’expression, telles que la prévention des incitations à la violence.

L’investisseur en capital-risque a toutefois déclaré que même les tentatives de modérer les contenus « terriblement terribles » conduiraient inévitablement à une « pente glissante », risquant d’entraîner des demandes de « niveaux encore plus élevés de censure et de suppression » de la part de groupes extérieurs.

Andreessen a également affirmé que les efforts visant à contrôler ce que l’I.A. pouvait dire – ainsi que la volonté plus large de modérer les contenus jugés nuisibles – étaient impopulaires. « La plupart des gens dans le monde ne sont pas d’accord avec votre idéologie et ne veulent pas vous voir gagner », a-t-il écrit.