Le programme du robot Mars Rover de la NASA montre comment l’IA peut être utilisée pour améliorer les emplois, et non pour les supprimer

Le secteur technologique est réduit ses effectifs alors même qu’elle investit dans des outils de productivité améliorés par l’IA. Scénaristes et acteurs à Hollywood sont en grève pour protéger leur emploi et leur image. Et les chercheurs continuent de montrer comment ces systèmes accentuent les préjugés existants ou créer des emplois sans intérêt – parmi une myriade d’autres problèmes.

Il existe une meilleure façon d’introduire l’intelligence artificielle sur le lieu de travail. Je le sais, parce que je l’ai vue, en tant que sociologue qui travaille avec les équipes de la NASA chargées des engins spatiaux robotisés.

Les scientifiques et les ingénieurs que j’étudie sont occupés à explorer la surface de Mars avec l’aide de rovers équipés d’IA. Mais leur travail n’est pas un fantasme de science-fiction. C’est un exemple de la puissance de l’interaction entre l’intelligence humaine et l’intelligence de la machine, au service d’un objectif commun.

Au lieu de remplacer les humains, ces robots s’associent à nous pour étendre et compléter les qualités humaines. En cours de route, ils évitent les pièges éthiques courants et tracent une voie humaine pour travailler avec l’IA.

Le mythe du remplacement dans l’IA

Les histoires de robots tueurs et de pertes d’emplois illustrent la façon dont le “mythe du remplacement” domine la façon dont les gens pensent à l’IA. Selon ce mythe, les humains peuvent être et seront remplacés par des machines automatisées.

La menace existentielle s’accompagne d’une promesse de prospérité pour les entreprises comme une plus grande efficacité, amélioration des marges bénéficiaires et plus de temps libre.

Les données empiriques montrent que l’automatisation ne réduit pas les coûts. Au contraire, elle accroît l’inégalité en en éliminant les travailleurs peu qualifiés et l’augmentation du coût salarial pour les travailleurs à statut élevé qui restent. Parallèlement, les outils de productivité actuels incitent les employés à travailler plus pour leurs employeurs, et non moins.

Les alternatives au remplacement pur et simple sont les systèmes à “autonomie mixte”, dans lesquels les personnes et les robots travaillent ensemble. C’est le cas, par exemple, les voitures auto-conduites doivent être programmées pour circuler dans le trafic aux côtés de conducteurs humains. L’autonomie est “mixte” parce que les humains et les robots opèrent dans le même système et que leurs actions s’influencent mutuellement.

Cependant, l’autonomie mixte est souvent considérée comme une étape sur la voie du remplacement. Et cela peut conduire à des systèmes où les humains ne font que alimentent, conservent ou enseignent les outils d’IA. Les humains se retrouvent ainsi avec des “travail fantôme“Les programmeurs espèrent que l’apprentissage automatique rendra bientôt ces tâches obsolètes.

Le remplacement soulève des drapeaux rouges pour l’éthique de l’IA. Un travail comme étiqueter le contenu pour entraîner l’IA ou nettoyage des publications sur Facebook caractéristiques typiques des tâches traumatisantes et une main-d’œuvre mal payée répartie sur l’ensemble du territoire le Sud global. Et des légions de concepteurs de véhicules autonomes sont obsédés par “le problème des chariots” – déterminer quand ou s’il est éthique d’écraser des piétons.

Mais mes recherches avec des équipes de vaisseaux spatiaux robotisés de la NASA montre que lorsque les entreprises rejettent le mythe du remplacement et optent plutôt pour la constitution d’équipes homme-robot, bon nombre des problèmes éthiques liés à l’IA disparaissent.

Étendre plutôt que remplacer

Des équipes homme-robot fortes fonctionnent mieux lorsqu’elles étendent et augmentent les capacités humaines au lieu de les remplacer. Les ingénieurs conçoivent des machines capables d’effectuer des travaux que les humains ne peuvent pas réaliser. Ensuite, ils combinent intelligemment le travail de la machine et celui de l’homme, en travaillant à la réalisation d’un objectif commun.

Souvent, ce travail d’équipe implique d’envoyer des robots effectuer des tâches physiquement dangereuses pour les humains. Déminage, recherche et sauvetage, sorties dans l’espace et grands fonds sont autant d’exemples concrets.

Travailler en équipe, c’est aussi tirer parti des forces combinées de des sens ou des intelligences robotiques et humaines. Après tout, les robots ont de nombreuses capacités que les humains n’ont pas, et vice versa.

Par exemple, sur Mars, l’homme ne peut voir qu’un terrain rouge faiblement éclairé et poussiéreux qui s’étend jusqu’à l’horizon. C’est pourquoi les ingénieurs équipent les rovers martiens avec des filtres de caméra pour “voir” les longueurs d’onde de la lumière que les humains ne peuvent pas voir dans l’infrarouge, renvoyant des images dans des couleurs brillantes. fausses couleurs.

En attendant, l’IA embarquée des rovers ne peut pas produire de résultats scientifiques. Ce n’est qu’en combinant les résultats des capteurs colorés avec des discussions d’experts que les scientifiques peuvent utiliser ces yeux robotiques pour découvrir de nouvelles vérités sur Mars.

Données respectueuses

La manière dont les données sont collectées et utilisées constitue un autre défi éthique pour l’IA. L’IA générative est entraînée à partir des œuvres d’artistes et d’écrivains sans leur consentementles ensembles de données commerciales sont sont entachés de biaiset ChatGPT “hallucine” réponses aux questions.

Les conséquences réelles de l’utilisation des données dans l’IA vont de procès à profilage racial.

Les robots sur Mars s’appuient également sur les données, la puissance de traitement et les techniques d’apprentissage automatique pour accomplir leur travail. Mais les données dont ils ont besoin sont des informations visuelles et de distance pour générer des chemins praticables ou suggérer de nouvelles images sympas.

En se concentrant sur le monde qui les entoure plutôt que sur nos mondes sociaux, ces systèmes robotisés évitent le risque d’être pris au dépourvu. questions autour de la surveillance, biais et l’exploitation qui pèsent sur l’IA d’aujourd’hui.

L’éthique des soins

Les robots peuvent unir les groupes qui travaillent avec eux en suscitant des émotions humaines lorsqu’ils sont intégrés de manière transparente. Par exemple, des soldats aguerris pleurent les drones cassés sur le champ de batailleet les familles donnent des noms et des personnalités à leurs Roombas.

J’ai vu des ingénieurs de la NASA pleurer d’angoisse lorsque les rovers Spirit et Opportunity ont été menacés par des tempêtes de poussière martiennes.

Contrairement à anthropomorphisme – qui consiste à projeter des caractéristiques humaines sur une machine – ce sentiment naît de l’attention que l’on porte à la machine. Il se développe au fil des interactions quotidiennes, des réalisations mutuelles et des responsabilités partagées.

Lorsque les machines inspirent un sentiment d’attention, elles peuvent souligner – et non miner – les qualités qui font de l’homme un être humain.

Une meilleure IA est possible

Dans les secteurs où l’IA pourrait être utilisée pour remplacer les travailleurs, les experts en technologie pourraient réfléchir à la manière dont des partenariats intelligents entre l’homme et la machine pourraient renforcer les capacités humaines au lieu de les amoindrir.

Les équipes de scénaristes pourraient apprécier un agent artificiel capable de rechercher des dialogues ou des références croisées à la volée. Les artistes pourraient écrire ou gérer leurs propres algorithmes pour alimenter la créativité et de conserver la paternité de leur travail. Les bots destinés à aider les équipes de logiciels pourraient améliorer la communication lors des réunions et trouver les erreurs qui apparaissent lors de la compilation du code.

Bien entendu, le fait de rejeter le remplacement ne n’élimine pas toutes les préoccupations éthiques avec l’IA. Mais de nombreux problèmes liés aux moyens de subsistance, à l’action et aux préjugés de l’homme se déplacent lorsque le remplacement n’est plus l’objectif.

Le fantasme du remplacement n’est qu’un des nombreux avenirs possibles pour l’IA et la société. Après tout, personne ne regarderait la “Guerre des étoiles” si les “droïdes” remplaçaient tous les protagonistes. Pour une vision plus éthique de l’avenir de l’homme avec l’IA, vous pouvez vous tourner vers les équipes homme-machine qui sont déjà bien vivantes, dans l’espace et sur Terre.

Janet Vertesi est professeur agrégé de sociologie, Université de Princeton.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire le article original.