Mettre au premier plan les responsabilités sociales et éthiques de l’informatique

Put the social and ethical responsibilities of computer science at the forefront.

Le premier Symposium SERC a réuni des experts de plusieurs disciplines pour explorer les défis et les opportunités qui découlent de l’applicabilité générale de l’informatique dans de nombreux aspects de la société.

Il y a eu une augmentation remarquable de l’utilisation des algorithmes et de l’intelligence artificielle pour résoudre une large gamme de problèmes et de défis. Bien que leur adoption, en particulier avec la montée de l’IA, remodelle presque tous les secteurs industriels, disciplines et domaines de recherche, de telles innovations exposent souvent des conséquences inattendues impliquant de nouvelles normes, de nouvelles attentes et de nouvelles règles et lois.

Pour faciliter une compréhension plus approfondie, les Responsabilités Sociales et Éthiques de l’Informatique (SERC), une initiative transversale du MIT Schwarzman College of Computing, ont récemment réuni des scientifiques sociaux et des humanistes avec des informaticiens, des ingénieurs et d’autres enseignants en informatique pour une exploration des moyens par lesquels l’applicabilité large des algorithmes et de l’IA a présenté à la fois des opportunités et des défis dans de nombreux aspects de la société.

• Rencontrez ChatDB un cadre qui augmente les LLM avec une mémoire symbolique sous forme de bases de données.
• Introduction à la corrélation
• L’IA dévore la science des données.

“La nature même de notre réalité est en train de changer. L’IA a la capacité de faire des choses qui, jusqu’à récemment, étaient uniquement du domaine de l’intelligence humaine – des choses qui peuvent remettre en question notre compréhension de ce que cela signifie d’être humain”, a déclaré Daniel Huttenlocher, doyen du MIT Schwarzman College of Computing, dans son discours d’ouverture lors du symposium inaugural du SERC. “Cela pose des questions philosophiques, conceptuelles et pratiques à une échelle jamais connue depuis le début des Lumières. Face à un changement aussi profond, nous avons besoin de nouvelles cartes conceptuelles pour naviguer dans le changement.”

Le symposium a offert un aperçu de la vision et des activités du SERC dans la recherche et l’éducation. “Nous pensons que notre responsabilité avec SERC est d’éduquer et d’équiper nos étudiants et de permettre à nos enseignants de contribuer au développement et au déploiement de technologies responsables”, a déclaré Georgia Perakis, professeure de gestion William F. Pounds à la MIT Sloan School of Management, co-doyenne associée de SERC et organisatrice principale du symposium. “Nous puisons dans les nombreuses forces et la diversité des disciplines à travers le MIT et au-delà et les réunissons pour obtenir plusieurs points de vue.”

À travers une succession de panels et de sessions, le symposium a examiné une variété de sujets liés aux dimensions sociales et éthiques de l’informatique. De plus, 37 étudiants de premier cycle et de cycles supérieurs provenant de diverses filières, notamment les études et la planification urbaines, la science politique, les mathématiques, la biologie, le génie électrique et l’informatique, et les sciences cérébrales et cognitives, ont participé à une session d’affichage pour présenter leurs recherches dans cet espace, couvrant des sujets tels que l’éthique quantique, la collusion de l’IA sur les marchés de stockage, le gaspillage informatique et l’autonomisation des utilisateurs sur les plates-formes sociales pour une meilleure crédibilité du contenu.

Mettre en valeur la diversité des travaux

Lors de trois sessions consacrées aux thèmes de l’informatique bienfaisante et équitable, de la santé équitable et personnalisée, et des algorithmes et des êtres humains, le Symposium SERC a présenté les travaux de 12 enseignants à travers ces domaines.

Un tel projet d’une équipe multidisciplinaire d’archéologues, d’architectes, d’artistes numériques et de scientifiques sociaux informatiques visait à préserver des sites patrimoniaux en danger en Afghanistan avec des jumeaux numériques. L’équipe du projet a produit des modèles 3D interrogables hautement détaillés des sites patrimoniaux, ainsi que des expériences de réalité étendue et de réalité virtuelle, en tant que ressources d’apprentissage pour les publics qui ne peuvent pas accéder à ces sites.

Dans un projet pour le United Network for Organ Sharing, les chercheurs ont montré comment ils ont utilisé des analyses appliquées pour optimiser divers aspects d’un système d’attribution d’organes aux États-Unis qui est actuellement en cours de révision majeure afin de le rendre plus efficace, équitable et inclusif pour différents groupes raciaux, d’âge et de genre, entre autres.

Un autre exposé a abordé un domaine qui n’a pas encore reçu l’attention publique adéquate : les implications plus larges pour l’équité que les données de capteurs biaisées ont pour la prochaine génération de modèles en informatique et en soins de santé.

Un exposé sur les biais dans les algorithmes a examiné à la fois les biais humains et les biais algorithmiques, ainsi que le potentiel d’amélioration des résultats en tenant compte des différences dans la nature des deux types de biais.

D’autres travaux de recherche ont porté sur l’interaction entre les plates-formes en ligne et la psychologie humaine ; une étude sur la question de savoir si les décideurs commettent des erreurs systémiques de prédiction sur les informations disponibles ; et une illustration de la manière dont les analyses avancées et le calcul peuvent être exploités pour informer la gestion de la chaîne d’approvisionnement, les opérations et le travail réglementaire dans les industries alimentaires et pharmaceutiques.

Améliorer les algorithmes de demain

“Les algorithmes ont, sans aucun doute, un impact sur tous les aspects de nos vies”, a déclaré Asu Ozdaglar, doyenne adjointe des études pour le MIT Schwarzman College of Computing et responsable du département de génie électrique et informatique, en lançant un panel qu’elle a modéré sur les implications des données et des algorithmes.

“Que ce soit dans le contexte des médias sociaux, du commerce en ligne, des tâches automatisées et maintenant d’un beaucoup plus large éventail d’interactions créatives avec l’avènement d’outils d’IA générative et de grands modèles de langage, il ne fait guère de doute que beaucoup plus est à venir”, a déclaré Ozdaglar. “Bien que la promesse soit évidente pour nous tous, il y a beaucoup à craindre également. C’est vraiment le moment pour une réflexion imaginative et une délibération minutieuse pour améliorer les algorithmes de demain”.

Interrogeant le panel, Ozdaglar a demandé l’avis d’experts en informatique, sciences sociales et science des données sur la manière de comprendre ce qui est à venir et de le façonner pour enrichir les résultats pour la majorité de l’humanité.

Sarah Williams, professeur associé de technologie et d’urbanisme au MIT, a souligné l’importance cruciale de comprendre le processus d’assemblage des ensembles de données, car les données sont la base de tous les modèles. Elle a également souligné la nécessité de la recherche pour aborder l’implication potentielle des biais dans les algorithmes qui trouvent souvent leur chemin à travers leurs créateurs et les données utilisées dans leur développement. «C’est à nous de réfléchir à nos propres solutions éthiques à ces problèmes», a-t-elle déclaré. «Tout comme il est important de progresser avec la technologie, nous devons commencer à examiner les questions de quels biais se trouvent dans les algorithmes? Quels biais se trouvent dans les données, ou dans le parcours de ces données?»

En se concentrant sur les modèles génératifs et la question de savoir si le développement et l’utilisation de ces technologies devraient être réglementés, les membres du panel – qui comprenaient également Srini Devadas, professeur de génie électrique et d’informatique du MIT, John Horton, professeur de technologie de l’information, et Simon Johnson, professeur d’entrepreneuriat – ont tous convenu que la réglementation des algorithmes open source, accessibles au public, serait difficile étant donné que les régulateurs sont encore en train de rattraper leur retard et de lutter pour mettre en place des garde-fous pour une technologie qui a maintenant 20 ans.

Revenant à la question de la manière de réglementer efficacement l’utilisation de ces technologies, Johnson a proposé un système progressif de taxation des sociétés comme solution potentielle. Il recommande de baser les paiements fiscaux des entreprises sur leurs bénéfices, en particulier pour les grandes entreprises dont les énormes gains restent largement non imposés en raison de la banque offshore. En faisant cela, Johnson a déclaré que cette approche peut servir de mécanisme réglementaire qui décourage les entreprises de tenter de «posséder le monde entier» en imposant des désincitatifs.

Le rôle de l’éthique dans l’éducation informatique

Alors que l’informatique continue de progresser sans signes de ralentissement, il est essentiel d’éduquer les étudiants à être intentionnels dans l’impact social des technologies qu’ils développeront et déploieront dans le monde. Mais peut-on réellement enseigner de telles choses ? Si oui, comment ?

Caspar Hare, professeur de philosophie au MIT et co-doyen associé du SERC, a posé cette question imminente aux enseignants lors d’un panel qu’il a animé sur le rôle de l’éthique dans l’éducation informatique. Tous expérimentés dans l’enseignement de l’éthique et la réflexion sur les implications sociales de l’informatique, chaque panéliste a partagé sa perspective et son approche.

Un fervent défenseur de l’importance de l’apprentissage de l’histoire, Eden Medina, professeur associé de science, technologie et société au MIT, a déclaré que «souvent, la façon dont nous encadrons l’informatique est que tout est nouveau. L’une des choses que je fais dans mon enseignement est d’examiner comment les gens ont confronté ces problèmes dans le passé et d’essayer d’en tirer des enseignements pour réfléchir à des voies possibles.» Medina utilise régulièrement des études de cas dans ses classes et a fait référence à un document écrit par Joanna Radin, historienne des sciences de l’Université Yale, sur l’ensemble de données sur le diabète des Indiens Pima qui a soulevé des questions éthiques sur l’histoire de cette collecte de données particulière que beaucoup ne considèrent pas comme un exemple de la manière dont les décisions en matière de technologie et de données peuvent découler de contextes très spécifiques.

Milo Phillips-Brown, professeur associé de philosophie à l’Université d’Oxford, a parlé du Protocole d’informatique éthique qu’il a co-créé alors qu’il était postdoctorant au SERC du MIT. Le protocole, une approche en quatre étapes pour construire une technologie de manière responsable, est conçu pour former les étudiants en informatique à réfléchir de manière meilleure et plus précise aux implications sociales de la technologie en décomposant le processus en étapes plus gérables. «L’approche de base que nous adoptons s’appuie très largement sur les domaines de la conception sensible aux valeurs, de la recherche et de l’innovation responsables, de la conception participative en tant que guides, et est également fondamentalement interdisciplinaire», a-t-il déclaré.

Des domaines tels que la biomédecine et le droit ont un écosystème éthique qui distribue la fonction de raisonnement éthique dans ces domaines. La surveillance et la réglementation sont fournies pour guider les parties prenantes de première ligne et les décideurs lorsque des problèmes surviennent, ainsi que des programmes de formation et un accès à l’expertise interdisciplinaire dont ils peuvent tirer parti. «Dans cet espace, nous n’avons rien de tout cela», a déclaré John Basl, professeur agrégé de philosophie à l’Université Northeastern. «Pour les générations actuelles d’informaticiens et d’autres décideurs, nous les faisons effectivement raisonner de manière éthique par eux-mêmes». Basl a également commenté que l’enseignement de compétences de raisonnement éthique de base dans l’ensemble du programme, pas seulement dans les cours de philosophie, est essentiel, et que l’objectif ne devrait pas être que chaque informaticien soit un professionnel de l’éthique, mais qu’ils en sachent assez sur le paysage pour pouvoir poser les bonnes questions et chercher les expertises et ressources pertinentes qui existent.

Après la dernière session, des groupes interdisciplinaires d’enseignants, d’étudiants et de chercheurs ont engagé des discussions animées sur les questions abordées tout au long de la journée lors d’une réception marquant la fin du symposium.

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!