Comment les villes déploient des technologies de pointe en utilisant des algorithmes d’IA impartiaux

Comment les villes utilisent des algorithmes d'IA pour déployer des technologies de pointe de manière impartiale

Aujourd’hui, pratiquement tous les aspects de notre vie touchent une partie du réseau en ligne. Bien que cela ait certainement amélioré de nombreux aspects de la vie elle-même, comme le fait que nous nous promenions avec des appareils portables capables de nous fournir des informations à tout moment, cela pose également certains risques.

Ces risques vont au-delà du piratage traditionnel et des violations de données dans nos comptes bancaires, par exemple. Ce à quoi je fais référence ici, c’est qu’il y a tant de parties de notre vie aujourd’hui qui sont impactées par les algorithmes utilisés par l’intelligence artificielle (IA). Nous supposons que cette IA exploite intrinsèquement des algorithmes qui sont dans notre meilleur intérêt. Cependant, que se passe-t-il lorsque le mauvais type de partialité entre dans ces algorithmes ? Comment cela peut-il affecter certains résultats ?

Que se passe-t-il lorsque des algorithmes biaisés s’infiltrent dans les systèmes d’IA ?

Prenons un autre exemple, sur YouTube, un algorithme d’IA recommande près de 70% de toutes les vidéos, et sur les plateformes de médias sociaux comme Instagram et TikTok, le pourcentage est encore plus élevé. Bien que ces algorithmes d’IA puissent aider les utilisateurs à trouver du contenu qui les intéresse, ils soulèvent de graves problèmes de confidentialité, et il existe des preuves croissantes que certains contenus recommandés que les gens consomment en ligne sont même dangereux en raison de la désinformation ou peut-être contiennent une certaine perspective conçue pour influencer subliminalement la pensée politique ou les croyances d’une personne.

La création d’une IA complète et adaptable est un défi technique et social complexe, mais d’une importance capitale.

• data2vec Une étape importante dans l’apprentissage non supervisé
• Un guide complet pour le réglage fin des grands modèles de langage
• Détection automatisée de la tromperie des chercheurs de l’Université de Tokyo utilisent les expressions faciales et les pulsations cardiaques pour démasquer la tromperie grâce à l’apprentissage automatique

Il est compréhensible que l’IA puisse avoir un impact négatif sur les normes sociétales et les modèles d’utilisation en ligne tout en se concentrant également sur les effets positifs de la technologie. Les sources en ligne ont une influence significative sur notre société, et les biais dans les algorithmes en ligne favoriseront involontairement l’injustice, façonneront les croyances des personnes, propageront de fausses informations et alimenteront les conflits entre différents groupes.

C’est là que la “mauvaise IA” peut avoir des conséquences réellement importantes en ce qui concerne les partialités indésirables et/ou injustes.

Comment l’IA biaisée peut affecter négativement les intersections routières

Prenons les intersections routières, par exemple, comme un exemple plus concret. Les longs temps d’attente aux feux de circulation appartiennent désormais au passé grâce aux nouvelles technologies d’IA déployées sur les marchés du pays. Ces solutions de priorité de transit utilisent des données de trafic en temps réel et adaptent les feux pour compenser les changements dans les modèles de circulation, maintenant la circulation fluide et réduisant les embouteillages.

Les systèmes utilisent l’apprentissage profond, où un programme comprend quand il ne fonctionne pas bien et essaie une autre action – ou continue de s’améliorer lorsqu’il progresse.

Cela semble être une excellente idée, non ? Que se passe-t-il si, avec le temps, les algorithmes d’IA intégrés dans la technologie des capteurs de trafic commencent à privilégier les véhicules plus chers par rapport aux autres, en se basant sur des algorithmes biaisés qui sont conçus pour reconnaître que les personnes qui conduisent un certain type de véhicule méritent des priorités par rapport aux autres ?

C’est là que la “mauvaise IA” pourrait affecter négativement une partie très importante de notre vie.

Prenons par exemple ces systèmes de priorité de transit alimentés par l’IA qui font partie d’un système de transport intelligent (ITS) plus large qui exploite la puissance des technologies de véhicules connectés. Les systèmes ITS ne sont aussi bons que les plates-formes de partage de données basées sur le cloud agnostiques sur lesquelles ils fonctionnent, et elles ne sont pas toutes créées égales.

Élimination des biais dans les algorithmes d’IA

Il a été prouvé que ces plates-formes de partage de données sont très efficaces, mais seulement lorsque les villes et les municipalités chargées des systèmes de transport les rendent ouvertes au partage de données approprié où les algorithmes biaisés ne sont pas autorisés à participer. Malheureusement, de nombreuses municipalités restent liées par des contrats avec des fournisseurs de matériel et de dispositifs qui prétendent fonctionner selon une “architecture ouverte”, mais qui ne sont pas disposés à travailler sur une plate-forme de données ouverte, et ces villes se restreignent gravement aux véritables possibilités qu’une plate-forme basée sur le cloud peut offrir.

Les systèmes de priorité de transit basés sur le cloud tiennent compte de l’image globale d’un système et utilisent un apprentissage automatique centré sur les données impartiales pour prédire le moment optimal d’accorder le feu vert aux véhicules de transit au bon moment. Cela minimise les interférences avec les itinéraires qui se croisent et maximise simultanément la probabilité d’une conduite continue. Plus important encore, la plate-forme basée sur le cloud agnostique garantit aux villes de tirer parti d’un système constamment mis à jour pour un potentiel de transit maximisé, sans partialité provenant de sources indésirables.

Avec cette technologie désormais facilement disponible, les villes, les développeurs et les municipalités disposent de la technologie dont ils ont besoin pour accélérer correctement le déploiement de réseaux de transit intelligents au bénéfice de tous dans la région, de manière équitable.

Des régions comme la ville de San José exploitent désormais les avantages de l’IA pour améliorer la prestation de services à ses résidents. À mesure que la ville utilise de plus en plus d’outils d’IA, il est plus important que jamais de s’assurer que ces systèmes d’IA sont efficaces et fiables. En examinant les algorithmes utilisés dans ses outils, le Bureau de la confidentialité numérique (DPO) veille à ce que les acquisitions de technologie alimentée par l’IA de la ville fonctionnent de manière précise, minimisent les biais et soient fiables. Lorsqu’un département de la ville souhaite se procurer un outil d’IA, le DPO suit des processus d’examen spécifiques pour évaluer les avantages et les risques de tout système d’IA.

Pour cette région particulière, nous sommes fiers de nous joindre à des entreprises telles que Google en tant que l’un des rares fournisseurs d’IA approuvés pour participer à des déploiements technologiques à l’échelle de la ville grâce à des algorithmes impartiaux. À mesure que de plus en plus de technologies d’IA continueront à être développées, il sera particulièrement important de veiller à ce qu’elles soient construites sans aucun algorithme partial pour garantir une utilisation véritablement équitable et équitable des services municipaux locaux.

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!