La Pratique de la Gestion des Risques de l’IA

Gestion des Risques de l'IA

En contrepartie des nombreuses innovations passionnantes en intelligence artificielle de ces dernières années, nous trouvons un large éventail de risques connus et émergents : biais algorithmique, préoccupations en matière de confidentialité et violation des droits d’auteur viennent à l’esprit. C’est avant même que nous commencions à aborder les problèmes sociaux à l’échelle macro, tels que la possibilité que des millions d’emplois deviennent obsolètes dans un avenir proche.

Les professionnels des données et de l’apprentissage automatique ont travaillé dur pour sensibiliser à ces préoccupations et trouver des solutions viables qui visent à équilibrer le progrès technique avec des pratiques justes et responsables. Il est probablement encore trop tôt pour dire à quel point ils – et nous tous – réussiront à enfiler cette aiguille particulièrement fine. Néanmoins, il est crucial de se tenir informé des contours de ces conversations si nous espérons un jour apporter des changements positifs dans nos communautés professionnelles (et au-delà).

Nos points forts de cette semaine abordent des questions épineuses liées à l’IA – de la réglementation aux garde-fous techniques – avec clarté et pragmatisme. Que vous soyez novice dans ce domaine ou que vous y soyez engagé depuis un certain temps, nous pensons que ces articles valent la peine d’être lus.

• Perspectives légales et éthiques sur l’IA génératrice Pour une introduction accessible aux problèmes interconnectés que les outils d’IA génératrice entraînent dans leur sillage, l’aperçu récent d’Olivia Tanuwidjaja est un excellent choix : il offre suffisamment de détails pour vous orienter sur ce sujet complexe et fournit des ressources utiles pour approfondir vos connaissances dans les domaines qui vous intéressent le plus.
• Les arguments contre la réglementation de l’IA n’ont aucun sens La loi sur l’IA de l’Union européenne est souvent présentée comme la tentative la plus sérieuse (jusqu’à présent) de réglementer le développement et la mise en œuvre des produits d’IA ; Adrien Book décortique ses caractéristiques les plus saillantes, réfléchit à ce qui pourrait encore lui manquer et plaide en faveur de l’engagement sérieux – et proactif – d’autres juridictions dans des initiatives législatives similaires.

• La prochaine étape est l’IA responsable. Comment y parvenir ? Pour une approche pratique de l’IA responsable et éthique, Erdogan Taskesen propose une feuille de route en 6 étapes que les équipes et les organisations peuvent adapter à leurs besoins. Cela rappelle qu’en tant que praticiens individuels, nous avons une influence et nous pouvons l’utiliser pour façonner les pratiques et les choix dans le processus de création de produits basés sur l’apprentissage automatique.
• Le web crawler d’OpenAI et les erreurs de la FTC Le débat autour du droit d’auteur, du travail des artistes et de la manière dont les modèles LLM et de génération d’images sont formés n’a jamais été aussi contentieux. Viggy Balagopalakrishnan offre un aperçu utile de l’impasse actuelle en se concentrant sur les dernières nouvelles d’OpenAI et sur les défis auxquels la FTC (Federal Trade Commission) est confrontée dans ses tentatives de réglementation des entreprises technologiques bien financées.
• Protéger les LLM avec des garde-fous Contrôler la portée et les effets des outils d’IA est également important à l’échelle micro-locale : si vous travaillez sur l’intégration d’un modèle de langage de grande ampleur, par exemple, vous ne voulez certainement pas qu’il produise un langage offensant ou qu’il insiste sur le fait qu’une hallucination est factuelle. Aparna Dhinakaran et Hakan Tekgul partagent un guide pratique sur les outils open source qui permettent aux développeurs d’imposer des paramètres stricts sur les résultats du modèle.

Vous recherchez d’excellentes lectures sur d’autres sujets ? Vous ne pouvez pas vous tromper avec l’un de ces articles de qualité :

• Un guide en anglais simple pour rétroconcevoir le code source de Reddit avec LangChain, Activeloop et GPT-4
• Les plugins ChatGPT indispensables pour les créateurs de contenu
• Le pouvoir de la distillation des connaissances dans l’IA moderne combler le fossé entre les modèles puissants et compacts

• Si vous faites vos premiers pas dans la science des données environnementales, l’introduction accessible de Caroline Arnold est un excellent point de départ.
• Comment l’apprentissage automatique est-il passé des encodages aux embeddings ? L’explication de Mina Ghashami est à la fois complète et adaptée aux débutants.
• Pour un tutoriel amusant – et instructif – sur les capacités de stratégie des transformers, ne manquez pas le guide de construction d’un simulateur de morpion de Charlie O’Neill.
• Pour vous aider à décoder les descriptions de poste et ce qu’elles impliquent réellement dans la vie professionnelle, Stephanie Kirmer décrit quelques archétypes clés des rôles en science des données.
• Si vous êtes à la recherche d’une plongée profonde en mathématiques, vous voudrez absolument mettre en signet l’exploration détaillée de la paradoxie des deux enveloppes de Gabriel de Longeaux.
• En conclusion, nous vous recommandons vivement le guide étape par étape récent de Mariya Mansurova sur l’utilisation de BERTopic pour la modélisation avancée des sujets.

Merci de soutenir le travail de nos auteurs ! Si vous appréciez les articles que vous lisez sur TDS, envisagez de devenir membre de VoAGI : cela vous donne accès à l’intégralité de nos archives (et à tous les autres articles sur VoAGI également).

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!