Nous vous l’avions annoncé dans cet article , l’équipe du RAAV était présente à plusieurs conférences et tables rondes au forum mutek 2023 il y a quelques semaines, pour s’informer sur l’actualité autour de l’intelligence artificielle.

Intervenants : 

Blair Attard-Frost doctorant·e – faculté d’information de l’université de Toronto

Michael Running Wolf – MILA

Raziye Buse Çetin – Dreaming Beyond AI 

Melissa Vincent, écrivaine et chercheuse

Sarah Myers West directrice générale de l’AI Now Institute

Eliane Ellbogen – avocate en propriété intellectuelle spécialisée dans les technologies de l’information

Les discours suggéraient que l’IA, ou toute autre technologie d’ailleurs, n’a rien d’inéluctable, et que nous disposons d’une marge de manœuvre pour façonner la trajectoire future de l’IA et la manière dont elle est intégrée dans le monde qui nous entoure.

Sarah Myers West souligne que l’IA n’est souvent qu’un terme de marketing, se résumant parfois à une interface de programmation ou à un algorithme. Elle a mentionné également les coûts environnementaux et de pénurie liés à la dépendance de l’IA, ainsi que le capitalisme inhérent à l’IA en raison de ses sources de données et de ses dérivés de surveillance.

Des pistes pour réformer l’IA ?

Les intervenants soulignent que l’IA, telle que nous la connaissons actuellement, dépend fortement des ressources contrôlées par les grandes entreprises technologiques et qu’une réforme nécessite de s’attaquer aux infrastructures matérielles qui soutiennent l’IA. Ils insistent sur la nécessité de confronter le pouvoir des entreprises technologiques à l’impact de l’IA sur la vie des gens.

Et cela permet de mettre en lumière plusieurs faiblesses :

• La pertinence des résultats : La technologie ne fonctionne pas toujours comme prévue, elle produit des taux d’erreur élevés et des résultats injustes pouvant être discriminatoires.
• Le manque de transparence : Nous ne sommes pas assez informés de l’utilisation de l’IA ou de son fonctionnement, ce qui limite la connaissance et la contribution du public à son impact, et ce qui permet aux grandes entreprises d’avoir un avantage grâce au suivi de données comportementales, de développer des produits d’IA destinés aux consommateurs, et de manipuler l’opinion et les comportements.
• Le problème de sécurité : L’accès à nos données pose des problèmes de sécurité. ‘’Les systèmes d’IA et les entreprises qui les produisent ne sont pas seulement considérés comme des produits commerciaux, mais avant tout comme des atouts stratégiques, économiques et sécuritaires.’’
• Le manque de consultation et de représentativité : La prise de décision sans consultation, la sous représentation des groupes vulnérables ou marginalisés, des différentes cultures est un véritable problème.

Nécessité d’une responsabilisation et d’une réglementation de l’IA

Les intervenants soulignent tous l’importance d’utiliser l’attention du public pour faire progresser la politique et la réglementation dans le domaine de l’IA générative. Ils mentionnent également la responsabilité de toutes les parties : les institutions gouvernementales, les lobbys, les médias, le peuple en général dans la divulgation des informations et des données. En alertant sur le fait que nous devons changer notre façon de concevoir internet.

Tous mentionnent l’importance des travailleurs créatifs et des artistes, pour façonner le développement et l’utilisation de l’IA, et insistent sur le fait que l’IA ne doit pas remplacer le travail créatif.

À ce propos, les intervenants ont souligné que les artistes s’interrogent sur trois grands points avec l’IA :

• La rémunération
• Le consentement lié à l’utilisation des données
• Le droit d’auteur

Pour cela, Valentine Goddard, avocate et membre du conseil consultatif du Canada sur l’IA, a mis en place une pétition pour soutenir les artistes face à l’IA et fixer des limites dans son utilisation. Vous pouvez la consulter : ICI

Le RAAV s’inquiète de la protection du droits d’auteur et du droit à une rémunération équitable pour les artistes, d’une protection solide contre les risques de plagiat et contrefaçon, les exemples abondent malheureusement déjà dans ce sens et du risque de perte d’identité artistique pour les générations futures d’artistes qui découle des deux autres point si rien n’est fait pour protéger les artistes.

C’est pourquoi le RAAV se rapproche d’experts du domaine, et milite pour que les acteurs du milieu de la culture participent aux tables de concertation.