Depuis Berlin et Zurich, l’ONG AlgorithmWatch plaide pour des algorithmes contribuant à rendre les sociétés plus démocratiques, inclusives et durables. Estelle Pannatier, responsable de ses politiques, alerte sur les structures de pouvoir sous-jacentes à l’IA et sur leur impact en matière d’accès à l’information.
Algorithm Watch milite en faveur de systèmes algorithmiques qui promeuvent les droits humains. Qu’est-ce que cela veut dire concernant l’IA et le droit humain de chercher et recevoir des informations ?
Estelle Pannatier : L’utilisation d’algorithmes et de l’intelligence artificielle pose plusieurs défis en matière d’accès à des informations fiables. Des algorithmes non transparents sélectionnent les informations sur les réseaux sociaux et les moteurs de recherche, dans lesquels l’IA est de plus en plus intégrée. Les contenus générés par l’IA (textes, images et vidéos) influencent le débat public. Et ce pouvoir d’influencer l’opinion est extrêmement concentré entre les mains d’une poignée d’entreprises technologiques qui fournissent ces services. Cela a également un impact sur le journalisme et les médias, qui sont soumis à de nouveaux intermédiaires, tels que les chatbots d’IA, entre eux et le public. Cela a finalement un impact sur la société et la démocratie, car notre accès à l’information est de plus en plus dépendant d’une poignée de grandes entreprises.
Divers modèles de réglementation de l’IA sont apparus à travers le monde. Certains d’entre eux favorisent-ils davantage la diffusion d’informations fiables pour tous les publics ?
Certaines réglementations en matière d’IA, telles que la Convention-cadre du Conseil de l’Europe sur l’IA, traitent de l’impact des algorithmes et de l’IA sur les droits humains et la démocratie, ce qui est encourageant. Cependant, la gouvernance de l’IA manque souvent d’une vision globale. S’il est nécessaire d’établir des règles pour le développement et l’utilisation de l’IA, une approche plus holistique est requise. Ces réglementations devraient en effet inclure des mesures visant à renforcer les médias et le journalisme, à encourager la recherche et le développement de plateformes et d’algorithmes alternatifs qui favorisent la démocratie, et à promouvoir les compétences démocratiques dans la société. Enfin, la concentration du pouvoir dans la formation de l’opinion doit être abordée. C’est seulement ainsi que nous pourrons garantir l’accès à des informations fiables et diversifiées, et encourager un débat public constructif.
Cet extrait est tiré du 16ème numéro du Médiation « L’information face au défi de l’intelligence artificielle », que vous trouverez attaché en haut de cet article ou ici.