Avec d’autres organisations de la société civile et une large coalition politique, UNICEF Suisse et Liechtenstein a signé un appel au Conseil fédéral. Celui-ci demande au Conseil fédéral de veiller à la protection contre la discrimination lors des processus législatifs à venir en vue d’une régulation de l’intelligence artificielle (IA).
L’intelligence artificielle doit profiter aux gens, et donc aussi aux enfants et aux jeunes. Outre les opportunités majeures, les applications de l’IA comportent des risques pour les enfants et les jeunes qui ne doivent pas être négligés. L’un de ces risques est la discrimination. Les enfants et les jeunes risquent d’être discriminés par l’IA, par exemple quand des préjugés existants sont intégrés et reproduits dans l’IA par le biais de données d’entraînement. Un exemple du Royaume-Uni le révèle: un algorithme devait évaluer les prestations des élèves de différentes écoles. À cet effet, il s’appuyait notamment sur les notes attribuées dans les différentes écoles au cours des années précédentes. Les enfants de régions défavorisées s’en trouvaient particulièrement mal évalués et donc discriminés, parce qu’ils fréquentaient en moyenne des écoles moins performantes.
Le Comité des droits de l’enfant de l’ONU, l’organe de contrôle des Nations Unies pour la mise en œuvre des droits de l’enfant, souligne qu’il existe un risque de discrimination en particulier pour les enfants et les jeunes vulnérables, c’est-à-dire notamment les enfants et jeunes handicapés, issus de l’immigration et de familles à faible revenu. Les États signataires de la Convention des Nations Unies relative aux droits de l’enfant sont tenus de combattre ce risque de discrimination. C’est la raison pour laquelle UNICEF Suisse et Liechtenstein soutient l’appel d’AlgorithmWatch CH qui met en garde contre les risques de discrimination par l’intelligence artificielle et les algorithmes et demande au Conseil fédéral d’aborder ces défis dans sa réglementation de l’IA.
Pour que les risques puissent être précisés et minimisés, il est essentiel que les enfants et les jeunes soient pris en compte et impliqués dans le développement et la régulation de l’IA.
Voici le lien vers l’appel au Conseil fédéral. Vous pouvez consulter ici, nos neuf recommandations aux entreprises et aux gouvernements pour une IA centrée sur l’enfant. L’intelligence artificielle n’est pas le seul thème lié à la numérisation croissante et susceptible d’influencer les droits de l’enfant. Vous trouverez de plus amples informations sur les droits de l’enfant dans l’espace numérique sur cette page.