Gemeinsam mit anderen zivilgesellschaftlichen Organisationen und einer breiten politischen Allianz hat UNICEF Schweiz und Liechtenstein einen Appell an den Bundesrat unterzeichnet. Dieser fordert den Bundesrat dazu auf, in den kommenden Gesetzgebungsprozessen zur Regulierung rund um Künstliche Intelligenz (KI) auf den Schutz vor Diskriminierung zu achten.
Künstliche Intelligenz soll Menschen zugutekommen – das gilt auch für Kinder und Jugendliche. Neben wichtigen Chancen bringen KI-Anwendungen auch Risiken für Kinder und Jugendliche mit sich, die nicht ausser Acht gelassen werden dürfen. Eines der Risiken ist Diskriminierung. Kinder und Jugendliche können durch KI diskriminiert werden, z.B. wenn bestehende Vorurteile durch Trainingsdaten in die KI einfliessen und reproduziert werden. Ein Beispiel aus Grossbritannien zeigt dies auf: Eine KI sollte die Leistungen von Schülerinnen und Schülern verschiedener Schulen bewerten. Dafür stützte sie sich unter anderem auf Noten, die an den jeweiligen Schulen in Vorjahren vergeben wurden. Dies führte dazu, dass Schülerinnen und Schüler aus ärmeren Gegenden besonders schlecht bewertet und somit diskriminiert wurden, weil sie durchschnittlich leistungsschwächere Schulen besuchten.
Der UN-Kinderrechtsausschuss, das Kontrollorgan der Vereinten Nationen zur Umsetzung der Kinderrechte, betont, dass insbesondere für vulnerable Kinder und Jugendliche – also z.B. Kinder und Jugendliche mit einer Behinderung, mit Migrationshintergrund und aus einkommensschwachen Familien – ein Diskriminierungsrisiko besteht. Staaten, die die UN-Kinderrechtskonvention unterschrieben haben, sind verpflichtet, dieses Diskriminierungsrisiko zu adressieren. Aus diesem Grund unterstützt UNICEF Schweiz und Liechtenstein den Appell von AlgorithmWatch CH, der auf die Diskriminierung von Menschen durch Künstliche Intelligenz und Algorithmen hinweist und den Bundesrat dazu anhält, diese Herausforderungen in seiner Regulierung von KI anzugehen.
Damit die Risiken adressiert und minimiert werden können, ist es entscheidend, dass Kinder und Jugendliche in der Entwicklung und Regulierung von KI mitgedacht und miteinbezogen werden.
Hier finden Sie den Appell an den Bundesrat. Lesen Sie hier ausserdem unsere neun Empfehlungen an Unternehmen und Regierungen für eine kindzentrierte KI. Künstliche Intelligenz ist nicht das einzige kinderrechtlich relevante Thema, das die fortschreitende Digitalisierung mit sich bringt. Erfahren Sie auf dieser Seite mehr zu Kinderrechten im digitalen Raum.