Er iOS racistisk? Blokerer søgeordet Asian uanset kontekst

Filteret mod voksent indhold på iPhone har fået kritik for at blokere termen ‘Asian’ uanset konteksten. Samme blokering bliver ikke brugt mod andre lignende termer. Det fortæller Independent og Gizmodo.

Filter i iOS blokerer for at søge på ordet Asian

Filteret har ingen problemer med termer som Black, White, schoolgirl, Japanese, Korean, teen og så videre i samme spor. Problemet blev først opdaget af iOS-udvikleren Steven Shen, der anmeldte problemet til Apple i december 2019.

Shen skriver på Twitter, at han ikke har hørt fra Apple og at intet har ændret sig, selvom det nu er over et år siden, han kontaktede dem.

Se også: Bedste tilbud på iPhones

Er AI racistisk?

Apples ”Limit Adult Websites”-filter, der er en del af iOS Screen Time-indstillingerne, skal forhindre unge iPhone-brugere i at få adgang til voksent indhold online, både hvis de søger det selv, og hvis de havner der ved et tilfælde. Det er ikke meningen, at det helt skal slette et helt kontinent og dets subkulturer.

At rette filteret mod ordet Asian er problematisk – nogen vil kalde det direkte racistisk. Uanset om det er gjort med vilje eller ved en fejl, og om det er en machine learning-fejl eller en menneskelig fejl.

Ordet kan trods alt bruges i en masse søgninger efter noget, for eksempel hvis man vil have asiatisk mad, litteratur, sport, filosofi eller en masse andet helt uskyldigt materiale. Forsøger en bruger at søge på noget af dette ved at bruge ordet Asian, får brugeren en fejlmeddelelse, hvor der enten står, at man ikke kan gå ind på den side via google.com, fordi den lægger under begrænsningen, eller at URL’en er blokeret af et indholdsfilter.

Se også: Telefoner med smarte brugerflader

Kan være AI-fejl – men så er det også en menneskelig fejl

En teori om, hvad der er sket, handler om, at Apples filtersystem styres af AI, og som vi har set i sager med ansigtsgenkendelse og jobansøgninger, er AI langt fra perfekt og har det med at overreagere. Så det kan være en fejl, der stammer fra at have samlet en masse søgeresultater, der har haft Asian med.

Hvis det er tilfældet, er det stadig et problem, og noget der burde havde været opdaget og rettet. Er Asian med i filteret som et bevidst valg fra Apples side, er det selvfølgelig endnu værre, men det kan vi ikke tro. At AI-teknologi skulle være forudindtaget har vi set utallige eksempler på, men det peger også kun et sted hen, nemlig på mennesker, der har står for programmeringen.

Hvordan det end hænger sammen, er det yderst problematisk og må Apple nok hellere se at få gennemgået sine filtrer lidt nærmere.

Se også: Nyheder om AI og racisme