Une équipe de recherche dirigée par Cornell a découvert que l'algorithme derrière Google Ads facturait beaucoup plus pour diffuser des annonces en ligne aux personnes hispanophones sur les avantages de SNAP, anciennement connu sous le nom de coupons alimentaires.

Avec une enquête auprès de 1 500 Américains qui a trouvé un large soutien pour une approche plus équitable de la promotion de SNAP, les résultats ont conduit à des changements pour cibler directement plus d'hispanophones en Californie qui demandent de l'aide pour payer leur nourriture.

"SNAP est une ressource vraiment importante pour bien faire les choses", a déclaré Allison Koenecke, professeure adjointe de sciences de l'information au Cornell Ann S. Bowers College of Computing and Information Science. "Lorsque vous êtes confronté à un algorithme qui a un impact disparate, notre recherche demande, comment choisissez-vous une stratégie pour interagir avec l'algorithme afin de recruter équitablement des candidats SNAP ?"

Koenecke est l'auteur principal de "Popular Support for Balancing Equity and Efficiency in Resource Allocation: A Case Study in Online Advertising to Increase Welfare Program Awareness", qui a été présenté lors de la conférence AAAI sur le Web et les médias sociaux en juin.

"Notre objectif était d'aller au-delà de la simple quantification de ces disparités de coûts publicitaires", a-t-elle déclaré. "Nous voulions également répondre aux questions posées par les décideurs de la vie réelle, comme que faisons-nous réellement à ce sujet ? Comment les gens veulent-ils réellement répartir ces publicités ?"

Les Californiens peuvent demander des avantages SNAP en utilisant un site Web appelé GetCalFresh, qui est développé et géré par Code for America, une organisation à but non lucratif de technologie civique qui crée des outils et des services numériques pour les dirigeants communautaires et les gouvernements. Code for America recrute principalement des candidats GetCalFresh via Google Ads, par exemple, en dépensant environ 400 $ par jour pour atteindre toute personne du comté de San Diego qui tape des mots et des phrases clés comme "comment faire une demande de coupons alimentaires" dans Google.

Cependant, bien que GetCalFresh soit proposé en plusieurs langues, les hispanophones remplissaient proportionnellement moins de demandes que les anglophones. Dans le comté de San Diego, 23% des familles vivant en dessous du seuil de pauvreté parlent l'espagnol comme langue principale, et pourtant seulement 7% avaient demandé SNAP via GetCalFresh, ont déclaré des chercheurs.

Koenecke et ses collaborateurs ont découvert une raison possible : l'algorithme d'étirement du dollar par défaut derrière Google Ads fonctionnait trop efficacement et ne tenait pas compte des hispanophones dans le processus.

Lorsque Google Ads est configuré pour recueillir le plus d'inscriptions SNAP par dollar, il finit par diffuser moins d'annonces aux candidats potentiels hispanophones, car ces annonces coûtent plus cher que celles pour les anglophones, a constaté l'équipe. À l'époque, pour chaque dollar dépensé sur Google Ads pour "convertir" un candidat anglophone en bénéficiaire des avantages SNAP, il en coûtait 3,80 $ pour convertir une personne hispanophone, soit près de quatre fois plus. Une autre option d'enchères sur la plate-forme Google Ads coûte 1,4 fois plus cher pour toucher les hispanophones que les anglophones.

Koenecke et ses collaborateurs ne peuvent pas expliquer définitivement la différence, car Google Ads est une boîte noire, un outil d'apprentissage automatique propriétaire en dehors de l'examen public. Cela pourrait être attribué à un certain nombre de facteurs, comme l'offre et la demande ou un bogue dans le système, a-t-elle déclaré.

Pour GetCalFresh, les résultats de la recherche posent une question éthique importante concernant la manière de dépenser son budget publicitaire en ligne limité : doivent-ils atteindre autant de Californiens à moindre coût que possible, même si cela signifie moins de candidats hispanophones, ou faire davantage de publicité auprès des hispanophones, même si cela donne moins de candidats au total ?

De tels compromis sont au cœur des recherches de Koenecke sur l'équité et les systèmes algorithmiques, qui sont de plus en plus utilisés pour aider à la prise de décision dans des domaines ayant des conséquences réelles, comme les soins de santé, la banque et les services à l'enfance. Mais sans examen supplémentaire, les algorithmes - y compris un algorithme apparemment inoffensif derrière une plate-forme publicitaire - peuvent exacerber les inégalités ou produire des résultats qui vont à l'encontre de ce que les gens veulent ou ont réellement besoin, a-t-elle déclaré.

Koenecke et ses collaborateurs ont demandé au public d'intervenir, en interrogeant environ 1 500 Américains sur la façon dont ils allaient équilibrer efficacité et équité dans la publicité des avantages SNAP. Selon les chercheurs, quels que soient les groupes d'âge, le sexe, la race, le statut social et même l'affiliation à un parti politique, les répondants ont généralement préféré réduire le nombre total d'inscriptions pour faciliter davantage d'inscriptions parmi les hispanophones. Lorsqu'ils ont mené l'enquête auprès du personnel de Code for America, ils ont trouvé des résultats similaires : un fort désir d'accès équitable.

"Si vous comparez le fait que la majorité des républicains et des démocrates préfèrent en fait une certaine équité dans ce cas particulier, cela ouvre la porte à plus de bipartisme dans la réflexion sur la façon dont l'équité peut jouer un rôle dans les applications en ligne impliquant la distribution algorithmique de marchandises », a déclaré Koenecke.

À la suite des conclusions de l'équipe, Code for America a ajusté sa stratégie de publicité en ligne pour cibler directement davantage de candidats potentiels hispanophones.

"Il est important pour le terrain et le public d'avoir des dialogues productifs sur les types de mesures que nous devrions utiliser dans ces systèmes algorithmiques", a-t-elle déclaré. "Les communautés les plus impactées par les algorithmes devraient avoir plus de pouvoir dans le processus de prise de décision."