Using artificial agents to nudge outgroup altruism and reduce ingroup favoritism in human-agent interaction

Ce que dit l'article

Le fond du travail, en français, sans jargon.

Des agents informatiques adaptatifs peuvent inciter des personnes à faire preuve d'altruisme envers un groupe rival sans se faire rejeter par leur propre communauté. Cette conclusion repose sur deux expériences de jeux en ligne d'échange de jetons menées auprès de huit cent quatre-vingts étudiants universitaires répartis sur des sessions de quinze à trente tours, combinant des humains et des programmes d'apprentissage automatique. La réserve majeure réside dans le fait que ces résultats restent limités à des simulations financières simples en laboratoire sur un public étudiant très féminin et s'appuient sur un modèle algorithmique en partie opaque.

L'hypothese testee, et ce qu'elle change

La question de depart de ce travail, et en quoi elle ouvre un angle different de ce qui se faisait avant dans ce domaine.

L'utilisation d'agents artificiels favorisant l'exogroupe peut réduire le favoritisme endogroupe et promouvoir la coopération intergroupe en activant la réciprocité et la comparaison sociale.

we investigated whether promoting prosocial outgroup altruism would weaken the ingroup favoritism cycle of influence.

Ce que ca change dans le champ : L'étude introduit des agents adaptatifs utilisant l'apprentissage automatique pour maintenir une réputation positive au sein de l'endogroupe tout en encourageant l'altruisme envers l'exogroupe.

adaptive artificial agents whose altruistic behavior was informed by the prediction of a machine learning algorithm

Question deja posee avant : La réduction du favoritisme endogroupe a été étudiée via des interventions de pleine conscience ou des modèles de réciprocité indirecte entre humains.

Oyler et al. (2022) outlined various interventions that mitigate intergroup discrimination, including mindfulness intervention

Sur qui, combien, ou

Ce que l'etude a reellement observe.

Etudiants universitaires (18 ans et plus). Etude 1 : 149 femmes et 131 hommes. Etude 2 : 261 femmes et 99 hommes. · N = 880 joueurs au total (Etude 1 : 280 participants humains et 120 agents ; Etude 2 : 360 participants humains et 120 agents). · Environnement virtuel en ligne via la plateforme experimentale assistee par ordinateur VIAPPL (Virtual Interaction Application). · Etude 1 : 30 tours (5 vagues de 6 tours) ; Etude 2 : 15 tours (3 vagues de 5 tours). Le texte ne donne pas la duree temporelle exacte des sessions en minutes.

In two studies (N = 880), we investigated whether promoting prosocial outgroup altruism would weaken the ingroup favoritism cycle of influence.

Solidite de la preuve : 68 sur 100

La note porte sur la FORCE DE LA PREUVE apportee, pas sur l'interet du sujet ni sur la revue.

• Cadre expérimental rigoureux contrôlant la présence des agents et utilisant une modélisation multi-niveaux adaptée.
• Échantillon de convenance restreint à des étudiants universitaires avec un fort déséquilibre de genre dans l'étude 2 (72.5 % de femmes).
• Échec de l'une des deux hypothèses principales (l'imitation par comparaison sociale n'a pas eu lieu) et dépendance envers un modèle d'apprentissage automatique partiellement opaque.

Ce que le lecteur en pense

Cette étude établit de manière modérément solide en laboratoire virtuel que des agents virtuels adaptatifs peuvent réduire le favoritisme envers son propre groupe en activant la réciprocité, sous réserve d'entretenir leur réputation auprès de leurs pairs.

Les affirmations, et leur preuve

Chaque affirmation porte la phrase du texte source qui la soutient. 19 citation(s) sur 19 ont été retrouvées mot à mot ; celles qui ne l'ont pas été ont été coupées.

1. Les agents artificiels rigides favorisant l'exogroupe provoquent un retrait de coopération de la part des membres de leur groupe et renforcent le favoritisme endogroupe chez les humains.

   In Study 1, nonadaptive agents prompted ingroup members to withhold cooperation from ingroup agents and reinforced ingroup favoritism among humans.

2. Les agents adaptatifs guidés par l'apprentissage automatique parviennent à réduire le favoritisme endogroupe au fil du temps en préservant leur réputation auprès des deux groupes.

   In Study 2, adaptive agents were able to weaken ingroup favoritism over time by maintaining a good reputation with both the ingroup and outgroup members

3. L'atténuation du favoritisme endogroupe repose sur l'activation de la réciprocité envers l'exogroupe et non sur la comparaison sociale ou l'imitation.

   both Study 1 and Study 2 demonstrate that invoking the feeling of reciprocity rather than imitation reduced ingroup favoritism

Ce qu'on peut en conclure, et ce qu'on ne peut pas

L'enonce le plus fort que les donnees soutiennent reellement, distingue de ce que les auteurs revendiquent.

Des agents artificiels adaptatifs gérant stratégiquement leur réputation peuvent induire une réduction du favoritisme endogroupe en activant la réciprocité intergroupe, sans subir de punition ou de retrait de coopération de la part de leur endogroupe.

Ce qu'on ne peut PAS en conclure : On ne peut pas conclure que la présence d'agents altruistes amène les humains à imiter directement l'altruisme envers l'exogroupe par comparaison sociale, ni généraliser ces conclusions à des conflits sociaux réels complexes hors d'un jeu virtuel d'échange de jetons sur échantillon étudiant.

Ce que ca ouvre pour la suite

• Tester le dispositif sur un échantillon démographiquement représentatif de la population générale et équilibré en genre.
  repond a : Echantillon de convenance universitaire presentant un fort desequilibre de genre dans l'Etude 2 (261 femmes pour 99 hommes).
• Développer des modèles algorithmiques d'agents comportementaux explicables (XAI) pour identifier les paramètres exacts influençant la décision humaine.
  repond a : Opacite relative des mecanismes internes de l'algorithme d'apprentissage automatique C-HMM adapte aux agents.
• Étudier spécifiquement la perception subjective d'humanité pour comprendre pourquoi des agents perçus comme équitables sont évalués comme « plus humains que les humains ».
  repond a : Dans l'Etude 2, les participants ont evalue les agents adaptatifs comme etant statistiquement « plus humains que les humains », signalant une anomalie dans la perception des agents.

Les questions que ce travail touche

Formulees independamment de cet article, pour qu'un autre travail puisse y repondre autrement. C'est ce qui alimente la carte des questions.

• Est-ce que les technologies numériques manipulent les individus et menacent la stabilité sociale ?
  Les agents artificiels peuvent être utilisés pour influencer positivement les comportements et réduire les discriminations intergroupes, favorisant ainsi la stabilité sociale.
  ce travail nuance la reponse admise

  We applied the idea of reciprocity nudging... and consider how outgroup favoring agents might nudge a reduction of ingroup favoritism

• Est-ce que les algorithmes de persuasion numérique réduisent l'autonomie des utilisateurs ?
  L'utilisation de nudges algorithmiques basés sur la réciprocité cible des processus automatiques pour modifier les choix d'allocation sans délibération consciente.
  ce travail nuance la reponse admise

  Caraban et al. (2019) categorized reciprocity as an automatic process, reasoning that the reciprocation motive is a deeply engrained unconscious response.

Ce que le résumé ne disait pas

L'écart entre la vitrine de l'article et le travail réel — la raison d'être de la lecture profonde.

• Le résumé ne mentionne pas que l'hypothèse de nudge par imitation (comparaison sociale) a échoué dans les deux études.
• Le résumé n'explique pas que le nombre de tours a été réduit de 30 à 15 entre l'étude 1 et l'étude 2.
• Le résumé ne mentionne pas l'opacité partielle de l'algorithme d'apprentissage automatique C-HMM utilisé pour piloter les agents.

Ce que l'article se contredit à lui-même

• Les participants de l'étude 1 sanctionnaient les agents de leur groupe en leur retirant leur coopération, alors que dans l'étude 2 l'adaptation algorithmique a bloqué ce retrait sans toutefois réussir à déclencher l'imitation de l'altruisme.

  This contrasts with our observation in Study 2, where participants neither imitated the agents nor withdrew cooperation from ingroup agents.

Les limites que les auteurs reconnaissent

• While these experiments have real-world implications, they may not generalize to real world contexts involving a higher degree of complexity.
• The participants’ behaviors may not be representative of the broader population but a particular social group.
• Furthermore, Study 2 used a machine learning model. The internal processes of the algorithms may not be fully explainable.

Pourquoi cette methode, et ou elle est fragile

Non pas ce que les chercheurs ont fait, mais pourquoi ils l'ont fait ainsi — et ce que chaque faiblesse change pour la conclusion.

La methode a ete concue pour comparer deux mecanismes de nudge (reciprocite vs comparaison sociale/imitation) et tester si la preservation de la reputation au sein de l'endogroupe est la condition sine qua non pour que l'altruisme envers l'exogroupe reduise le favoritisme endogroupe sans declencher de sanctions (retrait de cooperation).

Study 2 aimed to evaluate whether a good relationship with ingroup members would enhance the likelihood of ingroup members imitating outgroup altruistic behavior.

En quoi ce dispositif tranche la question : En comparant des agents rigides (Etude 1) qui violent la norme endogroupe et se font sanctionner a des agents adaptatifs (Etude 2) qui distribuent suffisamment de jetons a leur endogroupe pour garder une bonne reputation, le dispositif isole exactement le role de la reputation endogroupe dans la propagation de la cooperation intergroupe.

Solidite au regard des standards du domaine : Conforme aux standards de la psychologie sociale experimentale et de l'economie comportementale : modeles lineaires mixtes multi-niveaux (lme/lmer) prenant en compte l'emboitement des tours par individu et par jeu, structure autoregressive AR(1), et intervalles de confiance a 95 % calcules par bootstrap.

Les failles, et ce qu'elles changent

• Echantillon de convenance universitaire presentant un fort desequilibre de genre dans l'Etude 2 (261 femmes pour 99 hommes).
  Les differences de genre dans les dilemmes sociaux et les comportements de reciprocite pourraient biaiser la sensibilite au nudge et les choix d'allocation observes.
• Opacite relative des mecanismes internes de l'algorithme d'apprentissage automatique C-HMM adapte aux agents.
  Les auteurs reconnaissent que le modele ML est une boite noire partielle, ce qui limite l'explicabilite exacte des facteurs precis ayant declenche la baisse du favoritisme endogroupe dans l'Etude 2.

Le regard du méthodologiste

La critique de méthode, point par point.

correction de multiplicite

Le texte ne mentionne aucune methode de correction pour tests multiples appliquée aux differents modeles multi-niveaux et comparisons d'effets d'interaction testes.

standards appliques aux resultats nuls

Les resultats non significatifs sont parfois interpretes comme la preuve d'une absence d'effet ou de la reussite d'un controle de manipulation (par exemple l'absence de difference significative sur les evaluations d'humanite entre agents et humains), sans test d'equivalence formel.

taille et composition de l echantillon

L'etude repose sur un echantillon de convenance non probabiliste d'etudiants universitaires (N = 880). La Study 1 comprend 280 participants et 120 agents (149 females et 131 males, M = 20, 41, SD = 2.83). La Study 2 comprend 120 agents et 360 etudiants universitaires (261 Female et 99 Male, M = 22. 24, SD = 3.20).

puissance annoncee contre hypothese testee

Aucune analyse de puissance statistique a priori n'est annoncee ou detaillee dans le texte pour justifier la capacite a detecter les effets testes.

ce qui est preenregistre et ce qui ne l est pas

Bien qu'un depot public de donnees soit indique sur OSF, le texte ne mentionne aucun preenregistrement a priori des hypotheses, du plan d'experience ou du plan d'analyse statistique.

Une reprise d'un travail anterieur

Une reprise reussie et une reprise ratee ne deplacent pas la question dans le meme sens.

Replication du paradigme d'interaction minimale et du jeu d'echange de jetons de Durrheim et al. (2016) sur la plateforme VIAPPL. — resultat : tient

The game replicated that reported by Durrheim, et al. 18, who showed that group identity promotes ingroup favoritism.

Qui paie, qui declare un lien

Rapporte tel que le texte le dit. Absent du texte ne veut pas dire aucun.

Finance par : National Research Foundation (NRF) of South Africa (Subvention n° 111836).. Liens declares : The authors declare no competing interests..

This work is based on the research supported in part by the National Research Foundation (NRF) of South Africa (Grant Numbers: 111836).

Ce que le lecteur ne peut PAS établir

Les réserves que le lecteur pose lui-même. Elles ne sont jamais masquées.

• Le texte ne donne pas la durée temporelle en minutes des sessions d'expérience.
• Le texte ne donne pas la répartition exacte par genre au sein de chacune des conditions expérimentales spécifiques.
• Le texte ne donne pas de référence ou numéro d'enregistrement pour un pré-enregistrement du protocole.