Lignes directrices éthiques pour la recherche sur les médias sociaux avec les groupes vulnérables

Nous reconnaissons que les données identifiables sur les médias sociaux provenant de populations marginalisées peuvent être utilisées pour criminaliser et incarcérer des communautés de couleur. Nous reconnaissons également que les données et les méthodes que nous recueillons sont susceptibles d’être préjudiciables si elles sont utilisées de manière inappropriée ou si elles tombent entre de mauvaises mains. En tant que tel, le SAFElab a développé un ensemble de directives éthiques décrivant notre processus de recherche, nos collaborations avec la science des données et nos efforts de diffusion. La nature de notre travail nécessite des considérations éthiques proactives, itératives et en constante évolution afin de prévenir tout préjudice potentiel pouvant survenir dans les communautés avec lesquelles nous travaillons et à partir desquelles nos données proviennent. Les directives éthiques suivantes constituent une première étape pour relever les défis de notre travail sur les médias sociaux, notamment l’utilisation de l’intelligence artificielle en tant qu’outil de prévention de la violence dans les communautés marginalisées.

Transparence

  • Donner la priorité à une liste des besoins de la communauté en matière de prévention de la violence et mettre à jour cette liste à mesure que de nouveaux besoins deviennent apparents
  • Décrire notre processus de collecte et d'analyse de données et la manière dont les données sont utilisées et appliquées
  • Réunir un comité consultatif d'experts sur le terrain, de travailleurs en prévention de la violence et de membres de la communauté (y compris des jeunes anciennement membres de gangs) (réunions mensuelles)
  • Validation et évaluation par la communauté des décisions relatives à l'analyse et à l'étiquetage des données

Collecte de données

  • Approbation de la part de l'Institutional Review Board (IRB) pour toutes nos études de recherche. Cependant, étant donné que la CISR considère que les données des médias sociaux publics sont exemptées, nous devons trouver d'autres moyens de rendre des comptes
  • Les données des médias sociaux avec lesquelles nous travaillons proviennent de populations difficiles à atteindre, ce qui rend le consentement non seulement difficile à obtenir, mais aussi déraisonnable. Nous travaillons pour trouver d'autres moyens de protéger les jeunes qui participent à nos études:
  • Consentement de la communauté
  • Consentement des membres de la famille

L'analyse des données

  • Système d'annotation protégé par mot de passe
  • Personne en dehors de notre équipe de recherche n'a accès aux données
  • Nous envisageons de faire signer à tous nos annotateurs de données un protocole d'entente soulignant l'importance de ne pas partager ces données avec qui que ce soit.
  • Conversations hebdomadaires sur l'éthique de notre travail. Nous revisitons notre travail de manière itérative et créons un espace pour que tous les membres de l'équipe puissent soulever des problèmes éthiques et traiter des problèmes soulevés par des personnes extérieures à notre équipe de recherche, y compris des partenaires organisationnels et des membres de la communauté.

Partage de données

  • Nous ne partageons actuellement aucun de nos ensembles de données avec les organismes chargés de l'application de la loi ou avec des personnes utilisant des méthodes punitives et criminalisantes. Nous continuerons à examiner ces pratiques avec nos partenaires communautaires.

Présentations de recherche et travaux publiables

  • Texte de données de médias sociaux:
  • Ne plus utiliser de noms d'utilisateur
  • Modification du texte de la publication sur les médias sociaux pour la rendre impossible à rechercher
  • Suppression proactive des publications de médias sociaux et des utilisateurs de notre jeu de données devenus privés ou supprimés / suspendus d'une certaine plate-forme
  • Image de données de médias sociaux:
  • Pas de noms d'utilisateur
  • Pas de photos de visages
  • Images de notre ensemble de données en travaux publiables
  • Aucune image de notre jeu de données
  • Utiliser des images créatives communes similaires dans notre travail publiable, à titre d'exemples
  • Fournissez une adresse URL protégée par mot de passe aux relecteurs avec des exemples anonymisés de publications sur les réseaux sociaux et contenant des images de notre ensemble de données.