Enjeux éthiques, de la numérisation et de l’IA
Que change le numérique?
- Le numérique est partout et change ce qui est possible pour la recherche : au niveau des objets, et au niveau des méthodes !
- De nouvelles opportunités et de nouveaux risques dans l’innovation méthodologique, quantitative mais aussi qualitative.
- Notre vie privée.
- Nouvelles sources de données impliquent de nouveaux research designs, et une réflexivité nouvelle.
- Tout ça grâce à des énormes collectes d’information open (Google, Facebook, etc). On peut observer les données sans intrusion, sans que notre présence les altère.
L’analyse textuelle
- Comment étudier les débats de politique climatique par des traces textuelles?
- Sur différents espaces.
- Ceux à l’intérieur de la négociation entre états (par exemple).
- Twittosphere→Dashboard sur les données des réseaux (mots saillants, hashtags), qui nous donnent une image des réseaux sociaux mais pas de la société. Un autre exemple pour voir comment les personnes réagissent, en dehors du débat interétatique.
À l’intérieur des COPs
Quel proxy pour cartographier les négociations entre états et non pas les débats quelles souscitent en ligne?
- Utiliser le Earth negotations bulletin (ENB) pour cartographier les questions (issues) de politique climatique. Des comptes rendus des séances quoi.
- Ça peut se télécharger depuis un repositoire et traité avec une machine de traitement du langage pour identifier des termes saillants. Ceci nous permet d’identifier des inquiétudes.
- On obtient un graphe (distance entre thèmes, centralité, conversations moins centrales et plus spécifiques, etc) lisible à partir de données difficiles à interpréter directement.
- Opérationnalisation → combien ont-ils parlé de X?→ número de mentions de X obtenu.
- Opérationnalisation → combien ont-ils parlé de X?→ número de mentions de X obtenu.
- Mentions d’un thème ^.
- C’est aussi un passage d’action matérielles à une traduction de cette complexité vers un récit (comme on a vu avec Latour).
Une nouvelle AI qui peut deviner l’orientation sexuelle à partir d’une photo faciale?
- Septembre 2017, plusieurs médias se font de la publication du pré-print d’un article à paraitre dans le Journal of personality and social psychology.
- Deep neural networks are more accurate than humans at detecting sexual orientation from facial images.
- L’étude est signé par le Professeur en psychologie et data science Michal Kosinski et le chercheur en machine learning Yilun Wang deux chercheurs de la Graduate School of Business de l’Université de Stanford.
- S’ensuit un tollé atour de l’alerte sur de nouveaux risques pour la vie privée.
- Un modèle algorithmique parviendrait à identifier l’orientation sexuelle à partir d’images de visages.
- En exploitant les données produites par un réseau de neurones appliqué à la reconnaissance faciale, un classificateur binaire de l’orientation sexuelle très performant serait prétendument capable de fonctionner dans l’espace public.
- L’alerte de Kosinski sur une A.I gaydar suscite une vive controverse.
- Des prises de position sur les conclusions de Kosinski et Wang sans en examiner la validité ou la portée.
- Le débat porte alors sur les enjeux éthiques de la recherche en I.A. et les implications pour les personnes LGBT, …. mais pas tellement sur les enjeux épistémologiques !
- Le débat se déploie dans la presse en ligne et les médias sociaux, engageant des journalistes, des associations et personnes LGBTQ, des chercheurs et des praticiens du machine learning.
- Kosinski y participera lui-même, revendiquant son rôle de lanceur d’alerte.
- Certains forums de la communauté LGBTQ ont accueilli favorablement l’alerte, d’autres ont manifesté un rejet catégorique de l’étude.
Le deep learning permettrait de prédire l’orientation sexuelle à partir du visage
- Le deep learning laisse place à une réhabilitation de la physiognomonie, le protocole basé sur VGG-Face mis en place démontrant selon les auteurs que le visage dévoilerait des informations sur l’orientation sexuelle invisibles à l’œil humain, mais perceptibles par une machine.
Le visage en porterait la trace conformément à la théorie des hormones prénatales
- Le deep learning renouvellerait les recherches sur le gaydar et sexualité : selon les auteurs la théorie de l’exposition prénatale aux hormones (controversée) explique pourquoi l’orientation sexuelle s’exprime sur le visage, suggérant que l’orientation sexuelle déterminée avant la naissance et que le visage en porte la trace.
- L’utilisation potentielle de la technologie dans l’espace public justifierait une alerte :
- Le deep learning pour la reconnaissance faciale appliqué à la prédiction de l’orientation sexuelle dans l’espace public met selon les auteurs la vie privée des personnes homosexuelles en péril.
- Ceci qui justifie lancer une alerte concernant ce risque en contexte de surveillance de masse par le numérique – dans la ligne de celles d’Edward Snowden et Chris Wylie.
- On arrive à une réflexivité où même les auteurs réagissent à leur propre travail, après un processus de traduction.
La numérisation transforme la démarche scientifique des sciences sociales
Big data : promesses, illusions, critiques, et réflexivité en sciences sociales
On pensait qu’on allait même pas avoir besoin de cadres théoriques grâce aux données massives. Tout le monde, les chercheurs en sciences sociales plus importants inclus, avait monté sur le cheval. C’était pour eux la possibilité de se séparer du débat micro ou macro. Certains comme Boyd et Crawford (ont fait un article en 2012) ont mis en questions toutes ces promesses, considérées comme propagande de Silicon Valley.
Après les abus, les API (permettaient d’accéder aux données et traces digitales (actions des utilisateurs comme liker)) sont fermées (Cambridge Scandal). Le rêve est fini. Le mouvement digital methods continue à exister toujours néanmoins. À la fin, des auteurs comme Sagalnik ont essayé à réconcilier les data scientists et les sociologues.
Les API fermées donnent un avantage aux études in-house.
Réflexivité
Réflexivité (1) des sociétés confrontés aux savoirs sur elles-mêmes
- La réflexivité est un produit de la recherche sociale en société.
- Cas des prophéties autoréalisatrices et la réactivité des sujets concernés.
- Le savoir en SHS constitue l’objet/sujet : spécifique au savoir en SHS.
- La sociologie et la modernité reflexive.
Réflexivité (2) des chercheurs et chercheuses sur leurs pratiques
- Condition indispensable de la recherche: la réflexivité est le mécanisme par lequel le sujet se prend pour objet d’analyse et de connaissance. Cette posture consiste à soumettre à une analyse critique non seulement sa propre pratique scientifique (opérations, outils et postulats), mais également les conditions sociales de toute production intellectuelle : le/la sociologue ne peut produire une connaissance rigoureuse du monde social sans se livrer à une entreprise de connaissance de soi (de son travail, de sa position sociale, de sa vie) (Rui, 2012)
- Objectiver son research design !
- Tenir compte du contexte sociotechnique de production des données.
- Et tenir compte de la réflexivité (en tant que réactivité) par rapport aux savoirs produit.
L’écriture en sciences sociales
- L’écriture sociologique ne se réduit pas à la mise en forme des résultats : elle fait partie intégrante du travail de recherche.
- Elle permet de problématiser le réel, d’articuler concepts et données empiriques, et d’ouvrir l’analyse à la critique.
- Elle exige clarté, rigueur, transparence et honnêteté intellectuelle.
- Refusant les jugements de valeur, elle s’inscrit dans une tradition scientifique fondée sur la discussion collective et le souci de vérifiabilité.