Une transformation digitale éthique est-elle possible ?

Chez Suricats, quand un sujet nous accroche, il peut vite devenir une obsession que nous avons besoin de creuser. En juin dernier, nous avons rencontré Lofred Madzou, chercheur en IA et Machine Learning au World Economic Forum, qui est intervenu lors de notre Meetup consacré à la relation Humain-Robot. Que souhaitons-nous devenir individuellement et collectivement à l’ère de l’IA ? Quel sens donner à la transformation numérique qui modifie en profondeur notre société ? Voilà l’enjeu auquel Lofred avait voulu nous confronter.

ethique-numerique-suricats
laurianne
Laurianne Roger-Vasselin
Consultante Tout Terrain
Lofred Madzou
Philosophe de l'IA

Novembre 2018 – Lecture 5 minutes

Inspirés par cette présentation, nous avons décidé d’approfondir la réflexion. Nous avons croisé l’expertise de Lofred en philosophie et éthique de l’IA avec notre connaissance des enjeux de trois secteurs d’activité (e-commerce, digitalisation des métiers techniciens industriels, et banque-assurance). Objectif : esquisser collectivement les bases d’une transformation digitale plus éthique, respectueuse des utilisateurs et de leur autonomie. Et c’est donc conjointement que nous souhaitons vous partager le fruit de ce travail.

Quand l’éthique nous pousse à penser l’autonomie des utilisateurs

Régulièrement à l’échelle individuelle ou collective, nous observons un malaise grandissant à l’égard des technologies numériques lié à un sentiment de perte de contrôle sur nos données ou notre attention. Si ce sentiment est diffus et complexe, nous avons la conviction qu’il est possible d’y remédier dès lors que nous essayons de maximiser l’autonomie physique et décisionnelle des utilisateurs.  Repartir de leurs besoins et intentions, et leur laisser clairement le choix. C’est justement l’ambition des réflexions éthiques appliquées au numérique. En effet, l’éthique et non la morale (plus dogmatique) ouvre un espace de réflexion où il est possible d’imaginer un environnement numérique plus respectueux des utilisateurs et de leurs intérêts légitimes. Au cours de 3 ateliers de design thinking, nous avons exploré cet espace en convoquant plusieurs grandes figures de la philosophie de Socrate à Kant en passant par Floridi. Nous avons établi qu’une transformation digitale éthique a pour premier objectif de « maintenir l’autonomie physique et décisionnelle des personnes » au sens kantien du terme. De là, nous avons déduit un cadre d’analyse permettant d’évaluer le degré d’autonomie de nos différents utilisateurs clés (clients et collaborateurs) : quel est le degré de transparence du processus de traitement de données ? quelle accessibilité des données collectées sur l’internaute ? recense-t-on des pratiques déceptives dans le service proposé ? y a-t-il des dispositifs de captation de l’attention dissimulés ? etc. Ces questionnements nous ont amenés à étudier les pratiques telles que le « nudge », ces astuces qui influent sur les comportements humains. Attention, ces pratiques ne sont pas nécessaire mauvaises, à condition de ne pas être déceptives ou mensongères. L’exemple de Booking montre à la fois l’usage de nudge (encadré rouge) mais aussi celui d’une certaine transparence en indiquant que cette annonce est sponsorisée (encadré vert), donc que sa mise en avant est rémunérée et pas nécessairement la meilleure offre pour répondre aux besoins de l’utilisateur.
ethique-numérique-nudge

Exemple de nudge sur Booking créant un sentiment d’urgence et
encourageant l’utilisateur à réserver au plus vite

L’alignement des intérêts : un premier pas, pour mettre en œuvre une approche éthique de la transformation digitale ?

L’un des concepts clés qui a émergé au cours de nos séances est celui de l’alignement des intérêts. Dans toute interaction sociale réunissant plus de deux personnes, il est possible de distinguer différents intérêts (parents/enfants, entraîneurs/joueurs, patrons/employés). Le niveau d’alignement (autrement dit, d’intérêts communs) influence la qualité de la collaboration entre ces différents acteurs ; plus ils s’alignent et plus il est facile d’atteindre un objectif commun dans le respect de l’autonomie de chacun et vice-versa. Prenons un exemple concret. Sur un site d’e-commerce, il est courant de voir trois types d’acteurs :
  • Acheteur : son objectif est d’accéder à la plateforme qui offre la plus grande gamme de produits conforme à ses besoins/désirs
  • Vendeur : son objectif est d’être référencé sur la marketplace qui dispose de la plus grande masse d’acheteurs potentiels pour ses produits
  • Marketplace : son objectif est d’optimiser les interactions entre vendeurs et acheteurs pour augmenter le volume des ventes
  Pour augmenter ses profits la marketplace peut être tentée de recommander prioritairement aux clients les marques sur lesquels elle prend le plus de marge à travers son algorithme de référencement. Elle peut également créer un sentiment d’urgence (ex: en montrant le nombre de produits restants et le nombre d’internautes qui le consulte au même moment) pour forcer la décision d’achat, au détriment de l’acheteur. Nous avons trouvé des exemples similaires dans tous les secteurs étudiés, des situations où un acteur en position de pouvoir tente d’imposer ses intérêts sur les autres en limitant leur autonomie. Quand on parle de transformation digitale éthique, il est essentiel de systématiquement s’interroger sur l’alignement des intérêts des acteurs en présence.  Il s’agit d’avoir un regard holistique sur les impacts d’un service/d’une expérience, pour tous les acteurs concernés. Cette approche est déjà promue dans le domaine de l’écologie sous le concept d’économie bleu. Celle-ci incite à considérer le coût complet d’un bien en intégrant aussi le coût que représente sur le long terme la gestion des déchets produits par la production et/ou l’usage du produit.
ethique-numérique-alignement-intérêts

Extrait des supports de nos ateliers de réflexion – Définition des besoins (et des pratiques réelles) des acteurs en présence sur des zones de friction fortes (collecte des données, affichage des prix, résiliation, etc.)

 

Qui sera le premier à oser changer ?

Nous en sommes convaincus, une transformation digitale éthique est possible car elle renvoie à des aspirations profondes régulièrement exprimées par les utilisateurs (clients et collaborateurs) en matière de transparence et d’autonomie décisionnelle. Dès lors, les entreprises pionnières qui font le choix dès aujourd’hui de faire évoluer leurs pratiques dans une démarche plus éthique seront les grands gagnants de demain, tant par l’évolution de leur image que leur impact sur le marché. Vous souhaitez engager une démarche éthique mais vous ne savez pas comment commencer ? Contactez-nous. Nous bâtirons ensemble une stratégie centrée sur l’autonomie de vos clients, collaborateurs et internautes.
Tags:

© SURICATS Consulting 2018 - Conseil en transformation digitale

Vous connecter avec vos identifiants

Vous avez oublié vos informations ?