Chez Suricats, quand un sujet nous accroche, il peut vite devenir une obsession que nous avons besoin de creuser. En juin dernier, nous avons rencontré Lofred Madzou, chercheur en IA et Machine Learning au World Economic Forum, qui est intervenu lors de notre Meetup consacré à la relation Humain-Robot. Que souhaitons-nous devenir individuellement et collectivement à l’ère de l’IA ? Quel sens donner à la transformation numérique qui modifie en profondeur notre société ? Voilà l’enjeu auquel Lofred avait voulu nous confronter.
Inspirés par cette présentation, nous avons décidé d’approfondir la réflexion. Nous avons croisé l’expertise de Lofred en philosophie et éthique de l’IA avec notre connaissance des enjeux de trois secteurs d’activité (e-commerce, digitalisation des métiers techniciens industriels, et banque-assurance). Objectif : esquisser collectivement les bases d’une transformation digitale plus éthique, respectueuse des utilisateurs et de leur autonomie. Et c’est donc conjointement que nous souhaitons vous partager le fruit de ce travail.
Quand l’éthique nous pousse à penser l’autonomie des utilisateurs
Exemple de nudge sur Booking créant un sentiment d’urgence et
encourageant l’utilisateur à réserver au plus vite
L’alignement des intérêts : un premier pas, pour mettre en œuvre une approche éthique de la transformation digitale ?
L’un des concepts clés qui a émergé au cours de nos séances est celui de l’alignement des intérêts. Dans toute interaction sociale réunissant plus de deux personnes, il est possible de distinguer différents intérêts (parents/enfants, entraîneurs/joueurs, patrons/employés). Le niveau d’alignement (autrement dit, d’intérêts communs) influence la qualité de la collaboration entre ces différents acteurs ; plus ils s’alignent et plus il est facile d’atteindre un objectif commun dans le respect de l’autonomie de chacun et vice-versa.
Prenons un exemple concret. Sur un site d’e-commerce, il est courant de voir trois types d’acteurs :
- Acheteur : son objectif est d’accéder à la plateforme qui offre la plus grande gamme de produits conforme à ses besoins/désirs
- Vendeur : son objectif est d’être référencé sur la marketplace qui dispose de la plus grande masse d’acheteurs potentiels pour ses produits
- Marketplace : son objectif est d’optimiser les interactions entre vendeurs et acheteurs pour augmenter le volume des ventes
Pour augmenter ses profits la marketplace peut être tentée de recommander prioritairement aux clients les marques sur lesquels elle prend le plus de marge à travers son algorithme de référencement. Elle peut également créer un sentiment d’urgence (ex: en montrant le nombre de produits restants et le nombre d’internautes qui le consulte au même moment) pour forcer la décision d’achat, au détriment de l’acheteur. Nous avons trouvé des exemples similaires dans tous les secteurs étudiés, des situations où un acteur en position de pouvoir tente d’imposer ses intérêts sur les autres en limitant leur autonomie.
Quand on parle de transformation digitale éthique, il est essentiel de systématiquement s’interroger sur l’alignement des intérêts des acteurs en présence. Il s’agit d’avoir un regard holistique sur les impacts d’un service/d’une expérience, pour tous les acteurs concernés. Cette approche est déjà promue dans le domaine de l’écologie sous le concept d’économie bleu. Celle-ci incite à considérer le coût complet d’un bien en intégrant aussi le coût que représente sur le long terme la gestion des déchets produits par la production et/ou l’usage du produit.
Extrait des supports de nos ateliers de réflexion – Définition des besoins (et des pratiques réelles) des acteurs en présence sur des zones de friction fortes (collecte des données, affichage des prix, résiliation, etc.)
