Ranger les gens dans des boîtes

Le profilage est une technique d'automatisation du traitement de votre dossier qui consiste à vous classer dans une catégorie de clients. Les catégories sont définies par les types de données: âge, genre, type d’appareil, système d’exploitation, localisation, historique de navigation, ouverture ou clic sur des emails, etc. Pendant longtemps, les profils étaient créés a priori par les employés de l’entreprise en fonction de leur connaissance client.

Aujourd’hui, de plus en plus d’entreprises privilégient des approches algorithmiques d'Intelligence Artificielle (IA) pour créer des profils de clients ou prospects dont les caractéristiques varient dans le temps. L’IA permet constamment d’apprendre de notre comportement, de nos choix, de nos goûts, de nos Like, etc., et donc de nous proposer un service à la carte (on parle alors de recommandation, voire de personnalisation). C’est le cas de Facebook ou Youtube, par exemple.

Pourquoi voudrait-on ne pas être profilé ?

Si vous considérez que la décision de l’entreprise vous nuit ou est injuste, ou que les services qui vous sont proposés sont discriminants, vous êtes en droit de refuser d’être profilé automatiquement, selon l’article 22 de la réglementation européenne. Tout tient dans l’automatisme du processus, bien entendu, car certains organismes vous rétorqueront que si vous refusez d’être profilé, vous ne pourrez pas bénéficier de leurs services. C’est là que vous pouvez allez plus loin en exerçant votre droit à être informé:

• une décision entièrement automatisée a-t-elle été réalisée ?

• quelles sont la logique et les critères employés pour prendre la décision automatique ?

Vous disposez également d’un droit de réclamation:

• en contestant la décision et en exprimant votre point de vue

• en demandant l’intervention d’un être humain qui puisse réexaminer la décision

Si vous acceptez les conditions générales d’utilisation et de vente (CGU/CGV) de l’organisme, et que celles-ci stipulent qu’un des traitements de vos données consiste en un profilage, alors vous devez faire avec. Si vous êtes contre, n’acceptez pas les termes des CGU/CGV et choisissez un autre organisme à la place. Pas forcément facile ! 

​

Lorsque vous demandez un crédit à votre banque, celle-ci calcule le risque qu’elle endosse à vous prêter de l’argent et à ne pas le récupérer. Plus le risque est élevé, plus votre taux sera élevé. Bien entendu, vous pouvez vous opposer à ce profilage si vous considérez qu’il vous porte préjudice, mais il y a de grandes chances que votre banque vous oppose que c’est la même méthode pour tout le monde et que ça fonctionne comme ça partout. Si vous refusez ce profilage, vous ne pourrez certainement pas souscrire de contrat auprès de votre banque, comme le souligne l’article 22 de la réglementation. C’est donc là la limite de ce droit. En revanche, vous êtes en droit de demander des explications sur le profilage réalisé comme expliqué plus haut et faire intervenir un humain dans la prise de décision concernant votre dossier.

Définition du droit

C’est le droit de remonter le fil de votre profilage, de vous y opposer et de demander l'intervention d'un humain dans les décisions automatisées vous concernant. 

Pour minimiser les effets du profilage lorsque vous surfez sur le web, pensez à régulièrement effacer vos cookies. Ces petits fichiers contiennent les traces de vos visites précédentes et de vos choix, autant de données intéressantes pour les algorithmes dont vous croiserez la route sans le savoir et qui vous proposeront contenus, publicités, résultats de recherche selon leurs calculs.

Mais pourquoi voudrait-on être profilé automatiquent ?

Sur DARE, vous n’êtes pas profilé. Autrement dit, les fonctionnalités et les résultats auxquels vous accédez sont les mêmes pour n’importe quel utilisateur de la plateforme (à l’exception de la liste des entreprises qui détiennent vos données, naturellement). Dit comme ça, on se dit que ça paraît évident et que ça devrait être le cas partout. Pas sûr que ce soit aussi simple...

Le profilage permet de nous proposer des services ou des contenus de manière automatique et adaptée à notre comportement. Tout d’abord, il est évident que l’on est en droit de refuser d’être “surveiller” et de refuser aussi que nos actions du passé conditionnent nos possibilités futures. Disons donc que l’on est en droit de refuser le profilage automatisé par principe. 

Ensuite, il faut comprendre l’automatisation des décisions comme une mécanique à double tranchant. D’un côté, c’est ce qui nous permet de bénéficier, par exemple, de recommandations adaptées et de ne plus chercher, pendant de longues minutes, la prochaine vidéo à regarder. D’un autre côté, c’est ce qui peut nous enfermer dans un univers restreint de possibles car celui-ci ne dépend que de ce qu’on a fait avant. C’est le côté obscur de l’automatisation, on se retrouve coupé de ce qui existe par ailleurs, dans l’incapacité d’y accéder. Cela pose de véritables questions sur la liberté de l’accès à l’information, tant à partir des sites médias, que des réseaux sociaux ou des moteurs de recherche web.

Chez Syned, nous en avons récemment fait l’expérience. Deux d’entre nous travaillaient ensemble et ont tapé exactement les mêmes mots dans Google. Ils ont obtenu des résultats différents parce que quelques kilomètres les séparaient, parce qu’ils n’avaient pas le même ordinateur, parce que leurs navigations passées étaient différentes. Google n’est pas le Web, mais un portail d’accès qui référence les sites et permet d’y accéder. Le fait que les résultats proposés soient différents pose un vrai problème d’accès à l’information tant en termes de liberté que d’équité.

L'enfermement automatisé

Les recommandations de Facebook, Instagram, Netflix ou Youtube, sont de bons exemples (parmi d’autres) de profilage enfermant. Ces services ne nous recommandent que des produits en lien avec nos choix passés. C’est comme ça que, si vous avez regardé quelques films d’actions sur votre plateforme vidéo préférée, vous serez coincé dans un univers de films d’action. On aime ou pas.  Pour sortir de son propre profil, il faut forcer l’algorithme à apprendre autre chose de nous. Ça veut dire (réussir à) regarder d’autres types de films, cliquer sur d’autres types de publications, etc. Cela peut prendre un certain temps, mais l’algorithme finit par nous classer dans une autre catégorie… dont on voudra peut-être sortir un jour ou l’autre…

​

Les Temps Modernes

A voir la quantité d’utilisateurs des grands réseaux sociaux et autres plateformes vidéo, il est évident que le côté facile l’emporte sur l’effet pervers de la décision automatisée. Peut-être faut-il du temps pour observer une prise de conscience massive? En attendant, les risques de dérives sont évidents et ont déjà fait l’objet de nombreux articles, documentaires et études. 

Une des dérives les plus connues est le scandale de Cambridge Analytica, société qui a exploité les données des utilisateurs de Facebook pour profiler les électeurs américains et anglais et influencer massivement leur vote aux élections présidentielles et Brexit en les exposant automatiquement à des contenus correspondant à leur profil.

​

“Smile”

Heureusement, toutes les plateformes du web ne fonctionnent pas de la sorte. Le moteur de recherche de Dare est un exemple d’alternatives parmi d’autres. C’est aussi une bonne illustration de nos valeurs. 

Deux utilisateurs complètement différents qui cherchent exactement la même chose accèdent exactement aux mêmes résultats. Notre moteur est conçu pour ne pas enfermer l’utilisateur dans des résultats contraignants, c’est-à-dire une vision du web “préparée” à l’avance pour lui. 

Le moteur est aussi conçu pour permettre à chacun d’accéder à n’importe quel site web du monde, sans limite. Pour nous, le web doit être tel qu’il a été imaginé à ses débuts, un espace de libertés, sans frontières, sans distorsion.

Clin d'œil

Rien à voir avec le profilage, mais nous ne résistons pas à faire un petit clin d’œil aux autres moteurs de recherche qui prétendent être éthiques ou protéger notre vie privée. C’est souvent avec regret que nous découvrons qu’ils s’appuient en réalité sur des grands moteurs de recherche, ou encore que leur politique de confidentialité est tellement floue qu’ils ne nous inspirent pas encore confiance…

Par ailleurs, il faut savoir qu’un moteur de recherche web a un coût informatique vraiment important. Rien n’étant véritablement gratuit, particulièrement dans le monde digital, il est légitime de s’interroger sur les moyens de revenu de ces moteurs alternatifs… À défaut de transparence, nous recommandons d’appliquer un principe de précaution simple, celui de ne pas croire sur parole. Restons vigilants (sans devenir parano pour autant ;-)

Liens utiles

• Illustration du droit par la CNIL

• Le texte officiel en français de la réglementation européenne

• https://fr.wikipedia.org/wiki/Scandale_Facebook-Cambridge_Analytica

• “La tête dans la toile”, Xavier de La Porte, C&F, ISBN 978-2-915825-62-6, 512 pages, 2016

• “Les Temps Modernes” (Modern Times), Charlie Chaplin, United Artists, 86 minutes, 1936

• “Smile”, musique de la fin du film “Les Temps Modernes”, 1936, compositeur: Charlie Chaplin (paroles: John Turner, Geoffrey Parsons, 1954) - https://fr.wikipedia.org/wiki/Smile_(chanson)

• https://home.cern/fr/science/computing/birth-web/short-history-web

• https://freedomhouse.org/report/freedom-net