Cette vidéo interne de 2016 montre un concept de Google sur comment la collecte totale de données pourrait remodeler la société.

Google a bâti une entreprise valant plusieurs milliards de dollars grâce à la connaissance de tout ce qui concerne ses utilisateurs. Aujourd’hui, une vidéo produite au sein de Google et obtenue par The Verge offre un regard étonnamment ambitieux et troublant sur la façon dont certains au sein de l’entreprise envisagent d’utiliser cette information à l’avenir.

La vidéo a été réalisée fin 2016 par Nick Foster, responsable du design chez X (anciennement Google X) et co-fondateur du Near Future Laboratory. La vidéo, partagée en interne au sein de Google, imagine un avenir de collecte totale de données, où Google aide les utilisateurs à s’aligner avec leurs objectifs, imprime des dispositifs personnalisés pour collecter plus de données, et guide même le comportement de populations entières pour résoudre des problèmes globaux comme la pauvreté et la maladie.

Lorsqu’on lui a demandé de commenter la vidéo, un porte-parole de X a fait la déclaration suivante à The Verge :

« Nous comprenons que ce soit perturbateur, c’était le but. Il s’agit d’une expérience de pensée de l’équipe de conception d’il y a des années qui utilise une technique connue sous le nom de « design spéculatif » pour explorer des idées et des concepts gênants afin de provoquer la discussion et le débat. Ce n’est pas lié à des produits actuels ou futurs. »

Intitulé The Selfish Ledger, ce film de 9 minutes débute par une histoire de l’épigénétique lamarckienne, qui s’intéresse largement à la transmission des traits acquis au cours de la vie d’un organisme. En narrant la vidéo, Foster reconnaît que cette théorie a été discréditée lorsqu’il s’agit de génétique, mais dit qu’elle fournit une métaphore utile pour les données des utilisateurs. (Le titre est un hommage au livre de Richard Dawkins de 1976, The Selfish Gene.) La façon dont nous utilisons nos téléphones crée « une représentation en constante évolution de qui nous sommes » ce que Foster appelle un « ledger » (registre en français), posant que ces profils de données pourraient être construits, utilisés pour modifier les comportements et transférés d’un utilisateur à l’autre :

« Les principes de conception centrée sur l’utilisateur ont dominé le monde de l’informatique pendant de nombreuses décennies, mais que se passerait-il si on regardait les choses un peu différemment ? Et si l’on pouvait donner au « ledger » une volonté ou un but plutôt que de simplement servir de registre historique ? Et si nous nous concentrions sur la création d’un « ledger » plus riche en introduisant plus de sources d’information ? Et si nous nous considérions non pas comme les propriétaires de cette information, mais comme des gardiens, des porteurs transitoires ou des tuteurs ? »

Ce qu’on appelle le registre de l’utilisation de nos appareils, les données sur nos « actions, décisions, préférences, mouvements et relations », est quelque chose qui pourrait être transmis à d’autres utilisateurs, tout comme l’information génétique est transmise d’une génération à l’autre, dit Foster.

En s’appuyant sur l’idée de ce registre, la partie centrale de la vidéo présente un système conceptuel Resolutions by Google, dans lequel Google incite les utilisateurs à choisir un objectif de vie et les guide ensuite vers celui-ci dans chaque interaction qu’ils ont avec leur téléphone. Les exemples, qui « reflètent les valeurs de Google en tant qu’organisation » incluent notamment une incitation à essayer une option plus respectueuse de l’environnement lorsqu’on appelle un Uber ou à acheter des produits locaux de Safeway.

Bien sûr, le concept est basé sur un accès de Google à une énorme quantité de données et de décisions des utilisateurs. Les préoccupations relatives à la protection de la vie privée ou les externalités négatives potentielles ne sont jamais mentionnées dans la vidéo. La demande du ledger d’obtenir toujours plus de données pourrait être l’aspect le plus troublant de la présentation.

Foster envisage un avenir où « la notion de ledger axé sur les objectifs devient plus acceptable » et où « les suggestions peuvent être converties non pas par l’utilisateur mais par le ledger lui-même ». C’est là que les références à Black Mirror se manifestent, le ledger cherchant activement à combler les lacunes dans ses connaissances et même à sélectionner des produits de collecte de données à acheter qui, selon lui, pourraient plaire à l’utilisateur. L’exemple donné dans la vidéo est une balance de salle de bain parce que le ledger ne sait pas encore combien pèse son utilisateur. La vidéo prend ensuite une autre tournure vers la science-fiction qui provoque un sentiment angoissant, imaginant que le ledger peut devenir si astucieux qu’il propose et imprime en 3D ses propres conceptions.

La vision du ledger de Foster va au-delà d’un outil d’auto-amélioration. Le système serait capable de « combler les lacunes dans ses connaissances et d’affiner son modèle de comportement humain », pas seulement votre comportement en particulier ou le mien, mais celui de l’espèce humaine tout entière. « En considérant les données des utilisateurs comme multigénérationnelles, explique Foster, il devient possible pour les utilisateurs émergents de bénéficier des comportements et des décisions de la génération précédente. Foster imagine l’exploitation de la base de données du comportement humain à la recherche de modèles, le « séquençage » comme le génome humain, et la « prédiction de plus en plus précise des décisions et des comportements futurs. »

« Au fur et à mesure que les cycles de collecte et de comparaison s’étendent, conclut Foster, il est possible de développer une compréhension à l’échelle de l’espèce de questions complexes telles que la dépression, la santé et la pauvreté. »

Certes, le travail de Foster est de diriger le design chez X, l’usine « moonshot » de Google avec des objectifs intrinsèquement futuristes, et le concept de ledger frôle la science-fiction, mais il s’aligne presque parfaitement avec les attitudes exprimées dans les produits existants de Google. Google Photos présume déjà de savoir ce que vous considérerez comme des moments forts de la vie, en proposant des albums entiers sur la base de ses interprétations avec l’IA. Google Maps et l’assistant Google font tous les deux des suggestions basées sur les informations qu’ils ont sur votre emplacement habituel et vos habitudes. La tendance avec tous ces services a été vers une plus grande curiosité et une plus grande assurance de la part de Google. Même les compositions des emails sont automatisées dans Gmail.

À une époque où l’éthique des nouvelles technologies et de l’intelligence artificielle fait son entrée dans le discours public, Google continue d’être pris au dépourvu par les implications éthiques et les inconvénients potentiels de ses produits, comme on l’a vu tout récemment avec sa démonstration de l’intelligence artificielle en duplex à l’I/O. Le tollé sur le potentiel de Duplex à tromper a incité Google à ajouter la promesse que son IA s’identifiera toujours comme tel lorsqu’il appellera des employés de service qui ne soupçonnent rien.

Le Selfish Ledger positionne Google comme celui qui résout les problèmes les plus insolubles du monde, alimenté par un degré d’informations personnelles d’une intimité inquiétante de chaque utilisateur et une facilité à guider le comportement de populations entières. Rien ne suggère que ce soit plus qu’un exercice de réflexion à l’intérieur de Google, initié par un dirigeant influent. Mais il donne un aperçu éclairant des types de conversations qui se déroulent au sein de l’entreprise qui est déjà le collecteur de données personnelles le plus prolifique au monde.