En route vers l’utopie numérique

Domaine de société

Scénario dystopique (donné)

Renversement utopique (par les participants à l’atelier)

Mesures à prendre (par les participants à l’atelier)

1. Honnêteté

Dans la dystopie numérique, nous ne sommes pas honnêtes avec nos semblables, car la délation numérique nous empêche de nous faire confiance. Comme nous nous autocensurons en permanence, il nous devient de plus en plus difficile d’être honnêtes avec nous-mêmes.

Dans l’utopie règne un réseau fait d’informations et d’échanges fiables. La souveraineté sur les données est reconquise, et avec elle le droit sur ses propres données. Nous pouvons donc à nouveau naviguer sur Internet en toute sécurité. Des informations fiables sont disponibles. Ce qui se passe au sein du GIEC est communiqué de manière transparente, afin que l’on sache comment agir. La transparence est un mot-clé central. Nous savons comment les informations et les opinions se forment. Il existe un droit à l’oubli.

La souveraineté sur les données est garantie, par exemple au moyen d’un avatar numérique. Chacun peut décider lui-même qui analyse ses propres données. L’éducation doit davantage former à l’esprit critique. Nous devons débattre plutôt qu’exclure. Il n’y a pas de censure, mais de l’intégration. La technologie doit être compréhensible pour le grand public, et pas seulement pour les programmeuses. Et il faut un bouton de réinitialisation avec un droit à l’oubli. L’État peut sanctionner (de manière positive). La transparence est encouragée et prescrite.

2. Criminalité

Dans la dystopie numérique, nous sommes tous en sécurité, car les crimes sont prédits et leurs auteurs envoyés préventivement dans des camps de travail. Les hackeuses n’ont aucune chance. Les biais disparaissent, puisque les algorithmes disposent de toutes les données.

Il n’y a pas de condamnation sans acte. Grâce aux données disponibles, on s’attaque aux causes structurelles de la criminalité, par exemple par des mesures de prévention volontaires au niveau de la société. Ainsi, les données individuelles ne sont pas mises en danger.

Le respect rigoureux des droits fondamentaux et des droits humains est garanti. Combattre les causes structurelles sans devenir totalitaire est difficile, c’est pourquoi il faut des « open processes ». Les processus législatifs doivent être transparents. La traçabilité est importante. Qu’en est-il de ceux qui perçoivent la dystopie comme une utopie ? Il nous faut composer avec eux dans le processus de décision politique.

3. Justice /

 juridiction

Dans la dystopie numérique, il n’est pas possible de contester des décisions ou de les porter devant l’instance supérieure, car la jurisprudence devient obsolète du fait de l’usage préprogrammé de l’activité humaine.

Dans l’utopie numérique, chaque personne comprend ses droits et la manière dont ils s’appliquent à sa propre situation. L’accès à l’information juridique est simple et efficace. Les lois absurdes et désuètes sont jetées par-dessus bord. La technologie nous aide (nous, la population) à nous coordonner, afin que nous puissions faire valoir nos droits ensemble.

Il faut un « Google Translate » juridique. Autrement dit, les textes de loi peuvent être traduits en textes compréhensibles, afin que chacun puisse les comprendre. Nous avons en outre besoin d’une application de conseil juridique ou d’un réseau, afin que chacun puisse obtenir de l’aide. Il faut pour cela un logiciel open source. De plus, l’être humain doit être « on the loop » ou « in the loop ». Et il faut garantir que chaque décision puisse être retracée.

4. Législation

Dans la dystopie numérique, la société n’est pas régie par des lois élaborées et légitimées démocratiquement, mais par le code programmé en dur dans le logiciel d’exploitation de la société.

Dans l’utopie numérique, il n’y a pas de logiciel d’exploitation de la société, mais un logiciel de propositions qui évalue les intérêts et donne des conseils. Un filtre anti-lobbys est appliqué et un système d’information transparent est garanti. En outre, le contrôle humain prédomine.

Il faut un code agile. Le logiciel doit être développé par des équipes interdisciplinaires réunissant des expertes en éthique, les sciences sociales et des expertes en technologie. Le logiciel doit être libre et ouvert. Au niveau de la société, il faut un cadre garantissant les droits humains. Changer le récit. L’État est sollicité : la formation correspondante et les compétences qui s’y rattachent doivent être assurées. Le journalisme est aussi très important à cet égard, car beaucoup des récits actuels proviennent des entreprises. La question se pose : comment le logiciel peut-il être surveillé ou contrôlé ? Une instance officielle le surveille et attribue peut-être aussi des mandats. Il faut en plus une instance de la société civile qui veille sur l’ensemble.

5. Concurrence

Dans la dystopie numérique, la concurrence économique disparaît, car les effets d’échelle et de réseau ont fait émerger 3 ou 4 conglomérats mondiaux qui dictent désormais l’économie des différentes nations.

Voulons-nous démanteler les plateformes ? Ou les plateformes sont-elles utiles ? Veut-on réguler les plateformes ? Nous sommes sur la deuxième voie. Les plateformes doivent être des infrastructures (comme l’électricité ou les transports) mises à disposition par l’État. Ce concept est lié à la propriété souveraine des données.

En contrepoint au capitalisme de plateforme naissent des « Digital Commons ». Les plateformes subsistent, mais contribuent au bien commun. La souveraineté sur les données est un thème majeur. Au niveau de la société, l’aspect des compétences numériques devient très important (on sait comment fonctionnent les mécanismes, ce qu’ils veulent, et que l’on est client). Il faut pour cela la formation correspondante. Au niveau technologique, c’est le « Privacy by Default » qui prévaut, avec une logique d’opt-in. Il existe des normes claires de neutralité. Cela permet un nivellement des chances et l’interopérabilité existe. L’intelligence agrégée ne doit pas rester « collée ». Au niveau de l’État, cela signifie que nous garantissons la mise à disposition de jeux de données anonymisés (souveraineté sur les données) pour des services contrôlés. Il faut pour cela élaborer des cadres définissant quelles données peuvent être collectées et où. Les données ne sont pas mauvaises, mais doivent être recontextualisées.

6. Travail salarié

Dans la dystopie numérique, un algorithme décide où quelles compétences humaines sont employées le plus efficacement. Nous n’avons pas le choix et sommes affectés tantôt ici, tantôt là, pour servir l’économie internationale.

Grâce à l’automatisation ou à la fiscalité, nous pouvons introduire un revenu de base inconditionnel. Le travail s’en trouve redéfini : les quelques objectifs que chacun et chacune doit atteindre sont à accomplir pour le bien commun et dans le respect de normes de travail garanties. L’algorithme peut éventuellement examiner et faire correspondre l’offre et la demande de mes compétences (selon des critères transparents).

Le revenu de base inconditionnel crée la base pour sortir de la dystopie. Il nous mène vers une utopie dans laquelle nous pouvons décider. Nous disposons d’argent pour ne pas devoir forcément accepter un emploi. L’État fixe le cadre légal. Le travail est réévalué et les compétences sont réévaluées. Il s’agit du bien commun plutôt que du rendement financier. Les écoles et les formations sont sollicitées pour donner du pouvoir à l’individu. Il faut commencer dès la crèche. La technologie redevient un prestataire de services. Il existe un filtre open source transparent pour nous aider à choisir notre emploi, sans que l’algorithme détienne un pouvoir de décision.

7. Confiance

Dans la dystopie numérique, nous n’avons ni la possibilité ni le droit d’exiger des comptes. Nous ne faisons confiance ni au gouvernement, ni les uns aux autres, car chacun peut se cacher derrière des décisions assistées par la technique et la délation numérique est encouragée.

La transparence doit régner au niveau du gouvernement pour renforcer la confiance. Les décisions doivent être prises de manière transparente et portées par des êtres humains.

Les compétences sociales sont importantes pour créer la confiance. Ces compétences doivent être renforcées à l’école. Pour cela, les enseignantes doivent elles aussi exercer leurs compétences sociales, dans le cadre de leur formation. Cela ne suffit pas pour toute la vie, c’est pourquoi la formation continue est très importante. Devant l’écran, les exigences envers ces compétences changent encore. Il faut donc en plus une sensibilisation aux particularités de l’espace numérique. Il doit être possible d’exiger des comptes. C’est déjà possible, mais très compliqué. Abaisser les obstacles à la reddition de comptes grâce à la numérisation, au lieu d’attendre le courrier postal.

8. Démocratie

Dans la dystopie numérique, la démocratie est devenue de fait superflue, car grâce aux collectes de données démoscopiques, le gouvernement renforcé par le numérique sait toujours à l’avance ce que nous pensons de chaque sujet.

Les moyens numériques sont utilisés pour une formation de l’opinion décentralisée et inclusive. Les échanges entre experts et personnes politiquement formées sont plus nombreux. La collecte de données est démocratiquement publique et transparente.

Le problème est qu’il existe une tension entre anonymat et transparence. Il doit exister une possibilité technique de garantir un vote anonyme. Sinon, il doit se faire de manière analogique. On encourage les technologies et les plateformes qui permettent une formation décentralisée de l’opinion. Celle-ci ne doit pas être faussée par l’économie privée. Les obstacles à la participation politique doivent être aussi bas que possible. Il faut un cadre légal étatique, comme le contrôle des lobbys. La société doit être prête à saisir ces chances et à abandonner le schéma de pensée dystopique.

9. Santé

Dans la dystopie numérique, nous n’avons pas le droit de gérer nous-mêmes notre santé ni de prendre nos propres décisions. Les mesures de santé individuelles et collectives sont prescrites sur mesure par l’algorithme de santé international.

Dans l’utopie numérique, nous avons le droit de gérer notre santé. Des mesures sont proposées par un algorithme ouvert. Nos propres préférences peuvent être appliquées.

Il faut des logiciels open source, la maîtrise des données, la liberté de choix et l’anonymisation. Les caisses-maladie doivent être orientées en conséquence, afin qu’il ne s’agisse plus d’optimisation des coûts mais de solidarité. Pour la maîtrise des données, une limitation des données à leur finalité devrait être mise en œuvre de manière techniquement sûre (on garantit techniquement que les données ne sont utilisées qu’aux fins pour lesquelles elles ont été libérées). Un bon dossier électronique du patient constituerait une bonne base. La transparence et l’information de la population sont aussi des points importants.

Communication

Dans la dystopie numérique, la communication numérique est dans tous les cas consultable par tous ; ni les techniques de chiffrement ni les nouvelles formes de communication n’offrent de réelle protection. Notre communication est en outre restreinte et canalisée dans des voies prédéfinies.

Dans l’utopie numérique, notre communication et nos données sont chiffrées de manière sûre. Des mécanismes de protection de la dignité humaine s’appliquent néanmoins. L’absence totale de contrôle peut aussi être dangereuse.

Un débat a eu lieu sur les exigences en matière d’infrastructure. Il faut chiffrer la communication. Faudrait-il décomposer les plateformes (qui se trouvent derrière la communication) au point de revenir au pair-à-pair ? Sur le plan technique, il faut une cryptologie sans portes dérobées. Comment faire en sorte que la tolérance se répande dans la société au point que les discours de haine ne soient plus un problème et que la protection des minorités soit automatiquement garantie ?