Dans le dernier article, je vous donnais mon avis sur le documentaire “Hold-Up”, et j'avais volontairement employé un ton léger. Aujourd'hui, je vous parle d'un autre documentaire, très bien fait ce coup-ci, et qui met au grand jour les conséquences catastrophiques pour l'humanité (oui, oui, à ce point) des algorithmes intelligents employés par les géants d'Internet, et notamment par les réseaux sociaux.

Là, on ne rigole plus, mais alors plus du tout. Leurs proies sont nos cerveaux, et ils les dévorent avec avidité et en faisant preuve d'une efficacité diabolique, mettant le monde au bord du gouffre.

Préambule

“Le numérique, c'est fantastique”. Et c'est vrai. Je vais ici parler de points extrêmement négatifs, non pas de la technologie numérique, mais de l'utilisation qui en est faite certains grosses firmes, qui ont été pionnières mais qui ont basculé du “côté obscur de la force”. C'est un peu normal, tout est allé tellement vite qu'il y a des dérapages. Prenons conscience de la situation pour pouvoir nous protéger et protéger les plus jeunes…

Electrochoc

Quand je vous parlais de “Hold-Up”, je vous disais que ce documentaire souffrait d'un gros défaut technique : son auteur avait voulu entasser trop de choses, ce qui donnait un film assez décousu et finalement difficile à suivre.

Je ne voudrais pas faire la même chose aujourd'hui. Je vais devoir trier les informations, et vous les délivrer de la manière la plus claire possible, quitte à faire l'impasse sur certains points.

Nous allons donc parler d'un documentaire, qu'on peut voir sur Netflix et qui s'appelle en français “Derrière nos écrans de fumée”, “The social dilemma” dans sa version originale.

Ce film est un véritable électrochoc.

Vous le présenter en quelques mots n'est pas simple.

Il donne la parole à des personnes qui ont tenu des postes importants chez Google, Twitter, Facebook, Pinterest, etc…

Quand je parle de postes importants, je parle quand même par exemple de Justin Rosenstein, qui a inventé le bouton “J'aime” sur Facebook. Ou de Tim Kendall, qui était responsable de la monétisation, toujours sur Facebook, et qui a été également le directeur de Pinterest. Entre autres (il y a également des gens ayant tenu des rangs élevés sur Twitter, Instagram ou Google).

Et ces gens-là, qui ont créé l'univers numérique dans lequel nous évoluons, tirent une ÉNORME sonnette d'alarme, et nous expliquent pourquoi et comment les réseaux sociaux sont en train de changer (en mal) l'humanité toute entière et la font basculer dans le chaos, le mot n'est pas trop fort.

La bonne nouvelle étant qu'il est possible de corriger le tir, à condition d'en avoir la volonté, ce qui n'est pas gagné.

Quel est le problème, exactement ?

Ou plutôt “quels sont les problèmes ?”. Ils sont nombreux.

J'ai noté quelques phrases prononcées dans le film, et je vais vous les citer entre guillemets dans les lignes qui suivent :

“Quand j’étais là-bas, je pensais qu’on agissait pour le bien de tous. Maintenant je n’en suis plus si sûr.”

“Personne n’avait imaginé ou souhaité les conséquences que l’on connaît aujourd’hui “

Mais de quoi parle-t-on, au juste ?

L'addiction est soigneusement organisée

Nous connaissons tous des jeunes ados – ou des adultes – totalement isolés dans leur bulle. Ils sont hypnotisés par l'écran de leur smartphone, ne réagissent plus aux intéractions “dans la vraie vie” avec les autres humains.

“Il est temps de se demander si c’est normal ou si nous sommes tous sous l’emprise d’un sort. Tout le monde devrait être au courant de ce qui se passe.”

Dans le film, l'intervenant qui a fait partie de l'équipe qui a créé Gmail avoue qu’il avait lui-même à l'époque une vraie addiction aux emails. Il a soulevé le problème en diffusant un rapport qu'il a écrit à l'attention du personnel de Google. Il s'était rendu compte que personne dans l’équipe n’avait pour mission de rendre le produit moins addictif, personne ne parlait du problème. Son rapport a été passé aux oubliettes.

Pour celui qui était directeur de la monétisation de Facebook, la problématique était simple : Il fallait faire de l’argent.

Et ils ont trouvé la recette.

Utilisateurs à vendre

Depuis environ 10 ans, les grosses entreprises de la Silicon Valley se sont mis à vendre leurs utilisateurs.

Vous avez bien lu.

Vous pensez peut-être que Facebook, par exemple, est le produit, et que vous êtes l'utilisateur de Facebook. Vous avez TOUT FAUX.

LE PRODUIT, C'EST VOUS.

Les annonceurs sont ceux qui payent. Et ils achètent quoi, d'après vous ?

Ils achètent de la certitude.

La certitude que les utilisateurs cliqueront sur leurs publicités et achèteront leurs produits.

Et Facebook (et les autres ?)

ILS SE BATTENT POUR CAPTER NOTRE ATTENTION, GARDER L’UTILISATEUR LE PLUS LONGTEMPS POSSIBLE SUR SON ÉCRAN. ILS VEULENT ACCAPARER LE MAXIMUM DE TEMPS ET D’ATTENTION DE CHAQUE MEMBRE.

“Rien d’autre ne les intéresse.”

Tous ces services (Facebook, Youtube, Twitter, etc…) sont à première vue gratuits.

Et pourtant les entreprises du Net sont les plus riches de l’histoire de l’humanité.

…Cherchez l'erreur !

Intelligence Artificielle

Elles observent soigneusement et enregistrent la moindre action que vous effectuez sur le net.

Elles savent quand vous vous sentez seuls, quand vous êtes déprimé.

Toutes les données personnelles qui se déversent en continu sont enregistrées, traitées, analysées, disséquées.

Ils ne vendent pas nos données, c'est bien pire :

“Beaucoup de gens pensent qu’ils vendent nos données mais ce n’est pas dans leur intérêt. Ils bâtissent des modèles capables de prédire nos actions et celui qui a le meilleur modèle gagne.”

Ils nous contrôlent comme des poupées vaudou.

Ils peuvent PRÉDIRE notre prochaine action

Les algorithmes sont tellement sophistiqués qu'ils arrivent réellement à PRÉDIRE nos actions lorsque nous sommes en ligne. Nous sommes des jouets entre leurs mains, et ça, ce n'est pas du complotisme, c'est bien réel.

Les buts des réseaux sociaux ?

Premièrement : l'engagement. Vous devez être connecté le plus longtemps possible, et ils ont les moyens de le faire, comme nous le verrons un peu plus bas.

Deuxièmement : croître. Vous devez revenir et inciter vos amis à faire partie du réseau.

Troisièmement : Vous proposer des publicités hyper-ciblées, ce qui rapporte des flots d'argent.

Tout ces objectifs sont alimentés par des alogorithmes qui ont pour mission de trouver quoi vous montrer.

Au plus profond de votre cerveau

Ils veulent rentrer au plus profond de notre cerveau et de notre subconscient. Nous sommes tous des rats de laboratoire, des zombies qui leur servent à gagner de l’argent.

Facebook a fait une expérience de contagion à grande échelle. Le réseau social a diffusé des messages subliminaux sur certaines pages et a mesuré les résultats. Ça a fonctionné.

Ils sont en mesure d’avoir une incidence sur des actions de la vie réelle sans que l’utilisateur s’en rende compte.

Addiction

Je vous en ai déjà parlé à plusieurs reprises sur ce blog. Ils utilisent la dopamine, “l'hormone de la récompense”. La récompense ? Le commentaire en retour. Le “Like”. Le coeur. Le pouce bleu. Le nombre de vues. le nombre d'abonnés. Les notifications incessantes.

Tous les réseaux sociaux fonctionnent de la même façon.

“On exploite une vulnérabilité de l’esprit humain.”

“Il n’y a que deux industries qui appellent leurs clients des « utilisateurs » : l’industrie de la drogue et celle du logiciel.”

“Les réseaux sociaux sont une drogue, il n’y a pas d’autre terme pour les décrire.”

Dépressions, suicides

L’augmentation de l’anxiété et de la dépression chez les adolescents est en hausse énorme depuis 2011.

Aux Etats-Unis, dans cette période, il y a eu une augmentation de 189% du nombre de pré-adolescents qui ont été admis à l’hôpital en état dépressif.

C'est la même chose pour les suicides : une augmentation de 151% pour les pré-ados.

Tout porte à croire que c’est dû aux réseaux sociaux.

Une génération entière est scotchée aux écrans.

Le Monde est sous leur contrôle

Le monde est déjà sous le contrôle de l’intelligence artificielle.

Dans les data-centers géants, des milliers d’ordinateurs sont connectés entre eux. Ils constituent un cerveau intelligent gigantesque.

Par le biais du code, des “machines” virtuelles sont construites par l'homme, puis elles continuent de se construire toutes seules.

Elles contrôlent l’information à laquelle on accède, et par là-même elles nous contrôlent. Elles savent tout de nous, anticipent nos mouvements. Terminator n'est pas bien loin.

Le combat est totalement déloyal.

Conséquence : polarisation

“Nous sommes dans une ère d’addiction, de polarisation, de radicalisation, d’indignation, de vanité et de culte de la personnalité. Ça prend le dessus sur la nature humaine et c’est échec et mat pour l’humanité.”

Là, nous touchons le coeur du problème le plus grave.

Accrochez-vous, c'est du costaud.

Les réseaux sociaux donnent un contenu différent à chaque utilisateur.

Les ordinateurs choisissent pour nous ce qui nous correspond personnellement, en fonction de nos centres d'intérêt.

Laissez-moi vous donner un exemple inoffensif mais révélateur des conséquences de ces vidéos proposées en fonction des centres d'intérêt :

Un jour, un peu par hasard, je cherche à revoir sur Youtube une vidéo d'un vieux menuisier japonais qui faisait des merveilles. Je cherche, je cherche, je trouve, j'en visionne une, puis deux, puis dix.

Youtube continue de m'en proposer et inconsciemment, mes choix se portent sur un type de vidéos particulières : des amateurs, dans leur petit atelier, fabriquent plein de choses avec quelques planches et quelques outils.

J'en trouve systématiquement sur ma page d'accueil de Youtube, et je les visionne avec plaisir.

Et au bout de quelques mois, que s'est-il passé ? J'ai entièrement rangé et réaménagé mon garage (merci confinement), j'ai acheté des outils et il m'arrive de passer des heures à couper, assembler, poncer du bois.

Youtube m'a formaté inconsciemment à travailler le bois. Et je ne m'en plains pas.

Mais que se serait-il passé si, au lieu de vidéos de scies et de copeaux, j'avais par exemple (un exemple donné dans le film) cliqué sur une vidéo parlant de la théorie de la terre plate, puis deux, puis cent ?

Au bout de quelques mois, n'aurais-je pas été un fervent partisan de la Terre plate ? (Et posée sur la carapace d'une tortue géante cosmique, puisque j'y étais).

Et quelle aurait été la teneur de mes conversations sur Facebook, en étant progressivement mis en relation avec d'autres personnes pensant la même chose ?

“Avec le temps on finit par croire que tout le monde est d’accord avec nous parce que toutes les personnes qui suivent le même fil d’actualité ont un avis similaire. Une fois qu’on est dans cet état d’esprit, il est très facile de nous manipuler de la même façon que le ferait un magicien.”

Et comment aurais-je réagi en étant confronté à des adversaires de cette théorie ?

“La société est en train de se polariser, c’est un moyen très efficace pour garder les gens connectés le plus longtemps possible.”

Et c'est grave, parce qu'en se polarisant, les extrêmes s'affrontent et les consensus disparaissent, laissant la place à un fossé béant.

Voilà pourquoi, sur Facebook en particulier, on trouve de nombreux commentaires hyper-agressifs : ceux qui les écrivent sont malgré eux emprisonnés dans une bulle de certitudes, une bulle alimentée par l'intelligence artificielle, une bulle de plus en plus opaque, et ils ont réduit leur monde à cette bulle. Ils considèrent que tous ceux qui ne sont pas à l'intérieur sont suspects et nuisibles. Et ils mordent sans même s'en rendre compte.

Et c'est ainsi que des mouvements sociaux violents se développent, conduisant parfois à des révolutions qui renversent des régimes en place.

Complots

Et voilà, nous en arrivons aux célèbres théories du complot.

La vérité est ennuyeuse. Les fausses informations attirent l’attention. On ne peut pas discerner le vrai du faux.

Et c'est ainsi que des théories, vraies ou fausses, et souvent bien inoffensives et ayant pour mérite de provoquer un débat et de vérifier certains informations (Hold-Up) se voient soudainement qualifiées de dangereuses, de complotistes, se retrouvent interdites, censurées, vilipendées. Les conséquences de la polarisation, et la peur que la bulle se mette à enfler sans contrôle.

Conséquences énormes

Cette polarisation extrême est évidemment dangereuse.

Quand au sein d'un pays les partisans des deux bords ne peuvent plus se parler, s'écouter, trouver des terrains d'entente, c'est comme si on tendait un élastique, encore et encore…et un élastique trop tendu finit par se rompre.

Et c'est la démocratie qui est en danger.

Au Brésil, par exemple, Bolsonaro a été propulsé par les réseaux sociaux.

Un pays peut en manipuler un autre sans même avoir à envahir ses frontières.

La planète peut devenir folle.

Ce n’est pas la technologie qui menace directement notre existence. C’est le fait que la technologie est capable de mettre au jour le pire de la société humaine. C’est ce côté obscur la vraie menace.

Question posée au créateur de Pinterest :

“-Qu’est ce qui vous fait peur ?

-Dans un premier temps, dans le futur le plus proche : la guerre civile.”

A la base, rien de tout ça n’était maléfique.

Pas de solution ?

Bien sûr qu'il y a des solutions.

Des solutions résultant d'une double prise de conscience : par les réseaux sociaux eux-mêmes, et par les utilisateurs de ces réseaux sociaux, à condition qu'ils soient éduqués et qu'ils veuillent bien l'être.

Il y a aussi des solutions légales. En changeant les lois, on change les règles du jeu.

Il y a aussi des solutions financières : par exemple, taxer ces multinationales sur la somme des données qui sont en leur possession.

Conclusion N°1

Je conclus en laissant la parole aux intervenants du film :

« C’est nous qui les avons conçus, donc c’est notre responsabilité de les changer ».

“On s’est trompé sur toute la ligne. Il faut tout changer.”

Conclusion N°2

Ce sujet est passionnant.

Il est évident que je vais vous en reparler.

Tilékol pourrait être une “petite “école” vous apprenant à survivre dans ce monde apocalyptique 🙂

Ça vous dit ?