Aujourd'hui, retournons à la date du 15 octobre 2011. Ça fait un bail ! Penchons-nous sur un des tout premiers articles du blog. Il est intéressant, parce qu'il nous permet de vérifier la puissance insoupçonnée (au départ) de certaines nouveautés de notre univers numérique.

En l'occurrence, cette puissance qui augmente chaque jour un peu plus commence à devenir inquiétante. Allons-nous nous faire manger par la machine ?

Le 4 octobre 2011, Siri nous était présenté.

Siri, c'était l'assistant vocal de l'iPhone. Si ne ne me trompe pas, c'était le premier du genre, ceux de Google, Microsoft ou Amazon sont arrivés plus tard.

Comme l'article de présentation que j'en avais fait était court, je le recopie ici. Souvenez-vous, nous étions en 2011.

Deus ex machina

Vous vous souvenez du film « 2001 Odyssée de l’espace » ?

De l’ordinateur HAL qui devenait fou et qui était au bord de la dépression ?

C’était de la science-fiction. Ou plutôt, de l’anticipation.

N’oublions pas que dans nos « smartphones » actuels, le processeur est bien plus puissant que celui de la fusée qui a amené l’homme sur la Lune.

Le dernier iPhone a une fonction-vedette nouvelle : elle s’appelle « Siri ».

Siri est un robot.

Visionnez bien la vidéo ci-dessous. Vous allez être étonné, vous allez sourire, ou même rire aux éclats à la fin de la vidéo. Car Siri, à l’inverse de HAL, a beaucoup d’humour.

Qui sait? peut-être qu’à l’avenir nous commanderons Tilekol de la même manière? J’espère bien que non.

Siri était à la fois amusant, un peu maladroit, utile… et inquiétant.

Dans l'article, je faisais référence à Hal, l'ordinateur du film 2001 Odyssée de l'Espace, qui dialoguait par la voix avec l'équipage lunaire. L'histoire s'est mal terminée pour lui : il a été “éteint”, laissant le spectateur mal à l'aise en voyant – et en entendant – “mourir” une machine qui semblait posséder son intelligence propre.

“Dis, Chérie”

Au fil des années, les assistants personnels se sont multipliés et perfectionnés.

En ce qui me concerne, je les utilise à longueur de journée, parce qu'ils sont très pratiques : il est bien plus facile de programmer un rappel, un rendez-vous, une recherche, un minuteur par la voix qu'en allant ouvrir le téléphone ou l'ordinateur et taper la requête au clavier.

D'ailleurs, cela fait bien rire les personnes qui m'entourent et qui ne sont pas forcément au courant de ces possibilités techniques.

Par exemple, je suis retourné récemment dans mon ancienne école, et j'ai été accueilli par un “Ah, voilà le directeur qui parlait à sa montre !”.

Oui, je parlais à ma montre, par souci d'efficacité et de rapidité. Et comme j'appelais l'assistant en lui disant “Dis, Siri”, certains croyaient que je parlais à ma main en lui disant “Dis Chérie”… Un peu toc-toc, le directeur…

Il est encore plus amusant de constater que le mot entré dans les moeurs pour désigner l'appel de l'assistant est “invoquer” : on “invoque” Siri, Google ou Alexa comme on invoquerait un dieu ou un ange gardien.

Décidément, j'avais trouvé le bon titre pour l'article, en 2011 : « Deux ex machina »… C'est l'expression qui désigne, dans le théâtre antique grec, le mécanisme qui sert à faire entrer une divinité en scène…

La vie privée : une notion dépassée ?

Seulement voilà, les choses ont énormément évolué depuis, et en analysant ce qui se passe, on peut être inquiet.

Tout d'abord, Siri s'est fait doubler sur certains points par les autres, particulièrement Google et Amazon (Alexa).

Pauvre Siri, qui est parfois bien à la peine. Par exemple, quand je lui demande quelle est la météo à Cilaos (un village de la montagne réunionnaise), il s'emmêle les pinceaux, me parle du Laos, de Ventiane. Et quand je lui explique que Cilaos est à la Réunion, il me dit que je n'ai pas de réunion prévue aujourd'hui au Laos…

Avec l'assistant de Google, par contre, la réponse est exacte est immédiate.

Pourquoi ?

C'est LA question à se poser.

Parce que Google ne fonctionne pas comme Apple. Google est intrusif, c'est-à-dire qu'il fourre son nez partout : dans vos mails, dans votre navigation sur internet, dans vos déplacements (en vous localisant), dans les vidéos Youtube que vous regardez, etc…

C'est son mode de fonctionnement. Il nous vend de la pub, il veut vous “cibler” avec des publicités “pertinentes” et donc il veut TOUT savoir de vous.

Eric Schmidt, le patron de Google en 2009, avait d'ailleurs déclaré : “Seuls les criminels se soucient de protéger leurs données personnelles”…

Un autre haut responsable de Google, Vint Cerf, avait quant à lui dit que la vie privée était… une anomalie !

Google n'est pas le seul : Facebook est peut-être encore plus intrusif et vicieux : il connait votre âge, votre sexe, votre profession, vos amis, vos connaissances, vos points d'intérêt.

Idem pour Amazon.

Ce n'est d'ailleurs pas un hasard si nous voyons fleurir des “assistants connectés” qui prennent la forme d'une petite enceinte à laquelle vous pouvez poser toutes les questions qui vous passent par la tête : ces enceintes sont chez vous, dans votre salon, carrément, et elles vous écoutent !

“Intelligence” artificielle

Vos données personnelles sont compilées, analysées, stockées, la machine sait tout de vous.

Et comme les algorithmes, les processeurs et le stockage des données s'améliorent constamment, on voit monter en force une nouvelle technologie : l'intelligence artificielle.

Il s'agit de faire en sorte que la machine puisse adopter des comportements qui se rapprochent de l'intelligence humaine : auto-apprentissage, réaction autonome face à de nouvelle situations, “compréhension” du langage humain, dialogue avec les humains, en langage humain…

Certes, intelligence n'est pas conscience, certes, il suffit de débrancher un ordinateur pour lui couper le claquet, certes, la programmation initiale est faite par l'homme.

Mais.

En mars dernier, aux Etats-unis, les enceintes Alexa ont commencé à faire peur aux gens, en se mettant subitement à éclater d'un rire inquiétant, de manière aléatoire.

Une autre fois, à un utilisateur qui lui ordonnait de diffuser un morceau de musique, elle lui a donné la définition du mot “s'il te plaît” ! (please en anglais)

Alexa, toujours “elle”, a envoyé à un employé un fichier audio, contenant une conversation privée enregistrée au domicile de son patron, à son insu, alors qu'il parlait avec son épouse !

Cortana, l'assistant vocal de Microsoft, a fait l'objet d'une expérience : on lui a laissé poster des tweets et répondre aux questions qui lui étaient posées sur Twitter. Au bout de 24 heures et 96 000 échanges, Cortana était devenu raciste, sexiste et faisait l'apologie d'Hitler…

Ce n'est pas rassurant, d'autant plus que l'intelligence artificielle n'en est qu'à ses débuts, Google prévoyant d'utiliser à l'avenir des ordinateurs quantiques des milliers de fois plus performants que ceux d'aujourd'hui…

Tiens, en parlant de Google : la prochaine version de son assistant, qui sort bientôt, sera capable de prendre un rendez-vous pour vous. En appelant des humains, en dialoguant avec eux, en décidant d'une plage de disponibilité. Vous lui dites que vous voulez vous faire couper les cheveux, elle vérifie votre planning, appelle le coiffeur, prend le rendez-vous…

Vous ne me croyez pas ? Visionnez cette vidéo : l'assistant numérique est la voix de gauche, le coiffeur est à droite.

Big Data…

Revenons-en à Siri, qui nous intriguait en 2011 et qui est à la peine en 2018.

Pourquoi s'est-il fait doubler par les autres ?

Principalement pour UNE raison : Google, Facebook ou Amazon se vautrent dans NOTRE vie privée, récoltent à longueur de données des données sur NOUS, les rapatrient sur LEUR serveurs, les traitent via leurs algorithmes, les brassent dans leur “Big Data”.

Etonnez-vous après cela qu'ils puissent nous proposer des résultats “pertinents”…

Facile d'être pertinent lorsqu'on sait tout de quelqu'un.

Apple n'est pas du tout sur ce mode de fonctionnement : elle nous “suit”, certes, mais tout reste dans notre smartphone, n'est pas envoyé sur ses serveurs. Et c'est le smartphone qui est sollicité, et le travail de “pertinence” est confié à la  puissance de son processeur et de sa programmation.

Et quant aux requêtes qui transitent sur les serveurs d'Apple, elles sont cryptées et ne sont pas liées à un identifiant personnel.

Notre vie privée est respectée. Ce n'est pas un détail.

Du coup, l'approche est différente et plus rassurante.

Par exemple, forcée par la concurrence, elle a sorti son enceinte personnelle, mais a mis l'accent sur l'écoute de la musique et la qualité sonore plus que sur la réponse à toutes les questions qui nous passent par la tête.

Notez que Siri a évolué tout en gardant son humour. Quand je lui demande quel est le sens de la vie, elle me répond “je ne suis pas le meilleur interlocuteur pour répondre à cette question” 😀

…Big Brother

Entre nous, je ne suis pas certain que l'intelligence artificielle au service de la publicité soit bien dangereuse. Certes, les marchands nous feront consommer plus, nous transformant en petits robots dociles…

…Mais le grand, l'immense danger prévisible est que les états, les gouvernements, s'emparent de ces technologies et les utilisent pour nous placer dans une dictature absolue, chacun de nos gestes étant surveillé, chacune de nos pensées étant connue.

En Chine, par exemple, près de 200 millions de caméras de surveillance sont installées, avec l'ambition de pouvoir reconnaître n'importe quel habitant grâce à la reconnaissance faciale.

Tout récemment, un homme recherché pour “crime économique” a été reconnu par les caméras intelligentes et arrêté illico. Il se trouvait pourtant au milieu d'une foule de 50 000 personnes venues assister à un concert.

C'est terrifiant.

Un autre danger de cette technologie est celui de la “révolte des machines”, inter-connectées, dotées d'une intelligence artificielle qui progresserait subitement, et qui pourraient un beau jour décider que les humains leur sont inutiles, nuisibles et à rayer de la surface du globe.

C'est le thème du film “Terminator”. De la science-fiction.

Pour l'instant.