La technologie, les investissements et l’antimondialisation

C’est la pandĂ©mie, le re-confinement dans beaucoup de pays, les Ă©lections aux USA, les conflits entre la Chine et ses territoires autonomes, le Brexit… jusqu’ici, tout va bien.

Mais dans notre bel univers quotidien de la tech, au-delĂ  des solutions de distanciation sociale, de contact tracing ou de port du masque, quelques tendances m’ont suffisamment intĂ©ressĂ© pour que je me dĂ©cide Ă  Ă©crire. Pour ĂŞtre honnĂŞte, j’ai pensĂ© Ă  ce sujet dès le dĂ©but d’annĂ©e, fin janvier, avant que la crise Covid ne vienne amplifier le constat.

Alors commençons par une petite interrogation pour vous : qu’ont en commun la 5G, le quantique, les puces pour tĂ©lĂ©phone mobile et la rĂ©alitĂ© augmentĂ©e?

Vous avez 4h.

Certes, c’est assez Ă©vident : on parle de technologies avec soit un Ă©norme dĂ©veloppement, soit un Ă©norme potentiel dans un futur plus ou moins proche.

Que ce soit la 5G, avec l’affectation rĂ©cente des licences en France, pour quelques milliards juteux pour l’Etat; ou bien l’informatique quantique avec ses horizons plus lointains mais pas toujours très Ă©vidents Ă  saisir.

Le point de dĂ©part de ma rĂ©flexion est venu plutĂ´t du cĂ´tĂ© des conflits entre la Chine et les USA, ou plutĂ´t de l’acharnement sur le fleuron chinois de la mobilitĂ© : Huawei.

Je ne vais pas refaire l’histoire en dĂ©tail, mais en gros Huawei a Ă©tĂ© banni des US, par des mĂ©thodes plus ou moins propres. Et pas uniquement des USA, vu que le Royaume-Uni a lui aussi travaillĂ© Ă  la sortie de Huawei des rĂ©seaux 5G d’outre-manche.

On peut se dire que les USA ont peur de la montĂ©e en puissance de la Chine, qui Ă©tait un pays intĂ©ressant, quand il donnait de l’argent mais se limitait Ă  son propre marchĂ© intĂ©rieur. Je ne suis pas analyste gĂ©opolitique, mais ce qui m’intrigue c’est l’accumulation de signaux.

Par exemple, nous avons eu en France deux rapports successifs (enfin successifs au rythme rĂ©publicain…) sur l’Intelligence Artificielle et sur le quantique. Les deux donnant en gros des recommandations similaires : il faut assurer notre base technologique, a minima pour limiter notre dĂ©pendance, au mieux pour assurer notre souverainetĂ©, et mĂŞme pour en devenir des leaders. Donc il faut dĂ©velopper les compĂ©tences et technologies en propre, financer et supporter l’Ă©cosystème. Et s’y prendre en avance pour ne pas arriver après la bataille dirigĂ©e par la Chine ou les USA. (Si quelqu’un veut parler du cloud public et de la souverainetĂ© nationale… merci de revenir plus tard, nous pourrons discuter Gaia-X 🙂 )

Donc, des initiatives pertinentes et raisonnables.

Ajoutons des actions plus discrètes, sur la rĂ©alitĂ© augmentĂ©e par exemple. Depuis quelques mois, Apple rachète des sociĂ©tĂ©s Ă  tour de bras dans les domaines de l’AR/VR : fabricants de lentilles/verres, Ă©diteurs de solutions logicielles etc… Il semble que notre californien prĂ©fĂ©rĂ© ne veuille pas risquer une dĂ©pendance Ă  des tiers pour la fourniture de sa solution. A son habitude, elle va sĂ»rement nous proposer une solution complètement fermĂ©e, bâtie sur des briques propriĂ©taires et non partageables.

Ce qui est bien pour la diffusion de la technologie, mais pas forcĂ©ment pour l’ouverture et l’interaction.

Et c’est justement lĂ  que j’ai commencĂ© Ă  prendre un poil de recul et Ă  me demander ce qu’avaient en commun ces histoires.

Mon analyse, issue de longues années de recherche et corroborées par les plus éminents chercheurs… enfin pardon, ma réflexion à moi tout seul, complètement biaisée et subjective est simple : finalement les plus grands capitalistes du monde ne soutiennent un libre-échange que quand ils sont en position de force. Lorsque la dépendance se fait ressentir, chacun se positionne derrière ses remparts.

Que ce soit des sociétés monumentales (Apple), des nations (USA, Europe, France) ou même parfois des acteurs plus petits.

Est-ce un bien ou un mal?

Je suis partagé.

Je ne suis pas forcĂ©ment un partisan des marchĂ©s libres sans aucun contrĂ´le. J’aime bien que le marchĂ© reste Ă  sa place. Par exemple, voir des Ă©tudiants ou lycĂ©ens dĂ©jĂ  happĂ©s par des grosses sociĂ©tĂ©s me perturbe. Cf les liens en Cisco et l’Ecole Polytechnique en France, ou Cisco et certains lycĂ©es. En mĂŞme temps, si cela permet d’apporter de l’argent Ă  la recherche publique, ce serait plutĂ´t une bonne chose, non?

C’est quoi votre opinion lĂ -dessus?

La data, une amie qui vous veut du bien

L’heure est à l’inquiétude face à la reconnaissance faciale. La Chine nous inquiète par ses pratiques de contrôle permanent, l’Europe et la France suggèrent de l’interdire pour quelques années, le temps de bien poser la réflexion et les enjeux, et pourtant les applications se multiplient.

Forcément, l’idée de ne plus pouvoir être anonyme, d’être tracké dans la moindre de nos actions peut inquiéter. Sans être un dissident, je n’ai pas forcément envie qu’un gouvernement, ou une entreprise transnationale, puisse tout savoir de moi.

Sauf que, il est déjà trop tard.

Pas pour la reconnaissance faciale, mais une technologie bien plus simple et dĂ©jĂ  très Ă©tablie vous tracke en permanence : votre smartphone. Le pire, c’est qu’il le fait Ă  votre demande, ou en tout cas avec votre accord.

Nous avons pour la plupart activĂ© le GPS de notre tĂ©lĂ©phone, et acceptĂ© que notre position soit partagĂ©e avec certaines applications. Mais savez-vous lesquelles Ă  un moment prĂ©cis ? Et savez-vous ce que les entreprises qui collectent ces donnĂ©es en font ? Et savez-vous ce que ces donnĂ©es indiquent ?

Petit tour d’horizon d’un monde digne de 1984.

Commençons simplement : vous avez sĂ»rement installĂ© Google Maps, et acceptĂ© de partager votre position avec cette application. Cela semble une Ă©vidence pour son utilisation correcte. Avez-vous dĂ©jĂ  vĂ©rifiĂ© ce que l’application enregistre Ă  propos de vous sur le Cloud de Google ?

Rendez-vous, via leur site web, sur votre historique de cartographie. Vous pourrez ainsi constater que la firme californienne possède parfois un historique de vos dĂ©placements remontant Ă  plusieurs annĂ©es. A priori, Google est une sociĂ©tĂ© en qui nous devrions pouvoir avoir confiance, et qui ne devrait pas partager ces donnĂ©es avec n’importe qui. Ces donnĂ©es ne servent en principe qu’à vous aider lors de vos recherches ou de vos dĂ©placements, et Ă  « amĂ©liorer Â» les services Google. Qu’est-ce qui se cache derrière ce terme, AmĂ©liorer ? Bonne question.

Pour le moment, il s’agit surtout de mieux cibler les publicités qui vous sont présentées.

Seulement rappelez-vous Cambdrige Analytica. Pour résumer, cette société a acheté des jeux de données similaires à Facebook, et les a utilisés pour définir des profils d’électeurs. En fonction de leur lieu de vie, de leurs relations, des groupes qu’ils suivent etc, Cambridge a ensuite défini avec son client (un certain M. Donald T.) quelles étaient les meilleures communications à envoyer pour inciter ces personnes à voter pour eux, ou bien à ne pas aller voter du tout. Si l’on en croit les résultats de cette élection, ou bien ceux du référendum du Brexit en 2016, il semble que la méthode soit efficace.

Seulement, vous allez me dire : pas de ça chez moi, je suis attentif et Ă©clairĂ© et je garde mon objectivitĂ©.

Alors rendons-nous Ă  l’étape numĂ©ro deux. Avez-vous dĂ©jĂ  vĂ©rifiĂ© quelles applications ont accès Ă  votre position sur votre smartphone ? Il est si vite fait d’accepter des conditions lorsque l’on veut utiliser sa nouvelle application.

Je vous invite à le faire. En fonction de votre téléphone, le menu est différent mais vous devriez rapidement trouver une liste des applications qui possèdent cette autorisation. Vérifiez dans la liste si chacune des applications est bien légitime à collecter votre position, et sous quelles conditions.

Cela peut sembler un peu extrémiste, surtout dans notre métier de s’inquiéter de cela.

Je ne peux que vous conseiller la lecture d’un excellent dossier du NY Times dĂ©diĂ© Ă  cette problĂ©matique : https://www.nytimes.com/interactive/2019/12/19/opinion/location-tracking-cell-phone.html

Comme nous ne sommes pas reporter, je vous propose de rester dans le domaine de la théorie.

Vous avez installé des applications, dont certaines vous réclament l’accès à votre position, d’une manière qui semble légitime.

Vous ĂŞtes vous demandĂ© ce que les entreprises qui publient ces applications font de ces donnĂ©es ? La loi n’est d’aucune aide, pour le moment, car vous avez acceptĂ© le partage et la sociĂ©tĂ© a sĂ»rement Ă©crit de belles conditions d’utilisation. Conditions que vous n’avez pas lu, comme tout le monde. Et quand bien mĂŞme, le texte doit contenir une vague rĂ©fĂ©rence Ă  un usage sĂ©curisĂ© et raisonnable de vos donnĂ©es, pour l’amĂ©lioration de vos services. Bon, inutile de pleurer sur le lait renversĂ©, ce qui est fait est fait. Vous vous dites sĂ»rement : mais qui peut bien s’intĂ©resser Ă  mon parcours quotidien, et se passionner pour ma visite hebdomadaire au club de gym ? Soit dit en passant, il est Ă©tonnant que chaque visite au club de gym ne dure que 30 minutes, alors que vous aviez dit Ă  votre cher.e et tendre que vous feriez une heure de sport par semaine. D’autant plus que chaque visite Ă  la salle est suivie d’un arrĂŞt Ă  la boulangerie. Mais cela ne nous regarde pas.

Prenons le problème dans l’autre sens : si je suis quelqu’un de mal intentionnĂ©, je peux acquĂ©rir des fichiers contenant les donnĂ©es de positionnement de milliers de personnes, moyennant quelques centaines ou milliers de dollars.

Il existe quelques dizaines de sociétés qui vendent ces données de manière tout à fait légale. Etonnamment, ce sont elles qui fournissent des services d’applications gratuites, ou des kits de développement permettant aux auteurs d’application de mieux monétiser leurs propres services.

Rappelez-vous : si le produit est gratuit, c’est que vous ĂŞtes le produit.

Nous pouvons rester rassurés malgré tout, ces données sont dites anonymisées. C’est-à-dire que le collecteur en a retiré votre email, votre nom… pour ne laisser qu’un identifiant unique mais anonyme. Personne n’a de moyen de savoir que Charles Dupont est derrière le numéro 4256-4532-9876-2345. Tout va bien.

Atteignons maintenant le moment angoissant de l’histoire. J’ai donc acquis un bon lot de données me permettant d’afficher sur une carte un ensemble de points. Chacun de ces points représente la position d’un utilisateur à un instant donné.

Je peux bien évidemment afficher l’ensemble des points sur une zone donnée à un instant précis, ou bien choisir un utilisateur particulier et tracer son parcours individuel.

Commençons par le collectif. Disons que je suis quelqu’un d’engagé politiquement, et que je suis réfractaire à un mouvement particulier. A une certaine date, une manifestation a eu lieu, en soutien à cette cause. Disons qu’il s’agit de la création d’un nouveau système de retraites.

Donc le jour dit, je peux voir l’ensemble des manifestants représentés sur la carte et suivre a posteriori leurs mouvements en groupe.

Ce jour-là a aussi eu lieu un regroupement en soutien aux anarchistes révoltés. Manifestation elle aussi très légale, mais avec des manifestant ayant tendance à se masquer le visage.

En regardant les mouvements des points sur ma carte, je constate qu’une grande partie des opposants au régime de retraites a aussi participé à l’autre manifestation.

Si j’étais dans le domaine du renseignement, ou de l’information, cela pourrait m’être utile, de pouvoir croiser ce genre d’informations, et mĂŞme de le relier Ă  des bases de donnĂ©es concernant les partis politiques, ou des groupes Facebook. Je pourrais cibler des « publicitĂ©s Â» en fonction des groupes identifiĂ©s, pour dĂ©courager certains de venir manifester, en encourager d’autres Ă  venir etc.

Pas assez inquiĂ©tant ?

Soit. Dernière étape.

Je reprends mes points de donnĂ©es. Je suis une puissance Ă©trangère. Je voudrais savoir ce qu’il se passe au ministère de la DĂ©fense Ă  mon propos. Difficile, n’est-ce pas ? Je vais supposer que les rĂ©seaux Ă  l’intĂ©rieur des sites sensibles sont sĂ©curisĂ©s, y compris les accès. Voir mĂŞme que les portables y sont interdits.

Mais pas sur le parking. Je peux voir tout un lot de points qui viennent chaque matin et s’arrêtent sur le parking, puis en repartent le soir. Et si je m’intéresse à un point individuel, je peux le suivre dans son parcours quotidien.

En Ă©tudiant ses habitudes, je vais rapidement trouver, dans ces donnĂ©es anonymes rappelons-le, oĂą cette personne habite, quel est son supermarchĂ© prĂ©fĂ©rĂ©. Je vais trouver qu’elle va Ă  la salle de sport tous les mardis (et Ă  la boulangerie juste après !), qu’elle se rend une fois par semaine chez un thĂ©rapeute…

Il deviens alors assez facile de trouver l’identité de cette personne. Ne serait-ce qu’en allant voir le lieu de résidence (par Google Street View, pour être discret. Si je n’ai pas de chance, cette personne sera irréprochable.

Si j’en ai un peu, je dĂ©couvrirais un petit faible : une addiction au PMU, une visite rĂ©currente chez un avocat spĂ©cialisĂ© dans les divorces, ou bien en suivant de plus près son activitĂ© en ligne, des habitudes pas très saines de stockage de donnĂ©es etc.

Et voilà, j’aurais ma porte d’entrée au ministère. Ou bien j’aurais identifié l’un des membres de la sécurité présidentielle.

Bon, j’avoue, j’ai cherché l’angoisse. Nous en sommes pas tous la cible de James Bond, ni des anarchistes révoltés.

Simplement la facilité avec laquelle nous pouvons être identifiés et suivis en ligne par n’importe qui possédant un peu de temps et d’argent semble être un sujet de réflexion important.

En Europe, le règlement RGPD nous protège en partie de ces usages, mais pas entièrement. LA France avec la CNIL a une base solide pour pouvoir identifier les collecteurs de données non fiables, et surtout pouvoir enquêter et rendre transparents les usages de ces données.

Le profilage par groupes entiers peut rapidement porter des torts, surtout si nous n’avons pas accès aux données nous concernant.

Pour un dernier exemple, certaines banques anglaises, dès 2010, utilisaient un système nommé Phoenix. Ce système était sensé pouvoir identifier si un particulier était fiable ou non.

Et les banques se basaient sur ces recommandations pour accepter ou non l’ouverture d’un compte bancaire.

Le problème est que vous n’aviez aucun accès possible, ni aux données ni aux critères de décision. Vous n’aviez que le résultat de la décision, et aucun moyen de contestation.

Et petit bonus, comme pour le credit score américain, si vous subissiez un refus d’ouverture de compte, cela s’ajoutait dans votre balance négative. Un joli cercle vicieux en perspective…

MoralitĂ© de l’histoire : vĂ©rifiez ce que vous partagez, dĂ©jĂ  sur votre smartphone, et avec qui vous le partagez. Est-ce que le dernier jeu installĂ© pour occuper junior dans une file d’attente nĂ©cessite rĂ©ellement votre position en permanence ? Est-ce que Facebook en a rĂ©ellement besoin ?

Les rĂ´les et impacts de l’IA dans le monde professionnel

Lorsque l’on Ă©voque le sujet des “IA” de manière gĂ©nĂ©rale, on entend beaucoup de banalitĂ©s, pas mal d’inquiĂ©tudes. Et en fait, beaucoup de mĂ©prises et d’incomprĂ©hensions. Les cas les plus visibles sont les voitures autonomes par exemple, ou bien les tentatives de systèmes semi-autonomes dont le comportement dĂ©rive très vite.

Je voudrais essayer de rendre ces problématiques un peu plus claires, en synthétisant mes lectures et recherches diverses.

Quelques bases de conversation

Tout d’abord, posons les bases. Je n’apprĂ©cie pas beaucoup le terme IA, car il est très vague. Dans l’esprit de certains, une IA est un système douĂ© de conscience, avec des niveaux de comprĂ©hension et de raisonnement au moins similaires Ă  un humain. Dans la rĂ©alitĂ© du quotidien, ce que l’on entend par IA s’Ă©tend depuis un système de dĂ©cision automatique mais figĂ© (comme une brosse Ă  dents qui dĂ©tecte si les dents sont assez propres) Ă  des systèmes relativement autonomes, dans un domaine limitĂ© (comme des voitures).

Mettons que l’on s’occupe de tout ce scope-ci, les systèmes autonomes, en incluant tout ce qui permet d’automatiser tout ou partie d’un processus. Ces systèmes sont la plupart du temps très loin de l’IA et ne sont souvent que des robots capables de suivre des arbres de dĂ©cision prĂ©-Ă©tablis. Mais certains sont plus complets ou autonomes.

Une fois l’incomprĂ©hension sur la terminologie posĂ©e, j’aime bien dĂ©finir les diffĂ©rents cas d’utilisation de ces systèmes, dans le monde professionnel principalement.

Les typologies d’usages

En premier on retrouve les systèmes d’assistance, dĂ©jĂ  très rĂ©pandus. Ce sont les “robots” que l’on active Ă  notre initiative, pour effectuer une opĂ©ration complexe Ă  notre place. Par exemple nous avons les systèmes de traduction automatique de gĂ©nĂ©ration prĂ©cĂ©dente. Ils nous permettent de vĂ©rifier une traduction ou une comprĂ©hension de manière gĂ©nĂ©rale, en allant bien plus vite qu’avec un dictionnaire. Le contexte n’est pas forcĂ©ment pris en compte, pas plus que les double-sens et les expressions locales (gĂ©ographiquement ou liĂ©es Ă  un jargon mĂ©tier).

Ensuite nous avons les systèmes complĂ©mentaires. Ce sont des systèmes qui travaillent avec nous, en parallèle, et qui viennent nous proposer des suggestions pour nous aider dans notre travail. Leur capacitĂ© d’analyse est souvent assez large et profonde. Cela leur permet de suivre des opĂ©rations sur un spectre et une profondeur que nous ne pouvons souvent pas atteindre sans de très longs et couteux calculs. Dans le domaine de la surveillance vidĂ©o, la reconnaissance faciale pour des systèmes de type CCTV permet de retrouver un individu dans des flux multiples, puis de reconstituer son parcours dans le temps et l’espace.

Enfin, arrivent les systèmes que je qualifie de remplacement. Dans les plus simples on retrouve les chatbots ou callbots qui permettent de traiter de nombreuses demandes de manière automatisée, sans intervention humaine. Pour les plus complexes, nos fameuses voitures autonomes sont de bons exemples.

Des inquiétudes et des réponses

Ce sont ces dernières qui inquiètent, pour plusieurs raisons:

  • La sĂ©curitĂ© des personnes et des donnĂ©es, et donc la fiabilitĂ© des systèmes.  Cf les accidents de voitures autonomes,
  • L’emploi, si ces systèmes Ă©taient Ă  mĂŞme de remplacer des emplois,
  • L’explicabilitĂ©, pour pouvoir dĂ©cortiquer la chaine de dĂ©cision lorsqu’une anomalie est signalĂ©e et pour dĂ©tecter les biais.

Je ne vais pas pouvoir entrer dans des dĂ©tails avancĂ©s pour rĂ©pondre Ă  chacune de ces inquiĂ©tudes, un livre n’y suffirait pas. Je peux nĂ©anmoins donner quelques pistes de rĂ©flexion.

En ce qui concerne la fiabilitĂ© des systèmes, il y a une chose qui me frappe dans toutes mes discussions au sujet des “IA” : tout le monde s’attend Ă  ce que ces systèmes soient parfaits. Une voiture autonome ne devrait jamais avoir d’accident. Un système de prĂ©diction ne devrait jamais se tromper. Un automate devrait toujours effectuer la bonne action.

Question naïve : à quoi compare-t-on ces systèmes?

Formulé autrement :

  • Est-ce qu’un conducteur humain est infaillible? Quelles sont les statistiques d’accidentologie des humains? Des “IA”?
  • Lorsque l’on demande Ă  un système de traiter des formulaires de manière automatique, quelle est l’alternative? Si je demande Ă  un modèle de reconnaĂ®tre des Ă©critures manuscrites pour faciliter mon travail, est-ce que je suis fiable Ă  100%?
  • Si je mets en place un système de caisses intelligentes qui reconnaissent le contenu d’un plateau repas, le système pourrait ĂŞtre fiable Ă  99% (par exemple). Connaissez-vous le taux d’erreur d’un opĂ©rateur humain? Indice : il est plus Ă©levĂ© que 1% 🙂

Quid des erreurs?

Petite note au sujet de la gestion des erreurs, l’idĂ©al lors de manipulation de modèles est de bien gĂ©rer les seuils d’acceptabilitĂ©. En d’autres termes, un modèle d’IA vous indiquera toujours ce qu’il pense ĂŞtre la bonne information (prĂ©diction, rĂ©ponse, classification etc.) accompagnĂ© d’un taux de fiabilitĂ© de sa rĂ©ponse. Il faut bien penser Ă  fixer le seuil en dessous duquel le taux de fiabilitĂ© ne doit pas descendre pour que la rĂ©ponse reste acceptable.

Et idĂ©alement, signaler, Ă  l’utilisateur final ou Ă  l’administrateur de la solution, lorsque des Ă©carts se produisent, afin de pouvoir identifier les cas limites et de pouvoir amĂ©liorer le système.

Quand on touche Ă  l’emploi, le sujet est plus dĂ©licat. Je conçois et je comprends l’inquiĂ©tude gĂ©nĂ©rale de se voir remplacĂ© par des automates. Je pense que le risque est majoritairement exagĂ©rĂ©, ce qui n’empĂŞchera pas de voir des victimes de ce mouvement. Mon espoir est que les systèmes vont remplacer des humains pour des tâches rĂ©pĂ©titives et de très faible valeur, ou bien pour des tâches qu’un humain n’aurait pas pu faire de toute façon. Et donc les humains pourront se concentrer sur des tâches Ă  forte valeur, qui impliqueront des vraies sensibilitĂ©s et compĂ©tences, plutĂ´t qu’une simple capacitĂ© Ă  copier des donnĂ©es entre diffĂ©rents systèmes informatique par exemple.

Enfin, de nombreuses publications et tĂ©moignage ont Ă©tĂ© rĂ©digĂ©s au sujet de l’explicabilitĂ©. J’en ai fait un moi-mĂŞme, je vais donc vous y rĂ©fĂ©rer, plutĂ´t que de me rĂ©pĂ©ter : https://cloudinthealps.mandin.net/2019/10/24/de-lusage-des-datas-et-de-lia/

J’ajouterais tout de mĂŞme quelques remarques sur l’explicabilitĂ©. La plupart des modèles utilisĂ©s aujourd’hui souffrent de donnĂ©es d’origine qui sont biaisĂ©es. Ce n’est pas volontaire, et souvent mĂŞme pas conscient. Les data scientist et techniciens qui prĂ©parent ces donnĂ©es et ces modèles travaillent avec leur propre contexte et ne sont pas forcĂ©ment conscients des limites et conditions qu’ils se fixent.

Par exemple, il est connu que la plupart des banques d’images qui servent Ă  entraĂ®ner les modèles de reconnaissance faciale ne bĂ©nĂ©ficient pas d’une rĂ©partition suffisante par rapport Ă  la population gĂ©nĂ©rale. En termes bruts : la majeure partie des donnĂ©es utilisĂ©es concernent des gens Ă  la peau claire, et occidentaux. De ce fait, les modèles seront de piètre qualitĂ© pour travailler sur des populations Ă  la peau mate, ou aux traits asiatiques. Evidemment, les modèles fournis par Tencent, pour ne citer qu’eux, souffrent probablement du biais inverse.

Et une petite anecdote pour la route : les premiers projets de voiture autonome dĂ©veloppĂ©s en Europe ont rencontrĂ© des problèmes lors des exportations. En effet, une fois les voitures livrĂ©es Ă  elles-mĂŞmes sur les routes australiennes, les chercheurs se sont aperçus d’un oubli majeur : la faune est radicalement diffĂ©rente entre l’Europe et l’Australie. Et les voitures ne savaient pas identifier des kangourous…

De manière plus sĂ©rieuse, c’est un des plus gros Ă©cueil pour la crĂ©ation de voiture rĂ©ellement autonomes : ĂŞtre capable, comme un humain, de s’adapter Ă  toutes les circonstances, mĂŞmes totalement inattendues.

Et c’est ce qui distinguera les humains pour encore de longues annĂ©es.

De l’usage des datas et de l’IA

Le buzz autour de l’IA semble se cristalliser autour de deux principaux sujets : les possibilitĂ©s offertes par la technologie, et les risques liĂ©s Ă  son utilisation.

La question des risques est un sujet de choix pour les dĂ©tracteurs et les rĂ©calcitrants. Nombre d’articles et de livres listent les problèmes posĂ©s par l’IA et souhaiteraient nous voir jeter le bĂ©bĂ© avec l’eau du bain, et la baignoire au passage.

Ce qui me trouble beaucoup dans cette dĂ©marche, en dehors du danger que l’on fait courir aux bĂ©bĂ©s qui prennent leur bain, c’est que l’IA focalise l’attention, alors que le problème est humain avant tout. L’IA ne fait rien de nouveau ou de plus que d’autres systèmes prĂ©cĂ©dents. Et mĂŞme le terme IA est galvaudĂ©, particulièrement dans ces cas-lĂ .

Prenons quelques exemples.

Le plus ancien me concerne directement. Il y a une dizaine d’annĂ©es, j’ai dĂ©mĂ©nagĂ© au Royaume-Uni, et j’ai voulu ouvrir un compte en banque. Nous avons choisi une banque connue et rĂ©pandue. Nous avons passĂ© quelques heures Ă  remplir des formulaires, puis avons attendu de recevoir nos moyens de paiement. Le jour oĂą nous les avons enfin obtenus, nous avons aussi eu un lettre nous indiquant que notre compte allait ĂŞtre fermĂ© car nous n’Ă©tions pas conformes Ă  la politique de la banque. Aucune autre information n’Ă©tait donnĂ©e. Ayant notĂ© une erreur dans le nom auquel le courrier Ă©tait adressĂ©, j’ai voulu rentrer en contact avec la banque, pour savoir quelle Ă©tait la raison rĂ©elle de ce refus et vĂ©rifier s’ils n’avaient pas suivi le dossier de quelqu’un d’autre (le credit score existant dans ce pays, j’aurais pu ĂŞtre confondu avec une personne ayant un mauvais score). Après de multiples emails et coups de tĂ©lĂ©phone, la seule rĂ©ponse que j’ai obtenu a Ă©tĂ© “le système Phoenix nous indique que nous ne pouvons pas vous octroyer un compte”. Impossible d’en savoir plus.

Ce qui m’a dĂ©rangĂ©, en bon français habituĂ© Ă  la CNIL, a Ă©tĂ© de me voir opposer un mur anonyme, sans avoir aucun moyen d’accĂ©der aux donnĂ©es me concernant. La banque pouvait me refuser un service, sans aucune justification ni explication. Aucune IA Ă  cette Ă©poque, quelques recherches m’ont montrĂ© que je n’Ă©tais pas le seul Ă  avoir des problèmes avec Phoenix, et que celui-ci Ă©tait un simple système de vĂ©rification qui pouvait se dĂ©clencher pour des raisons obscures. Et bien sĂ»r impossible de faire corriger mon dossier d’application pour que le contrĂ´le effectuĂ© corresponde bien Ă  ma propre situation (il reste très probable que l’erreur de nom dans le courrier de refus prouve que les donnĂ©es de contrĂ´le ne me concernaient pas).

Pour l’Ă©pilogue, nous sommes allĂ©s dans une autre banque, avec le mĂŞme dossier. Nous avons expliquĂ© la situation, et après quelques Ă©changes avons obtenu notre compte.

Je peux utiliser d’autres exemples, comme les systèmes de logement aux US qui se basent sur des donnĂ©es plus ou moins publiques pour dĂ©terminer si vous ĂŞtes aptes Ă  recevoir un logement. Je ne parle pas de système de logements sociaux, mais de sociĂ©tĂ©s privĂ©es qui fournissent des service de background check pour les bailleurs privĂ©s. L’expĂ©rience malheureuse de quelques-uns a montrĂ© que, comme dans le cas de Phoenix, il est impossible d’accĂ©der Ă  nos propres donnĂ©es, de savoir quel critère nous a rendu indĂ©sirable et encore moins de pouvoir corriger les donnĂ©es si jamais il y a une erreur.

Ou bien pensez au système de social scoring chinois. Si vous trouvez le credit score anglo-saxon dĂ©sagrĂ©able, je n’ose imaginer les dĂ©rives possibles du social scoring.

Accessoirement cela peut crĂ©er des cercles vicieux, rappelez-vous l’Ă©pisode Nosedive de Black Mirror. Tant que vous ĂŞtes un blanc mouton, gentil et hypocrite, tout va bien. Au moment oĂą un grain de sable vous fait dĂ©railler, tout part de travers. Votre score se dĂ©gradant, vous vous trouvez dans des situations plus compliquĂ©es (difficultĂ©s Ă  obtenir un prĂŞt, un travail, un billet d’avion etc…) et le risque que votre score se dĂ©grade augmente.

Bon il s’agissait de fiction, mais finalement très proche de la rĂ©alitĂ©. Revenons au credit score amĂ©ricain : si votre score est mauvais, vous aurez du mal Ă  obtenir un prĂŞt de bonne qualitĂ©. Mais vous finirez par en obtenir un Ă  de très mauvaises conditions, ce qui signifie souvent qu’il vous coĂ»tera cher et que vous augmenterez le risque de dĂ©faut de paiement, mĂŞme temporaire. Ce qui va dĂ©grader votre credit score, etc. etc etc.

Mais tout ceci n’est pas liĂ© Ă  de l’IA. Certes, parfois ce sont des algorithmes obscurs qui ne rendent pas d’explication sur leur dĂ©cision. Et ce ci doit ĂŞtre combattu et corrigĂ©. Mais la plupart du temps la sĂ©lection se fait sur des critères cachĂ©s mais très simples. La discrimination existe, avec ou sans IA.

Ce Ă  quoi il faut ĂŞtre attentif reste l’accès aux donnĂ©es et l’explicabilitĂ© des modèles.

Pour la première, nous avons en Europe le règlement RGPD qui oblige Ă  cette transparence (et Ă  la protection de nos donnĂ©es). C’est un pas dans la bonne direction, au moins dans notre juridiction.

Pour l’explicabilitĂ© des modèles, il n’existe pas encore de règle, Ă  ma connaissance, mais cela devrait ĂŞtre obligatoire pour tout ce qui touche aux besoins primaires, Ă  minima.

NB : je vous conseille la lecture de Weapons of Math Destruction, de Cathy O’Niel. A lire avec un peu de recul, mais sa dĂ©marche pour identifier les IA/algorithmes/outils nocifs est intĂ©ressante.

Mon test d’Azure Bastion

Alors oui, c’est une fonctionnalitĂ© dont nous parlions peu mais qui va simplifier beaucoup la vie quotidienne.

L’annonce de la public preview est rĂ©cente, mais la fonction marche dĂ©jĂ  très bien, sous peu que vous utilisiez le portail Azure Preview (https://aka.ms/BastionHost).

Le principe est très simple : vous avez des VMs connectĂ©e Ă  des Vnet isolĂ©s du monde extĂ©rieur, et vous ne souhaitez pas ouvrir les ports d’administration (SSH/RDP) de ces VMs vers l’extĂ©rieur.

Habituellement, vous montiez une VM dédiée, qui elle était configurée pour accepter les connexions extérieures, avec une stack spécifique lui permettant de servir de relais vers les VMs protégées.

Bonjour la complexité :

  • D’administration d’une solution dĂ©diĂ©e, et parfois bancale (si quelqu’un aime sshgw, qu’il se jette la première pierre!)
  • D’utilisation au quotidien. Dans certains cas un logiciel particulier permettait une connexion relativement simple, dans d’autres il fallait s’authentifier plusieurs fois et faire des tunnels SSH pour arriver Ă  sa destination…

Et là, libération avec Azure Bastion. Démonstration!

Mettons que vous ayez dĂ©jĂ  une VM dĂ©ployĂ©e sur Azure. Lorsque vous utilisez le portail Azure pour vous y connecter, en principe, vous n’avez qu’Ă  cliquer sur le petit bouton qui va bien. Dans mon cas une VM Linux :

Mais je triche, cette VM possède une IP publique ouverte sur l’extĂ©rieur.

Si je dissocie la VM et l’IP publique, c’est une autre paire de manches…

Mais il me reste la jolie option Bastion.

Comme je n’ai encore rien dĂ©ployĂ©, il me propose de le faire Ă  ce moment-lĂ  :

Quelques questions Ă  complĂ©ter, surtout en termes d’adressage :

Le déploiement ne prend que quelques minutes.

Une fois tout dĂ©ployĂ©, j’ai accès Ă  l’option Bastion, je n’ai plus qu’Ă  indiquer mon user/password, et hop, j’ai un nouvel onglet qui embarque ma connexion. HonnĂŞtement, je n’ai rien vu de perceptible en termes de performance.

(oui les lecteurs attentifs auront noté un léger détail, ma démo a été faite en deux fois, avec une VM Linux au début, et Windows à la fin 🙂

En termes de management du bastion, pour le moment, les options sont peu nombreuses, en dehors des menus standards de log/IAM/tags etc.

Nul doute que cela viendra avec les avancées de la Preview, puis la sortie en GA

Quelques petites notes malgré tout pour le déploiement.

Pour le moment, celui-ci nĂ©cessite la prĂ©sence d’un subnet en /27 minimum nommĂ© AzureBastionSubnet pour fonctionner.

Et la liste des régions possibles pour la preview reste limitée :

  • West US
  • East US
  • West Europe
  • South Central US
  • Australia East
  • Japan East

Et la doc complète est là : https://docs.microsoft.com/en-us/azure/bastion/bastion-create-host-portal

Alors vous en pensez quoi? Vous le déployez tout de suite?

The Remote Expert

I have to admit that I came into the Remote Expert topic by accident. A customer request on the subject prodded me into investigating a few possibilities. Once I had tested some solutions, I was quickly convinced, and able to run some demos, mostly unplanned. What helped a lot is the fact that the solutions are very quick to set up and have a fast benefit for the business. The feedbacks I got while demoing to our customers completed the convincing for me.

So what is Remote Expert  (or Remote Assist)?

Lets’ imagine that you have in your structure a fleet of onsite technicians for varied tasks. Those could not be expert in every domain, nor know in advance everything they might need when they intervene in a specific environment. On the other hand, you will probably have a domain expert which will possess the necessary knowledge. However he will not be able to be present on every site he would needed on in a single day, as breakouts and interventions would never be planned as we would liek them to.

What we need is a cloning solution to have multiple instances of said expert. As human cloning is not yet ethically accepted, we need something else. And this is Remote Expert.

This solution involves the use of a mobile device on site, to share the work environnement between the technician and the expert. But more useful is the possibility to anootate and give hints and indications on that environment.

The technician may use two options:

  1. He is equipped with a mixed reality headset. In that case he may use it to share his work space, and have in his field of vision a dialog window or a shared space with the expert. They would then be able to share indications, in addition to an operations manual, for example.
  2. He has a mobile phone, compatible with AR (most of them are). He will then be able to use that device to show his view and share the annotations, in a more restricted way, but without needing specific hardware.

In short, this would come down a videoconference, with whiteboard fonctionnalities.

It is important to note that thanks to spatial anchors technologies, every annotation and indication is anchored to a physical spot in the field of vision. This allows the technician to move arount without losing the indications.

As a demo is better than a long talk, here is a screenshot of a demo that I did with some LEGO bricks:

The complete demo is here, without comments for now :

In this demo, for practical reasons, I have used the product Chalk from PTC (https://chalk.vuforia.com).

The other solution I use is Dynamics Remote Assist from Microsoft (https://dynamics.microsoft.com/en-us/mixed-reality/remote-assist/)

If you have any question regarding the products, ask me!

Remote Expert

J’admets ĂŞtre venu au sujet du remote Expert par accident. Une demande client sur le sujet m’a amenĂ© Ă  creuser quelques pistes. Une fois les quelques solutions utilisĂ©es et testĂ©es, j’avais en main de quoi effectuer simplement quelques dĂ©mos, parfois de manière inopinĂ©e. J’ai Ă©tĂ© convaincu très vite du potentiel de cette solution simple Ă  mettre en Ĺ“uvre. Les quelques dĂ©mos effectuĂ©es au dĂ©tour d’une confĂ©rence ou d’une simple discussion montrent que les clients sont convaincus aussi.

Le Remote Expert  (ou Remote Assist), qu’est-ce que c’est?

Imaginons que vous ayez dans votre structure une flotte d’intervenants sur site pour des tâches très variĂ©es. Ceux-ci ne peuvent pas ĂŞtre experts dans tous les domaines, ni connaĂ®tre par avance tout ce dont ils auront besoin avant d’ĂŞtre appelĂ©s en dĂ©pannage. D’un autre cĂ´tĂ©, vous aurez sĂ»rement un expert du domaine, qui maitrisera parfaitement l’intervention Ă  effectuer. Mais celui-ci ne sera pas en mesure d’ĂŞtre prĂ©sent sur l’ensemble des sites au cours d’une journĂ©e, les pannes ne se planifiant jamais comme cela nous arrangerait.

Il faudrait donc une solution permettant Ă  l’expert de se dĂ©multiplier. Comme le clonage humain n’est pas encore au point ni Ă©thiquement acceptĂ©, il faut trouver autre chose. Et voici le Remote Expert.

Cette solution consiste Ă  utiliser un appareil mobile sur le site de l’intervention, pour partager l’environnement de travail avec l’expert. Et surtout de pouvoir annoter et donner des indications sur cet environnement.

L’intervenant peut utiliser deux options :

  1. Il est Ă©quipĂ© d’un casque de rĂ©alitĂ© mixte. Dans ce cas il peut l’utiliser pour partager son espace de travail, et avoir dans son champ de vision une fenĂŞtre de dialogue ou de partager avec l’expert. Celle-ci permettra par exemple de montrer un schĂ©ma, ou simplement de voir le vidĂ©o confĂ©rence.
  2. Il possède un tĂ©lĂ©phone mobile. Il pourra alors l’utiliser pour montrer ce qu’il observer, et voir partager les annotations avec l’expert. Il pourra lui aussi annoter sa vision.

En bref, cela revient à une vidéoconférence, couplée à un tableau blanc interactif.

Il est Ă  noter que grâce Ă  des technologies d’ancres gĂ©ospatiales, toutes les annotations sont ancrĂ©es sur des objets physiques du champ de vision. Cela permet Ă  l’intervenant de se dĂ©placer sans perdre les indications.

Voici une capture d’Ă©cran de que cela donne, avec un petit circuit en LEGO :

Pour la vidĂ©o complète, c’est ici :

Dans cette dĂ©mo, pour des raisons purement pratiques, j’ai utilisĂ© la solution Chalk de PTC (https://chalk.vuforia.com).

L’autre solution que j’utilise est Dynamics Remote Assist de Microsoft (https://dynamics.microsoft.com/en-us/mixed-reality/remote-assist/)

Pour les tarifs et les comparatifs, contactez-moi 🙂

La tranformation DevOps – deuxième Ă©tape

Bienvenue dans ce second Ă©pisode de ce qui menace de se transformer en sĂ©rie de posts sur DevOps et la transformation DevOps. Malheureusement pour vous, je dis souvent ce qui me passe par la tĂŞte, et il n’y a aucun plan gĂ©nial visant Ă  Ă©crire un livre chapitre par chapitre. Le premier article parlait de choisir une stratĂ©gie lors de la transformation DevOps d’une Ă©quipe de services managĂ©s.

Ce second article ne vient pas nécessairement après le premier, vous avez toute liberté de choix 🙂

D’une certaine façon, mon sentiment est que DevOps est assez proche d’ITIL dans l’esprit : une boite Ă  outils oĂą vous pouvez prendre ce dont vous avez besoin, et dĂ©cider comment l’utiliser.

Donc, sujet d’aujourd’hui : comment viser, ou construire l’Ă©quipe qui va initier le mouvement DevOps dans votre organisation?

Il existe plusieurs indicateurs sur lesquels s’appuyer pour faire ce choix. Aucun n’est absolu. Encore une fois, je ne vous donne que des indications pour sĂ©lectionner l’Ă©quipe qui va rĂ©ussir Ă  appliquer des principes DevOps. Il n’y a pas de

Remède miracle, ni de baguette magique!

Le critère le plus Ă©vident est de constituer une nouvelle Ă©quipe, en sĂ©lectionnant  des collaborateurs qui sont dĂ©jĂ  au fait  de DevOps, et dĂ©sireux de s’y mettre. Cr sont les personnes qui sont les plus susceptibles de vous aider Ă  rĂ©ussir ce premier pas, et montrer au reste de l’organisation que la transformation est possible, et qu’elle gĂ©nère beaucoup de gains et bĂ©nĂ©fices.

Le second indicateur Ă  repĂ©rer est fortement liĂ© au principal objet des mĂ©thodes DevOps : le software delivery. Si vous avez une Ă©quipe qui rencontre des difficultĂ©s Ă  maintenir un processus de livraison de code fiable, et que cette Ă©quipe est prĂŞte Ă  s’investir pour construire l’Ă©quipe et les outils nĂ©cessaires pour en arriver lĂ , alors vous avez un très bon candidat. A l’opposĂ©, si vous essayez de convaincre une Ă©quipe qu’elle doit s’intĂ©resser Ă  DevOps, alors qu’ils sont persuadĂ©s que leur processus actuel est fiable et de qualitĂ©, Ă  tort ou Ă  raison, vous allez vous heurter Ă  un mur. Il ne semble pas pertinent de consommer du temps et de l’Ă©nergie dès le dĂ©part pour convaincre des gens qu’ils effectuent un travail de piètre qualitĂ© s’ils ne le rĂ©alisent pas. Ce n’est très probablement pas la bonne cible pour votre premier pas vers DevOps.

Le dernier critère nous ramène à mon sujet favori, en dehors de la technique : les bénéfices business!

Cela paraĂ®t Ă©vident, mais une transformation dans votre organisation doit toujours ĂŞtre sensible aux objectifs business, Ă  la cible de l’entreprise dans son ensemble. Imaginons que vous choisissiez une Ă©quipe qui travaille sur un produit en fin de vie sur lequel aucune Ă©volution n’est prĂ©vue, et dont les clients sont satisfaits. J’ai bien peur que vous n’ayez aucun soutien, ni aucun rĂ©sultat Ă©vident si vous dĂ©marrez votre transformation DevOps par cette Ă©quipe. D’un autre cĂ´tĂ©, si vous arrivez Ă  commencer par une Ă©quipe travaillant sur le produit phare de l’organisation, sur lequel les yeux des plus hautes instances sont rivĂ©s, et qui doit dĂ©montrer une capacitĂ© de livraison de code moderne et fiable… vous avez votre champion. (petit bĂ©mol, c’est aussi probablement le candidat sur lequel vous n’aurez pas le droit Ă  l’erreur… mais on ne vit pas sans se mettre un peu en danger rĂ©gulièrement 🙂 )

Une fois cette Ă©quipe choisie, ou construite, commencez Ă  travailler. Gardez Ă  l’esprit, tout le temps, que le cĹ“ur de DevOps, comme toujours, est l’humain et non uniquement les outils.

Le bon sens va dicter la seule chose Ă  retenir de cet article . Je vais paraphraser quelqu’un qui a implĂ©mentĂ© des organisation Agile/DEvOps multiples : “Nous avions dĂ©marrĂ© avec une population difficile, et nous leur avons donnĂ© des outils et mĂ©thodes modernes et intelligents. Ca n’en a pas fait une population moderne et intelligente.” Je dois admettre que la citation d’origine Ă©tait plus… rude, mais je ne peux l’Ă©crire ici 🙂

PS : J’essaye de garder ces articles Ă  une taille raisonnable, et je ne fais pas de deep dive sur chaque sujet Ă©voquĂ©. Croyez-moi c’est volontaire, ce n’est pas uniquement de la flemme. Si vous voulez en savoir plus sur un sujet particulier, demandez-moi, ou bien trouvez un bon livre/article de rĂ©fĂ©rence!

A très bientôt!

DevOps transformation – choose your target wisely

This is a second post in what might become a series regarding DevOps, and DevOps transformation. Unfortunately for you, I speak my mind when I feel like it, so there is no master plan behind my ranting. First post was about choosing a strategy when transforming a managed services team towards DevOps.

This second step may not come necessarily after that first step 🙂 You get to choose.

In a way, I have the feeling that DevOps is close to what ITIL is : a toolbox where you can select which parts you would like to apply, and the way to implement them.

So new topic : how to target or build the team which will start the DevOps initiative in your organization?

There are several indicators that you can use to make this selection. None is an absolute, once again, these are pointers to which team would better succeed in applying DevOps principles. There is no sure shot, no magic finger method 🙂

The obvious criteria is to pick a team, of future team members that are already aware of DevOps, and willing to make the move. Of course these would be the people that will help you succeed in the first move, and show the rest of the world that it can be done, and bring very positive outcomes.

The second flag that should be raised is tied to one of the main outcome of DevOps : software delivery. If you have a team that is already struggling to get a reliable software delivery in place, and is willing to put the effort into building the organization and tools to get there, then you have a probable winner 🙂 On the opposite, if you try to convince a team that they need to move to DevOps when they are convinced their software is delivered efficiently and reliably, you’re going to hit a wall. Basically it would come down to convincing them that they are doing a poor job and are not even aware of that. Maybe not the right target for your first DevOps project.

The last one brings us to my favorite topic, outside of tech stuff : business outcome!

Of course, the aim of a transformation within your organization should always be mindful of the business outcome. Imagine you pick a team that is working on a neglected piece of software that no one cares about, and of which customers are just happy of the current situation. I do not think you would get the visibility and traction, not to mention willingness if you try to initiate your DevOps transformation in there. On the other hand, if you manage to get a team working on a new flagship product, that gets the attention of the CxOs, and has a need to show modern and reliable software delivery… you have a winner!

Once you’ve chosen your dream team, and start working, remember that DevOps, as always, is about people, not just tools.

The key thing to take away stems from common sense, and has been given by someone who did try and implement multiple Agile/DevOps organizations: “if you start with bad people and give them a smart way to work together, they won’t become smart by themselves”. Alright, I must admit the original quote was much harsher, but I cannot write it here 🙂

PS : I tend to keep these article short, and do not dive into each topic. This is done on purpose, not just by laziness. If you need to go deeper in each topic, just ask, or get a good read 🙂