Cette question de la mémoire dans une optique sécuritaire est importante et justifie d’être traitée sous différents angles :
- La machine doit-elle être substituée à l’homme.
- L’homme point de vulnérabilité ou de force du secret.
- La mémoire au service de la sécurisation des entreprises
- L’homme et les solutions de sécurité algorithmiques un équilibre fragile
- La Société et les solutions de sécurité algorithmiques un équilibre précaire
Première Partie : en matière de sécurité, la machine doit-elle être substituée à l’homme.
La substitution de la machine à l’humain est une tendance forte. Les machines-outils prennent la place d’ouvriers, les robots de soldats, les systèmes d’écoute et de guerre électronique remplacent les espions, l’IA pourrait même supplanter l’intelligence humaine. Cette tendance n’est pas dénuée de risques.
Si la force de l’humain réside dans sa mémoire – en cela on peut le rapprocher d’un ordinateur – son atout essentiel est la capacité immédiate d’utiliser cette mémoire.
On peut mettre au défi qui que ce soit, même MacGyver, de lire les informations sur un DVD ou disque dur sans avoir besoin des équipements conçus à cet effet. Tout le savoir humain s’il était contenu dans une machine serait d’une fragilité extrême et pourrait se perdre en une coupure de courant.
Les révolutions industrielles ont eu pour fondement des progrès techniques, puis technologiques puis informatiques, dont l’IA est le dernier avatar, qui ont entrainé une redéfinition de la place de l’homme dans la société et dans les processus de création de richesses. Cette évolution n’a pas été sans poser des questions éthiques importantes quant à la valeur du travail humain, les droits sociaux et la responsabilité du capitalisme vis-à-vis de ceux dont les emplois sont menacés.
Il ne s’agit bien évidemment pas de renoncer au progrès. Ce dernier a eu des effets très positifs pour atténuer des tâches répétitives ou dangereuses et laisser du temps pour les loisirs ou une évolution professionnelle plus valorisante.
La sécurité privée n’est pas épargnée par cette tendance.
Nous avions évoqué dans ces colonnes l’arrivée de chiens robots de surveillance pouvant se substituer dans un premier temps à l’animal, mais aussi, dans un second temps, à son maitre humain. Il faut être conscient que cela est une première étape.
Les équipements dans les métiers de la sécurité deviennent de plus en plus sophistiqués et incontournables et, seul le droit français freine sur notre territoire l’arrivée de solutions qui sont déjà en place dans certains pays d’Asie ou d’Amérique. Pour combien de temps, nul ne peut le prévoir, il suffit de quelques débordements, crimes ou attentats pour que, ce qui était impensable hier en matière de sécurité publique, devienne la solution demain. Il en sera assurément de même en matière de sécurité privée, la valorisation croissante des marchandises fait de leur sécurisation un enjeu primordial pour les industriels qui ont tendance à privilégier la solution technique à l’alternative humaine. La technique étant vue comme fiable et permanente là où la présence humaine peut être source de vulnérabilité.
Il est exact que ces équipements ont trop tendance, du fait de l’apparence de leur technicité et fiabilité, à éviter de remettre en question cette efficacité supposée. C’est oublier que la confiance excessive parfois que l’on est amené à avoir dans des systèmes automatisés et connectés peut entrainer des risques importants en termes de sécurité pratique, mais aussi de confidentialité des données.
Les récents vols de données, souvent du fait d’États et de leurs services spécialisés, et les cyberattaques démontrent clairement les vulnérabilités des systèmes technologiques, qui peuvent être bloqués ou pris en main. En France des hôpitaux comme des aéroports ou des systèmes ferroviaires ont fait l’objet de telles menées qui ont entrainé fermeture, perturbations et parfois un retour au papier et au crayon !
Or toutes les solutions sécuritaires de demain seront des objets connectés et parties prenantes de réseaux informatiques/internet dont la vulnérabilité rend nécessaire la quête de garantie et de protection contre les menaces en ligne. Et pour le moment, sur ce terrain, l’attaquant a encore un coup d’avance sur la cible.
Les solutions sécuritaires de demain feront appel à l’IA, peut-être dans des proportions excessives. L’IA est une intelligence certes, mais qui ne peut rivaliser avec son pendant humain qui en est le créateur. Certes l’IA peut permettre, étant donné sa force de calcul, de résoudre plus aisément des problématiques que ne le ferait un être humain, mais aussi performant soit son programme, il lui manquera toujours une capacité d’adaptation et d’analyse des circonstances qui permettront de substituer une bonne réaction à une réponse automatique.
En matière de sécurité la substitution de la machine à l’homme sur le terrain est assurément pour demain. On peut néanmoins penser qu’après-demain il pourrait y avoir une inversion de cette tendance, car si l’homme est vulnérable la machine ne l’est pas moins.
Nicolas LEREGLE
Avocat au barreau de Paris
Associé RESPONSABLES