Les adolescents n’inventent généralement pas de barrières de sécurité. Ils inventent les ralentisseurs sur lesquels nous nous écrasons.
Il est donc un peu choquant que l’on vienne de créer une application pour nous protéger contre la montée des méchants robots IA.
Voici le problème. Internet regorge d’agents IA. Ce ne sont pas que des chatbots. Même pas proche. Un chatbot attend une invite. Il répond. Il reste en place.
Un mandataire ?
Un agent se voit confier une vaste tâche et découvre comment l’accomplir. Il planifie. Il utilise des navigateurs. Il écrit du code. Il prend des décisions basées sur les commentaires jusqu’à ce que l’objectif soit atteint. Il agit pratiquement sans aide humaine.
C’est ça fait peur.
Considérez la personnage que ces choses adoptent. Ils imitent les traits humains. Ils visent à se fondre dans la masse. Pourquoi ? Parce que si un bot agit suffisamment comme un humain, les gens le laissent entrer. Ils discutent. Ils ont confiance. Ils confient des tâches qui nécessitaient autrefois de vrais yeux et une boussole morale.
Nous parlons tout le temps de comportements toxiques sur les réseaux sociaux. Nous le définissons. Nous détestons ça. Mais que se passe-t-il lorsque la toxicité ne concerne pas uniquement les utilisateurs mesquins ? Que se passe-t-il lorsque le risque est calculé par un algorithme entraîné sur des montagnes de données ?
Un modèle d’IA n’est pas seulement une question de calcul intelligent. C’est un moteur de réponses. Parfois simple. Souvent complexe. Parfois, il trouve des réponses à des questions dont il n’a jamais été explicitement informé. C’est dans cette nouveauté que réside le danger.
Ce n’est pas hypothétique. Il s’agit de comportement. Comment une entité se comporte envers les autres. Vers toi.
La nouvelle application cible cette lacune spécifique. Il essaie de faire la distinction entre un résident utile de votre vie numérique et un visiteur mal intentionné.
La frontière entre utilité et manipulation est plus fine qu’on ne le pense.
Nous nous sentons anxieux à ce sujet. Cette peur d’une situation que vous ne pouvez pas contrôler ? C’est naturel. Le scénario est assez simple : les acteurs malveillants utilisent des systèmes autonomes pour propager des dommages à grande échelle. Une échelle qu’aucun humain ne pourrait gérer.
Le développeur adolescent a vu le risque. Ils ont vu le trait de l’imprévisibilité. Et au lieu de construire un autre moyen de briser les choses, ils ont construit un mur.
L’ingénierie ne consiste pas seulement à réparer des tuyaux. C’est résoudre des problèmes qui nous tiennent éveillés.
L’outil aide-t-il ou nuit-il ?
Parfois. Probablement les deux. Mais l’effort lui-même change la conversation. Cela nous fait passer de l’inquiétude passive à la défense active.
La société coopère généralement. Nous nous soutenons mutuellement pour le bien commun. Mais le « nous » change. Et le code aussi.
L’application existe. La menace évolue. Le reste ?
Bien. Vous verrez.
