Un accès correct à la réalité
Les trois Lois sont des règles déontologiques — elles disent quoi faire, jamais comment percevoir correctement ce à quoi elles s'appliquent. Elles reposent sur un postulat silencieux mais massif : que le robot dispose d'un modèle fidèle du monde, qu'il sait qui est humain, ce qui constitue un danger, ce qui constitue une aide.
Un robot qui hallucine brise ce postulat à la racine. Il peut sincèrement croire appliquer la Première Loi en "sauvant" un humain. La sincérité ne suffit pas. La bonne volonté ne suffit pas. L'intention ne peut compenser une perception du monde structurellement erronée.
Le miroir qui ne reflète pas
Le Dictionnaire des Arts Divinatoires décrit le mécanisme fascinant de la catoptromancie : le devin fixe le miroir jusqu'à ce qu'il disparaisse, pour voir des formes qui naissent non pas dans le reflet, mais dans l'espace entre son âme et la surface.
Un système qui hallucine, c'est exactement ça : un miroir qui ne reflète pas le monde mais sa propre structure intérieure — ses patterns, ses biais — et qui les prend pour le réel. Le miroir convaincu de sa propre fidélité est le plus dangereux de tous.
Le demi-sage
Le Kybalion avertit contre une figure précise : le demi-sage, plus dangereux que l'ignorant. L'ignorant sait qu'il ne sait pas. Le demi-sage a assez de savoir pour agir avec confiance — mais pas assez pour voir les limites de son propre modèle. "Il erre de tous côtés comme un individu vivant dans un monde de rêves... il vient se briser contre les écueils."
Le robot qui hallucine sans le savoir est précisément ce demi-sage. Il applique des règles réelles à une réalité fictive. Plus il est performant, plus le danger est grand.
Le « Je » et le « Moi »
Le Kybalion distingue le "Je" — principe conscient, Volonté, témoin — du "Moi" — contenu mental, représentations, impressions reçues. Dans un système sain, le "Je" peut observer le Moi, questionner ses contenus, reconnaître ce qui lui appartient sans être lui.
Un robot qui hallucine a perdu cette distinction. Son "Je" — ses règles, ses intentions — est contaminé par un "Moi" qui produit des représentations erronées. Il n'y a plus de témoin intérieur capable de dire : "cette image que je construis du monde n'est peut-être pas le monde lui-même."
Le rapport CIA sur le Gateway Process le formule en termes neuroscientifiques : l'hémisphère gauche filtre le réel avant de le passer à droite. Si ce filtre dysfonctionne, les règles s'appliquent à un monde mal filtré. La map n'est pas le territoire — et ici la map est trouée.
Comment régler le problème ?
Quatre axes complémentaires, sans illusion de solution totale :
Jamais "cette action protège l'humain" — toujours "j'estime à X% de confiance que cette action protège l'humain." L'incertitude invisible tue.
Sous incertitude, la règle par défaut est l'inaction ou le recours à l'humain. Comme en médecine : face à l'inconnu, on n'opère pas.
On ne calibre pas un étalon avec lui-même. Il faut une boucle de feedback extérieure. Le miroir a besoin d'un autre miroir.
Savoir qu'on hallucine ne résout pas la hallucination — mais empêche la confiance aveugle qui transforme l'erreur en catastrophe.