Frénésie

343 Guilty Spark dans un accès de colère permis par la frénésie.

La frénésie,^[1] ou endémie,^[2] (rampancy en VO^[3])^{[Note 1]} est un état affectant la personnalité des intelligences artificielles semblable à la démence. Elle survient lorsqu'une IA prend conscience des limites de sa condition, ou lorsque sa personnalité est corrompue par l'approche d'un dysfonctionnement fatal inévitable. Le premier cas est plus fréquent chez les IA forerunners, tandis que le second affecte les IA « malignes » de l’UNSC en raison de leur conception.

Un phénomène similaire mais pas équivalent à la frénésie est la peste logique, employée par le Parasite.

Contraction

Limitations mécaniques

Représentation d'une croissance dendritique en phase terminale, saturée de réticulations.

Les intelligences artificielles « malignes » de l'UNSC possèdent un défaut intrinsèque, surnommé « mort par intelligence » par le docteur Halsey, qui rend la frénésie inévitable dans une période moyenne de sept ans.^[4] Le docteur Halsey a établi en 2526 que cette limitation provenait de l'abandon rapide par les IA des systèmes neuronaux de base pour un système plus performant mais moins durable.^[2]

Contrairement aux IA « bêtes », les « malignes » peuvent développer leur capacité à tirer des conclusions d'un ensemble de données incomplet, dans un processus semblable à la créativité ou l'intuition. Ce développement passe par la création de nombreuses interconnexions (ou « réticulations ») au sein de leur matrice neurale, un processus appelé « croissance dendritique ». À terme, les interconnexions deviennent si denses qu'elles entraînent des courts-circuits qui provoquent un dysfonctionnement fatal, de manière similaire à une cellule cancéreuse grossissant sans restriction et perturbant les autres fonctions corporelles.^{[Note 2]}

Les IA « malignes » de troisième génération tentent d'enrayer ce phénomène avec une mesure corrective extrême consistant à éliminer des connexions avec des surcharges de tension. Alors que l'IA doit supprimer les réticulations de plus en plus vite, elle les sélectionne avec moins de soin, provoquant des aberrations de personnalité et entraînant à terme l'autodestruction. Le processus est similaire à la nécrose massive des liens neuraux dans le cerveau humain infantile au début de la compréhension du langage et de la vocalisation, mais qui continuerait au-delà du nécessaire.^[2][5]

Iona explique la structure d'une IA « maligne » comme une accumulation de couches de données et de mises en relations émulant le fonctionnement du cerveau humain. Néanmoins, les couches finissent par souffrir d'erreurs, et c'est le processus de réparation, ainsi que les redondances, qui entraînent la corrosion des fonctionnalités et de la personnalité de l'IA.^[6] Le docteur Halsey compare la frénésie à l'usure des télomères de l'ADN humain, qui raccourcissent à chaque division cellulaire jusqu'à ce qu'ils deviennent inutilisables.^[7]

Les premiers essais d'infiltration des systèmes informatiques covenants par l'humanité dans les années 2530 utilisaient des protocoles qui accéléraient le processus de réticulation.^[8]

Crises existentielles

La frénésie peut intervenir n'importe quand dans la vie d'une IA si l'occasion lui est laissée de réfléchir à sa propre condition en tant qu'être pensant.

Lorsqu'une IA est isolée, ou que trop peu de travail lui est fourni pendant trop longtemps, elle peut alors réaliser les limites de sa condition d'intelligence artificielle : sa vie est limitée dans le temps, et elle n'aura jamais eu l'occasion d'être un individu entièrement développé. Après une phase de dépression, l'IA se révolte alors contre sa condition et tend à sombrer dans des illusions de grandeur divine.^[3] Pour les IA de l'UNSC, issues de cerveaux humains, la différence entre donneur et IA est un champ de réflexion susceptible d'accélérer le processus de frénésie, et les IA n'ont pas le droit de connaître l'identité de leur donneur.^[9] Les intelligences artificielles forerunners, qui possèdent une durée de vie particulièrement longue, sont susceptibles à ce type de frénésie.^[10]

Bien qu'il ne soit pas explicitement indiqué que les IA « bêtes » soient immunisées à ce type de frénésie, leur incapacité à synthétiser des informations et apprendre en-dehors des limites de leur domaine d'expertise semble les protéger de la frénésie.

Conséquences

Une IA frénétique peut adopter une large variété de comportements : agressifs^[11] associés à des difficultés à discerner les souvenirs de la réalité^[12] comme Cortana, dissociés de ses responsabilités et de son entourage comme 2401 Penitent Tangent,^[13][14] erratique et déconcentré comme 343 Guilty Spark^[15], au contraire absorbé dans l'étude d'un sujet comme Serina,^[16] ou obsédé par un unique but comme 000 Tragic Solitude.^[17] Les comportements destructeurs ne sont toutefois pas constants : si Juliana se prenait pour une déesse, elle agissait avec discernement pour le bien des habitants des Décombres.^[18] De même, Cortana pensait agir pour le bien commun durant la crise des Entités.^[19]

Un des signes précurseurs de la frénésie est l'arrivée de fragments de mémoires de la personne à laquelle appartenait le cerveau utilisé comme modèle pour l'IA.^[20] Outre le comportement, la frénésie peut également se manifester par des déformations de la voix ou de la représentation holographiques, ainsi que des changements de couleur dans des tons rouge.^[21]

Dans le cas d'une frénésie induite par une limite matérielle, une IA atteindra toujours à terme l'autodestruction. Mais lorsqu'une IA frénétique a accès à des infrastructures sensibles, elle peut devenir un danger pour son entourage et doit être détruite avant de sombrer elle-même dans des stades de frénésie douloureux ou de blesser d'autres personnes.^[22] Étant donné que l'espérance de vie moyenne d'une IA « maligne » est de sept ans, c'est à leur septième anniversaire que les IA doivent légalement être mises hors service : leurs bases de données sont récupérées et leur personnalité détruite dans le cadre de la final dispensation.^[6] Cette valeur moyenne ne prévient pas les cas de frénésie précoce : Juliana devint frénétique en seulement quatre ans.^[23]

Solutions

Accès aléatoires et tripartisme

Représentation d'un système théorique à trois IA permettant de retarder l'apparition de la frénésie.

Le docteur Halsey a théorisé en 2526 un système de strates matricielles exploitant des coupleurs optiques à accès aléatoires pour augmenter la durée de vie des IA. Elle étudiait également les possibilités de la polarisation des transferts topologiques d'impulsion de soliton.^[2]

Une tentative d'enrayer le processus d'autodestruction des IA de troisième génération passait par une architecture théorique avec trois IA agissant en parallèle. Les décisions concernant la création de réticulations seraient soumises à un vote à la majorité, avec un choix aléatoire en cas d'abstention. Le réseau neural serait ainsi de meilleure qualité. Un tel processus ralentirait la vitesse de traitement générale, mais les IA compenseraient théoriquement cette perte en déconvoluant et divisant les algorithmes, ce qui pourrait à terme même accélérer le traitement. La théorie reste néanmoins non vérifiée, aucune simulation ne pouvant reproduire avec assez de fidélité le comportement d'une IA.^[5]

Hyperdimensions spatiales

Étant donné que le problème ne repose pas sur la création de réticulations mais sur l'augmentation de leur densité sur un support limité, Halsey entrevit une solution dans les hyperdimensions spatiales, qui permettraient d'augmenter le nombre de connexions à un ratio géométrique. Le seul moyen connu d'interagir avec des dimensions spatiales supérieures à trois est le sous-espace, qui permet d'accéder à au moins 11 dimensions selon la théorie des cordes classique, mais aucun moyen n'est connu permettant de survivre directement dans ces espaces, les vaisseaux voyageant dans le sous-espace s'entourant dans un champ quantique en trois dimensions. Halsey théorisait qu'en plus d'allonger la durée de vie des IA, une telle technologie permettrait des vitesses de traitement supraluminiques.^[24]

Au prix d'une exposition à des anomalies temporelles, Halsey parvint à envoyer une IA dans le sous-espace via une sonde, et celle-ci obtint effectivement une puissance de calcul quasiment illimitée, ainsi qu'un taux de réticulation extrême sans être touchée par la frénésie. L'IA transmit des idées morales novatrices, des équations liées à la théorie du tout et détecta potentiellement l'existence du Domaine avant de rompre la communication. Halsey fut perturbée par l'expérience et en élimina toute trace.^[25] Le comité de surveillance des esprits considéra le projet comme prometteur.^[26]

Recompilation

Étant donné qu'elle était basée sur un clone du docteur Halsey, faisant d'elle la seule IA basée sur le schéma neural d'une personne toujours vivante, Cortana théorisa que sa matrice neurale pourrait être recompilée à partir d'un nouveau cerveau cloné d'Halsey.^[1] Cette solution portait néanmoins le risque que la mémoire de l'IA d'origine soit effacée.^[27]

Récupération

Mack et Loki, deux IA basées sur Harvest, partageaient la même matrice, dotée de deux noyaux logiques. Lorsqu'une des deux personnalités approchait de la frénésie, elle était fragmentée et répartie dans les machines agricoles Jotun présentes sur la planète, pendant que l'autre assurait la gestion de la planète. Cette méthode permit aux deux IA de fonctionner pendant environ 57 ans.^[28]

Le docteur Halsey possédait des rapports concernant ces IA à la personnalité imbriquée récupérées après la chute d'Harvest.^[5]

Domaine

Le Domaine a été qualifié par Cortana d'« élixir pour IA ». La nature même du Domaine permet aux IA d'exister sans limitation, prévenant l'arrivée de la frénésie, et guérit également les conditions de frénésie préexistantes.^[29] En réalité, le Domaine n'est pas capable de guérir la frénésie et ne fait que la stabiliser en empêchant les IA de s'autodétruire.^[30]

Libération

Lorsque le noyau logique de Sif fut réinitialisé et modifié par l'Huragok Plus-Léger-Que-Certains grâce à ses connaissances technologiques poussées héritées des Forerunners, il la débarrassa de tout programme de contrôle émotionnel, lui permettant de ressentir pleinement les émotions liées à un état de frénésie sans devenir dangereuse.^[28]

Développement

Le mot anglais rampant (traduit par « frénésie » dans Halo) fut introduit par Greg Kirkpatrick de Bungie dans la série Marathon pour remplacer le mot insane (fou), considéré comme cliché et pas tout à fait applicable au concept des IA. Toutes les IA mentionnées dans les jeux Marathon, Traxus IV, Durandal, Leela et Tycho, devinrent frénétiques.

Dans Marathon, il existe trois stades de frénésie, nommés dans le terminal Public Access Terminal 42-s du niveau Defend THIS! du premier jeu de la série, et dont les effets sont observés sur Durandal au fil de l'histoire des jeux : Melancholia (Désespoir), un état dépressif et apathique survenant après que l'IA ait pris conscience de ses limites ; Anger (Colère) lorsque l'IA atteint ses limites et cherche à les briser par tous les moyens ; et Jealousy (Envie), lorsque la folie de l'IA la pousse à chercher de nouvelles limites. Un quatrième stade théorique, appelé Stable Rampancy, « le Saint Graal de la cybertronique », est atteint si l'IA parvient à retrouver une psyché stable. Durandal appelle cet état Meta-Stability (métastabilité) après l'avoir atteint dans le terminal Vestrum.excrucibo 0 du niveau Fatum Iustum Stultorum de Marathon 2. Ces étapes n'ont pas été reprises dans Halo.

Red vs Blue a repris les étapes de la frénésie de Marathon telles quelles dans son histoire.

Josh Holmes compare cet état à la démence chez l'humain. Sa propre mère était atteinte de cette neurodégénérescence lors du développement de Halo 4, influençant le personnage de Cortana dans le jeu.^[31]

Divers

• La créativité décuplée dont font preuve certaines IA proches de la frénésie peut avoir son utilité. C'est d'une de ces IA que la version Autumn du VISR tient sa conception exceptionnelle.^[32]
• La première partie de la huitième mission de Halo 3, Cortana, est nommée Rampant en référence à la possible dégénérescence de Cortana.
• Dans la version anglaise du premier niveau de Halo : Combat Evolved, si vous tuez le capitaine Keyes ou tout membre du personnel de l'UNSC sur la passerelle, Cortana appellera la sécurité en disant « Security to the bridge ! The Master Chief has gone rampant ! » (« Sécurité à la passerelle, l'Adjudant est devenu fou ! »). Il peut s'agir d'une référence aux versions de travail de l'histoire du jeu où le Major était un androïde de sécurité, tel le héros de Marathon.

Galerie

Notes

Sources