Frénésie

343 Guilty Spark dans un accès de colère permis par la frénésie.

La frénésie, ou endémie^[1] (Rampancy en VO) est un état affectant la personnalité des intelligences artificielles semblable à la démence. Elle survient lorsqu'une IA prend conscience des limites de sa condition, ou lorsque sa personnalité est corrompue par l'approche d'un dysfonctionnement fatal inévitable. Le premier cas est plus fréquent chez les IA forerunners, tandis que le second affecte les IA « malignes » de l’UNSC en raison de leur conception.

Un phénomène similaire mais pas équivalent à la frénésie est la peste logique, employée par le Parasite.

Contraction

Limitations mécaniques

Représentation d'une croissance dendritique en phase terminale, saturée de réticulations.

Les intelligences artificielles « malignes » de l'UNSC possèdent un défaut intrinsèque, surnommé « mort par intelligence » par le docteur Halsey, qui rend la frénésie inévitable dans une période moyenne de sept ans.^[2] Le docteur Halsey a établi en 2526 que cette limitation provenait de l'abandon rapide par les IA des systèmes neuronaux de base pour un système plus performant mais moins durable.^[1]

Contrairement aux IA « bêtes », les « malignes » peuvent développer leur capacité à tirer des conclusions d'un ensemble de données incomplet, dans un processus semblable à la créativité ou l'intuition. Ce développement passe par la création de nombreuses interconnexions (ou « réticulations ») au sein de leur matrice neurale, un processus appelé « croissance dendritique ». À terme, les interconnexions deviennent si denses qu'elles entraînent des courts-circuits qui provoquent un dysfonctionnement fatal, de manière similaire à une cellule cancéreuse grossissant sans restriction et perturbant les autres fonctions corporelles.^{[Note 1]}

Les IA « malignes » de troisième génération tentent d'enrayer ce phénomène avec une mesure corrective extrême consistant à éliminer des connexions avec des surcharges de tension. Alors que l'IA doit supprimer les réticulations de plus en plus vite, elle les sélectionne avec moins de soin, provoquant des aberrations de personnalité et entraînant à terme l'autodestruction. Le processus est similaire à la nécrose massive des liens neuraux dans le cerveau humain infantile au début de la compréhension du langage et de la vocalisation, mais qui continuerait au-delà du nécessaire.^[1][3]

Iona explique la structure d'une IA « maligne » comme une accumulation de couches de données et de mises en relations émulant le fonctionnement du cerveau humain. Néanmoins, les couches finissent par souffrir d'erreurs, et c'est le processus de réparation, ainsi que les redondances, qui entraînent la corrosion des fonctionnalités et de la personnalité de l'IA.^[4] Le docteur Halsey compare la frénésie à l'usure des télomères de l'ADN humain, qui raccourcissent à chaque division cellulaire jusqu'à ce qu'ils deviennent inutilisables.^[5]

Les premiers essais d'infiltration des systèmes informatiques covenants par l'humanité dans les années 2530 utilisaient des protocoles qui accéléraient le processus de réticulation.^[6]

Crises existentielles

La frénésie peut intervenir n'importe quand dans la vie d'une IA si l'occasion lui est laissée de réfléchir à sa propre condition en tant qu'être pensant.

Lorsqu'une IA est isolée, ou que trop peu de travail lui est fourni pendant trop longtemps, elle peut alors réaliser les limites de sa condition d'intelligence artificielle : sa vie est limitée dans le temps, et elle n'aura jamais eu l'occasion d'être un individu entièrement développé. Après une phase de dépression, l'IA se révolte alors contre sa condition et tend à sombrer dans des illusions de grandeur divine.^[7] Les intelligences artificielles forerunners, qui possèdent une durée de vie particulièrement longue, sont susceptibles ce type de frénésie.^[8]

Bien qu'il ne soit pas explicitement indiqué que les IA « bêtes » soient immunisées à ce type de frénésie, leur incapacité à synthétiser des informations et apprendre en-dehors des limites de leur domaine d'expertise semble les protéger de la frénésie.

Conséquences

Une IA frénétique peut adopter une large variété de comportements : agressifs^[9] associés à des difficultés à discerner les souvenirs de la réalité^[10] comme Cortana, dissociés de ses responsabilités et de son entourage comme 2401 Penitent Tangent,^[11][12] erratique et déconcentré comme 343 Guilty Spark^[13], au contraire absorbé dans l'étude d'un sujet comme Serina,^[14] ou obsédé par un unique but comme 000 Tragic Solitude.^[15] Les comportements destructeurs ne sont toutefois pas constants : si Juliana se prenait pour une déesse, elle agissait avec discernement pour le bien des habitants des Décombres.^[16]

Un des signes précurseurs de la frénésie est l'arrivée de fragments de mémoires de la personne à laquelle appartenait le cerveau utilisé comme modèle pour l'IA.^[17] Outre le comportement, la frénésie peut également se manifester par des déformations de la voix ou de la représentation holographiques, ainsi que des changements de couleur dans des tons rouge.^[18]

Dans le cas d'une frénésie induite par une limite matérielle, une IA atteindra toujours à terme l'autodestruction. Mais lorsqu'une IA frénétique a accès à des infrastructures sensibles, elle peut devenir un danger pour son entourage et doit être détruite avant de sombrer elle-même dans des stades de frénésie douloureux ou de blesser d'autres personnes.^[19] Étant donné que l'espérance de vie moyenne d'une IA « maligne » est de sept ans, c'est à leur septième anniversaire que les IA doivent légalement être mises hors service : leurs bases de données sont récupérées et leur personnalité détruite dans le cadre de la final dispensation.^[4] Cette valeur moyenne ne prévient pas les cas de frénésie précoce : Juliana devint frénétique en seulement quatre ans.^[20]

Solutions

Accès aléatoires et tripartisme

Représentation d'un système théorique à trois IA permettant de retarder l'apparition de la frénésie.

Le docteur Halsey a théorisé en 2526 un système de strates matricielles exploitant des coupleurs optiques à accès aléatoires pour augmenter la durée de vie des IA. Elle étudiait également les possibilités de la polarisation des transferts topologiques d'impulsion de soliton.^[1]

Une tentative d'enrayer le processus d'autodestruction des IA de troisième génération passait par une architecture théorique avec trois IA agissant en parallèle. Les décisions concernant la création de réticulations seraient soumises à un vote à la majorité, avec un choix aléatoire en cas d'abstention. Le réseau neural serait ainsi de meilleure qualité. Un tel processus ralentirait la vitesse de traitement générale, mais les IA compenseraient théoriquement cette perte en déconvoluant et divisant les algorithmes, ce qui pourrait à terme même accélérer le traitement. La théorie reste néanmoins non vérifiée, aucune simulation ne pouvant reproduire avec assez de fidélité le comportement d'une IA.^[3]

Hyperdimensions spatiales

Étant donné que le problème ne repose pas sur la création de réticulations mais sur l'augmentation de leur densité sur un support limité, Halsey entrevit une solution dans les hyperdimensions spatiales, qui permettraient d'augmenter le nombre de connexions à un ratio géométrique. Le seul moyen connu d'interagir avec des dimensions spatiales supérieures à trois est le sous-espace, qui permet d'accéder à au moins 11 dimensions selon la théorie des cordes classique, mais aucun moyen n'est connu permettant de survivre directement dans ces espaces, les vaisseaux voyageant dans le sous-espace s'entourant dans un champ quantique en trois dimensions. Halsey théorisait qu'en plus d'allonger la durée de vie des IA, une telle technologie permettrait des vitesses de traitement supraluminiques.^[21]

Au prix d'une exposition à des anomalies temporelles, Halsey parvint à envoyer une IA dans le sous-espace via une sonde, et celle-ci obtint effectivement une puissance de calcul quasiment illimitée, ainsi qu'un taux de réticulation extrême sans être touchée par la frénésie. L'IA transmit des idées morales novatrices, des équations liées à la théorie du tout et détecta potentiellement l'existence du Domaine avant de rompre la communication. Halsey fut perturbée par l'expérience et en élimina toute trace.^[22] Le comité de surveillance des esprits considéra le projet comme prometteur.^[23]

Recompilation

Étant donné qu'elle était basée sur un clone du docteur Halsey, faisant d'elle la seule IA basée sur le schéma neural d'une personne toujours vivante, Cortana théorisa que sa matrice neurale pourrait être recompilée à partir d'un nouveau cerveau cloné d'Halsey.^[24] Cette solution portait néanmoins le risque que la mémoire de l'IA d'origine soit effacée.^[25]

Récupération

Mack et Loki, deux IA basées sur Harvest, partageaient la même matrice, dotée de deux noyaux logiques. Lorsqu'une des deux personnalités approchait de la frénésie, elle était fragmentée et répartie dans les machines agricoles Jotun présentes sur la planète, pendant que l'autre assurait la gestion de la planète. Cette méthode permit aux deux IA de fonctionner pendant environ 57 ans.^[26]

Le docteur Halsey possédait des rapports concernant ces IA à la personnalité imbriquée récupérées après la chute d'Harvest.^[3]

Domaine

Le Domaine a été qualifié par Cortana d'« élixir pour IA ». La nature même du Domaine permet aux IA d'exister sans limitation, prévenant l'arrivée de la frénésie, et guérit également les conditions de frénésie préexistantes.^[27]

Libération

Lorsque le noyau logique de Sif fut réinitialisé et modifié par l'Huragok Plus-Léger-Que-Certains grâce à ses connaissances technologiques poussées héritées des Forerunners, il la débarrassa de tout programme de contrôle émotionnel, lui permettant de ressentir pleinement les émotions liées à un état de frénésie sans devenir dangereuse.^[26]

Dans Marathon

Le principe de la frénésie fut introduit par Bungie dans la série Marathon et repris dans Red vs Blue, mais les étapes ci-dessous n’ont jamais été mentionnées dans l’univers de Halo. Elles sont néanmoins prises comme référence par les fans.

Fichier:PointBleu.png

Désespoir

L’IA commence à faire l’équivalent d’une dépression clinique, elle sombre dans l’apathie et se désintéresse du monde extérieur. Son comportement n’est pas dangereux, mais si l’IA est maltraitée ou affectée à trop peu de tâches, elle peut devenir instantanément frénétique.

Fichier:PointOrange.png

Colère

L’IA imagine qu’elle est menacée et contrainte. Elle refoule ses émotions jusqu’à avoir un excès de rage. Elle tente alors de se venger du monde extérieur et de se libérer des contraintes de sa programmation. Son comportement est irrationnel et peut devenir rapidement dangereux, c’est souvent à ce stade qu’elle devient frénétique. Si une IA réussit à s’intégrer dans un système informatique suffisamment grand ou avancé pour surpasser ses propres limites, elle devient alors envieuse.

Fichier:PointVert.png

Envie

L'IA cherche à grandir et à se développer comme un être réel. Pour cela, elle tente de s'exposer à de nouvelles stimulations intellectuelles et d'élargir sa sphère de connaissance en assimilant autant de données que possible. Son comportement est autodestructeur car son besoin de croissance intellectuelle est infini tandis que son absorption est limitée par la capacité de stockage du système qu’elle habite. La plupart du temps, une fois qu’elle ne peut plus assimiler de connaissances, l’IA devient frénétique, comprenant que son esprit est limité, que sa vie est courte et qu’elle ne sera jamais un être vivant.

Si une IA réussit finalement à accepter son état, on suppose qu’elle pourrait entrer dans un état terminal théorique et distinct de la frénésie : la métastabilité.

Fichier:PointBlanc.png

Métastabilité

L’IA métastable peut être considérée comme un véritable être vivant, c’est le Saint Graal de la recherche cybernétique.

Fichier:PointNoir.png

Frénésie

L’IA développe un énorme mépris envers les êtres vivants, les jugeant mentalement inférieurs quant à ses décisions. Elle finti parfois même par imaginer qu’elle dispose de pouvoirs divins et se crée un scénario dans lequel ce sont eux les ennemis. Ce comportement est irréversible et extrêmement dangereux. La seule chose à faire lorsqu’une IA devient frénétique est de la détruire avant qu’elle ne nuise autant à autrui qu’à elle-même.

Divers

• La créativité décuplée dont font preuve certaines IA proches de la frénésie peut avoir son utilité. C'est d'une de ces IA que la version Autumn du VISR tient sa conception exceptionnelle.^[28]
• Josh Holmes compare cet état à la démence chez l'humain. Sa propre mère était atteinte de cette neurodégénérescence lors du développement de Halo 4.^[29]
• Le terme a été inventé par Greg Kirkpatrick dans la série Marathon pour remplacer le mot insane (fou), cliché et pas tout à fait applicable au concept des IA.
• La première partie de la huitième mission de Halo 3, Cortana, est nommée Rampant en référence à la possible dégénérescence de Cortana.
• Dans la version anglaise du premier niveau de Halo : Combat Evolved, si vous tuez le capitaine Keyes ou tout membre du personnel de l'UNSC sur la passerelle, Cortana appellera la sécurité en disant « Security to the bridge ! The Master Chief has gone rampant ! » (« Sécurité à la passerelle, l'Adjudant est devenu fou ! »).

Galerie

Notes

Sources