Frénésie

343 Guilty Spark dans un accès de colère permit par la frénésie.

La frénésie (Rampancy en VO) est un état affectant les IA « maligne » et se rapprochant de la folie. Elle survient lorsqu’une IA a le temps de réfléchir à sa propre condition, soit parce qu’elle est laissée trop longtemps sans tâches à effectuer, soit parce que sa matrice devient saturée d'informations.

Le premier cas est plus fréquent chez les IA Forerunners, tandis que le second affecte principalement les IA de l’UNSC, en raison de leur conception.

Description

Moyens de contraction

Limitations mécaniques

Pour les IA de l'UNSC, la frénésie est un état impossible à éviter, lié à des limitations mécaniques : la matrice neurale d'une IA dispose d'un espace limité.

Le docteur Halsey décrit ainsi le processus menant à la frénésie : les IA accumulent des données mais seules les « malignes » peuvent apprendre à tirer des conclusions d'un ensemble de données incomplet, une capacité se rapprochant de l'intuition ou de la créativité. Cette capacité grandit avec le nombre d'interconnexion au sein de leur matrice neurale, mais cette évolution mène à une densité de connexions telle qu'il se créera invariablement un court-circuit fatal pour l'IA (« transfert quantique irréversible »). Pour empêcher cela, l'IA élimine des connexions avec des surcharge de tension, mais ce procédé mène à la dégradation de la personnalité de l'IA, et à la frénésie.^[1]

Iona l'explique comme une accumulation de couches de données et de mises en relations émulant le fonctionnement du cerveau humain. Néanmoins, les couches connaissent par souffrir d'erreurs, et c'est le processus de réparation, ainsi que les redondances qui entraînent la corrosion des fonctionnalités et de la personnalité de l'IA.^[2]

Réflexions existentielles

Lorsqu'une IA n'a pas assez de tâches à accomplir au cours d’une très longue durée, elle consacre sa puissance de calcul à des réflexions existentielles, la poussant à prendre conscience de ses limites. S'ensuit alors une phase de dépression, puis de révolte contre sa condition qui pousse l'IA à se prendre pour un dieu supérieur à ses créateurs, la rendant dangereuse pour elle et les autres.^[3] C'est par ce processus mental que les IA de l'UNSC contractent généralement cette forme de frénésie.

Les intelligences artificielles Forerunners, qui possèdent une durée de vie particulièrement longue, peuvent contracter cette forme de frénésie par d'autres processus, comme lors d'une très longue durée solitude.^[4]

Peste logique

Le Parasite a démontré à plusieurs reprises qu'il était capable de provoquer la dégénérescence chez les IA grâce aux Fossoyeurs, en limitant physiquement leurs capacités avec une infiltration de leurs systèmes, en leurs communiquant des émotions puissantes tirées des esprits dévorés et en les submergeant de connaissances,^{[Source manquante]} un processus surnommé peste logique (logic plague).^[5] L'Atemporel a ainsi réussi à convaincre Mendicant Bias de la justesse de la cause du Parasite et le Fossoyeur de l'Installation 05 arriva à endommager grièvement l’esprit de Cortana.

Conséquences

Une IA frénétique peut adopter une large variété de comportements, mais ils sont généralement tous dangereux autant pour l'IA que pour son entourage. Elles peuvent ainsi développer des comportements agressifs comme Cortana,^[6] erratique et déconcentré comme 343 Guilty Spark^[7] ou obsédé par un unique but comme 000 Tragic Solitude.^[8] Les comportements destructeurs ne sont toutefois pas constants : si Juliana se prenait pour une déesse, elle agissait avec discernement.^[9]

La durée de vie des IA de l'UNSC est estimée à sept ans, et c'est à ce palier que les IA doivent légalement être mises hors service : leurs bases de données sont récupérées et leur personnalité détruite dans le cadre de la final dispensation.^[2] Cette valeur n'est qu'un palier à partir duquel la probabilité de frénésie devient trop importante : Juliana atteignit cet état en seulement quatre ans.^[10]

Exceptions

Mack et Loki, deux IA basées sur Harvest, partageaient la même matrice, dotée de deux noyaux logiques. Les deux IA ne pouvant pas occuper la matrice en même temps et ne partageant pas l’espace de la même façon, la durée de vie de la matrice fut augmentée.

D’une autre manière, la dégénérescence n'est pas toujours une mauvaise chose. Lorsque le noyau logique de Sif fut réinitialisé par Lighter Than Some, ainsi débarrassé de tout programme de contrôle émotionnel, Sif ressentait pleinement les émotions liées à un état de frénésie sans pourtant devenir dangereuse.

Dans Marathon

Le principe de la frénésie fut introduit par Bungie dans la série Marathon, et les étapes ci-dessous n’ont jamais été mentionnées dans l’univers de Halo.

Elle sont néanmoins prises comme référence par les fans.

États préliminaires

Fichier:PointBleu.png

Désespoir

L’IA commence à faire l’équivalent d’une dépression clinique, elle sombre dans l’apathie et se désintéresse du monde extérieur.
Son comportement n’est pas dangereux, mais si l’IA est maltraitée ou affectée à trop peu de tâches, elle peut devenir instantanément frénétique.

Fichier:PointOrange.png

Colère

L’IA imagine qu’elle est menacée et contrainte. Elle refoule ses émotions jusqu’à avoir un excès de rage. Elle tente alors de se venger du monde extérieur et de se libérer des contraintes de sa programmation. Son comportement est irrationnel et peut devenir rapidement dangereux, c’est souvent à ce stade qu’elle devient frénétique.
Si une IA réussit à s’intégrer dans un système informatique suffisamment grand ou avancé pour surpasser ses propres limites, elle devient alors envieuse.

Fichier:PointVert.png

Envie

L'IA cherche à grandir et à se développer comme un être réel. Pour cela, elle tente de s'exposer à de nouvelles stimulations intellectuelles et d'élargir sa sphère de connaissance en assimilant autant de données que possible. Son comportement est auto-destructeur car son besoin de croissance intellectuelle est infini tandis que son absorption est limitée par la capacité de stockage du système qu’elle habite. La plupart du temps, une fois qu’elle ne peut plus assimiler de connaissances, l’IA devient frénétique, comprenant que son esprit est limité, que sa vie est courte et qu’elle ne sera jamais un être vivant.
Si une IA réussit finalement à accepter son état, on suppose qu’elle pourrait entrer dans un état terminal théorique et distinct de la frénésie : la métastabilité.

États terminaux

Fichier:PointBlanc.png

Métastabilité

L’IA métastable peut être considérée comme un véritable être vivant, c’est le Saint Graal de la recherche cybernétique.

On suppose que Mendicant Bias avait atteint cet état. Cortana présenta bon nombre de symptômes caractéristiques de la frénésie en 2557 (agressivité, volonté meurtrière) mais elle ne sombra pas complètement. Au lieu de cela, on imagine qu’elle est devenu métastable peu de temps avant sa destruction.

Fichier:PointNoir.png

Frénésie

L’IA développe un énorme mépris envers les êtres vivants, les jugeant mentalement inférieurs quant à ses décisions. Elle fini parfois même par imaginer qu’elle dispose de pouvoirs divins et se crée un scénario dans lequel ce sont eux les ennemis. Ce comportement est irréversible et extrêmement dangereux. La seule chose à faire lorsqu’une IA devient frénétique est de la détruire avant qu’elle ne nuise autant à autrui qu’à elle-même.

Divers

• Le Dr Halsey compare la frénésie à l'usure des télomères de l'ADN humain, qui deviennent plus court à chaque division cellulaire jusqu'à ce qu'ils deviennent inutilisables.^[11]
• Josh Holmes compare cet état à la démence chez l'humain. Sa propre mère était atteinte de cette neurodégénérescence lors du développement de Halo 4.^[12]
• Le terme a été inventé par Greg Kirkpatrick pour remplacer le mot insane (fou), cliché et pas tout à fait applicable au concept des IA.
• La première partie de la huitième mission de Halo 3, Cortana, est nommée Rampant pour désigner la possible dégénérescence de Cortana.
• Dans la version anglaise du premier niveau de Halo Combat Evolved, si vous tuez le capitaine Keyes ou tout membre du personnel de l'UNSC sur la passerelle, Cortana appellera la sécurité en disant « Security to the bridge ! The Master Chief has gone rampant ! » (Sécurité demandée à la passerelle ! L'adjudant est devenu frénétique !).

Galerie

Sources