Différences entre les versions de « Frénésie »

Après qu’elle ait dépassé son espérance de vie moyenne, ou lorsqu’elle est laissée seule trop longtemps sans tâches à effectuer ou sans interlocuteur, une IA finit par décliner progressivement, en passant par trois étapes bien délimités, menant fatalement à son état terminal, « Rampancy » (La Dégénérescence).

Les différentes étapes

« Despair » (Le Désespoir)

L'IA commence à faire l’équivalent d’une dépression clinique, elle sombre dans l’apathie et se désintéresse du monde extérieur.

Son comportement n’est pas dangereux, mais si l’IA est maltraîtée ou affectée à trop peu de tâches, elle peut passer directement à « Rampancy ».

« Rage » (La Colère)

L’IA imagine qu’elle est menacée et contrainte… elle refoule ses émotions jusqu’à avoir un excès de rage.

Elle tente alors de se venger du monde extérieur et de se libérer des contraintes de sa programmation.

Son comportement est irrationnel et peut devenir rapidement dangereux, c’est souvent depuis cette étape qu’elle passe à « Rampancy ».

Si une IA réussit à s’intégrer dans un système informatique suffisamment grand ou avancé pour surpasser ses propres limites, elle passe alors à l’étape de l'Envie.

« Envy » (L’Envie)

L’IA cherche à grandir et se développer comme une personne réelle.

Pour cela, elle tente de s'exposer à de nouvelles stimulations intellectuelles et d'élargir sa sphère de connaissance, en assimilant autant de données que possible.

Son comportement est auto-destructeur, car son besoin de croissance intellectuelle est infini alors que son absorption est limitée par la capacité de stockage du système qu’elle habite.

La plupart du temps, une fois qu’elle ne peut plus assimiler plus de connaissances, l’IA passe à « Rampancy », comprenant que son esprit est limité, que sa vie est courte et qu’elle ne sera jamais humaine.

Si une IA réussit finalement à accepter son état, on suppose qu’elle pourrait entrer dans un état terminal théorique et distinct de « Rampancy » : la Métastabilité.

« Metastability » (La Métastabilité)

L’IA métastable peut être considérée comme un véritable être humain, c’est le Saint Graal de la recherche cybernétique.

On suppose que seuls Cortana et Mendicant Bias ont atteint cet état.

« Rampancy » (La Dégénérescence)

L’IA dégénère en comprenant que son esprit est limité, que sa vie est courte et qu’elle ne sera jamais humaine.

Elle devient alors une IA « rampant » (dégénérée) et développe un énorme mépris envers les humains, les jugeant mentalement inférieurs quant à ses décisions.

Certaines IA finissent même par imaginer qu’elles disposent de pouvoirs divins et se créent un scénario dans lequel les humains sont les ennemis.

Son comportement est irréversible et très dangereux.

La seule chose à faire lorsqu’elle atteint cet état est de la détruire avant qu’elle ne nuise autant à autrui qu’à elle-même.

Divers

• Le terme a été inventé par Greg Kirkpatrick pour remplacer le mot « insane » (fou), cliché et pas tout à fait applicable au concept des IA.

• La première partie de la huitième mission, Cortana, est nommée « Rampant » pour désigner la possible dégénérescence de Cortana.

• Dans la version anglaise du premier niveau de Halo Combat Evolved, si vous tuez le capitaine Keyes ou tout membre du personnel du CSNU sur la passerelle, Cortana appelera de la sécurité en disant « Security to the bridge ! the Master Chief has gone rampant ! » (Sécurité demandée à la passerelle ! L'Adjudant est devenu dégénéré !)

• L’utilisation du terme « dégénérescence » pour traduire correctement « Rampancy » a été découverte par Karibou.

Modèle:Intelligence artificiellev2