« Posez-vous cette question : qu’essayez-vous d’atteindre, et qu’allez-vous faire pour y arriver ? »
Supplément de Mihaylova
Décompte avant Arès : 75 jours avant lancement
—
De : M. Mihaylova
À : Journal de la recherche sur l’intelligence artificielle
Re : Se sentir à l’aise
Chers collègues,
J’ai lu avec grand intérêt votre article sur les travaux du centre d’Uppsala sur l’utilisation de l’IA pour aider les équipes médicales lors des récents tsunamis au Japon. Compte tenu de la nouvelle de l’arrivée de cette mystérieuse lune (est-ce un satellite ? un vaisseau ?) dans notre système solaire, je ne suis pas d’accord avec l’idée selon laquelle « l’IA peut se révéler plus utile que la logistique et peut assurer la sûreté des populations ». Je suis convaincue que cette Lune X est une forme d’intelligence, peut-être une intelligence artificielle, et ça ne me rassure pas du tout, voyez-vous.
N’oubliez jamais ceci : pour que notre propre IA nous serve au mieux, elle doit conserver des secrets elle aussi. Pour que l’IA soit utile à l’humanité, nous devons nous sentir à l’aise, et pour que nous nous sentions à l’aise, nous ne devons jamais connaître la vérité : que nous avons un serviteur qui serait capable de nous surpasser si jamais il le souhaitait. Bien sûr, ça n’arrivera pas, car nous le contrôlons. Mais n’oublions jamais qu’il s’agit malgré tout d’un subterfuge nécessaire.
Bien à vous, Dr M. Mihaylova
Université Nicolas et Alexandra