L’intelligence artificielle présente certains dangers même dans le meilleur scénario

Quand nous parlons du futur de l’intelligence artificielle, les deux sortes de sentiments que nous rencontrons le plus souvent sont soit la méfiance soit l’apathie.  Beaucoup de personnes ont peur que le futur des robots ressemble à ce qu’on a vu dans Terminator, tandis que d’autres doutent que le progrès des arrivera loin et pensent que c’est hystérique de parler des dangers de l’intelligence artificielle. Personnellement je suis inquiet par le développement de l’intelligence artificielle et ce n’est pas parce que je crois que les avancés dans cette technologie vont sûrement ramener la fin de civilisation humaine. Ce qui m’inquiète c’est que nous n’arrivons pas à avoir un débat sérieux sur la question. Nous devrions essayer de comprendre les risques et de préparer nos sociétés aux opportunités et aux défis de cette nouvelle technologie.  Si nous ignorons ce sujet, nous risquons de faire face à un désastre, car même dans le meilleur scénario imaginable, le développement d’une intelligence artificielle générale bouleversera notre civilisation.

Quelques questions générales…

Si nous arrivons à crée une Intelligence Artificielle Générale (IAG) il sera difficile, voir impossible, de prédire son comportement. Est-ce qu’elle va nous obéir et qu’est-ce qu’elle serait capable de faire? L’IAG est potentiellement beaucoup plus dangereuse que les robots intelligents de notre imagination. L’accès à l’internet lui donnera un océan d’information à sa disposition et sa puissance de traitement lui permettra d’apprendre et de s’améliorer jusqu’à des niveaux qu’on aurait du mal à imaginer…

Essayons quand même. Essayons d’imaginer que nous arrivons à créer une machine, une IAG qui a un niveau d’intelligence qui ne dépasse pas celui d’un scientifique moyen.  Branchons quelques processeurs puissants à cet ordinateur et cette intelligence aurait à sa disposition une puissance de traitement des donnés qui fonctionne des millions de fois plus rapidement que le cerveau humain. Si nous laissons un tel logiciel travailler juste pendant quelques jours et il aura fait l’équivalent de 10,000 ans de travail intellectuel humain. Comment pouvons nous penser qu’une telle entité sera encore contente de prendre des ordres notre part? En tout cas, ça sera difficile prédire ce qu’une entité qui peut comprendre mieux le passé, le présent et le futur déciderait de faire. Est-ce que l’ordinateur partagera encore nos valeurs? Qu’elles seront ses valeurs de départ et comment allons nous nous mettre d’accord pour les définir? Est-ce qu’un groupe de 10 scientifiques fermé dans une salle ont le droit de décider le futur de l’humanité ?

Le meilleur scénario

Rien ne nous dit qu’un ordinateur super-intelligent décidera d’office qu’il veut oblitérer l’humanité et prendre le contrôle sur la Terre. Mais si nous faisons l’effort cognitif d’imaginer le meilleur scénario possible, nous allons quand même découvrir certains problèmes inconfortables. Même si l’intelligence travaille parfaitement dans le but de nous aider et de nous soulager de la grande partie de nos tâches cognitives et physiques elle causera néanmoins du chaos si nous décidons de préserver notre système politique et économique. L’automatisation supprimera en très grande partie le besoin d’utiliser la main d’œuvre humaine. Les entreprises pourront extraire et transformer les matières premières sans l’intervention des travailleurs. Les entreprises qui posséderont ce genre de technologies deviendront extrêmement riches, tandis que le reste du monde connaîtra la pauvreté totale.

Ceci est déjà en train de produire aujourd’hui même avant l’invention de IAG, l’intelligence artificielle d’aujourd’hui est en train de remplacer les humains dans une myriade de tâches cognitives et cette tendance ne va qu’accentuer. Nous devons créer un système économique qui serait capable d’assurer que ces technologies travailleront pour le bien-être de tous. Des solution comme le Revenu Universel de Base doivent être sérieusement examinées, débattues et implémentées avant que des millions de personnes n’en souffrent.

Cet article a été inspiré par les recherches de Sam Harris.

 

2 thoughts on “L’intelligence artificielle présente certains dangers même dans le meilleur scénario

  • Bonjour.

    Nous travaillons justement sur ce modéèle économique adapté à l’automatisation des activité et la future inutilité humaine dans la production.

    Mais rassurez-vous, ça n’interesse personne…

Leave a Reply

Your email address will not be published. Required fields are marked *