L’intelligence artificielle pourrait-elle être malveillante ? | Le Net Expert Informatique

L’intelligence artificielle pourrait-elle être malveillante ?

Récemment, certaines personnalités du monde scientifique, comme le physicien Stephen Hawkins, ont fait part de leurs craintes concernant les dangers de l’intelligence artificielle : “le développement d’une intelligence artificielle complète peut signifier la fin de l’espèce humaine”. 

Depuis une quinzaine d’années, on peut voir régulièrement au cinéma des films d’anticipation qui traitent de ce sujet. Dernier en date : Chappie (réalisé par Neill Blomkamp), où il est question d’un robot doté d’une « conscience », c’est-à-dire capable d’apprendre de ses interactions avec son environnement, d’avoir des émotions et de les exprimer, de s’adapter et de réutiliser des informations mémorisées. Les robots dotés d’un « esprit » et capables de « penser » comme Chappie seraient d’une certaine façon l’expression ultime de l’intelligence artificielle.

 

 

Qu’est-ce que l’intelligence artificielle ?

On pourrait définir l’intelligence artificielle comme un système informatique dont le programme tente de simuler l’intelligence humaine. Mais la première limite d’une simulation informatique de l’intelligence humaine est que celle-ci n’est qu’un concept. Il n’existe en effet aucune définition concrète de l’intelligence. Or si l’intelligence humaine n’est pas opérationnalisable, une imitation informatique de ses processus ne peut être qu’approximative.

Plus modestement, l’objectif principal de ces programmes d’intelligence artificielle est de pouvoir analyser des informations de toutes sortes et accomplir des tâches de calcul comparables à celles réalisées par des êtres humains.

De tels programmes existent déjà et leurs vitesses de calcul dépassent largement celles d’un cerveau humain. Mais ces programmes informatiques pourraient-ils devenir suffisamment puissants au point de simuler l’esprit humain, d’être doté d’une intentionnalité et d’une conscience, et de devenir un danger pour l’humanité ? Pas si sûr…

 

 

Qu’est-ce que la conscience ?

Selon le médecin Gérald M. Edelman1, la conscience humaine est l’état faisant appel à la reconnaissance par une personne de ses propres actes et émotions, dans le présent, le passé ou le futur. Grâce à sa conscience, chaque être humain peut construire des modèles cognitifs abstraits issus de ses différentes expériences sensorielles. Ces modèles peuvent être mémorisés et permettre de nouveaux apprentissages.

Soumise à la sélection naturelle, la conscience s’est développée depuis le début de l’histoire de l’humanité pour répondre aux différentes exigences de son environnement. On dit qu’elle s’est adaptée. Cette faculté d’adaptation est rendue possible par le développement et la sélection de connexions entre les neurones du cerveau.

 

 

Ce qui est à la base du fonctionnement du cerveau humain, c’est donc sa structure biologique.

 

 

Les robots peuvent-ils « penser », être dotés d’une conscience  ?

Pour envisager d’aller au-delà d’une intelligence artificielle, et concevoir une machine qui « pense », il faut donc se demander si une conscience sans biologie peut être possible. Autrement dit, pourrait-on construire une « pensée » sans les éléments constitutifs du vivant ?

Pour Gérald M. Edelman, la réponse est clairement non. Contrairement à un ordinateur, le cerveau est bâti selon des principes qui assurent la diversité et la dégénérescence. Notre conscience naît de nos échanges affectifs et des relations existant entre notre perception, la formation de concepts et notre mémoire. Selon lui, l’esprit humain est donc « incarné », c’est-à-dire qu’il est le résultat d’interactions entre le corps, le cerveau et l’environnement.

Un « ordinateur-cerveau» ne serait donc pas concevable dans la mesure où l’esprit ne peut être compris sans la biologie. C’est pourquoi l’idée qu’une machine douée de conscience soit capable de nous asservir relève encore du domaine de la science-fiction (les craintes évoquées par certains scientifiques concernant les dangers de l’intelligence artificielle ne sont d’ailleurs pas partagées par tous les chercheurs). Par contre, nous aurions raison de nous inquiéter de certains changements de nos sociétés permis par la robotique. C’est le cas par exemple des dangers des manipulations génétiques, aujourd’hui facilitées par les progrès technologiques.

 

1Edelman, G. M. (2000). Biologie de la conscience. Paris : Odile Jacob.

 

 


Expert Informatique assermenté et formateur spécialisé en sécurité Informatique, en cybercriminalité et en déclarations à la CNIL, Denis JACOPINI et Le Net Expert sont en mesure de prendre en charge, en tant qu’intervenant de confiance, la sensibilisation ou la formation de vos salariés afin de leur enseigner les bonnes pratiques pour assurer une meilleure protection juridique du chef d’entreprise.

Contactez-nous


 

Après cette lecture, quel est votre avis ?
Cliquez et laissez-nous un commentaire…

 

Source : http://blog.francetvinfo.fr/dans-vos-tetes/2015/03/23/lintelligence-artificielle-pourrait-elle-etre-malveillante.html

par Jérome Lichtle

 

 

image_pdfimage_print
Similar posts

Aucun commentaire jusqu'à présent.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

 

Abonnez-vous (Gratuit)           Restez informé sur la sécurité informatique, la protection des données personnelles et la cybercriminalité

S'inscrire :

Derniers articles

Accès direct aux Thèmes


Le Net Expert - 1, les Magnolias - 84300 Cavaillon
Contactez-nous - Newsletter - Mentions légales
Connexion à distance