[I.Asimov, F.Herbert, D.Simons, M.Shiro] l'avenir de l'Humanité ?

L'avenir de l'Humanité, la réflexion sur ce qui fait de nous des êtres humains et pas des animaux, la fusion homme-machine... tous thèmes absolument passionnants. J'aimerais avoir votre avis, donc. Les conneries, comme d'hab, seront impitoyablement ignorées

Tous les auteurs cités, sous prétexte de faire de l'anticipation, terme à la limite du péjoratif/méprisant, mènent en réalité à travers la narration d'une histoire une réflexion profonde et accessible sur ce qui fait de nous des êtres humains. En tous cas, c'est comme ça que je les perçois, moi-même personnellement.

J'ai maté "Animatrix" ce soir avec un pote, et 2 des 9 épisodes que comporte ce projet, "la seconde renaissance", m'ont évoqué pas mal des auteurs cités dans le titre du topic. Ca nous a mené à discuter des machines, du phénomène de conscience. Perso je pense que ce n'est qu'une question de temps (années, siècles ou millénaires ? là est la question) : les machines deviendront un jour conscientes.

Déjà, qu'est-ce que la conscience ? On *sent* la réponse (un mélange de "réaliser son existence par rapport à autrui" et de "mise en abîme perpétuelle dans un jeu de miroirs sans fin"), mais on ne la connait pas vraiment. Première difficulté, et de taille ! Comment savoir, en effet, si la machine pourra un jour éprouver qqchose que nous-mêmes ne savons pas définir !

Du coup, comment peut-on prétendre être conscients ? N'est-ce pas seulement l'illusion de la conscience ? Ne sommes-nous pas prétentieux, pour nous prendre pour autre chose qu'un simple assemblage organique destiné à se reproduire ? Car mon pote me répliquait : "oui mais la machine est programmée, et si sa conscience n'est qu'un programme qui lui dit d'être consciente, alors ce n'est pas une vraie conscience. La vraie conscience nécessite *par essence* l'autonomie". Mais qui nous dit que nous sommes bien autonomes ? Les ordres donnés par la génétique (croitre, se multiplier, toujours plus) ne sont-ils pas comme les ordres donnés par un programmeur aux registres d'un processeur ?

Ceci dit, ça fait partie des hypothèses invérifiables (style "la lune existe-t-elle quand je la regarde pas ?" ou "la lumière du frigo est-elle allumée quand je ferme la porte ?  ), le genre de prise de tête qu'il convient d'évacuer rapidos sous peine de tourner en rond pendant 150 ans.

Donc, il faut poser un postulat. Le postulat est le suivant : nous sommes conscients car nous existons et nous le savons.

A partir de là, on peut se poser d'autres questions, et celle qui m'intéresse est : la machine, notre création, sera-t-elle capable un jour de devenir consciente ?

Moi je pense que oui. Je pense que la conscience est un phénomène certes complexe, mais totalement lié à son support matériel. Notre cerveau est extrêmement complexe et a donc permis l'émergence de ce phénomène extraordinairement subtil et puissant qu'est la conscience. La meilleure preuve de l'existence de la conscience est, selon moi, qu'elle est fondamentalement inutile : elle est même plutôt un boulet selon le schéma évolutionniste du "croître toujours plus", puisqu'elle engendre d'innombrables blocages liés à la culture, l'éducation, les habitudes, les névrose, les maladies mentales. La conscience est une aberration. Une mutation néfaste qui aurait dû disparaître, selon Darwin. Si elle perdure, c'est qu'une évolution parallèle à l'évolution purement génétique est apparue. Et c'est donc que ce phénomène de conscience existe, puisque son évolution répond désormais à des critères propres. Donc voilà, pour moi cet argument suffit : la conscience existe et nous en sommes dotés.

Et maintenant, quid des machines ? Et bien je pense qu'il s'agit, comme je le disais plus haut avant de partir en live en digression, d'une question de substrat, en premier lieu. Il faut que le support soit suffisamment complexe. Par "support" je n'entends pas forcément matériel, mais aussi logiciel, de toute façon les deux ne sont pas séparés, cf. les matériels dédiés à certaines fonctions logicielles (effets graphiques se réalisant en "câblé") et certains logiciels faisant office de matériel (émulateurs). Mais actuellement, le matériel me semble trop faible (quant à sa puissance et à son principe physique de fonctionnement) et le logiciel... voilà la question.

J'ai lu un article dans Le Monde, il y a quelques années. Un type, chercheur brillant en intelligence artificielle, racontait cette expérience où deux programmes étaient conçus pour se répliquer un maximum dans un espace-mémoire dédié. Ils allaient donc se livrer à une "guerre". A priori, que du prévu, du mathématique, la machine servant de substrat étant entièrement contrôlée par ses créateurs, et par nature son fonctionnement est totalement déterministe. Et pourtant : c'était sans compter avec les... bugs ! Au fur et à mesure des copies successives sont apparus des bugs assimilables à des mutations darwiniennes. Les programmes bugués en mal disparaissaient, ceux bugués en bien se multipliaient. A la fin de l'expérience, le programme final était plus petit que le programme conçu à l'origine, le hasard des bugs l'avait optimisé sans aucune intervention humaine !!

C'est très fort je trouve : reproduire une mini-évolution sur qqchose d'aussi simplissime (par rapport à la nature) qu'un ordinateur !

C'est cette expérience, notamment, qui me fait penser que oui, un jour, la machine accèdera à la conscience, de façon totalement autonome.

Mais dans combien de temps ?