Article contributeur

L’ordinateur nous échappe-t-il?

Le «match» pour la suprématie entre l’homme et la machine est ouvert et attire beaucoup d’intérêt. Par Nicolas Capt et Xavier Comtesse

Keystone
Si l’on regardait sous l'angle de la perte de contrôle de l’homme sur la machine, on se rapproche du mythe Frankenstein!

Les cybernéticiens des années 1950, notamment ceux de la conférence Macy comme Norbert Wiener ou John von Neumann ambitionnaient de donner corps à une théorie émergente de la communication et du contrôle des fonctions cognitives chez les animaux et les machines*. Cette approche révolutionnaire prêtait au rêve. L’intelligence artificielle (IA) était née. Les performances époustouflantes de l’IA impressionnaient tellement l’homme que, dès lors, on n’a pas cessé de comparer la machine à l’homme.

Le test de Turing d’abord – c’est-à-dire l’incapacité dans un dialogue virtuel de distinguer si l’interlocuteur est un homme ou une machine. Dans ce genre d’idée, le journal Libération a publié le 22 novembre l’interview d’une IA. Le résultat a été d’une grande qualité. Déjà en septembre de cette année, The Guardian avait fait rédiger un article par une IA. Il faut dire que ces deux essais furent totalement bluffant.

Le test de Gordon Gallup ensuite – celui du miroir pour déterminer si un animal à une conscience ou non- et qui donnera la distinction si importante aujourd’hui entre IA faible (sans conscience) et IA forte (avec conscience). Mais aussi le concept de singularité qui déterminerait un dépassement de l’homme par la machine… bref le «match» pour la suprématie entre l’homme et la machine semble ouvert et attirer beaucoup d’intérêt.

Et pourtant si l’on regardait sous un autre angle, sous celui de l’éloignement ou plus précisément de la perte de contrôle de l’homme sur la machine, on se rapproche du mythe Frankenstein! En d’autres termes, est-ce que l’ordinateur et ses logiciels d’IA ne vont-ils pas nous échapper un jour? Comment? Quand?

L’ordinateur et ses logiciels d’IA ne vont-ils pas nous échapper un jour?

Une annonce récente de l’entreprise californienne OpenAi pourrait bien confirmer ces craintes. En effet le Codex d’OpenAI permet désormais à une IA de programmer à notre place. Cela signifie qu’un programme «programme»! Il suffirait d’introduire une ou deux itérations supplémentaires et voilà que la chose (l’IA) nous échapperait. Ce n’est pas encore le cas mais c’est sans aucun doute la prochaine étape.

La question n’est plus de savoir si l’ordinateur nous sera un jour supérieur mais à quel moment il va nous échapper.

* Cybernetics: Or the Control and Communication in the Animal and the Machine, Norbert Wiener, 1961

Commentaires

Xavier Comtesse

Mathématicien et membre du Think Tank CODE_IA

Nicolas Capt

avocat aux Barreaux de Genève et Paris, spécialiste du droit des médias et des technologies