L'intelligence artificielle, accessible à tous ? Un risque à surveiller de près

Des milliardaires comme Elon Musk investissent dans le futur de l'intelligence artificielle, afin qu'elle soit ouverte à tous. Un centre de recherche a notamment été lancé il y a quelques jours pour développer ces technologies et les rendre accessibles au plus grand nombre. Pari risqué ou moyen de mieux contrôler un danger prévisible ? Décryptage de notre chroniqueur Jean-Paul Fritz.

 

L'intelligence artificielle doit-elle être accessible à tous ? (Flickr/GLAS-8/CC)

L'intelligence artificielle effraie. Imaginer qu'un jour des êtres mécaniques puissent s'approprier l'avantage que l'humanité possède sur son environnement, l'intelligence, laisse présager qu'un jour nous pourrions être remplacés par des créatures plus solides, insensibles à la faim, à la maladie, au vieillissement... Des créatures que nous aurions construites. La science-fiction regorge de ces avenirs périlleux, où les machines intelligentes deviennent le risque majeur pour les êtres humains, des réplicants de "Blade Runner" à l'ordinateur militaire Joshua de "Wargames" en passant par le HAL de "2001 l'Odyssée de l'Espace".

La peur de l'intelligence artificielle n'est pas l'apanage de ceux qui ne connaissent rien à la science et à la technologie. Elle est partagée par des esprits de tout premier plan, comme le physicien Stephen Hawking, le fondateur de Microsoft, Bill Gates, ou le patron de Tesla Motors et SpaceX, Elon Musk. Ce dernier vient de s'associer à une initiative visant au développement des recherches sur l'intelligence artificielle. Un paradoxe ? Non, car il s'agit de rendre les recherches en la matière accessibles à tous.

Intelligence, conscience... quelles différences ?

Il est déjà difficile de donner une définition de la vie sur laquelle tout le monde s'accorde, alors peut-on vraiment quantifier l'intelligence d'une machine ? 

Aujourd'hui, l'intelligence artificielle permet déjà d'identifier des voix et des visages, de répondre à des questions... On peut considérer que des "assistants personnels" comme le Siri d'Apple ou le "Google Voice Search" sont des formes primitives d'intelligence artificielle, sans avoir pour autant d'attributs de la conscience.

 

La question ne se pose pas encore : aucune machine, aucun programme, n'a encore approché ce stade. Mais avec l'avènement des ordinateurs quantiques, qui devraient permettre une extension des capacités des machines, où ira-t-on ?

Le test de Turing : la barrière à (ne pas) franchir ?

Des tentatives sont cependant effectuées pour distinguer l'intelligence humaine de celle de la machine, et déterminer quand la seconde pourra égaler la première.

 

Le test défini par Alan Turing et ses diverses modifications sont une bonne base en ce domaine. Schématiquement, il s'agit d'un "test de conversation" par écrit : les participants ignorent à qui ils ont affaire, et l'ordinateur doit convaincre au moins un tiers d'entre eux qu'ils sont en train de dialoguer avec un être humain. Le test de Turing a connu depuis de nombreuses déclinaisons, qui tentent de s'adapter à l'évolution des machines.

On a vu des ordinateurs composer de la musique et de la poésie, sans pour autant être capables d'imagination. Les frontières de la conscience sont difficiles à cerner, pas davantage que les qualités humaines (émotions, empathie, sagesse...).

 

Le test de Turing n'est donc qu'une première étape, qui montre qu'une machine a atteint une complexité de programmation suffisante pour imiter un comportement humain. Ce que l'on constate, en revanche, c'est que la complexité des machines est en pleine croissance : ainsi, la semaine dernière, un programme informatique a pu apprendre et reproduire des caractères écrits sans que l'on puisse distinguer s'il s'agissait ou non d'un humain.

Qu'en sera-t-il demain ?

Les recherches accessibles à tous ?

L'inquiétude manifestée par certains face aux progrès présents et à venir de l'intelligence artificielle ne s'arrête pas à de grandes déclarations.

 Ainsi, une société à but non lucratif, OpenAI, a été créée aux États-Unis, et a reçu le soutien financier de personnalités comme Elon Musk. OpenAI a même "débauché" un ingénieur de premier plan de Google, Ilya Sutskever, pour diriger ses recherches.

 La philosophie de cette nouvelle structure, qui veut être à la pointe des développements de l'intelligence artificielle ? L'accessibilité par tous. Les recherches d'OpenAI seront en effet disponibles en Open Source, un mode de partage des données qui permet à tous d'avoir accès au code informatique, de l'améliorer (en continuant à le partager) et à l'utiliser pour des produits dérivés.

 Ce mode de partage n'est pas nouveau dans le domaine de l'intelligence artificielle : déjà, Google l'a utilisé pour sa propre technologie, TensorFlow, et même Facebook a mis à disposition sous la même licence ses modules d'apprentissage et de modélisation (deep learning) ainsi qu'une partie des composants informatiques qu'elle utilise dans ce domaine.

 Mais OpenAI n'est pas directement lié à un géant de l'internet, et son statut d'organisme de recherche à but non lucratif pourrait bien le placer dans une position centrale pour arbitrer la question. La philosophie d'OpenAI semble généreuse :

"Faire avancer l'intelligence numérique d'une manière qui soit la plus susceptible de bénéficier à l'humanité dans son ensemble, sans la contrainte d'avoir à générer des revenus. Comme notre recherche est libre d'obligations financières, nous pouvons nous focaliser sur un impact positif sur l'humain. Nous pensons que l'intelligence artificielle devrait être une extension des volontés humaines, dans un esprit de liberté, distribuée de manière la plus large et égale possible."

 

Il est vrai que les hommes d'affaires qui se sont engagés à la soutenir ont envisagé un budget à hauteur d'un milliard de dollars, de quoi voir venir. Mais est-ce suffisant ?

L'Open Source pourrait être un filet de sécurité 

Comme le souligne OpenAI, "il est difficile de prédire quand une intelligence artificielle de niveau humain sera à notre portée". Mais lorsque cela sera le cas, cette institution se place en rempart, souhaitant être à la pointe de la recherche et à-même de l'orienter pour nous protéger d'éventuels mauvais usages. Le fait d'avoir l'ensemble des recherches en la matière en open source pourrait donc être une solution : si une machine dotée d'intelligence artificielle venait à "mal tourner", l'ensemble de la communauté, et pas seulement les chercheurs isolés dans leurs laboratoires, pourrait chercher une solution.

 Le hic, c'est que les machines risquent de penser plus vite que la communauté en question. Un ordinateur quantique doté d'une IA pourrait devenir dangereux avant que quiconque n'ait eu le temps de s'en apercevoir.

 

Mais il y a tout de même du bon dans le fait que ceux qui effectuent des recherches dans le domaine de l'intelligence artificielle le fassent de manière totalement ouverte : ainsi, pas de secret, et plus il y aura de monde au courant de ce qui se trame en la matière, mieux cela vaudra. Car lorsque les ordinateurs deviendront réellement intelligent (et conscients), rien ne permet de dire s'ils ressembleront plutôt au C3PO de "Star Wars" ou au Skynet de "Terminator"...

http://da.feedsportal.com/c/32262/f/493634/s/4c5c00af/sc/3/l/0Lleplus0Bnouvelobs0N0Ccontribution0C14613160El0Eintelligence0Eartificielle0Eaccessible0Ea0Etous0Eun0Erisque0Ea0Esurveiller0Ede0Epres0Bhtml0Dxtor0FRSS0E26/ia1.htm