Intelligence artificielle versus intelligence collective

Clique Numérique #31

Invités :

Audrey Vermeulen et Jérôme Gonzalez duLICA( Laboratoire d’Intelligence Collective et Artificielle )

Coline Teboul, avocate, spécialiste de la propriété intellectuelle et du droit de l’Internet

A écouter ici


Cet article vous propose un résumé de l’émission de radio “Intelligence artificielle versus intelligence collective” proposée par la Clique Numérique et disponible sur ce site.

Lors de cette 31ème émission, Céline Berthoumieux et Marylou Bonnaire recevaient trois invités : Audrey Vermeulen et Jérôme Gonzalez du LICA ( Laboratoire d’Intelligence Collective et Artificielle ) ainsi que Coline Teboul, avocate. Pendant une heure, le dialogue se fit autour des notions citées précédemment et afin de répondre aux problématiques essentielles soulevées par Céline Berthoumieux : “Allons nous abandonner notre autonomie et nous en remettre à des algorithmes ou au contraire, les aspirations citoyennes et autres modes d’organisations qui s’épanouissent ici et là vont ils se généraliser et nous amener à nous envisager de plus en plus collectivement ?”.

Audrey Vermeulen commence par nous rappeler que l’intelligence artificielle est une science qui vise à étudier la façon dont “l’on va reproduire les fonctions d’intelligence de l’humanité” et en appliquer les résultats au réel. Aujourd’hui, l’IA est composée en grande partie de machine learning et deep learning, c’est à dire qu’elles vont s’enrichir d’un maximum de données afin de prédire ensuite un résultat. L’un des exemples cité est l’IA présente chez Google. La présence montante de ces technologies dans nos quotidiens va questionner notre liberté et notre indépendance quant aux données sans cesse récupérées et traitées à notre insu. Le second risque important est la création d’une dépendance aux technologies par une non-connaissance de ces dernières.

Intelligence artificielle et justice prédictive

Que se passe-t-il quand justice et intelligence artificielle se mêlent ? Coline Teboul, avocate et spécialiste de la propriété intellectuelle et du droit de l’internet, nous apporte une compréhension de la justice prédictive.

L’intelligence artificielle appliquée à la justice va servir à produire des prédictions de risques qui seront proposées en qualité d’aide à la décision auprès de juges et avocats. Aux Etats-Unis, notamment, des algorithmes sont utilisés pour calculer des risques dans le cas d’un prévenu en attente de son procès. Coline Teboul précise que “le juge va prendre, à titre consultatif, connaissance de cette prédiction et cela va l’aider dans sa décision d’incarcérer la personne, de façon préventive ou non.”

Dans ce système, il est intéressant de pointer que l’algorithme ne pourra prendre en compte tous les paramètres tels que la situation générale ou des points spécifiques aux individus. La prédiction sera donc différente des autres voix du jugement et il sera nécessaire de “développer de nouveaux arguments qui vont différencier le cas de notre client de ce que prédit l’intelligence artificielle et [...] c’est une manière de réfléchir qui va faire partie de notre raisonnement juridique du futur”, nous expose Coline Teboul.

Finalement, il sera également possible d’analyser la façon dont les juges exercent en fonction des situations et zones géographiques. Il sera demandé au juge de justifier de ses décisions dans les cas d’une grande sévérité ou au contraire, d’une clémence. Pour cela, il sera nécessaire de formater les algorithmes dans l’optique de les faire adhérer à nos valeurs afin de garder un cadre éthique.

Intelligence collective

Jérôme Gonzalez nous propose une définition de l’intelligence collective : “certains auteurs ont utilisé le concept d’intelligence collective pour l’appliquer à des phénomènes d’auto-organisation, de colonies d’animaux”. D’autre part,“la finalité est de fonctionner de façon organique, [...] chacun peut apporter ce qu’il a à donner à l’écosystème”.

Le récent exemple des gilets jaunes est intéressant à regarder quand l’on parle de ce concept. Effectivement, le mouvement s’est déployé de façon organique et utilise différentes techniques définies par l’intelligence collective. De plus, les gilets jaunes s’interrogent sur la question de gouvernance au sein de leur mouvement, qui se construit autour des notions d’intelligence collective.

Néanmoins, l’intelligence collective peut être utilisée de différentes façons et à différentes fins : gagner en productivité ou améliorer le quotidien de leurs employés. En fonction de la voie choisie, “la nature de l’engagement ne sera pas la même et [...] vous n’aurez pas les même effets et vous n’aurez pas les même méthodes.” commente Audrey Vermeulen.

Comment garder le contrôle des intelligences artificielles ?

Marylou Bonnaire questionne : “Comment l’intelligence collective pourrait être mise à profit dans une forme de paramétrage général et collectif afin de régir les intelligences artificielles ? Et de quelle façon peut-on garder un tout petit peu de contrôle pour un peu plus de liberté ?”.

Audrey Vermeulen et Jérôme Gonzalez du LICA proposent de faire travailler une grande diversité de personnes sur un cahier des charges destiné à cadrer les intelligences artificielles. Cela permettrait de faire entrer ces dernières dans ce que nomme le LICA : “Safe IA” ; label citoyen qui déterminerait les intelligences artificielles autour d’une éthique validée collectivement.

Quant à la justice prédictive, il existe déjà les "LegalTech" ; des entreprises privées qui vont réaliser les algorithmes visant à créer les intelligences artificielles destinées au monde de la justice. De plus, c’est le droit des données qui va cadrer le traitement des données personnelles des citoyens et apporter de l’éthique à ce dispositif de justice prédictive.

Pour finir, Jérôme Gonzalez nous donne les clés pour mettre de l’intelligence collective dans différents domaines en citant des critères donnés par le MIT : “l’équivalence en temps de parole, une proportion de femmes dans le groupe qui doit être légèrement plus importante que le nombre d’hommes, une intelligence émotionnelle, une sensibilité sociale très diverse”. L’idée maintenant est de réfléchir collectivement à la façon de mettre en place ces critères. Et plus généralement, il est nécessaire de penser collectivement les paramètres des intelligences artificielles grâce à l’intelligence collective afin d’en garder le contrôle.

Suggestions