Yoshua Bengio, un célèbre informaticien considéré comme l’un des trois « parrains » de l’intelligence artificielle, commence à se sentir un peu bleu à propos du travail de sa vie, car l’IA – ou du moins son battage médiatique à bout de souffle – semble sur le point de devenir incontrôlable.
Dans une nouvelle interview avec la BBC, Bengio a déclaré que s’il avait su à quelle vitesse l’IA se développerait, il aurait donné la priorité à la sécurité plutôt qu’à l’utilité.
« On pourrait dire que je me sens perdu », a déclaré Bengio au point de vente. « Mais vous devez continuer et vous devez vous engager, discuter, encourager les autres à penser avec vous. »
Les commentaires de l’informaticien canadien interviennent après avoir signé une lettre ouverte inquiétante de dirigeants de l’industrie qui met en garde contre le « risque d’extinction » que pose l’IA, aux côtés de son compatriote parrain de l’IA, Geoffrey Hinton, qui a récemment quitté son emploi chez Google après un jugement personnel similaire.
Mauvais acteurs
Pour l’instant, l’une des principales préoccupations de Bengio est celle des « mauvais acteurs » abusant de l’IA, faisant écho aux sentiments de Hinton lors d’une interview précédente le mois dernier.
« Cela pourrait être militaire, cela pourrait être des terroristes, cela pourrait être quelqu’un de très en colère, psychotique », a déclaré Bengio à la BBC. « Et donc s’il est facile de programmer ces systèmes d’IA pour leur demander de faire quelque chose de très mauvais, cela pourrait être très dangereux. »
Bengio a ajouté qu’il pensait que les gouvernements devaient garder un œil sur les entreprises développant l’IA de la même manière qu’elles le font « pour tout autre secteur comme la construction d’avions, de voitures ou de produits pharmaceutiques ».
En plus de cela, Bengio a suggéré l’idée radicale que les personnes travaillant sur ces systèmes d’IA ont besoin d’une certaine forme de certification en termes de « formation éthique ».
« Les informaticiens ne comprennent généralement pas cela, soit dit en passant », a-t-il ajouté.
Correction de cap
Il n’est généralement jamais bon lorsque des inventeurs pionniers comparent leur travail à la bombe atomique, ce que Bengio et Hinton ont fait dans leurs interviews respectives.
Mais le troisième « parrain » restant, Yann LeCun, n’est apparemment pas convaincu que l’IA constitue une menace existentielle pour l’humanité, car il est le seul des trois à ne pas signer la récente déclaration de risque, sans parler d’être un opposant vocal à un moratoire proposé sur le développement de l’IA.
Quelle que soit la façon dont les humains qui se chamaillent décident de résoudre le problème, Bengio, au moins, pense que le défi est surmontable.
« Il n’est jamais trop tard pour s’améliorer », a déclaré Bengio dans l’interview. « C’est exactement comme le changement climatique. Nous avons mis beaucoup de carbone dans l’atmosphère. Et ce serait mieux si nous ne l’avions pas fait, mais voyons ce que nous pouvons faire maintenant. »
