Ces derniers mois, le phénomène de ChatGPT, ainsi que d’autres robots conversationnels utilisant l'intelligence artificielle, bouleverse toutes les industries. Les avancées incontrôlables dans le domaine de l'IA posent plusieurs problèmes, met en garde Stuart Russell, informaticien britannique considéré comme l'une des figures incontournables dans la recherche sur l’IA.
"Nous avons fait des progrès sans nous y attendre", a-t-il déclaré dans une interview au Times ajoutant qu'il est possible qu'un système semblable à ChatGPT puisse un jour faire partie d'une machine super intelligente qui pourrait résister à une tentative de le contrôler.
Fin de la civilisation humaine?
L'arrivée d’un système capable de réaliser n'importe quelle tâche qu'un être humain accomplit pourrait se produire dans les dix ans.
Stuart Russell estime que l'un des risques est qu'une IA puissante choisisse une méthode pour atteindre un objectif donné, mais avec des effets secondaires inattendus qui seraient dévastateurs pour l'humanité. Lors de la résolution de problèmes, par exemple, liés au climat, de tels programmes pourraient arriver à la conclusion que la meilleure solution serait de se débarrasser des populations.
"Comment maintenir votre pouvoir sur des entités plus fortes que vous? Si vous n'avez pas de réponse, arrêtez de mener des recherches. Tout est très simple. Les enjeux ne peuvent pas être plus importants: si nous ne contrôlons pas notre propre civilisation, nous perdons notre mot à dire sur notre existence future", a-t-il martelé.
L'humanité a fait une erreur au tout début, quand elle ne pensait pas à la finalité de cette intelligence, précise le chercheur.
Régulation quasi-inexistante
Le chercheur dénonce une réglementation légère de l'industrie de l'IA au Royaume-Uni et aux États-Unis, malgré les avertissements concernant une menace éventuelle.
Récemment, Stuart Russell a signé une lettre ouverte avertissant que les développeurs d'IA s’adonnent à une "course incontrôlable pour développer et déployer des intelligences numériques toujours plus puissantes que personne, pas même leurs créateurs, ne peut comprendre".