Laurent tourelle
Dans l’ensemble, les chercheurs estiment la probabilité d’impact négatif des progrès de l’intelligence artificielle à environ cinq pour cent. Une enquête menée auprès de 2 778 chercheurs en intelligence artificielle a révélé que l’industrie considère que les avancées dans ce domaine s’accélèrent et pourraient apporter des bénéfices divers à l’humanité. Cependant, de nombreuses personnes expriment des inquiétudes quant aux éventuels inconvénients liés à la course vers une intelligence artificielle plus avancée. L’enquête, qui n’a pas encore été évaluée par des pairs, a abordé divers sujets liés à l’IA, notamment la qualité de l’intelligence artificielle de haut niveau (IAHN) pour l’humanité.
Les participants ont été invités à évaluer la probabilité que les progrès futurs de l’IA entraînent « l’extinction de l’humanité ou une déresponsabilisation tout aussi permanente et grave de l’espèce humaine ». La prédiction moyenne de cette probabilité était de 5 %, et une question similaire portant sur une échelle de temps de 100 ans a produit une prédiction moyenne identique.
Selon l’équipe de recherche, entre 41,2 % et 51,4 % des participants ont estimé qu’il y avait plus de 10 % de chances d’une extinction humaine ou d’une grave perte de pouvoir, en fonction de la formulation des questions. Ceci est comparable, bien que légèrement supérieur, à la proportion de 38 % des personnes interrogées qui ont attribué au moins 10 % de probabilité à des résultats « extrêmement mauvais » (comme l’extinction humaine) lorsqu’on leur a demandé d’évaluer l’impact global de l’intelligence artificielle de haut niveau sur les humains.
L’avantage de cette enquête réside dans sa comparaison avec les résultats d’une enquête similaire menée en 2022. Dans l’ensemble, les participants estiment que certains progrès, tels que l’automatisation totale des emplois par l’IA ou la création d’un best-seller du New York Times par une IA, se produiront plus tôt que prévu en 2022.
Par exemple, la prévision moyenne pour l’année où une IA écrirait un best-seller était après 2050 en 2022, mais dans la dernière enquête, probablement en raison des avancées enthousiasmantes des chatbots au cours de la dernière année, cette estimation est légèrement antérieure à 2030. Des ajustements similaires ont été observés pour d’autres tâches basées sur l’IA. Des activités comme la conduite de camions et la participation à des marathons humains sont désormais prévues pour la fin des années 2030, bien que ces estimations aient également été légèrement avancées.
L’équipe de recherche explique que bien que les perspectives sur le moment où ces étapes deviendront réalisables puissent varier considérablement, l’enquête de cette année révèle un changement général vers des attentes antérieures. Au cours des quatorze derniers mois depuis la dernière enquête, un groupe similaire de participants prévoit désormais ces réalisations de 13 à 48 ans plus tôt en moyenne, selon la formulation de la question. De plus, 21 des 32 étapes à court terme sont désormais anticipées plus tôt.
En ce qui concerne les conséquences sociales anticipées de l’IA avancée, on constate généralement une grande diversité de perspectives, la plupart accordant de l’importance à la fois aux résultats extrêmement positifs et aux résultats extrêmement négatifs », ont-ils conclu. « Les scénarios optimistes mettent en avant le potentiel de l’IA pour révolutionner divers aspects du travail et de la vie, tandis que les prédictions pessimistes, en particulier celles liées aux risques d’extinction, soulignent de manière frappante les enjeux considérables liés au développement et au déploiement de l’IA. »
Les résultats de l’enquête sont disponibles sous forme de pré-impression publiée sur le site Web AI Impacts .
