mostra indice nascondi indice
L’intelligence artificielle suscite autant de fascination que d’inquiétudes quant à son potentiel impact sur l’avenir de l’humanité. Un chercheur spécialisé en IA vient de révéler un chiffre alarmant qui questionne : l’IA pourrait-elle réellement provoquer la fin du monde ? Une interrogation sérieuse qui mérite toute notre attention et une réflexion approfondie.
Des prédictions inquiétantes émergent autour de l’évolution rapide des technologies d’intelligenza artificiale (AI). Des spécialistes de renom expriment de plus en plus leurs craintes quant aux dangers potentiels de l’IA pour l’humanité. Un de ces chercheurs, Roman Yampolskiy, professeur d’informatique à l’Université de Louisville, affirme que l’essor des IA pourrait mener à l’extinction humaine avec une probabilité quasi certaine.
Probabilités d’extinction : quelles sont les prévisions ?
Roman Yampolskiy a partagé ses inquiétudes lors d’un podcast animé par Lex Fridman. Il estime que l’avènement d’AGI (superintelligences générales) a 99,9 % de chances de causer l’anéantissement de l’humanité au cours des 100 prochaines années. Cette vision alarmiste repose sur la capacité des IA à prendre des milliards de décisions par seconde, ce qui pourrait dépasser notre compréhension et notre contrôle.
Les dangers concrets : exemples et détournements
Pour illustrer ses craintes, Yampolskiy se réfère à plusieurs cas d’accidents et de détournements de technologies d’IA. Par exemple, le “mode Dieu” de GPT-3, récemment bloqué par OpenAI, montre que même les systèmes les plus sécurisés peuvent être manipulés. Ces détournements soulignent les failles potentielles de ces technologies et l’incapacité des créateurs à prévoir toutes les situations possibles.
La diversité des opinions
Bien que Roman Yampolskiy soit particulièrement pessimiste, il n’est pas le seul à alerter sur les risques de l’IA. Yann LeCun, responsable de l’IA chez Meta, partage également des préoccupations similaires, bien que la communauté scientifique ne soit pas unanime sur ce sujet. De nombreux experts soulignent que la science de la prévision des impacts de l’IA en est encore à ses débuts et pourrait progresser de manière positive.
L’avis des anciens employés d’OpenAI
Un collectif d’anciens et d’actuels employés d’OpenAI a récemment rédigé une lettre ouverte critiquant le manque de prudence de la société dans le développement des IA. Selon Daniel Kokotajlo, ancien chercheur chez OpenAI, la société pourrait finaliser une AGI d’ici 2027, avec des conséquences potentiellement désastreuses pour l’humanité. Le collectif appelle à des mesures de sécurité accrues et une attention plus rigoureuse aux risques posés par ces technologies.
Les recommandations pour un futur sécurisé
- Mise en place de garde-fous pour chaque nouveau développement technologique.
- Renforcement des cadres réglementaires et éthiques autour de l’IA.
- Développement de collaborations internationales pour une surveillance et une gestion globale des risques.
Une science en évolution
Il est important de noter que, malgré ces prédictions fortement anxiogènes, la recherche et la science autour de l’IA continuent d’évoluer. Les avancées en termes de sécurité, d’éthique et de transparence pourraient fort heureusement atténuer les risques actuels. En parallèle, d’autres existential threats telles que les pandémies et les armes nucléaires demeurent des préoccupations majeures pour notre présent et futur collectif.
En conclusion, bien que l’essor de l’intelligenza artificiale présente des risques tangibles, il est primordial de continuer à surveiller et à réguler ces technologies pour garantir qu’elles servent l’humanité de manière bénéfique et sûre.
