Le Secrétaire général des Nations unies, António Guterres, a appelé à un encadrement renforcé de l’intelligence artificielle (IA) afin de mieux protéger les enfants contre ses dérives. Il estime qu’aucun système d’IA destiné ou accessible aux mineurs ne devrait être déployé sans avoir fait l’objet d’une évaluation indépendante de sa sécurité.
S’exprimant lors du Dialogue mondial sur la gouvernance de l’intelligence artificielle, António Guterres a alerté sur les conséquences déjà observées de l’utilisation de cette technologie par les plus jeunes.
ARVE error: No attachment with ID 152021
« L’intelligence artificielle a atteint nos enfants, leur apprentissage, leurs amitiés, leurs questions les plus privées, avant que personne ne leur demande ce qu’elle leur ferait. Et nous voyons déjà les coûts. Des enfants déçus par des machines qui se font passer pour des amis, des enfants menacés de se suicider, des enfants violés par des images abusives faites à la touche d’un bouton », a-t-il déclaré.
Le chef des Nations unies a plaidé pour la mise en place d’un cadre international garantissant la sécurité des enfants face aux technologies d’intelligence artificielle. Selon lui, tous les systèmes d’IA susceptibles d’être utilisés par des mineurs devraient respecter des règles strictes de protection.
Il a notamment insisté sur la nécessité de prévoir des mécanismes permettant d’orienter immédiatement un enfant en situation de détresse vers une assistance humaine.
« Ne laissez jamais un enfant en crise seul. Quand un enfant montre des signes de détresse, le système doit s’arrêter et le connecter à un véritable soutien humain. Quand un enfant est blessé, la réponse ne doit jamais être : « l’algorithme l’a fait » », a souligné António Guterres.
Le Secrétaire général de l’ONU a également appelé les entreprises technologiques à empêcher leurs systèmes d’intelligence artificielle de produire des images à caractère sexuel impliquant des enfants. Il leur demande de mettre en place des dispositifs capables de détecter, signaler et supprimer rapidement ce type de contenus.
Pour António Guterres, le développement rapide de l’intelligence artificielle doit impérativement s’accompagner de garanties éthiques et de mesures de protection afin que cette technologie contribue au bien-être de l’humanité, tout en préservant les droits et la sécurité des enfants.