Actualités

Et si le développement automatisé des solutions d’Intelligence artificielle provoquait une « explosion d’intelligence » ? Dans un rapport publié par le Cambridge Programme on AI Science & Policy (CASP), une vingtaine de chercheurs renommés, dont Geoffrey Hinton, prix Nobel de physique 2024, Yoshua Bengio, un des pionniers de l’IA,  Jack Clark, co-fondateur d’Anthropic, et Jakub Pachocki, directeur scientifique d’OpenAI, alertent sur ce scénario, où une IA atteint un niveau suffisant pour concevoir des versions d’elle-même encore plus performantes, déclenchant une réaction en chaîne d’auto-amélioration récursive.

« Contrairement à ce qui se passait il y a encore un an, les systèmes d’IA écrivent désormais la majeure partie du code au sein même des entreprises qui les développent. À mesure que la chaîne de recherche et développement (R&D) s’automatise, les progrès de l’IA pourraient-ils s’accélérer radicalement, donnant lieu à une « explosion d’intelligence » où des années d’avancées seraient condensées en quelques mois, voire moins ? Des éléments préliminaires laissent penser que cela pourrait être le cas », expliquent les auteurs.

« Si cela devait déclencher une explosion d’intelligence, cela pourrait considérablement accélérer l’avènement des avantages de l’IA, mais aussi présenter des risques extrêmes : la croissance des capacités pourrait s’accélérer bien au-delà de ce que la société est capable de suivre, l’humanité pourrait perdre le contrôle des systèmes d’IA surhumains, et les mécanismes de contrôle du pouvoir au sein des États, des entreprises et des branches du gouvernement, ainsi qu’entre eux, pourraient être gravement érodés. Bien qu’il subsiste une grande incertitude quant à ces possibilités, les enjeux considérables justifient qu’on y accorde une attention sérieuse et approfondie », ajoutent-ils.

Ils soulignent que les décideurs politiques devraient de toute urgence se doter d’une meilleure visibilité sur l’automatisation de la R&D en matière d’IA, mettre au point des moyens pour orienter et limiter une explosion de l’intelligence, et préparer la société à s’adapter aux conséquences d’une telle explosion.

Pour le lire le rapport intégral https://casp.ac/reports/intelligence-explosion

Avec « On aurait pu se rencontrer », François Cheng nous livre, comme à l’accoutumée, une réflexion profonde et poétique sur le sens de la vie. Le point de départ est une rencontre avec Léopoldine Hugo, qui lui offre un petit tableau incitant à la méditation. La descendante directe de Victor Hugo porte le même prénom que la fille du poète, morte noyée à Villequier. On imagine l’émotion de l’écrivain né en Chine qui voue un culte à la langue française et qui peut se targuer d’un long d’un long compagnonnage avec l’œuvre de Hugo.

Il voit dans le géant des lettres françaises un nouvel Orphée, dont le mythe ouvre une voie spirituelle et poétique. Son admiration se lit dans les premières pages de son livre. Il trace les grandes lignes de la vie de son illustre devancier, en citant nombre de ses poèmes. Après la mort de Léopoldine, en 1843, Victor Hugo entame la rédaction des Contemplations, que François Cheng considère comme « un extraordinaire livre de vie. »

Lui-même s’est lancé, avec « On aurait pu se rencontrer », dans une réflexion sur la vie, la mort et aussi sur la beauté à la suite de la disparition de son épouse, atteinte d’Alzheimer, après soixante ans de vie commune. Le titre du livre – une phrase prononcée par son épouse alors qu’ils évoquaient le Vieux Quartier, à Tours – nous invite à nous tourner vers l’autre. Encore plus quand on vit avec quelqu’un qui perd peu à peu sa mémoire pour être enfermé dans un « présent éternel. »

Hugo et Cheng ont plusieurs choses en commun : poètes, membres de l’Académie française, et surtout attachés à la vie de l’âme. Ils ne voient pas la mort comme une fin, comme une ouverture sur le néant. Ils veulent faire relier les vivants et les morts.

François Cheng nous offre divers poèmes qui nous permettent de rechercher, avec lui, la vérité de la vie.

Je suis le messager de la vie

Car à la vie j’ai dit oui.

Je vais là où l’amour est

Source qui jamais ne tarit.

Pour paraphraser une de ses sentences dans ce livre, « Vous doutez de l’âme ? Eh bien, lisez François Cheng ! »

On aurait pu se rencontrer

François Cheng

Ed. Albin Michel