Berliner Tageblatt - En Ecosse, Charles III met en garde les géants de la tech contre les "risques existentiels" de l'IA

"Il y a urgence à examiner de manière adéquate les dangers existentiels que représente la possibilité que de telles technologies tombent entre de mauvaises mains", a-t-il déclaré aux convives dans des propos introductifs.

"Ceux qui, dans notre monde, accordent de la valeur à notre humanité et à sa composante morale essentielle attendent anxieusement de vous l'assurance que nous ne perdrons pas le contrôle de notre destin", a-t-il ajouté, les appelant "à veiller" à ce que la technologie "demeure fermement au service de l'humanité".

Parmi les invités figurent le président de DeepMind, Demis Hassabis, le patron du géant américain des semi-conducteurs Nvidia, Jensen Huang, ou encore la directrice financière d'OpenAI, Sarah Friar, ainsi que des représentants d'Anthropic, Microsoft ou Amazon.

Le conseiller du Vatican sur l'IA Paolo Benanti --vêtu d'une robe de bure au milieu des costumes-cravates et des tailleurs-- ou encore l'historien et philosophe israélien Yuval Noah Harari sont également présents.

Ce sommet, dont la date avait été gardée secrète, se tient au domaine de Dumfries House, une demeure du XVIIIe siècle ornée de tableaux et de tapis anciens, qui abrite le siège de la King's Foundation, dans la campagne écossaise.

- Début d'un processus -

L'objectif de la rencontre est d'examiner la possibilité d'élaborer des principes communs pour guider le développement et les usages de l'IA. Les discussions sont facilitées par la Ditchley Foundation, une organisation caritative britannique.

Aucun accord formel n'est attendu à l'issue de cette rencontre, qui doit durer 4 à 5 heures, présentée par Buckingham Palace comme le début d'un processus.

Le roi, qui ne participe pas lui-même aux discussions, a demandé jeudi aux invités de réfléchir aux moyens de tirer parti de l'IA "en plaçant la sécurité au cœur" et de bâtir une coopération internationale sans "qu'aucune nation ne soit laissée pour compte".

Ce sommet se tient alors qu'il est confronté à une polémique : le frère de la princesse Diana, Charles Spencer, affirme que le roi aurait déclaré, quelques jours après la mort de son ex-épouse en 1997, qu'elle serait "oubliée bien assez tôt", ce que Buckingham dément.

D'après le Times, la famille royale a par ailleurs été la cible d'une campagne de déstabilisation en ligne opérée par des milliers de "bots", des comptes automatisés par l'IA, basés à l'étranger et propageant de fausses informations.

- "Risques biologiques et nucléaires" -

Le développement de l'IA alimente des inquiétudes depuis des mois, pour les menaces qu'elle fait peser sur l'emploi, mais aussi pour l'impact des centres de données sur les besoins en énergie et le climat.

Le débat est monté en puissance cet été, alimenté par plusieurs incidents et les mises en garde apocalyptiques de professionnels du secteur, ravivant les craintes de voir les concepteurs d'agents d'IA perdre le contrôle de leurs créations.

"La probabilité que quelque chose de grave se produise par accident, si nous nous trompons, n'est certainement pas nulle", a estimé jeudi en ouverture du sommet le patron de Google DeepMind, Demis Hassabis.

Il a évoqué "les récents incidents cyber impliquant des agents d'IA échappant au contrôle", mais aussi d'autres risques potentiels "bien plus graves" à l'avenir, "notamment biologiques et nucléaires".

Le fondateur de Nvidia, Jensen Huang, a lui insisté sur les bénéfices apportés par l'IA, dans la recherche ou la médecine, mais aussi avec la création d'emplois "dans des secteurs totalement nouveaux", appelant à faire preuve d'un "optimisme responsable".

"Il faut tordre le cou à certaines idées reçues", a-t-il déclaré d'un ton tranquille lors d'un échange avec la presse, estimant qu'il fallait "aller aussi vite que possible, mais pas plus vite".

Le directeur général d'Anthropic, Dario Amodei, a appelé samedi à ralentir le développement de la technologie pour mieux appréhender les risques, soutenu par le patron d'OpenAI Sam Altman et par Elon Musk.

Le président américain Donald Trump a en revanche réitéré ces derniers jours sa volonté de ne pas corseter le secteur, officiellement par crainte de laisser la Chine prendre l'ascendant.

Mark Zuckerberg, patron de Meta, a lui rejeté les appels à ralentir l'IA, jugeant suffisants les mécanismes du marché et le risque de poursuites judiciaires.

R.Adler--BTB