Donny Greenberg, expert en entraînement des modèles d’intelligence artificielle chez Anthropic, a salué le dialogue « constructif » engagé avec la Commission européenne et l’Agence de l’Union européenne pour la cybersécurité (ENISA) concernant l’accès à son modèle d’IA de frontière, Mythos et a plaidé en faveur d’une coopération mondiale pour faire face aux risques de cybersécurité liés à ces modèles, estimant qu’ aucune organisation ni aucun pays ne peut les relever seul.
« Notre objectif est de permettre à ces modèles d’éliminer les risques de cyberattaques visant toutes les infrastructures critiques : les infrastructures financières, physiques, civiques et numériques », a-t-il déclaré, mardi14 juillet, lors d’un échange au sein de la commission du marché intérieur et de la protection des consommateurs (IMCO) du Parlement européen, laissant par ailleurs sans réponse la plupart des questions des députés européens.
Les députés européens lui ont demandé si l’entreprise estimait que l’Union européenne devait développer ses propres alternatives et si Anthropic pourrait aider l’Europe à concevoir ses propres modèles. Ils ont également demandé qui, en dernier ressort, contrôlait le 'kill switch' permettant de désactiver les modèles - le gouvernement américain ou l’entreprise ? - et si Anthropic pouvait confirmer qui détenait les données des citoyens européens et si celles-ci étaient accessibles au gouvernement des États-Unis.
M. Greenberg a souligné qu’il était important de ne pas examiner « uniquement des modèles pris isolément », mais de procéder à des comparaisons « entre différents modèles » afin d’identifier « le maillon faible » en matière de vulnérabilité à travers les différents secteurs et logiciels, ce qui exige « une coopération et une coordination étroites (…). Il s’agit d’un problème mondial ». Anthropic s’attend à ce que « de nombreuses autres entreprises d’IA disposent de modèles de cette catégorie, et que certaines les mettent sur le marché sans garanties de sécurité » au cours des trois à six prochains mois.
« Nous travaillons sans relâche pour éviter à l’avenir ce type de déploiement progressif complexe », a-t-il assuré, en réponse aux questions sur les restrictions à l’exportation imposées par le gouvernement américain sur les modèles Fable et Mythos d’Anthropic à destination des citoyens non américains, restrictions levées en juillet. Il a reconnu que, dans le cas spécifique de Mythos, « aucune modification particulière » n’avait été apportée au modèle pour la levée des restrictions. (Ana Pisonero Hernández)