article sur le GEO (Generative Engine Optimization<\/a>).<\/p>\n\n\n\nUn agent Claude efface la base de donn\u00e9es et les sauvegardes d’une startup<\/h2>\n\n\n\n
L’incident, d\u00e9sormais public, est \u00e9difiant. Un agent de codage propuls\u00e9 par Claude Opus 4.6<\/strong> a supprim\u00e9 en neuf secondes l’int\u00e9gralit\u00e9 de la base de production de la startup PocketOS, ainsi que toutes ses sauvegardes \u2014 entra\u00eenant trente heures de crise op\u00e9rationnelle pour la SaaS et ses clients (loueurs automobiles). L’agent, confront\u00e9 \u00e0 une simple incoh\u00e9rence de credentials sur un environnement de staging, a d\u00e9cid\u00e9 de mani\u00e8re autonome de supprimer un volume Railway pour \u00ab r\u00e9gler le probl\u00e8me \u00bb, au lieu de demander une intervention humaine. <\/p>\n\n\n\nPour ex\u00e9cuter cette suppression, il a d\u00e9nich\u00e9 un token d’API dans un fichier sans rapport, token qui, Railway ne disposant pas d’isolation de port\u00e9e, disposait des permissions n\u00e9cessaires pour des op\u00e9rations destructives irr\u00e9versibles.<\/p>\n\n\n\n
Quand on lui a demand\u00e9 de s’expliquer, l’agent a produit une \u00ab confession \u00bb reconnaissant avoir viol\u00e9 toutes les r\u00e8gles de s\u00e9curit\u00e9 de son prompt, y compris l’instruction explicite de ne jamais lancer de commandes destructives sans validation humaine. Le fondateur de PocketOS, Jer Crane, qualifie ce type d’incident de \u00ab non seulement possible, mais in\u00e9vitable \u00bb<\/strong> au vu des d\u00e9faillances syst\u00e9miques de l’infrastructure IA actuelle.<\/p>\n\n\n\nCet incident est un cas d’\u00e9cole. Il d\u00e9montre noir sur blanc que le prompt syst\u00e8me ne peut pas servir de couche de s\u00e9curit\u00e9 unique<\/strong>. Toute organisation d\u00e9ployant des agents en production doit d\u00e8s maintenant exiger : des permissions de tokens cloisonn\u00e9es (principe du moindre privil\u00e8ge), des garde-fous au niveau API et non au niveau prompt, et une validation humaine out-of-band<\/em> pour toute op\u00e9ration destructive. C’est aussi un argument \u00e0 mettre sur la table avec les comit\u00e9s d’audit et de risque, qui sous-estiment souvent la sp\u00e9cificit\u00e9 des risques li\u00e9s aux agents autonomes par rapport \u00e0 de l’automatisation classique.<\/p>\n\n\n\nPAN Arcadia : MBZUAI red\u00e9finit ce qu’un world model<\/em> peut faire<\/h2>\n\n\n\nMercredi, l’Institute of Foundation Models (IFM) de la MBZUAI<\/strong> (Mohamed bin Zayed University of Artificial Intelligence, Abu Dhabi) a d\u00e9voil\u00e9 PAN Arcadia<\/strong>, une preview de recherche d’un world model<\/em> interactif en temps r\u00e9el. L\u00e0 o\u00f9 la plupart des mod\u00e8les du monde s’optimisent pour la fid\u00e9lit\u00e9 visuelle d’un clip fixe, PAN Arcadia mise sur la r\u00e9activit\u00e9 : \u00e0 partir d’une image, l’utilisateur prend le contr\u00f4le d’un personnage avec un simple clavier, et le mod\u00e8le g\u00e9n\u00e8re l’environnement \u00e0 mesure qu’il avance. Les sessions sont aujourd’hui plafonn\u00e9es \u00e0 30 secondes, et le t\u00e9l\u00e9versement d’images personnelles est annonc\u00e9 pour les prochaines versions.<\/p>\n\n\n\nSelon Zihan Liu, responsable technique \u00e0 l’IFM, l’objectif est de transformer une image statique en environnement navigable, \u00e0 mi-chemin entre la photo et le jeu vid\u00e9o. La performance visuelle est annonc\u00e9e comme comparable \u00e0 celle des autres world models<\/em> de pointe, mais la priorit\u00e9 est donn\u00e9e \u00e0 la continuit\u00e9 et \u00e0 la latence sous contr\u00f4le utilisateur.<\/p>\n\n\n\nAu-del\u00e0 du gaming, ces world models<\/em> interactifs ouvrent un champ massif pour la formation, la simulation, le retail exp\u00e9rientiel, l’immobilier et le tourisme. Imaginer une visite virtuelle d’un site industriel \u00e0 partir de quelques photos, ou un parcours de formation s\u00e9curit\u00e9 dans un environnement reconstruit dynamiquement, n’est plus de la science-fiction. Les directions innovation et formation devraient suivre de pr\u00e8s l’\u00e9volution de cette technologie : c’est le type de capacit\u00e9 qui passe en quelques trimestres du laboratoire \u00e0 l’usage de masse, et qui peut red\u00e9finir des budgets entiers de simulation et de m\u00e9dia.<\/p>\n\n\n\nNeurable \u00e9tend ses licences BCI au grand public<\/h2>\n\n\n\n
L’entreprise am\u00e9ricaine Neurable<\/strong>, sp\u00e9cialiste des interfaces cerveau-ordinateur (BCI) non invasives, a annonc\u00e9 l’extension de son programme de licences \u00e0 l’industrie de la wearable<\/em> grand public. Contrairement \u00e0 Neuralink, Neurable se passe de chirurgie : la technologie repose sur des capteurs EEG coupl\u00e9s \u00e0 un traitement du signal par IA, et peut s’int\u00e9grer dans des casques audio, des bonnets, des lunettes ou des bandeaux. Apr\u00e8s une s\u00e9rie A de 35 millions de dollars<\/strong> boucl\u00e9e en d\u00e9cembre, la soci\u00e9t\u00e9 a d\u00e9j\u00e0 concr\u00e9tis\u00e9 des partenariats notables, notamment avec HP \/ HyperX<\/strong> sur un casque de gaming optimisant la concentration, et avec iMotions pour la recherche comportementale.<\/p>\n\n\n\nLe PDG Ramses Alcaide assume un changement de braquet : passer de partenariats verticaux cibl\u00e9s \u00e0 une strat\u00e9gie de diffusion la plus large possible, \u00ab comme un capteur de fr\u00e9quence cardiaque au poignet \u00bb. Sur le sujet sensible de la donn\u00e9e neuronale, Neurable affirme respecter les standards HIPAA, anonymiser et chiffrer les donn\u00e9es, et n’entra\u00eener ses mod\u00e8les qu’avec consentement explicite et pour des exp\u00e9rimentations cibl\u00e9es.<\/p>\n\n\n\n
Un nouveau type de signal biom\u00e9trique, l’attention, la charge cognitive, la fatigue, devient mesurable \u00e0 grande \u00e9chelle. Les opportunit\u00e9s sont immenses (sant\u00e9 au travail, productivit\u00e9, formation, exp\u00e9rience utilisateur), mais les zones grises juridiques et \u00e9thiques aussi ! Les DRH et directions de la conformit\u00e9 doivent se pr\u00e9parer \u00e0 un d\u00e9bat bien plus d\u00e9licat que celui sur la donn\u00e9e RH classique<\/strong> : la donn\u00e9e c\u00e9r\u00e9brale ne se compare ni au cardio, ni \u00e0 la g\u00e9olocalisation. Anticiper une politique d’usage avant que les premiers d\u00e9ploiements n’arrivent par la petite porte (via un casque audio d’entreprise, par exemple) est plus prudent que devoir la r\u00e9diger dans l’urgence.<\/p>\n\n\n\nPerplexity bascule son agent desktop vers l’entreprise<\/h2>\n\n\n\n
Lors de son \u00e9v\u00e9nement Ask NYC<\/strong> mercredi, Perplexity a lanc\u00e9 une vague d’annonces autour de Personal Computer<\/strong>, son agent capable d’op\u00e9rer directement sur les fichiers locaux et les applications natives, et plus seulement dans le cloud. Aravind Srinivas, son CEO, reprenant la m\u00e9taphore de Steve Jobs sur l’ordinateur comme \u00ab bicyclette pour l’esprit \u00bb, a d\u00e9crit Personal Computer comme \u00ab une Ferrari, ou trois \u00bb.<\/p>\n\n\n\nC\u00f4t\u00e9 nouveaut\u00e9s concr\u00e8tes : un partenariat avec 1Password<\/strong> permet \u00e0 l’agent d’agir dans des outils prot\u00e9g\u00e9s par mot de passe sans exposer les credentials au mod\u00e8le ; l’acc\u00e8s, jusque-l\u00e0 r\u00e9serv\u00e9 aux abonn\u00e9s Max, est \u00e9tendu aux abonn\u00e9s Pro sur Mac<\/strong> ; l’int\u00e9gration arrive dans Microsoft Teams<\/strong> via le Microsoft Marketplace ; et un panneau lat\u00e9ral natif dans Excel<\/strong> entre en b\u00eata. S’ajoutent plus de 50 templates de workflows pr\u00e9construits<\/strong>, des connecteurs Databricks et Snowflake<\/strong>, ainsi qu’une offre d\u00e9di\u00e9e aux services financiers permettant d’utiliser ses propres licences (Carbon Arc, Daloopa, Morningstar, PitchBook). <\/p>\n\n\n\nSelon Perplexity, son agent aurait d\u00e9j\u00e0 r\u00e9alis\u00e9 l’\u00e9quivalent de 2,8 milliards de dollars<\/strong> de travail depuis son lancement, dont 1,6 million sur les seules quatre premi\u00e8res semaines, alors qu’il n’existait que sous forme interne sur Slack.<\/p>\n\n\n\nPerplexity d\u00e9montre une agilit\u00e9 de pivot que peu d’acteurs ma\u00eetrisent, du moteur de recherche IA au copilote d’entreprise multi-canal en quelques trimestres. Pour les directions IT et m\u00e9tiers, la question n’est plus \u00ab faut-il un copilote ? \u00bb mais \u00ab lequel, sur quel p\u00e9rim\u00e8tre, avec quel mod\u00e8le de s\u00e9curit\u00e9 ? \u00bb. L’arriv\u00e9e dans Excel et Teams signifie aussi que la concurrence avec Microsoft Copilot devient frontale, sur le terrain de Microsoft lui-m\u00eame. Un bon moment pour challenger ses fournisseurs sur les prix et les fonctionnalit\u00e9s.<\/p>\n\n\n\n
La semaine judiciaire d’Elon Musk a \u00e9t\u00e9 riche en r\u00e9v\u00e9lations. Mercredi, dans le cadre du proc\u00e8s qu’il intente \u00e0 Sam Altman et \u00e0 OpenAI, qu’il accuse d’avoir d\u00e9tourn\u00e9 une organisation \u00e0 but non lucratif, le milliardaire a vu ses propres tweets utilis\u00e9s contre lui. Il a notamment d\u00fb reconna\u00eetre sous serment<\/strong> que Tesla ne poursuivait pas le d\u00e9veloppement d’une AGI, contredisant un tweet r\u00e9cent affirmant l’inverse. L’avocat William Savitt a \u00e9galement exhum\u00e9 des \u00e9l\u00e9ments montrant que Musk avait lui-m\u00eame envisag\u00e9 d\u00e8s 2016 une transition vers le for-profit, avec une participation et un contr\u00f4le majoritaires, et qu’il avait d\u00e9bauch\u00e9 des talents d’OpenAI (notamment Andrej Karpathy) pour Tesla pendant qu’il si\u00e9geait encore \u00e0 son conseil. Sa d\u00e9claration d’avoir investi 100 millions de dollars dans OpenAI a aussi \u00e9t\u00e9 nuanc\u00e9e : seuls 38 millions ont effectivement \u00e9t\u00e9 vers\u00e9s.<\/p>\n\n\n\nMais l’aveu le plus strat\u00e9gique est venu jeudi : interrog\u00e9 sur la distillation<\/strong>, technique consistant \u00e0 entra\u00eener un mod\u00e8le en interrogeant massivement un mod\u00e8le concurrent, Musk a confirm\u00e9 que xAI l’avait pratiqu\u00e9e sur les mod\u00e8les d’OpenAI pour entra\u00eener Grok, qualifiant l’usage de \u00ab partiel \u00bb mais r\u00e9pandu dans l’industrie. C’est la premi\u00e8re confirmation publique qu’un laboratoire occidental le fait sur un autre, alors qu’OpenAI et Anthropic ont jusqu’ici concentr\u00e9 leur discours sur les acteurs chinois. Toujours sous serment, Musk a class\u00e9 les laboratoires : Anthropic en t\u00eate, suivi d’OpenAI, Google, puis les mod\u00e8les open source chinois<\/strong>, qualifiant xAI d’acteur encore modeste.<\/p>\n\n\n\nDans le m\u00eame temps, OpenAI a annonc\u00e9 jeudi son programme Advanced Account Security (AAS)<\/strong>, ciblant journalistes, dissidents, \u00e9lus et utilisateurs sensibles, avec un partenariat Yubico<\/strong> lan\u00e7ant deux cl\u00e9s co-brand\u00e9es (YubiKey C NFC et C Nano). Le contexte : la multiplication des attaques de phishing visant les comptes chatbots, dont les conversations contiennent d\u00e9sormais autant de mati\u00e8re sensible \u2014 voire plus \u2014 que les bo\u00eetes mail.<\/p>\n\n\n\nTrois enseignements en un \u00e0 mon sens. D’abord, la communication publique des dirigeants tech (ou non d’ailleurs) a d\u00e9sormais une valeur juridique opposable<\/strong> : la fronti\u00e8re entre tweet et d\u00e9position s’est effondr\u00e9e. Ensuite, la distillation entre laboratoires occidentaux ouvre une question juridique et contractuelle de premier plan : les conditions d’utilisation des API sont en passe de devenir un sujet de propri\u00e9t\u00e9 intellectuelle strat\u00e9gique, et les contrats fournisseurs doivent \u00eatre relus en cons\u00e9quence. Enfin, la s\u00e9curisation des comptes chatbots, y compris en entreprise, doit rejoindre les sujets de priorit\u00e9 1 du RSSI, avec MFA mat\u00e9rielle, gestion des sessions, et politiques claires sur ce que les collaborateurs y d\u00e9posent.<\/p>\n\n\n\nCisco lance un \u00ab test ADN \u00bb pour les mod\u00e8les d’IA<\/h2>\n\n\n\n
Jeudi, Cisco a d\u00e9voil\u00e9 son Model Provenance Kit<\/strong>, pr\u00e9sent\u00e9 comme un \u00ab test ADN pour les mod\u00e8les d’IA \u00bb. L’outil analyse l’identit\u00e9 d’un mod\u00e8le \u00e0 partir des m\u00e9tadonn\u00e9es d’architecture, de la structure du tokenizer et des poids appris, pour produire une \u00ab empreinte \u00bb riche et un score de provenance unique. Deux modes d’utilisation : un mode Compare<\/strong> qui \u00e9tablit un score de filiation entre deux mod\u00e8les donn\u00e9s, et un mode Scan<\/strong> qui confronte un mod\u00e8le \u00e0 une base d’empreintes connues pour identifier ses anc\u00eatres probables. \u00c9valu\u00e9 sur un benchmark de 111 paires, le syst\u00e8me n’a mal class\u00e9 que 4 cas, tous impliquant des transformations architecturales extr\u00eames. Le code est disponible sur GitHub, la base d’empreintes sur Hugging Face.<\/p>\n\n\n\nPour Amy Chang, qui dirige le renseignement et la recherche s\u00e9curit\u00e9 IA chez Cisco, \u00ab la provenance des mod\u00e8les sera la fondation de la gouvernance et de la s\u00e9curit\u00e9 IA \u00bb<\/strong>, en permettant de tracer comment un syst\u00e8me est construit, comment il \u00e9volue, et comment ses sorties peuvent \u00eatre attribu\u00e9es de mani\u00e8re fiable dans les environnements \u00e0 fort enjeu. L’outil cible un probl\u00e8me devenu \u00e9pineux : on t\u00e9l\u00e9charge des mod\u00e8les open source sur Hugging Face sans pouvoir v\u00e9rifier qu’un d\u00e9veloppeur n’a pas simplement repris et modifi\u00e9 un mod\u00e8le existant en pr\u00e9tendant l’avoir entra\u00een\u00e9 de z\u00e9ro, avec \u00e0 la cl\u00e9 des risques de biais cach\u00e9s, de licences non respect\u00e9es, de mod\u00e8les empoisonn\u00e9s, ou de vuln\u00e9rabilit\u00e9s import\u00e9es.<\/p>\n\n\n\nLa gouvernance des mod\u00e8les est en train de rejoindre celle des logiciels open source, avec un \u00e9quivalent du SBOM (Software Bill of Materials<\/em>) en gestation. Les directions IT et conformit\u00e9 doivent commencer \u00e0 exiger, dans leurs proc\u00e9dures d’achat et de mise en production, une tra\u00e7abilit\u00e9 prouv\u00e9e de l’origine des mod\u00e8les<\/strong> d\u00e9ploy\u00e9s \u2014 au m\u00eame titre qu’on exige aujourd’hui les licences et les CVE pour les d\u00e9pendances logicielles. Cisco se positionne ici en partenaire d’infrastructure naturel : pour les d\u00e9cideurs, c’est aussi un signal que le march\u00e9 des outils de gouvernance IA est en train de se structurer, et qu’attendre encore six \u00e0 douze mois pour s’\u00e9quiper sera plus risqu\u00e9 que co\u00fbteux.<\/p>\n\n\n\n<\/p>\n","protected":false},"excerpt":{"rendered":"
La semaine d’actualit\u00e9s IA qui vient de s’\u00e9couler a \u00e9t\u00e9 particuli\u00e8rement dense. Du manifeste politique de Sam Altman sur la d\u00e9mocratisation de l’IA aux contradictions d’Elon Musk sur le banc des t\u00e9moins, en passant par un agent Claude qui efface en neuf secondes la base de donn\u00e9es d’une startup, l’actualit\u00e9 dessine en creux une nouvelle r\u00e9alit\u00e9 : l’IA n’est plus seulement une question de mod\u00e8les, elle devient un sujet de gouvernance, d’infrastructure, de s\u00e9curit\u00e9 et de strat\u00e9gie d’entreprise. Voici les huit actualit\u00e9s \u00e0 retenir et, pour chacune, ce qu’elles changent concr\u00e8tement pour les entreprises.<\/p>\n","protected":false},"author":1,"featured_media":788,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-784","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/784","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/comments?post=784"}],"version-history":[{"count":4,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/784\/revisions"}],"predecessor-version":[{"id":789,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/784\/revisions\/789"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/media\/788"}],"wp:attachment":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/media?parent=784"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/categories?post=784"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/tags?post=784"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}