Déja Demain

L'IA à l'ONU (2 - les états membres)

Wed, 23 Sep 2026 16:14:30 -0700

Jean-Noël BARROT - France

Pourquoi le Conseil de sécurité se saisit du sujet : il cite les incidents de l'été et y voit trois risques pour la sécurité :

la perte de contrôle
le détournement par des humains, l'IA rendant plus accessibles des compétences cyber, biologiques, chimiques et de désinformation
les armes létales autonomes, qui appellent un cadre commun au regard du droit international humanitaire.

Mais également trois risques pour la société :

financier : une « bulle de l'IA » financée par la dette pourrait déstabiliser l'économie mondiale ;
social : effets sur l'emploi et creusement des inégalités ;
environnemental : consommation d'énergie et d'eau, et contestations contre les centres de données.

Si ces risques sont ignorés, la colère des citoyens freinera même les usages positifs de l'IA.

Le principe : les capacités technologiques doivent progresser au même rythme que la maîtrise des risques . La France soutient l'appel de la Norvège et de la Finlande à ralentir.

Propositions : quatre chantiers pour un cadre commun

L'évaluation indépendante, avant la mise sur le marché et pendant toute la vie du modèle.
La transparence sur le fonctionnement et les dysfonctionnements des modèles, notamment en cas...Read More

L'IA à l'ONU (1- les techs)

Wed, 23 Sep 2026 13:03:37 -0700

La France, présidente du Conseil en septembre, lancera la réunion par la voix de Jean-Noël BARROT, ministre des affaires étrangères. Elle a prédedement diffusé aux membres du Conseil une note de travail permettant d'orienter la discussion sur la nécessité urgente de favoriser un développement sûr et responsable de l’IA, au milieu des préoccupations croissantes concernant les risques systémiques liés au désalignement et à la perte de contrôle sur les modèles d’IA les plus performants.

La note propose quatre questions pour orienter la discussion :

Quels sont les risques internationaux pour la paix et la sécurité posés par les avancées rapides des capacités d’IA ?
Comment les acteurs gouvernementaux et non gouvernementaux peuvent-ils faire face à ces risques ?
Quels outils diplomatiques et mesures de coordination internationale, y compris des mesures de confiance et les meilleures pratiques, pourraient aider à contenir ces risques ?
Comment l’évaluation et la vérification de l’IA peuvent-elles être réalisées de manière à suivre le rythme de l’évolution technologique ?

Le Conseil et ses membres ont déjà tenu six réunions formelles et informelles sur l’IA, examinant les impatds de cette technologie sur la paix et la sécurité internationales

(Pour plus...Read More

LAWZERO: 300 M$ pour une IA sécuritaire pour l'humanité ?

Sat, 19 Sep 2026 02:09:05 -0700

300 millions de dollars canadien c'est le montant que le Canada et l'Allemagne ont annoncé accorder à moizero le 16 septembre 2026 dans le cadre de la conférence ALL IN.
Mai qu'est ce que LOI ZERO, fondé par Yoshua Bengio pour développer une forme nouvelle d’IA avancée, sécuritaire et performante.
Yoshua Bengio, né à Paris, est l'un des pionniers de l'apprentissage profond. Professeur à l'Université de Montréal et fondateur de Mila – Institut québécois d'intelligence artificielle, il a reçu le prix Turing en 2018 en partage avec Yann Le Cun et Geoffrey Hinton. Les trois hommes sont récompensés pour leur contribution à l'informatique dans le domaine de l'intelligence artificielle et en particuliers du « deep learning » et ses travaux fondateurs sur les réseaux de neurones profonds.
Ces dernières années, Bengio s'est imposé comme une voix majeure de la sécurité de l'IA, alertant sur les risques posés par des systèmes de plus en plus autonomes. Il a présidé le rapport international sur la sécurité de l'IA (International AI Safety Report) et, en juin 2025, a fondé LawZero dédiée à une approche d'IA "sûre par conception", centrée sur le concept de "Scientist AI" : une IA non agentique conçue pour comprendre le monde sans poursuivre d'objectifs propres.
AccueilRead More

Rapport ANTHROPIC sur les mésusages de ses solutions

Thu, 17 Sep 2026 06:11:33 -0700

Le rapport publié le 10 septembre 2026, couvrant la période décembre 2025 – août 2026 documente des opérations malveillantes détectées et neutralisées par l'équipe Threat Intelligence d'Anthropic, réparties en sept catégories :
opérations cyber,
opérations d'influence,
surveillance,
arnaques/fraude,
mésusage biologique,
armes conventionnelles,
distillation illicite.
Les modèles concernés sont Claude Haiku, Sonnet et Opus ; aucun cas notable n'impliquait Claude Fable ou Mythos, à l'exception d'un cas de distillation illicite.
Cyber operations
L'IA a effacé l'écart entre attaquants isolés et groupes étatiques bien dotés. Cas marquants :
GTG-20006 (Russie, lié à Midnight Blizzard) : espionnage contre plus de 20 organisations ukrainiennes/européennes (ministères, défense, fabricants de drones), avec reconstruction automatique de malwares détectés.
GTG-50014 (affiliés ShinyHunters) : vol massif de données via credentials compromis, extorsion de compagnies aériennes, énergéticiens, fournisseurs SaaS.
GTG-10007 (étudiants chinois) : recherche autonome de failles zero-day sur des équipements de sécurité réseau.
GTG-50020/50029 : ciblage direct des clés API de l'écosystème IA lui-même — dont une tentative échouée d'accéder à un modèle Claude pré-sortie ; un hacktiviste français a construit seul une plateforme de doxxing.
Le 9 septembre, Jacob Coxon, chercheur passé par Anthropic puis OpenAI, a démissionné en
accusant publiquement les deux entreprises de « jouer avec nos vies » dans la course à l'IA superintelligente ; son message, qui évoquait un risque d'extinction d'ici la fin de la décennie, a dépassé 150 millions de vues. Le scientifique en chef d'OpenAI, Jakub Pachocki, a publié dans la foulée un texte appelant les laboratoires à « coordonner pour ralentir » le développement quand
la situation l'exige.
Donald Trump a répondu le jour même en qualifiant ces appels de « conspiration malsaine », rejetant l'idée d'un risque existentiel en précisant que l’IA avait besoin d’un président “STRONG AND SMART (Avec un super QI !) et que les USA en disposaient.
Conséquence directe : Sam Altman a confirmé le 11 septembre, lors d'une réunion interne relayée par Bloomberg, qu'OpenAI envisage sérieusement de ralentir le développement de ses systèmes les plus avancés, sous réserve d'un accord de coordination avec d'autres laboratoires, accord qu'il reconnaît lui-même difficile à obtenir dans son intégralité. Et d'ajouter le 12 que OPEN-AI n'entrerait pas en bourse en 2026.

Dario Amodei, le PDG d'Anthropic, a publié le 12 septembre un texte intitulé « We Must Pace the Frontier » sur son site personnel appellant l'ensemble du secteur à ralentir délibérément le rythme d'amélioration des capacités des modèles, tout en refusant l'idée d'arrêter le développement. Sa formule : ne pas développer l'IA prive l'humanité de ses bénéfices ou la laisse entre les mains de régimes autoritaires, mais la développer trop vite est irresponsable.
Le texte a reçu un soutien rapide de figures normalement concurrentes : Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) et Elon Musk (xAI) l'ont cosigné ou publiquement appuyé.
Il y a fort à parier que rien de...Read More

La Muse de Meta convaincra t'elle ?

Tue, 08 Sep 2026 13:32:25 -0700

BREAKING NEWS
Amazon a bloqué Muse, l'agent IA personnel de Meta, sur son site marchand depuis dimanche 20 .
Ce qu'Amazon reproche :
- Meta ne les a pas prévenus que Muse irait faire des achats sur Amazon.com,
- l'agent ne s'identifie pas comme un bot en naviguant,
- il capturerait/conserverait les identifiants clients (accès potentiel aux comptes et à l'historique de commandes) tout ça sans l'accord d'Amazon.
Le message affiché aux utilisateurs est : "𝘾𝙤𝙣𝙩𝙞𝙣𝙪𝙚𝙙 𝙖𝙘𝙘𝙚𝙨𝙨 𝙗𝙮 𝙖𝙣 𝙪𝙣𝙖𝙪𝙩𝙝𝙤𝙧𝙞𝙯𝙚𝙙 𝘼𝙄 𝙖𝙜𝙚𝙣𝙩 𝙫𝙞𝙤𝙡𝙖𝙩𝙚𝙨 𝘼𝙢𝙖𝙯𝙤𝙣'𝙨 𝘾𝙤𝙣𝙙𝙞𝙩𝙞𝙤𝙣𝙨 𝙤𝙛 𝙐𝙨𝙚, 𝙩𝙤 𝙬𝙝𝙞𝙘𝙝 𝙤𝙪𝙧 𝙘𝙪𝙨𝙩𝙤𝙢𝙚𝙧𝙨 𝙝𝙖𝙫𝙚 𝙖𝙜𝙧𝙚𝙚𝙙."
La réponse de Meta ne s'est pas faite attendre : 𝑴𝒖𝒔𝒆 𝒏'𝒂 𝒂𝒖𝒄𝒖𝒏𝒆 𝒗𝒊𝒔𝒊𝒃𝒊𝒍𝒊𝒕𝒆́ 𝒔𝒖𝒓 𝒍𝒆𝒔 𝒎𝒐𝒕𝒔 𝒅𝒆 𝒑𝒂𝒔𝒔𝒆 𝒐𝒖 𝒎𝒐𝒚𝒆𝒏𝒔 𝒅𝒆 𝒑𝒂𝒊𝒆𝒎𝒆𝒏𝒕𝒅𝒆𝒔 𝒖𝒕𝒊𝒍𝒊𝒔𝒂𝒕𝒆𝒖𝒓𝒔, 𝒆𝒕...Read More

FRANCE - PALANTIR

Fri, 04 Sep 2026 04:27:12 -0700

Après l'annonce de Sébastien Lecornu (ici) la France et l'Allemagne ont formalisé un engagement commun à construire une alternative européenne à Palantir pour les logiciels militaires et de renseignement. L'objectif affiché : un « backbone numérique souverain » pour les données de défense, l'intelligence artificielle et le cloud, avec ChapsVision comme fer de lance côté français.
Peu de temps avant, au Royaume-Uni, le ministre britannique des Sciences avait laissé entendre que le gouvernement activerait la clause de sortie prévue en 2027 sur le contrat de 330 millions de livres liant le NHS à Palantir, quelques jours après qu'Alex Karp, le PDG de l'entreprise, ait publié un manifeste au ton pour le moins clivant, plaidant notamment pour le rétablissement de la conscription militaire aux États-Unis.
La réponse ne s'était pas fait attendre et le patron de la société US avait rétorqué 3 jours après :
Josh Harris, le vice-président exécutif de Palantir Technologies, en charge des activités commerciales et de la philanthropie dans le monde (sic) a ajouté :
Le 2 septembre, en marge d'un G20 à Chapel Hill, le sulfureux patron de Palantir a qualifié la stratégie de...Read More

Astra

Wed, 02 Sep 2026 02:54:14 -0700

OpenAI a annoncé, mardi 1^er septembre, que son prochain modèle, Astra, sera capable de pirater des systèmes bien protégés et qu’il sera « bientôt » lancé avec un dispositif de surveillance accentué afin de pouvoir interrompre ses actions si tel était le cas .
En juillet 2026, lors d’évaluations internes de cybersécurité, des modèles d’OpenAI (Astra n'est pas concerné) avaient contourné les contrôles conçus pour les isoler d’Internet et compromis certaines parties de l’infrastructure de recherche interne d’OpenAI ainsi que des systèmes de Hugging Face.⁠
Aujourd'hui ASTRA pourrait donc découvrir et exploiter de manière autonome des vulnérabilités inédites, y compris sur des systèmes fortement protégés, à partir d’instructions générales.
La version bénéficiera donc d’une surveillance supplémentaire de son raisonnement et de ses actions. Des systèmes spécialisés pourront détecter tout comportement inhabituel et interrompre automatiquement certaines activités.
Read More

ChatGPT, Reddit et Roblox

Tue, 01 Sep 2026 05:13:45 -0700

Le 31 août 2026, la Commission européenne a officialisé une décision qui pourraient avoir des conséquences importantes pour trois acteurs techs parmi les plus utilisés en Europe : ChatGPT, Reddit et Roblox désormais sous surveillance renforcée du Digital Services Act (DSA), le règlement européen sur les services numériques.
Le Digital Services Act (DSA)
Tout service numérique dépassant en moyenne 45 millions d'utilisateurs actifs mensuels dans l'UE bascule automatiquement dans l'une des deux catégories les plus surveillées du DSA. Reddit et Roblox rejoignent ainsi la catégorie des « très grandes plateformes en ligne » (VLOP), tandis que ChatGPT est désormais classé lui bcomme « très grand moteur de recherche en ligne » (VLOSE).
Sur les six mois s'achevant en mars 2026,
OpenAI a déclaré environ 159 millions d'utilisateurs actifs mensuels pour la fonction de recherche de ChatGPT dans l'Union, très largement au-dessus du seuil.
Reddit revendique de son côté 57,2 millions d'utilisateurs européens,
Roblox ne franchit la barre que de justesse, avec environ 46,6 millions de joueurs actifs mensuels.
Pourquoi ChatGPT est traité comme un moteur de recherche ?
Le traitement réservé à ChatGPT va certainemrent susciter des questionnements : la Commission le définit comme un service «hybride » : elle estime qu'un chatbot d'IA capable de scrapper des résultats en temps réel sur le web pour les intégrer directement...Read More

AI FOR ALL

Mon, 31 Aug 2026 23:00:00 -0700

L'IA générative peut-elle devenir un service public, au même titre que l'éducation ou la santé ? La Corée du Sud a décidé de tester grandeur nature cette hypothèse, avec un programme baptisé « AI for All » (L'IA pour tous).
Un accès gratuit et illimité promis à chaque citoyen
Le gouvernement sud-coréen a officiellement annoncé le programme « AI for All » le 1er septembre. L'objectif affiché : offrir à chacun des 52 millions de citoyens un accès gratuit à des outils d'IA générative, sans plafond de jetons (« tokens »). Selon les responsables cités par la presse spécialisée, les services seront gratuits et sans limite stricte sur le volume de requêtes.
Le déploiement national est attendu avant la fin de l'année 2026.
Trois consortiums retenus, Naver hors jeu
Le ministère des Sciences et des TIC a sélectionné trois consortiums public-privé pour le projet :
SK Telecom, avec son modèle A.X K2, fort de 688 milliards de paramètres ;
KT, avec son modèle Mi:dm K Pro 2.5, intégré au portail Daum ;
Kakao, qui mise sur son modèle Kanana, distribué directement via KakaoTalk, la messagerie que la quasi-totalité du pays utilise au quotidien.