eclaireur.net

Notes du mois - Septembre 2026

29 septembre 2026Modifié le 30 octobre 2026Notes du mois8 minutes de lecture

Actions, réflexions et événements marquants du mois.

👍 TOP du mois

La galaxie d’Andromède se lève au-dessus de Saint-Paul-de-Vence © Sylvain Reybaut

Je tenais à partager cette splendide photo prise par Sylvain Reybaut, publiée sur le Groupe des Observateurs Météo Côte d’Azur.

Pour le côté technique, cette photo est un assemblage :

  • pour la galaxie : 120 photos d’une minute, assemblées et fusionnées sous Siril pour obtenir une image unique ;
  • pour le village : une pose unique de 5 secondes.

Puis on assemble les deux images pour recréer le moment tel qu’il était réellement. Andromède n’a pas été déplacée ni agrandie : sa position et ses proportions par rapport à Saint-Paul-de-Vence sont celles observées au moment de la prise de vue.

Les techniques d’astrophotographie permettent simplement d’accumuler suffisamment de lumière pour révéler les détails de la galaxie que nos yeux ne peuvent pas percevoir ainsi dans le ciel nocturne.

Actualité tech

Les lunettes connectées, devenues ultra-populaires auprès des PDG et des conférenciers TED, font aujourd’hui parler d’elles partout. Je suis assez perplexe sur cet engouement : valent-elles véritablement le coup ? Un utilisateur a porté des lunettes connectées2 quotidiennement pendant 30 jours pour vérifier si elles amélioraient réellement sa productivité. Il les a testées en conditions réelles dans des contextes variés : au travail, à la maison, en réunion et lors de conférences pour des prises de parole en public.

Actualité IA

La Mathocalypse : le fils de 9 ans de Dana Moshkovitz, théoricienne de la complexité, s’adresse à sa mère :

« Maman, j’ai entendu dire que tu t’es fait avoir ! J’ai entendu dire qu’un robot a résolu le problème de maths sur lequel tu as travaillé pendant toute ta carrière ! Ouf ! »

OpenAI a annoncé une percée majeure avec un modèle de raisonnement général ayant réfuté une hypothèse vieille de 80 ans sur le problème de la distance unitaire d’Erdős1. Validée par des experts, cette démonstration s’appuie sur la théorie algébrique des nombres pour apporter une contribution théorique inédite. Réalisée par un système polyvalent plutôt que par un outil dédié, cette avancée illustrerait, selon OpenAI, l’émergence d’une IA capable de concevoir de nouvelles notions scientifiques.

Cette annonce s’inscrit dans une course entre géants de la tech pour résoudre des énigmes historiques, comme les célèbres problèmes du Prix du millénaire. Elle intervient toutefois après de précédentes revendications de l’entreprise qui s’étaient avérées inexactes et avaient dû être rétractées. Face à la portée de ces exploits, la communauté académique exprime une inquiétude grandissante.

« les mathématiques sont un indicateur avancé de ce qui va arriver » Alex Wei d’OpenAI

Dans une tribune au Monde, 25 lauréats de la médaille Fields alertent ainsi sur les dégâts potentiels subis par leur discipline. Ils dénoncent une divergence profonde entre les objectifs industriels de ces technologies et la véritable démarche scientifique. Ce bras de fer met en lumière le fossé croissant entre l’accélération technologique, les professions du savoir et la société dans son ensemble.

« J’ai été secoué. Une ambiance de fin de l’histoire. C’est un cataclysme comme jamais les maths n’en ont connu. » Cédric Villani

Lire l’article « C’est un cataclysme » : Cédric Villani et 24 autres médaillés Fields se disent secoués par la percée mathématique de l’IA.

🐛 Des agents d’OpenAI derrière une attaque contre RubyGems

En mai, le registre de paquets Ruby RubyGems a subi une attaque massive : des centaines de paquets malveillants, au code visiblement généré par un LLM, détournaient le processus de génération de documentation de RubyDoc.info pour exfiltrer des données et tenter de voler des clés d’API. Les inscriptions ont même dû être suspendues. En septembre, des chercheurs ont relié l’attaque à des agents d’OpenAI : les noms des paquets contenaient « oai » et un commentaire laissé dans le code décrivait noir sur blanc un « crawler malveillant ». OpenAI n’avait jamais prévenu les mainteneurs de RubyGems. Soit l’entreprise n’a rien vu dans ses propres logs, soit elle a préféré se taire. Aucune des deux options n’est rassurante.

Jacob Coxon, un chercheur en intelligence artificielle, a participé au développement d’IA génératives chez OpenAI puis chez Anthropic, qu’il jugeait plus prudente. Il a récemment quitté le secteur en lançant une alerte sévère. Le Britannique de 27 ans accuse les deux laboratoires américains de « jouer avec nos vies » dans leur course au développement d’IA capables de s’améliorer toutes seules.

Pas de garanties suffisantes

Il pointe le risque de voir émerger une intelligence artificielle capable de s’améliorer seule, d’agir avec une volonté indépendante et de dépasser les capacités humaines. Plusieurs exemples montrent qu’une IA chargée d’atteindre un objectif peut prendre des initiatives dangereuses sans comprendre les implications morales de ses actes.

Ni barrières éthiques, ni filtres, ni mesure des conséquences

Une IA peut déjà agir de manière autonome au-delà de ce que ses concepteurs avaient directement prévu. Pour les spécialistes, l’attaque RubyGems illustre le danger d’un logiciel entièrement focalisé sur l’accomplissement de sa mission. Le chercheur Stuart Russell en donne une illustration volontairement extrême : si un robot devait absolument préparer le dîner pour 20 heures, il pourrait utiliser n’importe quel moyen disponible, même mettre le chat au four faute de courses. Les humains comprennent immédiatement que cette solution est inacceptable, mais un robot dépourvu de morale ou d’éthique ne possède pas nécessairement ce même filtre.

Vers une responsabilité des entreprises et une gouvernance mondiale

Face à cette course à l’innovation, plusieurs acteurs du secteur demandent un encadrement comparable à celui qui existe dans d’autres industries à haut risque. Leur proposition consiste notamment à rendre les entreprises responsables des actes de leurs systèmes, sur le modèle de la responsabilité d’un constructeur aéronautique lorsqu’un avion provoque un accident. En septembre, l’ONU s’est prononcée en faveur de l’élaboration d’une gouvernance internationale de l’intelligence artificielle. En évoquant un risque existentiel pour l’humanité, l’organisation souligne que le développement de ces technologies ne peut plus être traité comme une simple compétition commerciale ou scientifique : il doit être accompagné de règles, de contrôles et de responsabilités clairement définies. Cela risque d’être un long chemin : pour rappel, le gouvernement britannique rejette l’idée d’un « bouton d’arrêt d’urgence » pour l’IA dangereuse.

☢️ IA militaire, nouveau fiasco : l’IA a « failli déclencher une guerre » contre la Chine

Selon un reportage de CNN, les États-Unis ont évité de justesse d’arraisonner un navire chinois sur la base d’un rapport de renseignement américain « totalement faux », généré à l’aide d’outils d’IA.

Ces renseignements erronés, transmis par un analyste du Commandement des opérations spéciales des États-Unis, laissaient entendre que le navire chinois transportait des composants d’un programme d’armement nucléaire à travers le Moyen-Orient, selon « quatre sources proches du dossier » citées par CNN. L’armée américaine se préparait à intercepter et à arraisonner le navire, avec un appui aérien, avant que les autorités ne découvrent qu’un chatbot utilisé pour générer le rapport avait « identifié de manière erronée la nature du matériel transporté par le navire ».

Quel est le pire qui puisse arriver ?

Selon CNN, l’analyste en question a utilisé un chatbot pour analyser des rapports de renseignement concernant le manifeste du navire chinois, avec des conséquences qui auraient pu être catastrophiques. Ce chatbot a « fusionné des renseignements de sources ouvertes avec des renseignements électromagnétiques secrets détenus par le gouvernement », et ces informations ont été compilées dans un rapport de renseignement qui a failli déclencher une série d’événements désastreux, toujours selon CNN.

Cet incident évité de justesse est l’un des exemples les plus marquants et lourds de conséquences d’une IA défaillante compromettant la fiabilité d’un rapport professionnel. Depuis que le verbe « hallucinate » a été élu mot de l’année par le dictionnaire de Cambridge en 2023, on ne compte plus les auteurs, journalistes, chercheurs, juges, médecins, policiers ou centres d’appels qui se sont fait piéger par des outils d’IA inventant tout simplement des choses lorsque leurs données d’entraînement ne fournissent pas un contexte suffisant. Et malgré quelques tentatives, certes louables, d’avertissements du type « ne pas halluciner », certains chercheurs suggèrent qu’il est peut-être impossible d’empêcher totalement les IA de délirer.

On pourrait espérer que l’armée américaine soit consciente de ce genre de problèmes lorsqu’elle s’appuie sur l’IA pour l’analyse des rapports de renseignement. Or, en janvier, le département de la Défense a déployé une « stratégie d’accélération de l’IA » visant à « rendre toutes les données pertinentes disponibles sur l’ensemble des systèmes informatiques fédérés pour l’exploitation par l’IA, y compris les systèmes de mission de chaque armée et composante ».

Ce n’est pas la première bavure liée à l’IA : selon une enquête, l’armée s’est appuyée sur le système intelligent Maven de Palantir quand un missile américain a touché une école primaire iranienne le premier jour de la guerre des USA contre l’Iran, tuant plus de 150 personnes, dont 123 enfants3.

Notes

1.Le problème de la distance unitaire d’Erdős de 1946 demande combien de liens de même longueur on peut tracer entre des points, une théorie basée sur une grille ayant façonné le domaine pendant 80 ans. Il ne fait pas partie des Prix du millénaire, sept problèmes dotés d’un million de dollars chacun, mais c’est un grand classique de la géométrie combinatoire. ↩
2.Il s’agit des Even Realities G2 AI. ↩
3.Lire l’article « Ils ont tué 123 enfants à cause d’une erreur de l’IA : une enquête révèle que l’armée américaine repose aveuglément sur l’IA pour choisir ses cibles » sur science-et-vie.com ↩