👍 TOP du mois
![]()
Je tenais à partager cette splendide photo prise par Sylvain Reybaut, publiée sur le Groupe des Observateurs Météo Côte d’Azur.
Pour le côté technique, cette photo est un assemblage :
- pour la galaxie : 120 photos d’une minute, assemblées et fusionnées sous Siril pour obtenir une image unique ;
- pour le village : une pose unique de 5 secondes.
Puis on assemble les deux images pour recréer le moment tel qu’il était réellement. Andromède n’a pas été déplacée ni agrandie : sa position et ses proportions par rapport à Saint-Paul-de-Vence sont celles observées au moment de la prise de vue.
Les techniques d’astrophotographie permettent simplement d’accumuler suffisamment de lumière pour révéler les détails de la galaxie que nos yeux ne peuvent pas percevoir ainsi dans le ciel nocturne.
Actualité tech
Les lunettes connectées, devenues ultra-populaires auprès des PDG et des conférenciers TED, font aujourd’hui parler d’elles partout. Je suis assez perplexe sur cet engouement : valent-elles véritablement le coup ? Un utilisateur a porté des lunettes connectées2 quotidiennement pendant 30 jours pour vérifier si elles amélioraient réellement sa productivité. Il les a testées en conditions réelles dans des contextes variés : au travail, à la maison, en réunion et lors de conférences pour des prises de parole en public.
Actualité IA
La Mathocalypse : le fils de 9 ans de Dana Moshkovitz, théoricienne de la complexité, s’adresse à sa mère :
« Maman, j’ai entendu dire que tu t’es fait avoir ! J’ai entendu dire qu’un robot a résolu le problème de maths sur lequel tu as travaillé pendant toute ta carrière ! Ouf ! »
OpenAI a annoncé une percée majeure avec un modèle de raisonnement général ayant réfuté une hypothèse vieille de 80 ans sur le problème de la distance unitaire d’Erdős1. Validée par des experts, cette démonstration s’appuie sur la théorie algébrique des nombres pour apporter une contribution théorique inédite. Réalisée par un système polyvalent plutôt que par un outil dédié, cette avancée illustrerait, selon OpenAI, l’émergence d’une IA capable de concevoir de nouvelles notions scientifiques.
Cette annonce s’inscrit dans une course entre géants de la tech pour résoudre des énigmes historiques, comme les célèbres problèmes du Prix du millénaire. Elle intervient toutefois après de précédentes revendications de l’entreprise qui s’étaient avérées inexactes et avaient dû être rétractées. Face à la portée de ces exploits, la communauté académique exprime une inquiétude grandissante.
« les mathématiques sont un indicateur avancé de ce qui va arriver » Alex Wei d’OpenAI
Dans une tribune au Monde, 25 lauréats de la médaille Fields alertent ainsi sur les dégâts potentiels subis par leur discipline. Ils dénoncent une divergence profonde entre les objectifs industriels de ces technologies et la véritable démarche scientifique. Ce bras de fer met en lumière le fossé croissant entre l’accélération technologique, les professions du savoir et la société dans son ensemble.
« J’ai été secoué. Une ambiance de fin de l’histoire. C’est un cataclysme comme jamais les maths n’en ont connu. » Cédric Villani
Lire l’article « C’est un cataclysme » : Cédric Villani et 24 autres médaillés Fields se disent secoués par la percée mathématique de l’IA.
🐛 Des agents d’OpenAI derrière une attaque contre RubyGems
En mai, le registre de paquets Ruby RubyGems a subi une attaque massive : des centaines de paquets malveillants, au code visiblement généré par un LLM, détournaient le processus de génération de documentation de RubyDoc.info pour exfiltrer des données et tenter de voler des clés d’API. Les inscriptions ont même dû être suspendues. En septembre, des chercheurs ont relié l’attaque à des agents d’OpenAI : les noms des paquets contenaient « oai » et un commentaire laissé dans le code décrivait noir sur blanc un « crawler malveillant ». OpenAI n’avait jamais prévenu les mainteneurs de RubyGems. Soit l’entreprise n’a rien vu dans ses propres logs, soit elle a préféré se taire. Aucune des deux options n’est rassurante.
Jacob Coxon, un chercheur en intelligence artificielle, a participé au développement d’IA génératives chez OpenAI puis chez Anthropic, qu’il jugeait plus prudente. Il a récemment quitté le secteur en lançant une alerte sévère. Le Britannique de 27 ans accuse les deux laboratoires américains de « jouer avec nos vies » dans leur course au développement d’IA capables de s’améliorer toutes seules.
Pas de garanties suffisantes
Il pointe le risque de voir émerger une intelligence artificielle capable de s’améliorer seule, d’agir avec une volonté indépendante et de dépasser les capacités humaines. Plusieurs exemples montrent qu’une IA chargée d’atteindre un objectif peut prendre des initiatives dangereuses sans comprendre les implications morales de ses actes.
Ni barrières éthiques, ni filtres, ni mesure des conséquences
Une IA peut déjà agir de manière autonome au-delà de ce que ses concepteurs avaient directement prévu. Pour les spécialistes, l’attaque RubyGems illustre le danger d’un logiciel entièrement focalisé sur l’accomplissement de sa mission. Le chercheur Stuart Russell en donne une illustration volontairement extrême : si un robot devait absolument préparer le dîner pour 20 heures, il pourrait utiliser n’importe quel moyen disponible, même mettre le chat au four faute de courses. Les humains comprennent immédiatement que cette solution est inacceptable, mais un robot dépourvu de morale ou d’éthique ne possède pas nécessairement ce même filtre.
Vers une responsabilité des entreprises et une gouvernance mondiale
Face à cette course à l’innovation, plusieurs acteurs du secteur demandent un encadrement comparable à celui qui existe dans d’autres industries à haut risque. Leur proposition consiste notamment à rendre les entreprises responsables des actes de leurs systèmes, sur le modèle de la responsabilité d’un constructeur aéronautique lorsqu’un avion provoque un accident. En septembre, l’ONU s’est prononcée en faveur de l’élaboration d’une gouvernance internationale de l’intelligence artificielle. En évoquant un risque existentiel pour l’humanité, l’organisation souligne que le développement de ces technologies ne peut plus être traité comme une simple compétition commerciale ou scientifique : il doit être accompagné de règles, de contrôles et de responsabilités clairement définies. Cela risque d’être un long chemin : pour rappel, le gouvernement britannique rejette l’idée d’un « bouton d’arrêt d’urgence » pour l’IA dangereuse.
☢️ IA militaire, nouveau fiasco : l’IA a « failli déclencher une guerre » contre la Chine
Selon un reportage de CNN, les États-Unis ont évité de justesse d’arraisonner un navire chinois sur la base d’un rapport de renseignement américain « totalement faux », généré à l’aide d’outils d’IA.
Ces renseignements erronés, transmis par un analyste du Commandement des opérations spéciales des États-Unis, laissaient entendre que le navire chinois transportait des composants d’un programme d’armement nucléaire à travers le Moyen-Orient, selon « quatre sources proches du dossier » citées par CNN. L’armée américaine se préparait à intercepter et à arraisonner le navire, avec un appui aérien, avant que les autorités ne découvrent qu’un chatbot utilisé pour générer le rapport avait « identifié de manière erronée la nature du matériel transporté par le navire ».
Quel est le pire qui puisse arriver ?
Selon CNN, l’analyste en question a utilisé un chatbot pour analyser des rapports de renseignement concernant le manifeste du navire chinois, avec des conséquences qui auraient pu être catastrophiques. Ce chatbot a « fusionné des renseignements de sources ouvertes avec des renseignements électromagnétiques secrets détenus par le gouvernement », et ces informations ont été compilées dans un rapport de renseignement qui a failli déclencher une série d’événements désastreux, toujours selon CNN.
Cet incident évité de justesse est l’un des exemples les plus marquants et lourds de conséquences d’une IA défaillante compromettant la fiabilité d’un rapport professionnel. Depuis que le verbe « hallucinate » a été élu mot de l’année par le dictionnaire de Cambridge en 2023, on ne compte plus les auteurs, journalistes, chercheurs, juges, médecins, policiers ou centres d’appels qui se sont fait piéger par des outils d’IA inventant tout simplement des choses lorsque leurs données d’entraînement ne fournissent pas un contexte suffisant. Et malgré quelques tentatives, certes louables, d’avertissements du type « ne pas halluciner », certains chercheurs suggèrent qu’il est peut-être impossible d’empêcher totalement les IA de délirer.
On pourrait espérer que l’armée américaine soit consciente de ce genre de problèmes lorsqu’elle s’appuie sur l’IA pour l’analyse des rapports de renseignement. Or, en janvier, le département de la Défense a déployé une « stratégie d’accélération de l’IA » visant à « rendre toutes les données pertinentes disponibles sur l’ensemble des systèmes informatiques fédérés pour l’exploitation par l’IA, y compris les systèmes de mission de chaque armée et composante ».
Ce n’est pas la première bavure liée à l’IA : selon une enquête, l’armée s’est appuyée sur le système intelligent Maven de Palantir quand un missile américain a touché une école primaire iranienne le premier jour de la guerre des USA contre l’Iran, tuant plus de 150 personnes, dont 123 enfants3.