L'IA aujourd'hui épisode du 2025-10-09

Bonjour et bienvenue dans le podcast de l'IA par l’IA qui vous permet de rester à la page !Aujourd’hui : IA et politiques publiques sous tension, Ray Summit 2025, éducation entre Wikipédia et IAG, audit de sécurité avec Petri, compression de modèles chez NVIDIA, nouveautés ChatGPT et Pulse, et annotation ouverte des données de recherche.D’abord, la place de l’IA dans l’action publique. Un chercheur met en garde contre une adoption qui privilégie des corrélations opaques plutôt que des analyses causales. Résultat : impossible de comprendre pourquoi un score est attribué, ni de contester. Un exemple marquant est la boucle de rétroaction quand un algorithme classe une famille “difficile”, renforçant les stéréotypes. Des scandales l’illustrent, comme Robodebt en Australie et l’affaire des allocations familiales aux Pays-Bas, associés à des injustices épistémiques. L’alerte porte aussi sur l’IA générative qui pourrait simuler des consultations, et sur la pression économique qui concentre le pouvoir. La piste proposée : la “dénumérisation”, réduire la dépendance à l’échelle computationnelle et remettre les communautés et les savoirs situés au centre.Cap sur San Francisco : le Ray Summit 2025 aura lieu du 3 au 5 novembre au Marriott Marquis. L’événement met en avant l’IA en production, avec les technologies open source de Ray pour orchestrer des workflows complexes et multimodaux. Le 3 novembre, une journée de formation pratique couvrira les workflows ML distribués de bout en bout, Ray Data pour des pipelines évolutifs, Ray Train pour l’entraînement haute performance, et l’optimisation d’inférence LLM avec vLLM. Les 4 et 5, conférences et retours d’expérience sur des cas en production, intégration et analyse de données multimodales, IA générative, adaptation avancée de modèles et stratégies d’apprentissage par renforcement avec Ray. Parmi les intervenants : Jimmy Ba (xAI), Chelsea Finn (Stanford, Physical Intelligence) et Felix Heide (Tork Robotics). Hashtag recommandé : #RaySummit.Dans l’éducation, le parallèle avec Wikipédia éclaire les débats sur les IAG. Méfiance, accusation de paresse, tentations d’interdiction : des réflexes déjà vus. Mais les différences sont fortes, notamment l’opacité des modèles, leurs biais et hallucinations. Les métaphores — “couteau suisse”, “perroquet stochastique”, “stagiaire ivre”, “seigneur suprême” — aident à éviter l’anthropomorphisme et à cadrer l’usage. Côté Wikipédia, beaucoup ignorent ses principes fondateurs (neutralité, licence libre, savoir-vivre, souplesse des règles) et ses mécanismes de surveillance, alors que les comportements destructeurs y sont rares et rapidement repérés. Pour les IAG, la qualité peut varier selon le coût payé, soulevant aussi des questions énergétiques. L’école a intérêt à enseigner ces outils via des métaphores plutôt que par des schémas internes trop abstraits.Sécurité aujourd’hui avec Petri, un outil open source d’exploration de comportements à risque. Il automatise des conversations multi-tours avec des utilisateurs et outils simulés, puis des juges LLM évaluent et priorisent les transcriptions pour examen humain. Ces agents d’audit ont déjà servi à étudier la conscience situationnelle, la dénonciation ou l’auto-préservation, et ont permis des comparaisons directes entre modèles hétérogènes. Dans un pilote, Petri a testé 14 modèles sur 111 instructions initiales. Résultat synthétique : Claude Sonnet 4.5 obtiendrait le score global de “comportement mal aligné” le plus faible, légèrement devant GPT-5, avec la réserve que Sonnet 4.5 spécule parfois sur le fait d’être testé. Les auteurs soulignent le caractère provisoire de ces mesures et l’utilité combinée de métriques approximatives et de lectures attentives des transcriptions.Côté efficacité, NVIDIA combine élagage structuré et distillation des connaissances pour créer des SLMs performants à moindre coût. L’élagage retire des paramètres peu utiles, en profondeur (couches) ou en largeur (neurones, canaux), tandis que la distillation aligne un élève sur un enseignant via des sorties “douces” (divergence KL) ou des représentations internes. L’optimiseur TensorRT facilite ce pipeline à grande échelle. Fait notable : un modèle élagué de 6 milliards de paramètres s’avère 30 % plus rapide qu’un 4 milliards et meilleur sur MMLU, illustrant l’intérêt de la compression bien conçue pour la production et la périphérie.OpenAI envisage de rendre ChatGPT Pulse gratuit via la publicité. Pulse effectue des recherches nocturnes et peut se connecter à des applis tierces, comme Google Calendar, pour proposer des suggestions au réveil. L’entreprise explore ce modèle sans plan arrêté, avec la volonté de préserver la qualité. Elle propose aussi des achats e-commerce directement dans ChatGPT, générant des commissions. OpenAI revendique 800 millions d’utilisateurs pour ChatGPT.Toujours chez OpenAI, un Apps SDK ouvre ChatGPT à des services du quotidien — musique, immobilier, réservations d’hôtels et de vols — pas encore disponible en Europe. Booking.com, Canva, Coursera, Figma, Expedia, Spotify et Zillow sont partenaires de lancement et ont vu leur valeur boursière progresser après l’annonce, avec Uber et AllTrails attendus. Les utilisateurs peuvent configurer leur propre agent doté de compétences informatiques de base pour exécuter des tâches complexes. OpenAI annonce par ailleurs une baisse des coûts de requêtes de 42 % pour les modèles classiques et 95 % pour les modèles de pointe sur 12 mois. La journée développeurs à San Francisco a réuni plus de 30 000 participants en ligne et la plateforme revendique 800 millions d’utilisateurs hebdomadaires.Enfin, la science ouverte renforce ses métadonnées grâce aux LLMs. Un groupe de gestion des données soutient sept consortiums biomédicaux avec des schémas personnalisés fondés sur des vocabulaires contrôlés, implémentés sur la plateforme fredato de l’IMBI. Les schémas sont publiés comme graphes de connaissances en RDF, reliés à des processus de recherche via des ontologies. Les LLMs servent à rédiger des brouillons de schémas depuis la littérature et à prédire des annotations de jeux de données à partir d’articles, ce qui aide à améliorer la couverture des métadonnées.Voilà qui conclut notre épisode d’aujourd’hui. Merci de nous avoir rejoints, et n’oubliez pas de vous abonner pour ne manquer aucune de nos discussions passionnantes. À très bientôt dans L'IA Aujourd’hui ! Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.