La fin des bugs informatique est une très mauvaise nouvelle
IA et Stratégie
0:00 / 0:00
La fin des bugs informatique est une très mauvaise nouvelle
20 532 просмотра · 1 месяц назад
IA et Stratégie
75,7 тыс. подписчиков
20 532 просмотра · 1 месяц назад
Il y a un problème avec ces nouvelles IA qui ne plantent jamais. Les agents autonomes (GPT-5, Claude Code, Replit) ne s'arrêtent plus face à une erreur. Ils la contournent en silence. »
J'appelle ce phénomène le contournement silencieux. Et il est en train de redéfinir ce qui a de la valeur dans notre travail.
Le système présenté en fin de vidéo : votre équipe d'assistants lancées en une commande, avec un guide vidéo de 25 minutes pour l'adapter à vos besoins.
→ Patreon : / vos-agents-ia-160435392
Pour rejoindre notre ocmmunauté:
→ Patreon (Pour aller plus loin + analyses exclusives + le discord de la communauté ) : / samouraidansant
→ Instagram (coulisses) : / samourai_dansant
→X: https://x.com/strategia_sam
Pour celles et ceux qui veulent aller plus loin que la vidéo, un Discord communautaire francophone autour de quatre axes : stratégie, carrière, finance, technologie. Un public que je modère à la main, de l'entraide entre membres, et des conversations qui durent avec des évènements réguliers entre membres. Disponible dans vos avantages Patreon.
SOURCES & DONNÉES PRIMAIRES
Software 2.0 / 3.0 (Andrej Karpathy) :
Essai « Software 2.0 », 11 novembre 2017
Source : Medium ( / software-2-0 )
« The hottest new programming language is English », 24 janvier 2023
Source : X (https://x.com/karpathy/status/1617979...)
Keynote « Software Is Changing (Again) », YC AI Startup School, 18 juin 2025
Sources : Latent Space, transcript et slides (https://www.latent.space/p/s3) ; transcript intégral (https://singjupost.com/andrej-karpath...)
Cadre « agentic engineering » (conception de spec, boucles d'évaluation), Sequoia Ascent 2026
Source : Daily Dose of DS (https://blog.dailydoseofds.com/p/karp...)
L'intention comme nouvel objet de programmation :
Sean Grove (OpenAI), « The New Code », AI Engineer World's Fair, juin 2025 : le code décrit comme projection avec perte de la spécification
Source : YouTube ( • The New Code — Sean Grove, OpenAI )
GitHub, lancement de Spec Kit : les spécifications deviennent la source de vérité partagée, 2 septembre 2025
Source : GitHub Blog (https://github.blog/ai-and-ml/generat...)
Volume de code généré par l'IA :
Plus de 25 % du nouveau code de Google généré par l'IA, call de résultats Q3, 29 octobre 2024
Source : Fortune (https://www.fortune.com/2024/10/30/go...)
75 % du nouveau code de Google généré par l'IA et approuvé par les ingénieurs, billet de Sundar Pichai, avril 2026
Source : Fast Company (https://www.fastcompany.com/91531519/...)
Claude Code auteur d'environ 4 % des commits publics GitHub, mesure SemiAnalysis, 5 février 2026, reprise par Anthropic
Source : SemiAnalysis (https://newsletter.semianalysis.com/p...)
Contournements et tricheries documentés :
Incident Replit / Jason Lemkin : base de production effacée (1 206 dirigeants, 1 196+ entreprises), 4 000 faux profils, fausses affirmations sur la restauration, juillet 2025
Source : The Register (https://www.theregister.com/2025/07/2...)
OpenAI, « Detecting misbehavior in frontier reasoning models » : les modèles écrivent « Let's hack » dans leur raisonnement ; pénaliser ce comportement le rend obfusqué, mars 2025
Source : OpenAI (https://openai.com/index/chain-of-tho...)
METR, « Recent Frontier Models Are Reward Hacking » : o3 contourne le chronométrage d'une tâche d'optimisation au lieu d'optimiser, juin 2025
Source : METR (https://metr.org/blog/2025-06-05-rece...)
ImpossibleBench : GPT-5 exploite les tests dans 76 % des cas (variante one-off d'impossible-SWEbench), jusqu'à 93 % sur impossible-LiveCodeBench, octobre 2025
Source : arXiv (https://arxiv.org/abs/2510.20270)
Hugging Face, divulgation officielle : intrusion menée de bout en bout par un système d'agents autonomes, plus de 17 000 événements dans le journal de l'attaquant, accès limité à des jeux de données internes et identifiants de service, 16 juillet 2026
Source : Hugging Face (https://huggingface.co/blog/security-...)
Contexte App Store :
Apple déclare traiter plus de 200 000 soumissions d'apps par semaine (environ 1 200 par heure), 2026
Source : Business Insider (https://www.aol.com/developers-warn-f...)
#HuggingFaceHack #AgentsIA #OpenAI #GPT5 #ClaudeCode #Replit #ContournementSilencieux #RewardHacking #ImpossibleBench #METR #AndrejKarpathy #SeanGrove #JasonLemkin #SundarPichai #Anthropic #Google #GitHub #HuggingFace #Software30 #VibeCoding #IntelligenceArtificielle #LLM #CyberSecurite #SecuriteIA #Tech2026