Claude Code est la super-IA déjà là

Auteur : clarus.news Source : clarus.news

Résumé court

Dans cet épisode, Gregor Schmalzried et Marie Kilg discutent de la question de savoir si l'intelligence artificielle a déjà atteint le niveau AGI – une intelligence artificielle générale capable de résoudre de manière autonome des tâches complexes. Ils présentent des cas d'usage impressionnants de Claude Code, un outil qui permet aux systèmes d'IA d'accéder directement à l'ordinateur et de gérer des tâches telles que l'organisation de fichiers, les notes de frais de voyage et les formulaires web complexes. Bien que les animateurs décrivent certaines des capacités comme « proches de l'AGI », ils argumentent prudemment que la véritable AGI n'a pas encore été atteinte – l'être humain reste le goulot d'étranglement pour donner des instructions à l'IA. L'épisode traite à la fois des possibilités fascinantes et des risques de sécurité de ces nouvelles technologies.

Personnes

• Gregor Schmalzried
• Marie Kilg
• André Capathi
• Deep Fates

Thèmes

• Claude Code et comportement d'agent
• AGI vs. capacités d'IA spécialisées
• Automatisation des tâches quotidiennes
• Confidentialité et risques de sécurité
• L'IA dans l'analyse vidéo et la génération d'images
• Consommation d'énergie et efficacité des grands modèles de langage

Résumé détaillé

La situation actuelle du développement de l'IA

L'épisode commence par une thèse provocante : avons-nous déjà l'AGI sans le savoir ? Gregor Schmalzried rapporte un changement fondamental dans la perception des experts en IA établis. Le programmeur et ancien employé d'OpenAI André Capathi, connu pour son attitude équilibrée et sceptique face aux promesses de l'IA, a récemment déclaré ne s'être jamais senti autant « distancé » en tant que programmeur. Son analyse suggère que ce n'est pas l'IA qui est le goulot d'étranglement, mais l'être humain – il pourrait être dix fois plus productif s'il exploitait pleinement le potentiel.

Un chercheur en IA en ligne sous le pseudonyme Deep Fates (connu pour avoir forgé le terme « AI Slop » pour désigner les pertes de qualité générées par l'IA) a fait une déclaration plus radicale : Claude Code avec le modèle Claude Opus actuel est pratiquement l'AGI – une intelligence artificielle générale qui est déjà là, sans avoir besoin d'être construite.

Des cas d'usage impressionnants de Claude Code

Les animateurs présentent quatre cas d'usage de rang 1 qui démontrent les capacités transformatrices :

Place 4 : Organisation automatique des photos Gregor Schmalzried a chargé Claude Code d'organiser plus de 1 000 photos non triées en fonction de leurs métadonnées GPS. L'IA a extrait les données GPS, déterminé les emplacements, créé automatiquement des dossiers pour chaque ville et déplacé les fichiers correctement. Bien que le système ait parfois « bloqué » – en créant et en supprimant à nouveau les dossiers lorsqu'il s'est rendu compte qu'il était sur la mauvaise voie – le résultat final était impeccable. Cela démontre la résolution de problèmes complexes et l'autocorrection.

Place 3 : Notes de frais de voyage Marie Kilg a utilisé Claude Code pour extraire ses trajets en train annuels à partir des notifications par e-mail de la Deutsche Bahn et les organiser automatiquement dans un tableau. L'IA a traité 150 trajets en train différents sans erreur, avec les numéros de commande, les itinéraires et les coûts. Sur trois « erreurs » apparentes que Marie avait identifiées, il s'avérait qu'elle avait elle-même commis les erreurs – l'IA était cent pour cent précise.

Place 2 : Planification intelligente de la semaine Gregor Schmalzried a programmé Claude Code pour qu'il analyse automatiquement ses notes chaque lundi à 7 heures et crée un résumé personnalisé. Le système identifie les points importants, génère des listes de tâches, en déduit les priorités et formule même des brouillons d'e-mails – le tout basé sur les notes collectées. Ce projet n'a nécessité qu'une demi-heure de configuration, mais il montre comment l'IA devient un « gestionnaire de connaissances » lorsque l'homme lui fournit les informations contextuelles nécessaires.

Place 1 : Facturation VG-Wort avec automatisation du navigateur Le point culminant combine Claude Code avec l'extension de navigateur Cloud for Chrome. La VG-Wort (Verwertungsgesellschaft Wort) est une société de gestion des droits allemande qui compense les auteurs et journalistes pour l'utilisation de leurs textes (par exemple, dans les services de radio ou les journaux). Gregor Schmalzried devait normalement passer 3 à 4 heures chaque année à remplir manuellement des formulaires complexes sur ce site Web. Avec Claude Code et l'extension de navigateur, l'IA a pris le contrôle : elle a navigué sur le site Web, rempli les formulaires, vérifié les données et a tout soumis sans erreur. Bien que l'économie de temps réelle due à l'observation du processus ait été faible, le concept est transformateur – les tâches administratives répétitives pourraient être automatisées en masse.

Les limites : Pourquoi ce n'est pas encore l'AGI

Malgré ces résultats impressionnants, les animateurs soutiennent prudemment que ce n'est pas l'AGI. Marie soulève plusieurs points critiques :

1. Les hallucinations restent un problème : L'IA fait toujours des erreurs « vraiment horribles ». Un exemple : lors de l'analyse d'une vidéo de mariage, ChatGPT a inventé un bouquet de mariée qui n'a jamais existé et a fourni un retour d'information plausible mais faux.

2. Intensité énergétique et facteur de coût : Claude Opus ne s'exécute pas localement, mais dans le cloud. Pour l'exécuter localement, il faudrait 500 GB de VRAM (mémoire vive de la carte graphique) – un facteur économique énorme pour la mise à l'échelle.

3. Le problème de la connaissance : Même si l'IA était dix fois plus intelligente, elle ne pourrait pas regarder à l'intérieur de la tête humaine. L'être humain reste le goulot d'étranglement car il doit dire à l'IA ce qu'il veut. Cela ne pourrait être surmonté que par le « brain-streaming » – une connexion directe entre le cerveau et l'IA.

4. Limites de la définition : Le travail économiquement significatif ne sera pas entièrement automatisé, car de nombreuses tâches nécessitent des connaissances contextuelles spécifiques que seul l'être humain possède.

Aspects pratiques de la sécurité

Une partie importante d'avertissement de l'épisode : Claude Code peut accidentellement supprimer ou déplacer des fichiers s'il fait des erreurs. La recommandation est de limiter l'accès aux répertoires isolés et protégés et de ne pas exposer les données sensibles (comptes bancaires, mots de passe, numéros de téléphone des contacts) à l'IA basée sur le cloud.

Les images fantômes et autres applications

Marie partage une observation : dans son quartier, une image fantôme d'un suspect (pour un vol à main armée) a été générée avec ChatGPT – un signe que la génération d'images par IA est maintenant devenue quotidienne. Elle met également en garde contre le potentiel d'abus si les magazines à sensation utilisent des « reconstructions de témoins » générées par l'IA.

Un auditeur nommé Daniel a utilisé ChatGPT pour analyser sa vidéo de mariage et améliorer ses compétences en cinématographie – un exemple de l'IA comme mentor.

La conclusion : Le calme avant la tempête

L'épisode se termine par l'impression que le monde se trouve à un point critique similaire à celui de GPT-3 avant l'explosion de ChatGPT. De nombreuses personnes ne savent pas encore que ces outils existent, mais pour ceux qui les utilisent, c'est clair : cela change tout. La technologie est là, elle fonctionne de manière impressionnante dans de nombreux domaines – mais le grand public dort encore.

Messages clés

• Claude Code et des outils d'IA basés sur des agents similaires permettent à l'IA de contrôler indépendamment les ordinateurs et de résoudre des tâches complexes et multi-étapes
• Les capacités sont maintenant si grandes que certains, comme Deep Fates, parlent d'« AGI », mais la véritable AGI (automatisation de tout travail économiquement significatif) n'a pas encore été atteinte
• Le facteur limitant n'est pas l'IA, mais l'être humain – il doit dire à l'IA quoi faire (le « problème de la connaissance contextuelle »)
• Les tâches répétitives et administratives (traitement des données, remplissage de formulaires, organisation de fichiers) peuvent maintenant être automatisées de manière fiable
• Les hallucinations et les erreurs restent un problème – l'IA peut inventer des choses ou les mal comprendre
• L'utilisation locale nécessite des ressources énormes (500 GB de VRAM), l'utilisation du cloud comporte des risques de confidentialité
• Ces outils fonctionnent déjà, mais ne sont pas encore grand public – similaire à GPT-3 avant ChatGPT
• Pour les applications pratiques, des environnements isolés et des mesures de sécurité doivent être utilisés

Métadonnées