Claude Code ist die Super-KI längst da

Kurzfassung

In dieser Folge diskutieren Gregor Schmalzried und Marie Kilg die Frage, ob künstliche Intelligenz bereits ein AGI-Level erreicht hat – eine allgemeine künstliche Intelligenz, die komplexe Aufgaben eigenständig lösen kann. Sie präsentieren beeindruckende Anwendungsfälle von Claude Code, einem Tool, das es KI-Systemen ermöglicht, direkt auf Computer zuzugreifen und Aufgaben wie Dateiorganisation, Reisekostenabrechnungen und komplexe Webformulare zu bewältigen. Während die Hosts einige der Fähigkeiten als "AGI-nah" beschreiben, argumentieren sie vorsichtig dafür, dass echte AGI noch nicht erreicht wurde – der Mensch bleibt das Bottleneck beim Instruieren der KI. Die Episode behandelt sowohl die faszinierenden Möglichkeiten als auch die Sicherheitsrisiken dieser neuen Technologien.

Personen

• Gregor Schmalzried
• Marie Kilg
• André Capathi
• Deep Fates

Themen

• Claude Code und Agentenverhalten
• AGI vs. spezialisierte KI-Fähigkeiten
• Automatisierung von Alltagsaufgaben
• Datenschutz und Sicherheitsrisiken
• KI in der Videoanalyse und Bildgenerierung
• Energieverbrauch und Effizienz von Large Language Models

Detaillierte Zusammenfassung

Die aktuelle Situation der KI-Entwicklung

Die Episode beginnt mit einer provokanten These: Haben wir die AGI bereits, ohne es zu wissen? Gregor Schmalzried berichtet von einer fundamentalen Verschiebung in der Wahrnehmung etablierter KI-Experten. Der Programmierer und ehemalige OpenAI-Mitarbeiter André Capathi, bekannt für eine ausgewogene, skeptische Haltung gegenüber KI-Hype, hat kürzlich geäussert, sich als Programmierer "noch nie so abgehängt gefühlt" zu haben. Seine Analyse deutet darauf hin, dass nicht die KI das Bottleneck ist, sondern der Mensch – er könnte zehnmal produktiver sein, wenn er das Potenzial vollständig nutzen würde.

Ein Online-KI-Forscher unter dem Pseudonym Deep Fates (bekannt für die Prägung des Begriffs "AI Slop" für KI-generierte Qualitätsverluste) machte eine radikalere Aussage: Claude Code mit dem aktuellen Claude Opus-Modell sei praktisch AGI – eine allgemeine künstliche Intelligenz, die bereits da ist, nicht erst gebaut werden muss.

Beeindruckende Anwendungsfälle von Claude Code

Die Hosts präsentieren vier Rang-1-Anwendungsfälle, die die transformativen Fähigkeiten demonstrieren:

Platz 4: Automatische Fotoorganisation Gregor Schmalzried gab Claude Code die Aufgabe, über 1.000 unsortierte Fotos basierend auf ihren GPS-Metadaten zu organisieren. Die KI extrahierte GPS-Daten, bestimmte die Orte, erstellte automatisch Ordner für jede Stadt und verschob die Dateien korrekt. Obwohl das System gelegentlich "Hänger" hatte – es erstellte und löschte Ordner wieder, als es erkannte, dass es auf dem falschen Weg war – war das Endergebnis makellos. Dies demonstriert komplexes Problemlösen und Fehlerkorrektur.

Platz 3: Reisekostenabrechnungen Marie Kilg nutzte Claude Code, um ihre jährlichen Bahnfahrten aus E-Mail-Benachrichtigungen der Deutsche Bahn zu extrahieren und automatisch in eine Tabelle zu organisieren. Die KI verarbeitete 150 verschiedene Bahnfahrten fehlerfrei, mit Angaben zu Auftragsnummern, Routen und Kosten. Bei drei scheinbaren "Fehlern", die Marie identifiziert hatte, stellte sich heraus, dass sie selbst die Fehler gemacht hatte – die KI war hundertprozentig präzise.

Platz 2: Intelligente Wochenplanung Gregor Schmalzried programmierte Claude Code so, dass es wöchentlich montags um 7 Uhr automatisch seine Notizen analysiert und eine personalisierte Zusammenfassung erstellt. Das System identifiziert wichtige Punkte, generiert To-Do-Listen, leitet Prioritäten ab und formuliert sogar Entwürfe für E-Mails – alles basierend auf den gesammelten Notizen. Dieses Projekt brauchte nur eine halbe Stunde zum Aufsetzen, zeigt aber, wie die KI zum "Wissensmanager" wird, wenn der Mensch die notwendigen Kontextinformationen bereitstellt.

Platz 1: VG-Wort-Abrechnung mit Browser-Automatisierung Das Highlight kombiniert Claude Code mit der Browser-Erweiterung Cloud for Chrome. Die VG-Wort (Verwertungsgesellschaft Wort) ist eine deutsche Verwertungsgesellschaft, die Autoren und Journalisten für die Nutzung ihrer Texte (etwa in Radiodiensten oder Zeitungen) kompensiert. Gregor Schmalzried musste normalerweise 3-4 Stunden jedes Jahr manuell komplexe Formulare auf dieser Webseite ausfüllen. Mit Claude Code und der Browser-Erweiterung nahm die KI die Kontrolle: Sie navigierte durch die Webseite, füllte Formulare aus, verifizierte Daten und reichte alles fehlerfrei ein. Obwohl die tatsächliche Zeitersparnis durch das Beobachten des Prozesses gering war, ist das Konzept transformativ – repetitive, administrative Aufgaben könnten massenhaft automatisiert werden.

Die Grenzen: Warum es noch nicht AGI ist

Trotz dieser beeindruckenden Ergebnisse argumentieren die Hosts vorsichtig, dass dies nicht AGI ist. Marie weist auf mehrere kritische Punkte hin:

1. Halluzinationen bleiben ein Problem: Die KI macht immer noch "richtig übel" Fehler. Ein Beispiel: Bei der Analyse eines Hochzeitsvideos erfand ChatGPT einen Brautstrauss, der es nie gab, und gab dazu plausibles, aber falsches Feedback.

2. Energieintensität und Kostenfaktor: Claude Opus läuft nicht lokal, sondern in der Cloud. Um es lokal zu betreiben, wäre 500 GB VRAM (Grafikkartenarbeitsspeicher) notwendig – ein enormer wirtschaftlicher Faktor für Skalierung.

3. Das Wissensproblem: Selbst wenn die KI zehnmal intelligenter wäre, könnte sie nicht in den menschlichen Kopf schauen. Der Mensch bleibt das Bottleneck, weil er der KI sagen muss, was er will. Dies könnte nur durch "Brain-Streaming" überwunden werden – eine direkte Verbindung zwischen Gehirn und KI.

4. Grenzen der Definition: Wirtschaftlich bedeutsame Arbeit wird nicht vollständig automatisiert, da viele Aufgaben spezifisches Kontextwissen erfordern, das nur der Mensch hat.

Praktische Sicherheitsaspekte

Ein wichtiger Warnteil der Episode: Claude Code kann Dateien versehentlich löschen oder verschieben, wenn es Fehler macht. Die Empfehlung ist, den Zugriff auf isolierte, geschützte Verzeichnisse zu beschränken und sensible Daten (Bankkonten, Passwörter, Telefonnummern von Kontakten) nicht der Cloud-basierten KI auszusetzen.

Die Phantom-Bilder und andere Anwendungen

Marie teilt eine Beobachtung: In ihrem Viertel wurde ein Phantom-Bild eines Verdächtigen (wegen eines Überfalls) mit ChatGPT generiert – ein Zeichen, dass KI-Bildgenerierung nun alltäglich wird. Sie warnt auch vor dem Missbrauchspotenzial, wenn Boulevard-Magazine KI-generierte "Augenzeugen-Rekonstruktionen" verwenden.

Ein Hörer namens Daniel nutzte ChatGPT, um sein Hochzeitsvideo zu analysieren und seine Videografie-Fähigkeiten zu verbessern – ein Beispiel für KI als Mentor.

Das Fazit: Die Ruhe vor dem Sturm

Die Episode endet mit dem Eindruck, dass die Welt an einem ähnlich kritischen Punkt wie bei GPT-3 vor der ChatGPT-Explosion steht. Viele Menschen wissen noch nicht, dass diese Tools existieren, aber für diejenigen, die sie nutzen, ist klar: Das ändert alles. Die Technologie ist da, sie funktioniert beeindruckend gut in vielen Bereichen – aber die breite Öffentlichkeit schläft noch.

Kernaussagen

• Claude Code und ähnliche agentenbasierte KI-Tools ermöglichen es der KI, selbstständig Computer zu bedienen und komplexe, mehrstufige Aufgaben zu lösen
• Die Fähigkeiten sind jetzt so gross, dass manche Deep Fates von "AGI" sprechen, aber echte AGI (Automatisierung aller wirtschaftlich bedeutsamen Arbeit) ist noch nicht erreicht
• Der limitierende Faktor ist nicht die KI, sondern der Mensch – er muss der KI sagen, was zu tun ist (das "Kontextwissen-Problem")
• Repetitive, administrative Aufgaben (Datenverarbeitung, Formularausfüllung, Dateiorganisation) können jetzt zuverlässig automatisiert werden
• Halluzinationen und Fehler sind immer noch ein Problem – die KI kann Dinge erfinden oder missverstehen
• Lokale Nutzung erfordert enorme Ressourcen (500 GB VRAM), Cloud-Nutzung birgt Datenschutzrisiken
• Diese Tools funktionieren bereits, sind aber noch nicht im Mainstream – ähnlich wie GPT-3 vor ChatGPT
• Für praktische Anwendungen sollten isolierte Umgebungen und Sicherheitsvorkehrungen verwendet werden

Metadaten