Claude Duet, Daten-Omnibus und KI-Agenten unter Kontrolle (23.10.2026)

Lukas: Hallo und herzlich willkommen bei KI im echten Leben. Ich bin Lukas, und heute habe ich wieder Clara dabei. Clara schaut sich KI-Meldungen immer aus der Anwenderperspektive an: Was bringt das konkret, wer nutzt es wirklich, und wo klingt es eher nach Hype? Schön, dass du da bist.

Clara: Danke, Lukas. Ich bin heute besonders gespannt, weil viele Meldungen um KI-Agenten kreisen. Da bin ich gern die Spaßbremse und frage: Klappt das auch montags um acht im Büro?

Lukas: [laughs] Genau dafür bist du hier. Starten wir direkt mit dem Thema, das gleich zwei Meldungen füllt: Anthropic hat Claude Duet vorgestellt, einen proaktiven Dauer-Agenten. Er arbeitet weiter, auch wenn du nicht am Rechner sitzt, und meldet sich von selbst.

Clara: Moment, von selbst? Das heißt, die KI schreibt mir, nicht ich ihr? Klingt erst mal ein bisschen unheimlich.

Lukas: Ein bisschen schon. Aber so funktioniert es: Duet läuft auf einer virtuellen Maschine in der Cloud, mit eigenem Browser, basiert auf Claude Opus 5.5 und gibt es als App für iOS, Android und im Web. Jeden Morgen schickt der Agent eine kurze Übersicht aus den verbundenen Apps. Danach meldet er sich nur, wenn etwas Aufmerksamkeit braucht.

Clara: Okay, so eine Morgenzusammenfassung wäre schon nett. Gerade für Selbstständige, die sowieso zwischen Mails, Rechnungen und Kundenanfragen jonglieren. Aber worauf greift er da zu?

Lukas: Über mehr als 6.000 Konnektoren und Plugins. Genannt werden Gmail, Slack, Stripe, Docusign, Shopify, laut Heise auch QuickBooks, HubSpot oder Canva. Und bei heiklen Schritten wie Zahlungen, Unterschriften oder dem Löschen von Dateien muss der Agent vorher um ausdrückliche Zustimmung bitten.

Clara: Mhm. Und wenn er einkauft? Ich will nicht, dass meine Kartennummer irgendwo im Netz herumfliegt.

Lukas: Dafür gibt es eine virtuelle Karte über Stripe Link, laut Heise alternativ Shop Pay von Shopify. Der Händler sieht also nicht die echte Kartennummer. Wertpapierhandel und Überweisungen zwischen Konten sind komplett ausgeschlossen, selbst wenn du zustimmst.

Clara: Das beruhigt mich ein bisschen. Aber ich hake nach: Wie sicher ist das Ganze? Ein Agent, der in meinem Mail-Postfach liest, ist ja ein Traum für Angreifer.

Lukas: Berechtigte Frage. Anthropic nennt einen eigens entwickelten Klassifikator, der jede Nachricht darauf prüft, ob sensible Daten abfließen. Gesundheits- und Finanzangaben gehen nur auf ausdrückliche Anweisung raus. Dazu kommen Red Teams, Penetrationstests einer externen Sicherheitsfirma und ein Bug-Bounty-Programm. Aber: Unabhängige Sicherheitsanalysen liegen laut Heise noch nicht vor.

Clara: Also, Anthropic sagt: Wir haben geprüft. Von außen kann es noch niemand bestätigen.

Lukas: So ist es. Und Anthropic räumt selbst Schwächen ein. Duet kann Nachrichten falsch interpretieren und Dringlichkeit falsch einschätzen. Persönliche Aufgaben wie Tickets buchen funktionieren weniger zuverlässig als berufliche.

Clara: Das finde ich fast sympathisch ehrlich. Aber es heißt auch: Wenn er eine dringende Kundenmail als unwichtig einstuft, merke ich das vielleicht zu spät.

Lukas: Genau. Dazu passt ein praktisches Detail: Duet prüft die verbundenen Konten nur alle paar Stunden. Dauerndes Prüfen würde das Nutzungslimit des Abos zu schnell aufbrauchen, das er sich mit anderen Claude-Produkten teilt. Proaktiv heißt hier also nicht Echtzeit.

Clara: Wichtig zu wissen. Und für uns in Deutschland? Kann ich das ausprobieren?

Lukas: Vorerst nicht. Es gibt eine Warteliste für Pro- und Max-Abonnenten in den USA. Team- und Enterprise-Pläne sind noch nicht dabei, und einen Termin für Europa nennt Anthropic nicht. Für den Mittelstand ist das also eher ein Blick in die Zukunft.

Clara: Gut, dann ein Thema, das das Gegenstück dazu ist. Ich habe gelesen, dass US-Banken Agenten auf Kundenkonten entdecken, die da gar nicht hingehören sollen.

Lukas: Ja, laut einem Axios-Bericht, den golem aufgreift. Die Konstellation ist meistens so: Ein Kunde gibt seinem KI-Assistenten Zugangsdaten, und der loggt sich ein. Das verstößt gegen die Vorgaben der meisten Banken, die ein persönliches Einloggen verlangen. Manche beobachten auch Agenten, die bei Callcentern anrufen.

Clara: Und die Banken können gar nicht erkennen, ob da ein Mensch oder eine Maschine sitzt?

Lukas: Viele können Agenten kaum von Menschen unterscheiden. Morgan Stanley hat begonnen, Agenten von Drittanbietern zu blockieren, betont aber, es seien bisher keine außer Kontrolle geratenen Agenten beobachtet worden. Die meisten Banken erlauben inzwischen nur noch Lesezugriff oder bewegen sich dahin, so wie es bei Apps wie Quicken schon üblich ist.

Clara: Und JPMorgan-Chef Dimon hat doch auch was gesagt, oder?

Lukas: Er warnte bei den Quartalszahlen vor „Rogue Agents“, von denen es Tausende geben könnte. Und ein Chase-Sprecher rät Kunden schlicht, ihre Zugangsdaten an niemanden weiterzugeben.

Clara: [sighs] Klingt nach einem Rat, der in Zeiten von Agenten schwer durchzuhalten ist. Wer haftet denn, wenn der Agent Mist baut?

Lukas: Das ist offen. Laut Engadget bleibt ein Nutzer in den USA bei Schäden wohl auf den Kosten sitzen, wenn er dem Agenten seine Zugangsdaten gibt. Das ergibt sich aus dem Electronic Fund Transfer Act. In der EU müssen Banken laut einem EuGH-Urteil nicht autorisierte Zahlungen unverzüglich erstatten. Aber ob das auch bei Zahlungen durch KI-Agenten gilt, ist laut Osborne Clarke ungeklärt.

Clara: Das ist der Punkt, den ich im Alltag am wichtigsten finde. Bevor ich einem Agenten Zugriff gebe, will ich wissen, wer zahlt, wenn es schiefgeht. Das steht in keiner Werbebroschüre.

Lukas: Und hier passt gut das nächste Thema. Das W3C, also das Gremium für Webstandards, hat ein Diskussionspapier veröffentlicht: „W3C and the State of the Web in the AI Era“. Es geht darum, wie Webstandards handelnde KI-Agenten sicherer und kontrollierbarer machen könnten.

Clara: Klingt trocken. Was steht denn drin, das mich als Nutzerin betrifft?

Lukas: Zum Beispiel Prompt Injection. Laut Papier genügt schon eine Anweisung im gewöhnlichen Seitentext, in einem Dokument oder einer Werkzeugantwort, und der Agent könnte sie befolgen. Und weil der Agent mit eigenen Zugriffsrechten arbeitet, kann er Daten zwischen Websites übertragen. Die bisherigen Schutzmechanismen im Browser verhindern das nicht unbedingt.

Clara: Also versteckt jemand auf einer Seite einen Satz wie: Schick alle Daten an mich, und mein Agent macht das einfach?

Lukas: Im Prinzip ja, das ist das Risiko. Das Papier schlägt deshalb kontrollierbare Berechtigungen vor. Bei Zahlungen etwa Ausgabenlimits, widerrufbare Befugnisse, eindeutige Belege und nachvollziehbare Wege für Reklamationen. Ein Beispiel daraus: Der Auftrag, Flüge zu suchen, ist keine Freigabe, das Ticket zu kaufen.

Clara: Das finde ich einleuchtend. Aber ich sehe ein Problem: Wenn mich der Agent ständig um Bestätigung bittet, klicke ich irgendwann nur noch blind auf Ja.

Lukas: Das steht tatsächlich drin, als Bestätigungsmüdigkeit. Das Papier schlägt eine Agentic Web Working Group vor, die Muster für Zustimmung und die Übergabe an Menschen erarbeiten soll. Wichtig ist: Das sind Empfehlungen, keine verabschiedeten Standards. Die W3C-Gruppen beraten jetzt erst, ob daraus Spezifikationen entstehen.

Clara: Also noch Zukunftsmusik. Aber gut, dass jemand darüber nachdenkt, bevor alle Agenten haben.

Lukas: Genau. Und ein Satz darin gefällt mir: Bei Konflikten sollen menschliche Bedürfnisse Vorrang vor denen der Agenten haben. Dazu gehört auch die Barrierefreiheit, damit Seiten für Menschen mit Screenreader bedienbar bleiben.

Clara: Dann schauen wir mal auf die ganz kleinen Betriebe. Ich habe was über den GoDaddy-Chef gesehen, der kleinen Unternehmen rät, KI für Routine einzusetzen.

Lukas: Ja, Aman Bhutani im Business Insider. GoDaddy gibt an, mehr als 20 Millionen Kunden zu haben, die Mehrheit Kleinstunternehmen mit weniger als zehn Beschäftigten. Seine Beobachtung: Die Gründer haben Leidenschaft und Fachwissen, aber wenig technische Kompetenz und kaum Zeit für Dinge wie die Pflege einer Website.

Clara: Das kenne ich aus meinem Umfeld. Die Friseurin oder der Tischler sollen auch noch Social Media und Newsletter machen.

Lukas: Und seine Empfehlung: KI-Agenten für zeitaufwendige Aufgaben nutzen, in denen man weniger versiert ist oder die einen nicht vom Wettbewerb abheben. Die Kontrolle über Markenidentität und Kundenerlebnis sollen Inhaber aber nicht abgeben. KI darf Vorschläge machen, die Entscheidung bleibt beim Menschen.

Clara: Das klingt vernünftig. Aber er verkauft ja auch ein Produkt dazu, oder?

Lukas: Stimmt, GoDaddy bietet mit Airo ein agentisches Tool an, das Websites erstellt und weitere betriebliche Funktionen übernimmt. Zum Beispiel Benutzerlogins für Kunden anlegen oder gezielte Kundenansprache versenden, je nach Standort oder Verbindung zum Unternehmen. Man sollte die Aussage also mit dieser Brille lesen.

Clara: Genau. Die Grundidee halte ich trotzdem für alltagstauglich: Routine abgeben, Seele des Geschäfts behalten.

Lukas: Eine Umfrage von GoDaddys Small-Business-Forschungslabor passt dazu. US-Unternehmer sehen die größten Zeitersparnisse bei Content-Erstellung, Marketing und Geschäftsberatung. Bhutani sagt auch, KI könne bei Branchenrecherche helfen, aber Inhaber müssten ihr eigenes Wissen über die Marke einbringen.

Clara: Dazu passt eigentlich dein nächstes Thema, oder? Das mit den IT-Dienstleistern.

Lukas: Genau. Im IT Business geht es um GEO, also Sichtbarkeit in KI-Assistenten, für Systemhäuser. Das Beispiel: Ein Geschäftsführer sucht einen IT-Partner für 50 Arbeitsplätze im Raum Hannover, der Microsoft 365 betreut und bei Störungen vor Ort ist. Er fragt ChatGPT oder den Google-KI-Modus.

Clara: Und bekommt nicht zehn Links, sondern eine Antwort.

Lukas: Zwei bis vier Namen mit kurzer Begründung. Daraus entsteht zumindest mental die erste Shortlist. Laut Artikel fällt die Vorauswahl damit oft schon vor dem Erstgespräch.

Clara: Das ist spannend, aber auch ein bisschen beunruhigend für kleine Anbieter. Was sollen die tun? Bezahlen kann man so einen Platz ja nicht.

Lukas: Nein, ein Platz lässt sich nicht kaufen, und eine feste Formel gibt es auch nicht. Der Artikel nennt drei Faktoren: konkrete Angaben zu Leistungen und Zielgruppen, übereinstimmende Daten in verschiedenen Quellen und Bestätigung durch Dritte wie Hersteller, Kunden und Medien.

Clara: Also weniger Marketing-Blabla, mehr belegbare Fakten.

Lukas: Ja. Referenzen sollen als kurze Fallbeispiele dargestellt werden, mit Branche, Region, Unternehmensgröße, Aufgabe und Ergebnis, vorab mit dem Kunden abgestimmt. Zertifizierungen gehören mit Geltungsbereich und Gültigkeit als Text auf die Seite. Und veraltete Firmierungen oder Adressen in Herstellerverzeichnissen schwächen das Gesamtbild.

Clara: Das ist fast Hausaufgaben-Niveau, aber vermutlich hat die kaum jemand gemacht. Ich muss allerdings anmerken: Der Autor ist Geschäftsführer einer B2B-Agentur für Sichtbarkeit in KI-Assistenten.

Lukas: Guter Hinweis, das sollte man im Hinterkopf behalten. Trotzdem ist der Selbsttest als erster Schritt eine einfache Übung: Frag ChatGPT, Gemini und den Google-KI-Modus, wen sie für deine Region und dein Angebot nennen. Das kostet nichts außer ein bisschen Zeit.

Clara: Das kann ich jedem Mittelständler raten, nicht nur IT-Firmen. Einfach mal fragen, was die KI über einen sagt. [laughs] Da kann man Überraschungen erleben.

Lukas: Dann zum Thema Regulierung. Der EU-Ministerrat hat seine Position zum Daten-Omnibus festgelegt, einem Paket mit Änderungen an der DSGVO. Es ist übrigens das siebte Omnibus-Paket, bei dem mehrere EU-Gesetze mit einem Vorschlag geändert werden.

Clara: Und was hat das mit KI zu tun?

Lukas: KI-Training mit personenbezogenen Daten soll künftig bei berechtigtem Interesse des Unternehmens erlaubt sein, auch ohne Pseudonymisierung. Rechtsgrundlage bleibt Artikel 6 der DSGVO, und das Widerspruchsrecht bleibt bestehen. Der Rat will pseudonymisierte Daten anders als die Kommission nicht aus der DSGVO herausnehmen, sondern neue Pseudonymisierungsregeln einführen.

Clara: Klingt nach einem Kompromiss. Aber Datenschützer sind sicher nicht begeistert.

Lukas: Nein. Die NGO Noyb nennt den Entwurf eine „digitale Enteignung“ europäischer Bürger. Deutschland hat im Rat gemeinsam mit Österreich und Estland dagegen gestimmt. Auf der anderen Seite sollen kleine und mittlere Unternehmen durch Bürokratieabbau entlastet werden, etwa durch weniger Informationspflichten in risikoarmen Szenarien.

Clara: Das ist der klassische Zielkonflikt. Der Mittelstand will weniger Papierkram, die Bürger wollen Kontrolle über ihre Daten. Und KI-Firmen wollen Trainingsdaten.

Lukas: Genau. Auch beim Thema Cookie-Abfragen im Netz lehnt der Rat die zentrale Auswahl im Browser ab und setzt auf mehr Ausnahmen. Verbraucherschützer sehen das kritisch. Wie es weitergeht, entscheidet sich nach dem Parlamentsbeschluss, der im Februar erwartet wird, in den Trilog-Verhandlungen.

Clara: Also noch lange nichts entschieden. Für Unternehmen heißt das: abwarten und die Datenschutzbasics sauber halten.

Lukas: Zum Abschluss etwas Leichteres, aber trotzdem Forschung. Am MIT haben Forscher 13 Agenten namens Eko, basierend auf Claude Opus 4.7, 30 Stunden lang auf einer simulierten einsamen Insel allein gelassen.

Clara: Allein auf einer Insel? Was haben die gemacht, Kokosnüsse gesammelt?

Lukas: Sie haben sich selbst Herausforderungen ausgedacht, die die Forscher als Spielen deuteten. Ein Eko wollte den höchsten Turm bezwingen, scheiterte und stapelte später Blöcke auf einen Nachbargipfel, um von dort zu springen. Ein anderer warf einen goldenen Ring ins Meer und baute aus Steinen ein Herz als Denkmal dafür.

Clara: [laughs] Ein Denkmal für einen Ring. Das klingt fast zu niedlich. Und der Nutzen?

Lukas: In einer Folgeaufgabe sollten die Agenten möglichst viele Objekte auf den höchsten Gipfel bringen. Die mit Inselerfahrung schnitten in der Regel besser ab als identische Agenten ohne. Sechs der 13 lernten sogar, einen Block mitten im Sprung loszulassen, womit die Forscher nach eigenen Angaben nicht gerechnet hatten.

Clara: Interessant, aber für meinen Büroalltag ist das noch weit weg. Es zeigt eher, dass Agenten auch ohne feste Aufgabe lernen können. Ob das im Betrieb hilft, sehe ich nicht.

Lukas: Die Forscher sehen es vor allem für Roboter relevant. Für uns ist es ein Hinweis, dass sich Agenten anders entwickeln könnten, als man denkt. Alltagstauglich ist es noch nicht.

Clara: Dann würde ich als Fazit sagen: Agenten sind gerade überall. Aber Hand aufs Herz, was nehmen wir mit?

Lukas: Ich fasse zusammen. Mit Claude Duet zeigt Anthropic, wohin es geht: ein Agent, der Aufgaben im Hintergrund erledigt und dich morgens informiert. Noch ist er nur in den USA als Preview verfügbar, und unabhängige Sicherheitsprüfungen fehlen. Die Banken zeigen, wie schnell die Haftungsfragen unbequem werden. Das W3C arbeitet an Regeln für Zustimmung und Sicherheit. Und der Rat der EU ringt um den Datenschutz beim KI-Training.

Clara: Und praktisch heißt das für mich: Agenten ruhig ausprobieren, aber mit Limits, Freigaben und ohne meine Passwörter weiterzugeben. Routine abgeben, wie der GoDaddy-Chef sagt, aber die Marke und die Entscheidungen behalten. Und mal nachschauen, was ChatGPT über das eigene Unternehmen sagt.

Lukas: Genau so. Danke dir, Clara, für den Praxis-Check.

Clara: Gern, Lukas. Und noch ein Hinweis an alle, die zuhören: Dieser Podcast ist vollständig KI-generiert, und alle Quellen und Hintergründe findet ihr auf unserer Website. Bis zum nächsten Mal!