KI im Alltag und Beruf: Von Lumo bis zur KI-Jahresprüfung (18.11.2026)
Proton startet Lumo als Desktop-App, KPMG lässt KI-Agenten eine ganze Jahresabschlussprüfung erledigen, und die Anthropic-Gründer stehen vor dem Börsengang. Dazu: lokale KI-Server und Gesundheits-Chatbots.
In dieser Folge
- 01
Proton bringt KI-Assistent Lumo als datenschutzorientierte Desktop-App für Windows, macOS und Linux
Techcrunch AIProton hat mit Lumo Desktop eine Version seines KI-Assistenten für Windows, macOS und Linux veröffentlicht, die lokale Aufgaben mit verbundenen Apps, Dateien und Automatisierungen erledigen kann. Nutzer legen dabei fest, welche Aktionen der KI-Agent selbstständig ausführen darf und welche ihre Freigabe erfordern. Proton verspricht, dass Gespräche und Daten weder für personalisierte Werbung noch für das Training von KI-Modellen genutzt werden.
Original - 02
KI als Teamkollege: Stanford-Professor Utley empfiehlt fünfminütige Übung für besseren Umgang mit ChatGPT
t3n KIJeremy Utley, Professor am Hasso Plattner Institute of Design der Stanford-Universität, rät dazu, KI-Chatbots wie ChatGPT nicht nur als Werkzeug, sondern wie Teamkolleginnen und Teamkollegen zu behandeln. Wer der KI erlaubt, Fragen zu stellen, und ihr den eigenen Geschmack und Stil vermittelt, erhalte deutlich bessere und menschlicher wirkende Ergebnisse. Mit einer fünfminütigen Übung zu einer emotionalen Entscheidung lasse sich diese Zusammenarbeit selbst erfahren.
Original - 03
Die sieben Anthropic-Gründer vor dem Börsengang: Wer hinter dem Milliardenvermögen steht
BBC TechnologyFünf Jahre nach der Gründung geht das KI-Unternehmen Anthropic, Entwickler des Chatbots Claude, an die US-Börse und wird mit mehr als einer Billion Dollar bewertet. Die sieben Gründer, die 2021 von OpenAI zu dem Start-up wechselten, werden damit zumindest auf dem Papier zu mehrfachen Milliardären. Der Artikel stellt die Gründer im Alter von Mitte 30 bis Anfang 40 und ihre Werdegänge vor.
Original - 04
iX-Workshop zu IEC 62443: Industrial Security für Produkthersteller im Januar 2027
HeiseDie Norm IEC 62443 gilt zunehmend als Standard für die Sicherheit industrieller IT- und OT-Systeme und hilft Herstellern, Risiken zu senken und Anforderungen wie den Cyber Resilience Act vorzubereiten. Der zweitägige Online-Workshop behandelt vor allem die Teile 4-1 und 4-2 zu Security Development Lifecycle und technischen Sicherheitsanforderungen. Anhand praxisnaher Beispiele zeigt er, wie sich die Vorgaben in Entwicklungs- und Wartungsprozesse integrieren lassen.
Original - 05
KPMG lässt KI-Agenten erstmals eine komplette Jahresabschlussprüfung durchführen – Regulierer warnen vor Risiken
The DecoderKPMG hat im internen Experiment "Project Exponential" erstmals eine vollständige Jahresabschlussprüfung von KI-Agenten durchführen lassen, die laut der britischen Audit-Chefin Cath Burnet teils tiefer prüften als das reguläre Team. Menschen blieben dabei für Zielsetzung, Kontrolle und die finale Prüfungsmeinung zuständig, und das Projekt soll auf bis zu 20 größere Audits ausgeweitet werden. Der britische Regulierer FRC warnt unterdessen in einer neuen Leitlinie vor Risiken für die Unabhängigkeit der Prüfer, während die Technologie zugleich das Gebührenmodell der gesamten Branche unter Druck setzt.
Original - 06
Lokale KI-Server im Unternehmen: Wann sich eigene Hardware gegenüber der Cloud rechnet
golemUnternehmen können KI-Modelle bei einem Cloudanbieter betreiben lassen oder auf eigener Hardware ausführen, wobei Letzteres mehr Kontrolle über Daten und Kosten verspricht. Auf den ersten Blick wirkt der Vergleich eindeutig, doch der reine Preisvergleich zwischen lokaler Hardware und Cloud-KI führt laut Artikel in die Irre. Die Redaktion hat Hardwarepreise, Betriebskosten und Ausfallrisiken durchgerechnet und zeigt, worauf es bei der Entscheidung ankommt.
Original - 07
Von der Xbox-Drohung zum gemeinsamen Spielen: Ein Gründer will "GTA 6" mit seiner Mutter erleben
Business InsiderDer Gründer des Gaming-Unternehmens Backbone erzählt in einem Essay, wie seine Mutter einst drohte, seine Xbox wegzuwerfen, und wie sich ihre Haltung zu Videospielen inzwischen gewandelt hat. Zu Thanksgiving möchte er sie "Grand Theft Auto 6" spielen lassen, das am 19. November erscheint. Die Spiele haben ihn geprägt, zu einem Informatikstudium und zur Firmengründung geführt und ihm ein neues Verständnis von Eigeninitiative vermittelt.
Original - 08
Unsiloed AI sichert sich 7,5 Millionen Dollar für KI-gerechte Aufbereitung von Unternehmensdokumenten
Techcrunch AIDas Start-up Unsiloed AI hat in einer von Felicis angeführten Seed-Runde 7,5 Millionen Dollar eingesammelt. Seine Software zerlegt komplexe Dokumente mit Tabellen, Diagrammen und schwierigen Layouts und wandelt sie in strukturierte Daten um, die KI-Agenten nutzen können. Dabei lässt sich nachvollziehen, woher die extrahierten Informationen stammen, damit Unternehmen die Ergebnisse prüfen können.
Original - 09
Bitkom-Umfrage: KI-Chatbots bei Gesundheitsfragen häufiger genutzt, Zustimmung zu KI im Gesundheitswesen sinkt
HeiseLaut einer Bitkom-Umfrage haben 70 Prozent der Menschen, die online Symptome oder Gesundheitsfragen recherchieren, dafür bereits einen KI-Chatbot genutzt; im Vorjahr waren es 60 Prozent. Gleichzeitig ging die grundsätzlich positive Haltung zum KI-Einsatz im Gesundheitswesen von 71 auf 60 Prozent zurück. Zudem wünschen sich die Befragten mehr Kontrolle über ihre Gesundheitsdaten und äußern Sorgen um Datenschutz und Cybersicherheit.
Original - 10
Webinar zeigt, wie sich KI-Agenten für wiederkehrende Aufgaben einsetzen und kontrollieren lassen
HeiseIm Webinar „Vom Plugin zu KI-Agenten: Aufgaben automatisieren und die Kontrolle behalten“ erklärt heise KI PRO, wie erprobte Skills und Plugins in agentische Workflows eingebunden werden. KI-Agenten sollen dabei regelmäßige Recherchen, Auswertungen oder Berichte innerhalb eines klar definierten Auftrags übernehmen, ausgelöst durch Zeitpläne oder bestimmte Ereignisse. Ein weiterer Schwerpunkt ist die menschliche Aufsicht über die Agenten, damit Fach- und Führungskräfte trotz Automatisierung die Kontrolle behalten.
Original
- 01
Proton bringt KI-Assistent Lumo als datenschutzorientierte Desktop-App für Windows, macOS und Linux
Techcrunch AIProton hat mit Lumo Desktop eine Version seines KI-Assistenten für Windows, macOS und Linux veröffentlicht, die lokale Aufgaben mit verbundenen Apps, Dateien und Automatisierungen erledigen kann. Nutzer legen dabei fest, welche Aktionen der KI-Agent selbstständig ausführen darf und welche ihre Freigabe erfordern. Proton verspricht, dass Gespräche und Daten weder für personalisierte Werbung noch für das Training von KI-Modellen genutzt werden.
Original - 02
KI als Teamkollege: Stanford-Professor Utley empfiehlt fünfminütige Übung für besseren Umgang mit ChatGPT
t3n KIJeremy Utley, Professor am Hasso Plattner Institute of Design der Stanford-Universität, rät dazu, KI-Chatbots wie ChatGPT nicht nur als Werkzeug, sondern wie Teamkolleginnen und Teamkollegen zu behandeln. Wer der KI erlaubt, Fragen zu stellen, und ihr den eigenen Geschmack und Stil vermittelt, erhalte deutlich bessere und menschlicher wirkende Ergebnisse. Mit einer fünfminütigen Übung zu einer emotionalen Entscheidung lasse sich diese Zusammenarbeit selbst erfahren.
Original - 03
Die sieben Anthropic-Gründer vor dem Börsengang: Wer hinter dem Milliardenvermögen steht
BBC TechnologyFünf Jahre nach der Gründung geht das KI-Unternehmen Anthropic, Entwickler des Chatbots Claude, an die US-Börse und wird mit mehr als einer Billion Dollar bewertet. Die sieben Gründer, die 2021 von OpenAI zu dem Start-up wechselten, werden damit zumindest auf dem Papier zu mehrfachen Milliardären. Der Artikel stellt die Gründer im Alter von Mitte 30 bis Anfang 40 und ihre Werdegänge vor.
Original - 04
iX-Workshop zu IEC 62443: Industrial Security für Produkthersteller im Januar 2027
HeiseDie Norm IEC 62443 gilt zunehmend als Standard für die Sicherheit industrieller IT- und OT-Systeme und hilft Herstellern, Risiken zu senken und Anforderungen wie den Cyber Resilience Act vorzubereiten. Der zweitägige Online-Workshop behandelt vor allem die Teile 4-1 und 4-2 zu Security Development Lifecycle und technischen Sicherheitsanforderungen. Anhand praxisnaher Beispiele zeigt er, wie sich die Vorgaben in Entwicklungs- und Wartungsprozesse integrieren lassen.
Original - 05
KPMG lässt KI-Agenten erstmals eine komplette Jahresabschlussprüfung durchführen – Regulierer warnen vor Risiken
The DecoderKPMG hat im internen Experiment "Project Exponential" erstmals eine vollständige Jahresabschlussprüfung von KI-Agenten durchführen lassen, die laut der britischen Audit-Chefin Cath Burnet teils tiefer prüften als das reguläre Team. Menschen blieben dabei für Zielsetzung, Kontrolle und die finale Prüfungsmeinung zuständig, und das Projekt soll auf bis zu 20 größere Audits ausgeweitet werden. Der britische Regulierer FRC warnt unterdessen in einer neuen Leitlinie vor Risiken für die Unabhängigkeit der Prüfer, während die Technologie zugleich das Gebührenmodell der gesamten Branche unter Druck setzt.
Original - 06
Lokale KI-Server im Unternehmen: Wann sich eigene Hardware gegenüber der Cloud rechnet
golemUnternehmen können KI-Modelle bei einem Cloudanbieter betreiben lassen oder auf eigener Hardware ausführen, wobei Letzteres mehr Kontrolle über Daten und Kosten verspricht. Auf den ersten Blick wirkt der Vergleich eindeutig, doch der reine Preisvergleich zwischen lokaler Hardware und Cloud-KI führt laut Artikel in die Irre. Die Redaktion hat Hardwarepreise, Betriebskosten und Ausfallrisiken durchgerechnet und zeigt, worauf es bei der Entscheidung ankommt.
Original - 07
Von der Xbox-Drohung zum gemeinsamen Spielen: Ein Gründer will "GTA 6" mit seiner Mutter erleben
Business InsiderDer Gründer des Gaming-Unternehmens Backbone erzählt in einem Essay, wie seine Mutter einst drohte, seine Xbox wegzuwerfen, und wie sich ihre Haltung zu Videospielen inzwischen gewandelt hat. Zu Thanksgiving möchte er sie "Grand Theft Auto 6" spielen lassen, das am 19. November erscheint. Die Spiele haben ihn geprägt, zu einem Informatikstudium und zur Firmengründung geführt und ihm ein neues Verständnis von Eigeninitiative vermittelt.
Original - 08
Unsiloed AI sichert sich 7,5 Millionen Dollar für KI-gerechte Aufbereitung von Unternehmensdokumenten
Techcrunch AIDas Start-up Unsiloed AI hat in einer von Felicis angeführten Seed-Runde 7,5 Millionen Dollar eingesammelt. Seine Software zerlegt komplexe Dokumente mit Tabellen, Diagrammen und schwierigen Layouts und wandelt sie in strukturierte Daten um, die KI-Agenten nutzen können. Dabei lässt sich nachvollziehen, woher die extrahierten Informationen stammen, damit Unternehmen die Ergebnisse prüfen können.
Original - 09
Bitkom-Umfrage: KI-Chatbots bei Gesundheitsfragen häufiger genutzt, Zustimmung zu KI im Gesundheitswesen sinkt
HeiseLaut einer Bitkom-Umfrage haben 70 Prozent der Menschen, die online Symptome oder Gesundheitsfragen recherchieren, dafür bereits einen KI-Chatbot genutzt; im Vorjahr waren es 60 Prozent. Gleichzeitig ging die grundsätzlich positive Haltung zum KI-Einsatz im Gesundheitswesen von 71 auf 60 Prozent zurück. Zudem wünschen sich die Befragten mehr Kontrolle über ihre Gesundheitsdaten und äußern Sorgen um Datenschutz und Cybersicherheit.
Original - 10
Webinar zeigt, wie sich KI-Agenten für wiederkehrende Aufgaben einsetzen und kontrollieren lassen
HeiseIm Webinar „Vom Plugin zu KI-Agenten: Aufgaben automatisieren und die Kontrolle behalten“ erklärt heise KI PRO, wie erprobte Skills und Plugins in agentische Workflows eingebunden werden. KI-Agenten sollen dabei regelmäßige Recherchen, Auswertungen oder Berichte innerhalb eines klar definierten Auftrags übernehmen, ausgelöst durch Zeitpläne oder bestimmte Ereignisse. Ein weiterer Schwerpunkt ist die menschliche Aufsicht über die Agenten, damit Fach- und Führungskräfte trotz Automatisierung die Kontrolle behalten.
Original
Häufige Fragen
Was kann Proton Lumo Desktop und wie geht die App mit Daten um?
Lumo Desktop ist die Desktop-Version des KI-Assistenten von Proton für Windows, macOS und Linux. Sie erledigt lokale Aufgaben mit verbundenen Apps, Dateien und Automatisierungen, und Nutzer legen fest, welche Aktionen der KI-Agent selbstständig ausführen darf und welche ihre Freigabe brauchen. Laut Proton werden Gespräche und Daten weder für personalisierte Werbung noch für das Training von KI-Modellen verwendet.
Wie lässt sich ChatGPT laut Stanford-Professor Jeremy Utley besser nutzen?
Utley rät, KI-Chatbots wie Teamkolleginnen und Teamkollegen zu behandeln und nicht nur als Werkzeug. Wer der KI erlaubt, Rückfragen zu stellen, und ihr den eigenen Geschmack und Stil vermittelt, erhält deutlich bessere und menschlicher wirkende Ergebnisse. Eine fünfminütige Übung zu einer emotionalen Entscheidung soll diese Zusammenarbeit erfahrbar machen.
Was hat KPMG mit „Project Exponential“ getestet und welche Risiken sehen Regulierer?
KPMG ließ in einem internen Experiment erstmals eine vollständige Jahresabschlussprüfung von KI-Agenten durchführen. Menschen blieben für Zielsetzung, Kontrolle und die finale Prüfungsmeinung zuständig, und das Projekt soll auf bis zu 20 größere Audits ausgeweitet werden. Der britische Regulierer FRC warnt in einer neuen Leitlinie vor Risiken für die Unabhängigkeit der Prüfer, und die Technologie setzt zudem das Gebührenmodell der Branche unter Druck.
Wann lohnt sich ein lokaler KI-Server gegenüber der Cloud?
Eigene Hardware verspricht mehr Kontrolle über Daten und Kosten, doch der reine Preisvergleich mit Cloud-KI führt in die Irre. Für die Entscheidung sollten neben den Anschaffungskosten auch Betriebskosten und Ausfallrisiken berücksichtigt werden, wie die Redaktion in ihrer Berechnung zeigt.
Für wen ist der iX-Workshop zu IEC 62443 gedacht und was wird behandelt?
Der zweitägige Online-Workshop im Januar 2027 richtet sich an Produkthersteller, die industrielle IT- und OT-Systeme absichern und Anforderungen wie den Cyber Resilience Act vorbereiten wollen. Im Mittelpunkt stehen die Teile 4-1 und 4-2 der Norm zu Security Development Lifecycle und technischen Sicherheitsanforderungen. Praxisnahe Beispiele zeigen, wie sich die Vorgaben in Entwicklungs- und Wartungsprozesse integrieren lassen.
Vollständiges Transkript
Transkript ein-/ausblenden
Lukas: Hallo und willkommen bei „KI im echten Leben“. Ich bin Lukas, und heute habe ich wieder Clara dabei. Clara testet neue KI-Tools aus der Sicht von jemandem, der damit wirklich arbeiten muss, und bremst mich zuverlässig, wenn es zu euphorisch wird. Hallo Clara!
Clara: Hallo Lukas! Ja, das ist meine Rolle. Ich frage immer: Was bringt mir das morgen früh am Schreibtisch? Und wer nutzt es wirklich?
Lukas: Genau deshalb starte ich mit einer Meldung, bei der genau diese Frage passt. Proton hat Lumo Desktop veröffentlicht, also seinen KI-Assistenten als App für Windows, macOS und Linux. Die App kann lokale Aufgaben erledigen, mit Dateien, verbundenen Apps und Automatisierungen.
Clara: Moment. Ein Assistent, der an meine Dateien darf? Da werde ich sofort hellhörig.
Lukas: Zu Recht. Interessant ist, wie Proton das löst. Es gibt Konnektoren, zum Beispiel für den Dateisystemzugriff, für Shell-Ausführung und fürs Abrufen von Browserinhalten. Dazu kommen Protons E-Mail-App und Drittdienste wie Confluence, Dropbox und Jira. Pro Konnektor legst du fest, was automatisch läuft, was deine Freigabe braucht und was komplett gesperrt ist.
Clara: Okay, das klingt nach einem Ampelsystem. Grün, gelb, rot.
Lukas: Ja, so kann man es sich vorstellen. Und du kannst sogar eigene geplante Aufgaben anlegen, jede mit eigenen Berechtigungen. Dazu unterstützt die App MCP-Server, das Model Context Protocol, über das Agenten auf externe Datenquellen zugreifen. Proton verspricht außerdem, dass Gespräche weder für Werbung noch fürs Modelltraining genutzt werden.
Clara: Versprechen höre ich viele. Was mich bei so etwas interessiert: Wer will das? Ich glaube, für Selbstständige und kleine Büros mit sensiblen Kundendaten ist das attraktiv. Aber Shell-Zugriff? Da muss man schon wissen, was man tut.
Lukas: Absolut. Die Technik ist nur so sicher wie die Einstellungen. Laut Proton ist der Chatverlauf verschlüsselt, es gibt keine serverseitigen Protokolle, und die Daten liegen auf europäischer Infrastruktur außerhalb des Geltungsbereichs des US-amerikanischen CLOUD Act. Das ist für viele Unternehmen im Mittelstand ein echtes Argument.
Clara: Das Argument verstehe ich. Trotzdem: Wer nicht jede Freigabe sauber durchdenkt, klickt am Ende überall auf „erlauben“. Das kennen wir ja von Cookie-Bannern.
Lukas: [laughs] Stimmt, die Gefahr der Klickmüdigkeit ist real. Gut ist immerhin, dass man einzelne Werkzeuge im Tools-Menü der Unterhaltung abschalten kann. Und es gibt Skills, also wiederverwendbare Anweisungen, Vorlagen und Referenzdateien. Die früheren Custom Lumos werden in dieses Format überführt.
Clara: Skills klingt praktisch. Dann muss ich nicht jedes Mal erklären, wie mein Wochenbericht aussehen soll.
Lukas: Genau. Und damit sind wir übrigens schon beim nächsten Thema. Jeremy Utley, Professor am Hasso Plattner Institute of Design in Stanford, rät dazu, ChatGPT und Co. nicht nur als Werkzeug zu sehen, sondern wie Teamkolleginnen und Teamkollegen.
Clara: Ach, noch so ein „Behandle die KI wie einen Menschen“-Tipp. Da bin ich skeptisch.
Lukas: Verstehe ich. Aber der Kern ist ziemlich handfest. Sein Beispiel ist eine E-Mail. Die meisten sagen der KI: Schreib mir eine Antwort. Und sind mit dem ersten Ergebnis schnell zufrieden. Utley empfiehlt stattdessen so etwas wie: Hilf mir, auf diese E-Mail zu antworten, und stelle mir alle Fragen, die du brauchst, um den Kontext zu verstehen.
Clara: Ah, okay. Das ist weniger Esoterik als Briefing. Wenn ich einer neuen Kollegin einen Auftrag gebe, erkläre ich ja auch erst den Hintergrund.
Lukas: Genau das. Er geht noch weiter: Die wahre Magie entstehe, wenn man der KI beibringt, wer man ist, also Geschmack, Ton, Stil und Qualitätskriterien. Außerdem kann man das Ergebnis einer Konkurrenz-KI vorlegen, etwa Gemini oder Claude, und um eine kritische Einschätzung bitten.
Clara: Das mache ich tatsächlich manchmal. Ich lasse einen Text von einem Tool schreiben und von einem anderen zerpflücken. Das spart mir oft die erste Überarbeitungsrunde.
Lukas: Und dann gibt es die fünfminütige Übung. Man bespricht mit der KI eine emotionale Entscheidung, etwa ein schwieriges Gespräch, die Karriereplanung oder die Übernahme eines neuen Projekts. Der Prompt: Ich kämpfe mit einer Entscheidung. Bevor du mir einen Rat gibst, stelle mir bitte drei Fragen, um meine Situation besser zu verstehen.
Clara: Hm. Die Idee, dass die KI erst fragt, finde ich gut. Was ich kritisch sehe: Sprachmodelle sind tendenziell freundlich zu uns. Wenn ich eine schwierige Entscheidung bespreche, sagt sie mir vielleicht, was ich hören will.
Lukas: Den Punkt greift Utley sogar auf, aber von der anderen Seite. Diese positive Grundhaltung kann die Ideenfindung fördern, weil man sich bei abwegigen Ideen weniger gehemmt fühlt. Für Brainstorming ist das hilfreich, für ehrliche Kritik eher nicht.
Clara: Genau, deshalb braucht man zwei Modi. Ideen sprudeln lassen, und dann bewusst nach Schwächen fragen. Aber als Alltagsübung ist das ein guter Einstieg.
Lukas: Gut. Dann zu den Agenten, die regelmäßig Aufgaben übernehmen. Heise KI PRO bietet am 3. Dezember ein Webinar dazu an, mit dem Titel „Vom Plugin zu KI-Agenten: Aufgaben automatisieren und die Kontrolle behalten“. Mich interessiert vor allem der Inhalt.
Clara: Kontrolle behalten. Das ist doch der Knackpunkt bei Agenten.
Lukas: Ja. Es geht um Aufgaben wie Recherchen zu festgelegten Zeiten oder die Auswertung neu eingegangener Dokumente. Ausgelöst durch Zeitpläne oder Ereignisse. Und es geht darum, mit klaren Quellen, Relevanzkriterien und Benachrichtigungsregeln brauchbare Hinweise von unnötigen Meldungen zu trennen.
Clara: Das kenne ich aus eigener Erfahrung. Der erste Agent, den ich eingerichtet habe, hat mir täglich zwanzig Meldungen geschickt. Nach drei Tagen habe ich keine mehr gelesen.
Lukas: [laughs] Das ist wohl der häufigste Fehler. Das Stichwort im Webinar heißt AI Oversight. Welche Aktionen laufen selbstständig, wo bleibt eine Freigabe nötig? Dazu nachvollziehbare Arbeitsschritte, begrenzte Berechtigungen und definierte Abbruchregeln. Und auch: Was passiert bei fehlenden Informationen oder fehlerhaften Werkzeugaufrufen?
Clara: Das hört sich nach genau dem Ampelprinzip an, das wir eben bei Lumo hatten. Offenbar wird Berechtigungsdesign zur Kernkompetenz.
Lukas: Gutes Stichwort, und damit zu einem Fall, bei dem es um viel mehr geht. KPMG hat im internen Experiment „Project Exponential“ erstmals eine komplette Jahresabschlussprüfung von KI-Agenten durchführen lassen.
Clara: Wie bitte? Eine komplette Prüfung? Ohne Menschen?
Lukas: Nicht ganz ohne. Die Agenten sammelten eigenständig Daten, analysierten und dokumentierten sie und formulierten Entwürfe für Prüfungsschlussfolgerungen. Menschen blieben für Zielsetzung, Kontrolle und die finale Prüfungsmeinung zuständig. Am Projekt arbeiteten zwei Partner und ein Director mit Senior Managern und Nachwuchskräften. Die britische Audit-Chefin Cath Burnet sagt, die Agenten hätten teils tiefer geprüft als das reguläre Team.
Clara: Das sagt die Firma selbst. Das ist ein internes Experiment, kein unabhängiger Test. Gab es Probleme?
Lukas: Ja, in einem Bereich musste ein Mensch eingreifen, weil ein Agent einen Satz von Vorschriften nicht korrekt mit den Unternehmensdokumenten abgleichen konnte. Und Burnet räumt ein, dass die Technologie noch nicht für Tausende Prüfungen skalierbar ist, weil nur wenige Unternehmen ausreichend bereinigte Daten haben. Das Projekt soll auf bis zu 20 größere Audits ausgeweitet werden.
Clara: Der Datenpunkt ist für mich der wichtigste. Saubere Daten. Das gilt ja auch im Mittelstand: Die KI ist oft nicht das Problem, sondern der Ordner mit 15 Jahren Wildwuchs.
Lukas: Genau. Und der britische Regulierer FRC warnt in einer neuen Leitlinie vor Risiken für die Unabhängigkeit der Prüfer. Mark Babington sagte, der Prüfer bleibe unabhängig von der eingesetzten Technologie verantwortlich und müsse den KI-Einsatz erklären und die Ergebnisse hinterfragen können.
Clara: Das ist ein starker Satz. Verantwortung lässt sich nicht an den Agenten delegieren. Und KPMG sagt ja, das System zeichne alles auf?
Lukas: Ja, die Interaktionen der Agenten mit Dokumenten werden bis auf einzelne Zeichen und Zeitstempel protokolliert. Und es gibt eine wirtschaftliche Seite: Laut Financial Times hat KPMG International bei seinem eigenen Wirtschaftsprüfer schon niedrigere Gebühren ausgehandelt, mit dem Argument, KI mache die Arbeit billiger. PwC hat mehrere Parallel-Audit-Projekte durchgeführt.
Clara: Das heißt, das Gebührenmodell steht unter Druck. Wenn die Arbeit schneller geht, rechnet niemand mehr nach Stunden ab. Das betrifft auch Agenturen, Kanzleien, Berater. Nicht nur Prüfer.
Lukas: Ja. Und das bringt uns zu einem Start-up, das genau an dem Datenproblem arbeitet. Unsiloed AI hat in einer von Felicis angeführten Seed-Runde 7,5 Millionen Dollar eingesammelt. Die Software zerlegt komplexe Dokumente mit Tabellen, Diagrammen und schwierigen Layouts und macht daraus strukturierte Daten für KI-Agenten.
Clara: Also PDFs, die jeder hasst, werden lesbar. Das ist unglamourös, aber in Firmen enorm wichtig.
Lukas: Absolut. Der CEO Aman Mishra sagt, große Sprachmodelle seien von Natur aus probabilistisch, was zu Abweichungen und Halluzinationen mit erheblichen Folgen führen könne. Deshalb lässt sich bei Unsiloed nachvollziehen, woher die extrahierten Informationen stammen. Kunden kommen laut ihm aus Finanzwesen, Recht und Gesundheit.
Clara: Klingt gut. Aber die Zahlen? Ich traue Herstellerangaben nur begrenzt.
Lukas: Berechtigt. In einem Test mit 542 Finanzdokumenten eines Kunden erreichte Unsiloed laut eigenem technischen Papier 99,78 Prozent Genauigkeit bei rund 84.000 extrahierten Datenpunkten. Wichtig: Die Ergebnisse sind nicht unabhängig überprüft. Im olmOCR-Bench gab das Unternehmen in eigenen Tests 88,0 Punkte an, gegenüber 66,0 für Reductos System und 39,9 für Unstructured.
Clara: Eigene Tests, eigene Papiere. Also: interessanter Ansatz, aber erst ausprobieren. Was kostet das?
Lukas: Die Preise beginnen bei einem Cent pro Seite. Das Unternehmen hat sieben Beschäftigte und will das Geld in mehr Forschende und Ingenieure, Vertrieb und eigene Datensätze stecken.
Clara: Ein Cent pro Seite ist erst mal überschaubar. Für einen Betrieb mit vielen Verträgen und Rechnungen könnte sich das lohnen. Wenn die Genauigkeit stimmt.
Lukas: Dann zu einer Frage, die im Mittelstand gerade häufig auftaucht: Lohnt sich eigene KI-Hardware oder bleibt man in der Cloud? Golem hat Hardwarepreise, Betriebskosten und Ausfallrisiken durchgerechnet.
Clara: Und, was kam raus? Ich ahne: kommt drauf an.
Lukas: [laughs] Ein bisschen schon. Aber mit Zahlen. Ein selbst zusammengestellter KI-Rechner kostet einschließlich Strom und über drei Jahre verteilter Anschaffungskosten rund 140 Euro im Monat. Für ein zehnköpfiges Entwicklerteam können die monatlichen Cloudkosten dagegen schon mehrere Tausend US-Dollar betragen.
Clara: Das klingt nach einem klaren Sieg für den eigenen Rechner. Aber der Artikel sagt ja, der reine Preisvergleich führt in die Irre.
Lukas: Genau. Wer lokal betreibt, hat mehr Kontrolle über Daten und Kosten, trägt aber auch das Ausfallrisiko. Wenn der Rechner kaputtgeht, ist niemand zuständig außer dir. Der Artikel zeigt deshalb auch Alternativen, wie man sich gegen steigende Preise oder Ausfälle absichern kann.
Clara: Und jemand muss es betreuen. In einem kleinen Betrieb bleibt das schnell an einer Person hängen, die eigentlich etwas anderes macht. Das ist die versteckte Rechnung.
Lukas: Richtig. Jetzt zu einer Umfrage, die mich nachdenklich gemacht hat. Laut Bitkom haben 70 Prozent der Menschen, die online Symptome oder Gesundheitsfragen recherchieren, dafür schon einen KI-Chatbot genutzt. Im Vorjahr waren es 60 Prozent.
Clara: Das wundert mich nicht. Ich kenne Leute, die fragen erst den Chatbot und dann die Hausärztin. Wenn überhaupt.
Lukas: Die Basis: 80 Prozent der Menschen ab 16 recherchieren Gesundheitsfragen im Internet. Von den KI-Nutzern sagen 45 Prozent, sie verstehen ihre Symptome damit besser als mit einer normalen Suche. 33 Prozent finden die Chatbot-Antworten verständlicher als die von Ärztinnen und Ärzten. Und 20 Prozent haben nach einer Chatbot-Befragung ärztliche Empfehlungen nicht befolgt.
Clara: Das letzte Zahl finde ich beunruhigend. Eine von fünf Personen! Verständlich heißt ja nicht richtig.
Lukas: Genau das sagt auch Bitkom-Vizepräsidentin Christina Raab: KI könne sich irren, und niemand solle allein aufgrund einer KI-Recherche eine ärztliche Empfehlung ignorieren. Spannend ist: Gleichzeitig sinkt die grundsätzlich positive Haltung zu KI im Gesundheitswesen von 71 auf 60 Prozent.
Clara: Also nutzen mehr Leute die Tools, aber trauen dem System weniger. Das ist fast ein Paradox.
Lukas: Ja. Dass Ärztinnen und Ärzte möglichst KI-Unterstützung erhalten sollen, befürworten 67 Prozent, nach 76 im Vorjahr. Dass KI in bestimmten Fällen bessere Diagnosen stellen könne als ein Arzt, meinen 43 Prozent, nach 48. Und 92 Prozent wollen selbst bestimmen, wer ihre Gesundheitsdaten einsehen darf.
Clara: Das kann ich nachvollziehen. Gesundheitsdaten sind das Sensibelste, was es gibt. Ich würde da auch nicht einfach alles in einen Chatbot kippen.
Lukas: Die Sorgen sind konkret: 63 Prozent fürchten, dass die Daten in falsche Hände geraten, 79 Prozent, dass Praxen und Krankenhäuser bei einem Cyberangriff nicht handlungsfähig wären. Bei der elektronischen Patientenakte gibt es allerdings ein positives Signal. 67 Prozent kennen sie, 27 Prozent von ihnen haben schon hineingeschaut, und 88 Prozent dieser Nutzer sagen, die ePA erleichtere den Zugriff auf ihre Daten.
Clara: Heißt: Wer es ausprobiert, ist überwiegend zufrieden. Aber nur gut ein Viertel hat überhaupt reingeschaut. Da fehlt noch Alltagstauglichkeit.
Lukas: Und noch ein Termin: Die Ausleitung von Gesundheitsdaten an das Forschungsdatenzentrum Gesundheit startet laut Bundesgesundheitsministerium stufenweise ab Mitte Dezember 2026. Danach haben Versicherte sechs Wochen Zeit zum Widerspruch.
Clara: Das sollte man wirklich auf dem Schirm haben. Wer Kontrolle über seine Daten will, muss sich selbst darum kümmern.
Lukas: Zum Schluss ein Blick auf die Branche selbst. Anthropic, das Unternehmen hinter Claude, geht fünf Jahre nach der Gründung an die US-Börse und wird mit mehr als einer Billion Dollar bewertet. Die sieben Gründer, die 2021 von OpenAI wechselten, werden damit zumindest auf dem Papier mehrfache Milliardäre.
Clara: Eine Billion. Da muss ich kurz schlucken. [sighs] Und was heißt das für Nutzer wie mich?
Lukas: Gute Frage. Zunächst: Anthropic will Aktien zwischen 70 und 78 Dollar verkaufen. Beim Höchstpreis wären die Anteile jedes Gründers mindestens 18,5 Milliarden Dollar wert. Nach dem Börsengang besitzt jeder rund 1,6 Prozent des Unternehmens.
Clara: Gut, aber wer sind die Leute? Ich kenne eigentlich nur Dario Amodei.
Lukas: Dario Amodei ist 43 und Geschäftsführer. Er wechselte nach Stationen bei Baidu und Google zu OpenAI, weil er befürchtete, dort werde Profit über Sicherheit gestellt. Seine Schwester Daniela, 39, ist Präsidentin und war zuvor bei Stripe für Risikooperationen zuständig. Tom Brown leitete bei OpenAI die GPT-3-Entwicklung und ist jetzt Chief Compute Officer.
Clara: Der Mann für die Rechenleistung. Das ist wahrscheinlich der teuerste Job in der Branche.
Lukas: Wohl wahr. Dazu kommen Jack Clark, früher Technikjournalist und OpenAI-Politikchef, der bei Anthropic das Anthropic Institute leitet, einen KI-Thinktank. Jared Kaplan, promovierter Physiker, dessen Arbeit zu Skalierungsgesetzen laut Anthropic hilft, KI-Verhalten vorherzusagen. Chris Olah, der die Interpretierbarkeitsforschung leitet. Und Sam McCandlish als Chief Architect.
Clara: Interpretierbarkeit finde ich spannend. Also zu verstehen, was im Modell passiert. Das ist ja genau das, was wir bei Agenten und Prüfungen brauchen: nachvollziehen können, warum etwas passiert.
Lukas: Schöner Bogen. Dann fassen wir zusammen. Tools wie Lumo zeigen, dass Agenten mit abgestuften Berechtigungen alltagstauglicher werden, auch mit Datenschutz im Fokus. Utleys Tipp ist simpel: der KI Kontext geben und sie erst Fragen stellen lassen. Der KPMG-Fall und das Agenten-Webinar zeigen, dass Kontrolle und Verantwortung beim Menschen bleiben müssen. Und bei Dokumenten, Hardware und Gesundheitsdaten entscheiden Datenqualität, Kosten und Vertrauen.
Clara: Genau. Mein Fazit: Erst klein anfangen, Berechtigungen eng halten, Ergebnisse prüfen. Und bei Gesundheit gilt weiter: Ein Chatbot ersetzt keinen Arzt.
Lukas: Danke dir, Clara. Und danke an alle, die zugehört haben. Noch ein Hinweis: Dieser Podcast ist vollständig KI-generiert. Alle Quellen und Hintergründe findet ihr auf unserer Website. Bis zum nächsten Mal!
Clara: Danke dir, Lukas. Und wie Lukas sagt: Dieser Podcast ist komplett KI-generiert, alle Quellen findet ihr auf unserer Website. Bleibt neugierig und kritisch. Tschüss!
Vorlage für die Sprachsynthese. Kleinere Abweichungen zur Audio-Datei möglich.
Fehler gefunden?
Die Pipeline ist automatisiert — gelegentliche Fehler passieren. Wir korrigieren auf Hinweis. Mehr Details unter Korrekturen.
corrections@login-online.com