KI-Browser: Neue Risiken für Datenschutz und Informationssicherheit
- OpenAI hat mit Atlas einen Webbrowser mit integriertem KI-Agenten vorgestellt.
- In einem KI-Browser steuern KI-Tools wie ChatGPT sämtliche Funktionen und können unter anderem Websites öffnen oder Daten extrahieren.
- Sicherheitsexperten haben festgestellt, dass KI-Browser sich auf verschiedenen Wegen manipulieren lassen.
- Für Unternehmen stellen KI-Browser eine ernste Gefahr für den Datenschutz und die Informationssicherheit dar.
- Bevor Unternehmen intelligente Webbrowser einsetzen, müssen sie die Risiken abwägen und Sicherheitsmaßnahmen ergreifen.
- Item A
- Item B
- Item C
Was ist ein KI-Browser?
Klassische Browser sind das Tor ins World Wide Web, haben in den letzten Jahren allerdings kaum Innovationsschübe erlebt. Das ändert sich im KI-Zeitalter grundlegend.
Während Google oder Opera ihre klassische Browserarchitektur um KI-Funktionen erweitern, gehen KI-Pioniere wie OpenAI und Perplexity noch einen Schritt weiter und haben eigene KI-Browser entwickelt. Diese Webbrowser nutzen einen KI-Agenten als zentrales Steuerelement.
Was können KI-Browser wie Atlas oder Comet?
Anstatt wie klassische Browser nur Webseiten anzuzeigen, nimmt ein KI-Browser Befehle direkt aus der Adresszeile (Omnibox) entgegen oder führt komplexe Aufgaben automatisch direkt im Browser aus. Die „Intelligenz“ des Browsers basiert dabei auf leistungsstarken Large-Language-Models (LLM) wie ChatGPT.
Wichtige Funktionen von KI-Browsern
Die KI-Agenten in den neuen intelligenten Browsern von OpenAI und Co. agieren selbstständig und erfüllen verschiedene Assistenzaufgaben. Sie können zum Beispiel
- Inhalte analysieren
- Buttons klicken
- Daten extrahieren
- Formulare ausfüllen
- Texte zusammenfassen
Browser-Nutzer können dem KI-Agenten auch die Erlaubnis erteilen, auf alle offenen Sessions und Tabs und die darin enthaltenen Daten zuzugreifen (Browser Memory). Das erleichtert zwar die Arbeit, birgt allerdings gleichzeitig große Gefahren.
Welche Sicherheitslücken sind bisher bei KI-Browsern bekannt?
Die Datenschutz- und Informationssicherheits-Risiken sind bei vollwertigen KI-Browsern deutlich gravierender als bei herkömmlichen Webbrowsern – das haben die Experten von Security-Unternehmen wie LayerX Security und NeutralTrust bereits innerhalb einer Woche nach dem Launch des OpenAI-Browsers festgestellt.
Prompt Injection: Gefahr aus der Adresszeile
In KI-Browsern wie Atlas beginnen Gespräche mit der KI in der Adresszeile. Eingaben in die Omnibox kann die KI als Prompt interpretieren oder als klassische URL.
⚠️ Die Gefahr: Laut NeutralTrust könnten Hacker URLs so gestalten, dass diese als schädlicher Prompt ausgeführt werden. Man spricht dabei von einer „(Indirect) Prompt Injection“. Außerdem könnten Angreifer Prompt-Texte künftig unsichtbar auf Websites platzieren und den KI-Agenten im Browser anweisen, Daten aus E-Mails, Kalendern oder Login-Informationen zu exfiltrieren.
Tainted Memories: Kriminelles KI-Gedächtnis
KI-Browser haben wie ihre kleinen Brüder, die Chatbots, ein Gedächtnis, das sie immer besser werden lässt. Die Browser-KI merkt sich, wonach der User sucht, um künftige Anfragen besser beantworten zu können.
⚠️ Die Gefahr: Laut LayerX können Angreifer schädliche KI-Befehle in das Browser Memory einschleusen. Der Browser führt dabei ohne das Wissen oder die Zustimmung des Users mit einer Aktion auf einer Website eine Aktion auf einer anderen Website aus. Diese unerwünschten Aktionen können auch nach mehreren Sitzungen oder Gerätwechseln ausgelöst werden („Tainted Memories“).
Weitere bisher bekannte Schwachstellen bei Atlas
- Sidebar Spoofing: Browser-Erweiterungen oder manipulierte Websites können KI-Seitenleisten nachahmen und Nutzer dazu bringen, schädliche Anfragen einzugeben, die dann Malware laden oder Daten stehlen.
- Fake-Software: Bei neuen Browsern kursieren oft gefälschte Apps und Webseiten. Diese führen zum Download vermeintlicher KI-Browser, enthalten allerdings stattdessen Schadsoftware.
- Phishing: KI-Browser sind in der Lage, Online-Formulare auszufüllen. Das mag bequem sein, doch die Gefahr ist groß, dass die Daten auf Phishing-Websites landen und in falsche Hände geraten.
- Content- und Bild-Injection: Angreifer verstecken Instruktionen in Webseiten durch ausgeblendeten Text oder sogar Bilder (OCR), die vom KI-Agenten unbemerkt ausgeführt werden können.
- Fehlende Herkunftsschutz-Mechanismen: KI-Agenten können domainübergreifende Aktionen ausführen. Klassische Browsermechanismen wie Same-Origin-Policy oder Content Security Policy greifen dabei jedoch kaum.
- Mangelhafte Cybersecurity: LayerX fand heraus, dass Atlas anfälliger für reguläre Angriffe ist. Von 100 Cyberangriffen blockierte Atlas nur 5,8 Prozent, während Chrome 47 und Edge 53 Prozent abwehrten.
Erfahren Sie, wie Sie KI-Tools im Einklang mit der DSGVO und dem AI Act nutzen und geben Sie Hackern und Datendieben keine Chance. Unsere KI-Experten zeigen, wie Sie Ihre Prozesse mit KI automatisieren, ohne Abstriche bei der Compliance machen zu müssen.
Wie gefährlich sind KI-Browser für den Datenschutz?
KI-Browser wie OpenAI Atlas und Perplexity Comet weisen relevante Sicherheitslücken auf, die insbesondere Unternehmen bei der Entscheidung über ihren Einsatz kennen sollten. Darüber hinaus sammeln Browser wie Atlas oder Comet mehr Nutzungsdaten als herkömmliche Browser, um die KI-Funktionen kontinuierlich zu verbessern.
Test mit Gesundheitsdaten fällt negativ aus
Die Electronic Frontier Foundation (EFF) verweist auf Tests, bei denen Atlas sensible Gesundheitsinformationen und Suchanfragen zu medizinischen Themen im Browser-Speicher abgelegt hat.
Zwar ist das Sammeln von Daten zu Trainingszwecken in Atlas standardmäßig deaktiviert. In Unternehmen ohne KI-Schulungen besteht allerdings die Gefahr, dass Nutzer die Speicherung beim ersten Einrichten versehentlich aktivieren.
Hinzu kommt, dass Atlas-Nutzer anders als in der Chatumgebung von ChatGPT nicht mehr ohne weiteres steuern können, welche Daten sie der KI liefern.
Vergleich von Funktionen und Gefahren bei Browsern mit und ohne KI-Agent
Proliance-Tipp: Wie können Unternehmen vorgehen, die KI-Browser nutzen möchten?
Grundsätzlich bergen Browser wie Atlas oder Comet mehr Gefahren als bisherige LLM-Chat-Anwendung. Der Grund: Wer sich in einer Browser-Oberfläche bewegt, tendiert eher dazu, aus Bequemlichkeit unvorsichtiger zu arbeiten.
Außerdem steckt die KI bei Browsern wie Atlas oder Comet in jedem Fenster und jeder Funktion. So bekommt das dahinterliegende LLM direkten Einblick in das gesamte Nutzerverhalten der Mitarbeiter, die damit arbeiten. Das bedeutet: über das Browsing, aufgerufene Seiten und Dateneingaben. Dadurch ergeben sich umfassende Angriffsvektoren.
Die KI-Experten von Proliance empfehlen deshalb folgende Schritte:
- Sowohl aus Sicherheits- als auch aus Datenschutzgründen sollten Sie die Nutzung von KI-Browsern wie Atlas oder Comet nicht überstürzen.
- Wer dennoch damit starten möchte, sollte zunächst eine gründliche Risikoanalyse durch die IT durchführen lassen.
- Es muss sichergestellt sein, dass bisher bekannte Sicherheitsprobleme vermieden oder im Fall der Fälle behoben werden können.
- Im Anschluss empfiehlt sich eine streng kontrollierte Testphase.
- Was den Datenschutz angeht, ist davon auszugehen, dass Nutzer von KI-Browsern eine Datenschutzfolgeabschätzung benötigen werden.
- Noch bevor eine Freigabe für den Einsatz von Browsern mit KI-Agenten erfolgt, sollten zudem strenge technische und organisatorische Maßnahmen implementiert.
- Wichtig ist in diesem Zusammenhang auch, die KI-Kompetenz aller Angestellten durch Schulungen zu stärken und Nutzungsanweisungen an Mitarbeiter herauszugeben.
Welche Sicherheitsmaßnahmen können Unternehmen ergreifen?
- Downloads von gefälschten Browser-Dateien durch die Vorgabe eindeutiger App-Stores vermeiden
- URL-Parsing so gestalten, dass der Browser bei Parsing-Fehlern nicht automatisch in den Prompt-Modus wechselt
- Alle Omnibox-Eingaben als nicht vertrauenswürdig behandeln, bis User das Ziel bestätigen
- Sensible Aktionen ebenfalls an eine explizite Bestätigung knüpfen
Fazit: Beraten lassen und sicher von KI profitieren
KI-Browser sind grundsätzlich leistungsfähig. Aktuell überwiegen jedoch die Risiken für Unternehmen. Wer den Anschluss bei Künstlicher Intelligenz nicht verpassen möchte, sollte die Risiken evaluieren, die Nutzung kontrollieren und technische sowie organisatorische Schutzmaßnahmen verstärken.
Die KI-Experten beraten Sie gern rund um den Einsatz von KI-Tools wie intelligenten Browsern und unterstützen Sie dabei, die nötige Kompetenz für das sichere Arbeiten mit LLMs aufzubauen.
Quellen:
https://www.computerwoche.de/article/4081185/openai-atlas-im-unternehmen-analysten-warnen.html
https://www.it-daily.net/shortnews-en/hackers-fake-perplexity-comet
https://www.washingtonpost.com/technology/2025/10/22/chatgpt-atlas-browser/
Sie haben noch Fragen zum Thema? Lassen Sie sich jetzt kostenlos von unseren Expertinnen und Experten beraten.
.jpg)
Zu unseren mehr als 2.500 Kunden zählen Start-ups, mittlere Unternehmen und Unternehmensgruppen aus nahezu allen Branchen.
