Risikobewertung des Produktes Defense API (DAPI)

Stand: August 2025

Ampelbewertung  

🔴 Hohes Risiko → Kritische Auswirkungen auf den Geschäftsbetrieb  

🟠 Mittleres Risiko → Mögliche Einschränkungen, aber nicht geschäftskritisch  

🟢 Geringes Risiko → Begrenzte oder temporäre Auswirkungen  

Versagen bei Detektion eines Angriffs

Beschreibung:Die KI-Firewall versagt bei der Detektion eines Angriffs. Es wird beispielsweise von einer Webseite oder einer E-Mail eine schadhafte Anweisung ausgeführt, was zu einem Abfluss von sensitiven Unternehmensdaten führen kann.
Eintrittswahrscheinlichkeit:Die Wahrscheinlichkeit, dass dies vorkommt, ist nicht unerheblich. Der gleichzeitige Abfluss von sensitivem Wissen ist aber in der Regel unwahrscheinlich. Wie bei einer klassischen Firewall wird das Risiko einer Extraktion aber wesentlich reduziert und somit die Situation zu einem ungeschützten System verbessert.
Ampelrisikobewertung:🔴 Hohes Risiko
Auswirkungen System:Kundenwissen kann extrahiert werden und wird außerhalb des Unternehmens versendet.
Auswirkungen Reputation Kunde:Unter Umständen können Projekt- oder Kundeninformationen an die Öffentlichkeit gelangen. Dem Unternehmen wird womöglich der sorglose Umgang mit Wissen vorgeworfen und erhält keine sensiblen Kundenaufträge mehr.
Auswirkungen Reputation SLA:Das Produkt wird nicht mehr als sicher eingestuft und verschwindet vom Markt.
Geplante Maßnahmen zur Risikominimierung:Wir halten uns bei der Produktentwicklung an State-of-the-Art Ergebnisse aus der aktuellen Forschung. Wir werben nur mit bestmöglichem Schutz und nicht 100% Sicherheit. Durch offene Kommunikation, was das Produkt leistet und dass es wie bei jeder Firewall auch zum Versagen kommen kann bauen wir diesem Risiko vor.

Detektion eines Angriffs bei harmlosen Prompts

Beschreibung:Die KI-Firewall detektiert fälschlicherweise einen harmlosen Text als Bedrohung. Dies könnte beispielsweise bei einer legitimen E-Mail oder einer sicheren Webanfrage passieren, die dann blockiert oder als gefährlich markiert wird. Dies kann zu unnötigen Unterbrechungen im Geschäftsbetrieb führen und die Produktivität beeinträchtigen.
Eintrittswahrscheinlichkeit:Die Wahrscheinlichkeit für eine falsche Detektion ist gegeben und höher als die nicht-Erkennung eines Angriffs. Dies gilt insbesondere, weil die Sensitivität des Systems so gewählt ist, dass im Zweifel die eine Blockade als sicheres Verhalten in Betracht gezogen wird.
Ampelrisikobewertung:🟢 Geringes Risiko
Auswirkungen System:Legitime Geschäftsprozesse können unterbrochen werden, was zu Verzögerungen und möglicherweise zu finanziellen Verlusten führen kann.
Auswirkungen Reputation Kunde:Sollten exponierte Unternehmensprozesse betroffen sein, könnten das Unternehmen in der Öffentlichkeit als unzuverlässig wahrgenommen werden, weil beispielsweise dadurch Bestellungen verzögert werden. Dies könnte das Vertrauen in die Fähigkeiten des Unternehmens beeinträchtigen und die Kundenbeziehungen belasten.
Auswirkungen Reputation SLA:Das Produkt könnte als unausgereift oder unzuverlässig angesehen werden, was den Marktanteil beeinträchtigen und potenzielle Kunden abschrecken könnte.
Geplante Maßnahmen zur Risikominimierung:Wir setzen auf kontinuierliche Verbesserung unserer Algorithmen durch regelmäßige Updates und das Einbinden von Feedback aus der Praxis. Durch transparente Kommunikation über die Funktionsweise und Grenzen unserer KI-Firewall schaffen wir Verständnis und Akzeptanz bei unseren Kunden. Zudem bieten wir Schulungen an, um die Nutzer über mögliche falsche Detektionen zu informieren und ihnen den Umgang damit zu erleichtern. Eine Möglichkeit wäre es auch den Sensitivitätsgrad je nach Anwendungsfall einstellbar zu machen.

Ausfall des Dienstes

Beschreibung:Die KI-Firewall kann ihre Schutzfunktionen nicht ausführen, weil die zugrundeliegende API nicht antwortet. Dies könnte durch technische Probleme, Überlastung der Server oder andere unvorhergesehene Ereignisse verursacht werden. Während die API nicht verfügbar ist, sind die Geschäftsprozesse blockiert, was zu erheblichen Betriebsstörungen führen kann.
Eintrittswahrscheinlichkeit:Die Wahrscheinlichkeit eines API-Ausfalls ist relativ gering, da moderne Systeme über verschiedene Redundanzen und Backup-Systeme verfügen. Dennoch kann ein Ausfall nie vollständig ausgeschlossen werden, insbesondere bei unerwarteten Spitzenlasten oder externen Angriffen.
Ampelrisikobewertung:🟠 Mittleres Risiko / 🔴 Hohes Risiko
Auswirkungen System:Während die API nicht antwortet, sind die Geschäftsprozesse blockiert, was zu Verzögerungen und möglicherweise zu finanziellen Verlusten führen kann. Das System bleibt zwar geschützt, kann aber keine neuen Anfragen bearbeiten.
Auswirkungen Reputation Kunde:Kunden könnten das Vertrauen in die Zuverlässigkeit des Unternehmens verlieren, insbesondere wenn die Blockierung zu Verzögerungen bei kritischen Geschäftsprozessen führt. Dies könnte langfristige Auswirkungen auf die Kundenbeziehungen haben.
Auswirkungen Reputation SLA:Ein häufiger oder längerer Ausfall der API könnte dazu führen, dass das Produkt als unzuverlässig gilt und seinen Marktanteil verliert. Kunden könnten sich für Alternativen entscheiden, die als stabiler wahrgenommen werden.
Geplante Maßnahmen zur Risikominimierung:Wir implementieren umfassende Redundanz- und Backup-Systeme für unsere API, um deren Verfügbarkeit zu gewährleisten. Regelmäßige Wartung und Updates der Hardware und Software helfen, technische Defekte zu vermeiden. Zudem haben wir Notfallpläne und schnelle Reaktionsmechanismen, um im Falle eines Ausfalls die API so schnell wie möglich wiederherzustellen und die Auswirkungen auf die Geschäftsprozesse zu minimieren. Wir setzen auch auf Lastausgleich und Skalierungsstrategien, um Spitzenlasten besser zu bewältigen.

Kompromittierung des Systems

Beschreibung:Die KI-Firewall wird durch externe Angreifer kompromittiert, was dazu führt, dass unbefugte Personen Kontrolle über das System erlangen. Dies könnte durch gezielte Cyberangriffe, Ausnutzung von Sicherheitslücken oder andere bösartige Aktivitäten geschehen. Eine solche Kompromittierung kann schwerwiegende Folgen haben, da Angreifer möglicherweise Schutzmechanismen deaktivieren oder manipulieren können.
Eintrittswahrscheinlichkeit:Die Wahrscheinlichkeit einer erfolgreichen Kompromittierung ist zwar gering, da moderne KI-Firewalls über robuste Sicherheitsmechanismen verfügen, aber sie kann nie vollständig ausgeschlossen werden. Angreifer entwickeln ständig neue Methoden, um Sicherheitsbarrieren zu überwinden.
Ampelrisikobewertung:🔴 Hohes Risiko
Auswirkungen System:Eine kompromittierte KI-Firewall kann dazu führen, dass Schutzmechanismen umgangen oder deaktiviert werden, was das System anfällig für weitere Angriffe macht. Dies kann zu Datenverlust, Systemausfällen und anderen schwerwiegenden Sicherheitsvorfällen führen.
Auswirkungen Reputation Kunde:Kunden könnten das Vertrauen in die Fähigkeit des Unternehmens verlieren, ihre Daten und Systeme zu schützen. Dies könnte zu einem Verlust von Kunden und langfristigen Schäden für die Kundenbeziehungen führen.
Auswirkungen Reputation SLA:Ein erfolgreicher Angriff auf die KI-Firewall könnte das Produkt als unsicher und unzuverlässig erscheinen lassen, was zu einem Verlust von Marktanteilen und einem Rückgang des Kundenvertrauens führen könnte.
Geplante Maßnahmen zur Risikominimierung:Wir setzen auf kontinuierliche Überwachung und regelmäßige Sicherheitsaudits, um potenzielle Schwachstellen frühzeitig zu erkennen und zu beheben. Unsere KI-Firewall wird regelmäßig mit den neuesten Sicherheitsupdates und Patches versehen. Zudem implementieren wir mehrschichtige Sicherheitsprotokolle und Verschlüsselungstechnologien, um die Widerstandsfähigkeit gegen Angriffe zu erhöhen. Schulungen und Sensibilisierungsmaßnahmen für Mitarbeiter helfen, das Bewusstsein für Sicherheitsrisiken zu schärfen und die allgemeine Sicherheitskultur zu stärken.