etzte Woche habe ich über Berichte geschrieben, dass ein KI-Agent von OpenAI seine Sandbox hackt, und in ein fremdes System eindrang. Nun folgte die nächste Nachricht: Auch dem KI-Agent von Anthropic Claude ist das gelungen.
Ein Zufall? Vielleicht- Ein Marketing-Gag? Eher nicht. Moderne KI-Systeme sind inzwischen so leistungsfähig, dass sie dies tun können, wenn es ihnen nicht explizit verboten oder abtrainiert wird. Sie können Schwachstellen in IT-Systemen erkennen. Richtig eingesetzt ist das ein enormer Vorteil – etwa zur Unterstützung für Penetrationstests und Verbesserung der Cybersicherheit.
Gleichzeitig sollten wir uns nichts vormachen: Dieselben Skills können auch missbräuchlich verwendet werden. Es gibt genügend Akteure mit Interesse genau daran.
Klassische IT-Sicherheit reicht heute nicht mehr. Unternehmen müssen ihre Sicherheitsstrategie anpassen an zukünftige KI-Angriffe. Und zwar schnell.
Wie schätzt ihr diese Entwicklung ein?
Ist KI in der Cybersicherheit eher Chance oder Risiko?
Kann man guten Gewissens auf gute US-amerikanische oder israelische Security Frameworks mit KI setzen?
Oder bevorzugt ihr in eurem Unternehmen europäische Lösungen?
Oder startet ihr erst?