Wir haben unseren eigenen KI-Assistenten auf Schwachstellen geprüft.
20 Schwachstellen. Fünf davon kritisch.
Eine davon hätte es erlaubt, beliebige Befehle auf dem Mac auszuführen: über einen Terminvorschlag. Ein Terminname wie „Besprechung; lösche alle Dateien”.
Der Käfig wäre intakt geblieben.
Der Angreifer wäre trotzdem drin.
Lehrbuchfehler.
Seite eins jedes Sicherheitsleitfadens.
Und trotzdem ist er uns passiert.
In Teil 3 meiner Serie „Dr. Jekyll im Käfig” geht es unter die Motorhaube:
Was steckt technisch in einem KI-Assistenten, der nach dem Käfig-Prinzip gebaut ist?
Welche Angriffe hält er ab?
Wo sind seine Grenzen. Und wie findet man die Lücken, die man selbst übersieht?
Link im ersten Kommentar.
