KI-Sicherheit: Das Wettrüsten der autonomen Agenten ist eröffnet ( Finanztrends)

Die Sicherheitsdebatte um Künstliche Intelligenz hat sich dramatisch zugespitzt. Während Tech-Konzerne neue Abwehrplattformen ankündigen, kämpfen Unternehmen mit kritischen Lücken in ihren eigenen KI-Systemen. Die Ereignisse dieser Woche zeigen: Ein neues Cyber-Wettrüsten hat begonnen, bei dem KI sowohl Waffe als auch Ziel ist.

Anzeige

Warum 73% der deutschen Unternehmen auf Cyberangriffe nicht vorbereitet sind und welche neuen Gesetze die Lage jetzt verschärfen, erklärt dieser Experten-Report. Stärken Sie Ihre IT-Sicherheit mit einfachen Maßnahmen und schützen Sie Ihren Betrieb effektiv vor modernen Bedrohungen. Experten-Report: Strategien gegen Cyberkriminelle jetzt kostenlos sichern

Autonome Agenten: Die neue Achillesferse

Im Zentrum der aktuellen Warnungen stehen autonome KI-Agenten. Diese Systeme handeln nicht mehr nur auf Befehl, sondern planen eigenständig komplexe Aufgaben. Sie greifen auf Daten zu und treffen Entscheidungen – oft mit weitreichenden Zugriffsrechten. Für Sicherheitsteams stellen sie eine völlig neue Klasse von digitalen Identitäten dar, die kaum zu kontrollieren ist.

Das Problem wird durch die Explosion der Schatten-KI verschärft. Die Zahl unautorisierter KI-Tools in Unternehmen ist Berichten zufolge binnen Monaten von einigen Hundert auf über tausend gestiegen. Eine Analyse von Cisco ergab, dass 26 Prozent von 31.000 untersuchten Agenten-Funktionen mindestens eine Schwachstelle enthielten. Gleichzeitig planen über 80 Prozent der Firmen den Einsatz solcher Technologien.

KI-gestützter Betrug erreicht neue Dimensionen

Die Bedrohung ist längst real. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnte kürzlich vor einer massiven Welle KI-optimierter Betrugsangriffe auf Smartphones. Methoden wie Smishing (Phishing per SMS) profitieren enorm von generativer KI: Die Betrugsnachrichten sind nun fehlerfrei, personalisiert und kaum von echten Mitteilungen zu unterscheiden. Die Klickraten steigen dadurch drastisch.

Staatliche Akteure nutzen KI zudem, um Desinformationskampagnen zu skalieren und die Entwicklung von Schadsoftware zu beschleunigen. Die Grenze zwischen Cyberkriminalität und geopolitischen Angriffen verschwimmt immer mehr.

Die Gegenoffensive der Sicherheitsbranche

Als direkte Reaktion auf die Eskalation hat die Industrie neue Lösungen präsentiert. Anbieter wie Netskope kündigten Plattformen an, die das gesamte KI-Ökosystem eines Unternehmens schützen sollen. Diese „AI Security“-Suites verfolgen drei Ziele: Sie schaffen Transparenz über alle KI-Agenten („Agentic Broker“), verhindern KI-spezifische Angriffe wie Prompt-Injection („AI Guardrails“) und testen eigene Modelle mit simulierten Attacken („AI Red Teaming“).

Gleichzeitig offenbart der jüngste Patch-Zyklus von Microsoft das fundamentale Dilemma. Während der Konzern neue, proaktive Copilot-Funktionen als KI-Agenten in Office integriert, musste er kritische Sicherheitslücken schließen. Eine davon erlaubte die Ausführung von Schadcode allein durch das Anzeigen einer manipulierten Datei. Ein Albtraum-Szenario, wenn autonome Agenten automatisch auf solche Inhalte zugreifen.

Der EU AI Act setzt verbindliche Leitplanken

Neben der Technologie bildet die Regulierung die zweite Säule der Risikobekämpfung. Der schrittweise in Kraft tretende EU AI Act etabliert einen verbindlichen Rechtsrahmen. Er verfolgt einen risikobasierten Ansatz und stellt besonders strenge Auflagen für Hochrisiko-KI-Systeme – etwa in kritischer Infrastruktur, im Personalwesen oder in der Strafverfolgung.

Anbieter solcher Systeme müssen umfassende Risikobewertungen durchführen, Überwachungsmechanismen implementieren und eine qualifizierte menschliche Aufsicht („Human-in-the-Loop“) gewährleisten. Bestimmte Anwendungen, wie Social Scoring oder die Emotionserkennung am Arbeitsplatz, werden komplett verboten. Diese Vorgaben zwingen Unternehmen, sich proaktiv mit Sicherheit und Ethik ihrer KI auseinanderzusetzen.

Anzeige

Die neue EU-KI-Verordnung stellt Unternehmen bereits vor große Herausforderungen bei der Klassifizierung und Dokumentation ihrer Systeme. Sichern Sie sich diesen kompakten Leitfaden, um Anforderungen und Übergangsfristen ohne juristische Fachkenntnisse besser zu verstehen. Gratis E-Book zur EU-KI-Verordnung hier herunterladen

Vom IT-Projekt zur fundamentalen Transformation

Die Entwicklungen markieren einen Wendepunkt. Cybersicherheit ist zu einem zweiseitigen Wettrüsten geworden: Plattform gegen Plattform, KI gegen KI. Doch viele Unternehmen behandeln die KI-Einführung noch immer als reines IT-Projekt. Das ist eine fatale Fehleinschätzung.

Es handelt sich um eine fundamentale Transformation, die alle Geschäftsbereiche betrifft. Die zentrale Herausforderung lautet: Wie nutzt man die enormen Produktivitätspotenziale von KI, ohne die ebenso großen Risiken außer Kontrolle geraten zu lassen? Die Antwort liegt in umfassenden Governance-Strukturen für den gesamten Lebenszyklus der Systeme – von der Datenerhebung bis zum operativen Einsatz.

Der Druck wird weiter steigen, nicht zuletzt durch die vollständige Umsetzung des EU AI Act und des Cyber Resilience Act. Der Fokus der Sicherheitsarbeit wird sich unweigerlich auf die Absicherung von KI-Lieferketten und die kontinuierliche Überwachung autonomer Agenten verlagern. Für Unternehmen gilt es jetzt, die Weichen zu stellen, um in diesem neuen, von KI dominierten Umfeld widerstandsfähig zu bleiben.

Christian Drastil: Wiener Börse Plausch

Börsegeschichte: 75 Jahre Buwog, davon viereinhalb Jahre börsenotiert, Zeitzeug:innen hier im audio-cd-Remix

Bildnachweis

1. Trading

Random Partner

---

Wiener Börse
Als zentrale Infrastrukturanbieterin der Region öffnet die Wiener Börse AG Tore zu den globalen Finanzmärkten. Sie vereint die Börsenplätze Wien und Prag. Mit modernster Technik und kundenorientierten Services leistet die Wiener Börse als privatwirtschaftliches, gewinnorientiertes Unternehmen einen bedeutenden Beitrag für einen international wettbewerbsfähigen Kapitalmarkt.

>> Besuchen Sie 55 weitere Partner auf boerse-social.com/partner

 Latest Blogs

» Bausparen in Österreich: Ein 100 Jahre altes Produkt mit 10 Milliarden E...

» LinkedIn-NL: Happy Birthday, Daniel Riedl und 75 Jahre Buwog incl 40.000...

» Österreich-Depots: Etwas leichter (Depot Kommentar)

» Börsegeschichte 12.5.: Zumtobel, Sanochemia, Post, Palfinger, CPI Europe...

» ATX im leichten Minus, doch AT&S sorgt für Staunen: Rekord-Handelsvolume...

» Nachlese: Veronika Korbei Kooperation Handball West Wien (Capitals) / Sp...

» PIR-News: Agrana, Post, FACC (Christine Petzwinkler)

» (Christian Drastil)

» Wiener Börse Party #1153: ATX leichter, bzgl. AT&S lehne ich mich jetzt ...

» Wiener Börse zu Mittag leichter: Strabag, Porr, UBM gesucht