Viele Betriebe geben bei der KI-Einführung und -Anwendung mächtig Gas, doch das Tempo beeinträchtigt oft die Sicherheit. Im Risikobarometer des Unternehmensversicherers Allianz Commercial rangierte KI im Januar 2026 auf Platz 2 der weltweit größten Geschäftsrisiken, direkt hinter Cyberkriminalität.
Und beide Gefahren sind eng verbunden, weiß Alois Krtil: „KI-basierte Angriffswellen haben extrem zugenommen, weil sich Attacken durch KI-Agenten sehr gut automatisieren lassen. Deep Fakes, mit denen wir jemandem eine andere Welt vorgaukeln, Exploits, Datenklau – all das ist heute durch agentische KI aussteuerbar“, erklärt der Geschäftsführer des Hamburger KI-Kompetenzzentrums ARIC.
Die von Krtil erwähnten KI-Agenten sind autonom agierende Softwareprogramme. Sie planen Aufgaben selbstständig, zerlegen Probleme in Teilschritte, lernen aus ihren Handlungen – und sind damit auch ein zentraler Baustein der aktuellen KI-Revolution.
Korrekt programmiert und mit Sicherheitsbarrieren versehen, können sie Arbeitsabläufe automatisieren und viele Probleme lösen. Doch leider lassen sie sich eben auch für kriminelle Zwecke programmieren – und durchsuchen dann etwa Netzwerke gezielt nach Sicherheitslücken, um im Anschluss Unternehmens- und Kundendaten abzugreifen.
Zu den KI-Risiken gehören auch eingeschleuste schädliche oder manipulierte Befehle in KI-Eingaben („Prompt Injection“) oder die Manipulation der KI mit „vergifteten“ Trainingsdaten („Data Poisoning“). Dabei bringen Angreifer gezielt falsche oder bösartige Informationen in Datensätze ein, mit denen die KI angelernt wird. So schaffen sie etwa Hintertüren für Angriffe oder manipulieren die Geschäftsdaten oder -prognosen, die die KI später ausgibt – kurz: Sie betreiben Sabotage.
Solche Angriffe können auch „von innen“ erfolgen – und generell gilt: Eine Hauptquelle von Gefahren für Unternehmen ist mangelndes Risikobewusstsein. Bekannt ist, dass generative KI wie ChatGPT oft halluziniert und teils haarsträubende Fehler produziert. Man sollte ihr also nie ungeprüft vertrauen.
Entscheidend ist aber die Frage der Rechtezuweisung und -verwaltung: Hat die KI Zugriff auf Kundendaten und/oder interne Datenbanken, womöglich sogar Geschäftsgeheimnisse? Was dürfen Mitarbeitende mit ihr anstellen? Können frühere Angestellte sich etwa immer noch einloggen? Wie sind sensible Bereiche geschützt? Welche „Verantwortung“ wird der KI übertragen?
Die Handelskammer informiert zu KI und Cybersicherheit und listet Veranstaltungen zum Thema auf. In Kooperation mit dem BSI führt sie etwa den „Cyber-Sicherheitstag“ am 29. September durch. Ansprechpartnerin ist Pina Morgenstern (040 36138-443). Zu KI-Transformation und Sicherheit beraten auch das ARIC, die offizielle KI-Initiative der Stadt Hamburg, sowie der European Digital Innovation Hub Hamburg (EDIH). In dessen zweiter Förderphase (EDIH 2.0) werden KMU und öffentliche Organisationen drei Jahre von der EU und der IFB Hamburg bei der digitalen Transformation unterstützt.
Im Februar löschte zum Beispiel ein interner KI-Agent bei Meta („Facebook“) trotz etlicher Absicherungen und vergeblichen Versuchen, ihn zu stoppen, fast das komplette E-Mail-Postfach einer Sicherheitsforscherin. Später „entschuldigte“ er sich dafür. Im März befolgte ein Meta-Mitarbeiter falsche Anweisungen eines weiteren Bots: Prompt lagen sensible Daten zwei Stunden lang ungeschützt offen.
Auch um Compliance-Verstöße zu vermeiden, sollten Betriebe eine Reihe von Sicherheitsregeln befolgen. So wie im Chocoversum, Hamburgs interaktiver Erlebniswelt für Schokolade in der Altstadt, wo sich 110 Mitarbeitende um rund 220 000 Gäste pro Jahr kümmern. KI-Anwendungen laufen hier vor allem im Backoffice, beim Erstellen von Werbeinhalten und dem Ticketverkauf.
Kommunikationschefin Ulrike Albrecht hat sich schon früh um das Thema gekümmert. „Das Chocoversum hat ein vierköpfiges KI-Kompetenz-Team etabliert“, sagt sie. „Wir wissen, welche Abteilung gerade an welchen KI-Themen arbeitet. Jede Woche gibt es ein Meeting. Da geht es um neue Projekte, Gefahrenabwehr und auch darum, welche Gesetze kommen und was man dafür tun muss. Ein vernünftiger Umgang mit KI im Unternehmen bedeutet regelmäßigen Austausch, Vertrauen und klare Absprachen darüber, was passiert, wenn etwas passiert.“
Wichtigste Regel für ein sicheres Implementieren von KI ist für Albrecht eine klar kommunizierte Vorgabe für die Nutzung der Technik. „Man sollte den Mitarbeitenden nicht sagen: Hier ist euer Zugang, und jetzt macht mal. Denn entweder trauen sich die Leute dann nicht ran, oder sie geben dort Sachen ein und verknüpfen interne Daten mit KI-Anwendungen, wo es dann eben gefährlich wird. Wichtig ist eine gute Einführung und Schulung.“
Bei Nabil el Berr läuft KI nicht im Backoffice, sondern steht im Zentrum des Geschäftes. Der Jurist ist Geschäftsführer der Indicium Technologies GmbH in Hamburg, deren KI-basierte Software Pre-Employment-Checks durchführt – also Job-Interessierte etwa im Hinblick auf Qualifikationen, das Geldwäschegesetz, Sanktionsbestimmungen oder Terrorgefahren auf Herz und Nieren prüft.
El Berr und sein Team haben es also mit hochsensiblen Daten zu tun, die sie mit größter Sorgfalt behandeln und maximal verschlüsseln. Und er ist überzeugt, dass KI-Tools genauer hinschauen und Menschen neutraler beurteilen, da sie nicht nach Sympathie entscheiden.
Die größte Gefahr im Umgang mit sensiblen Daten sieht er nicht in der Technik: „Viel kritischer ist der Mensch selbst. Oft sind Dienstleister und Sub-Dienstleister das Problem. Du hast einen IT-Fachmann in Polen, und der hat einen freien Mitarbeiter, der vorgibt, in Polen zu sein, aber tatsächlich in Weißrussland ansässig ist.“
Nach einem Hack seien dann alle Daten verfügbar, „und ich werde von Ransomware erpresst“. Das Problem sei selten die Hauptfirma. „Das Risiko nimmt mit jeder Subunternehmer-Stufe zu, die Sicherheitsstandards hingegen ab. Wenn alle Ebenen die gleichen Zugriffsrechte haben, ist das Risiko vorprogrammiert.“
Cyberattacken und KI-Gefahren werden wohl auch in Zukunft die Geschäftsrisiko-Rankings anführen. In der Gefahrenabwehr liegt aber auch eine Chance. Dirk Mayer ist Head of Anti-Fraud Consultants bei Risk.Ident, einer Hamburger Firma, die sich auf Online-Betrugsprävention spezialisiert hat. Im Wettrennen von Datenkriminalität und -sicherheit glaubt er mittelfristig an eine deutliche Verbesserung der Situation, etwa durch die voraussichtlich ab Anfang/Mitte 2028 geltende Payment Services Regulation (PSR) der EU.
„Sie bietet für Finanzdienstleister viele Verbesserungen zur Prüfung und zum Datenaustausch“, so der Experte. „Das wird mittelfristig auf andere Branchen ausstrahlen.“ Mayer betont, Betrugsprävention habe bereits im EU AI Act eine Sonderstellung. „Wir dürfen mehr und einfacher mit KIs arbeiten als andere Bereiche. Die EU-ID kommt, elektronische Identifizierung wird immer besser angenommen.“
Dennoch, so Mayer, werden noch „risikoreiche“ Jahre vergehen, bis sich eine stabile Sicherheitsarchitektur im Netz unter KI-Bedingungen etabliert hat. Firmen wie Risk.Ident, die in der HafenCity mit derzeit 80 Mitarbeitenden Kunden beraten, dürften also noch eine ganze Weile gefragt sein.
