PRO
Die KI-Verordnung baut Vertrauen auf.
Hanne Butting (32), Co-Founder Beyond Emotion
Beyond Emotion hat ein Senioren-Tablet entwickelt, das Familien näher zusammenbringt und älteren Menschen mehr Sicherheit sowie Unabhängigkeit ermöglicht. Das BEJOY-Tablet mit intelligenter Stimmungs- und Abwesenheitserkennung informiert Angehörige bei signifikanten Veränderungen. Unser Ziel ist es, pflegende Angehörige zu entlasten und älteren Menschen zu ermöglichen, länger zu Hause zu leben.
Beyond Emotion betrachtet die in der KI-Verordnung enthaltenen Beschränkungen als nützliche rote Linien, die dazu beitragen können, Vertrauen in die Nutzung dieser Technologien aufzubauen. So ist die KI-Verordnung eine Möglichkeit, sozial orientierte Innovationen zu fördern, weil bestimmte Anwendungen und Bereiche eingeschränkt werden. Ein starkes regulatorisches Umfeld wird zudem Unternehmen unterstützen, die ihre Verantwortung für den Datenschutz ernst nehmen.
Ältere Menschen, vor allem hier in Deutschland, fragen immer, wie mit ihren Daten umgegangen wird. Wir haben sehr viele Ressourcen in dieses Thema gesteckt und damit zum Beispiel erreicht, dass unsere KI direkt auf dem Tablet funktioniert. Unser Ziel war es, dass die Information dort verbleibt und keine Bilddaten in die Cloud gestreamt werden.
Wir glauben fest daran, dass KI bei der Lösung gesellschaftlicher Herausforderungen in unterschiedlichen Branchen in Betracht gezogen werden sollte. Unser Wunsch als Beyond Emotion ist, dass das Gesetz ein Ansporn ist, neue Technologien zum Wohle unserer Gesellschaft zu schaffen und die Branche durch die KI-Verordnung in eine sozialere Richtung gedrängt wird.
KONTRA
Wettbewerbsnachteile durch zu große Hürden
Elisabeth L’Orange (41), Co-Founder Oxolo
Unser 2020 gegründetes, mehrfach ausgezeichnetes Start-up Oxolo setzte auf generative KI-Lösungen für Text-to-Video-Anwendungen. Auf Basis von Textinformationen wurden Bewegtbildinhalte für Online-Handel, Marketing und unternehmensinterne Ressourcen erschaffen. Unser Produkt sorgte beispielsweise für Erklärvideos mit Avataren, die als digitalisierte Menschen nicht unterscheidbar vom Original waren.
In der KI-Verordnung wären wir damit aber wohl unter die Risikogruppe 2 „Hohes Risiko“ gefallen, weil es als Deepfake (KI-Fälschung) gilt. Kein Anwalt konnte uns garantieren, wie unser Produkt klassifiziert werden würde. Wir haben unser Geschäftsmodell nun eingestellt und arbeiten in Hamburg an etwas Neuem.
Als kleines Unternehmen kann man es sich nicht leisten, so sehr ins Risiko zu gehen, dass man das Produkt am Ende nicht durch die Verordnung bringt. Selbst, wenn es nach unseren Maßstäben harmlos und wirtschaftlich vor allem für viele kleine Unternehmen sehr hilfreich gewesen wäre. Sogar, wenn es erlaubt worden wäre – es wäre ein ziemlicher Aufwand durch die EU-Verordnung auf uns zugekommen: Wir hätten KI-Schulungen durchführen, eine Wasserzeichen-Technologie einführen und andere Hürden nehmen müssen.
Ich finde, dass KI reguliert werden muss, aber es geht um die Art und Weise. Wir haben in Europa und damit auch in Hamburg Wettbewerbsnachteile, weil andere Länder und Kontinente KI ganz anders regulieren. China ist uns in der Regulatorik weit voraus, denn sie haben schon länger ein KI-Gesetz. Natürlich geht es da auch um die Übereinstimmung mit der Partei, aber es ist eben alles klar geregelt.
Die USA hingegen regulieren vertikal. Das heißt: Man löst alle Fragen, die KI aufwirft, über bereits bestehende Gesetze. So könnte man es auch hier machen, aber stattdessen legt sich eine komplizierte Verordnung wie eine schwere Decke über die gesamte europäische KI-Industrie.
Seit dem 1. August 2024 teilt die KI-Verordnung der EU neue und bestehende Produkte, die mit Künstlicher Intelligenz arbeiten und im EU-Gebiet eingesetzt werden, in die Gruppen „Unannehmbares Risiko“, „Hohes Risiko“ und „Geringes Risiko“ ein. Unannehmbar ist beispielsweise Social Scoring (soziale Bewertung) bei potenziellen Kreditnehmern oder anderen Menschen, die von der KI „durchgescannt“ werden – solche Produkte werden verboten. Andere müssen Konformitätserklärungen abgeben oder Qualitätsmanagement-Systeme einführen („Hohes Risiko“), um Risiken für betroffene Personen zu minimieren.
