Hürde 3: Europäische KI-Verordnung
In der Prioritätenliste der bis 2024 amtierenden EU-Kommission steht „Ein Europa für das digitale Zeitalter“ ganz oben. Zu den konkreten Vorhaben gehört ein Rechtsrahmen, der nach eigener Aussage sicherstellen soll, „dass KI-Systeme, die in der EU verwendet werden, sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sind“. Dazu werden KI-Anwendungen bestimmten Risikoklassen zugeordnet. Einige Anwendungen sollen verboten werden, etwa das Social Scoring. Im Fokus stehen vor allem sogenannte Hochrisiko-Anwendungen, deren Inverkehrbringen an bestimmte Anforderungen geknüpft wird. Als Beispiele für diese Risikoklasse nennt die Kommission unter anderem KI-Anwendungen für roboterassistierte Chirurgie oder in Sicherheitskomponenten von Maschinen. Solche Systeme sollen vor dem In-Verkehr-Bringen und während des gesamten Lebenszyklus „sorgfältig geprüft“ werden. Nach welchen Verfahren das passieren soll, ist abhängig von der jeweiligen Richtlinie oder Verordnung, und die entsprechenden Normen müssen teils noch geschrieben werden. Unklar ist momentan jedoch noch die KI-Definition, sodass momentan auch herkömmliche Software-Anwendungen hier in den Anwendungsbereich fallen. Für den Unternehmer oder den, der es werden will, stellt die damit einhergehende Rechtsunsicherheit eine weitere Hürde dar.