moresophyKI braucht Transparenz

Für einen souveränen KI-Einsatz reicht es nicht aus, Anwendungen und Daten in Europa zu hosten. Darauf weist Professor Heiko Beier, Gründer und Geschäftsführer des KI-Unternehmens moresophy, hin. Neben der Kontrolle über Infrastruktur und Zugriffsrechte komme es darauf an, nachvollziehen zu können, auf welcher Datenbasis eine KI arbeitet und wie ihre Ergebnisse zustande kommen.

Kognitive Souveränität

Beier unterscheidet dabei zwischen technologischer und „kognitiver“ Souveränität. Zur technologischen Seite zählt er unter anderem den Rechtsraum, in dem Cloud- und KI-Angebote betrieben werden, mögliche Abhängigkeiten von Anbietern und Lieferketten sowie die Kontrolle über die eingesetzten KI-Modelle. Beim kognitiven Aspekt gehe es dagegen um die Frage, ob Organisationen die verwendeten Daten, deren Gewichtung und die Entstehung von KI-Ergebnissen überprüfen können.

Insbesondere für regulierte Bereiche sei diese Nachvollziehbarkeit von Bedeutung. Grundlage für beide Formen der Souveränität sei nach Ansicht Beiers eine geprüfte, konsistente und verlässliche Datenbasis. Europäische KI-Angebote sollten deshalb nicht allein auf den Betriebsstandort setzen, sondern Transparenz und Kontrollmöglichkeiten stärker berücksichtigen.

Transparenzpflichten des europäischen AI Acts

Auch die Transparenzpflichten des europäischen AI Act, die seit August 2026 gelten, bewertet Beier grundsätzlich positiv. Die Kennzeichnung KI-generierter Inhalte greife jedoch zu kurz, wenn die verwendeten Daten und das Zustandekommen der Ergebnisse nicht nachvollziehbar seien. Europas Chance sieht er daher vor allem in vertrauenswürdigen KI-Systemen, die Datenverständnis, Transparenz und Kontrolle in den Mittelpunkt stellen.