EU AI ActStellungnahme von Aristech

Seit Anfang August müssen Unternehmen Nutzer darüber informieren, wenn sie mit einem KI-System interagieren. Wie das Heidelberger Voice-AI-Unternehmen Aristech berichtet, ist die Kennzeichnung aus Sicht von Geschäftsführerin Carolin Edler-Mende zwar sinnvoll, löst aber zentrale Fragen beim Einsatz generativer KI nicht.

Für Voice AI sei die Vorgabe insbesondere deshalb nachvollziehbar, weil Nutzer erkennen sollten, ob ihnen ein Mensch oder eine Maschine antwortet. Ein Voicebot könne sich mit einem einfachen Satz als KI ausweisen. Schwieriger werde es danach: Wie zuverlässig muss ein System arbeiten? Wann muss ein Mensch eingreifen? Und wer trägt die Verantwortung, wenn eine Antwort falsch, unpassend oder schädlich ist?

Edler-Mende verweist dabei auf eine technische Grenze generativer KI. Moderne Sprachmodelle arbeiten nicht vollständig deterministisch. Unternehmen können Systeme sorgfältig entwickeln, testen und absichern. Sie können jedoch nicht jede denkbare Gesprächssituation vorwegnehmen und jeden einzelnen erzeugten Inhalt garantieren.

Daraus entsteht nach Einschätzung der Aristech-Geschäftsführerin ein Spannungsfeld zwischen Verantwortung und technischer Machbarkeit. Unternehmen sollen für den Einsatz von KI Verantwortung übernehmen. Zugleich werde häufig eine vollständige Absicherung erwartet, die generative KI nicht leisten könne.

In der Praxis könne dies dazu führen, dass Verantwortlichkeiten zwischen Unternehmen und Technologieanbietern hin- und hergeschoben werden. Das einsetzende Unternehmen wolle sich gegenüber dem Anbieter absichern, während dieser keine Garantie für jeden möglichen Output geben könne. Letztlich müsse das Management entscheiden, welches verbleibende Risiko es akzeptiert. Sind Zuständigkeiten nicht eindeutig geregelt, könnten Projekte dadurch eingeschränkt, verzögert oder gar nicht umgesetzt werden.

Edler-Mende warnt zugleich davor, jede verbleibende Unsicherheit zum Ausschlusskriterium zu machen. Ein Verzicht auf KI sei nicht automatisch die sicherere Entscheidung. Verantwortlicher Einsatz bedeute vielmehr, den jeweiligen Anwendungsfall klar zu begrenzen, Systeme sorgfältig zu testen, Eskalationswege festzulegen und Zuständigkeiten eindeutig zu verteilen.

Technische Maßnahmen allein reichen ihrer Einschätzung nach jedoch nicht aus. Das verbleibende Risiko generativer KI lasse sich nicht vollständig technisch beseitigen. Deshalb müssten auch die Menschen, die mit KI-Systemen arbeiten oder deren Ergebnisse nutzen, deren Fähigkeiten und Grenzen einschätzen können. Dafür sei mehr AI Literacy nötig.

Die Transparenzpflicht des EU AI Acts sei damit ein sinnvoller Ausgangspunkt, löse aber nicht die grundlegende Frage nach dem Umgang mit einer leistungsfähigen, zugleich nicht vollständig vorhersehbaren Technologie. Eine vollständige Vorhersehbarkeit könne bei generativer KI nicht vorausgesetzt werden, ohne auch sinnvolle Anwendungen auszuschließen.