“Ich rechne am Anfang eher mit einer Überkennzeichnung”

Florian Zühlke, Sprecher GWA Forum Tech & Innovation und Executive Client Service Director AI bei Jung von Matt Neckar, über die Auswirkungen der neuen KI-Kennzeichnung für Agenturen

Florian, ab 1. August regelt der EU AI Act die KI-Kennzeichnungspflicht für audiovisuelle Inhalte in Werbe- und Marketingmaßnahmen. Als einer der SprecherInnen des GWA Forums Tech & Innovation bist Du ziemlich nah dran an dem Thema und begleitest auch GWA-interne Webinare dazu. Zunächst ganz allgemein gefragt: Was bedeutet die neue KI-Kennzeichnungspflicht für Agenturen?

Die Regelungen zur Kennzeichnung beziehungsweise Transparenzpflicht werden schon seit einer Weile diskutiert, sie sind ja Teil der EU-KI-Verordnung, die seit 2024 schrittweise in Kraft tritt. Dass diese Regelungen nun ab dem 2. August umgesetzt werden müssen, bedeutet vor allem, dass wir uns KI-generierten Content noch einmal genauer anschauen müssen. Wo handelt es sich um Deepfakes? Was fällt nicht unter die Kennzeichnung?
Das ist zum einen ein zusätzlicher Arbeitsschritt. Zum anderen wirft es Fragen zur Wirkung von KI-generierten Inhalten auf die Zielgruppen auf: Wie reagieren Menschen auf Marken-Content, wenn offen dran steht, dass er KI-generiert wurde? 

Jetzt kommt es darauf an, unsere Teams und KundInnen auf diese Fragen zu sensibilisieren und die Verordnung sicher und vorschriftsgemäß umzusetzen.

Unser Eindruck in den letzten Wochen war: Es herrscht noch ziemlich viel Unwissenheit und Verunsicherung auf Seiten der Agenturen. Du sprichst ja gerade viel mit Agenturen – kannst Du diesen Eindruck bestätigen?

Ich sehe gerade vor allem, dass die Leute in den Agenturen die Regelungen sehr ernst nehmen. Sie versuchen, sich das Wissen anzueignen und Prozesse zu entwickeln, mit denen das dann auch praktikabel umgesetzt werden kann.
Dabei gibt es dann in der Regel auch schon eine grundlegende Klarheit, was gelabelt werden muss und was ein Deepfake ist. Schwierig wird es aber in Bereichen der Verordnung, die weniger klar sind, beispielsweise die konkrete Umsetzung in Filmen oder Audiospots. Im Alltag ist ja ein Asset selten ausschließlich KI-generiert, sondern häufig werden ja verschiedene Methoden kombiniert. Hier ist auch die Regelung nicht ganz klar, sodass es durchaus Unsicherheiten gibt. Hier wird sich auch zeigen müssen, wie die Verordnung in den nächsten Monaten gelebt und interpretiert wird, diese Erfahrungswerte fehlen einfach gerade.

Was muss jetzt dringend passieren, was müssen Kommunikationsagenturen tun, um nicht Gefahr zu laufen, Fehler bei der KI-Kennzeichnung zu machen?

Der wichtigste Schritt ist, sich frühzeitig und intensiv mit den neuen Regelungen auseinanderzusetzen. Nur, wer die Vorgaben versteht und verinnerlicht hat, kann sie im Arbeitsalltag sicher anwenden. Deshalb gilt es jetzt, Beratung und Kreation fit für den sicheren Umgang mit den neuen Regelungen zu machen. 

Das Thema umfassend diskutieren, Zusammenfassungen verteilen, Vorlagen erstellen sind die richtigen Schritte. Und für unklare Einzelfälle einen Prozess schaffen, der es schnell ermöglicht, eine belastbare Einschätzung von legal-Experten zu bekommen. Denn diese gibt es auf jeden Fall.

Siehst Du darin auch eine Beratungschance für Agenturen, sich bei ihren KundInnen zu profilieren – oder sind die Werbungtreibenden den Agenturen hier in Sachen juristischer Kenntnis im Zweifel ohnehin voraus?

Ja, absolut. Wir sehen, dass der Umgang mit KI in vielen Bereichen komplizierter wird. Das betrifft auch die Modellwahl, den Umgang mit Preismodellen und Tokens. Die rechtlichen Rahmenbedingungen haben sich hier in den letzten Monaten zu einem sehr prominenten Thema in Agenturen entwickelt. Hier werden auch die Rollen gerade geschärft: Agenturen übernehmen nicht nur die Umsetzung der Generierung für die eigenen Projekte. Zur Professionalisierung von KI-Einsatz in der Branche gehört auch, dass Agenturen ihre Beratungskompetenz bzgl. Kreation, Strategie und auch Governance und Compliance für Kunden übernehmen. Denn natürlich besteht auch hier Unsicherheit!

Der EU AI Act lässt an vielen Stellen durchaus Spielräume über die Art und Weise der Kennzeichnung – ist das eine gute oder schlechte Nachricht für die Agenturen?

KI kommt in der Kreation auf ganz unterschiedliche Weise zum Einsatz. Von kleinen Retuschen bis hin zu vollständig KI-generierten Inhalten gibt es die volle Bandbreite. Eine zu starre Regelung würde dieser Vielfalt kaum gerecht werden. Gleichzeitig bringen die Spielräume natürlich auch Verantwortung mit sich. Sie erfordern, dass Agenturen die Vorgaben genau kennen, sorgfältig einordnen und gemeinsam mit ihren Teams und Kunden bewerten, wie eine angemessene Kennzeichnung im jeweiligen Fall aussieht. Sonderfälle wird es immer geben. Man sieht also, dass Spielräume uns durchaus nützen werden – das ist die gute Nachricht – , aber noch nicht ganz klar ist, wie diese zukünftig ausgelegt werden – das ist zumindest heute die schlechte Nachricht.  

Was, denkst Du, wird sich im Markt mittelfristig durchsetzen – dass Agenturen und KundInnen tendenziell eher zu viel kennzeichnen, so dass wir eine Überkennzeichnung in der öffentlichen Kommunikation erleben werden, oder eher zu wenig, so dass es immer wieder zu Rechtsfällen kommen wird?

Gerade in der Anfangsphase, in der noch viel Unsicherheit und Fragen bestehen, rechne ich eher mit einer Überkennzeichnung als mit nicht ausreichend gekennzeichneten Inhalten. Mittelfristig wird sich das aus meiner Sicht jedoch einpendeln. Mit zunehmender Erfahrung, konkreten Leitlinien und ersten Best – oder auch Worst – Practices wird die Branche ein besseres Gespür dafür entwickeln, wann eine Kennzeichnung erforderlich ist und wann nicht.

Wird der EU AI Act dazu führen, dass Agenturen und KundInnen KI wieder weniger beziehungsweise vorsichtiger einsetzen, um einer Kennzeichnungspflicht möglichst zu entgehen?

Ich glaube nicht, dass der EU AI Act den Einsatz von KI grundsätzlich bremsen wird. Dafür sind die Potenziale der Technologie zu groß. Entscheidend wird vielmehr sein, wie Nutzer:innen – die ja durch die Kennzeichnung auf die generierten Inhalte aufmerksam gemacht werden – reagieren. Wie verändert sich beispielsweise die Einstellung der Nutzer:innen zu bestimmten Produkten, wenn Werbung als KI-generiert gekennzeichnet ist? Darauf gibt es bislang keine eindeutige Antwort. Erste Studien, etwa von der Macromedia University Hamburg und Grabarz & Partner, legen jedoch nahe, dass die Kennzeichnung nicht automatisch positive oder negative Reaktionen hervorruft, sondern die Gemengelage aus Medium, Zielgruppe und Demographie eher entscheidet. Wir beobachten diese Entwicklungen sehr genau, denn sie werden darüber entscheiden, wie und wo Unternehmen KI künftig in ihrer Kommunikation einsetzen sollten oder nicht.

=> Exklusiv für alle GWA-Mitglieder: Hier geht es zu einer detaillierten Infosammlung rund um den EU AI Act (myGWA mit Login)