Trusted AI in Verlagen und Medienhäusern: Zwischen Effizienz, Verantwortung und Vertrauen

KI wird strategisch – aber Vertrauen bleibt unerlässlich

Gemäß KPMG/MVFP verfolgen bereits 61 % der Verlage eine KI-Strategie oder arbeiten daran. In unserer gemeinsamen Erhebung mit dem BDZV liegt dieser Anteil sogar bei 89 %. KI ist also längst kein Zukunftsthema mehr – sie ist Teil der Unternehmensstrategie.

Doch: Während die organisatorische Verankerung weit fortgeschritten ist, fehlt es oft noch an interner Sichtbarkeit. Nur 47 % der Mitarbeitenden kennen die KI-Strategie ihres Hauses. Das zeigt: Wer Trusted AI ernst nimmt, muss nicht nur Technologie und Prozesse gestalten, sondern auch Kommunikation und Beteiligung.

Zugleich wächst die Professionalität im Umgang mit Daten und Messgrößen: 60 % der Medienhäuser haben gemäß Retresco/BDZV KI-Kennzahlen eingeführt oder planen dies – ein Plus von 47 Prozentpunkten gegenüber dem Vorjahr. Typische Kennzahlen sind Zeitersparnis, Automatisierungsgrad, Lese-Engagement oder Content-Qualitätsscores.

Automatisierung, Personalisierung, RAG: KI wird produktiv

Beide Studien zeigen, dass Verlage und Medienhäuser KI bereits produktiv einsetzen. In der MVFP-/KPMG-Befragung sehen 80 % die Automatisierung von Prozessen als zentralen Trend. Im Fokus stehen Prozessoptimierung (80 %), Innovationsfähigkeit (79 %) und Personalentwicklung (72 %).

Gemäß dem KI-Reifegrad-Report von Retresco und BDZV gewinnen besonders automatisierte Textgenerierung (62 %), RAG-basierte Frage-Antwort-Systeme (60 %) sowie KI-gestützte Personalisierung (58 %) an Bedeutung. Sprachbasierte Ausgabeformate (47 %), Kommentarmoderation (36 %) und KI-Agenten (34 %) folgen auf den weiteren Plätzen.

Monetarisierung: Zwischen Effizienz und neuen Erlösmodellen

Die Monetarisierung von Künstlicher Intelligenz bleibt dagegen eine offene Baustelle. Viele Verlage setzen derzeit vor allem auf Effizienzgewinne und Prozessoptimierungen. Laut MVFP/ KPMG erwarten 87 % Produktivitätssteigerungen, 80 % eine höhere Mitarbeiter:innen-Effizienz und 62 % eine bessere User Experience.

Wir von Retresco sind zusammen mit dem BDZV zu einem vergleichbaren Schluss gekommen: Aktuell liegt der Fokus im Medienumfeld auf internen Prozessoptimierungen. Die Entwicklung KI-basierter Angebote und Services zur Erschließung neuer Erlösquellen spielt dagegen eine nachgeordnete Rolle.

Zugleich experimentieren Verlage und Medienhäuser mit neuen Geschäftsmodellen – etwa durch die Entwicklung und Vermarktung von Wissensarchiven, Redaktionsdatenbanken oder KI-basierten Content-Services. Nicht zuletzt durch die KI-basierte Aufbereitung und Bereitstellung redaktioneller Inhalte lassen sich verlagsinterne Inhalte nicht nur effizient einsetzen, sondern auch monetarisieren – etwa durch interaktive Informationszugänge, Content-APIs oder KI-gestützte Analyse- und Rechercheangebote.

Hier liegt eine große Chance: Trusted AI kann helfen, neue Geschäftsmodelle zu entwickeln, die auf Glaubwürdigkeit und Qualität basieren – und so langfristig Vertrauen in Medienmarken stärken.

Trusted AI als Leitprinzip: Verantwortung statt Hype

Beide Studien unterstreichen: Die Medienbranche begegnet Künstlicher Intelligenz mit Bedacht und Verantwortung. So vermeiden 80 % der Verlage den Upload vertraulicher Informationen in externe Tools, 68 % haben menschliche Kontrollschleifen (Human-in-the Loop) etabliert.

Der Aufbau zentraler Dateninfrastrukturen und Investitionen in Datenqualität gelten gemäß MVFP/KPMG als Schlüssel für den vertrauenswürdigen Einsatz von KI. Denn Trusted AI ist kein technischer Zustand – sondern ein gesellschaftliches Prinzip: Es geht um Transparenz, Nachvollziehbarkeit und ethische Standards beim KI-Einsatz.

Sechs Prinzipien für Trusted AI in Verlagen und Medienhäusern

Verlage und Medienhäuser sind gut beraten, die folgenden sechs Prinzipien für einen verantwortungsvollen KI-Einsatz zu berücksichtigen und umzusetzen:

1. Transparenz
   

   Nutzer:innen müssen erkennen können, wann und wie KI im Einsatz ist – etwa durch Kennzeichnung KI-generierter Inhalte.

2. Fairness & Nichtdiskriminierung

   KI-Systeme dürfen keine Verzerrungen verstärken oder bestimmte Gruppen und Themen benachteiligen.

3. Datenschutz & Sicherheit

   Vertrauliche oder personenbezogene Daten müssen geschützt und verantwortungsvoll verarbeitet werden.

4. Human-in-the-Loop

   Menschliche Kontrolle ist unerlässlich – besonders bei sensiblen journalistischen Themen und Veröffentlichungen.

5. Verlässlichkeit & Robustheit

   Die eingesetzten KI-Systeme müssen technisch stabil sowie nachvollziehbar funktionieren, auch bei neuen oder unvollständigen Daten.

6. Rechenschaftspflicht

   Verlage und Medienhäuser müssen offenlegen, wie ihre KI-Systeme trainiert und genutzt werden sowie welche Inhalte an Dritte weitergegeben oder lizenziert werden.

Fazit: Vertrauen ist die Währung des digitalen Journalismus

Trusted AI ist kein Schlagwort, sondern eine Haltung. Sie bedeutet, Künstliche Intelligenz so einzusetzen, dass Effizienzgewinne und redaktionelle Qualität Hand in Hand gehen – ohne journalistische Verantwortung, Urheberrechte oder Glaubwürdigkeit zu gefährden.

Wer Vertrauen schaffen will, braucht Transparenz, ethische Leitplanken und nachvollziehbare Prozesse. Nur so lässt sich sicherstellen, dass automatisiert aufbereitete, KI-basierte Inhalte journalistischen Standards entsprechen – und sich klar von Desinformation abgrenzen.

Trusted AI ist der Schlüssel, damit Verlage und Medienhäuser die Chancen von KI nutzen, ohne ihr wichtigstes Gut zu verlieren: das Vertrauen ihrer Nutzerschaft!

Du möchtest mehr über Trusted AI sowie den verantwortungsvollen KI-Einsatz erfahren? Sprich uns an – unsere KI-Expert:innen melden Sie gerne bei dir!