NLG Ethics

Automatische Textgenerierung verändert die Welt der Nachrichten – welche Verantwortung trägt Retresco?

Wir bieten innovative und zukunftsorientierte Technologie an, die uns und unseren Kunden nützt. Es bedeutet aber auch, dass wir eine Verantwortung bezüglich der automatischen Textgenerierung durch die rtr Textengine, der retresco Semantik und der darauf aufbauenden Klassifikation besitzen. Um dies zu verdeutlichen, schreiben wir in dieser Woche über mögliche Szenarien des Missbrauchs speziell für die rtr textengine und wie wir dagegen grundlegend vorbeugen.

Unser Communication Manager Pete Carvill (@pete_carvill), früherer Journalist und brennender Aktivist für investigativen Journalismus, entwickelte zusammen mit Eveline Sliwowska (Director Commercial Operations, @evelineip) auf Grundlage der „The Ethicals of Artificial Intelligence“ [Ca11] unsere „NLG Ethics“, welche ethische Richtlinien bezüglich der rtr textengine enthalten, nach denen wir handeln. Die erste Regel: “We recognise as authors of NLG solutions that the ultimate responsibility for the effects of our products lie with us.” Wir wissen also um die Verantwortung und setzen uns entsprechend mit ihr auseinander.

 

Missbrauch von NLG-Lösungen: Fake News

 

NLG Ethics Fake NewsFake-News sind Falschmeldungen, die vortäuschen, echte Nachrichten zu sein und sich manipulativ verbreiten. Beispielhaft dafür sind vorgetäuschte Todesmeldungen prominenter Personen, Wiedervereinigungen berühmter Bands, verdrehte Fakten usw. usf. Im Reuters Institute’s Digital News Report 2017 [Re,17] wird ersichtlich, worin eines der Probleme in der heutigen Nachrichtenvermittlung liegt: Das Vertrauen, welches die deutsche Bevölkerung in Nachrichten hat, ist bezüglich des Alters sehr unterschiedlich und es sinkt.

 

Vertrauen 35-44 Jährige den Nachrichten noch zu 43%, sinkt das Vertrauen je jünger die Personen werden. 25-34 Jährige vertrauen Nachrichten nur noch zu 40% und 18-24 Jährige sogar nur zu 36%Das könnte Rückschlüsse bezüglich des Aufkommens von Fake-News über Social Media Kanäle zulassen und den Gedanken, dass diese sich extrem negativ auf das Vertrauen in Nachrichten auswirken. Gravierend ist vor allem der Anteil innerhalb der jüngeren Bevölkerung. Da Fake-News sich vornehmlich über Social-Media Kanäle verbreiten, die im allgemeinen eher von jüngeren Bevölkerungsgruppen genutzt werden, erklärt das auch den gravierenden Rückgang des Vertrauens.

Problematisch ist neben diesem Vertrauensverlust, wenn Fake-News automatisch generiert werden und sich ungebremst über jegliche Kanäle ausbreiten können. Das kann passieren, wenn der Datenprovider falsche Daten vorbereitet und freigibt. In diesem Fall ziehen sich die Textgeneratoren, egal um welchen Anbieter es sich handelt, die Daten, generieren aus diesen Informationen ihre Texte und geben sie automatisiert heraus. Das Vertrauen in generierte Nachrichten würde noch weiter sinken. Da wir diesen möglichen Fall in Betracht ziehen, lautet eine weitere unserer NLG Ethics: „We recognise that there is possible bias in data and will accordingly seek out the most-comprehensive data sources in order to combat this.“ Wir prüfen unsere Daten Provider daher ganz genau und stellen sicher, dass wir keine falschen Daten beziehen

 

Fake News und Politik

 

NLG Ethics Politik Besonders gefährlich werden Fake News dann, wenn sie dazu genutzt werden, um bewusst falsche Informationen von Politikern zu verbreiten oder ihnen Aussagen zu unterstellen, die sie nie formuliert haben und damit versucht wird, die öffentliche Meinung zu manipulieren. Bestes Beispiel dafür ist die Falschmeldung über Angela Merkel über die Tafel in Essen. Hier wurde ihr der Satz, „Wir haben diese Menschen zu uns eingeladen, also müssen wir sie zuerst versorgen“ in Bezug auf die Flüchtlingsthematik, frei erfunden in den Mund gelegt.

 

Wir sehen die Gefahr, die durch Hetze und Hass im Netz um sich greift, weshalb wir in unseren NLG Ethics explizit festgeschrieben haben: „Our NLG products should not work against the common good, should they contain obvious and overt political bias“ und „Our NLG should be used neutrally in the context it is implemented.“ Meldungen und Nachrichten aus der Politik haben stets Einfluss, weshalb sie so neutral und unabhängig wie möglich sein müssen. Ein weiterer Punkt, der in diesem Zusammenhang wichtig ist und wir denken, keiner weiteren Erläuterung bedarf: „We will not take money from one government to attack another.“

 

Automatische Textgenerierung und Werbung

 

NLG Ethics WerbungOft wurde an uns die Vermutung angetragen, automatische Textgenerierung diene auch der Generierung von penetranten Werbemails mit Inhalten, die weder das Produkt sachlich beschreiben, noch die relevanten Informationen enthalten und nur dazu dienen, Produkte möglichst schnell und billig zu verkaufen.

 

Auch in diesem Fall stehen wir dafür ein, dass Inhalte, die über die rtr textengine generiert werden, relevante und informative Inhalte enthalten sollten, welche den Kunden sachlich informieren und ihn nicht zu fehlgeleiteten Aktionen zu nötigen haben. Daher wurde in unseren NLG Ethics festgelegt: „We should not hoodwink people into false action. We are here to inform, not persuade.“

Fortschritt und Entwicklung bedeutet auch, sich der Verantwortung bewusst zu sein, die durch innovative Technologie, vor allem im Zusammenhang mit KI und automatischer Textgenerierung, entsteht. Mehr Informationen und Gedanken zum Thema von Pete Carvill gibt es im Artikel: „How NLG is reshaping ethics and responsibility“. Um bezüglich der allgemeinen Entwicklung des digitalen Nachrichtenkonsums weiterhin auf dem Laufenden zu bleiben, nimmt das Marketing-Team von Retresco auch dieses Jahr wieder am Digital News Report am 14.Juni in Berlin teil von welchem wir live twittern werden.

 

 

 

Über Retresco

2008 in Berlin gegründet, hat sich Retresco als eines der führenden Unternehmen in der Automatisierung von Content etabliert. Retresco entwickelt auf Künstlicher Intelligenz basierende Lösungen aus den Bereichen Natural Language Generation (NLG) und Natural Language Understanding (NLU). Anwendungen wie die Self-Service-Plattform textengine.io, Inhaltsklassifikationen oder Enterprise Chatbots unterstützen Unternehmen dabei, Prozesse zu automatisieren, Kommunikation effektiver zu gestalten und neue Zielgruppen zu erreichen.

 

Quellen

[Ca11]: Nick Bostrom, Eliezer Yudkowsky, 2011: „The Ethics of Artificial Intelligence“, Draft for Cambridge Handbook of Artificial Intelligence
[Re,17]: Reuters Institute’s Digital News Report, 2017, URL: http://www.digitalnewsreport.org/interactive/
©Ben Kolde, ©Juliette Leufke, ©Cris Tagupa, ©Ramon Salinero, ©Ricardo Gomez, ©Maarten-van-den-Heuvel via Unsplash