Wir bie­ten inno­va­ti­ve und zukunfts­ori­en­tier­te Tech­no­lo­gie an, die uns und unse­ren Kun­den nützt. Es bedeu­tet aber auch, dass wir eine Ver­ant­wor­tung bezüg­lich der auto­ma­ti­schen Text­ge­ne­rie­rung durch die rtr Tex­ten­gi­ne, der ret­res­co Seman­tik und der dar­auf auf­bau­en­den Klas­si­fi­ka­ti­on besit­zen. Um dies zu ver­deut­li­chen, schrei­ben wir in die­ser Woche über mög­li­che Sze­na­ri­en des Miss­brauchs spe­zi­ell für die rtr tex­ten­gi­ne und wie wir dage­gen grund­le­gend vor­beu­gen.

Unser Com­mu­ni­ca­ti­on Mana­ger Pete Car­vill (@pete_carvill), frü­he­rer Jour­na­list und bren­nen­der Akti­vist für inves­ti­ga­ti­ven Jour­na­lis­mus, ent­wi­ckel­te zusam­men mit Eve­li­ne Sli­wow­ska (Direc­tor Com­mer­ci­al Ope­ra­ti­ons, @evelineip) auf Grund­la­ge der “The Ethi­cals of Arti­fi­ci­al Intel­li­gence” [Ca11] unse­re NLG Ethics“, wel­che ethi­sche Richt­li­ni­en bezüg­lich der rtr tex­ten­gi­ne ent­hal­ten, nach denen wir han­deln. Die ers­te Regel: “We reco­gnise as aut­hors of NLG solu­ti­ons that the ulti­ma­te respon­si­bi­li­ty for the effects of our pro­ducts lie with us.” Wir wis­sen also um die Ver­ant­wor­tung und set­zen uns ent­spre­chend mit ihr aus­ein­an­der.

 

Missbrauch von NLG-Lösungen: Fake News

 

 NLG Ethics Fake News
Fake-News sind Falsch­mel­dun­gen, die vor­täu­schen, ech­te Nach­rich­ten zu sein und sich mani­pu­la­tiv ver­brei­ten. Bei­spiel­haft dafür sind vor­ge­täusch­te Todes­mel­dun­gen pro­mi­nen­ter Per­so­nen, Wie­der­ver­ei­ni­gun­gen berühm­ter Bands, ver­dreh­te Fak­ten usw. usf. Im Reu­ters Institute’s Digi­tal News Report 2017 [Re,17] wird ersicht­lich, wor­in eines der Pro­ble­me in der heu­ti­gen Nach­rich­ten­ver­mitt­lung liegt: Das Ver­trau­en, wel­ches die deut­sche Bevöl­ke­rung in Nach­rich­ten hat, ist bezüg­lich des Alters sehr unter­schied­lich und es sinkt.

 

Ver­trau­en 35–44 Jäh­ri­ge den Nach­rich­ten noch zu 43%, sinkt das Ver­trau­en je jün­ger die Per­so­nen wer­den. 25–34 Jäh­ri­ge ver­trau­en Nach­rich­ten nur noch zu 40% und 18–24 Jäh­ri­ge sogar nur zu 36%Das könn­te Rück­schlüs­se bezüg­lich des Auf­kom­mens von Fake-News über Soci­al Media Kanä­le zulas­sen und den Gedan­ken, dass die­se sich extrem nega­tiv auf das Ver­trau­en in Nach­rich­ten aus­wir­ken. Gra­vie­rend ist vor allem der Anteil inner­halb der jün­ge­ren Bevöl­ke­rung. Da Fake-News sich vor­nehm­lich über Soci­al-Media Kanä­le ver­brei­ten, die im all­ge­mei­nen eher von jün­ge­ren Bevöl­ke­rungs­grup­pen genutzt wer­den, erklärt das auch den gra­vie­ren­den Rück­gang des Ver­trau­ens.

Pro­ble­ma­tisch ist neben die­sem Ver­trau­ens­ver­lust, wenn Fake-News auto­ma­tisch gene­riert wer­den und sich unge­bremst über jeg­li­che Kanä­le aus­brei­ten kön­nen. Das kann pas­sie­ren, wenn der Daten­pro­vi­der fal­sche Daten vor­be­rei­tet und frei­gibt. In die­sem Fall zie­hen sich die Text­ge­ne­ra­to­ren, egal um wel­chen Anbie­ter es sich han­delt, die Daten, gene­rie­ren aus die­sen Infor­ma­tio­nen ihre Tex­te und geben sie auto­ma­ti­siert her­aus. Das Ver­trau­en in gene­rier­te Nach­rich­ten wür­de noch wei­ter sin­ken. Da wir die­sen mög­li­chen Fall in Betracht zie­hen, lau­tet eine wei­te­re unse­rer NLG Ethics: „We reco­gnise that the­re is pos­si­ble bias in data and will accord­in­gly seek out the most-com­pre­hen­si­ve data sources in order to com­bat this.“ Wir prü­fen unse­re Daten Pro­vi­der daher ganz genau und stel­len sicher, dass wir kei­ne fal­schen Daten bezie­hen

 

Fake News und Politik

 

 NLG Ethics Politik
Beson­ders gefähr­lich wer­den Fake News dann, wenn sie dazu genutzt wer­den, um bewusst fal­sche Infor­ma­tio­nen von Poli­ti­kern zu ver­brei­ten oder ihnen Aus­sa­gen zu unter­stel­len, die sie nie for­mu­liert haben und damit ver­sucht wird, die öffent­li­che Mei­nung zu mani­pu­lie­ren. Bes­tes Bei­spiel dafür ist die Falsch­mel­dung über Ange­la Mer­kel über die Tafel in Essen. Hier wur­de ihr der Satz, „Wir haben die­se Men­schen zu uns ein­ge­la­den, also müs­sen wir sie zuerst ver­sor­gen“ in Bezug auf die Flücht­lings­the­ma­tik, frei erfun­den in den Mund gelegt.

 

Wir sehen die Gefahr, die durch Het­ze und Hass im Netz um sich greift, wes­halb wir in unse­ren NLG Ethics expli­zit fest­ge­schrie­ben haben: „Our NLG pro­ducts should not work against the com­mon good, should they con­tain obvious and overt poli­ti­cal bias“ und „Our NLG should be used neu­tral­ly in the con­text it is imple­men­ted.“ Mel­dun­gen und Nach­rich­ten aus der Poli­tik haben stets Ein­fluss, wes­halb sie so neu­tral und unab­hän­gig wie mög­lich sein müs­sen. Ein wei­te­rer Punkt, der in die­sem Zusam­men­hang wich­tig ist und wir den­ken, kei­ner wei­te­ren Erläu­te­rung bedarf: „We will not take money from one government to attack ano­t­her.“

 

Automatische Textgenerierung und Werbung

 

 NLG Ethics Werbung
Oft wur­de an uns die Ver­mu­tung ange­tra­gen, auto­ma­ti­sche Text­ge­ne­rie­rung die­ne auch der Gene­rie­rung von pene­tran­ten Wer­be­mails mit Inhal­ten, die weder das Pro­dukt sach­lich beschrei­ben, noch die rele­van­ten Infor­ma­tio­nen ent­hal­ten und nur dazu die­nen, Pro­duk­te mög­lichst schnell und bil­lig zu ver­kau­fen.

 

 

 

Auch in die­sem Fall ste­hen wir dafür ein, dass Inhal­te, die über die rtr tex­ten­gi­ne gene­riert wer­den, rele­van­te und infor­ma­ti­ve Inhal­te ent­hal­ten soll­ten, wel­che den Kun­den sach­lich infor­mie­ren und ihn nicht zu fehl­ge­lei­te­ten Aktio­nen zu nöti­gen haben. Daher wur­de in unse­ren NLG Ethics fest­ge­legt: „We should not hood­wink peop­le into fal­se action. We are here to inform, not per­sua­de.“

Fort­schritt und Ent­wick­lung bedeu­tet auch, sich der Ver­ant­wor­tung bewusst zu sein, die durch inno­va­ti­ve Tech­no­lo­gie, vor allem im Zusam­men­hang mit KI und auto­ma­ti­scher Text­ge­ne­rie­rung, ent­steht. Mehr Infor­ma­tio­nen und Gedan­ken zum The­ma von Pete Car­vill gibt es im Arti­kel: „How NLG is resha­ping ethics and respon­si­bi­li­ty“. Um bezüg­lich der all­ge­mei­nen Ent­wick­lung des digi­ta­len Nach­rich­ten­kon­sums wei­ter­hin auf dem Lau­fen­den zu blei­ben, nimmt das Mar­ke­ting-Team von Ret­res­co auch die­ses Jahr wie­der am Digi­tal News Report am 14.Juni in Ber­lin teil von wel­chem wir live twit­tern wer­den. Wer eben­falls teil­neh­men möch­te, kann sich hier kos­ten­los anmel­den.

 

 

 

 Lydia Herrmann
Ansprechpartner

Lydia Herr­mann,
Con­tent Mar­ke­ting Mana­ge­rin, Ret­res­co GmbH
+49 (0)30 555 781 999
lydia.herrmann@retresco.de

 

 

Über Ret­res­co

Bereits seit 2008 ent­wi­ckelt Ret­res­co füh­ren­de AI-Lösun­gen im Bereich Con­tent Auto­ma­ti­on. In den letz­ten Jah­ren hat sich das Unter­neh­men zuneh­mend zu einem der welt­weit füh­ren­den Anbie­ter in der auto­ma­ti­schen Text­ge­ne­rie­rung (NLG) ent­wi­ckelt und dut­zen­de Pro­jek­te für Kun­den aus den Berei­chen Medi­en, E-Com­mer­ce und Finanz­dienst­leis­tun­gen umge­setzt.

 

Quel­len

[Ca11]: Nick Bostrom, Elie­zer Yud­kow­sky, 2011: “The Ethics of Arti­fi­ci­al Intel­li­gence”, Draft for Cam­bridge Hand­book of Arti­fi­ci­al Intel­li­gence
[Re,17]: Reu­ters Institute’s Digi­tal News Report, 2017, URL: http://www.digitalnewsreport.org/interactive/
©Ben Kol­de, ©Juli­et­te Leuf­ke, ©Cris Tagu­pa, ©Ramon Sali­ne­ro, ©Ricar­do Gomez, ©Maar­ten-van-den-Heu­vel via Uns­plash

 

Kontaktbutton