Desinformationen im Zeitalter von KI und Deepfakes
Desinformationen sind das größte Risiko für den globalen Wohlstand und Frieden. Dahinter verbirgt sich die gezielte Verbreitung von falschen und irreführenden Informationen – vor allem über das Internet und diverse Social-Media-Kanäle. Der digitale Fortschritt und die heutige Art der Mediennutzung sorgen dafür, dass Menschen durchgehend mit zielgerichteten Falschinformationen in Kontakt kommen können. Die rasante Entwicklung von Künstlicher Intelligenz verschärft diesen Umstand.
KI als Instrument zur Verbreitung von Falschinformationen wird in Zukunft für politische Wahlen und Kampagnen sowie moderne Kriegsführung immer wichtiger werden. Wahrheits- und Echtheitsgehalt von Medieninhalten sind folglich noch komplexer in dessen Überprüfung. Auch langfristig werden demnach Des- und Falschinformationen ein Risiko bleiben. Besonders in einem Superwahljahr wie 2024, in dem etwa die Hälfte der Weltbevölkerung zu wichtigen Wahlen aufgerufen ist, steigt die von Des- und Fehlinformationen ausgehende Gefahr.
Desinformationen und Fake News haben sich zum Instrument im politischen Wahlkampf aufgeschwungen und waren bereits bei der US-Präsidentschaftswahl 2020 ein vieldiskutiertes Werkzeug. Auch für die 60. US-Präsidentschaftswahl im November sowie für die Europawahlen im Juni 2024 erhalten Desinformationen eine hohe politische Relevanz.
Im Zuge der zahlreichen Anwendungsmöglichkeiten und Risiken wird der Ruf nach nationalen sowie globalen Regulierungen stetig größer. In der Wissenschaft, der Wirtschaft und auf politischer Ebene stehen diese Themen weit oben auf der Agenda. In den USA zielen verschiedene Tech-Unternehmen wie Adobe, Amazon, Google oder Open AI mit einer Selbstverpflichtung darauf ab, schädlichen KI-Inhalte entgegenzuwirken. Innerhalb des EU-Parlaments wurde im März 2024 für das erste weltweite KI-Gesetz gestimmt. Der Entwurf des AI-Acts strebt an, KI-Systeme nach ihrer möglichen Gefahr in drei Risikogruppen (unannehmbares, hohes und geringes/minimales Risiko) einzustufen. An diese Risikostufen sind jeweils Anforderungen geknüpft.
KI als Instrument zur Verbreitung von Falschinformationen wird in Zukunft für politische Wahlen und Kampagnen sowie moderne Kriegsführung immer wichtiger werden. Wahrheits- und Echtheitsgehalt von Medieninhalten sind folglich noch komplexer in dessen Überprüfung. Auch langfristig werden demnach Des- und Falschinformationen ein Risiko bleiben. Besonders in einem Superwahljahr wie 2024, in dem etwa die Hälfte der Weltbevölkerung zu wichtigen Wahlen aufgerufen ist, steigt die von Des- und Fehlinformationen ausgehende Gefahr.
Soziale Medien: Hohe Nutzung, wenig Vertrauen
Soziale Medien dominieren den digitalen Alltag der Menschen: Im Jahr 2024 stieg die geschätzte Anzahl der weltweiten Nutzer:innen von Social-Media auf über fünf Milliarden. Innerhalb von zehn Jahren erhöhte sich der Wert damit um mehr als das 2,5-fache. Klassische Medienformate wie Fernsehen, Radio oder Print spielen weiterhin eine große Rolle in der Mediennutzung der Menschen, sind in der Nutzung jedoch seit einigen Jahren rückläufig. Im Kontrast dazu steigert sich die Nutzungsfrequenz des Internets sowie von Sozialen Medien. Das sinkende Vertrauen in die verschiedenen Medienformen könnte ein Ausdruck der wachsenden Sensibilität gegenüber Desinformationen sein. Klassischen Medien wird im Vergleich zu Social-Media wesentlich mehr Vertrauen geschenkt. Im europäischen Vergleich besitzt vor allem die französische Bevölkerung ein hohes Maß an Vertrauen gegenüber sozialen Medien, während das Vertrauen in Deutschland deutlich geringer ist. Das Medienvertrauen in den USA stellt einen der niedrigsten Werte weltweit dar und ist zuletzt weiter gesunken.Desinformationen und Fake News haben sich zum Instrument im politischen Wahlkampf aufgeschwungen und waren bereits bei der US-Präsidentschaftswahl 2020 ein vieldiskutiertes Werkzeug. Auch für die 60. US-Präsidentschaftswahl im November sowie für die Europawahlen im Juni 2024 erhalten Desinformationen eine hohe politische Relevanz.
Faktor KI und dessen Regulierung
Die Investitionen in Künstliche Intelligenz und das KI-Marktvolumen werden weltweit in den kommenden Jahren weiterhin wachsen. Schon jetzt haben KI-Anwendungen (z.B. digitale Sprachassistenten) im Alltag vieler Menschen einen festen Platz. Im beruflichen Kontext ist der alltägliche Gebrauch von KI-Anwendungen in Branchen wie Technologie, Medien und Telekommunikation am stärksten vertreten – mit Chance und Risiko zugleich. Auch den Journalismus stellen die KI-Entwicklungen vor Herausforderungen und bringen eine Reihe Risiken mit sich. Als befürchtete Folge des Einsatzes von generativer KI für das Mediensystem gilt unter anderem das wachsende Aufkommen von Deepfakes. Deepfakes sind mit Künstlicher Intelligenz manipulierte und im Netz veröffentlichte Medieninhalte (Video/Bild, Audio und Text). Einem Großteil der Menschen sind Deepfakes nach wie vor unbekannt.Im Zuge der zahlreichen Anwendungsmöglichkeiten und Risiken wird der Ruf nach nationalen sowie globalen Regulierungen stetig größer. In der Wissenschaft, der Wirtschaft und auf politischer Ebene stehen diese Themen weit oben auf der Agenda. In den USA zielen verschiedene Tech-Unternehmen wie Adobe, Amazon, Google oder Open AI mit einer Selbstverpflichtung darauf ab, schädlichen KI-Inhalte entgegenzuwirken. Innerhalb des EU-Parlaments wurde im März 2024 für das erste weltweite KI-Gesetz gestimmt. Der Entwurf des AI-Acts strebt an, KI-Systeme nach ihrer möglichen Gefahr in drei Risikogruppen (unannehmbares, hohes und geringes/minimales Risiko) einzustufen. An diese Risikostufen sind jeweils Anforderungen geknüpft.
