Generative KI revolutioniert alle Lebensbereiche – auch die Kriminalität. „Deepfakes sind in unserem Alltag angekommen und werden in Zukunft immer höhere Bedeutung haben. Sich daher einen der wichtigsten Fälle — Deepfakes in der Strafverfolgung — systematisch juristisch, philosophisch und technisch anzuschauen ist eine entscheidende Grundlagenarbeit für die Zukunft“, sagt Prof. Dr. Niklas Kühl, Professur für Wirtschaftsinformatik und humanzentrische Künstliche Intelligenz der Universität Bayreuth. „Heute kann nahezu jeder alles und jeden vergleichsweise einfach faken. Das birgt Potenziale, aber auch erhebliche Risiken — man denke nur an den Enkeltrick mit Stimmklonen. Was aber, wenn nun Ermittlungsbehörden selbst genau solche Stimmklone einsetzen, um Verbrechen aufzuklären?“, fragt Prof. Dr. Lena Kästner, Professur für Philosophie, Informatik und KI der Uni Bayreuth. Prof. Dr. Christian Rückert, Lehrstuhl für Strafrecht, Strafprozessrecht und IT-Strafrecht der Uni Bayreuth, erklärt: „Deepfakes stellen die Strafverfolgung und die Strafgerichte daher vor große Herausforderungen. Etwa die Frage, wie Gerichte künftig mit dem naheliegenden Einwand einer oder eines Angeklagten umgehen müssen, auf dem Video sei gar nicht er oder sie zu sehen, es handle sich um einen Deepfake. Gleichzeitig bieten KI-generierte Deepfakes großes Potential auch für die Strafverfolgung. Wir untersuchen deshalb auch, ob und wie Strafverfolgungsbehörden selbst Deepfakes für verdeckte Ermittlungen einsetzen dürfen.“
Finanziell unterstützt wird dies vom bidt: In seinem neuen Forschungsschwerpunkt widmet es sich der Frage, wann und wie viel Vertrauen in Bezug auf generative KI angebracht ist, sei es bei der Erstellung, Interaktion oder der Bewertung von KI-generierten Produkten. Das bidt fördert daher ab 2025 zehn Forschungsvorhaben zu Fragen rund um Vertrauen und KI. Rund eine Million Euro (992.400,00€) erhält „For the Greater Good? Deepfakes in der Strafverfolgung“, ein Projekt an der Universität Bayreuth. „In diesem Projekt beschäftigen wir uns mit der Frage, unter welchen Umständen genau der Einsatz von Deepfakes in der Strafverfolgung möglicherweise legitimiert ist, und auch welche Auswirkungen das auf andere Bereiche der Gesellschaft hat. Wir bringen dafür Experten und Expertinnen aus Informatik, Philosophie und Rechtswissenschaft zusammen und wollen Leitlinien für den Einsatz und die Kennzeichnung von Deepfakes entwickeln“, erklärt Lena Kästner
Ohne eine tiefgehende Untersuchung besteht die Gefahr, dass Deepfakes auch ohne eine Menschenrechts-, Grundgesetz- und EU-Rechtskonforme Rechtsgrundlage eingesetzt werden. Umgekehrt sollten Strafverfolgungsbehörden, soweit es rechtlich und ethisch vertretbar ist, die Potenziale der Technologie innerhalb der rechtsstaatlichen Grenzen ausschöpfen können, um eine effektive Strafverfolgung zu gewährleisten. Lena Kästner sagte: „Es ist wichtig, kriminelle irreführende oder manipulative Praktiken durch Deepfakes zu unterbinden. Gleichzeitig kann es aber auch nicht sein, dass Strafverfolgungsbehörden Kriminellen nichts entgegenzusetzen haben, weil sie nicht auf dem Stand der Technik arbeiten dürfen. Es gilt also, eine rechtssichere Balance zu finden, wie wir mit diesen scheinbar gegensätzlichen Anforderungen umgehen.“
Kühl, Rückert und Kästner werden jetzt gemeinsam mit Staatsanwältinnen und Staatsanwälten der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen (ZAC NRW) drei Jahre lang untersuchen, unter welchen Umständen und in welchem Maße der Einsatz von Deepfakes gesellschaftlich akzeptabel ist.
