Ein Bundesrichter hat es weniger als zwei Wochen nach der Unterzeichnung seines neuen KI-Deepfake-Gesetzes durch den kalifornischen Gouverneur Gavin Newsom für ungültig erklärt. AB 2839 sollte die Verbreitung politisch aufgespießter Deepfakes unterbinden, einschließlich des von Elon Musk weiterverbreiteten KI-generierten Videos von Vizepräsidentin Kamala Harris. Das Gerichtsurteil, dass das Gesetz wahrscheinlich gegen den First Amendment-Schutz verstößt, ist ein Schlag für Kaliforniens Bemühungen, KI zur Bekämpfung von Fehlinformationen bei Wahlen einzusetzen.
Letzten Monat wurde AB 2839 in Kraft gesetzt und sollte Menschen für die Verbreitung politisch irreführender Deepfakes verantwortlich machen, die Wähler irreführen könnten. Es überwachte keine Social-Media-Plattformen, sondern ermöglichte es Richtern, Menschen anzuweisen, von ihnen selbst verfasste und durch künstliche Intelligenz generierte Inhalte zu entfernen. Dies folgte auf wachsende Besorgnis über die Zunahme KI-generierter politischer Fehlinformationen, ein großes Problem im Hinblick auf die bevorstehenden Wahlen.
Der virale Kamala Harris Deepfake und seine Auswirkungen
Die Klage gegen das Gesetz wurde vom YouTuber Christopher Kohls eingereicht, der online als „Mr. Reagan“ bekannt ist und das KI-manipulierte Video von Kamala Harris gepostet hat. Der Deepfake wurde von seinem Anwaltsteam verteidigt, das den Ersten Verfassungszusatz als politische Satire bezeichnete. Der US-Bezirksrichter John Mendez stimmte zu und erließ eine einstweilige Verfügung, die die Durchsetzung des Gesetzes verhinderte. Mendez sagte, das Gesetz sei zu weit gefasst und könne leicht missbraucht werden, um verfassungsrechtlich geschützte Äußerungen wie Satire und Parodie zu unterdrücken.
„Fast jeder digital veränderte Inhalt könnte als schädlich angesehen werden, wenn er einer beliebigen Person im Internet überlassen wird.“
Mendez erklärte. Er sagte, das Gesetz verwende eine breite, subjektive Sprache, die die freie Meinungsäußerung gefährde. Während der Staat ein Interesse an der Integrität der Wahlen habe, verletze dieses Gesetz in seiner jetzigen Form ungerechtfertigterweise die durch den Ersten Verfassungszusatz geschützte politische Meinungsäußerung, sagte Mendez.
Kurz nach dem Gerichtsurteil vom 12. Dezember Elon Muskder sich über das neue Gesetz lustig gemacht hatte, nachdem er den Deepfake-Tweet von Harris gepostet hatte, twitterte auf Juhu!“ Sein Beitrag ging seitdem viral und der Online-Kampf um das Dazwischen hat sich um das Gleichgewicht zwischen freier Meinungsäußerung und der Regulierung von KI-generierten Inhalten nur noch weiter verschärft.
So wie damals, als Streisand jemanden verklagte, weil er ihre offensichtliche Adresse in Malibu preisgegeben hatte. Das hat es wirklich unter Kontrolle gehalten, Lmao. https://t.co/Av5CDlRtJ4
— Elon Musk (@elonmusk) 18. September 2024
Die einstweilige Verfügung ist vorübergehend und es ist unklar, ob eine solche Sperre von Dauer sein wird. Das Büro von Gouverneur Newsom brachte zum Ausdruck, dass der Staat zuversichtlich sei, KI-Deepfakes in Zukunft regulieren zu können. Ein Sprecher verteidigte das Gesetz mit den Worten: „Wir sind zuversichtlich, dass die Gerichte die Fähigkeit des Staates wahren werden, diese Art gefährlicher und irreführender Deepfakes zu regulieren und gleichzeitig sicherzustellen, dass diese Rechte auf freie Meinungsäußerung weiterhin bestehen können.“
Das Urteil selbst unterstreicht die Liebe zwischen neuer KI-Technologie und altbewährten verfassungsrechtlichen Garantien, da Fälschungen immer raffinierter und schwieriger zu unterscheiden werden. Der Ausgang dieses Rechtsstreits könnte die Art und Weise beeinflussen, wie Staaten KI-generierte Inhalte im Vorfeld von Wahlen regulieren.
Hervorgehobener Bildnachweis: Emre Çıtak/Ideogramm KI
