US -amerikanische Ermittler setzen künstliche Intelligenz ein, um das von generative KI erstellte minütige mindermissbrauchsmaterial zu identifizieren. Das Cyber Crimes Center des Department of Homeland Security leitet diese Bemühungen, synthetische Bilder von Darstellungen realer Opfer zu unterscheiden. Die Initiative befasst sich mit einem dokumentierten Anstieg des missbräuchlichen Inhalts von AI-generierten. Die Internet Watch Foundation (IWF) hat einen signifikanten Anstieg dieser Art von Bildern in Dark-Web-Foren berichtet. Dieses Material besteht oft aus fotorealistischen Deepfakes, die die Ähnlichkeiten realer Individuen oder früheren Opfer einbeziehen können. Der synthetische Ursprung dieser Bilder stellt die Strafverfolgungsbehörden erhebliche Herausforderungen und kompliziert die Bemühungen zur Feststellung der Kriminalität. Als Reaktion darauf experimentiert das DHS-Cyber-Verbrechenszentrum, das primäre US-amerikanische Ermittlungsorganisation für die Ausbeutung von Kindern, mit KI-angetriebenen Erkennungswerkzeugen. Diese fortgeschrittenen Methoden werden angewendet, um dem Missbrauch der generativen KI -Technologie in diesem Zusammenhang entgegenzuwirken. Ziel ist es, die Identifizierung von computergenerierten Inhalten zu verbessern und so die Interventions- und Untersuchungsprozesse in Fällen von Kindern zu verbessern.
