Die Federal Trade Commission (FTC) hat rechtliche Schritte gegen fünf Unternehmen wegen irreführender Praktiken im Zusammenhang mit ihren KI-Technologien eingeleitet und ist damit ihrer Verpflichtung zur Regulierung unethischer KI-Nutzung nachgekommen.
Diese Klagen fallen unter die „Operation AI Comply” und zielte auf Unternehmen ab, die entweder die Fähigkeiten ihrer KI übertrieben oder sie zum Verstoß gegen das Gesetz nutzten.
Die Fälle im Fokus
Drei der Unternehmen –Ascend Ecom, E-Commerce Empire BuildersUnd FBA-Maschine– kämpfen gegen die Vorwürfe vor Gericht. Ihnen wurde vorgeworfen, Programme zum schnellen Reichwerden zu verkaufen, mit denen behauptet wurde, ihre KI-gesteuerten Tools könnten profitable Online-Shops schaffen. Stattdessen führten diese Versprechen dazu, dass Verbraucher Millionen verloren, da die Gewinne nie eintraten.
Für jedes dieser Unternehmen wurde eine gerichtliche Anordnung erlassen, den Betrieb während der Dauer der Fälle einzustellen.
Irreführende KI in Aktion
Die Vorsitzende der FTC, Lina Khan, betonte, dass der Missbrauch von KI für betrügerische Zwecke illegal sei, und erklärte: „Die Durchsetzungsmaßnahmen der FTC machen deutlich, dass es keine KI-Ausnahme vom Gesetz gibt.“
Das Vorgehen ist Teil der größeren Mission der Agentur, Verbraucher vor betrügerischen Praktiken zu schützen und eine ethische KI-Entwicklung sicherzustellen.
Erledigte Fälle: DoNotPay- und Biden-Robocalls
Zwei Unternehmen haben sich bereits mit der FTC geeinigt. Einer der bekannteren Namen, Nicht bezahlenbekannt für seinen „Roboter-Anwalt“, wurde mit einer Geldstrafe belegt, weil es seine KI als Rechtsersatz falsch dargestellt hatte. Trotz des Hypes gelang es ihm nicht, Dienstleistungen zu erbringen, die denen echter menschlicher Anwälte entsprachen, was dazu führte, dass die Benutzer unvollständige Dokumente und ungelöste Probleme hatten.
Das Unternehmen stimmte der Zahlung zu 193.000 US-Dollar und frühere Benutzer über die Einschränkungen informieren.
In einem gesonderten Fall Steve Kramerder geschaffen hat KI-generierte Robocalls sich als Präsident ausgeben Joe Bidenwurde mit einer Geldstrafe belegt 6 Millionen Dollar von der FCC. Die Anrufe verstießen gegen die Telefonverbraucherschutzgesetzund weitere Klagen gegen Kramer laufen.
Der KI-Bewertungsgenerator von Rytr auf dem Scope
Der umstrittenste Fall betrifft Rytrein KI-Unternehmen, das es Benutzern ermöglichte, gefälschte Online-Bewertungen zu erstellen. Diese Praxis verstieß gegen die Regeln der FTC zu irreführender Werbung, insbesondere da viele dieser gefälschten Testimonials falsche Angaben enthielten, die nichts mit den betreffenden Produkten oder Dienstleistungen zu tun hatten.
Obwohl die Entscheidung der FTC umstritten war und einige Kommissare anderer Meinung waren, hat Rytr zugestimmt, seine Dienste zur Erstellung von KI-Bewertungen nicht mehr anzubieten.
Kritiker des Falles, darunter der ehemalige Cheftechnologe der FTC Neil Chilsonargumentieren, dass die Verantwortung von KI-Unternehmen für benutzergenerierte Inhalte einen gefährlichen Präzedenzfall darstellt. Er äußerte Bedenken, dass diese Entscheidung Innovationen behindern könnte, indem Entwickler dafür bestraft werden, wie Benutzer ihre Tools missbrauchen, selbst wenn das Unternehmen selbst keinen Schaden angerichtet hat.
Was kommt als nächstes?
Die Maßnahmen der FTC markieren einen bedeutenden Moment bei der Regulierung von KI-Technologien. Während einige befürchten, dass dies die Innovation ersticken könnte, setzt sich die Agentur weiterhin für die Durchsetzung der Verbraucherschutzgesetze ein und macht deutlich, dass KI-Entwickler für die Nutzung ihrer Technologie verantwortlich sein müssen.
Da sich die KI weiterentwickelt, könnte dies nur der Anfang einer strengeren Aufsicht in der Branche sein.
Hervorgehobener Bildnachweis: Emre Çıtak/Ideogramm KI
