Ein Gesetz für AI-Transparenz
Die kalifornischen Gesetzgeber haben einen Gesetzentwurf zum Thema KI eingebracht. Dieser zielt darauf ab, Transparenz in digitalen und sozialen Medien zu schaffen. Unter anderem sieht er vor, dass grosse Online-Plattformen sichtbare Wasserzeichen für AI-Inhalte in Kalifornien einführen müssen.
Gesetzesentwurf
Die rasante Entwicklung von Videogeneratoren wirft eine entscheidende Frage auf: Wie stellen wir sicher, dass wir AI generierte Inhalte von echtem Filmmaterial unterscheiden können? Der Gesetzentwurf AB-3211 könnte eine Lösung bieten.
Die Herausforderungen
Der Gesetzentwurf AB-3211 sieht vor, dass Bilder, Fotos, Videos und Audioclips, die von künstlicher Intelligenz erstellt wurden, mit einem Wasserzeichen versehen werden. Dieses muss von Technologieunternehmen in die Metadaten eingefügt werden. Einige KI-Firmen erfüllen diese Anforderungen bereits, doch es besteht noch keine allgemeine Verpflichtung dazu.
Ein weiteres Problem ist, dass viele Menschen Metadaten nicht lesen können. Der Gesetzentwurf besagt, dass grosse Online-Plattformen wie Instagram oder X Inhalte, die von einem generativen AI-System erstellt oder wesentlich verändert wurden, in einer für den Durchschnittsnutzer verständlichen Weise kennzeichnen müssen. Der vollständige Text des Gesetzentwurfs kann hier eingesehen werden.
Missbrauchspotenzial generativer AI
Ein Problem bei generativer AI ist, dass sie für falsche Inhalte, Fehlinformationen und Meinungsmanipulation missbraucht werden kann. Die AI lernt zwar noch, aber es ist schon jetzt schwierig, gefälschte Audioclips oder Videos von echten zu unterscheiden.
Als Beispiel einige Szenen, die von Sora generiert wurden. Hierbei handelt es sich um den realistischen Videogenerator von OpenAI, der Anfang dieses Jahres eine hitzige Diskussion ausgelöst hat:
Adobe, OpenAI und Microsoft sind mit an Bord
Die grossen AI-Marktteilnehmer OpenAI, Adobe und Microsoft unterstützen den Gesetzesentwurf, weil sie verantwortungsvolle Technologien fördern möchten.
Von den drei Unternehmen hat Adobe von Anfang an darauf geachtet, ethisch zu handeln. Bei der Veröffentlichung von Firefly gaben die Verantwortlichen zu Protokoll, dass das Programm ausschliesslich mit Adobe Stock-Bildern, frei lizenziertem Filmmaterial und Inhalten, deren Urheberrecht bereits abgelaufen war, trainiert wurde.
Adobe, OpenAI und Microsoft sind zudem Teil der «Coalition for Content Provenance and Authenticity». Diese hat einen Standard für C2PA-Metadaten entwickelt. Darin wird ein AI-Symbol verwendet, um generierte Inhalte zu kennzeichnen und ihre Inhaltsnachweise einzubetten. Die Nutzung dieses Symbols ist jedoch nicht verpflichtend.
Abstimmung über den Gesetzesentwurf AB 3211
Der Gesetzesentwurf AB 3211 wurde bereits mit 62:0 Stimmen von der Staatsversammlung von Kalifornien verabschiedet. Anfang dieses Monats passierte er den Bewilligungsausschuss des Senats und steht nun zur Abstimmung durch den gesamten Senat an. Bis zum 30. September sollte er endgültig verabschiedet sein. Das Gesetz würde ab dem 1. Juli 2026 in Kraft treten.