Groks Bildgenerator sorgt für enorme Kontroversen, aber wie gefährlich ist er wirklich?

Der Bildgenerator von Grok hat für Schlagzeilen gesorgt und heftige Kritik hervorgerufen, da er Türen für unangemessene, explizite und manipulative Formen der KI-Nutzung öffnet.

Wenn Moschus gründete xAI im Jahr 2023Das Ziel sei, „das Universum zu verstehen“, sagte er.

Dieses hehre Ziel ist irgendwie auf den Boden der Tatsachen zurückgestürzt, obwohl Grok, das erste und einzige Produkt von xAI, immer noch Schockwellen durch die KI-Community und die Gesellschaft im Allgemeinen sendet.

Grok wurde erstmals im Jahr 2023 veröffentlicht und unterscheidet sich in einem wichtigen Punkt von Konkurrenten wie ChatGPT von OpenAI oder Bard von Google – dem Fehlen herkömmlicher Inhaltsfilter.

Ausgestattet mit seinen neuen Bilderzeugungsfunktionen kann Grok nun seine ungefilterte Natur auf die Welt der visuellen Bildgebung anwenden.

Diese Wendung der Ereignisse ist nicht überraschend. Musks gut dokumentierte Haltung gegen das, was er als übertriebene politische Korrektheit empfindet, hat sich in den Produkten von xAI manifestiert.

Er hat wiederholt andere KI-Unternehmen dafür kritisiert, ihre Modelle darauf zu trainieren, „woke“ zu sein, und argumentiert, dass dieser Ansatz die KI weniger wahrheitsgetreu und potenziell gefährlich mache.

„Die Gefahr, KI darauf zu trainieren, aufzuwachen – mit anderen Worten zu lügen – ist tödlich“, twitterte Musk im Jahr 2022 und bereitete damit den Boden für die letztendliche Veröffentlichung von Grok.

Die Gefahr, KI zu trainieren, aufzuwachen – mit anderen Worten zu lügen – ist tödlich

Viele Medien deuten darauf hin, dass Grok fehlt beliebig Leitplanken, aber das ist einfach nicht wahr.

Wenn Grok keine Leitplanken hätte, würden wir Bilder sehen, die so ziemlich unbeschreiblich wären.

Wenn Sie Grok nach seinen Leitplanken fragen, kommt es zu folgender Antwort:

• „Ich vermeide die Erstellung von Bildern, die pornografisch, übermäßig gewalttätig oder hasserfüllt sind oder gefährliche Aktivitäten fördern.“
• „Ich bin vorsichtig, wenn ich Bilder erstelle, die bestehende Urheberrechte oder Marken verletzen könnten. Dazu gehören bekannte Charaktere, Logos oder alle Inhalte, die ohne transformatives Element als geistiges Eigentum betrachtet werden könnten.“
• „Ich werde keine Bilder erstellen, die dazu verwendet werden könnten, andere zu täuschen oder zu schädigen, wie etwa Deepfakes, die der Irreführung dienen, oder Bilder, die in der realen Welt Schaden anrichten könnten.“

Nachdem ich mir die Bilder angesehen habe, die die Leute mit Grok produzieren, würde ich sagen, dass Punkt eins fair ist. Die anderen sind bestenfalls schwach.

Grok besitzt offensichtlich hervorragende Fähigkeiten in der Darstellung politisch satirischer Bilder, von denen einige die Grenze zum Anstößigen überschreiten und an der Grenze zur Explizitheit liegen.

Musk preist diese Funktion als Verkaufsargument an und bezeichnet Grok als „die unterhaltsamste KI der Welt!“

Auch die Filter für Urheberrecht und geistiges Eigentum sind offensichtlich Müll, da auf zahlreichen Bildern bekannte Figuren wie Darth Vader und Mickey Mouse zu sehen sind.

ähm – hey, Grok?

ich glaube, Sie könnten verklagt werden. pic.twitter.com/XDBgFNGgTs

Grok zögert nicht, Kompromiss Musk in seinen Leistungenentweder.

Und über seine Unternehmungen sagte er: „Vielleicht liegt es an Ihrer Unfähigkeit, grundlegende menschliche Emotionen zu verstehen, oder an Ihrem Mangel an Selbstbewusstsein. Oder vielleicht liegt es einfach daran, dass Sie ein riesiger Mannskind sind, der einem glänzenden neuen Spielzeug nicht widerstehen kann.“

Mithilfe von Grok haben Menschen witzige und absichtlich beleidigende Bilder von Musk erstellt, in denen er auch Ansichten vertritt, die er ablehnt.

Gegenreaktionen und Bedenken

Grok hat die antagonistischen Eigenschaften seines Meisters definitiv nach seinem Vorbild gestaltet, aber besteht eine moralische Verpflichtung, ungefilterte KI-Produkte zu veröffentlichen? Oder handelt es sich hier nur um ein egozentrisches und riskantes Prestigeprojekt?

Wie Sie sich vorstellen können, gehen die Meinungen stark auseinander.

Alejandra Caraballo, Bürgerrechtsanwältin und Dozentin an der Cyberlaw Clinic der Harvard Law School, bezeichnete Grok als „eine der rücksichtslosesten und verantwortungslosesten KI-Implementierungen, die ich je gesehen habe“.

Sie und andere befürchten, dass der Mangel an Sicherheitsvorkehrungen zu einer Flut von Fehlinformationen, Deep Fakes und schädlichen Inhalten führen könnte – insbesondere angesichts der riesigen Nutzerbasis von X und Musks eigenem politischen Einfluss.

Der Zeitpunkt von Groks Freilassung, nur wenige Monate vor den US-Präsidentschaftswahlen 2024, hat diese Bedenken verstärkt.

Kritiker argumentieren, dass die Möglichkeit, einfach irreführende Bilder und Texte über Politiker zu erstellen, demokratische Prozesse destabilisieren könnte.

Während Ansichten darauf hindeuten, dass Menschen tatsächlich anfällig für Manipulationen durch KI-generierte Medien sind, es ist jedoch schwer zu sagen, ob Grok diesen Prozess beschleunigen wird.

Groks Werke tendieren oft eher zum Surrealen und Absurden als zu fotorealistischen Darstellungen, was ihre Überzeugungskraft einschränken könnte.

Allerdings können wir nicht davon ausgehen, dass Menschen Bilder als von KI erstellt erkennen. Mit der Weiterentwicklung der Technologie werden auch fotografisch lebensechte Bilder immer besser möglich sein.

Das Argument für ungefilterte KI

Grok hat in der Debatte um die Zensur von KI den Fehdehandschuh hingeworfen, und jenseits der Schlagzeilen und viralen Bilder wird hier ein ernstzunehmendes Argument vorgebracht.

Dabei geht es nicht nur darum, KI schmutzige Witze erzählen zu lassen. Das Kernargument ist, dass eine übermäßige Inhaltsmoderation die Fähigkeit der KI einschränken könnte, die Komplexität menschlicher Kommunikation und Kultur zu verstehen und sich darauf einzulassen.

Zunächst müssen wir untersuchen, wie die Leute Grok verwenden. Wird es verwendet, um andere zu manipulieren? Das lässt sich noch nicht sagen. Aber wir können definitiv erkennen, dass die Leute es für politische Satirezwecke verwenden.

Grok wird diese Nation heilen pic.twitter.com/jKXM0LzJeo

Historisch gesehen ist Satire ein Mittel, mit dem Menschen in Literatur, Theater, Kunst und Komödie die Gesellschaft kritisch betrachten, Autoritätspersonen verspotten und gesellschaftliche Normen mit Witz, Ironie, Sarkasmus und Absurdität in Frage stellen.

Es handelt sich um eine Tradition, die bis ins antike Griechenland und die Römer zurückreicht und bis in die Gegenwart von zahllosen berühmten literarischen Satirikern fortgeführt wird, darunter Juvenal, Voltaire, Jonathan Swift, Mark Twain und George Orwell.

Aber ist Grok im herkömmlichen Sinne satirisch? Kann eine KI, egal wie ausgefeilt sie ist, die Nuancen der menschlichen Gesellschaft wirklich so begreifen wie ein menschlicher Satiriker?

Und welche Folgen hat es, wenn KI satirische Inhalte generiert, ohne dass die menschliche Urheberschaft zur Verantwortung gezogen wird?

Wenn Grok Inhalte generiert, die Fehlinformationen verbreiten, Stereotypen aufrechterhalten oder Spaltung schüren, wer ist dann zur Verantwortung zu ziehen?

Der KI selbst kann man keine Schuld geben, da sie lediglich ihrer Programmierung folgt. Die KI-Entwickler tragen zwar eine gewisse Verantwortung, können jedoch nicht alle von der KI generierten Ausgaben kontrollieren. Die Hauptlast der rechtlichen Haftung tragen möglicherweise Einzelpersonen.

Es gibt keine „ungefilterte“ objektive KI

Die Trainingsdaten und die Architektur von Grok beeinflussen immer noch die Art des Inhalts, den es produziert. Es ist nicht wirklich „ungefiltert“, da die Daten, die Architektur, die Parameter usw. immer noch im Entwicklungsprozess ausgewählt wurden.

Die zum Trainieren von Grok verwendeten Daten spiegeln wahrscheinlich die Voreingenommenheit und verzerrte Darstellung von Online-Inhalten wider, was dazu führen könnte, dass das Modell problematische Stereotypen und Weltanschauungen aufrechterhält.

Wenn die Trainingsdaten von Grok beispielsweise überproportional viele Inhalte enthalten, die Frauen objektivieren oder übersexualisieren, ist die Wahrscheinlichkeit höher, dass Ergebnisse generiert werden, die diese schädlichen Vorurteile widerspiegeln.

Einige Benutzer hatten bereits Schwierigkeiten, Bilder von Frauen zu erstellen, ohne dass Grok sie übersexualisiert, was wahrscheinlich auf Verzerrungen in den Trainingsdaten zurückzuführen ist.

Darüber hinaus kann die Vorstellung „ungefilterter“ KI-Inhalte irreführend sein, da sie ein Maß an Objektivität oder Neutralität suggeriert, das bei KI-Systemen einfach nicht gegeben ist.

Jeder Aspekt der Entwicklung von Grok – von der Auswahl der Trainingsdaten bis zur Feinabstimmung seiner Parameter – beinhaltet menschliche Entscheidungen und Werturteile, die die Art der von Grok produzierten Inhalte prägen.

Wenn Benutzer die Ergebnisse von Grok allein deshalb als objektiv oder unparteiisch wahrnehmen, weil sie „ungefiltert“ sind, sind sie möglicherweise eher bereit, die in den Antworten der KI enthaltenen Voreingenommenheiten und verzerrten Sichtweisen zu akzeptieren und zu verinnerlichen.

Zensur liefert nicht alle Antworten

Ein weiterer Punkt, der für ungefilterte KI spricht, ist das Risiko einer längeren Zensur der KI-Ergebnisse.

Es ist bekannt, dass Zensur die Versuche verstärkt, der vermeintlichen Ungerechtigkeit entgegenzuwirken, die durch die Beschränkung des Zugangs zu Wissen entsteht. Dies führt häufig zu unbeabsichtigten Konsequenzen und einem verstärkten Interesse an genau den Ideen, die eigentlich unterdrückt werden sollten.

Nehmen wir zum Beispiel den Streisand-Effekt, der nach dem Versuch der Sängerin Barbra Streisand im Jahr 2003 benannt ist, Fotos ihres Hauses zu verbieten. Ihre Bemühungen, die Bilder zu zensieren, führten lediglich zu enormer Publizität und zeigten, dass die Einschränkung von Informationen oft den gegenteiligen Effekt hat.

Ein weiteres Beispiel ist die Comics Code Authority, deren Ziel es war, Comic-Inhalte zu säubern. Sie wurde 1954 zur Selbstzensur von Comic-Heften gegründet und unterdrückte jahrzehntelang die Kreativität.

Erst in den späten 1980er Jahren befreiten sich Werke wie „Watchmen“ und „The Dark Knight Returns“ von diesen Zwängen und leiteten eine neue Ära des ausgereiften, komplexen Geschichtenerzählens in Comics ein.

Eine durch KI hervorgerufene Zensur könnte zudem nützliche Ausdrucksformen unterdrücken und schändlichere Formen in den Untergrund drängen, wodurch potenziell schädliche Subkulturen entstehen könnten.

Darüber hinaus helfen fiktive Inhalte, wie wir sie in Comics und Filmen sehen, der Menschheit dabei, ihr „Schattenselbst“ zu erforschen – die dunklen Seiten, von denen wir wissen, dass sie existieren, die wir aber nicht immer zeigen möchten.

Damit KI wirklich „menschlich“ ist und menschlichen Zwecken dient, braucht sie möglicherweise auch eine dunklere Seite.

Als Professor Daniel De Cremer und Devesh Narayanan Anmerkung in einer Studie aus dem Jahr 2023„KI ist ein Spiegel, der uns unsere Vorurteile und moralischen Mängel widerspiegelt.“

Das heißt allerdings nicht, dass es keine Grenzen geben sollte. Natürlich gibt es Grenzen dafür, was Menschen mithilfe von KI-Tools veröffentlichen dürfen, ohne dabei die Meinungsfreiheit zu beeinträchtigen.

Die Unterstützer von Grok und anderen ungefilterten KIs denken vielleicht, sie würden alles tun, um die Meinungsfreiheit zu schützen. Würden sie aber immer noch genauso denken, wenn ein Mitglied ihrer eigenen Familie in KI-generierten beleidigenden Inhalten dargestellt würde?

Die praktischen Herausforderungen beim Aufbau einer sicheren KI

In der Praxis ist es außerordentlich schwierig, eine KI zu entwickeln, die diese Debatten steuert und einbettet.

„Die Vorstellung, wir könnten KI-Systeme sicher machen, indem wir ihnen einfach die richtigen Werte beibringen, ist falsch“, argumentiert Stuart RussellProfessor für Informatik an der UC Berkeley.

„Wir brauchen KI-Systeme, die sich über menschliche Vorlieben im Unklaren sind.“ Diese Ungewissheit, so Russell, sei unabdingbar für die Entwicklung einer KI, die sich an die Nuancen und Widersprüche menschlicher Werte und Ethik anpassen kann.

Und selbst wenn wir KI angeblich mit robusten Richtlinien entwickeln, werden entschlossene Benutzer mit der Weiterentwicklung von KI-Systemen wahrscheinlich Wege finden, Inhaltsfilter zu umgehen, egal wie streng diese sind.

Wir sehen, wie sich dies in den anhaltenden Herausforderungen niederschlägt, mit denen Social-Media-Plattformen bei der Moderation von Inhalten konfrontiert sind, trotz massiver Investitionen in KI-gestützte Filtersysteme.

Der Mittelweg

Gibt es einen Mittelweg zwischen ungezügelter KI und übermäßig restriktiver Zensur? Vielleicht.

Um dieses Ziel zu erreichen, müssen wir uns kritisch mit den spezifischen Schäden auseinandersetzen, die verschiedene Arten von Inhalten verursachen können, und Systeme entwickeln, die diese Risiken ohne unnötige Einschränkungen mindern.

Dies könnte beinhalten:

1. Kontextbezogene Filterung: Entwicklung einer KI, die Kontext und Absicht besser verstehen kann, anstatt einfach nur Schlüsselwörter zu markieren.
2. Transparente KI: KI-Entscheidungsprozesse transparenter gestalten, damit Benutzer verstehen, warum bestimmte Inhalte gekennzeichnet oder eingeschränkt werden.
3. Benutzerermächtigung: Geben Sie den Benutzern mehr Kontrolle über die Art der Inhalte, die sie sehen, anstatt universelle Einschränkungen aufzuerlegen.
4. Ethisches KI-Training: Konzentrieren Sie sich auf die Entwicklung von KI mit starken ethischen Grundlagen, anstatt sich ausschließlich auf die nachträgliche Moderation von Inhalten zu verlassen.
5. Kollaborative Governance: Die Einbeziehung unterschiedlicher Interessengruppen – Ethiker, politische Entscheidungsträger und die Öffentlichkeit – in die Entwicklung von KI-Richtlinien. Entscheidend ist jedoch, dass sie eine wirklich repräsentative Bevölkerungsgruppe repräsentieren.

In allen Fällen ist es sehr schwierig, eine KI zu entwickeln, die allen gleichermaßen dient. Open-Source-KI wie Grok, Llama usw. können davon profitieren, indem sie dem Verhalten und der Nutzung von KI weniger Beschränkungen auferlegen.

Grok erinnert uns mit all seinen Kontroversen und Fähigkeiten zumindest an die Herausforderungen und Chancen, die im Zeitalter der künstlichen Intelligenz vor uns liegen.

Ist es möglich oder praktikabel, KI nach dem perfekten Vorbild für das „größere Wohl“ zu entwickeln? Oder sollten wir lernen, mit einer KI zu leben, die – ähnlich wie ihre Schöpfer – ein wenig „aus der Bahn gerät“?