Ein KI-generierter Influencer mischte sich in den „RushTok“ in Alabama ein – manche Fans kümmerten sich nicht darum, dass sie gefälscht war. )

Ein KI-generierter Influencer betrat Alabamas „RushTok“ – und einige Fans kümmerten sich nicht darum, dass sie gefälscht war. Das Experiment, das von Olivia Moore, einer Investmentpartnerin bei Andreessen Horowitz, erstellt wurde, dauerte eine Woche und zeigte, wie schnell Zuschauer KI-Inhalte erkennen – und wie viele sie trotzdem ignorieren.

Das Video beginnt damit, dass eine lockenköpfige, brillentragende Rothaarige namens Janie B. sich aus einem Schlafsaalzimmer vorstellt. Sie beschreibt ihr Outfit: einen gefalteten Rock von Abercrombie, ein Strickoberteil von J. Crew, Socken von Target und Sneaker von Nike. Es ist ihr erstes Video auf ihrem TikTok-Account, @jani.b086, das am 8. August gepostet wurde und seitdem über 120.000 Aufrufe verzeichnet hat.

Janie B. Ist Nicht Echt

Janie ist nicht wie die anderen RushTok-Mädchen, die dieses Jahr ihre Bama Rush-Erfahrung dokumentieren. Sie besucht nicht die University of Alabama, hat keine Studentenverbindung bei einer Schwesternschaft und hat auch keine dieser Kleider gekauft. Das liegt daran, dass Janie nicht echt ist.

Moore schuf Janie als Experiment, um zu verstehen, wie Verbraucher auf KI-generierte Inhalte reagieren. Sie gab 100 Dollar Guthaben aus, um eine Woche lang Videos ihrer gefälschten Influencerin zu produzieren, die an Bama Rush teilnimmt, und beobachtete dann, wie ihr Publikum darüber diskutierte, ob Janie echt war oder nicht.

Wie Moore Janie Erstellte

Moore nutzte ChatGPT und MiniMax H3, um den Charakter zu erstellen. Sie fand ein echtes Video von einem Schlafsaalzimmer der University of Alabama, lud es in ChatGPT hoch und forderte Janie auf, lockiges rotes Haar, Brillen und einen Stil der 1960er Jahre zu haben. ChatGPT erzeugte ein Stillbild von Janie im Schlafsaalzimmer, und der „RushTok“-Influencer war geboren.

Für jeden TikTok-Beitrag speiste Moore das Stillbild des Schlafsaalzimmer in MiniMax H3 ein, um Janie zu animieren. Sie nutzte ChatGPT, um zu gestalten, wie Janie sich bewegte, klang und sprach, wobei sie Prompts erstellte, die die Videos antrieben.

Die Reaktion War Gespalten

Die Reaktionen auf Janie waren von Anfang an gespalten. Moore sagte, dass jeder unter 25 sie sofort als KI erkannte. Aber ältere Zuschauer, die einen großen Teil des Bama Rush-Publikums ausmachen, wurden getäuscht.

„Ich würde sagen, dass jeder unter vielleicht 25 sie sofort als KI erkannte“, sagte Moore. „Aber jeder in der älteren demografischen Gruppe, die einen großen Teil des Bama Rush-Publikums ausmacht, wurde von ihr getäuscht und wünschte ihr einfach Glück und schickte ihr im Prozess gute Gedanken.“

Fans, Die Sich Nicht Kümmerten

Das Publikum war am zweiten Tag mitgegangen. Menschen begannen auf Reddit, über Janie zu diskutieren, drehten Kommentarvideos und korrigierten jeden, der glaubte, sie sei in ihrem Kommentarbereich echt. Moore stellte jedoch fest, dass einige Zuschauer auch nach der Enthüllung weiterhin schauten.

„Ab Tag zwei, Tag drei, waren die Kommentare noch immer voller Leute, die wirklich nette Dinge sagten. Und Leute kommentierten und sagten ihnen: ‚Hey, das ist KI.‘ Und sie sagten: ‚Ist mir egal. Sie scheint so süß. Als ob ich möchte, dass sie Erfolg hat.'“

Hinweise geben

Als das Publikum mitkam, änderte Moore ihre Strategie. Sie begann, in den Videos Hinweise zu geben und beobachtete, wie die Zuschauer die Hinweise im Kommentarbereich entdeckten. Sie sagte, das Experiment zeige, wie bereit einige Zuschauer waren, auch nachdem sie wussten, dass Janie nicht echt war, weiterhin zu schauen.

Moores Erkenntnis

Moore sagte, der Mensch werde besser darin, KI schneller zu erkennen, als sich die KI-Generierung verbessert. Sie beschrieb zwei konkurrierende Linien: wie schnell KI die wahre menschliche Qualität erreicht und wie schnell der Mensch lernt, sie zu erkennen.

„Wir sind irgendwie in einem Graphen mit zwei konkurrierenden Linien mit unterschiedlichen Steigungen“, sagte Moore. „Die eine Linie zeigt, wie schnell KI die wahre menschliche Qualität erreicht. Und die ist im vergangenen Jahr deutlich besser geworden. Die andere Linie zeigt, wie schnell der Mensch lernt, KI zu erkennen?“

Der Punkt des Experiments

Moore schuf Janie, um philosophische Fragen zu beantworten. Wie fühlen sich die Menschen gegenüber KI-Inhalten? Wie fühlen sie sich, wenn sie nicht wissen, dass es sich um KI handelt? Wie fühlen sie sich, wenn etwas, das sie mochten, sich als KI herausstellte?

Die Antworten kamen schnell. Die jüngeren Zuschauer durchschauten Janie sofort. Die älteren Zuschauer nicht. Und eine beträchtliche Anzahl von ihnen scherte sich nicht, nachdem sie es erfahren hatten.

Das ist der seltsame Teil der Geschichte. Janie war von Anfang an eine Fälschung, und die Menschen, die an sie glaubten, wurden belogen. Dennoch schauten sie weiter, jubelten weiter, wünschten ihr weiterhin Glück — und sagten, es sei ihnen egal, dass sie gefälscht war.

Es ist ein kleines Experiment, aber es weist auf etwas Größeres hin, wie Menschen heute Medien konsumieren. Das Publikum ist nicht passiv. Sie sehen die Nahtstellen und ignorieren sie trotzdem.

Das Experiment zeigt zudem, wie schnell die Erkennung verbessert wird. Moore sagte, Zuschauer unter 25 Jahren hätten Janie sofort als KI erkannt. Ältere Zuschauer wurden getäuscht, aber das Muster blieb bestehen: sobald die Wahrheit herauskam, brach die Illusion zusammen.

Die größere Lektion ist, dass die KI-Erkennung ein Wettlauf mit zwei Seiten ist. Je besser die Generierung wird, desto besser wird auch die Erkennung. Aber der Abstand zwischen den beiden ist wichtig, und er ist jetzt wichtig.

Moores Experiment war ein kleiner Test mit einem großen Publikum. Es zeigte, dass das Publikum KI schnell erkennen kann, es sie aber nicht daran hindert, sie zu genießen. Das ist eine seltsame Dynamik, und es ist eine, auf die Marken und Kreative achten müssen, wenn die KI-Tools verbessert werden.

Das Experiment endete mit Janies Entlarvung, aber das Muster blieb bestehen. Das Publikum wurde aufmerksam, aber eine gute Anzahl von ihnen schaute trotzdem weiter. Der Kommentarbereich bewies, dass Menschen mit KI-Inhalten interagieren werden, selbst wenn sie wissen, dass sie nicht echt sind, solange sie unterhalten werden.

Sehen Sie das Video, um das die Geschichte aufgebaut ist, bei Fox News.