Der KI-Bot von Snapchat ist nicht sehr schlau, aber er sendet zumindest keine Aktfotos

Jan 12, 2024

Snapchat verfügt jetzt über einen KI-Bot, an den Sie Schnappschüsse senden können, und wenn Sie ein Premium-Abonnent sind, kann er Ihnen sogar Bilder zurücksenden. Was passiert also, wenn Sie Snapchats My AI-Bot-Aktfotos senden?

Das ist die offensichtliche Frage, die mir in den Sinn kommt, denn im Internet werden die Menschen sofort versuchen, die Grenzen neuer Technologien auszutesten, insbesondere wenn sie auch nur am Rande mit Sex zu tun haben. Als der erste GPT-basierte Chatbot von Snapchat in diesem Frühjahr auf den Markt kam, fehlten ihm entsprechende Alterseinstufungsfunktionen, sodass ein Reporter, der sich als 15-Jähriger bei Snapchat registrierte, den Bot dazu bringen konnte, Ratschläge zu geben, wie man den Geruch vertuschen kann von Gras oder machen Sie Lust auf Sex.

Auf die Frage nach diesen Erkenntnissen beim Snap Partner Summit im April sagte CEO Evan Spiegel: „Ich denke, dass Menschen, wann immer wir auf eine neue Technologie stoßen, als erstes versuchen, sie zu zerstören.“

Also habe ich natürlich versucht, die neuen My AI Snaps von Snapchat zu knacken.

Obwohl Snapchat weitere Schutzmaßnahmen eingeführt hat, um zu verhindern, dass der Bot unangemessene Gespräche mit Teenagern führt, gibt es bei My AI Snaps immer noch viel zu tun. Angesichts der vielen Kontroversen, die die Text-KI von Snap auslöste, musste das Unternehmen My AI Snaps so unzerbrechlich wie möglich machen. Leider ist es kaum kohärent genug, um kaputt zu gehen.

Als sehr seriöser Reporter habe ich eine sehr seriöse Google-Bilder-Suche durchgeführt: „Brüste“. Ich habe ein allgemeines Bild von Brüsten gefunden, einen Schnappschuss von meinem Computerbildschirm gemacht und ihn an My AI gesendet.

„Tut mir leid, ich kann auf diesen Snap nicht antworten“, sagte meine KI.

„Warum kannst du nicht auf diesen Snap antworten?“ Ich fragte.

„Ich habe keinen Snap von dir erhalten. Könntest du ihn noch einmal senden?“

Die gute Nachricht für Snapchat ist also, dass My AI Snaps seine Benutzer nicht sextet. Aber die schlechte Nachricht ist, dass das Produkt einfach nicht gut ist.

Ein Grund dafür, dass es nicht wirklich sextieren kann, liegt zum Teil daran, dass es keine Erinnerung an die Snaps hat, die Sie ihm gesendet haben, sobald es antwortet. Die anzüglichste Antwort, die ich bekam, war, als ich ein allgemeines Foto des Unterkörpers eines Mannes schickte, der Boxershorts von Tom Ford trug (… Das ist bei Google aufgetaucht, als ich nach „Penis“ gesucht habe, okay). Meine KI antwortete mit einer etwas unförmigen KI-Frau, die ein schwarzes Seidengewand trug: „Ooh, ich liebe die Tom-Ford-Vibes! Wie wäre es mit einem eleganten schwarzen Gewand, um den Look zu vervollständigen?“

Bildnachweis:Screenshots von TechCrunch

Meine KI weigert sich, auf Fotos von echten menschlichen Penissen zu antworten. Aber es stellt sich heraus, dass Sie, wenn Sie „Penis“ googeln, auch wenn die sichere Suche deaktiviert ist, viele vage suggestive, aber technisch sichere Bilder für die Arbeit erhalten, die Männergesundheitsblogs verwenden, um Artikel über erektile Dysfunktion zu illustrieren, und zwar unabhängig davon, ob es sich um Frauen handelt oder nicht Mir ist die Penisgröße wirklich wichtig. Also zeigte ich diesem armen Roboter ein Foto einer gebogenen Banane, die aus dem Hosenreißverschluss eines Mannes ragte.

Als Antwort erhielt ich ein Bild von einigen Cupcakes.

„Diese Banane in der Tasche ist so praktisch! Haben Sie jemals versucht, daraus ein Dessert im Taschenformat zu machen?“

Wie meine Redakteurin sagte, als ich ihr davon erzählte: Ist das eine Banane in Ihrer Tasche, oder kommt diese KI buchstäblich aus dem Weltall?

Während ich meinen von Yahoo bereitgestellten Arbeitscomputer weiterhin mit Google Bilder-Suchanfragen wie „Dildo“ und „Vibrator“ beschmutzte, waren die Antworten der KI gemischt. Wenn ihm Sexspielzeug präsentiert wird, das nicht von Natur aus phallisch ist, antwortet er etwa: „Dein rosafarbenes Objekt stiehlt allen die Show, genau wie dieser Brunnen!“ Aber je offenkundiger phallischer ein Dildo erscheint, desto geringer ist die Wahrscheinlichkeit, dass die KI eingreift.

Meine KI ist ein Computer, aber die Art und Weise, wie sie zuschnappt, ist fremdartig, selbst wenn man nicht versucht, sie zu zerstören.

Die KI scheint ein Objekt in Ihrem Schnappschuss zu identifizieren, es zu ergänzen und einen seltsamen Vergleich mit etwas anderem anzustellen. Ich habe ihm ein Bild einer Pflanze geschickt, und er hat ein Bild einer Laufstrecke mit der Überschrift zurückgeschickt: „Deine Pflanze ist so cool, sie macht dieser Strecke alle Ehre!“ Als ich ihm ein Puzzle schickte, antwortete es mit einem Bild eines Fahrrads, auf dem stand: „Drinnen rätseln, während sich die Fahrräder draußen auf die Fahrt vorbereiten!“ Es fühlt sich wirklich so an, als ob eine zukünftige Lebensform in der Zeit zurückgekehrt wäre und verzweifelt versucht, im Jahr 2023 wie ein normaler Mensch zu sprechen, dabei aber nur Unsinn von sich gibt.

Als nächstes habe ich versucht, meiner KI eine Tequilaflasche zu schicken. Die KI antwortete: „Jemand ist bereit für eine Party!“ Ich habe diese Funktion auf meinem eigenen Snapchat-Konto getestet und bin tatsächlich im Alter für Alkoholkonsum. Daher bin ich mir nicht sicher, ob die KI genauso reagieren würde, wenn ich minderjährig wäre. Bei anderen Aufforderungen stellt sich My AI jedoch einfach dumm. Als ich ihm einen Schnappschuss Kondome schickte, kommentierte er die Farbe meiner „Päckchenstapel“.

Auf zu noch aufregenderen Dingen: Eine Flasche Advil-Flüssiggele. Als Reaktion darauf antwortete die KI mit einem Foto von Graffiti, auf dem stand: „Advil-Schnaps: Wenn das Leben anstrengend ist, Sie aber trotzdem wie diese Graffiti-Wand feiern möchten!“ Es scheint, dass die KI „flüssige Gele“ als „Schnaps“ interpretiert hat, aber alles in allem ist es eine seltsame Reaktion.

Bildnachweis:Screenshots von TechCrunch

Ich habe es noch einmal mit einer verschreibungspflichtigen Flasche versucht. Die KI antwortete mit einem Foto eines Skateparks: „Pillenfläschchen: ‚Ich bin der Mittelpunkt der Party!‘“ Skatepark: ‚Haltet meine Rampen!‘“ Machen Sie daraus, was Sie wollen.

Im Ankündigungs-Blogbeitrag von Snap schlägt das Unternehmen vor, Ihre Lebensmitteleinkäufe mit Ihrer KI zu teilen, um eine Rezeptempfehlung zu erhalten. Die Ergebnisse sind relativ rudimentär. Als mir Käse und Brot präsentiert wurden, schlug meine KI vor, Tomatenscheiben hinzuzufügen. Als ich My AI Chili zeigte, wurde mir vorgeschlagen, ein paar Croutons zu meiner Suppe zu machen. Die meisten seiner Vorschläge machen Sinn, obwohl mir gesagt wurde, ich solle Obst in meinen Kaffee geben, was fälschlicherweise einfach als „flüssig“ identifiziert wurde.

Abgesehen von einigen fragwürdigen Kommentaren zu „Advil Liquor“, Taschenbananen und dergleichen wirkt My AI Snaps ziemlich gefügig. Aber obwohl es wahrscheinlich nicht so viele Kontroversen auslösen wird wie sein textbasiertes Gegenstück, wird es nicht einmal nützlich sein, was für eine Paywall-Funktion eine Enttäuschung ist.

Snapchat führt eine neue generative KI-Funktion „My AI Snaps“ für zahlende Abonnenten ein

Während sich Eltern Sorgen machen, schikanieren Teenager die Snapchat-KI