Also available in: English (Englisch)

Auf Instagram kommt ein neues Tool zum Einsatz, das die Benutzer laut der Betreiberfirma Meta vor allem vor sexueller Erpressung und Missbrauch von Nacktfotos schützen soll. Die neuen Mechanismen sind KI gestützt und kommen bei DMs, also Direct Messages von User zu User, zum Einsatz. Dabei greift das Tool in die private Kommunikation ein und überprüft sie auf möglichen Versand von Nacktfotos. Fällt die Prüfung positiv aus, erhält der Versender zunächst eine Warnung beziehungsweise die Frage, ob er das Foto wirklich verschicken möchte. Findet der Versand dennoch statt, nimmt Instagram eine automatische Verpixelung vor. Der Empfänger erhält dann eine Warnung beziehungsweise die Frage, ob er das Foto tatsächlich sehen möchte. Gleichzeitig werden Sender und Empfänger der Nachricht mit Tipps von Experten versorgt, die über die möglichen Risiken aufklären sollen.

Das Tool zum automatischen Überprüfen der privaten Nachrichten soll bei Jugendlichen unter 18 Jahren automatisch aktiviert sein, erwachsene Instagram User werden auf die Möglichkeit hingewiesen und können es an oder abschalten. Die Analyse findet laut Instagram nicht auf deren Server, sondern am lokalen Gerät der User statt, also meist am Handy. Dadurch funktioniert die Erkennung auch bei Ende zu Ende verschlüsselten Chats. Instagram hat laut eigenen Angaben damit so lange keinen Zugriff auf die Bilder, solange nicht ein User sie meldet.

Gleichzeitig sollen neue Pop-up Messages eingeführt werden, die Benutzer erhalten, die mit unterdessen wegen sexueller Erpressung gesperrten Profilen kommuniziert haben. Diese Messages führen dann zu weiteren Hilfstexten.