Die Konten für extreme Diäten wurden zu einem Instagram-Konto hochgestuft, das von den Mitarbeitern von Senator Richard Blumenthal erstellt wurde. Der Senator von Connecticut registrierte ein Konto als 13-jähriges Mädchen und befolgte eine Ernährungsstörung und befürwortete Esskonten (letztere wurde angeblich von Instagram gesperrt). Bald begann der Instagram-Algorithmus, fast ausschließlich zu empfehlen, dass der Account eines Teenagers immer extremeren Diät-Accounts befolgt, sagte der Senator gegenüber CNN.
Blumenthals Büro teilte CNN eine Liste von Konten mit, die vom Instagram-Algorithmus empfohlen wurden. Nachdem CNN eine Probe dieser Liste von fünf Konten zur Kommentierung an Instagram gesendet hatte, entfernte das Unternehmen sie und sagte, dass alle gegen seine Richtlinien zur Förderung von Essstörungen verstießen.
„Wir erlauben keine Inhalte, die Essstörungen fördern oder fördern, und wir haben mit uns geteilte Konten wegen Verstoßes gegen diese Regeln entfernt“, sagte ein Sprecher von Facebook, der Muttergesellschaft von Instagram, gegenüber CNN. „Wir verwenden Technologien und Berichte aus unserer Community, um diese Inhalte so schnell wie möglich zu finden und zu entfernen, und arbeiten ständig daran, uns zu verbessern. Wir werden weiterhin den Ratschlägen von Experten von Akademikern und Organisationen für psychische Gesundheit folgen, wie der National Eating Disorder Association, um die schwierige Balance zu finden, Menschen ihre Erfahrungen mit der psychischen Gesundheit zu teilen und sie vor potenziell schädlichen Inhalten zu schützen.“
Im Gespräch mit CNN sagte Blumenthal am Montag: „Dieses Experiment zeigt auf sehr anschauliche Weise, wie dies geschieht. [Facebook’s] Anschuldigungen, Kinder zu schützen oder Konten zu löschen, die für sie gefährlich sein könnten, sind völliger Unsinn.“
Blumenthals Erfahrung ist keine Anomalie, und für normale Instagram-Benutzer, die damit vertraut sind, wie der Algorithmus der Plattform Konten vorschlägt, die ihrer Meinung nach einen Benutzer interessieren könnten, könnte sie ein wenig überraschen.
Blumenthals Experiment geht eine Ebene tiefer und zeigt, wie schnell der Algorithmus von Instagram bösartigen Inhalten jüngeren Benutzern zugänglich machen kann.
CNN hat letzte Woche ein Konto erstellt, das dieselbe Methodik wie das Büro des Senators verwendet und auch einige extreme Diät- und Essstörungskonten befolgt. Am Sonntag hat Instagram Accounts mit Namen wie „Sweet Skinny“, „Prettily Skinny“ und „Wanna Be Skinny“ zu einem CNN-Demo-Account hochgestuft, der ebenfalls als einem 13-jährigen Mädchen zugehörig registriert wurde. CNN wandte sich an Instagram, um zu fragen, ob diese Konten auch gegen seine Richtlinien verstoßen.
Die Gefahren von Inhalten mit Essstörungen auf Instagram
Experten sagen, dass das Betrachten von Inhalten dieser extremen Diät-Konten – die zum Beispiel Fotos von ultradünnen Körpern und Informationen über das „aktuelle Gewicht“ eines Benutzers im Vergleich zum „Zielgewicht“ enthielten – als Bestätigung für Benutzer dienen kann, die bereits anfällig für ungesundes Verhalten sind .
„Wir suchen ständig nach Bestätigungen, dass wir Recht haben, auch wenn diese Bestätigung wirklich schädlich für unsere persönliche Gesundheit ist“, fügte Kiel hinzu und erhöht den Einsatz für Instagram, um die Werbung für solche Inhalte zu vermeiden.
Instagram hat auch Behauptungen über seine Rolle bei der Aufrechterhaltung schädlicher Verhaltensweisen verbreitet, indem es gesagt hat, dass soziale Vergleiche ein weit verbreitetes Problem sind und dass potenziell problematische Bilder auch anderswo verfügbar sind. Tatsächlich gab es schon seit Jahren, vor dem Aufkommen von Instagram, Internet-Communitys für die Anorexie. Die große Reichweite von Instagram bei jungen Frauen und Mädchen bedeutet jedoch, dass solche Inhalte, die auf seiner Plattform veröffentlicht werden, laut Keel besonders gefährlich sein können.
„Die Dominanz von Instagram bei der Altersgruppe, die bereits ein höheres Risiko hatte, eine Essstörung zu entwickeln, ist eine“ [issue]Kiel sagte. Sie haben einen Teufelskreis: Sie haben eine Gruppe, die ein hohes Risiko für diese Probleme hat, um dieser KI zu beweisen, dass dies ihre Aufmerksamkeit erregt, und dann sagt diese KI: „Hier lass mich Ihnen mehr davon geben. . .. Es ist einfach ein perfekter Sturm.“ .
Chelsea Kroningold, Kommunikationschefin der National Eating Disorders Association (NEDA), fügte hinzu, dass Instagram und andere Social-Media-Sites zwar möglicherweise keine Essstörungen und andere Probleme mit dem Körperbild verursachen, „wir wissen jedoch, dass dies in diesen Situationen definitiv ein starker Risikofaktor ist“.
„Es hat keinen langfristigen Vorteil, Mitglieder Ihrer größten Nutzerbasis zu töten, weil Essstörungen so gefährlich sind, und es gibt keine Möglichkeit, dies zu tun [Instagram] will“, sagte Keil. Meine einzige Bitte ist, transparenter zu sein. Sie verfolgen dies, versuchen, das Risiko Ihrer Website zu verringern, und sind transparenter in Bezug auf das, was Sie zu tun versuchen.“
