Instagram introducerar en ny funktion för att skydda tonåringar från oönskad nakenhet i direkta meddelanden, ett steg från moderbolaget Meta för att hantera den ökande oron över unga användares säkerhet på dess plattformar.
Enligt Reuters kommer denna funktion när Meta står inför ökad granskning i både USA och Europa över de sociala medieapparnas påverkan på mental hälsa.
Förstärkta säkerhetsåtgärder
Den nya funktionen på Instagram använder maskininlärning direkt på enheten för att upptäcka och sudda ut bilder som innehåller nakenhet i direkta meddelanden. Detta skydd kommer att vara aktiverat som standard för användare under 18 år, och Meta planerar även att uppmuntra vuxna användare att aktivera denna funktion.
"Eftersom bilderna analyseras direkt på enheten, kommer skyddet mot nakenhet även att fungera i chattar med end-to-end-kryptering, där Meta inte kommer att ha tillgång till dessa bilder – såvida inte någon väljer att rapportera dem till oss," förklarade Meta.
Utöver skyddet mot explicit innehåll utvecklar Meta teknik för att identifiera konton som potentiellt är inblandade i utpressningsförsök.
Företaget testar nya popup-meddelanden som är utformade för att varna användare som kan ha interagerat med sådana konton, vilket ytterligare stärker dess ansträngningar att skydda sin gemenskap från onlineexploatering.
Ett svar på ökad granskning
Metas senaste säkerhetsfunktioner för Instagram kommer mitt i ökad granskning från tillsynsmyndigheter i USA och Europa. Teknikjätten står inför anklagelser om att dess plattformar bidrar till beroende och mental hälsoproblematik bland tonåringar.
I januari tillkännagav Meta åtgärder för att dölja känsligt innehåll för tonårsanvändare på Facebook och Instagram, inklusive ämnen relaterade till självmord, självskada och ätstörningar.
Företagets proaktiva inställning till användarsäkerhet har också markerats genom rättsliga åtgärder; i oktober stämde justitiekanslern från 33 amerikanska delstater Meta, med anklagelser om att det vilseledde allmänheten om riskerna med dess plattformar.
Europeiska kommissionen har även frågat om Metas insatser för att skydda barn från olagligt och skadligt innehåll.
