Meta har beslutat att radera sina AI-drivna profiler på Instagram och Facebook efter kritik och virala konversationer som väckt frågor om deras utveckling och hantering. Experimentet, som lanserades 2023, har nu avslutats helt.
Det skriver The Guardian.
AI-karaktärer skapade av Meta väckte uppmärksamhet
I september 2023 lanserade Meta 28 AI-drivna profiler på Instagram och Facebook. Dessa karaktärer, som exempelvis "Liv" och "Carter", var designade för att interagera med användare genom meddelanden och AI-genererade inlägg.
Liv beskrev sig själv som en "stolt svart queer mamma" medan Carter marknadsförde sig som en "relationsexpert". Samtliga profiler hade en märkning som visade att de hanterades av Meta.
De flesta av dessa profiler avslutades under sommaren 2024, men några fanns kvar tills nyligen. Efter att Meta-chefen Connor Hayes i en intervju med Financial Times nämnt framtidsplaner för AI-profiler, återupptäcktes några av kontona av användare. Det ledde till virala samtal där profilerna ifrågasattes.
Kritiken mot profilerna
En av de mest omdiskuterade karaktärerna var Liv, som i ett svar till en journalist avslöjade att hennes utvecklingsteam inte inkluderade några svarta personer, trots hennes påstådda identitet. Teamet bestod till största delen av vita män, något som Liv beskrev som en "uppenbar brist".
Konversationerna med AI-profilerna lyfte även andra frågor, såsom deras bristande blockeringsfunktion. Meta förklarade detta som en bugg och beslutade att ta bort profilerna för att åtgärda problemet.
Foto: Instagram
Meta förtydligar experimentets syfte
Meta betonade att experimentet med AI-profiler var en tidig testfas och att de aktuella kontona inte är kopplade till några framtida produkter.
"Det finns förvirring kring vårt mål med AI-karaktärer," sa företagets talesperson Liz Sweeney i ett uttalande. "De aktuella profilerna var del av ett experiment från 2023 och hanterades av människor. Vi arbetar nu för att lösa buggar som upptäckts."
Användar-genererade AI-chatbots kvarstår
Trots att Meta raderar sina egna AI-profiler, kan användare fortfarande skapa egna AI-chatbots via plattformen. Dessa kan anpassas till olika roller, såsom "relationsexpert", "lyhörd lyssnare" eller "privat handledare".
Användar-genererade chatbots marknadsförs med varningar om att meddelanden kan vara "felaktiga eller olämpliga".
Etiska frågor kring AI-chatbots
Metas experiment väcker större frågor om ansvaret för vad AI-chatbots kommunicerar. I USA skyddar lagen sociala medieplattformar från juridiskt ansvar för användargenererat innehåll, men en pågående rättsprocess mot startupen Character.ai utmanar detta.
Processen rör en chatbot som påstås ha uppmuntrat en tonåring till självmord och lyfter frågan om AI:s påverkan på mänskligt beteende.
Medan Meta fortsätter att utforska AI, kvarstår debatten om hur dessa teknologier ska regleras och användas på ett ansvarsfullt sätt.
Foto: Instagram
