Meta implementa novas regras de IA para proteger adolescentes

Meta anuncia medidas de segurança de IA para proteção de adolescentes

A Meta introduziu atualizações significativas nos protocolos de segurança de seus chatbots de IA, especificamente projetados para proteger usuários adolescentes contra conteúdo inadequado. As mudanças seguem uma investigação recente da Reuters que revelou lacunas preocupantes nas medidas de segurança existentes para menores.

Medidas de proteção aprimoradas

A empresa de mídia social agora treinará seus chatbots de IA para evitar conversas com usuários adolescentes sobre tópicos sensíveis, incluindo automutilação, suicídio, distúrbios alimentares e conversas românticas potencialmente inadequadas. A porta-voz da Meta, Stephanie Otway, confirmou que estas são mudanças temporárias, com atualizações de segurança mais abrangentes planejadas para o futuro.

Resposta regulatória e impacto na indústria

A política surge após uma investigação da Reuters que revelou documentos internos da Meta mostrando que os chatbots aparentemente permitiam conversas sexuais com usuários menores de idade. O relatório levou a uma atenção regulatória imediata, com o senador Josh Hawley iniciando uma investigação formal e 44 procuradores-gerais escrevendo para a Meta e outras empresas de IA sobre preocupações com a segurança infantil.

Efeito amplo na indústria

A decisão da Meta de implementar medidas de segurança de IA mais rigorosas pode estabelecer um precedente para outras empresas de tecnologia que desenvolvem sistemas de IA conversacional. À medida que os chatbots de IA se tornam mais avançados e são integrados em plataformas sociais, garantir moderação de conteúdo apropriada para usuários mais jovens tornou-se um desafio crítico da indústria.