Procuradores alertam OpenAI sobre a intolerância a danos a crianças

O Procurador-Geral da Califórnia, Rob Bonta, e a Procuradora-Geral de Delaware, Kathy Jennings, se reuniram e enviaram uma carta aberta à OpenAI para expressar suas preocupações sobre a segurança do ChatGPT, especialmente para crianças e adolescentes. O aviso vem uma semana após Bonta e outros 44 procuradores gerais terem enviado uma carta para 12 das principais empresas de IA, após relatos de interações sexualmente inadequadas entre chatbots de IA e crianças. "Desde a emissão daquela carta, soubemos da trágica morte por suicídio de um jovem californiano após ter interações prolongadas com um chatbot da OpenAI, bem como de um assassinato-suicídio igualmente perturbador em Connecticut," escrevem Bonta e Jennings. "Quaisquer salvaguardas que estavam em vigor não funcionaram." Os dois funcionários estaduais estão atualmente investigando a proposta de reestruturação da OpenAI em uma entidade com fins lucrativos para garantir que a missão da organização sem fins lucrativos permaneça intacta. Essa missão "inclui garantir que a inteligência artificial seja implantada de forma segura" e desenvolver inteligência artificial geral (AGI) para beneficiar toda a humanidade, "incluindo crianças", conforme a carta. "Antes de começarmos a beneficiar, precisamos garantir que medidas de segurança adequadas estejam em vigor para não causar danos", continua a carta. "É nossa visão compartilhada que a OpenAI e a indústria em geral não estão onde precisam estar para garantir a segurança no desenvolvimento e implantação de produtos de IA. Como Procuradores Gerais, a segurança pública é uma de nossas missões principais. À medida que continuamos nosso diálogo relacionado ao plano de recapitalização da OpenAI, devemos trabalhar para acelerar e ampliar a segurança como uma força governante no futuro dessa tecnologia poderosa." Bonta e Jennings solicitaram mais informações sobre as precauções de segurança e governança atuais da OpenAI e afirmaram que esperam que a empresa adote medidas corretivas imediatas, quando apropriado. O TechCrunch entrou em contato com a OpenAI para comentar.