A autoridade italiana de proteção de dados, Garante per la Protezione dei Dati Personali (também conhecida como Garante), impôs uma proibição temporária ao serviço ChatGPT da OpenAI no país, citando preocupações com a proteção de dados.
Para isso, ordenou à empresa que pare imediatamente de processar os dados dos usuários, afirmando que pretende investigar a empresa para saber se está processando ilegalmente esses dados em violação das leis do Regulamento Geral de Proteção de Dados (GDPR) da UE.
"Não são fornecidas informações aos usuários e aos titulares de dados cujos dados são coletados pela Open AI", observou o Garante.
"Mais importante ainda, não parece haver nenhuma base legal que sustente a coleta e processamento massivo de dados pessoais para 'treinar' os algoritmos nos quais a plataforma se baseia".
O ChatGPT, que estima-se ter alcançado mais de 100 milhões de usuários ativos mensais desde seu lançamento no final do ano passado, não divulgou o que foi usado para treinar seu último modelo de linguagem grande (LLM), GPT-4, ou como foi treinado.
Dito isso, seu antecessor, GPT-3, utiliza texto obtido de livros, Wikipedia e Common Crawl, este último mantendo um "repositório aberto de dados de rastreamento da web que pode ser acessado e analisado por qualquer pessoa".
O Garante também apontou a falta de qualquer sistema de verificação de idade para impedir menores de acessar o serviço, expondo-os potencialmente a respostas "inapropriadas".
O próprio chatbot do Google, chamado Bard, só está aberto a usuários com mais de 18 anos.
Além disso, o regulador levantou questões sobre a precisão das informações fornecidas pelo ChatGPT, enquanto destacava uma violação de dados a que o serviço foi submetido no início deste mês, que expôs alguns títulos de bate-papo dos usuários e informações relacionadas a pagamentos.
Em resposta à ordem, a OpenAI bloqueou seu chatbot de inteligência artificial generativo para usuários com endereço IP italiano.
A empresa também disse que está emitindo reembolsos para assinantes do ChatGPT Plus, além de pausar renovações de assinaturas.
A empresa sediada em São Francisco enfatizou ainda que fornece o ChatGPT em conformidade com o GDPR e outras leis de privacidade.
O ChatGPT já está bloqueado na China, Irã, Coreia do Norte e Rússia.
Em comunicado compartilhado com a Reuters, a OpenAI disse que trabalha ativamente para "reduzir dados pessoais no treinamento de nossos sistemas de IA, como o ChatGPT, porque queremos que nossa IA aprenda sobre o mundo, não sobre indivíduos privados".
A OpenAI tem 20 dias para notificar o Garante das medidas que tomou para estar em conformidade, ou corre o risco de enfrentar multas de até €20 milhões ou 4% do faturamento anual total em todo o mundo, o que for maior.
No entanto, espera-se que a proibição não afete aplicativos de outras empresas que usam a tecnologia da OpenAI para aumentar seus serviços, incluindo o mecanismo de busca Bing da Microsoft e suas ofertas Copilot.
O desenvolvimento também ocorre quando a Europol alertou que LLMs como o ChatGPT provavelmente ajudarão a gerar código malicioso, facilitar fraudes e "oferecer aos criminosos novas oportunidades, especialmente para crimes envolvendo engenharia social, dadas suas habilidades para responder a mensagens em contexto e adotar um estilo de escrita específico".
Esta não é a primeira vez que empresas focadas em IA estão sob o radar.
No ano passado, a controversa empresa de reconhecimento facial Clearview AI foi multada por vários reguladores europeus por raspar as fotos publicamente disponíveis dos usuários sem consentimento para treinar seu serviço de correspondência de identidade.
Também tem violado as leis de privacidade na Austrália, Canadá e EUA, com vários países ordenando que a empresa exclua todos os dados obtidos dessa maneira.
A Clearview AI disse à BBC News na semana passada que realizou quase um milhão de pesquisas para agências de aplicação da lei dos EUA, apesar de ter sido permanentemente banida de vender seu banco de dados de pegadas faciais dentro do país.
Publicidade
Passe por todas as principais fases de um pentest, utilizando cenários, domínios e técnicas reais utilizados no dia a dia de um hacker ético. Conte ainda com certificado e suporte, tudo 100% gratuito. Saiba mais...