Por Leonardo Neri

Um dos painéis mais populares do AI Governance Global 2023 foi: “Can Generative AI Survive the GDPR?”.

A discussão com painelistas acadêmicos, reguladores (EDPS – Autoridade Europeia para a Proteção de Dados, dentre outras) e indústria, levantou mais questões do que respostas, na verdade ninguém soube esclarecer como conciliar. os desafios da inteligência artificial generativa e as regras de privacidade e proteção de dados.

Apenas para clarificar, quando falamos em IA generativa, compreende-se a inteligência artificial que cria em cima de conteúdo existente, ou seja, que passa a pensar em cima das informações que lhe são apresentadas.

Nesse sentido, o painel produziu uma discussão interessante. Destacamos nesse breve artigo os pontos que consideramos mais importantes.

Uma observação foi unânime: ainda não está claro como convergir as regras de proteção de dados (neste caso o GDPR) e os desafios da inteligência artificial generativa.

Pelo menos reconheceram que é necessário um equilíbrio entre a proteção de dados e a inovação tecnológica para criar um ambiente regulamentar flexível para o desenvolvimento e aplicação da IA.
Entre o GDPR e a inteligência artificial generativa trouxeram as seguintes questões:

• Hipóteses legais sobre o tratamento das informações coletadas durante a criação de materiais educativos. Eles entendem que o interesse legítimo é a base jurídica mais importante neste caso;
  
• Transparência não só na formação da utilização de dados pessoais, mas também nas características e funções dos sistemas de inteligência artificial;
  
• Minimização de dados devido à incerteza (e problemas operacionais) na determinação do tempo de retenção dos dados utilizados;
  
• Direitos dos titulares (especialmente no que diz respeito à atualização/correção de informação e esquecimento). Até ao momento não encontraram uma solução que permitisse utilizar estes direitos de forma fácil e rápida.

Recomendações?

Tenha cuidado em sua análise de risco e teste de equilíbrio e certifique-se de que os benefícios superem os riscos de privacidade.

Por último, foi enfatizada a necessidade de colaboração entre a indústria, a sociedade civil e os reguladores para desenvolver boas práticas e ter em conta a complexidade da IA na proteção de dados pessoais.