Europa fecha acordo histórico para regulamentação da IA

Os dois lados deverão discutir detalhes nos próximos dias, o que poderá mudar a forma da legislação final.

O acordo exige que modelos básicos como ChatGPT e sistemas de IA de uso geral (GPAI, na sigla em inglês) cumpram as obrigações de transparência antes de serem colocados no mercado. Estas obrigações incluem a elaboração de documentação técnica, o cumprimento da legislação da UE em termos de direitos autorais e a divulgação de resumos detalhados sobre o conteúdo utilizado nos treinamentos dos modelos.

Os modelos básicos de alto impacto com risco sistêmico terão de realizar avaliações de versões, analisar  e mitigar riscos sistêmicos, realizar testes de adversidades, reportar à Comissão Europeia sobre incidentes graves, garantir a segurança cibernética e reportar sobre eficiência energética.

Os GPAI com risco sistêmico podem se basear em códigos de prática para cumprir o novo regulamento.

Sob o acordo, governos só podem utilizar a vigilância biométrica em tempo real em espaços públicos em casos de vítimas de determinados crimes, na prevenção de ameaças presentes ou previsíveis, como ataques terroristas, e na busca de suspeitos de crimes mais graves.

O acordo proíbe manipulação cognitivo-comportamental, eliminação indiscriminada de imagens faciais da Internet ou de gravações de câmeras de segurança, criação de um ranking de pontuação social e sistemas de categorização biométrica para inferir crenças políticas, religiosas, filosóficas, orientação sexual e raça.

Os consumidores teriam sob o acordo o direito de fazer reclamações e receber explicações, enquanto as multas por violações variariam entre 7,5 milhões de euros até 35 milhões de euros.

O grupo empresarial DigitalEurope criticou as regras como mais um ônus para as empresas, além de outra legislação recente.

"Temos um acordo, mas a que custo? Apoiamos totalmente uma abordagem baseada em risco, não na tecnologia em si, mas a tentativa de última hora de regular os modelos de base virou isto de cabeça para baixo", afirmou a Diretora Geral Cecilia Bonefeld-Dahl.

O grupo de direitos digitais European Digital Rights foi igualmente crítico.

“É difícil ficar animado com uma lei que, pela primeira vez na União Europeia, tomou medidas para legalizar o reconhecimento facial público ao vivo em todo o bloco”, disse a sua conselheira política sênior, Ella Jakubowska.

"Embora o Parlamento tenha lutado muito para limitar os danos, o pacote global sobre vigilância biométrica e definição de perfis é, na melhor das hipóteses, morno."

A legislação deverá entrar em vigor no início do próximo ano, assim que ambas as partes a ratificarem formalmente, e ser aplicada dois anos depois.