Depois do Dr. Google, chegou o perigoso Dr. Grok, IA do X que lê exames

Da mesma forma que as pessoas depositam no Google a imagem de um repositório universal de onde se extrai todo o tipo de informação (inclusive sobre saúde), agora chegou a vez da IA clinicar.

Entra em cena o Doutor Grok.

Elon Musk, dono do X (antigo Twitter), publicou na rede social que o Grok, a IA desenvolvida pela empresa, agora consegue ler imagens de raio-X, tomografias, ressonâncias magnéticas e outras imagens médicas.

O empresário pediu para que os usuários da rede social começassem a enviar as imagens de seus exames para testar o quanto o Grok conseguia acertar na análise dos documentos médicos.

Os resultados são variados. Se por um lado alguns usuários comemoraram o fato de ter acesso a informações médicas diretamente da IA, outros apontaram equívocos nos resultados produzidos pelo Grok.

Não resta dúvidas que a IA cada vez mais será uma parceira na análise de imagens médicas, tornando mais eficiente a rotina dos profissionais que trabalham na área.

Mas isso é inteiramente diferente do fato de uma empresa disponibilizar a sua ferramenta de IA, que até então não era especializada na leitura de imagens médicas, para o uso indiscriminado.

O anúncio feito por Musk convida os usuários da rede social a subir os seus próprios exames e imagens médicas na plataforma.

Para muitos isso pode significar a superação de uma limitação do Doutor Google, já que a ferramenta de busca não analisa a situação específica do usuário, mas apenas responde a questões genéricas.

O Doutor Grok, por outro lado, lê e responde em cima de um exame do usuário.

Vale lembrar que ferramentas automatizadas, como o Grok, não possuem nesse estágio do seu desenvolvimento uma série de informações importantes para conferir a credibilidade em suas análises.

O Grok é muito bom em fazer imagens de Donald Trump e Kamala Harris, mas já experimentou pedir para a aplicação fazer imagens de Bolsonaro ou de Lula? As respostas são muito ruins porque ela não foi treinada adequadamente com imagens sobre personagens da política brasileira.

Da mesma forma, o resultado de prompts sobre café da manhã geralmente retorna imagens de panquecas com mel, ovo e linguiça.

Essa é uma IA americana, treinada com dados americanos e que dá respostas americanas.

Transferindo essa conclusão para a área da saúde, as respostas que o Grok dá em termos de "diagnóstico" não leva em consideração doenças e condições que são mais prevalecentes em outras partes do mundo que não os Estados Unidos, conforme já começou a ser apontado por alguns usuários que subiram seus exames.

Não menos importante nessa história é a questão dos dados pessoais.

Recentemente o X alterou a sua política de privacidade para informar que poderá usar as interações e publicações dos usuários para treinamento do Grok e demais soluções de IA.

A Autoridade Nacional de Proteção de Dados questionou a empresa sobre a medida.

Nesse contexto não deixa de ser curioso que o dono da rede social tenha vindo a público pedir que os usuários voluntariamente submetam seus exames e documentos médicos para treinar a ferramenta.

Diferentes legislações em diferentes partes do mundo restringem a forma pela qual profissionais de saúde podem compartilhar as informações de seus pacientes.

Mas isso vale quando é o próprio paciente que compartilha os exames com a rede social?

Como vivemos sempre na expectativa de qual será o próximo passo das aplicações mais populares da IA, um anúncio como esse feito por Musk naturalmente vai gerar um afluxo de novas imagens e exames médicos sendo inseridos na plataforma.

As pessoas querem saber se a IA já está lá e participar das novas tendências.

De qualquer forma, fica aqui o aviso de que essa onda em particular é traiçoeira. Existe um abismo entre o que as pessoas acham que a IA faz e o que ela realmente faz.

Se o fato de o Grok começar a ler exames médicos é em si impressionante, não se deve confundir isso com qualquer forma de diagnóstico médico.

Especialmente em casos de saúde, a diferença entre expectativa e realidade sobre as potencialidades da IA podem ter efeitos concretos na vida das pessoas.

Dito isso, em nome do jornalismo, submeti parte de uma radiografia odontológica minha recente no Grok, sem maiores identificações. O resultado parece bom para quem não entende nada do assunto.

Ainda bem que na semana que vem vou ao dentista.