Watson: por que a inteligência artificial da IBM fracassou na área de saúde

No início de fevereiro, a notícia que o Watson Health estava à venda veio como surpresa a muitos e a outros nem tanto. Lançado com sucesso em 2011, um programa do IBM Watson venceu o show americano Jeopardy. O código automático conseguia prever perguntas e respostas em áreas de conhecimento geral, e bateu todos os outros concorrentes.

O Watson Health opera no segmento de saúde. A campanha era clara, a IA (inteligência artificial) iria mudar para melhor o tratamento dado aos pacientes, salvando vidas.

Relacionadas

Com uso de dados, planos de saúde devem virar "coach" dos pacientes

"Impressão de córnea": novas tecnologias podem recuperar a visão

Receba notícias de Tilt em seu WhatsApp

Um dos carros-chefes é a área de oncologia. Com a base de dados de um hospital, o MSKCC, o poder de recomendação do Watson foi replicado para pacientes em outros hospitais.

Essa foi uma das falhas, passar uma conduta de tratamento de um hospital a outro, sem adaptar à realidade daquele local. Por exemplo, o sistema automático trouxe recomendações de tratamentos avançados que não estavam disponíveis em centros de câncer menores.

Esses resultados começaram a levantar suspeitas e ceticismo dos médicos usuários do programa. E muitos resultados não tinham validação científica, eram apenas uma constatação enviesada pelo banco de dados do sistema de inteligência artificial.

Nos anos que se seguiram, a partir de 2015, foram compradas outras empresas do segmento que tinham bancos de dados maiores e uma carteira considerável de clientes. Compras bilionárias como as empresas Truven, Explorys, Phytel and Merge Healthcare foram feitas. De acordo com reportagens, essa incompatibilidade de fontes de dados tornou o sistema em Frankenstein, sem uma plataforma de backend coesa. Esse foi um dos problemas.

Marketing sem a evidência científica

O mais gritante foi o movimento de tornar os produtos comercializáveis antes mesmo de ter evidência que funcionavam.

Alimentaram promessas como descoberta de novos medicamentos, medicina personalizada, melhores práticas de conduta médica, reduzir o tempo de análise do médico e salvar vidas.

O mercado de saúde é muito intrincado, não existe uma ferramenta que resolva todos os problemas complexos.

Watson Health foi incisivo em suas campanhas de marketing, vendendo os produtos sem comprovação de evidências científicas dos resultados.

Em 2016, um grande centro de oncologia, o MD Anderson, quebrou contrato com a IBM, balançando ainda mais a confiança na plataforma. Mesmo assim, hoje a empresa fatura mais de um bilhão de dólares com os produtos do Watson Health.

Apesar da cifra substancial, a empresa não é sustentável e não tem lucro, nunca o teve.

Paralelo com a pneumonia por covid-19

Em um artigo recente publicado na revista Nature, o cientista Michael Roberts e seus colegas analisaram mais de dois mil artigos científicos que tinham como objetivo detectar o novo coronavírus em raio-X e tomografia computadorizada, diferenciando-o de outros tipos de pneumonia por vírus e bactéria.

Nenhum dos artigos foi capaz, dentro desta análise, de ser uma ferramenta clínica que funcionasse em ambiente clínico real.

Entre as causas estão bancos de dados de tamanho insuficiente, metodologia falha, dados de diversas fontes que não se integram, a dificuldade de se ter um prognóstico (como desfecho e preditores) e a dificuldade de se trabalhar junto com os médicos especialistas (produzindo sugestões que sejam explicáveis e não caixas pretas).

Todas essas dificuldades são as mesmas encontradas pelo sistema da IBM Watson Health.

Justamente, a grande falha da IBM foi focar na venda dos produtos, sem trabalhar a robustez de seu sistema, com metodologia correta e banco de dados não enviesados.

Ainda, este paper da Nature dá algumas sugestões para superar essas dificuldades, principalmente no desafio de usar dados de fontes diferentes e como trabalhar com dados internos e externos.

O Watson Health foi um dos pioneiros a usar IA para a área de saúde. Infelizmente, o desenvolvimento de seus produtos não satisfez a propaganda e gerou enorme desconfiança por parte dos hospitais, planos de saúde e médicos.

Ao se tornar grande e incorporar novas empresas, perdeu agilidade no mercado, tomado hoje por pequenas empresas e startups que conseguem encontrar os nichos e oferecer produtos que respondem à complexidade da biologia e dos sistemas de saúde.

No hype da IA em saúde, uma das ciladas desse relato é não se basear na ciência para salvar vidas.