A inteligência artificial aplicada na saúde pode gerar orientações incorretas, violação de dados pessoais e disseminar desinformação. O alerta é da Organização Mundial da Saúde, OMS. A entidade pede cautela com plataformas como ChatGPT, Bard, Bert e diversas outras que imitam a compreensão, o processamento e a produção da comunicação humana.

Ampla difusão

Segundo a OMS, as chamadas ferramentas de modelo de linguagem, LLMs, geradas por inteligência artificial podem representar riscos para o bem-estar humano e para a saúde pública.

Os especialistas da agência consideram que a rápida e ampla difusão das LLMs e o crescente uso experimental para fins relacionados à saúde não está sendo acompanhado por mecanismos de controle.

Isso inclui adesão das plataformas de inteligência artificial a valores como transparência, inclusão, engajamento público, supervisão especializada e avaliação rigorosa.

A OMS reconhece que o uso apropriado de tecnologias, incluindo LLMs, pode contribuir para apoiar profissionais de saúde, pacientes, pesquisadores e cientistas. felipe

As novas plataformas podem ser uma ferramenta de apoio às decisões médicas e aumentar a capacidade de diagnóstico em ambientes com poucos recursos. O foco deve estar em proteger a saúde das pessoas e reduzir a desigualdade.

Adoção precipitada

Mas a entidade ressalta que os riscos associados ao uso dessas ferramentas para melhorar o acesso a informações de saúde precisam ser avaliados cuidadosamente.

A adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes e minar a confiança na inteligência artificial e em tecnologias futuras.

Os dados usados ​​para treinar a inteligência artificial podem ser tendenciosos, gerando informações enganosas ou imprecisas que podem representar riscos à saúde, à equidade e à inclusão.

*Com informações da Agência Brasil.