A Inteligência Artificial (IA) generativa está ganhando destaque na área da saúde como uma potencial revolução no cuidado e tratamento dos pacientes. A capacidade de desenvolver medicamentos, acelerar a detecção de doenças e até analisar sintomas é vista como uma inovação que pode transformar o setor de saúde.
A Organização Mundial da Saúde (OMS) divulgou um documento analisando os perigos e benefícios do uso de grandes modelos multimodais (LMM), uma forma avançada de tecnologia de IA generativa. Esses modelos podem usar vários tipos de dados, incluindo texto, imagens e vídeos, para gerar resultados abrangentes e que vão além das informações inseridas no algoritmo.
A OMS identificou cinco áreas de aplicação potencial para a tecnologia LMM: triagem, pesquisa científica e desenvolvimento de medicamentos, educação na medicina, tarefas administrativas e uso por parte dos pacientes para análise de sintomas. No entanto, apesar do grande potencial, a organização alerta para possíveis riscos associados ao uso da IA generativa na área da saúde.
Resultados falsos, imprecisos, tendenciosos e incompletos são citados como possíveis desvantagens do uso desse tipo de tecnologia. Além disso, a OMS chama a atenção para a questão da ética e do gerenciamento do LMM, apresentando mais de 40 recomendações para governos, empresas de tecnologia e planos de saúde sobre como utilizar essa tecnologia de maneira segura.
A preocupação com a regulamentação, a proteção de dados e a participação de profissionais de saúde e pacientes no processo de desenvolvimento e implementação dos LMM também são abordadas pela OMS. A vulnerabilidade dos sistemas de IA generativa em relação a riscos de cibersegurança também é mencionada como uma questão a ser considerada.
Diante desses desafios, a OMS conclui que os governos devem cobrar das autoridades reguladoras uma supervisão mais rigorosa do uso da IA generativa na assistência médica. A organização enfatiza a necessidade de normas de responsabilidade para garantir que os usuários prejudicados por um LMM sejam devidamente compensados ou tenham outras formas de recurso.
A Organização Mundial da Saúde (OMS) divulgou um documento analisando os perigos e benefícios do uso de grandes modelos multimodais (LMM), uma forma avançada de tecnologia de IA generativa. Esses modelos podem usar vários tipos de dados, incluindo texto, imagens e vídeos, para gerar resultados abrangentes e que vão além das informações inseridas no algoritmo.
A OMS identificou cinco áreas de aplicação potencial para a tecnologia LMM: triagem, pesquisa científica e desenvolvimento de medicamentos, educação na medicina, tarefas administrativas e uso por parte dos pacientes para análise de sintomas. No entanto, apesar do grande potencial, a organização alerta para possíveis riscos associados ao uso da IA generativa na área da saúde.
Resultados falsos, imprecisos, tendenciosos e incompletos são citados como possíveis desvantagens do uso desse tipo de tecnologia. Além disso, a OMS chama a atenção para a questão da ética e do gerenciamento do LMM, apresentando mais de 40 recomendações para governos, empresas de tecnologia e planos de saúde sobre como utilizar essa tecnologia de maneira segura.
A preocupação com a regulamentação, a proteção de dados e a participação de profissionais de saúde e pacientes no processo de desenvolvimento e implementação dos LMM também são abordadas pela OMS. A vulnerabilidade dos sistemas de IA generativa em relação a riscos de cibersegurança também é mencionada como uma questão a ser considerada.
Diante desses desafios, a OMS conclui que os governos devem cobrar das autoridades reguladoras uma supervisão mais rigorosa do uso da IA generativa na assistência médica. A organização enfatiza a necessidade de normas de responsabilidade para garantir que os usuários prejudicados por um LMM sejam devidamente compensados ou tenham outras formas de recurso.
