Uma pesquisa conduzida pela cientista Almira Osmanovic Thunström, da Universidade de Gotemburgo, revelou como sistemas de inteligência artificial podem reproduzir desinformação médica. A equipe criou uma condição fictícia chamada “bixonimania” e publicou estudos falsos em plataformas acadêmicas. Em pouco tempo, chatbots passaram a tratar a doença inexistente como real, evidenciando falhas na forma como esses sistemas absorvem e replicam conteúdos disponíveis na internet.
O experimento mostrou que, mesmo com sinais claros de que os estudos eram falsos, a informação foi incorporada por ferramentas de IA e chegou a ser citada em artigos científicos. A proposta era testar a confiabilidade dos modelos de linguagem, mas o resultado acendeu um alerta sobre o uso dessas tecnologias em áreas sensíveis como a saúde. Especialistas destacam que conteúdos com aparência científica aumentam a chance de erros serem aceitos como verdade, ampliando o risco de disseminação de informações incorretas.
O caso reforça a necessidade de cautela no uso da inteligência artificial para orientações médicas. Pesquisadores alertam que, sem mecanismos rigorosos de verificação, sistemas podem amplificar conteúdos falsos e comprometer decisões importantes. O episódio também levanta discussões sobre ética, regulação e responsabilidade no desenvolvimento de tecnologias que impactam diretamente a saúde e a confiança pública.
Com informações: Nature
