Regulating Black-Box Medicine

Data drive medicina moderna. E nossas ferramentas para analisar esses dados estão ficando cada vez mais poderosas. Como os dados de saúde são coletados em quantidades cada vez maiores, algoritmos sofisticados baseados nesses dados podem impulsionar a inovação médica, melhorar o processo de atendimento e aumentar a eficiência. Esses algoritmos, no entanto, variam muito em qualidade. Alguns são precisos e poderosos, enquanto outros podem estar repletos de erros ou baseados em ciência defeituosa. Quando um algoritmo opaco recomenda uma dose de insulina para um paciente diabético, como sabemos que a dose está correta? Pacientes, fornecedores e seguradoras enfrentam dificuldades substanciais na identificação de algoritmos de alta qualidade; eles não possuem conhecimento e informações proprietárias. Como devemos garantir que os algoritmos médicos sejam seguros e eficazes? Algoritmos médicos precisam de supervisão regulatória, mas essa supervisão deve ser adequadamente adaptada. Infelizmente, o FDA sugeriu que regulará algoritmos sob sua estrutura tradicional; esse sistema relativamente rígido provavelmente sufocará a inovação e bloqueará o desenvolvimento de algoritmos mais flexíveis e atuais. Este artigo baseia-se em idéias do movimento New Governance para sugerir uma abordagem diferente. A FDA deve buscar uma abordagem regulatória mais adaptativa com requisitos que os desenvolvedores divulguem informações subjacentes a seus algoritmos. A divulgação permitiria que a supervisão do FDA fosse complementada pela avaliação de provedores, hospitais e seguradoras. Essa abordagem colaborativa complementaria a revisão da agência com o feedback contínuo do mundo real de atores sofisticados do mercado. Algoritmos médicos têm um tremendo potencial, mas garantir que esse potencial seja desenvolvido de maneira de alta qualidade exige um equilíbrio cuidadoso entre a supervisão pública e privada, e um papel para o FDA que medeia - mas não domina - a indústria em rápido desenvolvimento.