Cativada desde criança por videogames e quebra-cabeças, Marzyeh Ghassemi também ficou fascinada desde cedo pela saúde. Felizmente, ela encontrou um caminho onde poderia combinar os dois interesses.
“Embora eu tivesse considerado uma carreira na área da saúde, a atração da ciência da computação e da engenharia period mais forte”, diz Ghassemi, professor associado do Departamento de Engenharia Elétrica e Ciência da Computação do MIT e do Instituto de Engenharia e Ciência Médica (IMES) e diretor investigador do Laboratório de Sistemas de Informação e Decisão (LIDS). “Quando descobri que a ciência da computação em geral, e a IA/ML especificamente, poderiam ser aplicadas aos cuidados de saúde, foi uma convergência de interesses.”
Hoje, Ghassemi e seu grupo de pesquisa sobre ML Saudável no LIDS trabalham no estudo aprofundado de como o aprendizado de máquina (ML) pode se tornar mais robusto e ser posteriormente aplicado para melhorar a segurança e a equidade na saúde.
Crescendo no Texas e no Novo México em uma família iraniano-americana voltada para a engenharia, Ghassemi teve modelos a seguir em uma carreira STEM. Embora ela adorasse videogames baseados em quebra-cabeças – “Resolver quebra-cabeças para desbloquear outros níveis ou progredir period um desafio muito atraente” – sua mãe também a envolveu em matemática mais avançada desde o início, incentivando-a a ver a matemática como mais do que aritmética.
“A adição ou a multiplicação são competências básicas enfatizadas por uma boa razão, mas o foco pode obscurecer a ideia de que grande parte da matemática e da ciência de nível superior são mais sobre lógica e puzzles”, diz Ghassemi. “Por causa do incentivo da minha mãe, eu sabia que havia coisas divertidas pela frente.”
Ghassemi conta que além da mãe, muitas outras pessoas apoiaram seu desenvolvimento intelectual. Quando ela obteve seu diploma de graduação na New Mexico State College, o diretor do Honors Faculty e ex-bolsista Marshall – Jason Ackelson, agora conselheiro sênior do Departamento de Segurança Interna dos EUA – ajudou-a a se inscrever para uma bolsa Marshall que a levou para a Universidade de Oxford, onde obteve um mestrado em 2011 e se interessou pela primeira vez pelo novo e em rápida evolução do campo do aprendizado de máquina. Durante seu trabalho de doutorado no MIT, Ghassemi diz que recebeu apoio “tanto de professores quanto de colegas”, acrescentando: “Esse ambiente de abertura e aceitação é algo que tento replicar para meus alunos”.
Enquanto trabalhava no seu doutoramento, Ghassemi também encontrou a primeira pista de que os preconceitos nos dados de saúde podem esconder-se nos modelos de aprendizagem automática.
Ela havia treinado modelos para prever resultados usando dados de saúde, “e a mentalidade na época period usar todos os dados disponíveis. Nas redes neurais para imagens, vimos que os recursos certos seriam aprendidos para um bom desempenho, eliminando a necessidade de engenharia handbook de recursos específicos.”
Durante uma reunião com Leo Celi, principal pesquisador do Laboratório de Fisiologia Computacional do MIT e IMES e membro do comitê de tese de Ghassemi, Celi perguntou se Ghassemi havia verificado o desempenho dos modelos em pacientes de diferentes gêneros, tipos de seguro e auto-estima. corridas relatadas.
Ghassemi verificou e houve lacunas. “Temos agora quase uma década de trabalho que mostra que estas lacunas nos modelos são difíceis de resolver – resultam de preconceitos existentes nos dados de saúde e nas práticas técnicas padrão. A menos que você pense cuidadosamente sobre eles, os modelos reproduzirão e ampliarão ingenuamente os preconceitos”, diz ela.
Ghassemi tem explorado essas questões desde então.
Seu avanço favorito no trabalho que realizou ocorreu em várias partes. Primeiro, ela e seu grupo de pesquisa mostraram que os modelos de aprendizagem poderiam reconhecer a raça de um paciente a partir de imagens médicas, como radiografias de tórax, o que os radiologistas não conseguem fazer. O grupo descobriu então que os modelos otimizados para um bom desempenho “em média” não tinham um desempenho tão bom para as mulheres e as minorias. No verão passado, o seu grupo combinou estas descobertas para mostrar que quanto mais um modelo aprendesse a prever a raça ou o género de um paciente a partir de uma imagem médica, pior seria a sua diferença de desempenho para os subgrupos desses dados demográficos. Ghassemi e a sua equipa descobriram que o problema poderia ser mitigado se um modelo fosse treinado para ter em conta as diferenças demográficas, em vez de se concentrar no desempenho médio geral — mas este processo tem de ser executado em todos os locais onde um modelo é implementado.
“Estamos enfatizando que os modelos treinados para otimizar o desempenho (equilibrando o desempenho geral com a menor lacuna de justiça) em um ambiente hospitalar não são ideais em outros ambientes. Isto tem um impacto importante na forma como os modelos são desenvolvidos para uso humano”, diz Ghassemi. “Um hospital pode ter os recursos para treinar um modelo e depois ser capaz de demonstrar que tem um bom desempenho, possivelmente até com restrições específicas de justiça. No entanto, a nossa investigação mostra que estas garantias de desempenho não se mantêm em novos ambientes. Um modelo bem equilibrado num native pode não funcionar eficazmente num ambiente diferente. Isso impacta a utilidade dos modelos na prática, e é essencial que trabalhemos para resolver esse problema para quem desenvolve e implanta modelos.”
O trabalho de Ghassemi é informado por sua identidade.
“Sou uma mulher visivelmente muçulmana e uma mãe – ambas ajudaram a moldar a forma como vejo o mundo, o que informa os meus interesses de investigação”, diz ela. “Eu trabalho na robustez dos modelos de aprendizado de máquina e em como a falta de robustez pode se combinar com os preconceitos existentes. Esse interesse não é uma coincidência.”
Em relação ao seu processo de pensamento, Ghassemi diz que a inspiração muitas vezes surge quando ela está ao ar livre – andando de bicicleta no Novo México quando period estudante de graduação, remando em Oxford, correndo como estudante de doutorado no MIT e atualmente caminhando pela Cambridge Esplanade. Ela também diz que achou útil, ao abordar um problema complicado, pensar nas partes do problema maior e tentar entender como suas suposições sobre cada parte podem estar incorretas.
“Na minha experiência, o fator mais limitante para novas soluções é o que você acha que sabe”, diz ela. “Às vezes é difícil superar seu próprio conhecimento (parcial) sobre algo até que você se aprofunde em um modelo, sistema, and many others., e perceba que não entendeu uma subparte correta ou totalmente.”
Por mais apaixonada que Ghassemi seja por seu trabalho, ela intencionalmente acompanha o panorama geral da vida.
“Quando você ama sua pesquisa, pode ser difícil impedir que ela se torne sua identidade – é algo que acredito que muitos acadêmicos precisam estar cientes”, diz ela. “Tento ter certeza de que tenho interesses (e conhecimento) além da minha própria experiência técnica.
“Uma das melhores maneiras de ajudar a priorizar o equilíbrio é com pessoas boas. Se você tem familiares, amigos ou colegas que o incentivam a ser uma pessoa plena, segure-os!”
Tendo ganhado muitos prêmios e muito reconhecimento pelo trabalho que engloba duas paixões iniciais – ciência da computação e saúde – Ghassemi professa fé em ver a vida como uma jornada.
“Há uma citação do poeta persa Rumi que é traduzida como: ‘Você é o que procura’”, diz ela. “Em todas as fases da sua vida, você tem que reinvestir na descoberta de quem você é e em direcionar isso para quem você deseja ser.”