O sênior Audrey Lorvo está pesquisando a segurança da IA, que procura garantir que os modelos de IA cada vez mais inteligentes sejam confiáveis e podem beneficiar a humanidade. O crescente campo se concentra em desafios técnicos, como robustez e alinhamento de IA com valores humanos, além de preocupações sociais como transparência e responsabilidade. Os profissionais também estão preocupados com os riscos existenciais potenciais associados a ferramentas de IA cada vez mais poderosas.
“Garantir que a IA não seja mal utilizada ou age contrária às nossas intenções é cada vez mais importante à medida que abordamos a inteligência geral synthetic (AGI)”, diz Lorvo, um Ciência da Computação, Economia e Ciência de Dados principal. A AGI descreve o potencial da inteligência synthetic para combinar ou superar as capacidades cognitivas humanas.
Um MIT Schwarzman Faculty of Computing Responsabilidades Sociais e Éticas da Computação (SERC) ScholarLorvo analisa de perto como a IA pode automatizar processos e práticas de pesquisa e desenvolvimento de IA. Um membro do Grupo de pesquisa de large informationela está investigando as implicações sociais e econômicas associadas ao potencial da IA de acelerar a pesquisa sobre si e como comunicar efetivamente essas idéias e possíveis impactos ao público em geral, incluindo legisladores, consultores estratégicos e outros.
Lorvo enfatiza a necessidade de avaliar criticamente os rápidos avanços da IA e suas implicações, garantindo que as organizações tenham estruturas e estratégias adequadas para lidar com riscos. “Precisamos garantir que os humanos colham os benefícios da IA e que não perdemos o controle da tecnologia”, diz ela. “Precisamos fazer todo o possível para desenvolvê -lo com segurança.”
Sua participação em esforços como o Irmandade técnica de segurança da IA refletir seu investimento na compreensão dos aspectos técnicos da segurança da IA. A Irmandade oferece oportunidades para revisar a pesquisa existente sobre o alinhamento do desenvolvimento da IA com considerações de potencial impacto humano. “A irmandade me ajudou a entender as perguntas e desafios técnicos da segurança da IA, para que eu possa propor melhores estratégias de governança de IA”, diz ela. Segundo Lorvo, as empresas da fronteira da IA continuam a ultrapassar os limites, o que significa que precisamos implementar políticas eficazes que priorizem a segurança humana sem impedir a pesquisa.
Valor do engajamento humano
Ao chegar ao MIT, Lorvo sabia que queria seguir um curso de estudo que permitiria que ela trabalhasse no cruzamento da ciência e das humanidades. A variedade de ofertas no Instituto dificultou suas escolhas.
“Existem muitas maneiras de ajudar a promover a qualidade de vida para indivíduos e comunidades”, diz ela, “e o MIT oferece tantos caminhos diferentes para investigação”.
Começando com a economia-uma disciplina que ela gosta por causa de seu foco na quantificação do impacto-Lorvo investigou matemática, ciência política e planejamento urbano antes de escolher o curso 6-14.
“Professor Joshua Angist As aulas de economia me ajudaram a ver o valor de focar na economia, enquanto os elementos de ciência de dados e ciência da computação me atraíram por causa do crescente alcance e impacto potencial da IA ”, diz ela. “Podemos usar essas ferramentas para enfrentar alguns dos problemas mais prementes do mundo e, esperançosamente, superar sérios desafios”.
Lorvo também perseguiu concentrações em Estudos urbanos e planejamento e Desenvolvimento Internacional.
Quando ela reduziu seu foco, Lorvo descobre que compartilha uma perspectiva sobre a humanidade com outros membros da comunidade do MIT como o MIT AI Alignment Groupde quem ela aprendeu um pouco sobre a segurança da IA. “Os alunos se preocupam com seu impacto marginal”, diz ela.
Impacto marginal, o efeito adicional de um investimento específico de tempo, dinheiro ou esforço, é uma maneira de medir quanto uma contribuição contribui para o que já está sendo feito, em vez de se concentrar no impacto whole. Isso pode potencialmente influenciar onde as pessoas optam por dedicar seus recursos, uma idéia que atrai Lorvo.
“Em um mundo de recursos limitados, uma abordagem orientada a dados para resolver alguns de nossos maiores desafios pode se beneficiar de uma abordagem personalizada que direciona as pessoas para onde é provável que façam o melhor”, diz ela. “Se você deseja maximizar seu impacto social, refletir sobre o impacto marginal da sua escolha de carreira pode ser muito valioso”.
Lorvo também valoriza o foco do MIT em educar todo o aluno e aproveitou as oportunidades de investigar disciplinas como a filosofia por meio de MIT Concourseum programa que facilita o diálogo entre a ciência e as humanidades. Concourse espera que os participantes obtenham orientação, clareza e propósito para atividades científicas, técnicas e humanas.
Experiências de estudantes no Instituto
Lorvo investe seu tempo fora da sala de aula na criação de experiências memoráveis e promovendo relacionamentos com seus colegas de classe. “Tenho a sorte de que há espaço para equilibrar meus cursos, pesquisas e compromissos de clube com outras atividades, como elevador de peso e iniciativas fora do campus”, diz ela. “Sempre há tantos clubes e eventos disponíveis em todo o instituto”.
Essas oportunidades de expandir sua visão de mundo desafiaram suas crenças e a expuseram a novas áreas de interesse que alteraram sua vida e as escolhas de carreira para melhor. Lorvo, que é fluente em francês, inglês, espanhol e português, também aplaude o MIT pelas experiências internacionais que oferece para os alunos.
“Eu estagiei em Santiago de Chile e Paris com Misti e ajudou a testar um câmara de condensação de vapor de água que projetamos em um outono de 2023 D-Lab classe em colaboração com o Escola Politécnica de Madagascar e Tatirano ONG (Organização não-governamental) ”, diz ela,“ e aproveitou as oportunidades de aprender sobre como lidar com a desigualdade econômica por meio de minhas courses internacionais de desenvolvimento e D-laboratório ”.
Como presidente do MIT Associação de Economia de GraduaçãoLorvo se conecta com outros estudantes interessados em economia enquanto continua a expandir sua compreensão do campo. Ela gosta dos relacionamentos que está construindo enquanto também participa dos eventos da associação ao longo do ano. “Mesmo como veterano, encontrei novas comunidades do campus para explorar e apreciar”, diz ela. “Encorajo outros estudantes a continuarem explorando grupos e aulas que despertam seus interesses ao longo do tempo no MIT”.
Após a graduação, Lorvo quer continuar investigando a segurança da IA e pesquisando estratégias de governança que possam ajudar a garantir a implantação segura e eficaz da IA.
“A boa governança é essencial para o desenvolvimento bem -sucedido da IA e garantir que a humanidade possa se beneficiar de seu potencial transformador”, diz ela. “Devemos continuar monitorando o crescimento e as capacidades da IA à medida que a tecnologia continua a evoluir”.
Compreender os impactos potenciais da tecnologia na humanidade, fazendo o bem, melhorando continuamente e criando espaços onde grandes idéias podem ver a luz do dia continuar dirigindo Lorvo. Mesclar as humanidades com as ciências anima muito do que ela faz. “Eu sempre esperava contribuir para melhorar a vida das pessoas, e a IA representa o maior desafio e oportunidade da humanidade ainda”, diz ela. “Acredito que o campo de segurança da IA pode se beneficiar de pessoas com experiências interdisciplinares como o tipo que tive a sorte de ganhar, e encorajo qualquer pessoa apaixonada por moldar o futuro a explorá -lo”.