Em 15 apresentações no estilo TED Discuss, o corpo docente do MIT discutiu recentemente sua pesquisa pioneira que incorpora considerações e conhecimentos sociais, éticos e técnicos, cada um apoiado por subsídios de sementes estabelecidos pelo Responsabilidades sociais e éticas da computação (SERC), uma iniciativa cruzada do MIT Schwarzman Faculty of Computing. O chamar propostas O verão passado foi recebido com quase 70 aplicações. Um comitê com representantes de todas as escolas do MIT e a faculdade se reuniu para selecionar os projetos vencedores que receberam até US $ 100.000 em financiamento.
“A SERC está comprometida em impulsionar o progresso na interseção da computação, ética e sociedade. Os subsídios de sementes são projetados para acender um pensamento ousado e criativo em torno dos complexos desafios e possibilidades nesse espaço”, disse Nikos Trhahakis, reitor co-associado da SERC e o professor JC Penney. “Com a ética do MIT do Simpósio de Pesquisa em Computação, achamos importante não apenas mostrar a amplitude e profundidade da pesquisa que está moldando o futuro da computação ética, mas para convidar a comunidade a fazer parte da conversa também”.
“O que você está vendo aqui é uma espécie de julgamento coletivo da comunidade sobre o trabalho mais emocionante quando se trata de pesquisas, nas responsabilidades sociais e éticas da computação que estão sendo feitas no MIT”, disse Caspar Hare, reitor co-associado do SERC e professor de filosofia.
O Simpósio de dia inteiro Em 1º de maio, foi organizado em torno de quatro temas-chave: tecnologia responsável de assistência médica, governança e ética da inteligência synthetic, tecnologia na sociedade e engajamento cívico e inclusão digital e justiça social. Os palestrantes fizeram apresentações instigantes sobre uma ampla gama de tópicos, incluindo viés algorítmico, privacidade de dados, implicações sociais da inteligência synthetic e a relação em evolução entre humanos e máquinas. O evento também apresentou uma sessão de pôsteres, onde os pesquisadores de estudantes exibiram projetos Eles trabalharam ao longo do ano como Estudiosos da SERC.
Destaques do Simpósio de Pesquisa em Computação do MIT em cada uma das áreas temáticas, muitos dos quais estão disponíveis para assistir no YouTubeincluído:
Tornando o sistema de transplante de rim mais justo
As políticas que regulam o sistema de transplante de órgãos nos Estados Unidos são feitas por um comitê nacional que geralmente leva mais de seis meses para criar e, em seguida, anos para implementar, uma linha do tempo que muitos na lista de espera simplesmente não podem sobreviver.
Dimitris Bertsimas, vice -reitor de aprendizado aberto, reitor associado de análise de negócios e professor de pesquisa de operações da Boeing, compartilhou seu último trabalho em análise para alocação de transplante de rim justo e eficiente. O novo algoritmo de Bertsimas examina critérios como localização geográfica, mortalidade e idade em apenas 14 segundos, uma mudança monumental em relação às seis horas habituais.
Bertsimas e sua equipe trabalham em estreita colaboração com a United Community for Organ Sharing (UNOS), uma organização sem fins lucrativos que gerencia a maior parte do sistema nacional de doação e transplante por meio de um contrato com o governo federal. Durante sua apresentação, Bertsimas compartilhou um vídeo de James Alcorn, estrategista de políticas sênior da UNOS, que ofereceu esse resumo pungente do impacto que o novo algoritmo tem:
“Essa otimização muda radicalmente o tempo de resposta para avaliar essas diferentes simulações de cenários de políticas. Costumava levar alguns meses para olhar para um punhado de diferentes cenários de políticas, e agora leva alguns minutos para analisar milhares e milhares de cenários. Somos capazes de fazer essas mudanças muito mais rápidas, que, por fim, podem melhorar o sistema.
A ética do conteúdo de mídia social gerado pela IA
À medida que o conteúdo gerado pela IA se torna mais prevalente nas plataformas de mídia social, quais são as implicações da divulgação (ou não da divulgação) de que qualquer parte de um submit foi criada pela IA? Adam Berinsky, Professor de Ciência Política de Mitsui, e Gabrielle Péloquin-Skulski, estudante de doutorado no Departamento de Ciência Política, exploraram essa questão em uma sessão que examinou estudos recentes sobre o impacto de vários rótulos em conteúdo gerado pela IA.
Em uma série de pesquisas e experimentos que afixam rótulos a postagens geradas pela IA, os pesquisadores analisaram como palavras e descrições específicas impactaram a percepção dos usuários sobre o engano, sua intenção de se envolver com o submit e, finalmente, se a postagem period verdadeira ou falsa.
“O grande argumento de nosso conjunto inicial de descobertas é que um tamanho não se encaixa em todos”, disse Péloquin-Skulski. “Descobrimos que rotular imagens geradas pela IA com um rótulo orientado para o processo reduz a crença em postagens falsas e verdadeiras. Isso é bastante problemático, pois a rotulagem pretende reduzir a crença das pessoas em informações falsas, não necessariamente informações verdadeiras. Isso sugere que os rótulos que combinam o processo e a veracidade podem ser melhores em combater a informação gerada pela AI” “
Usando a IA para aumentar o discurso civil on-line
“Nossa pesquisa pretende abordar como as pessoas querem cada vez mais ter uma opinião nas organizações e comunidades às quais pertencem”, Lily Tsai explicado em uma sessão em experimentos em IA generativa e no futuro da democracia digital. Tsai, professor de ciências políticas da Ford e diretor do MIT Governança Lab, está conduzindo pesquisas em andamento com Alex Pentland, professor de ciências das artes da mídia de Toshiba e uma equipe maior.
As plataformas deliberativas on-line têm recentemente crescendo popularidade nos Estados Unidos em ambientes do setor público e privado. Tsai explicou que, com a tecnologia, agora é possível que todos tenham uma palavra a dizer – mas isso pode ser esmagador ou até se sentir inseguro. Primeiro, muita informação está disponível e, em segundo lugar, o discurso on -line tornou -se cada vez mais “incivil”.
O grupo se concentra em “como podemos desenvolver as tecnologias existentes e melhorá -las com pesquisas rigorosas e interdisciplinares e como podemos inovar integrando a IA generativa para aprimorar os benefícios dos espaços on -line para a deliberação”. Eles desenvolveram sua própria plataforma I-i-Built-in para democracia deliberativa, deliberação.io, e lançaram quatro módulos iniciais. Todos os estudos estão no laboratório até agora, mas também estão trabalhando em um conjunto de estudos de campo, o primeiro dos quais estará em parceria com o governo do Distrito de Columbia.
Tsai disse à platéia: “Se você não levar mais nada a partir desta apresentação, espero que você tire isso – que todos devemos exigir que as tecnologias que estão sendo desenvolvidas sejam avaliadas para ver se eles têm resultados positivos a jusante, em vez de apenas focar em maximizar o número de usuários”.
Um suppose tank público que considera todos os aspectos da IA
Quando Catherine d’Egnazio, professora associada de ciência e planejamento urbano, e Nikko Stevens, pós -doutorado no Knowledge + Feminism Lab do MIT, enviou inicialmente sua proposta de financiamento, eles não pretendiam desenvolver um suppose tank, mas uma estrutura – uma que articulou como a inteligência synthetic e a aprendizagem de máquinas de aprendizagem de metralhadoras, os métodos comunitários e utilizavam a inteligência synthetic.
No ultimate, eles criaram a IA liberatória, que eles descrevem Como um “suppose tank público rolante sobre todos os aspectos da IA”. D’Egnazio e Stevens reuniram 25 pesquisadores de uma variedade diversificada de instituições e disciplinas que o autor de mais de 20 trabalhos de posição examinando a literatura acadêmica mais atual sobre sistemas e engajamento de IA. Eles intencionalmente agruparam os papéis em três temas distintos: a paisagem corporativa da IA, becos sem saída e caminhos a seguir.
“Em vez de esperar a IA aberta ou o Google nos convidar para participar do desenvolvimento de seus produtos, nos reunimos para contestar o established order, pensar em maiores e reorganizar recursos nesse sistema na esperança de uma transformação social maior”, disse D’Ignazio.