Durante uma reunião da classe 6.C40/24.C40 (ética da computação), Professor Armando Photo voltaic-Lezama Coloca a mesma pergunta impossível para seus alunos que ele costuma se perguntar na pesquisa que lidera com o grupo de programação assistido por computador no MIT:
“Como garantir que uma máquina faça o que queremos e apenas o que queremos?”
Nesse momento, o que alguns consideram a period de ouro da IA generativa, isso pode parecer uma nova pergunta urgente. Mas o Photo voltaic-Lezama, o ilustre professor de computação do MIT, é rápido em apontar que essa luta é tão antiga quanto a própria humanidade.
Ele começa a recontar o mito grego do rei Midas, o monarca que recebeu o poder divino para transformar qualquer coisa que tocou em ouro sólido. Previsivelmente, o desejo saiu pela culatra quando Midas acidentalmente transformou todo mundo que ele amava em pedra dourada.
“Tenha cuidado com o que você pede, porque pode ser concedido de maneiras que você não espera”, diz ele, advertindo seus alunos, muitos deles aspirantes a matemáticos e programadores.
Cavando arquivos do MIT para compartilhar slides de fotografias em preto e branco granuladas, ele narra a história da programação. Ouvimos falar da máquina de pigmalion dos anos 70 que exigia pistas incrivelmente detalhadas, para o software program de computador do ultimate dos anos 90 que levou equipes de engenheiros anos e um documento de 800 páginas para programar.
Embora notáveis em seu tempo, esses processos demoraram muito para alcançar os usuários. Eles não deixaram espaço para descoberta espontânea, brincadeira e inovação.
A Photo voltaic-Lezama fala sobre os riscos de construir máquinas modernas que nem sempre respeitam as dicas ou as linhas vermelhas de um programador, e que são igualmente capazes de ser um dano exigente como salvar vidas.
Titus Roesler, um especialista em engenharia elétrica, assente conscientemente. Roesler está escrevendo seu artigo ultimate sobre a ética de veículos autônomos e pesando quem é moralmente responsável quando alguém hipoteticamente atinge e mata um pedestre. Suas perguntas de argumento subjacentes a suposições por trás dos avanços técnicas e consideram vários pontos de vista válidos. Ele se inclina sobre a teoria da filosofia do utilitarismo. Roesler explica: “Aproximadamente, de acordo com o utilitarismo, a coisa ethical a fazer traz sobre o melhor para o maior número de pessoas”.
MIT Thinker Brad Skowcom quem a Photo voltaic-Lezama se desenvolveu e está ensinando a equipe do curso, se inclina para frente e faz anotações.
Uma classe que exige experiência técnica e filosófica
Ética da computação, oferecida pela primeira vez no outono de 2024, foi criada através do Terreno comum para educação de computaçãouma iniciativa do MIT Schwarzman School of Computing que reúne vários departamentos para desenvolver e ensinar novos cursos e lançar novos programas que combinam computação com outras disciplinas.
Os instrutores alternam dias de aula. Skow, The Laurance S. Rockefeller Professor de Filosofia, traz a lente de sua disciplina para examinar as implicações mais amplas das questões éticas de hoje, enquanto Photo voltaic-Lezama, que também é diretor associado e diretor de operações do Laboratório de Ciência da Computação e Inteligência Synthetic do MIT, oferece ofertas perspectiva através dele.
Skow e Photo voltaic-Lezama participam das palestras uns dos outros e ajustam suas sessões de aula de acompanhamento em resposta. Apresentando o elemento de aprender um com o outro em tempo actual contribuiu para conversas de classe mais dinâmicas e responsivas. Uma recitação para quebrar o tópico da semana com estudantes de pós -graduação da filosofia ou ciência da computação e uma discussão animada combinam o conteúdo do curso.
“Um estranho pode pensar que essa será uma aula que garantirá que esses novos programadores de computadores sejam enviados ao mundo pelo MIT sempre façam a coisa certa”, diz Skow. No entanto, a turma é intencionalmente projetada para ensinar aos alunos um conjunto de habilidades diferentes.
Determinado a criar um curso impactante de um semestre que fez mais do que dar palestras sobre os alunos certos ou errados, o professor de filosofia Caspar Hare concebeu a idéia para a ética da computação em seu papel como reitor associado do Responsabilidades sociais e éticas da computação. Hare recrutou Skow e Photo voltaic-Lezama como instrutores principais, pois sabia que eles poderiam fazer algo mais profundo do que isso.
“Pensando profundamente nas perguntas que surgem nesta classe requer experiência técnica e filosófica. Não há outras lessons no MIT que coloquem ambos lado a lado”, diz Skow.
Foi exatamente isso que atraiu Alek Westover para se matricular. O Double de Matemática e Ciência da Computação explica: “Muitas pessoas estão falando sobre como a trajetória da IA olhará em cinco anos. Pensei que period importante fazer uma aula que me ajudará a pensar mais sobre isso”.
Westover diz que é atraído pela filosofia por causa do interesse em ética e do desejo de distinguir o certo do errado. Nas aulas de matemática, ele aprendeu a escrever uma declaração de problema e a receber uma clareza instantânea sobre se ele a resolveu com sucesso ou não. No entanto, na ética da computação, ele aprendeu a apresentar argumentos por escrito para “questões filosóficas complicadas” que podem não ter uma única resposta correta.
Por exemplo, “Um problema com o qual poderíamos nos preocupar é que o que acontece se construirmos agentes de IA poderosos que possam fazer qualquer trabalho que um humano possa fazer?” Westover pergunta. “Se estamos interagindo com essas AIs nesse grau, devemos pagar um salário? Quanto devemos nos preocupar com o que eles querem?”
Não há resposta fácil, e Westover assume que ele encontrará muitos outros dilemas no native de trabalho no futuro.
“Então, a web está destruindo o mundo?”
O semestre começou com um mergulho profundo no risco de IA, ou a noção de “se a IA representa um risco existencial para a humanidade”, descompactando livre arbítrio, a ciência de como nossos cérebros tomam decisões sob incerteza e debates sobre os passivos de longo prazo, e regulação da IA. Uma segunda unidade mais longa se concentrou na “Web, na World Large Internet e no impacto social das decisões técnicas”. O fim do termo analisa a privacidade, o viés e a liberdade de expressão.
Um tópico de aula foi dedicado a perguntar provocativamente: “Então, a Web está destruindo o mundo?”
O sênior Caitlin Ogoe é se especializando no curso 6-9 (computação e cognição). Estar em um ambiente em que ela pode examinar esses tipos de problemas é precisamente o motivo pelo qual a auto-descrita “cética da tecnologia” se inscreveu no curso.
Crescendo com uma mãe que está deficientes auditivos e uma irmãzinha com uma deficiência no desenvolvimento, Ogoe se tornou o membro padrão da família cuja função period ligar para os provedores de suporte técnico ou iPhones do programa. Ela alavancou suas habilidades em um emprego de meio período, consertando telefones celulares, que abriu o caminho para ela desenvolver um profundo interesse em computação e um caminho para o MIT. No entanto, uma prestigiada bolsa de verão em seu primeiro ano a fez questionar a ética por trás de como os consumidores foram impactados pela tecnologia que ela estava ajudando a programar.
“Tudo o que fiz com a tecnologia é da perspectiva das pessoas, educação e conexão pessoal”, diz Ogoe. “Este é um nicho que eu amo. Tomar aulas de humanidades em torno de políticas públicas, tecnologia e cultura é uma das minhas grandes paixões, mas este é o primeiro curso que fiz que também envolve um professor de filosofia”.
Na semana seguinte, Skow palestras sobre o papel de viés na IA e Ogoe, que está entrando na força de trabalho no próximo ano, mas planeja frequentar a faculdade de direito para se concentrar em regulamentar questões relacionadas, levanta sua mão para fazer perguntas ou compartilhar contrapontos quatro vezes .
Skow cava para examinar as Compas, um software program controverso de IA que usa um algoritmo para prever a probabilidade de que as pessoas acusadas de crimes continuassem a reincidir. De acordo com um Artigo de ProPublica de 2018A Compas provavelmente sinalizaria os réus negros como futuros criminosos e deram falsos positivos duas vezes a taxa, como aconteceu com os réus brancos.
A sessão da aula é dedicada a determinar se o artigo merece a conclusão de que o sistema de compas é tendencioso e deve ser descontinuado. Para fazer isso, Skow apresenta duas teorias diferentes sobre justiça:
“A justiça substantiva é a idéia de que um resultado específico pode ser justo ou injusto”, explica ele. “A justiça processual é sobre se o procedimento pelo qual um resultado é produzido é justo”. Uma variedade de critérios conflitantes de justiça são então introduzidos, e a classe discute quais eram plausíveis e que conclusões eles justificavam sobre o sistema de compas.
Mais tarde, os dois professores subiram para o escritório de Photo voltaic-Lezama para confundir sobre como o exercício havia sido naquele dia.
“Quem sabe?” diz Photo voltaic-Lezama. “Talvez daqui a cinco anos, todos rirão de como as pessoas estavam preocupadas com o risco existencial da IA. Mas um dos temas que vejo correndo por essa aula é aprender a abordar esses debates além do discurso da mídia e chegar ao fundo do pensamento rigorosamente sobre essas questões. ”