Este artigo convidado é uma adaptação do autor novo livro Do pessimismo à promessa: lições do Sul world sobre como projetar tecnologia inclusivapublicado pela MIT Press.
O que coleiras de rinoceronte habilitadas por IA na África do Sul, drones de detecção de pragas com visão computacional nas terras agrícolas do Punjab e dispositivos de saúde vestíveis na área rural do Malawi têm em comum?
Todas estas iniciativas fazem parte do IA para o bem movimento, que alinha tecnologias de IA com os objetivos de desenvolvimento sustentável das Nações Unidas para encontrar soluções para desafios globais como pobreza, saúde, educação e sustentabilidade ambiental.
Imprensa do MIT
A fome por soluções baseadas em IA é compreensível. Em 2023, 499 rinocerontes foram mortos por caçadores furtivos na África do Sul, um aumento de mais de 10 por cento a partir de 2022. Vários agricultores em Punjab perderam cerca de 90 por cento da sua produção de algodão para a lagarta rosa do algodão; se a praga tivesse sido detectada a tempo, eles poderiam ter salvado suas plantações. Quanto à assistência médica, apesar de décadas de esforço para aumentar o número de profissionais de saúde em áreas rurais, eles continuam a migrar para as cidades.
Mas o que torna a IA “boa”? Por que precisamos prefaciar as aplicações de IA no Sul International com moralidade e caridade? E a intenção nobre se traduzirá em fazer as ferramentas de IA funcionarem para a maioria do mundo?
Uma realidade alterada
O fato é que o Sul International de décadas atrás não existe.
Hoje, os países do Sul International estão mais confiantes, mais empreendedores e estão a assumir a liderança para serem pioneiros ferramentas de IA apropriadas localmente que funcionam para seu pessoal. Startups entendem que o sucesso de novas tecnologias depende da alavancagem do conhecimento native para adoção e escalonamento significativos.
A velha fórmula de “inovar no Ocidente e disseminar para o resto” está fora de sincronia com esta nova realidade. Enquanto o Ocidente mantém seu antigo zelo missionário, o Colaboração Sul-Sul continua a crescer, compartilhando novas tecnologias e construindo governança de IA. Além disso, algumas iniciativas de altruísmo tecnológico têm sido alvo de escrutínio, pois ofuscam suas atividades de extração de dados, tornando-as mais transacionais do que caritativas.
O mercado do altruísmo tecnológico
Em agosto, o quadro jurídico da União Europeia sobre IA, a Lei da IA, entrou em vigor. Suas medidas visam ajudar cidadãos e partes interessadas a otimizar essas ferramentas, ao mesmo tempo em que mitigam os riscos. Há pouca menção à IA para o bem em seus documentos; é simplesmente o padrão. No entanto, à medida que mudamos do Norte International para o Sul, a moralidade entra em ação.
O altruísmo tecnológico sublinha esta mudança. Muitas das iniciativas da IA para o Bem são financiado por filantropos de tecnologia em parceria com agências globais de ajuda. Fazer o bem se manifesta na pilotagem de soluções tecnológicas, com o Sul International como um laboratório vivo. Uma piada recorrente entre os trabalhadores do desenvolvimento é que seu campo sofre de “pilotite”, uma síndrome aguda de projetos piloto que nunca escalam. O Sul International é tipicamente visto como um receptor, um mercado, um beneficiário do tecno-solucionismo.
Pegue coleiras de IA para rinocerontes. Iniciativa de colar de conservação na África do Sul, por exemplo, detecta comportamento anormal, e esses sinais são enviados para um sistema de IA que calcula a probabilidade de risco. Se determinar que o animal está em risco urgente, os guardas podem hipoteticamente agir imediatamente para impedir a caça furtiva. Mas quando minha equipe investigou o realidades terrestresdescobrimos que os guardas florestais enfrentam vários obstáculos para uma ação rápida, incluindo estradas de terra, veículos velhos e longas distâncias. Muitos guardas florestais não recebiam pagamento há meses, e sua motivação period baixa. E para completar, eles enfrentavam uma milícia armada protegendo um negócio multibilionário de comércio de rinocerontes.
Em Punjab, drones com visão computacional podem guiar agricultores para detectar pragas antes que destruam as plantações. Aliança International para Agricultura Climaticamente Inteligente financia projetos que envolvem muitas dessas tecnologias habilitadas por IA, já que os agricultores enfrentam os caprichos da crise climática. No entanto, a detecção é apenas uma parte de um problema maior. Os agricultores lutam contra pesticidas de baixa qualidade e inacessíveis, agiotas, as vulnerabilidades trazidas pela monocultura e a escassez de água. Os inovadores agrícolas reclamam que há poucos adotantes iniciais de sua tecnologia, por melhores que sejam suas ferramentas. Afinal, os jovens no Sul International estão cada vez mais não veem seu futuro na agricultura.
Entretanto, vimos filantropias como a Fundação Invoice e Melinda Gates lançar grandes desafios para a IA para ajudar a aliviar os encargos dos sistemas de saúde africanos. Isso resultou em vencedores como IntelSurv no Malawi, um sistema de suggestions de dados de vigilância de doenças inteligentes que computa dados de dispositivos vestíveis inteligentes. No entanto, mesmo com centenas de patentes para esses dispositivos sendo registradas todos os anos, eles ainda não são capazes de capturando consistentemente dados de alta qualidade. Em lugares como o Malawi, esses dispositivos podem se tornar a única fonte de dados de treinamento para IA de saúde, amplificando erros em seu sistema de saúde
O fato é que não podemos realmente resolver problemas com IA sem acompanhar reformas sociais. Construir estradas adequadas ou pagar seus guardas em dia não é uma inovação, é senso comum. Da mesma forma, seja no setor de saúde ou agrícola, as pessoas precisam de incentivos sociais para adotar essas tecnologias. Caso contrário, essas ferramentas de IA permanecerão na natureza e não serão domesticadas.
Dados são moeda
O altruísmo tecnológico tornou-se cada vez mais suspeito, uma vez que as empresas de IA enfrentam agora uma crise aguda escassez de dadosEles estão lutando por dados no Sul International, onde maioria dos usuários de tecnologia ao vivo. Tomemos, por exemplo, o caso da Worldcoincofundada pelo CEO da OpenAI Sam Altman. Ela planeja se tornar “a maior rede financeira e de identidade humana de preservação de privacidade do mundo, dando propriedade a todos”. A Worldcoin começou como uma organização sem fins lucrativos em 2019 coletando dados biométricos, principalmente em países do Sul International, por meio de seu dispositivo “orb” e em troca de criptomoeda. Hoje, é uma entidade com fins lucrativos e está sob investigação de muitos países por seus métodos duvidosos de coleta de dados.
A organização sem fins lucrativos alemã Fundação Heinrich Böll relatou recentemente o crescimento agressivo de plataformas agrícolas digitais em toda a África que prometem aos agricultores agricultura de precisão e maiores rendimentos por meio de aplicativos habilitados para IA. No entanto, esses aplicativos geralmente fornecem às corporações acesso gratuito a dados sobre sementes, solo, plantações, fertilizantes e clima das fazendas onde são usados. As corporações podem usar a análise de IA para transformar essas informações em armas, talvez criando apólices de seguro agrícola discriminatórias ou anúncios de microsegmentação para sementes e fertilizantes. Da mesma forma, no setor de saúde, o Centro de Saúde Digital na Brown College relatou sobre o venda de dados pessoais de saúde para anunciantes terceirizados sem o consentimento do usuário.
O problema é que, diferentemente das empresas privadas que são obrigadas a seguir a lei, as iniciativas altruístas muitas vezes conseguem contornar as regulamentações devido à sua intenção “caridosa”. Quase uma década atrás, o Fb lançou Noções básicas gratuitasque forneceu acesso a serviços limitados de web no Sul International ao violar os princípios de neutralidade da rede. Quando a Índia bloqueou o Free Fundamentals em 2015, Mark Zuckerberg pareceu chocado e comentou: “Quem poderia ser contra isso?”
Hoje perguntamos: quem poderia embarcar?
Do Paternalismo às Parcerias
Em 2024, de acordo com uma estimativa, o Sul International contribui 80 por cento para o crescimento económico world. Perto de 90 por cento da população jovem do mundo residem nessas regiões. E tornou-se um espaço very important para a inovação. Em 2018, a China entrou no rating do índice world de inovação como um dos high vinte mais inovadores países do mundo. O governo da Índia criou seu “pilha de tecnologia”, a maior infraestrutura digital pública, interoperável e de código aberto do mundo. Esta pilha está permitindo que empreendedores criem seus produtos e serviços longe do Duopólio entre Apple e Google que restringe a concorrência e a escolha.
Apesar do Sul International demonstrar sua proeza inovadora, o rótulo de imitador continua pegajoso. Essa percepção frequentemente se traduz em organizações ocidentais tratando os países do Sul International como beneficiários, e não como parceiros e líderes em inovação world.
É hora de pararmos de subestimar o Sul International. Em vez disso, as organizações ocidentais devem canalizar suas energias observando como diferentes consumidores podem ajudar a repensar oportunidades, salvaguardas e futuros digitais para a maioria do mundo. Inclusão não é um ato altruísta. É um elemento essencial para gerar soluções para os problemas perversos que a humanidade enfrenta hoje.
Ao projetar novas tecnologias, precisamos nos afastar do design orientado à moralidade com visões grandiosas de fazer o bem. Em vez disso, devemos nos esforçar para um design que se concentre nas relações entre pessoas, contextos e políticas.
Designers, programadores e financiadores podem se beneficiar ao ouvir o que usuários e empreendedores no Sul International têm a dizer sobre a intervenção da IA em suas vidas. E os formuladores de políticas devem enterrar o termo “IA para o Bem”.
Os meios de comunicação devem parar de debater se a tecnologia sozinha pode resolver os problemas do mundo. A verdadeira inteligência contextual de que precisamos não virá da IA, mas de seres humanos.