Por que a diversidade geográfica é essencial para construir ferramentas de IA eficazes e seguras


Por que a diversidade geográfica é essencial para construir ferramentas de IA eficazes e seguras

cofotoisme/Getty Photographs

As organizações não podem se dar ao luxo de escolher lados no mercado world se quiserem inteligência synthetic (ferramentas de IA) para fornecer os recursos que eles buscam.

A diversidade geográfica é essencial à medida que as organizações buscam desenvolver ferramentas de IA que possam ser adotadas em todo o mundo, de acordo com Andrea Phua, diretora sênior do grupo nacional de IA e diretora do escritório de economia digital do Ministério de Desenvolvimento Digital e Informação (MDDI) de Cingapura.

Em resposta a uma pergunta sobre se seria “realista” que Singapura permanecesse neutra em meio à Conflito comercial entre EUA e China sobre as exportações de chips de IA, Phua disse que seria mais poderoso e benéfico ter produtos desenvolvidos por equipes baseadas em diferentes mercados globais que podem ajudar a cumprir componentes-chave da IA.

Durante um painel de discussão realizado esta semana no evento AI Brainstorm da Fortune em Cingapura, ela disse que isso inclui a capacidade de aplicar contexto para modelos de dados e integrar segurança e gestão de riscos medidas.

Também: Os governos podem transformar o discurso sobre segurança da IA ​​em ação?

Ela acrescentou que Singapura colabora com vários países em IA, incluindo os EUA, China, Estados-membros da ASEANe a Nações Unidasonde Singapura preside atualmente o Fórum Digital dos Pequenos Estados.

“Usamos essas plataformas para discutir como governar bem a IA, qual capacidade (de infraestrutura) é necessária e como aprender uns com os outros”, disse Phua. Ela observou que essas discussões multilaterais ajudam a identificar riscos de segurança e proteção que podem ocorrer de forma diferente em diferentes partes do mundo e fornecer impactos locais e regionais contexto para traduzir melhor os dados.

Ela acrescentou que Singapura mantém conversações com a China sobre a governação e as políticas da IA ​​e trabalha em estreita colaboração com a Governo dos EUA em todo o ecossistema de IA.

“É importante investir em colaborações internacionais porque quanto mais entendermos o que está em jogo e soubermos que temos amigos e parceiros para nos guiar na jornada, melhor será para nós”, disse Phua.

Isto pode revelar-se particularmente valioso como IA generativa (IA de geração) é cada vez mais usada em ataques cibernéticos.

Também: Os avanços da IA ​​generativa forçarão as empresas a pensar grande e agir rápido

Em Singapura, por exemplo, 13% dos e-mails de phishing analisados ​​no ano passado continham conteúdo gerado por IA, de acordo com o último Cenário cibernético de Singapura 2023 relatório divulgado esta semana pela Agência de Segurança Cibernética (CSA).

A agência governamental responsável pelas operações de segurança cibernética do país disse que 4.100 tentativas de phishing foram relatadas à Equipe de Resposta a Emergências Cibernéticas de Cingapura (SingCERT) no ano passado — uma queda de 52% em relação às 8.500 casos em 2022. O número de 2023, no entanto, ainda é 30% maior que o de 2021, observou a CSA.

Também: A IA está mudando a segurança cibernética e as empresas devem acordar para a ameaça

“Esse declínio contrariou uma tendência world de aumentos acentuados, que provavelmente foram alimentados pelo uso de chatbots de IA de geração, como o ChatGPT, para facilitar a produção de conteúdo de phishing em escala”, detalhou.

Ele também alertou que pesquisadores de segurança cibernética previram um aumento na escala e sofisticação dos ataques de phishing, incluindo mensagens de e-mail de phishing geradas ou assistidas por IA, personalizadas para a vítima e que contêm conteúdo adicional, como mensagens de voz falsas.

“O uso da Gen AI trouxe uma nova dimensão às ameaças cibernéticas. À medida que a IA se torna mais acessível e sofisticada, os agentes de ameaças também se tornarão melhores em explorá-la”, disse o presidente-executivo e comissário de segurança cibernética da CSA, David Koh.

“Do jeito que está, a IA já representa um desafio formidável para governos ao redor do mundo (e) profissionais de segurança cibernética saberiam que estamos apenas arranhando a superfície do potencial da IA ​​de geração, tanto para aplicações legítimas quanto para usos maliciosos”, disse Koh. Ele apontou para relatórios de conteúdo gerado por IA, incluindo falsificações profundas em videoclipes e memes, que foram usados ​​para semear a discórdia e influenciar o resultado de eleições nacionais.

Também: A ciberdefesa precisará de capacidades de IA para salvaguardar as fronteiras digitais

Ao mesmo tempo, há novas oportunidades para a IA ser aproveitada para aprimorar a resiliência e a defesa cibernética, ele disse. Mais especificamente, a tecnologia mostrou potencial na detecção de padrões comportamentais anormais e na ingestão de grandes volumes de registros de dados e inteligência de ameaças, ele observou.

“(Isso) pode melhorar a resposta a incidentes e nos permitir frustrar ameaças cibernéticas com mais rapidez e precisão, ao mesmo tempo em que alivia a carga de nossos analistas”, disse Koh.

Ele acrescentou que o governo de Singapura também está trabalhando em vários esforços para garantir A IA é confiável, segura e protegida.



Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *