Este submit de convidado é de Sunil Soares, fundador e CEO da YDC – Governança de AI. Anteriormente, ele fundou e liderou o Asset Data, uma empresa de gerenciamento de dados. Sunil traz uma perspectiva profundamente pesquisada para a governança da IA-autor de 13 livros que moldaram como as empresas abordam dados e IA em escala.
A equipe do YDC desenvolveu um protótipo de governança de IA em Atlan. Reutilizamos o modelo operacional existente com ativos e adicionamos atributos e relações personalizadas.
Casos de uso da IA
Conforme discutido em um anterior weblogum gêmeo digital pode ser uma réplica digital de um paciente em specific que reflete a composição genética única do paciente ou um modelo tridimensional simulado que exibe as características do coração de um paciente. Os gêmeos digitais podem ser utilizados para acelerar os ensaios clínicos e reduzir custos no setor de ciências da vida. A equipe do YDC implementou uma visão geral do Gêmeos digitais para ensaios clínicos AI Uso Caso em Atlan.
Avaliações de risco de IA
Realizamos uma avaliação de risco de IA para o caso de uso com o Atlan. Os gêmeos digitais têm o potencial de introduzir riscos de viés com base nos algoritmos e nos conjuntos de dados subjacentes. Documentamos a avaliação de risco de viés e um mapeamento para os regulamentos associados em Atlan.
Também documentamos os riscos de privacidade em Atlan.
Documentamos outras dimensões do risco de IA, incluindo confiabilidade, responsabilidade, explicação e segurança no Atlan. Por uma questão de brevidade, não incluí essas capturas de tela aqui.
Esse caso de uso provavelmente seria classificado como alto risco com base na categoria de dispositivos médicos do artigo 6 da Lei da AI da UE.
Fluxos de trabalho de avaliação de risco de IA
Configuramos um fluxo de trabalho de avaliação de risco de IA em Atlan para rotear a avaliação de risco de IA para as partes apropriadas para aprovação.
A captura de tela abaixo mostra a avaliação de risco de IA em standing aprovado com base nas aprovações do Comitê de Gerenciamento de Riscos Operacionais (ORMC) e do Conselho de Governança da IA.
GOVERNANÇA DE AI DE SHARGE para ingerir metadados do ServiceNow CMDB e YDC_AIGOV Brokers em abraçar o rosto para destacar aplicativos COTS com IA incorporada
Em um anterior weblogDiscuti a Governança da AI Shadow e os agentes YDC_AIGOV. Como parte do exercício atual, ingerimos metadados em torno dos aplicativos comerciais de prateleira (COTS) no Atlan. Essas informações incluem metadados como nome do aplicativo, URL da política de privacidade, dados excluídos especificamente do treinamento de IA, IA incorporada e opção de opção de exclusão.
A captura de tela abaixo mostra o Atlan antes de executar a integração com os agentes YDC_AIGOV. O catálogo contém apenas um caso de uso de IA (gêmeos digitais para ensaios clínicos) e um aplicativo (Google Product Companies).
Depois de executar a integração com a API ATLAN, o Atlan contém uma lista mais ampla de aplicativos, incluindo o Actimize XECE, incluindo metadados no painel direito.
Lógica condicional com API ATLAN para criar automaticamente os objetos de uso de AI e objetos de avaliação de risco de IA
Implementamos a lógica condicional na API do ATLAN para criar automaticamente casos de uso de IA apenas para aplicativos com IA incorporada. Nesse caso, criamos um objeto de caso de uso da IA no Atlan para Actimize XECED porque a IA incorporada = “sim”.
Também implementamos a lógica condicional na API do ATLAN para criar automaticamente objetos de avaliação de risco de IA, onde os dados excluídos especificamente para treinamento de IA = “Não.” Obviamente, essa lógica é configurável.
Esta é uma configuração básica de governança de IA em Atlan com mais por vir!
Este submit foi publicado originalmente em Seus dados se conectam. Leia o artigo unique aqui.