Hoje, estamos apresentando o DATABRICKS Framework de governança da IA (DAGF v1.0), uma abordagem estruturada e prática para governar a adoção da IA em toda a empresa.
À medida que as organizações adotam a IA em escala, a necessidade de governança formal cresce. As empresas devem alinhar o desenvolvimento da IA com as metas de negócios, cumprir as obrigações legais e explicar riscos éticos. Essa estrutura foi projetada para apoiar o desenvolvimento, a implantação e a melhoria contínua do programa.
O DAGF complementa o Databricks AI Safety Frameworkoferecendo uma visão completa da governança que abrange a segurança e a integridade operacional.
Por que a governança da IA não pode esperar
De acordo com um 2024 Pesquisa International Dos 1.100 executivos e engenheiros de tecnologia conduzidos pela Economist Affect, 40% dos entrevistados acreditavam que o programa de governança de IA de sua organização period insuficiente para garantir a segurança e a conformidade de seus ativos de IA e casos de uso. Além disso, violações de privacidade e segurança de dados foram a principal preocupação para 53% dos arquitetos corporativos, enquanto Segurança e governança são os aspectos mais desafiadores da engenharia de dados para engenheiros.
Além disso, de acordo com GartnerAI Confiança, risco e gerenciamento de segurança é a tendência de estratégia principal nº 1 em 2024 que levará em consideração as decisões de negócios e tecnologia e, até 2026, os modelos de IA de organizações que operacionalizam a transparência, confiança e segurança alcançarão Aumento de 50% em termos de adoçãometas de negócios e aceitação do usuário.
Embora seja evidente que a falta de programas de governança de IA em nível empresarial está rapidamente se tornando um bloqueador-chave para realizar o retorno do valor dos investimentos de IA e a adoção de IA como um todo, percebemos que não há um único quadro de orientação abrangente que as empresas possam alavancar programas de governança de IA eficazes.
Os cinco pilares fundamentais
Nesta estrutura, apresentamos 43 Considerações principais que são essenciais para que toda empresa compreenda (e implemente conforme apropriado) governar efetivamente suas viagens de IA.
Essas considerações importantes foram então agrupadas logicamente 5 pilares fundamentaisprojetado e sequenciado para refletir estruturas e personas de organizações corporativas típicas.
Pilar I: organização AI
A organização da AI, o pilar incorpora a governança da IA na estratégia de governança mais ampla da organização. Ele ressalta a base para um programa eficaz de IA por meio de melhores práticas, como objetivos de negócios claramente definidos e integrar as práticas de governança apropriadas que supervisionam o povo, os processos, a tecnologia e os dados da organização. Ele explica como as organizações podem estabelecer a supervisão necessária para atingir seus objetivos estratégicos, reduzindo o risco.
Pilar II: conformidade authorized e regulatória
O pilar authorized e de conformidade regulamentar ajuda as organizações a alinhar as iniciativas de IA com as leis e regulamentos aplicáveis. Ele orienta o gerenciamento de riscos legais, a interpretação dos requisitos específicos do setor e a adaptação de estratégias de conformidade em resposta à evolução de paisagens regulatórias. O resultado é que os programas de IA são desenvolvidos e implantados em uma estrutura authorized e regulatória robusta.
Pilar III: Ética, transparência e interpretabilidade
O pilar de ética, transparência e interpretação apoia as organizações na construção de sistemas de IA confiáveis e responsáveis. Ele enfatiza a adesão a princípios éticos, como justiça, responsabilidade e supervisão humana, promovendo a explicação e o envolvimento das partes interessadas. Este pilar fornece métodos para estabelecer responsabilidade e estrutura nas equipes organizacionais, ajudando a garantir que as decisões de IA sejam interpretáveis, alinhadas com padrões éticos em evolução e promovendo a confiança e a aceitação social de longo prazo.
Pilar IV: Dados, AI Ops e Infraestrutura
Os dados, as operações da IA (AIOPS) e o pilar de infraestrutura outline a fundação que apoia as organizações na implantação e manutenção de IA totalmente. Ele fornece diretrizes para criar uma infraestrutura de IA escalável e confiável, gerenciar o ciclo de vida do aprendizado de máquina e garantir a qualidade, a segurança e a conformidade dos dados. Este pilar também enfatiza as melhores práticas para as operações de IA, incluindo treinamento, avaliação, implantação e monitoramento, os sistemas de IA são confiáveis, eficientes e alinhados com as metas de negócios.
Pilar V: Segurança da AI
O pilar de segurança da IA apresenta o Databricks AI Safety Framework (DASF)uma estrutura abrangente para entender e atenuar os riscos de segurança em todo o ciclo de vida da IA. Ele abrange áreas críticas como proteção de dados, gerenciamento de modelos, porção de modelo seguro e a implementação de medidas robustas de segurança cibernética para proteger os ativos da IA.
Para uma visão geral adicional do DAGF e por exemplo, a passo de como uma organização pode alavancar a estrutura para criar uma propriedade e alinhamento claros em todo o ciclo de vida do programa de IA, assista esta apresentação dos autores feitos durante o 2025 Dados + AI Summit.
Por que o Databricks está liderando esse esforço
Como líder do setor no espaço de dados e IA, com mais de 15.000 clientes em diversas geografias e segmentos de mercado, o Databricks continuou a cumprir seu compromisso com os princípios de desenvolvimento responsável e inovação de código aberto. Nós confirmamos esses compromissos através de nosso:
- Engajamento com a indústria e o governo esforços para promover a inovação e defender o uso de IA segura e confiável
- Workshops interativos Para educar as organizações sobre como pastorear com sucesso sua jornada de IA de maneira consciente de risco
- Fornecimento aberto de inovações importantes de governança, como Mlflow e Catálogo de unidadesa única solução unificada do setor para governança de dados e IA entre nuvens, formatos de dados e plataformas de dados.
Esses programas nos ofereceram visibilidade única em problemas práticos que empresas e reguladores enfrentam hoje na governança da IA. Ao promover nosso compromisso de ajudar todas as empresas a terem sucesso e acelerar seus dados e jornada de IA, decidimos aproveitar essa visibilidade para construir (e disponibilizar livremente) um abrangente, estruturado e acionável Estrutura de governança da IA.
Faça o obtain da estrutura de governança da IA Databricks hoje!
O Whitework de Governança de Databricks AI é agora disponível para obtain. Entre em contato conosco por e -mail em (E mail protegido) Para qualquer dúvida ou suggestions. Se você estiver interessado em contribuir para atualizações futuras dessa estrutura (e outros artefatos futuros), juntando -se à nossa comunidade de revisores, gostaríamos de ouvir você também!