El comienzo de Palo Alto Yo creo en la IA anunció hoy que su plataforma de gestión de IA ahora estará disponible en Databricks Intelligence Platform.
Según Credo AI, los clientes de Databricks monitorearán y administrarán fácilmente el riesgo y el cumplimiento de la IA a escala, utilizando datos y evidencia ya almacenados en la plataforma de inteligencia de Databricks, brindando transparencia sobre los sistemas durante todo el ciclo de vida de desarrollo.
Credo AI, que se lanzó en 2020 y recaudó 12,8 millones de dólares en financiación Serie A en mayo de 2022, utilizará MLFlow de Databricks, que gestiona el ciclo de vida de desarrollo del aprendizaje automático y traduce automáticamente las métricas y los metadatos del modelo en tarjetas modelo y otros artefactos de gestión necesarios como la IA. Evaluaciones de Impacto.
El reglamento exigirá una autoevaluación del riesgo de IA
Esto es especialmente importante en un momento en que existen tales regulaciones. TENGO están surgiendo, lo que requerirá que los proveedores de modelos y los desarrolladores intermedios autoevalúen el riesgo de sus sistemas de IA, realicen evaluaciones de cumplimiento, mantengan registros transferibles y supervisen el desempeño, además de cumplir con las obligaciones de transparencia basadas en la categoría de riesgo del modelo.
«Nos propusimos hace cuatro años con el objetivo principal de convertirnos en esta capa de gestión que brinde responsabilidad y supervisión continua sobre su infraestructura técnica», dijo a VentureBeat la fundadora y directora ejecutiva de Credo AI, Navrina Singh, en una entrevista.
La integración de Databricks proporciona un marco para una gestión adecuada de la IA
«Creo que la asociación con Databricks será importante, apuntando al 2024; es una señal para las empresas de que la capa gerencial necesita comprender el alcance y las prioridades del negocio», dijo. «No sólo puede gestionar su riesgo, sino que también puede llevar al mercado productos seguros y responsables».
En un comunicado de prensa, Roger Murff, vicepresidente de socios tecnológicos de Databricks, dijo: «Estamos entusiasmados de asociarnos con Credo AI para llevar inteligencia de políticas de IA a la plataforma de inteligencia de datos de Databricks». A medida que las empresas desarrollan sus estrategias de IA, añadió, «comprenden lo fundamental que es la gobernanza para garantizar una adopción segura, responsable y compatible de la IA a escala».
La misión de VentureBeat es ser una plaza digital para que los tomadores de decisiones técnicas aprendan y comuniquen sobre la tecnología empresarial transformadora. Descubra nuestros calzoncillos.