Elloe AI aspira a ser defensa de IA.

Owen Sakawa, fundador de Elloe AI, tiene una visión audaz para su plataforma, proponiendo que actúe como el “sistema inmunológico para la inteligencia artificial” y como el “antivirus para cualquier agente de IA.” En una entrevista previa a la conferencia TechCrunch Disrupt, donde Elloe AI es finalista en el concurso Startup Battlefield, Sakawa explicó que su objetivo es agregar una capa de protección a los modelos de lenguaje de grandes dimensiones (LLMs). Este sistema se enfoca en revisar la existencia de sesgos, alucinaciones, errores, problemas de cumplimiento, desinformación y resultados no seguros.

Sakawa destacó la rápida evolución de la inteligencia artificial, una transformación que avanza sin los guardarrailes necesarios, lo que provoca inquietudes sobre su seguridad y fiabilidad. En este contexto, Elloe AI se presenta como una solución tecnológica que funciona a modo de API o SDK, un módulo que se integra sobre la capa de salida de un modelo de IA, implementando un proceso de verificación en cada respuesta generada.

El sistema de la startup está estructurado en varias capas o “anclas.” La primera ancla realiza una verificación de hechos, contrastando las respuestas del LLM con fuentes verificables. La segunda ancla examina si el contenido infringió normativas vigentes, como la Ley de Privacidad de Salud HIPAA en EE.UU. o la legislación de protección de datos GDPR en Europa. Finalmente, la tercera ancla proporciona un historial de auditoría que detalla cómo se tomó cada decisión, permitiendo a los reguladores analizar el proceso de pensamiento del modelo, incluyendo la fuente de cada decisión y el grado de confianza asociado a las mismas.

Es importante aclarar que Elloe AI no se basa en un LLM, ya que Sakawa opina que hacer que los LLM verifiquen a otros LLM es como aplicar un “curita en otra herida.” Sin embargo, su sistema incorpora técnicas de inteligencia artificial como el aprendizaje automático, complementándose con la supervisión de humanos, quienes se mantienen al tanto de las recientes regulaciones de protección de datos y de los derechos de los usuarios.

Si deseas sumergirte más en el mundo de Elloe AI y descubrir docenas de otras compañías, escuchar sus propuestas y asistir a charlas de invitados en cuatro escenarios diferentes, te invitamos a unirte a nosotros en la conferencia Disrupt, que se llevará a cabo del 27 al 29 de octubre en San Francisco.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.