Meta ha anunciado el lanzamiento de Purple Llama, un proyecto paraguas diseñado para fomentar el desarrollo responsable en el sector de los modelos generativos abiertos de Inteligencia Artificial (IA).
Purple Llama pretende abordar las preocupaciones en torno a la ciberseguridad y las salvaguardas de la IA.
Meta pretende que Purple Llama aumente las medidas de ciberseguridad
En un reciente comunicado, Meta explica que el color púrpura, tomado del mundo de la ciberseguridad, simboliza un enfoque holístico para mitigar los retos en el espacio de la IA generativa.
Además, denominada “Purple teaming”, la iniciativa combina estrategias ofensivas (equipo rojo) y defensivas (equipo azul) para la evaluación colaborativa de riesgos.
Sin embargo, el comunicado señaló que, inicialmente, Purple Llama proporcionará herramientas y evaluaciones centradas en la ciberseguridad, incluidas métricas para cuantificar el riesgo de ciberseguridad. Además, proporcionará herramientas para evaluar sugerencias de código inseguro y mecanismos para dificultar que los LLM generen código malicioso o ayuden en hacks.
Leer más: Conoce los mejores prompts para invertir, trabajar y aprender con ChatGPT (2023)
Meta afirma que estos puntos de referencia, alineados con los estándares de la industria, pretenden reducir la frecuencia de código inseguro generado por IA. Además, el proyecto presenta Llama Guard, un modelo fundacional de libre acceso que soporta salvaguardas de entrada y salida.
Purple Llama de Meta: Los resultados serán transparentes para futuros desarrollos
Mientras tanto, Meta afirma que este modelo permite a los desarrolladores filtrar y comprobar las entradas y salidas de acuerdo con las directrices de contenido.
Sin embargo, los resultados se comparten de forma transparente para su mejora y personalización. Meta afirma que esto contribuirá en última instancia a un ecosistema de IA más seguro y responsable.
Leer más: Metaverso ¿Qué es y para qué sirve?
Meta declara que Purple Llama fomentará la colaboración entre desarrolladores y estandarizará las herramientas de confianza y seguridad para la IA generativa.
Basándose en el éxito de Llama 2, Meta se está asociando con gigantes de la industria como AWS, Google Cloud, IBM, Microsoft y otros para garantizar un esfuerzo colectivo en la creación de un entorno de IA generativa abierto y desarrollado de forma responsable.
¿Tiene algo que decir sobre Meta o cualquier otro tema? Escríbanos o únase a la discusión en nuestro canal de Telegram. También puede encontrarnos en Facebook o X (Twitter).
Trusted
Descargo de responsabilidad
Descargo de responsabilidad: en cumplimiento de las pautas de Trust Project, BeInCrypto se compromete a brindar informes imparciales y transparentes. Este artículo de noticias tiene como objetivo proporcionar información precisa y oportuna. Sin embargo, se recomienda a los lectores que verifiquen los hechos de forma independiente y consulten con un profesional antes de tomar cualquier decisión basada en este contenido.
