La empresa matriz de ChatGPT, OpenAI, ha puesto en marcha un equipo de preparación para evaluar los riesgos que plantean los modelos de inteligencia artificial (IA).
Si bien los modelos de IA pueden mejorar a la humanidad, plantean varios riesgos. De ahí que los gobiernos estén preocupados por la gestión de riesgos de la tecnología.
Funciones del equipo de preparación de OpenAI para ChatGPT
A través de una publicación de blog, OpenAI anunció el lanzamiento del equipo de Preparación. El equipo trabajará bajo el liderazgo de Aleksander Madry, director del Centro de Aprendizaje Automático Implementable del Instituto Tecnológico de Massachusetts.
Frontier AI plantea ciertos riesgos, tales como: Persuasión individualizada, la seguridad cibernética, amenazas químicas, biológicas, radiológicas y nucleares (QBRN), replicación y adaptación autónomas (ARA).
Leer más: Conoce los mejores prompts para invertir, trabajar y aprender con ChatGPT (2023)
Además, existe el riesgo de desinformación y propagación de rumores a través de la Inteligencia Artificial (IA). La siguiente captura de pantalla muestra la proporción de profesionales que creen que la IA generativa como la de ChatGPT4 representa un riesgo para la seguridad de la marca y la desinformación en todo el mundo.
El gobierno del Reino Unido define Frontier AI como: “Un modelo de IA de uso general altamente capaz que puede realizar una amplia variedad de tareas e igualar o superar las capacidades presentes en los modelos más avanzados de la actualidad”.
El equipo de preparación de OpenAI se centrará en gestionar los riesgos causados por los eventos catastróficos mencionados anteriormente. La empresa matriz de ChatGPT considera que este desarrollo es su contribución a la próxima cumbre mundial de IA del Reino Unido.
Leer más: ¿Cómo generar prompts para Midjourney a través de ChatGPT?
También en julio, los abanderados de la IA, como OpenAI, Meta, Google y otros, se comprometieron con la seguridad y la transparencia en el desarrollo de la IA en la Casa Blanca.
Ayer BeInCrypto informó que el Primer Ministro del Reino Unido, Rishi Sunak, no quiere apresurarse a regular la IA. Entre otros factores, le preocupa que la humanidad pueda perder por completo el control de la IA.
Uphold
eToro
eToro
eToro
eToro
Plus500
Coinbase
Descargo de responsabilidad
Descargo de responsabilidad: en cumplimiento de las pautas de Trust Project, BeInCrypto se compromete a brindar informes imparciales y transparentes. Este artículo de noticias tiene como objetivo proporcionar información precisa y oportuna. Sin embargo, se recomienda a los lectores que verifiquen los hechos de forma independiente y consulten con un profesional antes de tomar cualquier decisión basada en este contenido.
