OpenAI publicó una publicación de blog en la que pedía esfuerzos para regular la superinteligencia de manera similar a como se regula la energía nuclear. Sugiere la eventual creación de una agencia como la del OIEA.
OpenAI, el creador de la sensación de IA ChatGPT, ha propuesto la regulación de la IA, en particular la superinteligencia de la IA, similar a la energía nuclear.
La empresa publicó una publicación el 22 de mayo sobre cómo el rápido desarrollo de la IA podría afectar al mundo y la consiguiente necesidad de gobernanza.
OpenAI propone regulación de superinteligencia
La publicación comenzó afirmando que “los sistemas de IA superarán el nivel de habilidad de los expertos en la mayoría de los dominios y llevarán a cabo tanta actividad productiva como una de las corporaciones más grandes de la actualidad”.
Por lo tanto, es necesario mitigar los riesgos de amenaza existencial de la misma manera que se toman las acciones para la energía nuclear.
Los autores de la publicación, Sam Altman, Greg Brockman e Ilya Sutskever, dijeron que eventualmente se necesitaría algo como la Agencia Internacional de Energía Atómica (OIEA).
Esta agencia ayudaría a gobernar los esfuerzos de superinteligencia y necesitaría mucha cooperación y coordinación a nivel mundial. La publicación también aclaró que es importante permitir que:
“Las empresas y los proyectos de código abierto desarrollen modelos por debajo de un umbral de capacidad significativo, sin el tipo de regulación”.
OpenAI considerando decisiones democráticas sobre IA
La estrategia de OpenAI para fomentar la regulación de la IA incluye la toma de decisiones colectiva, similar a las entradas de Wikipedia.
El presidente Greg Brockman anunció que la empresa evaluaría los métodos para recopilar información de varias partes sobre las decisiones. El objetivo es garantizar un proceso democrático para la toma de decisiones.
Brockman dijo: “No estamos simplemente sentados en Silicon Valley pensando que podemos escribir estas reglas para todos”, aunque ciertamente habrá desafíos en la creación de dicho sistema.
Al igual que Sam Altman, él también se centró fuertemente en la cooperación internacional para la regulación de la IA.
La carrera para regular la IA se intensifica
La cuestión de cómo regular la IA está en la mente de todos. Los que están en el meollo del asunto están pidiendo una regulación.
Altman ha rechazado la oportunidad de convertirse en el principal regulador de inteligencia artificial de Estados Unidos. En cambio, durante una audiencia en el Congreso, instó a Estados Unidos a asumir la responsabilidad de la regulación.
Es probable que Estados Unidos forme una agencia dedicada a la supervisión de la IA. Otros países están siguiendo su ejemplo, y China está particularmente entusiasmada con las prohibiciones y limitaciones de la IA.
Al igual que el mercado de las criptomonedas en el pasado, la industria de la IA también puede experimentar una regulación abrupta y estricta.
Esta regulación se concentraría principalmente en aspectos como la privacidad, la prevención de la interferencia electoral y el establecimiento de estándares globales.
Trusted
Descargo de responsabilidad
Descargo de responsabilidad: en cumplimiento de las pautas de Trust Project, BeInCrypto se compromete a brindar informes imparciales y transparentes. Este artículo de noticias tiene como objetivo proporcionar información precisa y oportuna. Sin embargo, se recomienda a los lectores que verifiquen los hechos de forma independiente y consulten con un profesional antes de tomar cualquier decisión basada en este contenido.
