El cofundador de Ethereum, Vitalik Buterin, ha levantado alarmas sobre los riesgos asociados con la superinteligencia artificial y la necesidad de un fuerte mecanismo de defensa.
Los comentarios de Buterin llegan en un momento en que, con el rápido desarrollo de la inteligencia artificial, las preocupaciones sobre la seguridad de la IA han crecido significativamente.
Vitalik Buterin expone plan de regulación de IA
En una entrada de blog fechada el 5 de enero, Vitalik Buterin describió su idea detrás de ‘d/acc o aceleración defensiva,’ donde la tecnología debería desarrollarse para defender en lugar de causar daño. Sin embargo, esta no es la primera vez que Buterin ha hablado sobre los riesgos asociados con la inteligencia artificial.
“Una forma en que la IA mal gestionada podría empeorar el mundo es (casi) de la peor manera posible: podría literalmente causar la extinción humana,” dijo Buterin en 2023.
Buterin ha seguido desarrollando sus teorías desde 2023. Según Buterin, la superinteligencia artificial está potencialmente a solo unos años de existir.
“Parece probable que tengamos plazos de tres años hasta la AGI y otros tres años hasta la superinteligencia. Y así, si no queremos que el mundo sea destruido o caiga en una trampa irreversible, no solo debemos acelerar lo bueno, también debemos frenar lo malo,” escribió Buterin.
Para mitigar los riesgos relacionados con la IA, Buterin aboga por la creación de sistemas de IA descentralizados que permanezcan estrechamente vinculados con la toma de decisiones humanas. Al asegurar que la IA siga siendo una herramienta en manos de los humanos, se puede minimizar la amenaza de resultados catastróficos.
Buterin luego explicó cómo los ejércitos podrían ser los actores responsables de un escenario de ‘condena de la IA’. El uso militar de la IA está aumentando a nivel mundial, como se vio en Ucrania y Gaza. Buterin también cree que cualquier regulación de la IA que entre en vigor probablemente eximiría a los ejércitos. Esto los convierte en una amenaza significativa.
El cofundador de Ethereum también describió sus planes para regular el uso de la IA. Dijo que el primer paso para evitar los riesgos asociados con la IA es hacer responsables a los usuarios.
“Aunque el vínculo entre cómo se desarrolla un modelo y cómo termina siendo utilizado a menudo no está claro, el usuario decide exactamente cómo se usa la IA,” explicó Buterin, destacando el papel que juegan los usuarios.
Si las reglas de responsabilidad no funcionan, el siguiente paso sería implementar botones de “pausa suave” que permitan que la regulación de la IA reduzca el ritmo de los avances potencialmente peligrosos.
“El objetivo sería tener la capacidad de reducir el cómputo disponible a nivel mundial en ~90-99% durante 1-2 años en un período crítico, para ganar más tiempo para que la humanidad se prepare.”
Dijo que la pausa se puede implementar mediante la verificación y el registro de la ubicación de la IA. Otro enfoque sería controlar el hardware de la IA. Buterin explicó que el hardware de la IA podría estar equipado con un chip para controlarlo.
El chip permitirá que los sistemas de IA funcionen solo si obtienen tres firmas de organismos internacionales semanalmente. Además, agregó que al menos uno de los organismos no debería estar afiliado a lo militar. No obstante, Buterin admitió que sus estrategias tienen fallas y son solo ‘soluciones temporales’.
Descargo de responsabilidad
Descargo de responsabilidad: en cumplimiento de las pautas de Trust Project, BeInCrypto se compromete a brindar informes imparciales y transparentes. Este artículo de noticias tiene como objetivo proporcionar información precisa y oportuna. Sin embargo, se recomienda a los lectores que verifiquen los hechos de forma independiente y consulten con un profesional antes de tomar cualquier decisión basada en este contenido.
