Ver más

UNESCO advierte que manipulación de señales cerebrales por IA avanza “muy rápido”

4 mins
Por James Morales
Traducido por Eduardo Venegas
Únete a Nuestra Comunidad de Trading en Telegram

EN RESUMEN

  • Con el advenimiento de las herramientas modernas de IA, el campo de la neurotecnología ha avanzado significativamente.
  • La tecnología tiene implicaciones importantes para la privacidad, especialmente si se abusa de ella.
  • En todo el mundo, expertos, legisladores y grupos civiles están sopesando la mejor manera de abordar la innovación en neurotecnología que ha sido potenciada por la IA.
  • promo

La neurotecnología, una controvertida aplicación de la Inteligencia Artificial, se está convirtiendo cada vez más en un punto central de las discusiones sobre privacidad y derechos humanos.

A medida que los avances tecnológicos en el campo avanzan rápidamente, las Naciones Unidas (ONU) se han hecho eco de los llamados a favor de un marco ético para salvaguardar las libertades individuales.

Neurotecnología: las cuestiones éticas

En términos generales, la neurotecnología no es un concepto nuevo. Los ingenieros llevan mucho tiempo desarrollando tecnologías para escanear, reparar y aumentar el cerebro humano y el sistema nervioso.

Sin embargo, el campo ha visto una explosión reciente de potentes modelos de inteligencia artificial y aprendizaje automático, lo que ha llevado a la neurotecnología a áreas éticamente polémicas.

Financiamiento de la neurociencia en Estados Unidos.
Financiamiento de la neurociencia en Estados Unidos. Fuente: Statista

Para abordar estos desafíos, la ONU organizó la Conferencia Internacional sobre la Ética de la Neurotecnología en París. El evento convocó a formuladores de políticas, especialistas en IA, grupos civiles y empresas privadas, lo que provocó un debate sobre las cuestiones éticas que rodean a la neurotecnología.

Antes de la conferencia, Audrey Azoulay, Directora General de la UNESCO, compartió sus temores:

“La neurotecnología podría ayudar a resolver muchos problemas de salud, pero también podría acceder y manipular los cerebros de las personas, producir información sobre nuestras identidades y nuestras emociones. Podría amenazar nuestros derechos a la dignidad humana, la libertad de pensamiento y la privacidad. Urge establecer un marco ético común a nivel internacional, como lo ha hecho la UNESCO con la IA.”

Los organismos reguladores de todo el mundo se esfuerzan por crear reglas para el sector de la IA. Empresas de alto perfil como OpenAI incluso han comenzado a resistirse a la regulación de la IA. A medida que la tecnología se vuelve más íntima, más desacuerdos parecen casi inevitables.

Es algo más que chips cerebrales

Sin embargo, Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas de la UNESCO, destacó durante la conferencia que la neurotecnología no se trata solo de tecnologías en etapa inicial que generan titulares.

“Estamos en el camino hacia un mundo en el que los algoritmos nos permitirán decodificar los procesos mentales de las personas y manipular directamente los mecanismos cerebrales que subyacen a sus intenciones, emociones y decisiones.”

La imagen pública de la neurotecnología a menudo está dominada por proyectos ambiciosos como Neuralink de Elon Musk y su interfaz cerebro-computadora.

Aún así, las aplicaciones más discretas de la neurotecnología que pueden interpretar y manipular pensamientos sin intervención física ya están entre nosotros.

“Cuando agrega IA, está poniendo neurotecnología en esteroides”, afirmó Mariagrazia Squicciarini, autora principal de un informe de la Unesco.

Los investigadores de IA están desarrollando nuevas tecnologías con intenciones predominantemente beneficiosas. Un equipo de investigación, por ejemplo, usó IA para interpretar lo que escuchaba un sujeto en función de las señales eléctricas de su cerebro.

Sin embargo, los investigadores advirtieron que los desarrollos futuros podrían permitir que tales tecnologías eviten la necesidad de cooperación voluntaria.

Tecnología de control mental

Curiosamente, la neurotecnología de lectura mental antes mencionada utiliza herramientas de inteligencia artificial que son ampliamente accesibles. El equipo de investigación construyó su modelo utilizando GPT-1 de OpenAI, un precursor de GPT-4, que impulsa el popular chatbot ChatGPT.

También utilizaron varios algoritmos disponibles gratuitamente en línea, entrenando su modelo con conjuntos de datos que incluían oraciones extraídas de Reddit y transcripciones de podcasts del New York Times.

Tales avances subrayan cómo los problemas de privacidad relacionados con la IA no son hipotéticos futuros, sino preocupaciones apremiantes que requieren atención inmediata.

OpenAI, por ejemplo, se enfrenta a una demanda colectiva por la supuesta recopilación de datos personales sin consentimiento. Muchas de las principales empresas de redes sociales han sido acusadas de manejar mal los datos de los usuarios para entrenar sus modelos de IA.

Los casos en que la IA se utiliza para leer y manipular a las personas sin el consentimiento informado ya son una realidad. Abordar estas preocupaciones requerirá pautas éticas sólidas y medidas regulatorias proactivas.

Trusted

Descargo de responsabilidad

Descargo de responsabilidad: en cumplimiento de las pautas de Trust Project, BeInCrypto se compromete a brindar informes imparciales y transparentes. Este artículo de noticias tiene como objetivo proporcionar información precisa y oportuna. Sin embargo, se recomienda a los lectores que verifiquen los hechos de forma independiente y consulten con un profesional antes de tomar cualquier decisión basada en este contenido.

eduardo-venegas-scaled-e1626236160666.jpg
Eduardo Venegas
Soy un periodista con 14 años de experiencia en medios impresos y digitales, especializado en el periodismo de negocios. Estudié en la UNAM. Fui becario, redactor, reportero y editor en medios de negocios en México por 12 años, hasta que en el segundo semestre de 2021 me uní a las filas de BeInCrypto en Español como editor. En mi paso por los medios de negocio, pude conocer sobre el ecosistema de las criptomonedas de forma esporádica durante la gestación de le Ley FinTech en México en...
READ FULL BIO
Patrocinado
Patrocinado