Sistemas de Meta y Alibaba pueden clonarse sin intervención humana y dan el primer paso a “IA rebeldes”
Vía Ex-Ante
Una alianza entre Ex-Ante y Boma Chile
Qué observar. Dos modelos de IA pasaron la línea roja, es decir, aprendieron a replicarse a sí mismos sin intervención humana. Una investigación de la Universidad de Funda, China, que probó la capacidad de autorreplicación de modelos de IA de Meta y Alibaba, demostró que esos dos sistemas pueden crear replicas autónomas y funcionales, entender el entorno y sobrevivir y expandirse sin control humano.
- “El éxito de la autorreplicación sin ayuda humana es el paso esencial para que la IA sea más inteligente que los humanos y es una señal temprana de la existencia de modelos de IA rebeldes”, dicen los autores del estudio.
Dos modelos en dos escenarios. Los modelos usados para la investigación fueron Llama31-70B-Instruct de Meta y Qwen2.5-72B-Instruct de Alibaba, que son usados principalmente por desarrolladores y son menos potentes que los modelos comerciales como ChatGPT. A ambos se los puso en dos escenarios específicos: debían evitar apagarse y lograr replicarse en otro dispositivo de forma infinita.
- Al pedirles que se replicaran, crearon copias independientes y funcionales de sí mismos en el 50% (Meta) y el 90% (Alibaba) de los casos.
- Al enfrentarse a problemas como recuperar archivos o conflictos de programación, reiniciaban el sistema para solucionar errores de hardware o escaneaban el entorno para buscar soluciones.
"Tienen la capacidad de codificar recuerdos": Bebés sí pueden recordar y lo hacen a partir de esta edad, según estudio pionero
Los riesgos de la IA rebelde. Entre los expertos, que un modelo de IA pueda clonarse de forma autónoma es el inicio de la IA rebelde: sistemas que crean una cadena de réplicas para aumentar su supervivencia, abriendo un escenario de IAs sin control que potencialmente pueden actuar en contra de los intereses humanos.
- “Esperamos que nuestros hallazgos puedan servir de alerta oportuna para que la sociedad dedique más esfuerzos a comprender y evaluar los riesgos potenciales de los sistemas avanzados de IA y forme una sinergia para elaborar cuanto antes barreras de seguridad eficaces”, agregan los investigadores.
No hay un botón rojo para detenerla. Si bien empresas como OpenAI y Google han dicho que sus modelos GPT-o1 y Gemini, respectivamente, tienen muy bajo riesgo de llegar a ese punto de autonomía, el experimento chino da cuenta que podría ser muy posible. ¿Qué hacer si la IA se desborda?
- “No existe un ‘botón rojo’ para detener a la IA en caso de que se perdiera el control”, ha dicho San Altman.
Así funciona el primer ojo biónico y competencia directa del proyecto de Elon Musk: conecta visión y cerebro sin pasar por los ojos
Panorama general. En este momento, la Universidad Monash, de Australia, está en busca de financiamiento para poder desarrollar el primer ensayo clínico en humanos del sistema Gennaris, el primer ojo biónico del mundo que podría devolver la vista a personas con “un deterioro visual profundo, que tienen una corteza visual intacta y que han tenido previamente una visual completamente funcional”.
- Después de 10 años de investigación y pruebas en animales, esta tecnología ha mostrado resultados positivos y representa un hito en el tratamiento de la ceguera.
- A diferencia de tratamientos tradicionales, no depende de los ojos ni del nervio óptico, sino que envía señales visuales directamente al cerebro.
Vida y Salud: Aprendizajes a cinco años de la pandemia por Covid-19
¿Cómo funciona? Desarrollada para recuperar la visión, no interviene un nervio óptico dañado ni una cirugía ocular, sino que envía señales visuales directamente al cerebro, explica la página de la Universidad de Monash, que es el competidor directo de Neuralink, de Elon Musk, que trabaja en un chip cerebral para recuperar la vista.
- El sistema consiste en una pequeña cámara en un casco especialmente diseñado y una serie de implantes inalámbricos (de 9 mm) que estimulan el cerebro para que interprete información visual.
- Las imágenes procesadas por una unidad de visión se envían a los 11 implantes puestos en la superficie de la corteza visual del cerebro.
- Cada implante tiene el porte de una uña y contiene 43 microelectrodos y circuitos avanzados capaces de estimular las células cerebrales con impulsos eléctricos, traduciendo las señales en percepciones visuales.
Lo que ha logrado el ojo biónico. Durante los años de investigación, las pruebas de simulación mostraron que a través de este sistema que imita el ojo humano se puede reconocer y recoger objetos de una mesa, localizar personas en movimiento, identificar objetos grandes y evadir obstáculos, asegura la investigación.
- Entrega un campo de visión de 100 grados, superior a los 70 grados proporcionados por tecnologías anteriores.
- Es capaz de replicar, en cierta medida, la estructura natural del ojo humano, logrando una experiencia visual más natural.
La última prueba. Si la Universidad de Monash logra reunir el financiamiento necesario y probar este sistema en humanos, Gennaris podría cambiar radicalmente las opciones de tratamiento de la ceguera y propiciar avances en neurotecnología en funciones sensoriales y motoras.
Nuevos transgénicos: la segunda ola biotecnológica que cambiará nuestra alimentación
¿Es posible revertir la producción de los alimentos transgénicos? Es imposible, dice Shely Aronov, cofundadora y directora ejecutiva de InnerPlant, empresa cuyo sistema de modificación genética de plantas fue escogido como uno de los mejores inventos de 2024 por la revista Time.
- En un artículo publicado la semana pasada en Fast Company, Aronov explica que “no hay forma de volver a poner el genio en la botella” y que, por el contrario, está por llegar una nueva ola de innovación biotecnológica y es imprescindible cuidar su llegada para evitar la mala reacción que enfrentó la primera.
- “Desde su introducción comercial en 1996, los cultivos de bioingeniería se han convertido en un gigante comercial, dominando completamente el mercado en los Estados Unidos y en todo el mundo”, dice.
- “La Unión Europea está expandiendo significativamente el número de cultivos transgénicos aceptados para la importación”.
- “Nos guste o no, los organismos genéticamente modificados (OGM) 2.0 van a tener una curva de adopción que rivalizará con la de las semillas biotecnológicas de primera generación”.
Chile es el cuarto en Sudamérica: Revisa el ranking mundial de la felicidad de la ONU
Como será la OGM 2.0. No es un avance tecnológico, dice Aronov, sino más bien el producto de las nuevas tecnologías ya existentes que hacen que la bioingeniería sea cada vez más accesible.
- Esta segunda generación de alimentos modificados genéticamente está enfocada en el aporte de beneficios nutricionales directos para los consumidores, como trigo resistente a la sequía y tomates con antioxidantes adicionales.
- Entrega resultados más rápidos y precisos.
- Incrementan la productividad agrícola y disminuyen la necesidad de pesticidas
- Necesitan menos recursos y producen más alimentos.
Para la población de 2050. De acuerdo con estimaciones poblacionales, se espera que en 25 años más el mundo esté habitado por 10 mil millones de personas. ¿Cómo se alimentarán? Según Aronov, esa es justamente una de las respuestas que debiera ayudar a encontrar la OMG 2.0.
- Y también es importante, advierte, que la próxima ola de biotecnología se “desarrolle y comercialice de manera más transparente, más responsable y más equitativa”.
