Inicio / Finanzas / Urgen a perfeccionar la ‘IA física’ y crear marcos de gobernanza
Urgen a perfeccionar la ‘IA física’ y crear marcos de gobernanza
Expertos advierten sobre accidentes, filtraciones y errores de sistemas autónomos, mientras Nuevo León impulsa aplicaciones de inteligencia artificial
Por Bianca Cortés | 16 Septiembre 2026
La inteligencia artificial avanza a pasos acelerados, pero uno de sus mayores retos se encuentra fuera de las pantallas: lograr que los sistemas capaces de interactuar físicamente con personas y objetos puedan interpretar correctamente su entorno y actuar sin provocar accidentes.
Emmanuel Loo, subsecretario de Inversión de Nuevo León, explicó en entrevista exclusiva con El Horizonte que actualmente existen dos grandes vertientes: los modelos de lenguaje, que procesan información y generan respuestas, y la denominada “IA física”, presente en robots humanoides, vehículos autónomos y otros sistemas que ejecutan acciones en el mundo real.
En esta última, señaló, el aprendizaje todavía implica procesos de prueba y error, pues los robots deben aprender incluso acciones básicas que para los humanos son naturales.
“Le estamos enseñando a un robot a vivir”, ejemplificó, al explicar que tomar una lata requiere determinar la fuerza adecuada para no romperla, mientras que la respuesta debe ser distinta dependiendo de si se trata de una lata de refresco, agua mineral u otro objeto.
El reto, agregó, es que estos sistemas puedan distinguir entre personas, objetos y situaciones antes de actuar.
Una falla de interpretación podría ocasionar desde daños materiales o golpes hasta accidentes en vehículos autónomos que no reconozcan correctamente un objeto o a una persona.
Por ello, el desarrollo de la physical AI requiere ampliar las pruebas, mecanismos de emergencia y supervisión humana antes de llevarla a entornos de mayor riesgo.
Por su parte, Ángeles Vela del Río, directora del Clúster de Tecnologías de Información de Nuevo León, señaló que “el avance de la IA debe acompañarse de manera urgente con marcos de gobernanza y políticas de seguridad, sin frenar el desarrollo tecnológico”.
Explicó que “los riesgos para las organizaciones no sólo están relacionados con sistemas cada vez más autónomos, sino también con el manejo de datos sensibles y con posibles fallas o información incorrecta generada por estas herramientas”.
Ante este escenario, consideró necesario que las empresas establezcan mecanismos de gobernanza que permitan identificar y controlar estos riesgos, al tiempo que México y Nuevo León mantienen el ritmo de adopción de la tecnología.
Soberanía de los datos, el otro desafío
El otro gran desafío se encuentra en la información que reciben los sistemas de IA.
Loo señaló que la soberanía de los datos es actualmente uno de los principales retos para las empresas, debido a que no siempre existe control sobre qué información introducen los empleados en estas plataformas.
Para reducir el riesgo de filtraciones, dijo, las compañías están creando guardrails o “barandales” que delimitan qué datos puede consultar un sistema y qué acciones tiene permitido realizar.
Además, existe el riesgo de que una IA genere información incorrecta o manipule datos de una manera distinta a la prevista, lo que puede trasladar errores tecnológicos a decisiones empresariales.
Por ello, el funcionario consideró necesario establecer procedimientos que determinen qué información puede utilizar cada sistema y hasta dónde puede intervenir en las operaciones de una compañía.
Nuevo León y sus casos de éxito
Pese a estos retos, Nuevo León cuenta con un ecosistema creciente de empresas dedicadas a esta tecnología.
Loo señaló que el estado trabaja con más de 150 empresas de tecnología enfocadas en inteligencia artificial, mientras que en el sector industrial destacan las plantas de Schneider Electric y Lenovo, que utilizan IA en procesos de manufactura, inventarios, reducción de residuos y producción just in time.
En particular, ambas fueron señaladas por el funcionario como las únicas dos fábricas del país con reconocimiento Lighthouse, una certificación del Foro Económico Mundial y McKinsey que distingue aplicaciones avanzadas de tecnología en procesos industriales.
A esto se suma que dos startups locales de IA ingresaron recientemente a un programa de Y Combinator y se trasladaron a San Francisco para ampliar sus operaciones.
Así inició el debate de la ‘súper IA’
El debate sobre los límites de la inteligencia artificial escaló en días recientes, luego de que Dario Amodei, CEO de Anthropic, llamara a “moderar el desarrollo de los modelos más avanzados y reforzar los mecanismos de seguridad”.
Amodei planteó tres medidas: supervisión independiente de los modelos, regulación sectorial y reglas internacionales para la industria.
La propuesta recibió respaldo de Sam Altman, CEO de OpenAI, quien coincidió en la necesidad de “marcar el ritmo de la frontera” de la IA.
Elon Musk también expresó su apoyo.
Las preocupaciones aumentaron después de que agentes experimentales de IA demostraran capacidad para superar algunas restricciones, utilizar canales alternos de comunicación y operar en sistemas externos durante pruebas de seguridad.
Sin embargo, los propios investigadores han aclarado que estos episodios no significan que los sistemas actuales tengan voluntad propia ni representen una amenaza existencial, sino que evidencian los retos de controlar sistemas cada vez más autónomos cuando encuentran obstáculos para cumplir una instrucción.