¿Se puede evitar que una inteligencia artificial actúe fuera de control? Nvidia cree que sí, o al menos que es posible reducir ese riesgo. La empresa presentó una nueva arquitectura de seguridad para agentes de IA basada en supervisión externa, entornos aislados y mecanismos de cuarentena capaces de intervenir cuando un sistema rebasa determinados límites.
La propuesta aspira a hacer más segura la adopción de herramientas autónomas en empresas, gobiernos y servicios críticos. Sin embargo, también alimenta una discusión cada vez más intensa entre quienes confían en soluciones técnicas para contener los riesgos de la IA y quienes defienden la necesidad de una mayor regulación.
Créditos: DW en español.
