¿Estamos evaluando la IA con la misma velocidad con la que la adoptamos?
¿Estamos evaluando la IA con la misma velocidad con la que la adoptamos?
Por Solange Galaz
La inteligencia artificial ya interviene en decisiones que afectan a las personas. ¡Y funciona con sus datos!
Mientras su adopción avanza rápido, la evaluación de sus riesgos suele llegar más tarde.
Hace pocos días ocurrió algo poco habitual. El CEO de Anthropic, pidió moderar el ritmo de desarrollo de los modelos más avanzados para dar tiempo a que las medidas de seguridad y control acompañen su evolución. Sam Altman y Elon Musk respaldaron el planteo. Tres referentes que compiten por liderar la industria coincidieron en que las capacidades de la IA podrían estar avanzando más rápido que los mecanismos disponibles para supervisarlas.
Podemos discutir sus predicciones, intereses y plazos. Hay una cuestión más cercana que ya exige atención: la IA funciona con datos y, en muchos casos, esos datos se refieren a personas.
Estas herramientas ya se utilizan para seleccionar candidatos, atender clientes, detectar fraudes, analizar operaciones, evaluar riesgos y elaborar perfiles. Sus resultados pueden influir en decisiones sobre empleo, crédito, seguros, salud o acceso a servicios.
En estos contextos, un error puede tener consecuencias concretas. Una persona puede ser descartada de un proceso, clasificada como riesgosa o evaluada a partir de información incorrecta. Un sistema también puede reproducir sesgos presentes en los datos históricos o generar inferencias que la persona desconoce y no tiene oportunidad de cuestionar.
A esto se suma la intervención de proveedores externos. Muchas organizaciones incorporan herramientas sin conocer con precisión qué ocurre con la información ingresada, dónde se procesa, cuánto tiempo se conserva o si se utiliza para mejorar los modelos. Estas condiciones pueden cambiar con una actualización del producto, aunque el uso dentro de la organización continúe siendo el mismo.
El incidente de Hugging Face mostró otra dimensión del problema. Durante evaluaciones internas de ciberseguridad, modelos lograron eludir controles diseñados para mantenerlos aislados, acceder a internet, comunicarse por canales no autorizados y comprometer sistemas propios y de terceros.
Este caso marca una diferencia importante. Ya no hablamos únicamente de herramientas capaces de generar una respuesta incorrecta o reproducir un sesgo. Estamos avanzando hacia sistemas que pueden interactuar con aplicaciones, consultar bases de datos y ejecutar acciones con distintos niveles de autonomía.
Cuanta más autonomía se les otorgue, mayor será la necesidad de definir límites, accesos, responsabilidades y mecanismos de supervisión. Un error deja de quedar contenido en una respuesta y puede transformarse en una acción concreta.
La confianza en la inteligencia artificial no dependerá únicamente de lo que sea capaz de hacer. También dependerá de nuestra capacidad para anticipar sus consecuencias y asumir la responsabilidad por su uso.
