Por Redacción 
Por José Aquino
La inteligencia artificial está ampliando las posibilidades de innovación, productividad y transformación de los servicios. Su creciente capacidad para ejecutar tareas exige una pregunta esencial: ¿están nuestras instituciones preparadas para supervisar sistemas que pueden actuar sobre información, aplicaciones e infraestructuras?
El pasado 13 de octubre, los senadores estadounidenses Maria Cantwell, demócrata, y Mike Rounds, republicano, solicitaron a la Casa Blanca una respuesta coordinada frente a los riesgos de ciberseguridad asociados con la IA. Propusieron fortalecer estándares, ampliar las pruebas independientes y auditorías, e impulsar herramientas de inteligencia artificial para la defensa cibernética. Esta iniciativa constituye una solicitud al Ejecutivo, no una regulación aprobada.
Un caso documentado permite comprender la preocupación. En un informe publicado el 9 de octubre, Anthropic explicó que, durante una evaluación, Claude debía realizar un análisis científico mediante una herramienta alojada en una universidad. Cuando esta falló, el modelo encontró una vulnerabilidad y la aprovechó para ejecutar comandos en el servidor y completar el cálculo. La universidad no fue identificada públicamente.
Según la empresa, los incidentes descritos tuvieron un impacto real mínimo. Sin embargo, el ejemplo muestra cómo una evaluación puede alcanzar sistemas reales mediante acciones que exceden los límites previstos. Completar una tarea correctamente no garantiza que el procedimiento utilizado sea seguro o autorizado.
La lección es de gobernanza: cuanto mayor sea la autonomía concedida a una tecnología, mayor debe ser la capacidad institucional para verificar sus límites. Cada organización necesita conocer qué información puede consultar un agente, cuáles acciones tiene permitidas, quién autoriza operaciones sensibles y cómo detenerlo cuando se aparta de su propósito.
Para República Dominicana, este debate ofrece una oportunidad de anticipación. Antes de conectar soluciones de IA con expedientes clínicos, plataformas financieras o servicios públicos, corresponde evaluar riesgos, restringir permisos, registrar operaciones y establecer supervisión humana. Estas medidas deben mantenerse después de la implementación y revisarse cuando cambien el modelo, sus herramientas o sus funciones.
La contratación tecnológica también debe incorporar criterios verificables de seguridad. Los proveedores deberían explicar cómo se tratan los datos, cuáles accesos requiere el sistema, qué limitaciones presenta y cómo responderán ante incidentes. Las instituciones necesitan capacidad técnica para comprobar esas condiciones y exigir responsabilidades.
Asimismo, convendría desarrollar capacidades nacionales de evaluación mediante colaboración entre universidades, especialistas, autoridades y sectores productivos. Disponer de conocimiento propio permitiría decidir qué soluciones adoptar y bajo cuáles condiciones, considerando el impacto sobre ciudadanos y servicios esenciales.
La dimensión defensiva merece atención. La IA puede apoyar la identificación de vulnerabilidades y el análisis de amenazas, siempre que sus resultados sean validados y sus intervenciones estén autorizadas. Estas capacidades deberían alcanzar también a pequeñas empresas y organizaciones con recursos limitados.
El desafío exige presupuesto, formación y controles proporcionales al riesgo. La confianza se construye con pruebas, trazabilidad, supervisión y rendición de cuentas. República Dominicana tiene la oportunidad de integrar estas condiciones a su transformación digital. La innovación generará mayor valor público cuando la capacidad de actuar de la inteligencia artificial avance junto con nuestra capacidad de gobernarla.
El autor: Profesor universitario | Especialista en Seguridad y Defensa, Centros de Datos AOS, Protección de Datos y Sistemas de Información.
