Autor: Msc.Ing. Carlos Gómez Pozo / carlosg.pozo@etecsa.cu
Ethical and operational challenges of artificial intelligence
Resumen: El presente artículo analiza la transición de las organizaciones cubanas desde una fase inicial de adopción de la Inteligencia Artificial hacia una etapa de orquestación responsable, identificando los nuevos retos éticos, operativos y ambientales. El estudio se fundamenta en un análisis documental de informes técnicos publicados entre 2024 y 2025 por Gartner, Stanford HAI, McKinsey y Palo Alto Networks. Los principales hallazgos revelan cinco desafíos críticos: la proliferación de la Shadow, AI como vector de fuga de datos, las alucinaciones algorítmicas que comprometen la veracidad corporativa, la fragmentación geográfica de los modelos de IA, el consumo energético oculto de las solicitudes, y los riesgos derivados de la autonomía progresiva de los agentes inteligentes. Se propone un marco de gobernanza basado en cinco reglas operativas. Se concluye que la madurez empresarial en IA requiere transitar del rol de usuario al de empleador responsable de agentes digitales.
Abstract: This article analyzes the transition of Cuban organizations from an initial phase of Artificial Intelligence adoption to a stage of responsible orchestration, identifying emerging ethical, operational, and environmental challenges. The study is based on a documentary analysis of technical reports published between 2024 and 2025 by Gartner, Stanford HAI, McKinsey, and Palo Alto Networks. Key findings reveal five critical challenges: the proliferation of «Shadow AI» as a vector for data leakage; algorithmic hallucinations that compromise corporate credibility; the geographic fragmentation of AI models; the hidden energy consumption of requests; and risks stemming from the progressive autonomy of intelligent agents. A governance framework based on five operational rules is proposed. The study concludes that organizational maturity in AI requires shifting from the role of user to that of a responsible employer of digital agents.
Introducción
La Inteligencia Artificial (IA) ha transitado en los últimos años desde un concepto teórico hacia una herramienta operativa presente en las organizaciones cubanas, particularmente en sectores estratégicos como las telecomunicaciones. Tras una primera fase de adopción caracterizada por el entusiasmo ante sus beneficios inmediatos —automatización de tareas, generación de contenido y análisis de datos—, las empresas enfrentan ahora una segunda etapa más compleja: la orquestación responsable de estas tecnologías. Esta transición revela riesgos antes invisibles que comprometen la seguridad, la ética y la sostenibilidad de las operaciones empresariales.
El presente trabajo tiene como objetivo identificar los nuevos retos éticos y operativos que emergen en esta fase de orquestación, y proponer un marco de gobernanza aplicable al contexto empresarial cubano. La importancia del estudio radica en que las organizaciones que no aborden estos desafíos enfrentarán riesgos de fuga de datos, decisiones erróneas basadas en alucinaciones algorítmicas, dependencia tecnológica extranjera y costes ambientales crecientes. La metodología empleada combina el análisis documental de informes técnicos internacionales con la observación de prácticas empresariales locales, permitiendo articular recomendaciones aplicables al contexto nacional.
Desafíos críticos en la fase de orquestación de la IA
El análisis de los informes técnicos más recientes (2024-2025) permite identificar cinco desafíos críticos en la fase de orquestación de la IA.
Primero, la proliferación de la Shadow AI o IA en la sombra
Según Palo Alto Networks (2025) y CrowdStrike (2025), el uso no autorizado de herramientas de IA públicas por parte de empleados se ha convertido en el principal vector de fuga de datos corporativos, superando incluso al phishing tradicional. Los empleados, con la mejor intención, introducen datos sensibles en plataformas externas sin supervisión, exponiendo información crítica de la organización.
Segundo, las alucinaciones algorítmicas
Los modelos de IA, al ser motores de probabilidades y no de certezas, pueden generar respuestas convincentes pero falsas cuando carecen de información específica. McKinsey (2025) demuestra que la implementación de arquitecturas RAG (Retrieval-Augmented Generation) reduce estas alucinaciones en más del 80 %, al conectar la IA con las fuentes de verdad corporativas en tiempo real.
Tercero, la fragmentación geográfica de los modelos
Un mismo modelo entrenado en distintas regiones produce respuestas diferentes según el contexto cultural y regulatorio de origen. Esto plantea un desafío de soberanía para las organizaciones cubanas, cuyo uso de APIs extranjeras implica la salida de datos sensibles de las fronteras nacionales. La tendencia hacia modelos de lenguaje pequeños (SLMs) y Edge AI permite ejecutar IA localmente, mitigando este riesgo.
Cuarto, el impacto ambiental oculto
El Stanford HAI Index Report 2025 documenta que cada solicitud compleja a modelos de IA consume recursos energéticos significativos: una consulta multimodal puede equivaler a cargar un teléfono móvil 50 veces. Multiplicado por miles de empleados, este consumo representa una huella ambiental considerable que debe ser auditada y gestionada.
Quinto, la autonomía progresiva de los agentes de IA
Gartner (2025) identifica la IA Agéntica como la tendencia tecnológica principal, donde los sistemas no solo responden texto, sino que ejecutan acciones autónomas: envían correos, modifican registros, aprueban solicitudes. Esto exige aplicar el principio de Confianza Cero (Zero Trust), otorgando identidades digitales únicas, permisos de mínimo privilegio y auditoría exhaustiva a cada agente.
La interpretación de estos hallazgos permite articular un marco de gobernanza basado en cinco reglas operativas que las organizaciones cubanas pueden implementar de manera progresiva. Este marco responde a los retos identificados y se alinea con estándares internacionales como el EU AI Act, que clasifica los sistemas de IA según su nivel de riesgo.
Conclusiones
La transición desde la adopción hacia la orquestación de la Inteligencia Artificial en las organizaciones cubanas requiere un cambio de paradigma: los directivos y técnicos deben dejar de verse como usuarios pasivos para convertirse en empleadores responsables de agentes digitales. Los cinco desafíos identificados —Shadow AI, alucinaciones, fragmentación geográfica, impacto ambiental y autonomía de agentes— exigen respuestas estructuradas basadas en la implementación de RAG, el principio Zero Trust, la estandarización de prompts, la auditoría ambiental y la priorización de modelos locales.
La aplicación de este marco de gobernanza permite a las organizaciones cubanas aprovechar los beneficios de la IA minimizando sus riesgos, fortaleciendo simultáneamente la soberanía tecnológica nacional y la sostenibilidad ambiental. La pregunta central que debe guiar esta transición no es qué puede hacer la IA por la empresa, sino qué tipo de empleador responsable quiere ser la organización para sus agentes digitales.
Referencias bibliográficas
- Gartner. (2025). AI TRiSM: Trust, Risk, and Security Management for Artificial Intelligence. Gartner Research.
- Stanford Institute for Human-Centered Artificial Intelligence. (2025). AI Index Report 2025. Stanford University.
- McKinsey & Company. (2025). The State of AI: Global Survey on RAG Implementation and Hallucination Reduction. McKinsey Digital Practice.
- Palo Alto Networks. (2025). Cloud Security Report: Shadow AI as the New Corporate Data Leakage Vector.
- CrowdStrike. (2025). Global Threat Report: AI-Powered Attacks and Shadow AI Risks.
- Comisión Europea. (2024). EU AI Act: Regulation on Artificial Intelligence. Diario Oficial de la Unión Europea.
- Foro Económico Mundial. (2025). Green AI and Sustainable Computing: Data Center Energy Consumption Trends.
- Thomas, R. (IBM). (2023). The AI Ladder: A Framework for Information Architecture. IBM Press.