IA soberana: la responsabilidad sigue en la empresa
Eva Mickler
7 min. lectura Quien adopta un modelo de IA en producción asume la responsabilidad de su comportamiento, ...
Los datos determinan cómo trabajan las empresas hoy en día, cómo toman decisiones, desarrollan e implementan innovaciones. Son valiosos porque permiten obtener información, optimizar procesos y asegurar ventajas competitivas. Quien posee datos, los controla y decide de manera soberana sobre su uso, tiene una ventaja decisiva. Pero, ¿cómo está la soberanía de datos en Alemania y Europa? Este artículo, elaborado en colaboración con expertos de la Asociación Federal de PYMES de TI, abreviada BITMi, proporciona respuestas y enfoques de solución.La soberanía de datos, es decir, el control sobre la creación, almacenamiento y procesamiento de información sensible, hoy en día ya no es algo evidente. Vivimos en un mundo impulsado por datos, pero pocos pueden decidir de manera soberana qué sucede con sus propios datos. Tanto en el ámbito privado como en el empresarial, muchas personas no son conscientes o simplemente les da igual lo que realmente ocurre con la información que generamos diariamente al usar servicios digitales. Esto representa un gran riesgo. Datos de ubicación, información de contacto, contenido de conversaciones y chats, duración de uso, perfiles de movimiento en la red, datos de pago: la lista es casi interminable. Toda esta información sensible puede causar grandes daños en las manos equivocadas.También a muchas empresas, especialmente en Europa y particularmente en Alemania, les falta el control sobre sus propios datos. Azure, IBM, AWS, Google Cloud: pocas empresas no utilizan de alguna manera los servicios de proveedores de cloud estadounidenses. Aunque los contratos con la UE garantizan cierta protección y un marco para el procesamiento de los datos, los datos almacenados y procesados aquí son potencialmente accesibles para las autoridades estadounidenses. Esto se aplica incluso cuando hay proveedores intermediarios y independientemente de dónde se realice el hosting.
«Dado que las estructuras empresariales se vuelven cada vez más complejas, perdemos cada vez más la visión general de quién realmente tiene acceso a nuestros datos, especialmente en el caso de proveedores de servicios con propiedades internacionales», señala Lennart Schröder, Senior Broker de contego GmbH y experto de BITMi.
Las empresas en nuestro país no tienen una visión general de quién accede a sus datos y cómo estos son utilizados y procesados por sus diversos proveedores de servicios digitales. «A menudo, las empresas ni siquiera saben cuántas fuentes de datos diferentes tienen y dónde se encuentran. Al mismo tiempo, aumentan los riesgos: ataques de hackers, espionaje industrial y conflictos políticos amenazan la seguridad y la confianza en la propia estrategia de datos, mientras que la omnipresente inteligencia artificial plantea desafíos completamente nuevos», afirma Jannik Schumann, director gerente de basec GmbH.
La falta de transparencia hace que sea casi imposible recuperar la soberanía sobre los propios datos. «Sin un conocimiento claro de dónde se encuentran los datos y quién puede acceder a ellos, cualquier medida de seguridad sigue siendo fragmentaria y las empresas corren el riesgo de incumplir también los requisitos regulatorios», advierte Schumann. Mientras el control sobre los flujos de datos y las ubicaciones de almacenamiento esté en manos de proveedores internacionales, la soberanía de datos seguirá siendo solo una palabra sin una implementación tangible en la vida empresarial diaria.
Fueron las prometedoras oportunidades las que llevaron a las empresas a esta dependencia. Los datos permiten tomar decisiones más fundamentadas, diseñar procesos de forma más eficiente y optimizar flujos de trabajo mediante la automatización basada en análisis de datos. Sin embargo, estas oportunidades conllevan riesgos considerables. Si los datos caen en manos equivocadas, pueden revelar secretos empresariales, poner en peligro la posición competitiva o incluso destruir modelos de negocio enteros. Y este riesgo aumenta debido a la falta de una verdadera soberanía de datos.
La interconexión internacional en el procesamiento y almacenamiento de datos conlleva siempre el peligro de que, en caso de cambios en las condiciones políticas o de conflictos, los procesos basados en datos puedan detenerse por completo. Al mismo tiempo, los datos de los empleados también representan un peligro. «Si estos datos se utilizan para ataques o se maltratan, por ejemplo para chantajear a empleados, la seguridad de una empresa puede verse directamente amenazada. Muchas empresas subestiman estos riesgos y carecen tanto de concienciación como de estrategias para hacerles frente de manera efectiva», afirma Lennart Schröder.
El riesgo que conlleva el mundo actual basado en datos aumenta además debido a las enormes posibilidades de la inteligencia artificial. Los sistemas de IA reconocen patrones, descubren relaciones y generan conocimientos a partir de ellos. Mientras que las empresas se benefician de la IA optimizando aún más sus procesos y abriendo nuevos campos de negocio, la misma tecnología permite a posibles atacantes extraer información sensible de forma dirigida y utilizarla en su propio beneficio. «Esto resulta especialmente problemático cuando las empresas dependen de proveedores externos de servicios de IA. Sin sistemas propios de IA, el control sobre el uso y análisis de los datos permanece en manos de terceros», advierte el Dr. Klaus Meffert, director general de IT Logic GmbH.Para escapar de esta dependencia y reforzar la soberanía de datos, los sistemas de IA autónomos están ganando importancia para las empresas. En el futuro, el procesamiento de datos no podrá prescindir de la IA; esta tecnología ha llegado para quedarse. Por ello, las empresas deberían actuar en este ámbito y aprovechar la IA también a su favor en lo que respecta a la soberanía de datos. Los sistemas de IA cerrados y especializados se adaptan individualmente a las necesidades de cada empresa y ofrecen, en comparación con plataformas abiertas como ChatGPT, que actúan como generalistas, una ventaja clara adicional: utilizan conocimientos especializados disponibles únicamente en el contexto empresarial específico, y por tanto ofrecen resultados significativamente mejores y más útiles.
Para el desarrollo de tales sistemas, los modelos de IA de código abierto como el modelo «Teuken-7B» publicado a finales de 2024 por el proyecto europeo de investigación OpenGPT-X ofrecen una solución viable. «Los modelos de código abierto están disponibles libremente, son de alta calidad y se pueden adaptar con flexibilidad a los requisitos individuales de una empresa, sin crear nuevas dependencias de proveedores estadounidenses», afirma el Dr. Meffert. «Al combinar esto con el alojamiento de estos modelos de IA y los datos asociados en centros de procesamiento de datos propiedad de la empresa o explícitamente europeos, las empresas pueden dar los primeros pasos hacia una verdadera soberanía de los datos, manteniendo así el control sobre sus propios datos y aprovechando de forma eficiente y segura las ventajas de la inteligencia artificial».
Hoy en día, el control sobre los propios datos determina la capacidad de innovación, la seguridad y la independencia de las empresas. Los riesgos actuales –desde flujos de datos poco claros hasta conflictos internacionales y los desafíos planteados por la IA– muestran con qué urgencia deben actuar las empresas. Soluciones como sistemas de IA cerrados y especializados basados en modelos de código abierto ofrecen una perspectiva tangible para reducir dependencias y recuperar la soberanía sobre los datos. Combinado con una migración coherente del procesamiento de datos hacia entornos exclusivamente europeos, se puede dar así el primer paso hacia una verdadera soberanía de los datos. De este modo, las empresas crean la base necesaria para garantizar su futuro en nuestro mundo impulsado por los datos.
Fuente imagen principal: Adobe Stock / Din Nasahrudin
Klaus Meffert es informático diplomado y doctorado, además de experto en TI (también conocido como «Dr. DSGVO»). Como director gerente de IT Logic GmbH, ofrece soluciones de software prácticas hechas en Alemania, con valor añadido y alta seguridad de datos. Su enfoque principal reside en… Más informaciónJannik Schumann, director gerente de Basec GmbH, es un consultor experimentado en seguridad de gestión con más de 15 años de experiencia en consultoría de TI. Con amplia experiencia en clientes públicos, organismos oficiales y… Más informaciónLennart Schröder lleva más de 2 años trabajando en contego como asesor especializado en seguros, ayudando a empresas a protegerse frente a riesgos cibernéticos y tecnológicos. Antes de esto, estuvo… Más información