La Inteligencia Artificial se ha convertido en una herramienta habitual en las empresas, utilizándose para redactar documentos, analizar información, automatizar procesos, seleccionar personal o apoyar la toma de decisiones. Ante su rápida expansión, la Unión Europea ha aprobado el Reglamento de Inteligencia Artificial, que España está adaptando mediante un nuevo marco normativo destinado a garantizar un uso seguro, transparente y respetuoso con los derechos fundamentales.
El objetivo de esta regulación no es frenar la innovación, sino establecer reglas claras que permitan aprovechar las ventajas de la IA minimizando los riesgos para las personas.
La normativa clasifica los sistemas de IA según su nivel de riesgo. Los sistemas de riesgo mínimo tendrán pocas obligaciones, mientras que los de riesgo limitado, como muchos chatbots o herramientas generativas, deberán informar claramente a los usuarios de que están interactuando con una inteligencia artificial.
Sin embargo, los sistemas considerados de alto riesgo, especialmente aquellos utilizados en ámbitos como el empleo, la sanidad, la educación o la justicia, estarán sujetos a requisitos mucho más estrictos, incluyendo supervisión humana, evaluaciones de riesgos, control de la calidad de los datos, documentación técnica y formación de las personas responsables de su uso.
El reglamento también prohíbe determinadas prácticas consideradas incompatibles con los valores de la Unión Europea, como los sistemas de manipulación subliminal, la explotación de personas vulnerables o los mecanismos de puntuación social.
Asimismo, impone restricciones importantes al uso de tecnologías biométricas y a la difusión de contenidos sintéticos o deepfakes cuando puedan inducir a error.
El incumplimiento de estas obligaciones puede dar lugar a sanciones muy elevadas, que alcanzan los 35 millones de euros o el 7 % de la facturación anual global de la empresa, lo que convierte el cumplimiento normativo en una cuestión estratégica para cualquier organización.
Uno de los ámbitos donde la IA genera mayor impacto es el laboral. Cada vez más empresas utilizan algoritmos para filtrar currículums, evaluar candidatos, organizar turnos, asignar tareas o medir el rendimiento de los trabajadores.
No obstante, la normativa deja claro que una inteligencia artificial no puede adoptar por sí sola decisiones con efectos significativos sobre las personas, como un despido.
El Reglamento General de Protección de Datos reconoce el derecho a no ser objeto de decisiones basadas exclusivamente en tratamientos automatizados cuando produzcan efectos jurídicos relevantes. Por ello, cualquier decisión de este tipo debe contar con una intervención humana real, efectiva y capaz de revisar o modificar las conclusiones obtenidas por el sistema automatizado.
La transparencia se convierte igualmente en un principio fundamental. Los trabajadores tienen derecho a conocer cuándo una herramienta de IA participa en decisiones que afectan a sus condiciones laborales, especialmente cuando se utilizan sistemas de monitorización de la actividad, análisis de productividad o evaluación del desempeño. Además, el uso de tecnologías biométricas, como el reconocimiento facial para el control horario o de accesos, sigue siendo especialmente sensible desde el punto de vista de la protección de datos y exige una justificación rigurosa debido al elevado riesgo que supone para los derechos y libertades de las personas.
Otro aspecto que preocupa cada vez más es el denominado perfilado emocional, es decir, el uso de sistemas que analizan expresiones faciales, tono de voz o comportamientos para inferir emociones, estados de ánimo o rasgos psicológicos de los trabajadores.
Estas tecnologías plantean importantes dudas sobre su fiabilidad y generan riesgos significativos en materia de privacidad, discriminación y dignidad personal, por lo que previsiblemente serán objeto de una intensa supervisión por parte de las autoridades de control.
En definitiva, la Inteligencia Artificial representa una gran oportunidad para mejorar la eficiencia y la competitividad empresarial, pero su utilización debe realizarse dentro de un marco jurídico que garantice la transparencia, la supervisión humana y el respeto a los derechos fundamentales.
La automatización puede ayudar a tomar decisiones, pero nunca sustituir la responsabilidad de las personas. El gran reto de los próximos años será lograr un equilibrio entre innovación tecnológica y protección de derechos, asegurando que la IA siga estando al servicio de las personas y no al contrario.