La Inteligencia Artificial ya forma parte de nuestro día a día. Muchas empresas la utilizan para redactar documentos, analizar datos, seleccionar candidatos, atender clientes o automatizar procesos.
Hasta ahora, estas herramientas se estaban implantando con pocas reglas específicas. Sin embargo, esto está cambiando con la llegada de la nueva Ley para el buen uso y la gobernanza de la Inteligencia Artificial, que adapta en España el Reglamento Europeo de Inteligencia Artificial, conocido como AI Act.
¿Su objetivo? No prohibir la Inteligencia Artificial, sino garantizar que se utilice de forma segura, transparente y respetando los derechos de las personas.
La normativa prohíbe determinados usos considerados especialmente peligrosos, como los sistemas que manipulan el comportamiento humano, los que explotan situaciones de vulnerabilidad o determinados modelos de puntuación social. También establece importantes restricciones sobre tecnologías biométricas y sobre los llamados deepfakes cuando se utilizan de forma engañosa.
Además, clasifica los sistemas de IA según su nivel de riesgo. Los de riesgo mínimo tendrán pocas obligaciones. Los de riesgo limitado, como muchos chatbots, deberán informar claramente de que el usuario está interactuando con una inteligencia artificial. Y los sistemas de alto riesgo, especialmente los utilizados en empleo, sanidad, educación o justicia, estarán sometidos a controles mucho más exigentes.
Las sanciones tampoco son menores. Las infracciones más graves podrán alcanzar hasta 35 millones de euros o el 7 % de la facturación anual de la empresa.
Pero si hay un ámbito donde la Inteligencia Artificial genera especialmente interés es el laboral.
Cada vez más empresas utilizan algoritmos para seleccionar personal, evaluar el rendimiento, asignar tareas o analizar la productividad de los trabajadores.
Y aquí surge una pregunta que escuchamos con frecuencia: ¿puede una Inteligencia Artificial despedir a un trabajador?
La respuesta es clara: no puede hacerlo por sí sola.
Si una decisión tan importante como un despido se basa exclusivamente en un algoritmo, la empresa puede estar incumpliendo la normativa. La legislación europea exige que exista una supervisión humana real y efectiva. No basta con aceptar automáticamente la recomendación de una máquina.
Además, los trabajadores tienen derecho a saber cuándo un sistema automatizado participa en decisiones que afectan a sus condiciones laborales. La transparencia se convierte en un requisito fundamental.
También debemos prestar atención a tecnologías especialmente sensibles, como el reconocimiento facial o los sistemas que intentan analizar emociones mediante expresiones faciales, tono de voz o comportamientos. Se trata de herramientas que plantean importantes riesgos legales y éticos.
Por todo ello, el mensaje para las empresas es claro: la Inteligencia Artificial puede ayudar a tomar mejores decisiones, pero no puede sustituir la responsabilidad humana.
Y para los trabajadores, el mensaje es igualmente importante: tienen derecho a ser informados, a solicitar explicaciones y a exigir una revisión humana cuando una decisión relevante haya sido influida por un algoritmo.
Porque al final, detrás de cada sistema de Inteligencia Artificial, siempre debe existir una persona responsable.
Ese será, probablemente, uno de los grandes retos jurídicos de los próximos años: garantizar que la tecnología siga estando al servicio de las personas y no al revés.
No te pierdas la entrevista completa con Javier Nogueroles, que podrás escuchar cada semana en el programa TIC TAC DATOS de ONDA NARANJA COPE.