La inteligencia artificial ya participa en procesos que organizan tareas, apoyan decisiones o supervisan operaciones. El desafío para HSE no consiste solo en valorar su potencial, sino en identificar qué peligros puede introducir en el trabajo y cómo controlarlos antes de ampliar su uso. La higiene algorítmica ofrece una forma concreta de ordenar esa conversación.
Leer la IA como un peligro ocupacional
Tratar la IA como una tecnología neutral dificulta la gestión preventiva. Un sistema puede modificar la forma en que se asignan tareas, se mide el desempeño, se priorizan alertas o se toman decisiones sobre una operación. Por eso, el análisis debe comenzar con el trabajo real: qué cambia, quién queda expuesto a ese cambio y qué controles podrían perder efectividad.
Según John P. Sadowski, autor del abstract “You vs. the Robot Factory: Some Principles for Understanding AI Hazards in the Workplace”, disponible en CDC Stacks, los sistemas con IA pueden analizarse desde principios de higiene ocupacional y control de peligros. Como se trata de un abstract presentado en APHA 2025, su alcance es acotado; aun así, ofrece un punto de partida útil para desplazar la discusión desde la novedad tecnológica hacia la identificación, evaluación y control de riesgos concretos.
Esta mirada también evita dos errores frecuentes. El primero es asumir que una herramienta es segura porque mejora un indicador de productividad o reduce una tarea manual. El segundo es considerar que el riesgo pertenece exclusivamente al software. En realidad, la exposición puede surgir de la interacción entre la tecnología, las exigencias del puesto, las reglas de supervisión y las decisiones que toman las personas a partir de sus resultados.
La tesis de Safety Intelligence es sencilla: una IA solo puede gestionarse de manera preventiva cuando sus peligros, controles, responsables y evidencias se vuelven visibles para la organización. La tecnología no reemplaza la disciplina de identificar riesgos; hace más necesario aplicarla con precisión.
Separar el diseño del trabajo del software
Uno de los criterios mencionados en el abstract es distinguir entre los controles relacionados con el diseño del trabajo y aquellos incorporados en el software. La separación ayuda a evitar que una función digital sea considerada suficiente por sí misma para controlar un peligro operacional.
Los controles de diseño del trabajo se relacionan con la manera en que se organiza la actividad. Incluyen, por ejemplo, cómo se distribuyen las responsabilidades, qué nivel de autonomía conserva la persona, cómo se revisan las decisiones y qué ocurre cuando una recomendación automatizada es incompleta o errónea. No se trata de agregar pasos administrativos sin propósito, sino de definir límites claros para que la herramienta no concentre decisiones que requieren criterio humano.
Los controles del software corresponden a la forma en que el sistema funciona y comunica sus resultados. Antes de escalarlo, conviene preguntar qué datos utiliza, qué supuestos contiene, cómo identifica una situación anómala y qué información entrega a quien debe actuar. También es necesario establecer cómo se registran las versiones, cambios, alertas y excepciones.
Ambas capas deben revisarse juntas. Un software puede tener controles técnicos bien definidos y, aun así, generar un riesgo si el proceso obliga a aceptar sus recomendaciones sin revisión. Del mismo modo, un procedimiento puede exigir validación humana, pero resultar débil si la interfaz no permite comprender el motivo de una alerta o si no deja evidencia de la decisión tomada.
El objetivo no es demostrar que el sistema es perfecto. Es establecer qué puede hacer, qué no puede hacer y quién responde cuando sus límites son alcanzados. Esa claridad permite asignar responsables y evita que el riesgo quede disperso entre el área tecnológica, la operación y HSE.
Identificar riesgos psicosociales, exposición y gobernanza
La higiene ocupacional aplicada a la IA debe considerar más que los riesgos visibles de una máquina o una tarea. El abstract aborda riesgos psicosociales, exposición y gobernanza como dimensiones que deben formar parte de la lectura.
Los riesgos psicosociales pueden aparecer cuando la tecnología cambia el ritmo de trabajo, intensifica la vigilancia, reduce la autonomía o vuelve opacos los criterios de evaluación. También pueden surgir cuando las personas deben responder continuamente a alertas, corregir resultados inconsistentes o asumir consecuencias por decisiones que no controlan completamente. Estas posibilidades no deben presentarse como efectos automáticos; son preguntas de evaluación que dependen del diseño y del contexto de uso.
La exposición también requiere una definición amplia. Puede referirse a la exposición a condiciones peligrosas que el sistema intenta detectar, pero también a nuevas formas de interacción con equipos, datos o procesos que modifican la tarea. La pregunta preventiva es qué contacto, carga o condición cambia cuando la IA entra en la actividad y qué evidencia permite verificar que el control sigue funcionando.
La gobernanza conecta esas preguntas con la toma de decisiones. Una organización necesita saber quién autoriza el uso, quién revisa el desempeño del sistema, quién puede detenerlo y cómo se investigan las desviaciones. Esta recomendación es una aplicación editorial del enfoque de control de peligros, no una obligación establecida por el abstract. Sin trazabilidad, una alerta puede registrarse sin respuesta o una decisión puede ejecutarse sin que sea posible reconstruir sus fundamentos.
Convertir la lectura en controles verificables
El análisis puede traducirse en un ciclo de gestión antes del despliegue y durante su operación. El primer paso es describir el caso de uso en términos operativos: qué tarea apoya la IA, qué decisión influye y qué personas o procesos reciben sus resultados. Una descripción concreta permite diferenciar una aplicación experimental de un cambio relevante en el trabajo.
El segundo paso es identificar peligros y controles en las dos capas señaladas: diseño del trabajo y software. Para cada riesgo, conviene definir un responsable, una condición de operación aceptable y una forma de verificar el control. La evidencia puede consistir en registros de revisión, cambios aprobados, incidentes, excepciones, capacitaciones o decisiones documentadas, siempre que responda a una pregunta preventiva real.
El tercer paso es establecer cómo se tratarán las señales de deterioro. Si una alerta pierde calidad, si aumenta la cantidad de excepciones o si las personas dejan de confiar en el sistema, la organización debe contar con un criterio para revisar, limitar o detener el uso. La mejora continua depende de observar esas señales y convertirlas en acciones, no solo en informes.
Finalmente, la revisión debe mantenerse después de la implementación. Cambiar los datos, el modelo, la tarea o las condiciones del entorno puede modificar el riesgo inicial. Por eso, la evaluación no debería ser un trámite único, sino un proceso con responsables, fechas, controles y evidencia suficiente para sostener decisiones posteriores.
Leer la inteligencia artificial desde la higiene ocupacional permite transformar una conversación abstracta en una revisión preventiva del trabajo, los controles y las responsabilidades. El punto de partida no es asumir que toda herramienta es peligrosa ni aceptar que toda herramienta es segura, sino delimitar qué cambia, qué riesgos pueden aparecer y cómo se comprobará que los controles funcionan. Separar el diseño del trabajo de las funciones del software ayuda a ordenar esa evaluación; incorporar gobernanza y evidencia permite sostenerla en el tiempo. Para HSE y operaciones, la oportunidad está en convertir cada decisión de adopción o escalamiento en un proceso trazable, revisable y vinculado a la mejora continua.
