Alguien tiene que mirar el expediente
La legislatura de California ha enviado al gobernador Gavin Newsom la SB 947, una propuesta que impediría a las empresas usar por sí solo un sistema de decisión automatizada para sancionar o despedir a un trabajador. La Asamblea la aprobó por 53 votos contra 14 el 30 de agosto y el Senado por 28 contra 10, según la oficina de su autor, el senador Jerry McNerney.
El mecanismo es concreto y acotado. Cuando una empresa se apoya principalmente en el resultado de un sistema de decisión automatizada para una sanción o un despido, el texto obliga a que un revisor humano realice una investigación independiente y reúna información que corrobore o respalde la decisión. Un sello de goma no basta según la letra del proyecto: el revisor tiene que ir a buscar algo.
Notificación, datos y sanciones
La norma también entrega dos cosas al trabajador después del hecho. Debe recibir una notificación escrita en el momento de la decisión, que indique que hubo revisión humana y facilite un contacto para preguntas. Y puede solicitar una descripción de sus propios datos utilizados por el sistema en esa decisión, una vez cada doce meses.
Por separado, el proyecto prohíbe usar un sistema de decisión automatizada para infringir la legislación laboral, para inferir la condición protegida de un trabajador, para hacer análisis predictivo de comportamiento con fines de empleo, o para anticipar y actuar contra un trabajador que ejerce sus derechos. Prohíbe además las represalias contra quienes usen los derechos que crea. La aplicación corresponde al Labor Commissioner y las sanciones civiles llegan a 500 dólares por infracción. Si se firma, las disposiciones entran en vigor el 1 de julio de 2027.
La oficina de McNerney resumió el proyecto en una línea: la IA debe seguir siendo una herramienta controlada por las personas, y no al revés.
El reloj es la noticia
La legislatura levantó la sesión el 31 de agosto tras aprobar alrededor de treinta proyectos relacionados con la IA, según la Transparency Coalition, un grupo de presión que sigue el periodo de sesiones. Dos se firmaron en junio: la AB 2148, que exige que los empleados escolares sean personas físicas, y la SB 719, sobre la divulgación del rastreo de ubicación de vehículos. El resto está en la mesa del gobernador, que tiene hasta el 30 de septiembre para firmarlos o vetarlos.
El resto del paquete abarca terreno muy diverso. La AB 1709 impediría a las redes sociales ofrecer contenidos personalizados y reproducción automática a menores de 16 años. La SB 867 mantendría los chatbots de compañía fuera de los juguetes. La SB 928 exigiría que los docentes de la California State University sean humanos. La AB 1883 restringiría las herramientas de vigilancia laboral con IA que analizan estados emocionales, y la SB 1119 actualizaría las protecciones de seguridad de los chatbots.
Qué vigilar
Las decisiones caen todas en la misma ventana de cuatro semanas, así que la fecha que hay que marcar es el 30 de septiembre y no un proyecto concreto. Para la SB 947 en particular, una firma trae dos cosas: una entrada en vigor el 1 de julio de 2027 que da nueve meses de margen a las empresas, y la definición de qué significa apoyarse «principalmente» en un sistema automatizado, que es donde empezarán las discusiones de cumplimiento. Un veto dejaría la decisión automatizada en el trabajo en California regida sólo por la legislación laboral y de privacidad ya existente.
