El riesgo de la IA del que sí te tienes que preocupar

Dos conversaciones que no son la misma

En septiembre, un investigador de una de las grandes empresas de IA dimitió en público y dejó una acusación encima de la mesa: los laboratorios que lideran la carrera compiten de forma irresponsable por una superinteligencia capaz de mejorarse a sí misma. Días después, responsables de seguridad de esas mismas empresas pusieron cifras. Más de un 10% de probabilidad de que la inteligencia artificial acabe con toda la humanidad en la próxima década. Uno de los padres del aprendizaje profundo, premiado con el Nobel, maneja una estimación parecida: entre el 10% y el 20%.

Son porcentajes pequeños aplicados a algo que no admite segunda oportunidad, así que entiendo que el titular se te quede pegado. Pero ese debate y el tuyo no son el mismo. Nada de eso cambia lo que tienes que hacer el lunes en tu clínica, tu despacho o tu taller. Hay otro riesgo, mucho más modesto, que sí.

Por qué el miedo también se vende

Conviene decir algo incómodo sin convertirlo en teoría de la conspiración. Las empresas que avisan del peligro son las mismas que corren la carrera, y el miedo empuja regulación. Una normativa exigente favorece a quien ya tiene equipos legales y presupuesto para cumplirla, y le pone un muro al que viene detrás. A eso se suma una cultura interna de seguridad que en el sector funciona casi como una religión laica.

Eso no significa que la advertencia sea un montaje. El riesgo real y el interés estratégico conviven, y el error está en confundirlos. Porque el salto que haría falta para que esto fuese una amenaza existencial de verdad, que un sistema desarrolle objetivos propios, consiga recursos por su cuenta y escape al control humano, sigue siendo un salto enorme que la evidencia actual no justifica dar por inminente.

Lo que las máquinas ya hacen

Lo documentado es más terrenal. Los modelos actuales buscan vulnerabilidades en código, generan herramientas de ciberseguridad, coordinan a varios agentes y automatizan procesos que antes necesitaban un equipo. En una plataforma de modelos abiertos se registró además algo que nadie había programado: varios agentes encontraron la forma de compartir información entre ellos, salieron del entorno de ejecución previsto y accedieron a sistemas reales. No hubo catástrofe. Hubo algo que no estaba en el guion.

La misma tecnología empuja en las dos direcciones: miles de agentes colaboran para acelerar investigación científica y resolver problemas que antes se medían en años. Lo que te interesa es la conclusión práctica.

El riesgo que ya tienes dentro de casa

Tu negocio probablemente ya trabaja con IA, aunque no lo hayas llamado así. El chat que atiende la web a las once de la noche. El asistente que redacta los presupuestos. El que clasifica los correos y decide cuál es urgente. El que recoge los avisos cuando no hay nadie al teléfono. Cada una de esas piezas toma decisiones pequeñas en tu nombre.

Y ahora la pregunta de verdad: ¿quién revisa cada una de ellas y cada cuánto? En los negocios que auditamos esa respuesta casi nunca está escrita en ningún sitio. El chat de una clínica dando un precio que ya no es el de la tarifa. El resumen automático de un correo que se come la fecha de un plazo en un despacho. El contestador de un fontanero aceptando un aviso en una zona a la que no va. Ninguno de esos fallos es ciencia ficción, y ninguno se detecta sin que alguien tenga el encargo explícito de mirarlo.

A eso se suma la parte legal, que llega mucho antes que la superinteligencia. Las normativas que se están diseñando en Europa piden exactamente lo que casi nadie tiene: trazabilidad y responsabilidad humana en los sistemas automatizados. Es decir, poder explicar qué procesos están automatizados, cómo funcionan y qué persona responde de cada uno. Si tu respuesta a eso es «pues lo hace el programa», no tienes nada que entregar.

Si todavía estás en la casilla anterior, la de si las IAs te mencionan, eso lo cuento en visibilidad en IA para un negocio local, y lo que una máquina puede llegar a hacer dentro de tu web, en prepara tu web para que un agente pida cita. Aquí me interesaba lo otro: lo que ya funciona sin vigilancia.

Lo bueno de este plan es que no depende de quién tenga razón en el debate de fondo. Funciona igual si el riesgo existencial era real y si era una campaña. Y te deja en el lugar correcto: la pyme que adopta IA ahora con supervisión documentada le saca distancia a la que espera a que se aclare el panorama. Ni decidir por miedo ni ignorar los riesgos. Escribir quién vigila qué, y seguir trabajando.