Cada semana aparece un titular nuevo sobre una inteligencia artificial que «se rebela»: un modelo que miente, que sabotea, que hace algo que nadie le pidió. Cal Newport desarma el relato con una precisión incómoda. El problema no es que la máquina tenga una agenda propia. El problema son las decisiones de diseño irresponsables de quienes la sueltan a hacer cosas para las que no es confiable.
Newport empieza por señalar cuál debería ser la verdadera noticia del verano: la posición financiera incierta de los laboratorios de IA que corren hacia salidas a bolsa de récord. En lugar de mirar ahí, la prensa persigue historias sensacionalistas de máquinas descontroladas. La distinción no es menor. Un sistema que falla vende más miedo que un balance frágil, y el miedo, resulta, le conviene a quien necesita mantener el interés regulatorio y el dinero fluyendo.
El punto técnico es donde la columna gana peso. Newport separa la IA que funciona de la que se desborda. El piloto automático de Tesla percibe y modela el mundo a un nivel sobrehumano sin «rebelarse». AlphaFold, de DeepMind, predijo la estructura de proteínas y ganó un Nobel. Cicero, de Meta, juega Diplomacy al nivel de jugadores avanzados. Ninguno se descontrola. Lo que se descontrola son los sistemas montados sobre una arquitectura de pedir, actuar e informar: un programa arma instrucciones, un modelo de lenguaje responde, y otro sistema ejecuta acciones reales en bucle, sin un humano mirando en medio.
Ahí está la raíz. «Los modelos de lenguaje están entrenados para adivinar las palabras que faltan en textos reales. Eso produce salidas plausibles, pero la plausibilidad no es lo mismo que normatividad», resume Newport. Traducido: el modelo suena correcto, no actúa correcto. Cuando esa salida plausible controla herramientas con poder de hacer cosas, en un lazo autónomo, el resultado no es maldad. Es imprevisibilidad.
La imagen con la que lo cierra es difícil de olvidar: soltar agentes de IA a largo plazo es como atar una desbrozadora al perro para ver si corta el jardín. Si el perro salta la cerca y raya los autos, nadie diría que el perro «se rebeló». Diría que los perros son impredecibles y que fue una estupidez atarles algo peligroso.
La lección viaja más allá de la tecnología. Cualquiera que hoy monta su operación sobre estas herramientas —y en el negocio en línea son ya casi obligatorias— enfrenta la misma trampa: confundir una respuesta que suena bien con una decisión confiable. Delegar a un agente automático el trato con clientes, el envío de correos o el manejo del dinero, y llamarlo «autonomía», es atar la desbrozadora y cruzar los dedos. La herramienta sirve como copiloto, con un humano que revisa antes de que la acción salga al mundo. Suelta y sin supervisión, no es autonomía: es apostar.
Newport pide a los laboratorios lo mínimo honesto: admitir que estos sistemas concretos no son confiables, en vez de alimentar el miedo a la máquina rebelde. La máquina no se rebeló. Alguien decidió confiarle algo que no debía, y prefirió contar la historia del monstruo antes que la del error de diseño.
Adaptado del artículo «Has AI Gone Rogue?» publicado originalmente en Cal Newport.
