Amazon pierde el control: equipos crean aplicaciones de IA duplicadas sin parar

Nadie discute que la inteligencia artificial sirve para automatizar tareas, pero la prisa por subirse al tren a veces genera problemas graves. Un documento interno filtrado a Business Insider revela que equipos de Amazon fabrican aplicaciones redundantes a un ritmo que impide limpiarlas. Redactar código cuesta tan poco que la plantilla duplica sistemas a diario sin control. Es un desastre organizativo sin precedentes.

Hace dos décadas se sufrió el descontrol de servidores, y luego llegó la proliferación de programas en la nube. Ahora nos topamos con una expansión descontrolada de herramientas algorítmicas, un problema idéntico pero muchísimo más rápido. Antes levantar una utilidad interna pedía presupuesto y semanas de desarrollo; hoy cualquier empleado saca un prototipo antes del café. La barrera de entrada ha desaparecido completamente.

El problema empeora al sumar la cultura de la propia empresa. Amazon fomenta equipos de trabajo diminutos y autónomos, la misma filosofía que aplicaron en su incursión en Prime Video hace un tiempo. Este modelo permite probar ideas nuevas a una velocidad absurda, pero hace imposible coordinar qué hace cada departamento. Tienes a mil personas resolviendo el mismo problema por separado, generando un caos organizativo difícil de gestionar.

Tener programas idénticos gasta dinero, pero el agujero real aparece cuando ingieren información confidencial. Los modelos leen documentos internos y guardan resúmenes en servidores ajenos al original. Si alguien restringe el archivo fuente, versiones derivadas conservan esos secretos corporativos a la vista de cualquiera. El documento oficial desaparece del directorio principal, pero la máquina ya se lo ha aprendido.

El documento de febrero expone un caso flagrante. Un sistema bautizado como Spec Studio seguía mostrando detalles de código que los administradores habían vuelto privados en el repositorio oficial. Debo Dutta, directivo en Nutanix, lleva tiempo avisando sobre riesgos de la inteligencia artificial en la sombra, esas aplicaciones que nadie supervisa. Usar software no autorizado acaba rompiendo el sistema completo.

Mientras tanto, Andy Jassy presiona a la plantilla para que adopte estas tecnologías bajo amenaza de quedarse atrás. Resulta difícil pilotar esta transición cuando exiges resultados al mismo tiempo que despides a ingenieros para cuadrar cuentas. Quieren automatizar el trabajo a toda costa, pero están vaciando los departamentos que deberían auditar todo ese código nuevo. Es un sinsentido organizativo total.

Montana MacLachlan, portavoz de la compañía, asegura que el texto refleja solo la visión de un departamento y no la experiencia de toda la plantilla. Sea como sea, los programadores ya buscan formas de identificar software duplicado mediante algoritmos generativos. Tienen un problema enorme provocado por la falta de control sobre las máquinas, y pretenden arreglarlo usando más máquinas, perpetuando el ciclo.