Ser humano
Actualizaciones breves
Por primera vez, drones completamente autónomos mataron a soldados en combate sin ninguna supervisión humana. En Ucrania se confirmó que sistemas de IA seleccionaron y atacaron blancos de forma independiente. "Todo lo que ve, lo mata", describió un oficial ucraniano. El jefe de IA del Ministerio de Defensa predice que estos sistemas pronto formarán una red unificada de combate.
▸▸ NEW SCIENTIST / REUTERS
Relacionado: Colombia se consolida como epicentro del uso de drones armados en América Latina. Organizaciones criminales los operan con una sofisticación que alarma a los gobiernos de la región.
▸▸ THE WALL STREET JOURNAL
⎯⎯⎯⎯
Seattle prohibió la construcción de nuevos data centers por un año. Es la ciudad más grande de EE.UU. en imponer una prohibición de este tipo. Las razones, a esta altura, ya las conocemos: la demanda energética de estos centros tensiona la red eléctrica local y amenaza los compromisos climáticos. Alguien tiene que pagar los costos de la infraestructura de la IA, y cada vez más, eso recae en la ciudad donde se instala.
▸▸ THE GUARDIAN
Relacionado: El boom de data centers genera una tercera ola de inflación. La demanda de chips de memoria presiona los precios hacia arriba en toda la cadena de suministro.
▸▸ THE WALL STREET JOURNAL
⎯⎯⎯⎯
El Reino Unido prohibirá el acceso a redes sociales para menores de 16 años. El problema de fondo no es nuevo: para verificar que alguien es menor, es necesario verificar la edad de todas las personas usuarias. En otras palabras, la implementación de una arquitectura de vigilancia se vende como seguridad infantil y busca construir un mercado cautivo para empresas de “safety tech” británicas. Y no solo eso: fuerzan a las big tech a recolectar más información personal de sus usuarios.
▸▸ THE GUARDIAN / GOV.UK / THE NERVE
⎯⎯⎯⎯
Un juez de Misisipi canceló un juicio y expulsó a todos los abogados del caso después de descubrir que ambos lados habían usado IA. El caso se redujo a herramientas de IA argumentando entre sí y citando jurisprudencia que no existe. El juez sancionó a los cuatro abogados involucrados y dos quedaron inhabilitados por dos años para ejercer ante ese tribunal.
▸▸ 404 MEDIA
⎯⎯⎯⎯
Anthropic acusa a Alibaba de haber extraído ilegalmente las capacidades de Claude. Según la compañía, la firma china ejecutó un ataque de "destilación" masivo -copiar el comportamiento de un modelo para entrenar uno propio- en lo que califica como la operación más grande de este tipo conocida hasta ahora.
▸▸ BBC
Relacionado: La UE se sumó a un pacto liderado por EE.UU. para reducir la dependencia de la cadena de suministro de IA china. El resto del mundo sigue siendo un territorio en disputa.
▸▸ FINANCIAL TIMES
⎯⎯⎯⎯
China está construyendo una constelación satelital rival a Starlink. SpaceSail, con respaldo estatal, está firmando acuerdos con los gobiernos y socios que Starlink ha dejado de lado o ignorado. Empieza la competencia por la cobertura satelital global.
▸▸ REST OF WORLD
Relacionado: Elon Musk perdió su estatus de trillonario.
▸▸ BUSINESS INSIDER
⎯⎯⎯⎯
Estudios en el ámbito de la medicina confirman que la IA degradó habilidades profesionales. Médicos especialistas redujeron su capacidad para detectar lesiones pre cancerosas sin IA. Un estudio de Anthropic con ingenieros de software encontró patrones similares. "Deskilling" es el nombre del nuevo fenómeno: a medida que profesionales de distintos ámbitos delegan su trabajo en herramientas de IA, pierden las habilidades que supieron adquirir.
▸▸ NATURE
Relacionado: Los trabajadores tech que usaban IA al máximo ahora intentan reducir su uso. El fenómeno se llama "tokenminning" y reemplaza al "tokenmaxxing". ¿Por qué? Los costos en tokens se dispararon y las empresas frenan su uso indiscriminado. Gran parte del gasto lo generan empleados no técnicos en usos muy simples, como hacer resúmenes de reuniones.
▸▸ THE NEW YORK TIMES / 404 MEDIA
⎯⎯⎯⎯
Claude Design está homogeneizando la estética de internet. Un análisis del New Yorker describe cómo la herramienta de diseño de Anthropic está produciendo una ola de sitios web demasiado parecidos: usan la misma paleta de colores, tonos beige y diseños modernistas de mediados de siglo. Es un gran tema: primero, porque no es un problema necesariamente nuevo (pasó algo similar con herramientas más antiguas como WordPress), el problema es que las herramientas de IA infunden una genericidad particularmente rápida y obstinada. Segundo, pone en entredicho el valor de la creatividad humana. Tercero, es un desafío para los diseñadores, entre otras razones, por tener que estar en una constante búsqueda de lo nuevo para diferenciarse de lo “cliché”.
▸▸ THE NEW YORKER
Ideas para masticar
Sobre lo humano y la supervisión
Por Verónica Mery
Esta edición tiene un hilo que conecta temas que parecen no tener nada que ver: drones autónomos para matar, abogados que delegaron su juicio a un chatbot, médicos que detectan menos tumores desde que usan IA y diseños homogeneizados por default que parecen prescindir de la creatividad humana. En todos esos casos, aunque de manera distinta, aparece una pregunta sobre el rol humano en el desarrollo y uso de sistemas de IA. Los acontecimientos muestran que la irrupción de esta tecnología tensiona las distintas esferas de nuestras vidas, cómo nos vinculamos con otras personas, cuál es nuestra prescindencia y cuál nuestra distintividad.
En ese contexto surge la idea de la supervisión humana: la intervención de una persona en el ciclo vital de un sistema de IA es deseable, principalmente por razones de responsabilidad y mitigación de riesgos. Y aunque haya una regulación incipiente en algunas partes del mundo que abordan y exigen la inspección humana para usos más críticos y sectoriales, la discusión sobre los detalles de su implementación, cómo debería ser o verse esa revisión en tareas más cotidianas es bastante escasa.
La intervención humana es, por su puesto, una condición necesaria para evitar o reducir los riesgos asociados al uso de la IA. Pero esto abre varias preguntas: ¿Quién supervisa la IA? Ese rol no es neutral, quien esté a cargo trae sus propios sesgos y limitaciones. Es más, estamos frente a la ironía de que los profesionales que podrían ejercer roles de inspección son víctimas del “deskilling”, sus habilidades fueron parcialmente erosionadas por el sistema que supuestamente controlan.
Estas paradojas evidencian la ausencia de un debate más profundo sobre los usos que le damos a las herramientas que integran IA, cuáles son sus limitaciones, qué efectos generan, quiénes las desarrollan y bajo qué criterios. Lo que parece haber, más bien, es un uso indiscriminado y una falta de cuestionamiento sobre los valores, los derechos en tensión y las decisiones que sacrificamos.
Entonces, ¿qué humano supervisa? ¿Cuál es su formación? ¿Bajo qué incentivos lo hace? ¿A qué información accede para hacerlo? El problema no es solo regulatorio sino cultural y educativo. El desafío es generar las habilidades para que profesionales y personas usuarias entiendan cómo funcionan estos sistemas y sean capaces de cuestionarlos.
