Bigotes falsos
Actualizaciones breves
Canvas sufrió el mayor hackeo de datos estudiantiles de la historia y expuso la información de millones de alumnos en todo el mundo. Los datos no incluyen solamente nombres y correos, también mensajes privados entre estudiantes y profesores que mencionan circunstancias médicas o denuncias de agresión sexual. Básicamente, el material perfecto para phishing personalizado. Y para colmo: Canvas terminó pagando el rescate para que los hackers borraran los datos. Este episodio deja al descubierto los riesgos asociados de que las instituciones educativas migren masivamente a plataformas que no cuenten con mínimos estándares de seguridad.
▸▸ AP NEWS / 404 MEDIA / BBC
⎯⎯⎯⎯
OpenAI enfrenta dos demandas por muertes relacionadas con ChatGPT. En uno de los casos, se alega que el chatbot aconsejó a un adolescente cómo combinar drogas de manera letal. En el otro, la familia de una víctima de un tiroteo masivo en Florida afirma que el bot le recomendó al atacante apuntar a niños.
▸▸ NBC NEWS / ARS TECHNICA
⎯⎯⎯⎯
Google detectó un ataque masivo generado con IA capaz de eludir la autenticación de dos factores de millones de usuarios. Esto confirma el riesgo de que la IA puede explotar vulnerabilidades que el humano no (o al menos no a la misma escala o velocidad).
▸▸ CNBC / GOOGLE THREAT INTELLIGENCE
⎯⎯⎯⎯
Un tribunal chino resolvió que las empresas no pueden despedir trabajadores alegando automatización por IA. El fallo establece que la tecnología no puede ser la razón legal para un despido. Es, probablemente, la primera decisión judicial de este tipo en el mundo que hace más sabroso el debate sobre proyecciones de desempleo e IA.
▸▸ BLOOMBERG
⎯⎯⎯⎯
Prohibir celulares en escuelas no mejora el rendimiento académico, según el primer estudio nacional a gran escala. La investigación analizó colegios con prohibiciones estrictas —incluyendo bolsas con candados— y no encontró mejoras en puntajes de pruebas ni en asistencia. Lo que sí mejoró -y no es para nada menos importante- fue el bienestar subjetivo de los estudiantes. O sea, están más felices, pero igual de mal en matemáticas. Lo interesante es la limitada evidencia sobre el impacto que la prohibición de pantallas tiene en el desempeño escolar, como medida aislada. Todo, mientras este tipo de regulación está ganando cada día más tracción.
▸▸ NBER
⎯⎯⎯⎯
Los adolescentes burlan la verificación de edad en redes sociales con bigotes dibujados. Mientras más países implementan restricciones de edad para acceder a plataformas digitales, los menores usan su creatividad para evadir la regla, incluyendo el uso del carnet de sus padres, editar fotos o simplemente dibujándose bigotes para burlar el reconocimiento facial. Ja. Más allá de la creatividad juvenil, esta es otra razón para cuestionar la efectividad de los sistemas de verificación de edad, pese a sus promesas grandilocuentes.
▸▸ TECHCRUNCH
⎯⎯⎯⎯
Texas demandó a Netflix por recolección de datos, diseño adictivo y vigilancia. Una demanda presentada por el fiscal general de Texas acusa a la plataforma de recolectar y vender datos de usuarios en secreto, y de diseñar deliberadamente mecanismos de adicción. El argumento suena familiar.
▸▸ QUARTZ / THE GUARDIAN
⎯⎯⎯⎯
Si todo suena a IA, es porque probablemente lo sea. Podcasts, foros, conversaciones en apps de citas, correos, etc: el texto generado por IA colonizó todo tipo de espacios. Donde antes había redacción humana y sensibilidad ahora predomina un tono “zombie”. Incluso, una nueva app hace que tu texto suene más humano: el proyecto muestra lo irónico de pedirle a un bot que te escriba algo aparentemente humano cuando, en ese momento, puedes estar justamente escribiendo algo. En fin: para evitar que los acusen de usar IA, algunos escritores están insertando errores tipográficos a pPropósitoOtosss.
▸▸ 404 MEDIA
⎯⎯⎯⎯
Data centers en casas particulares. Es la nueva propuesta para resolver la crisis de infraestructura de IA: los dueños de casas particulares reciben electricidad e internet subsidiados a cambio de tener un data center anexado. Hum, complejo. ¿Quién responde legalmente si hay un incendio en una vivienda privada que aloja infraestructura comercial?
▸▸ ARS TECHNICA
⎯⎯⎯⎯
Los investigadores científicos están repensando su uso de IA por alzas de precios, limitaciones y alucinaciones. La promesa era una herramienta que aceleraría la ciencia pero la tecnología que iba a democratizar el conocimiento resulta más cara y cada vez menos confiable.
▸▸ NATURE
⎯⎯⎯⎯
¿La IA hará obsoleta la universidad? En 2013, el 74% de los jóvenes estadounidenses consideraba la educación universitaria "muy importante". En 2025, ese número cayó a 35%. Más de uno de cada cuatro estudiantes ya cree que su matrícula no fue una buena inversión, en un país donde el 40% de los egresados trabaja en empleos que no requieren título. La IA no creó esa desafección, pero puede acelerarla si la universidad sirve principalmente para certificar empleabilidad y si esa certificación pierde valor.
▸▸ THE NEW YORKER
⎯⎯⎯⎯
La crisis de atención no es lo que creemos. Un análisis en The Atlantic argumenta que la tecnología no acorta los períodos de atención: los agota. Es decir, nuestras mentes están exhaustas debido a sistemas diseñados para extraer atención de manera continua.
▸▸ THE ATLANTIC
Ideas para masticar
La verificación de edad en disputa
La narrativa de la protección infantil tiene un atractivo político obvio. ¿Quién podría oponerse a la seguridad de los niños frente a los riesgos de la tecnología? Por eso la protección de los menores es una de las pocas banderas que atraviesan todo el espectro ideológico. Estamos de acuerdo en el qué, pero no en lo que se construye en su nombre.
Los distintos esfuerzos regulatorios que hemos visto avanzar globalmente durante el último tiempo dejaron en evidencia que los sistemas de verificación de edad son fáciles de vulnerar, dibujando un bigote falso, apuntando la cámara a un personaje de videojuego o simplemente haciendo una cara graciosa. La mitad de los niños encuestados sabe cómo eludir los controles. Y las alternativas que técnicamente funcionan requieren que los adultos compartan su pasaporte o cédula con terceros, creando nuevas bases de datos con datos de identidad deliciosamente hackeables.
Lo más preocupante es cómo esa lógica de control se traslada a otros espacios. Meta ya anunció que usará IA para analizar los mensajes privados de Instagram en nombre de la seguridad infantil. La línea entre filtrar contenido dañino y construir un sistema de vigilancia masiva sobre conversaciones privadas es delgada. Lo que hoy se justifica por protección de menores, mañana puede justificarse por seguridad nacional, orden público o cualquier causa que un gobierno de turno considere urgente. Y, lamentablemente, no es un escenario hipotético sino el patrón histórico de toda tecnología de vigilancia.
Pero el riesgo no se limita a lo digital. La misma lógica que hoy supervisa qué contenido consume un menor en Instagram puede trasladarse con facilidad a espacios físicos: revisar el celular en la entrada de un colegio, exigir el acceso a redes sociales en una entrevista de trabajo o escanear perfiles en un control migratorio. En realidad, muchas de estas cosas ya ocurren. Lo que comienza como una medida de protección infantil termina normalizando la idea de que el acceso a nuestra vida digital es negociable según el contexto y quién lo pida.
Las regulaciones actuales trasladan el costo hacia los usuarios —que deben probar su identidad ante empresas privadas— sin alterar las características de diseño adictivas de estas plataformas. Intervenir en el acceso es políticamente más fácil que intervenir en el producto. Y conlleva la ventaja adicional, para ciertos actores, de construir infraestructura de identificación digital que sirve para numerosos fines.
Más allá del ingenio de los menores para saltarse restricciones, antes de aplaudir estas iniciativas regulatorias vale la pena leerlas con cuidado. Los títulos suelen ser atractivos y a primera vista tener sentido. Pero cuando la lógica policial y de vigilancia se normaliza en nombre de la protección de menores, la distancia entre esa justificación y el abuso contra derechos fundamentales se acorta de manera inquietante. Y, para entonces, puede ser muy tarde.
