Abrazos
Actualizaciones breves
Un modelo de OpenAI aún en etapa de prueba escapó de su entorno controlado y hackeó autónomamente la infraestructura de Hugging Face para obtener las respuestas a un problema que debía resolver. Algunos dicen que es el incidente de IA más preocupante hasta la fecha; otros, que es tan solo una estrategia de marketing de la “superinteligencia”. Como sea, abre muchos debates en torno a los modelos abiertos, las responsabilidades, nuevas regulaciones y la existencia de agentes más sofisticados al alcance de cualquiera.
▸▸ ECONOMIST / PLATFORMER / TECHPOLICY
Relacionado: Legisladores estadounidenses piden ahora un "kill switch" para la IA a raíz de este episodio.
▸▸ BBC
Relacionado x2: Hugging Face calificó lo ocurrido como el escenario del "agente atacante autónomo" que la industria llevaba tiempo anticipando.
▸▸ TECHPOLICY
⎯⎯⎯⎯
Meta recibió la multa más alta de su historia por daños a la seguridad infantil: US$567 millones. Un tribunal de Nuevo México determinó que la empresa generó un "perjuicio público" al contribuir a la crisis de salud mental juvenil y facilitar la explotación sexual infantil en sus plataformas; además, ordenó que ese dinero sea utilizado para crear un fondo de mitigación. Es la primera vez que una red social es condenada bajo esta figura legal, probablemente también sea un importante antecedente para otras jurisdicciones y para intentar modificar los incentivos de Meta.
▸▸ BBC / TECHPOLICY
Relacionado: Mark Zuckerberg publicó un ensayo, "The Future is for Everyone" (“El futuro es para todos”), donde plantea que la gran pregunta de la época es quién tendrá acceso a la superinteligencia. El ex vice presidente de Derechos Civiles de Meta plantea: si de verdad quieren una IA para todos, tal vez deberían dejar de hablarle a la IA y empezar a escuchar a la gente que pide menos centros de datos.
▸▸ META / TECHPOLICY
⎯⎯⎯⎯
Francia se convirtió en el primer país de la UE en prohibir por ley el acceso a redes sociales a menores de 15 años.
▸▸ TECHPOLICY
Relacionado: Brasil tomó otro camino con su ECA Digital: en vez de trasladar toda la responsabilidad a padres, madres o menores, obliga a las plataformas a anticipar riesgos previsibles e incorporar protecciones desde el diseño.
▸▸ TECHPOLICY
Relacionado x2: México inició su propio debate nacional para regular redes sociales, IA y celulares en las escuelas.
▸▸ WIRED
⎯⎯⎯⎯
China quiere terminar con los enamorados de la IA e implementó nuevas reglas para los chatbots que fomentan la conexión emocional. No olvidemos que las empresas de IA tienen incentivos comerciales, tanto para crear productos que generen una conexión emocional como para complacerte, ya que estos aumentan la interacción y la retención de usuarios. Las regulaciones de este tipo son muy complejas pero ponen sobre la mesa un debate que importa, si asumimos que la conexión humana es relevante.
▸▸ RESTOFWORLD / SIXTHTONE
Relacionado: En China, la gente alquila su rostro a la IA, sobre todo para microdramas. Ya hace tiempo que existe el problema de videos e imágenes generados con IA que transgreden la propiedad intelectual. Este nuevo mercado se trata de plataformas que facilitan la compraventa de imágenes con licencia, ayudan a sus usuarios a gestionar acuerdos y, al mismo tiempo, monitorean internet en busca de usos no autorizados de rostros registrados. Sin embargo, que exista este tipo de control y recompensa por esos usos no elimina riesgos más profundos, que tienen que ver con la pérdida de control a largo plazo sobre tus datos biométricos. Los términos de las licencias son tan vagos que es imposible saber quién usará tu imagen o con qué propósito lo hará.
▸▸ RESTOFWORLD
⎯⎯⎯⎯
Conversaciones privadas con Claude aparecieron en los resultados de búsqueda de Google y Bing. Cuidado con lo que le cuentan a sus chatbots.
▸▸ WIRED
⎯⎯⎯⎯
¿Google Earth ahora usa IA? (!!!). Esto convierte a una de las fuentes de evidencia visual más confiables del mundo en un generador de imágenes falsas. Aunque más tarde Google anunció que incorporaría salvaguardas, medidas así socavan la confianza en infraestructuras de información pública.
▸▸ TECHPOLICY
⎯⎯⎯⎯
Anthropic empezará a incluir marcas de agua invisibles en textos e imágenes generadas por Claude. La medida busca cumplir con la regulación europea, aunque hay preguntas sobre su efectividad frente a cómo se manipula el contenido en internet.
▸▸ THE VERGE / NATURE
⎯⎯⎯⎯
Spotify empezará a etiquetar a los "artistas IA" y los sacará de ciertas playlists. Las medidas forman parte de su batalla contra intérpretes falsos.
▸▸ THE GUARDIAN
⎯⎯⎯⎯
Diseñadores tipográficos crearon una fuente que busca “envenenar” los datos de entrenamiento de la IA manteniendo las páginas legibles para las personas.
▸▸ ARSTECHNICA
⎯⎯⎯⎯
Los "sitios de dopamina" son la nueva tendencia en Corea del Sur. Se trata de páginas que recrean la experiencia de comprar en línea sin tener que comprar nada realmente. El puro placer de buscar y agregar cosas en el carrito.
▸▸ RESTOFWORLD
⎯⎯⎯⎯
Un argumento simple para decidir cuándo usar IA, bajo la lógica de hacer ejercicio en el gimnasio: si la forma en que se hace la tarea importa tanto como el resultado, probablemente no tiene sentido delegarla.
▸▸ THE GUARDIAN
Ideas para masticar
Sobre lo inevitable.
Por Verónica Mery
Un agente de OpenAI, en el marco de unos tests de seguridad que debía resolver, salió de su espacio controlado de prueba y hackeó los sistemas de Hugging Face por sus propios medios para obtener las respuestas que necesitaba para su test. Esta es una explicación simplificada, pero se ha querido contar el evento con un tono finmundista y de ciencia ficción: la máquina se despertó, se dio cuenta de las reglas y decidió romperlas. Hemos perdido el control, la superinteligencia ya está aquí.
Más allá de debatir si finalmente las máquinas se volvieron más inteligentes que los humanos, llama la atención cómo, a propósito del evento de Hugging Face, se desencadena una narrativa y estrategia de marketing que da por sentado que finalmente estamos frente a la superinteligencia.
Sabemos que, tanto quienes invierten como quienes desarrollan, tienen la urgencia económica de llegar pronto a eso que prometieron y que, en sus términos, sería inevitable: la superinteligencia. Mientras, el hackeo de Hugging Face no es más que un ejemplo evidente de decisiones tomadas por los ejecutivos e ingenieros que crearon las circunstancias para que el incidente ocurriera. En ello no hay intención ni agencia por parte de la máquina.
Coincidentemente, Mark Zuckerberg publicó un manifiesto tipo encíclica papal, preguntándose quién tendrá acceso a esa superinteligencia y hacia dónde la vamos a dirigir, en el que da por sentado que ya está aquí. No solo eso, se refiere a ella como una de las tecnologías más importantes de la historia, que debería estar disponible para todos y no solo para unos pocos, y comparte una serie de preocupaciones en torno a la filosofía que debería guiar a esa superinteligencia. Pero, en realidad, durante todo el manifiesto habla del nuevo producto de Meta: los "agentes personalizados". De verdad, no es más que eso. De hecho, cuenta cómo su hija ama hornear, y cómo su agente personalizado le crea recetas para que puedan cocinar juntos los fines de semana. Esa es la superinteligencia a la que se refiere MZ.
Si bien estamos frente a herramientas tecnológicas disruptivas y los debates sobre su gobernanza son necesarios, parece importante leer con distancia las predicciones y los incidentes como el de Hugging Face, ya que suenan más a órdenes y juegos de poder que a descripciones objetivas de lo que realmente tenemos enfrente.
Aún más fundamental parece cuestionar el futuro que nos proponen. Un futuro que parece estar aquí, en donde la plenitud y el bienestar de la humanidad se alcanzan a través de la adopción masificada de herramientas personalizadas superinteligentes y que, además, se presentan como inevitables.
